Emmett Shear @eshear co-fondat Twitch și a ghidat OpenAI în cele mai intense 72 de ore ca CEO interimar. Acum face opusul majorității cercetărilor AI de la laboratorul său de aliniere organică @softmaxresearch: extinderea unei populații de agenți mici proști pentru a se alinia unii cu alții ca unul singur – ca cele 28 de trilioane de celule care alcătuiesc "tu". Emmett a deschis summitul nostru DEMi3 (susținut de @cyberFund_) cu o discuție la gura sobei despre alinierea cu @kylejohnmorris, fondatorul @demi_network. Cum este o sabie ca un sistem de învățare? Cu cine ai obține multicelular obligatoriu? Este alinierea înșelătoare chiar o preocupare reală? Urmăriți discursul său complet mai jos 👇 0:01:30 - Definirea alinierei: "Aliniat la ce?" 0:02:50 - Aliniere organică: "Aliniază CU mai degrabă decât TO" 0:05:00 - de exemplu, mâna invizibilă ca AI originală 0:07:21 - de exemplu, rețeaua de reglare a genelor în celule 0:09:00 - Noua abordare a Softmax: RL multi-agent al unei mici populații proaste 0:10:36 - Alinierea trebuie să fie o alegere: cooperarea în meta-învățare 0:12:47 - Misiunea Softmax 0:15:00 - Alinierea este o capacitate periculoasă și puternică 0:16:37 - Cum se aliniază oamenii: Marele salt de inferență 0:19:00 - Când alinierea eșuează (de exemplu, celulele canceroase) + aplicarea multicelulară obligatorie 0:21:47 - Abordarea riscurilor de "aliniere înșelătoare": Alinierea nu este asimetrică 0:25:37 - Cum se implementează alinierea AI organică 0:26:33 - Ce trebuie să facem acum: Oamenii și AI se aliniază unul cu celălalt ca o familie