Emmett Shear @eshear ha co-fondato Twitch e ha guidato OpenAI attraverso le sue 72 ore più intense come CEO ad interim. Ora sta facendo l'opposto della maggior parte della ricerca sull'IA nel suo laboratorio di allineamento organico @softmaxresearch: aumentando una popolazione di piccoli agenti stupidi per allinearsi tra loro come uno—come le 28 trilioni di cellule che compongono "te". Emmett ha aperto il nostro summit DEMi3 (sostenuto da @cyberFund_) con una chiacchierata informale sull'allineamento con @kylejohnmorris, fondatore di @demi_network. In che modo una spada è simile a un sistema di apprendimento? Con chi ti faresti obbligatoriamente multicellulare? L'allineamento ingannevole è davvero una preoccupazione? Guarda il suo intervento completo qui sotto 👇 0:01:30 - Definire l'allineamento: "Allineato a cosa?" 0:02:50 - Allineamento organico: "Allineati CON piuttosto che A" 0:05:00 - e.g. La mano invisibile come IA originale 0:07:21 - e.g. La rete di regolazione genica nelle cellule 0:09:00 - L'approccio innovativo di Softmax: RL multi-agente di una piccola popolazione stupida 0:10:36 - L'allineamento deve essere una scelta: cooperazione di meta-apprendimento 0:12:47 - La missione di Softmax 0:15:00 - L'allineamento è una capacità pericolosa e potente 0:16:37 - Come si allineano gli esseri umani: il grande salto inferenziale 0:19:00 - Quando l'allineamento fallisce (e.g. cellule tumorali) + enforcement multicellulare obbligatorio 0:21:47 - Affrontare i rischi dell'"allineamento ingannevole": l'allineamento non è asimmetrico 0:25:37 - Come implementare l'allineamento dell'IA organica 0:26:33 - Cosa dobbiamo fare ora: Umani e IA che si allineano tra loro come una famiglia.