Emmett Shear @eshear cofundó Twitch y guió a OpenAI a través de sus 72 horas más intensas como CEO interino. Ahora está haciendo lo opuesto a la mayoría de la investigación en IA en su laboratorio de alineación orgánica @softmaxresearch: escalando una población de pequeños agentes tontos para alinearse entre sí como uno—como las 28 billones de células que te componen. Emmett abrió nuestra cumbre DEMi3 (respaldada por @cyberFund_) con una charla junto a la chimenea sobre alineación con @kylejohnmorris, fundador de @demi_network. ¿Cómo es una espada como un sistema de aprendizaje? ¿Con quién te harías obligatoriamente multicelular? ¿Es la alineación engañosa una preocupación real? Mira su charla completa a continuación 👇 0:01:30 - Definiendo Alineación: "¿Alineado a qué?" 0:02:50 - Alineación Orgánica: "Alinear CON en lugar de A" 0:05:00 - p.ej. La mano invisible como IA original 0:07:21 - p.ej. La red reguladora de genes en las células 0:09:00 - El enfoque novedoso de Softmax: RL multiagente de una pequeña población tonta 0:10:36 - La alineación debe ser una elección: Cooperación de meta-aprendizaje 0:12:47 - La misión de Softmax 0:15:00 - La alineación es una capacidad peligrosa y poderosa 0:16:37 - Cómo se alinean los humanos: El gran salto de inferencia 0:19:00 - Cuando la alineación falla (p.ej. células cancerosas) + aplicación obligatoria multicelular 0:21:47 - Abordando los riesgos de "alineación engañosa": La alineación no es asimétrica 0:25:37 - Cómo implementar la alineación de IA orgánica 0:26:33 - Lo que necesitamos hacer ahora: Humanos e IA alineándose entre sí como una familia