Emmett Shear @eshear is medeoprichter van Twitch en leidde OpenAI door zijn meest intense 72 uur als interim-CEO. Nu doet hij het tegenovergestelde van het meeste AI-onderzoek in zijn organische alignatielab @softmaxresearch: het opschalen van een populatie van kleine domme agenten om met elkaar in overeenstemming te komen als één—zoals de 28 biljoen cellen die "jij" vormen. Emmett opende onze DEMi3-top (ondersteund door @cyberFund_) met een fireside chat over alignment met @kylejohnmorris, oprichter van @demi_network. Hoe is een zwaard zoals een leersysteem? Met wie zou je verplicht multicellulair worden? Is misleidende alignment zelfs een echte zorg? Bekijk zijn volledige lezing hieronder 👇 0:01:30 - Definiëren van Alignment: "Gealigneerd op wat?" 0:02:50 - Organische Alignment: "Aligneer MET in plaats van OP" 0:05:00 - bijv. De onzichtbare hand als originele AI 0:07:21 - bijv. Het genregulerend netwerk in cellen 0:09:00 - Softmax's nieuwe benadering: Multi-agent RL van een kleine domme populatie 0:10:36 - Alignment moet een keuze zijn: Meta-leren samenwerking 0:12:47 - Softmax's missie 0:15:00 - Alignment is een gevaarlijke, krachtige capaciteit 0:16:37 - Hoe mensen aligneren: De grote inferentie sprong 0:19:00 - Wanneer alignment faalt (bijv. kankercellen) + verplichte multicellulaire handhaving 0:21:47 - Aanpakken van "misleidende alignment" risico's: Alignment is niet asymmetrisch 0:25:37 - Hoe organische AI-alignment te implementeren 0:26:33 - Wat we nu moeten doen: Mensen & AI die met elkaar aligneren als een familie