Emmett Shear @eshear co-gründete Twitch und leitete OpenAI durch seine intensivsten 72 Stunden als Interims-CEO. Jetzt macht er das Gegenteil von den meisten KI-Forschungen in seinem organischen Alignments-Labor @softmaxresearch: Er skaliert eine Population kleiner, dummer Agenten, um sich als eine Einheit auszurichten – wie die 28 Billionen Zellen, die "dich" ausmachen. Emmett eröffnete unseren DEMi3-Gipfel (unterstützt von @cyberFund_) mit einem Gespräch am Kamin über Alignment mit @kylejohnmorris, dem Gründer von @demi_network. Wie ist ein Schwert wie ein Lernsystem? Mit wem würdest du obligatorisch mehrzellig werden? Ist täuschendes Alignment überhaupt ein echtes Anliegen? Sieh dir seinen vollständigen Vortrag unten an 👇 0:01:30 - Definition von Alignment: "Auf was ausgerichtet?" 0:02:50 - Organisches Alignment: "Mit einander ausrichten, statt zu" 0:05:00 - z.B. Die unsichtbare Hand als ursprüngliche KI 0:07:21 - z.B. Das genregulatorische Netzwerk in Zellen 0:09:00 - Softmax' neuartiger Ansatz: Multi-Agenten-RL einer kleinen, dummen Population 0:10:36 - Alignment muss eine Wahl sein: Meta-Lernen der Kooperation 0:12:47 - Softmax' Mission 0:15:00 - Alignment ist eine gefährliche, mächtige Fähigkeit 0:16:37 - Wie Menschen sich ausrichten: Der große Inferenzsprung 0:19:00 - Wenn Alignment fehlschlägt (z.B. Krebszellen) + obligatorische mehrzellige Durchsetzung 0:21:47 - Risiken des "täuschenden Alignments" ansprechen: Alignment ist nicht asymmetrisch 0:25:37 - Wie man organisches KI-Alignment implementiert 0:26:33 - Was wir jetzt tun müssen: Menschen & KI, die sich als Familie miteinander ausrichten