Еммет Шир @eshear співзасновником Twitch і керував OpenAI протягом найінтенсивніших 72 годин на посаді тимчасового генерального директора. Тепер він робить протилежне більшості досліджень штучного інтелекту у своїй лабораторії органічного вирівнювання @softmaxresearch: збільшує популяцію маленьких тупих агентів, щоб вони узгоджувалися один з одним як одне ціле — як 28 трильйонів клітин, з яких складається «ви». Еммет відкрив наш саміт DEMi3 (за підтримки @cyberFund_) бесідою біля вогнища на тему узгодження з @kylejohnmorris, засновником @demi_network. Чим меч схожий на систему навчання? З ким би ви отримали обов'язкову багатоклітинність? Чи є оманливе вирівнювання реальною проблемою? Дивіться його повнометражний виступ нижче 👇 0:01:30 - Визначення вирівнювання: "Вирівняно до чого?" 0:02:50 - Органічне вирівнювання: "Вирівнюйте З, а не ДО" 0:05:00 - наприклад, Невидима рука як оригінальний штучний інтелект 0:07:21 - наприклад, регуляторна мережа генів у клітинах 0:09:00 - Новий підхід Softmax: Мультиагент RL з невеликої тупої популяції 0:10:36 - Вирівнювання має бути вибором: співпраця з мета-навчанням 0:12:47 - Місія Softmax 0:15:00 – Вирівнювання – це небезпечна, потужна здатність 0:16:37 - Як люди вирівнюються: Великий стрибок у висновку 0:19:00 - Коли не вдається вирівнювання (наприклад, ракові клітини) + обов'язкове багатоклітинне примусове виконання 0:21:47 - Вирішення ризиків "обманного вирівнювання": вирівнювання не є асиметричним 0:25:37 - Як впровадити органічне вирівнювання ШІ 0:26:33 - Що нам потрібно зробити зараз: Люди та штучний інтелект об'єднуються один з одним як сім'я