Emmett Shear @eshear spoluzaložil Twitch a provedl OpenAI jejími nejintenzivnějšími 72 hodinami ve funkci dočasného generálního ředitele. Nyní dělá opak většiny výzkumů umělé inteligence ve své laboratoři organického zarovnání @softmaxresearch: škáluje populaci malých hloupých agentů, aby se navzájem sladili v jeden celek – jako 28 bilionů buněk, které tvoří "vás". Emmett zahájil náš summit DEMi3 (podporovaný @cyberFund_) rozhovorem u krbu o souladu s @kylejohnmorris, zakladatelem @demi_network. V čem se meč podobá učícímu se systému? S kým byste si pořídili povinnou mnohobuněčnou spolupráci? Je klamné zarovnání vůbec skutečným problémem? Podívejte se na jeho celovečerní přednášku níže 👇 0:01:30 – Definování zarovnání: "Zarovnáno s čím?" 0:02:50 – Organické zarovnání: "Zarovnat s spíše než TO" 0:05:00 - např. Neviditelná ruka trhu jako původní AI 0:07:21 - např. Genová regulační síť v buňkách 0:09:00 - Nový přístup Softmaxu: Multi-agentní RL malé hloupé populace 0:10:36 – Zarovnání musí být volbou: Spolupráce v meta-učení 0:12:47 – Mise společnosti Softmax 0:15:00 - Zarovnání je nebezpečná, mocná schopnost 0:16:37 - Jak se lidé zarovnávají: Velký skok v odvozování 0:19:00 - Když se nepodaří zarovnání (např. rakovinné buňky) + povinné mnohobuněčné vynucení 0:21:47 – Řešení rizik "klamavého zarovnání": Zarovnání není asymetrické 0:25:37 – Jak implementovat organické zarovnání AI 0:26:33 - Co teď musíme udělat: Lidé a umělá inteligence se navzájem sladí jako rodina