Muž, který by mohl VYŘEŠIT zarovnání 🦸 ♂️ AI Dr. Steven Byrnes (@steve47285) je jedním z mála lidí, kteří chápou, proč je vyrovnání obtížné, a zároveň se vážně technicky snaží to vyřešit. Má neuvěřitelných 90% P (Doom), ale tvrdí, že LLM se ustálí, než se stanou skutečně nebezpečnými, a skutečná hrozba bude pocházet z nové generace "mozkových AGI" založených na zpětnovazebním učení herce a kritika. Po doktorátu z fyziky na UC Berkeley a postdoktorandském studiu na Harvardu se stal výzkumným pracovníkem v oblasti bezpečnosti AGI na @AsteraInstitute. Nyní je hluboce ponořen do neurovědy reverzního inženýrství toho, jak lidský mozek skutečně funguje, což jsou znalosti, které by nám mohly věrohodně pomoci vyřešit problém technického zarovnání umělé inteligence. V této neobvykle hluboké epizodě – protože při vší úctě k mým ostatním hostům jsem nemusel ztrácet čas tím, že bych se s ním dohadoval o zjevných povrchních problémech – mluvíme o jeho modelu mozku "dvou subsystémů", o tom, proč se současné přístupy k bezpečnosti umělé inteligence míjejí účinkem, o jeho nesouhlasu s přístupy sociální evoluce a o tom, proč je pochopení lidské neurovědy důležité pro vytvoření sladěné AGI.

Vyhledejte "Doom Debates" ve svém přehrávači podcastů nebo se podívejte na YouTube:

Vzácná epizoda, kdy má host PRAVDU!