Pria yang Mungkin MEMECAHKAN Keselarasan 🦸 ♂️ AI Dr. Steven Byrnes (@steve47285) adalah salah satu dari sedikit orang yang memahami mengapa penyelarasan itu sulit, dan mengambil kesempatan teknis yang serius untuk menyelesaikannya. Dia memiliki 90% P (Doom), tetapi berpendapat bahwa LLM akan mendatar sebelum menjadi benar-benar berbahaya, dan ancaman nyata akan datang dari "AGI seperti otak" generasi berikutnya berdasarkan pembelajaran penguatan aktor-kritikus. Setelah PhD fisika UC Berkeley & postdoc Harvard, ia menjadi peneliti keselamatan AGI di @AsteraInstitute. Dia sekarang jauh dalam ilmu saraf tentang rekayasa balik bagaimana otak manusia benar-benar bekerja, pengetahuan yang masuk akal dapat membantu kita memecahkan masalah penyelarasan AI teknis. Dalam episode yang luar biasa mendalam ini - karena dengan segala hormat kepada tamu saya yang lain, saya tidak perlu membuang waktu untuk berdebat dengannya tentang masalah permukaan yang jelas - kami berbicara tentang model "dua subsistem" otaknya, mengapa pendekatan keamanan AI saat ini meleset dari sasaran, ketidaksepakatannya dengan pendekatan evolusi sosial, dan mengapa memahami ilmu saraf manusia penting untuk membangun AGI yang selaras dengan baik.

Cari "Doom Debates" di pemutar podcast Anda atau tonton di YouTube:

Episode langka di mana tamu BENAR!