AIアライメント🦸 ♂️を解決するかもしれない男 スティーブン・バーンズ博士(@steve47285)は、アライメントがなぜ難しいのかを理解し、それを解決するために真剣に技術的に挑戦している数少ない人物の1人です。 彼はなんと90%のP(Doom)を持っていますが、LLMは本当に危険になる前に頭打ちになり、本当の脅威はアクター批評家強化学習に基づく次世代の「脳のようなAGI」から来ると主張しています。 カリフォルニア大学バークレー校の物理学博士号とハーバード大学のポスドクを経て、@AsteraInstituteでAGIの安全性研究者になりました。彼は現在、人間の脳が実際にどのように機能するかをリバースエンジニアリングする神経科学に深く取り組んでおり、技術的な AI アライメントの問題を解決するのに役立つ可能性のある知識です。 この異常に深いエピソードでは、他のゲストに敬意を表して、明らかな表面的な問題について彼と議論するのに時間を無駄にする必要がなかったため、彼の脳の「2 つのサブシステム」モデル、現在の AI 安全アプローチが的外れである理由、社会進化アプローチに対する彼の意見の相違、そして人間の神経科学を理解することが整合性のある AGI を構築するためになぜ重要なのかについて話します。

ポッドキャストプレーヤーで「Doom Debates」を検索するか、YouTubeで視聴してください。

ゲストがRIGHTという珍しいエピソード!