Der Mann, der möglicherweise die KI-Ausrichtung LÖSEN könnte 🦸‍♂️ Dr. Steven Byrnes (@steve47285) ist einer der wenigen Menschen, die verstehen, warum die Ausrichtung schwierig ist, und ernsthaft technische Ansätze zur Lösung verfolgen. Er hat eine beeindruckende 90% P(Doom), argumentiert jedoch, dass LLMs stagnieren werden, bevor sie wirklich gefährlich werden, und die echte Bedrohung von der nächsten Generation "hirnähnlicher AGI" ausgehen wird, die auf dem Actor-Critic-Verstärkungslernen basiert. Nach seiner Physik-Promotion an der UC Berkeley und einem Postdoc an der Harvard-Universität wurde er AGI-Sicherheitsforscher am @AsteraInstitute. Er ist jetzt tief in die Neurowissenschaften des Reverse-Engineerings eingetaucht, um zu verstehen, wie menschliche Gehirne tatsächlich funktionieren, Wissen, das plausibel helfen könnte, das technische Problem der KI-Ausrichtung zu lösen. In dieser ungewöhnlich tiefen Episode — denn mit allem gebotenen Respekt gegenüber meinen anderen Gästen musste ich keine Zeit damit verschwenden, mit ihm über offensichtliche Oberflächenprobleme zu streiten — sprechen wir über sein "Zwei-Subsysteme"-Modell des Gehirns, warum die aktuellen Ansätze zur KI-Sicherheit am Ziel vorbeischießen, seine Meinungsverschiedenheiten mit sozialen Evolutionsansätzen und warum das Verständnis der menschlichen Neurowissenschaften wichtig ist, um ausgerichtete AGI zu entwickeln.

Suchen Sie in Ihrem Podcast-Player nach "Doom Debates" oder schauen Sie es sich auf YouTube an:

Die seltene Episode, in der der Gast RECHT hat!