O Homem Que Pode RESOLVER o Alinhamento da IA 🦸‍♂️ O Dr. Steven Byrnes (@steve47285) é uma das poucas pessoas que entende por que o alinhamento é difícil e está a fazer uma tentativa técnica séria para resolvê-lo. Ele tem impressionantes 90% de P(Doom), mas argumenta que os LLMs vão estabilizar antes de se tornarem verdadeiramente perigosos, e a verdadeira ameaça virá da próxima geração de "AGI semelhante ao cérebro" baseada em aprendizagem por reforço ator-crítico. Após o seu doutoramento em física na UC Berkeley e pós-doutoramento em Harvard, tornou-se um investigador de segurança de AGI no @AsteraInstitute. Agora está profundamente envolvido na neurociência de engenharia reversa de como os cérebros humanos realmente funcionam, um conhecimento que poderia plausivelmente ajudar a resolver o problema técnico do alinhamento da IA. Neste episódio incomumente profundo — porque, com todo o respeito pelos meus outros convidados, não tive que perder tempo a discutir com ele sobre questões superficiais óbvias — falamos sobre o seu modelo de "dois subsistemas" do cérebro, por que as abordagens atuais de segurança da IA falham, as suas discordâncias com as abordagens de evolução social e por que entender a neurociência humana é importante para construir AGI alinhada.

Pesquise "Doom Debates" no seu leitor de podcasts ou assista no YouTube:

O raro episódio em que o convidado está CERTO!