Algumas notícias pessoais: Desde que deixei a OpenAI, tenho escrito publicamente sobre como construir um futuro de IA que seja realmente empolgante: evitar os piores riscos e construir um futuro realmente bom. Estou animado para continuar este trabalho como bolsista do Roots of Progress Institute.

Quando saí da OpenAI, escrevi que estou muito apavorado com o rumo que a IA está tomando. Isso ainda é verdade, e conheço muitos funcionários de laboratórios de IA que querem que tudo isso pare, mas se sentem individualmente impotentes. Mas também acredito em um futuro profundamente positivo com a IA, se os riscos forem bem tratados.

Para ser claro, acho que os laboratórios de IA hoje estão muito fora do caminho para alcançar um futuro positivo: eles não estão levando os riscos da IA a sério o suficiente e não estão fazendo planos que sejam realmente empolgantes.

Uma maneira simples de descrever os riscos: as empresas de IA estão correndo para construir tecnologia que absolutamente não entendem e não podem controlar, mas acreditam que pode ser extremamente destrutiva. E em termos de benefícios: afirmar que a IA resolverá as mudanças climáticas não significa que seja assim.

Em minha escrita, pretendo dar a você uma visão honesta e clara do que está acontecendo na IA, de alguém que trabalha na área há quase uma década. Onde as empresas de IA estão jogando jogos de palavras? Que tipos de redução de risco são fáceis? E com o que estou tão preocupado, afinal?

Estou animado por me juntar a uma comunidade de outros escritores, mas tenha certeza, ainda posso dizer o que quiser. Há total independência: a única coisa que deve mudar é, espero, alguma melhoria no meu estilo de escrita.

Se você quiser acompanhar, pode se inscrever no Clear-Eyed AI naquele outro site proverbial (clique na minha biografia). É grátis; Eu só peço que você compartilhe a palavra com outras pessoas que também possam gostar.

Eu também nunca me apresentei adequadamente lá - e então o post de hoje é sobre minha história de origem de segurança de IA e algumas das ideias centrais que impulsionam meu pensamento. Além disso, uma história bônus sobre a surpreendente relação entre a segurança da IA e a "salada de frango chinesa".