Algumas notícias pessoais: Desde que deixei a OpenAI, tenho escrito publicamente sobre como construir um futuro de IA que seja realmente empolgante: evitando os piores riscos e construindo um futuro realmente bom. Estou entusiasmado por continuar este trabalho como membro do Roots of Progress Institute.

Quando deixei a OpenAI, escrevi que estou bastante aterrorizado com a direção que a IA está a tomar. Isso ainda é verdade, e conheço muitos funcionários de laboratórios de IA que querem que tudo isso pare, mas sentem-se individualmente impotentes. Mas também acredito em um futuro profundamente positivo com a IA, se os riscos forem bem geridos.

Para ser claro, acho que os laboratórios de IA hoje estão muito fora do caminho para alcançar um futuro positivo: Eles não estão a levar os riscos da IA a sério o suficiente e não estão a fazer planos que sejam realmente empolgantes.

Uma maneira simples de descrever os riscos: as empresas de IA estão em uma corrida para construir tecnologia que absolutamente não entendem e não conseguem controlar, mas acreditam que pode ser extremamente destrutiva. E em termos de benefícios: afirmar que a IA resolverá a mudança climática não faz com que isso aconteça.

Na minha escrita, pretendo dar-lhe uma visão honesta e clara sobre o que está a acontecer na IA, vinda de alguém que trabalha na área há quase uma década. Onde é que as empresas de IA estão a jogar com as palavras? Que tipos de redução de risco são fáceis? E com o que é que estou tão preocupado, afinal?

Estou entusiasmado por me juntar a uma comunidade de outros escritores, mas asseguro que ainda posso dizer o que quiser. Há total independência: A única coisa que deve mudar é, esperançosamente, alguma melhoria no meu estilo de escrita.

Se quiser acompanhar, pode subscrever o Clear-Eyed AI naquele proverbial outro site (clique a partir da minha biografia). É gratuito; só peço que partilhe a palavra com outros que também possam gostar.

Eu também nunca me apresentei corretamente lá - e por isso o post de hoje é sobre a minha história de origem em segurança de IA, e algumas das ideias centrais que impulsionam meu pensamento. Além disso, uma história bônus sobre a surpreendente relação entre segurança de IA e "salada de frango chinesa."