Três posições políticas que considero severamente subestimadas, dado o desenvolvimento da AGI: 1. A "revolução hereditária" de @nathancofnas - a ideia de que o domínio intelectual do igualitarismo de esquerda depende de as diferenças cognitivas de grupo serem tabu - já é muito importante. Mas as diferenças cognitivas de grupo existentes empalidecem em comparação com as que surgirão entre os humanos básicos e: - humanos que aproveitam a IA de forma mais eficaz - humanos com interfaces cérebro-computador - humanos geneticamente modificados - As próprias IAs As diferenças cognitivas atuais já quebram a política; estes vão quebrá-lo muito mais. Portanto, precisamos nos preparar para um futuro em que o igualitarismo como tese empírica seja (ainda mais) obviamente falso. Ainda não tenho um resumo conciso das implicações dessa posição. Mas, pelo menos, quero um nome para isso. Estranhamente, na verdade não temos uma boa palavra para "anti-igualitário". Hereditário é muito estreito (assim como hierárquico) e elitista tem conotações ruins. Meu candidato é "assimétrico". O igualitarismo tenta impor um tipo de simetria em toda a sociedade. Mas nosso trabalho será cada vez mais projetar sociedades onde a ausência de tais simetrias seja uma característica, não um bug. 2. Protecionismo. O protecionismo tem uma má reputação, porque os mercados globais são muito eficientes. Mas eles não são muito robustos do ponto de vista adversário. Se você é um país pequeno e abre suas fronteiras para a moeda, produtos e empresas de um país muito maior, então você ficará mais rico a curto prazo, mas também terá muita dificuldade em impedir que esse outro país ganhe muito poder sobre você a longo prazo. (Como exemplo histórico, o comércio foi muitas vezes um importante precursor da expansão colonial. Veja também o excelente livro de Amy Chua, World on Fire, sobre como os mercados livres permitem que algumas minorias ganhem poder desproporcional.) Quando você é pobre o suficiente, ou o poder maior é benevolente o suficiente, isso pode muito bem ser um bom negócio! Mas estamos caminhando para um futuro em que a) a maioria das pessoas se torna muito mais rica em termos absolutos devido à inovação impulsionada pela IA, e b) as IAs acabarão exercendo muito poder de maneiras não muito benevolentes (por exemplo, empresas automatizadas que receberam o objetivo de maximizar o lucro). Diante disso, o protecionismo começa a parecer uma ideia muito melhor. O fato de desacelerar o crescimento não é um problema, porque a sociedade já estará se recuperando do ritmo da mudança. E permite que você tenha muito mais controle sobre as entidades que operam dentro de suas fronteiras - por exemplo, você pode monitorar o uso da tomada de decisões de IA dentro das empresas muito mais de perto. Em outras palavras, no futuro toda a economia humana será o "país menor" que enfrenta incursões de moedas, produtos e empresas sob o controle de IAs (ou humanos que delegaram poder a IAs). Na medida em que queremos manter o controle, não devemos permitir que as pessoas baseiem essas IAs em paraísos regulatórios enquanto ainda são capazes de obter influência significativa sobre os países ocidentais. Ok, mas os países protecionistas não serão simplesmente superados? Não se eles começarem com poder suficiente para impedir que outros países implantem IAs em busca de poder. E agora, a maior potência manufatureira do mundo já é bastante protecionista. Portanto, se os EUA também se moverem nessa direção, parece provável que a influência combinada dos EUA e da China seja suficiente para impedir que qualquer outra pessoa "deserte". O gargalo será a confiança entre as duas superpotências. (Continua no tweet abaixo.)

3. Conservadorismo nacional Tudo o que foi dito acima tem como premissa o objetivo de preservar os interesses humanos em um mundo de agentes muito mais poderosos. Isso é inerentemente um tipo de conservadorismo, e que não devemos dar como certo. A direita tecnológica geralmente usa a linguagem de "vencer", mas, como observei antes, haverá cada vez mais uma grande diferença entre um *país* vencedor e seus *cidadãos* vencendo. No limite, um país totalmente automatizado poderia florescer econômica e politicamente sem realmente beneficiar nenhum dos humanos dentro dele. O conservadorismo nacional traça um limite em torno de um grupo de pessoas e diz "aqui estão as pessoas cujos interesses estamos cuidando principalmente". Como disse Vance, a América é um grupo de pessoas com uma história compartilhada e um futuro comum. Perca isso de vista, e os argumentos sobre eficiência e produtividade acabarão transformando-o em um palco para a singularidade. (Você também não pode governar um país para o benefício de "todos os humanos", porque então você está em um relacionamento antagônico com seus próprios cidadãos, que com razão querem que seus líderes os priorizem.) O governo da China tem muitas falhas, mas acerta nessa parte. Eles são um estado-nação dirigido por seu próprio povo para seu próprio povo. Como parte disso, eles não são apenas economicamente protecionistas, mas também culturalmente protecionistas - impedindo que ideias estrangeiras ganhem força em sua internet. Não acho que essa seja uma boa abordagem para o Ocidente, mas acho que devemos tentar desenvolver um equivalente não coercitivo: mecanismos pelos quais uma nação possa conversar consigo mesma sobre o que deve valorizar e para onde deve ir, com ideias aprimoradas quando seus proponentes têm "pele no jogo". Caso contrário, os influenciadores mais eloquentes e persuasivos acabarão sendo apenas IAs. Todas essas ideias são de alto nível, mas dão um esboço de por que acho que a política de direita está mais bem equipada para lidar com a ascensão da IA. Há muito mais trabalho a fazer para desenvolvê-los, no entanto.

Aqui está uma palestra que dei sobre ideias relacionadas às do ponto 1.