Tres posiciones políticas que creo que están severamente subestimadas dado el desarrollo de la AGI: 1. La "revolución hereditaria" de @nathancofnas - la idea de que la dominancia intelectual del igualitarismo de izquierda se basa en que las diferencias cognitivas entre grupos son un tabú - ya es muy importante. Pero las diferencias cognitivas existentes entre grupos palidecen en comparación con las que surgirán entre los humanos básicos y: - humanos que aprovechan la IA de manera más efectiva - humanos con interfaces cerebro-computadora - humanos genéticamente modificados - las propias IAs Las diferencias cognitivas actuales ya rompen la política; estas la romperán aún más. Así que necesitamos prepararnos para un futuro en el que el igualitarismo como tesis empírica es (aún más) obviamente falso. Aún no tengo un resumen conciso de las implicaciones de esta posición. Pero al menos quiero un nombre para ello. De manera incómoda, en realidad no tenemos una buena palabra para "anti-igualitario". Hereditario es demasiado estrecho (al igual que jerárquico) y elitista tiene malas connotaciones. Mi candidato es "asimetrista". El igualitarismo intenta imponer un tipo de simetría en toda la sociedad. Pero nuestro trabajo será cada vez más diseñar sociedades donde la ausencia de tales simetrías sea una característica y no un error. 2. Proteccionismo. El proteccionismo tiene mala fama, porque los mercados globales son muy eficientes. Pero no son en absoluto robustos ante la adversidad. Si eres un país pequeño y abres tus fronteras a la moneda, productos y empresas de un país mucho más grande, entonces te volverás más rico a corto plazo, pero también tendrás una dificultad extrema para evitar que ese otro país gane mucho poder sobre ti a largo plazo. (Como ejemplo histórico, el comercio a menudo fue un precursor importante de la expansión colonial. Ver también el excelente libro de Amy Chua, "World on Fire", sobre cómo los mercados libres permiten que algunas minorías obtengan un poder desproporcionado.) Cuando eres lo suficientemente pobre, o el poder más grande es lo suficientemente benevolente, ¡esto puede ser un buen trato! Pero nos dirigimos hacia un futuro en el que a) la mayoría de las personas se volverán mucho más ricas en términos absolutos debido a la innovación impulsada por la IA, y b) las IAs terminarán ejerciendo mucho poder de maneras no muy benevolentes (por ejemplo, empresas automatizadas que han sido dadas la meta de maximización de beneficios). Dado esto, el proteccionismo comienza a parecer una idea mucho mejor. El hecho de que ralentice el crecimiento no es un problema, porque la sociedad ya estará lidiando con el ritmo del cambio. Y te permite tener mucho más control sobre las entidades que operan dentro de tus fronteras - por ejemplo, puedes monitorear el uso de la toma de decisiones de IA dentro de las empresas de manera mucho más cercana. Dicho de otra manera, en el futuro toda la economía humana será el "país más pequeño" que enfrenta incursiones de moneda, productos y empresas bajo el control de IAs (o humanos que han delegado poder a IAs). En la medida en que queramos mantener el control, no deberíamos permitir que las personas basen esas IAs en paraísos regulatorios mientras aún pueden obtener una influencia significativa sobre los países occidentales. Está bien, pero ¿no se verán los países proteccionistas superados? No si comienzan con suficiente poder para disuadir a otros países de desplegar IAs que buscan poder. Y en este momento, el mayor poder manufacturero del mundo ya es bastante proteccionista. Así que si EE. UU. también se mueve en esa dirección, parece probable que la influencia combinada de EE. UU. y China sea suficiente para evitar que alguien más "defecte". El cuello de botella va a ser la confianza entre las dos superpotencias. (Continuará en el tweet de abajo.)

3. Conservadurismo nacional Todo lo anterior se basa en el objetivo de preservar los intereses humanos en un mundo de agentes mucho más poderosos. Esto es inherentemente una especie de conservadurismo, y uno que no deberíamos dar por sentado. La derecha tecnológica a menudo utiliza el lenguaje de "ganar", pero como he observado antes, habrá una diferencia cada vez mayor entre un *país* que gana y sus *ciudadanos* que ganan. En el límite, un país completamente automatizado podría florecer económica y políticamente sin beneficiar realmente a ninguno de los humanos dentro de él. El conservadurismo nacional traza un límite alrededor de un grupo de personas y dice "aquí están las personas cuyos intereses estamos cuidando principalmente". Como dijo Vance, América es un grupo de personas con una historia compartida y un futuro común. Si se pierde de vista eso, los argumentos sobre eficiencia y productividad terminarán convirtiéndolo en un terreno de preparación para la singularidad. (Tampoco puedes dirigir un país en beneficio de "todos los humanos", porque entonces estás en una relación adversarial con tus propios ciudadanos, que con razón quieren que sus líderes los prioricen.) El gobierno de China tiene muchos defectos, pero acierta en este aspecto. Son un estado-nación dirigido por su propia gente para su propia gente. Como parte de eso, no solo son proteccionistas económicamente, sino también culturalmente, bloqueando ideas extranjeras para que no ganen terreno en su internet. No creo que este sea un buen enfoque para Occidente, pero creo que deberíamos intentar desarrollar un equivalente no coercitivo: mecanismos mediante los cuales una nación pueda tener una conversación consigo misma sobre lo que debería valorar y hacia dónde debería ir, con ideas que se ponderen más cuando sus proponentes tienen "piel en el juego". De lo contrario, los influenciadores más elocuentes y persuasivos terminarán siendo solo IA. Todas estas ideas son de muy alto nivel, pero dan un esbozo de por qué creo que la política de derecha está mejor equipada para lidiar con el auge de la IA. Sin embargo, hay mucho más trabajo por hacer para desarrollarlas.

Aquí hay una charla que di sobre ideas relacionadas con las del punto 1.