Drie politieke posities die ik denk dat ernstig ondergewaardeerd zijn gezien de ontwikkeling van AGI: 1. @nathancofnas’ “hereditaire revolutie” - het idee dat de intellectuele dominantie van links-egalitarisme afhankelijk is van het taboe op groepscognitieve verschillen - is al heel belangrijk. Maar bestaande groepscognitieve verschillen verbleken in vergelijking met de verschillen die zullen ontstaan tussen baseline mensen en: - mensen die AI het meest effectief benutten - mensen met brein-computerinterfaces - genetisch gemodificeerde mensen - AIs zelf Huidige cognitieve verschillen breken de politiek al; deze zullen het nog veel meer breken. Dus we moeten ons voorbereiden op een toekomst waarin egalitarisme als empirische these (nog meer) obviously onjuist is. Ik heb nog geen beknopte samenvatting van de implicaties van deze positie. Maar in ieder geval wil ik een naam ervoor. Ongemakkelijk genoeg hebben we eigenlijk geen goed woord voor “anti-egalitair”. Hereditaire is te smal (net als hiërarchist) en elitair heeft slechte connotaties. Mijn kandidaat is “asymmetrist”. Egalitarisme probeert een soort symmetrie over de hele samenleving af te dwingen. Maar onze taak zal steeds meer zijn om samenlevingen te ontwerpen waar de afwezigheid van dergelijke symmetrieën een kenmerk is en geen bug. 2. Protectionisme. Protectionisme krijgt een slechte reputatie, omdat wereldmarkten zeer efficiënt zijn. Maar ze zijn absoluut niet adversarieel robuust. Als je een klein land bent en je opent je grenzen voor de valuta, producten en bedrijven van een veel groter land, dan word je op korte termijn rijker, maar heb je ook een extreem moeilijke tijd om te voorkomen dat dat andere land op de lange termijn veel macht over jou verwerft. (Als historisch voorbeeld was handel vaak een belangrijke voorloper van koloniale expansie. Zie ook Amy Chua’s uitstekende boek World on Fire, over hoe vrije markten sommige minderheden in staat stellen om onevenredige macht te verwerven.) Wanneer je arm genoeg bent, of de grotere macht genoeg welwillend is, kan dit een goede deal zijn! Maar we bewegen naar een toekomst waarin a) de meeste mensen in absolute termen veel rijker worden door AI-gedreven innovatie, en b) AIs veel macht zullen uitoefenen op niet-erg welwillende manieren (bijv. geautomatiseerde bedrijven die het doel van winstmaximalisatie hebben gekregen). Gezien dit, begint protectionisme er veel beter uit te zien. Het feit dat het de groei vertraagt, is geen probleem, omdat de samenleving al zal wankelen van het tempo van verandering. En het stelt je in staat om veel meer controle te hebben over de entiteiten die binnen je grenzen opereren - bijv. je kunt het gebruik van AI-besluitvorming binnen bedrijven veel nauwkeuriger volgen. Om het anders te zeggen, in de toekomst zal de hele menselijke economie het “kleinere land” zijn dat wordt geconfronteerd met invallen door valuta, producten en bedrijven onder controle van AIs (of mensen die macht aan AIs hebben gedelegeerd). Voor zover we controle willen behouden, moeten we niet toestaan dat mensen die AIs in reguleringsparadijzen baseren terwijl ze nog steeds aanzienlijke invloed kunnen uitoefenen op westerse landen. Oké, maar zullen protectionistische landen niet gewoon worden overtroffen? Niet als ze beginnen met genoeg macht om andere landen af te schrikken van het inzetten van machtzoekende AIs. En op dit moment is de grootste productiemacht ter wereld al vrij protectionistisch. Dus als de VS ook in die richting beweegt, lijkt het waarschijnlijk dat de gecombineerde invloed van de VS en China voldoende zal zijn om te voorkomen dat iemand anders “afwijkt”. De bottleneck zal vertrouwen zijn tussen de twee supermachten. (Vervolg in de onderstaande tweet.)

3. Nationaal conservatisme Al het bovenstaande is gebaseerd op het doel om menselijke belangen te behouden in een wereld van veel krachtiger agenten. Dit is inherent een soort conservatisme, en een die we niet voor lief moeten nemen. De tech-rechts gebruikt vaak de taal van "winnen", maar zoals ik eerder heb opgemerkt, zal er steeds een groot verschil zijn tussen een *land* dat wint en zijn *burgers* die winnen. In het uiterste geval zou een volledig geautomatiseerd land economisch en politiek kunnen floreren zonder daadwerkelijk enige van de mensen binnenin te bevoordelen. Nationaal conservatisme trekt een grens rond een groep mensen en zegt: "hier zijn de mensen wiens belangen we voornamelijk in de gaten houden". Zoals Vance het verwoordde, is Amerika een groep mensen met een gedeelde geschiedenis en een gemeenschappelijke toekomst. Verlies dat uit het oog, en argumenten over efficiëntie en productiviteit zullen in plaats daarvan eindigen in een podium voor de singulariteit. (Je kunt ook geen land runnen voor het voordeel van "alle mensen", want dan ben je in een vijandige relatie met je eigen burgers, die terecht willen dat hun leiders hen prioriteit geven.) De regering van China heeft veel tekortkomingen, maar ze krijgen dit deel wel goed. Ze zijn een natiestaat die door hun eigen mensen voor hun eigen mensen wordt bestuurd. Als onderdeel daarvan zijn ze niet alleen economisch protectionistisch, maar ook cultureel protectionistisch - ze blokkeren buitenlandse ideeën die op hun internet traction kunnen krijgen. Ik denk niet dat dit een goede benadering is voor het Westen, maar ik denk dat we moeten proberen een niet-dwingende equivalent te ontwikkelen: mechanismen waarmee een natie met zichzelf kan praten over wat het zou moeten waarderen en waar het naartoe zou moeten gaan, met ideeën die meer gewicht krijgen wanneer hun voorstanders "skin in the game" hebben. Anders zullen de meest welsprekende en overtuigende beïnvloeders gewoon AIs zijn. Al deze ideeën zijn zeer hoog-niveau, maar ze geven een schets van waarom ik denk dat rechts-politiek het beste is uitgerust om om te gaan met de opkomst van AI. Er is echter nog veel meer werk te doen om ze verder uit te werken.

Hier is een lezing die ik heb gegeven over ideeën die verband houden met die in punt 1.