Drie politieke posities die ik denk dat ernstig ondergewaardeerd zijn gezien de ontwikkeling van AGI: 1. @nathancofnas’ “hereditaire revolutie” - het idee dat de intellectuele dominantie van links-egalitarisme afhankelijk is van het taboe op groepscognitieve verschillen - is al heel belangrijk. Maar bestaande groepscognitieve verschillen verbleken in vergelijking met de verschillen die zullen ontstaan tussen baseline mensen en: - mensen die AI het meest effectief benutten - mensen met brein-computerinterfaces - genetisch gemodificeerde mensen - AIs zelf Huidige cognitieve verschillen breken de politiek al; deze zullen het nog veel meer breken. Dus we moeten ons voorbereiden op een toekomst waarin egalitarisme als empirische these (nog meer) obviously onjuist is. Ik heb nog geen beknopte samenvatting van de implicaties van deze positie. Maar in ieder geval wil ik een naam ervoor. Ongemakkelijk genoeg hebben we eigenlijk geen goed woord voor “anti-egalitair”. Hereditaire is te smal (net als hiërarchist) en elitair heeft slechte connotaties. Mijn kandidaat is “asymmetrist”. Egalitarisme probeert een soort symmetrie over de hele samenleving af te dwingen. Maar onze taak zal steeds meer zijn om samenlevingen te ontwerpen waar de afwezigheid van dergelijke symmetrieën een kenmerk is en geen bug. 2. Protectionisme. Protectionisme krijgt een slechte reputatie, omdat wereldmarkten zeer efficiënt zijn. Maar ze zijn absoluut niet adversarieel robuust. Als je een klein land bent en je opent je grenzen voor de valuta, producten en bedrijven van een veel groter land, dan word je op korte termijn rijker, maar heb je ook een extreem moeilijke tijd om te voorkomen dat dat andere land op de lange termijn veel macht over jou verwerft. (Als historisch voorbeeld was handel vaak een belangrijke voorloper van koloniale expansie. Zie ook Amy Chua’s uitstekende boek World on Fire, over hoe vrije markten sommige minderheden in staat stellen om onevenredige macht te verwerven.) Wanneer je arm genoeg bent, of de grotere macht genoeg welwillend is, kan dit een goede deal zijn! Maar we bewegen naar een toekomst waarin a) de meeste mensen in absolute termen veel rijker worden door AI-gedreven innovatie, en b) AIs veel macht zullen uitoefenen op niet-erg welwillende manieren (bijv. geautomatiseerde bedrijven die het doel van winstmaximalisatie hebben gekregen). Gezien dit, begint protectionisme er veel beter uit te zien. Het feit dat het de groei vertraagt, is geen probleem, omdat de samenleving al zal wankelen van het tempo van verandering. En het stelt je in staat om veel meer controle te hebben over de entiteiten die binnen je grenzen opereren - bijv. je kunt het gebruik van AI-besluitvorming binnen bedrijven veel nauwkeuriger volgen. Om het anders te zeggen, in de toekomst zal de hele menselijke economie het “kleinere land” zijn dat wordt geconfronteerd met invallen door valuta, producten en bedrijven onder controle van AIs (of mensen die macht aan AIs hebben gedelegeerd). Voor zover we controle willen behouden, moeten we niet toestaan dat mensen die AIs in reguleringsparadijzen baseren terwijl ze nog steeds aanzienlijke invloed kunnen uitoefenen op westerse landen. Oké, maar zullen protectionistische landen niet gewoon worden overtroffen? Niet als ze beginnen met genoeg macht om andere landen af te schrikken van het inzetten van machtzoekende AIs. En op dit moment is de grootste productiemacht ter wereld al vrij protectionistisch. Dus als de VS ook in die richting beweegt, lijkt het waarschijnlijk dat de gecombineerde invloed van de VS en China voldoende zal zijn om te voorkomen dat iemand anders “afwijkt”. De bottleneck zal vertrouwen zijn tussen de twee supermachten. (Vervolg in de onderstaande tweet.)