Tre politiske posisjoner som jeg mener er sterkt undervurdert gitt utviklingen av AGI: 1. @nathancofnas' «arvelige revolusjon» – ideen om at den intellektuelle dominansen til venstreorientert egalitarisme er avhengig av at gruppekognitive forskjeller er tabu – er allerede veldig viktig. Men eksisterende gruppekognitive forskjeller blekner i forhold til de som vil dukke opp mellom baseline-mennesker og: - mennesker som utnytter AI mest effektivt - mennesker med hjerne-datamaskin-grensesnitt - genmodifiserte mennesker - AI-er selv Nåværende kognitive forskjeller bryter allerede politikk; disse vil ødelegge det langt mer. Så vi må forberede oss på en fremtid der egalitarisme som en empirisk tese er (enda mer) åpenbart feil. Jeg har ennå ikke en kortfattet oppsummering av implikasjonene av denne posisjonen. Men i det minste vil jeg ha et navn på det. Pinlig nok har vi faktisk ikke et godt ord for «anti-egalitær». Arvelig er for smalt (det samme er hierarkisk) og elitistisk har dårlige konnotasjoner. Min kandidat er «asymmetrist». Egalitarisme prøver å håndheve en type symmetri på tvers av hele samfunnet. Men vår jobb vil i økende grad være å designe samfunn der fraværet av slike symmetrier er en funksjon, ikke en feil. 2. Proteksjonisme. Proteksjonisme får et dårlig rykte, fordi globale markeder er veldig effektive. Men de er i stor grad ikke kontradiktorisk robuste. Hvis du er et lite land og du åpner grensene dine for valutaen, produktene og selskapene i et mye større land, vil du bli kortsiktig rikere, men også ha ekstremt vanskelig for å forhindre at det andre landet får mye makt over deg på lang sikt. (Som et historisk eksempel var handel ofte en viktig forløper for kolonial ekspansjon. Se også Amy Chuas utmerkede bok World on Fire, om hvordan frie markeder gjør det mulig for noen minoriteter å få uforholdsmessig makt.) Når du er fattig nok, eller den større makten er velvillig nok, kan dette godt være en god avtale! Men vi er på vei mot en fremtid der a) de fleste blir langt rikere i absolutte termer på grunn av AI-drevet innovasjon, og b) AI-er vil ende opp med å utøve mye makt på ikke veldig velvillige måter (f.eks. automatiserte selskaper som har fått målet om profittmaksimering). Gitt dette begynner proteksjonisme å se ut som en mye bedre idé. Det faktum at det bremser veksten er ikke noe problem, fordi samfunnet allerede vil vakle av endringstakten. Og det lar deg ha mye mer kontroll over enhetene som opererer innenfor grensene dine - for eksempel kan du overvåke bruken av AI-beslutningstaking i selskaper mye nærmere. For å si det på en annen måte, i fremtiden vil hele den menneskelige økonomien være det "mindre landet" som står overfor inntrengninger av valuta, produkter og selskaper under kontroll av AI-er (eller mennesker som har delegert makt til AI-er). I den grad vi ønsker å beholde kontrollen, bør vi ikke la folk basere disse AI-ene i regulatoriske tilfluktssteder mens vi fortsatt kan få betydelig innflytelse over vestlige land. Ok, men vil ikke proteksjonistiske land bare bli utkonkurrert? Ikke hvis de starter med nok kraft til å avskrekke andre land fra å distribuere kraftsøkende AI-er. Og akkurat nå er verdens største produksjonsmakt allerede ganske proteksjonistisk. Så hvis USA beveger seg i den retningen også, virker det sannsynlig at den kombinerte innflytelsen fra USA og Kina vil være tilstrekkelig til å forhindre at noen andre "hopper av". Flaskehalsen kommer til å være tillit mellom de to supermaktene. (Fortsetter i tweet nedenfor.)