Tre politiska ställningstaganden som jag tycker är kraftigt underskattade med tanke på utvecklingen av AGI: 1. @nathancofnas "ärftliga revolution" – idén att vänsterns egalitära dominans är beroende av att kognitiva skillnader i grupper är tabu – är redan mycket viktig. Men befintliga kognitiva skillnader i grupp bleknar i jämförelse med de som kommer att framträda mellan människor från baslinjen och: - människor som utnyttjar AI mest effektivt - Människor med gränssnitt mellan hjärna och dator - genetiskt modifierade människor - De artificiella intelligenserna själva Nuvarande kognitiva skillnader knäcker redan politiken; Dessa kommer att bryta det mycket mer. Så vi måste förbereda oss för en framtid där jämlikhet som empirisk tes är (ännu mer) uppenbart falsk. Jag har ännu inte en kortfattad sammanfattning av konsekvenserna av denna ståndpunkt. Men jag vill i alla fall ha ett namn på den. Pinsamt nog har vi faktiskt inte ett bra ord för "anti-egalitär". Hereditarian är för snävt (liksom hierarkiskt) och elitistisk har dåliga konnotationer. Min kandidat är "asymmetrist". Egalitarianism försöker genomdriva en typ av symmetri i hela samhället. Men vårt jobb kommer i allt högre grad att vara att designa samhällen där frånvaron av sådana symmetrier är en egenskap, inte en bugg. 2. Protektionism. Protektionism har ett dåligt rykte, eftersom de globala marknaderna är mycket effektiva. Men de är i hög grad inte kontradiktoriskt robusta. Om du är ett litet land och du öppnar dina gränser för valutan, produkterna och företagen i ett mycket större land, då kommer du att bli kortsiktigt rikare men också ha extremt svårt att förhindra att det andra landet får mycket makt över dig på lång sikt. (Som ett historiskt exempel kan nämnas att handel ofta var en viktig föregångare till den koloniala expansionen. Se även Amy Chuas utmärkta bok World on Fire, om hur fria marknader gör det möjligt för vissa minoriteter att få oproportionerlig makt.) När du är tillräckligt fattig, eller när den större makten är tillräckligt välvillig, kan detta mycket väl vara en bra affär! Men vi är på väg mot en framtid där a) de flesta människor blir mycket rikare i absoluta tal på grund av AI-driven innovation, och b) AI kommer att utöva mycket makt på inte särskilt välvilliga sätt (t.ex. automatiserade företag som har fått målet att maximera vinsten). Med tanke på detta börjar protektionism framstå som en mycket bättre idé. Att det bromsar tillväxten är inget problem, eftersom samhället redan kommer att vackla av förändringstakten. Och det ger dig mycket mer kontroll över de enheter som är verksamma inom dina gränser - t.ex. kan du övervaka användningen av AI-beslutsfattande inom företag mycket noggrannare. För att uttrycka det på ett annat sätt, i framtiden kommer hela den mänskliga ekonomin att vara det "mindre landet" som står inför intrång av valuta, produkter och företag under kontroll av AI (eller människor som har delegerat makt till AI). I den mån vi vill behålla kontrollen bör vi inte låta människor basera dessa AI:er i regleringsparadis samtidigt som de fortfarande kan få ett betydande inflytande över västländer. Okej, men kommer inte protektionistiska länder bara att bli utkonkurrerade? Inte om de börjar med tillräckligt med kraft för att avskräcka andra länder från att använda maktsökande AI. Och just nu är världens största tillverkningsmakt redan tämligen protektionistisk. Så om USA rör sig i den riktningen också, verkar det troligt att det kombinerade inflytandet från USA och Kina kommer att vara tillräckligt för att förhindra att någon annan "hoppar av". Flaskhalsen kommer att vara förtroendet mellan de två supermakterna. (Fortsättning i tweeten nedan.)

3. Nationell konservatism Allt ovanstående bygger på målet att bevara mänskliga intressen i en värld av mycket mäktigare agenter. Detta är i sig en form av konservatism, och en som vi inte bör ta för given. Den tekniska högern använder ofta språket "vinna", men som jag har observerat tidigare kommer det i allt högre grad att vara en stor skillnad mellan ett *land* som vinner och dess *medborgare* som vinner. I slutändan kan ett helt automatiserat land blomstra ekonomiskt och politiskt utan att faktiskt gynna någon av människorna i det. Nationalkonservatismen drar en gräns kring en grupp människor och säger "här är de människor vars intressen vi i första hand ser till". Som Vance uttryckte det är Amerika en grupp människor med en gemensam historia och en gemensam framtid. Bortse från det, och argument om effektivitet och produktivitet kommer i stället att förvandla det till en scen för singulariteten. (Inte heller kan man styra ett land för "alla människors" bästa, för då står man i ett fientligt förhållande till sina egna medborgare, som med rätta vill att deras ledare ska prioritera dem.) Kinas regering har många brister, men den får den här delen rätt. De är en nationalstat som styrs av sitt eget folk för sitt eget folk. Som en del av detta är de inte bara ekonomiskt protektionistiska utan också kulturellt protektionistiska – de blockerar utländska idéer från att få fäste på deras internet. Jag tror inte att detta är ett bra tillvägagångssätt för västvärlden, men jag tror att vi bör försöka utveckla en icke-tvingande motsvarighet: mekanismer genom vilka en nation kan ha en konversation med sig själv om vad den bör värdera och vart den bör ta vägen, med idéer som vägs upp när deras förespråkare har "skinn på näsan". Annars kommer de mest vältaliga och övertygande influencers att sluta med att bara vara AI:er. Alla dessa idéer är på mycket hög nivå, men de ger en översikt över varför jag tror att högerpolitiken är bäst rustad för att hantera framväxten av AI. Det finns dock mycket mer arbete att göra för att ge dem mer kött på benen.

Här är ett föredrag jag höll om idéer relaterade till de i punkt 1.