Tre politiska ställningstaganden som jag tycker är kraftigt underskattade med tanke på utvecklingen av AGI: 1. @nathancofnas "ärftliga revolution" – idén att vänsterns egalitära dominans är beroende av att kognitiva skillnader i grupper är tabu – är redan mycket viktig. Men befintliga kognitiva skillnader i grupp bleknar i jämförelse med de som kommer att framträda mellan människor från baslinjen och: - människor som utnyttjar AI mest effektivt - Människor med gränssnitt mellan hjärna och dator - genetiskt modifierade människor - De artificiella intelligenserna själva Nuvarande kognitiva skillnader knäcker redan politiken; Dessa kommer att bryta det mycket mer. Så vi måste förbereda oss för en framtid där jämlikhet som empirisk tes är (ännu mer) uppenbart falsk. Jag har ännu inte en kortfattad sammanfattning av konsekvenserna av denna ståndpunkt. Men jag vill i alla fall ha ett namn på den. Pinsamt nog har vi faktiskt inte ett bra ord för "anti-egalitär". Hereditarian är för snävt (liksom hierarkiskt) och elitistisk har dåliga konnotationer. Min kandidat är "asymmetrist". Egalitarianism försöker genomdriva en typ av symmetri i hela samhället. Men vårt jobb kommer i allt högre grad att vara att designa samhällen där frånvaron av sådana symmetrier är en egenskap, inte en bugg. 2. Protektionism. Protektionism har ett dåligt rykte, eftersom de globala marknaderna är mycket effektiva. Men de är i hög grad inte kontradiktoriskt robusta. Om du är ett litet land och du öppnar dina gränser för valutan, produkterna och företagen i ett mycket större land, då kommer du att bli kortsiktigt rikare men också ha extremt svårt att förhindra att det andra landet får mycket makt över dig på lång sikt. (Som ett historiskt exempel kan nämnas att handel ofta var en viktig föregångare till den koloniala expansionen. Se även Amy Chuas utmärkta bok World on Fire, om hur fria marknader gör det möjligt för vissa minoriteter att få oproportionerlig makt.) När du är tillräckligt fattig, eller när den större makten är tillräckligt välvillig, kan detta mycket väl vara en bra affär! Men vi är på väg mot en framtid där a) de flesta människor blir mycket rikare i absoluta tal på grund av AI-driven innovation, och b) AI kommer att utöva mycket makt på inte särskilt välvilliga sätt (t.ex. automatiserade företag som har fått målet att maximera vinsten). Med tanke på detta börjar protektionism framstå som en mycket bättre idé. Att det bromsar tillväxten är inget problem, eftersom samhället redan kommer att vackla av förändringstakten. Och det ger dig mycket mer kontroll över de enheter som är verksamma inom dina gränser - t.ex. kan du övervaka användningen av AI-beslutsfattande inom företag mycket noggrannare. För att uttrycka det på ett annat sätt, i framtiden kommer hela den mänskliga ekonomin att vara det "mindre landet" som står inför intrång av valuta, produkter och företag under kontroll av AI (eller människor som har delegerat makt till AI). I den mån vi vill behålla kontrollen bör vi inte låta människor basera dessa AI:er i regleringsparadis samtidigt som de fortfarande kan få ett betydande inflytande över västländer. Okej, men kommer inte protektionistiska länder bara att bli utkonkurrerade? Inte om de börjar med tillräckligt med kraft för att avskräcka andra länder från att använda maktsökande AI. Och just nu är världens största tillverkningsmakt redan tämligen protektionistisk. Så om USA rör sig i den riktningen också, verkar det troligt att det kombinerade inflytandet från USA och Kina kommer att vara tillräckligt för att förhindra att någon annan "hoppar av". Flaskhalsen kommer att vara förtroendet mellan de två supermakterna. (Fortsättning i tweeten nedan.)