Drei politische Positionen, die meiner Meinung nach angesichts der Entwicklung von AGI stark unterschätzt werden: 1. @nathancofnas' "hereditarian revolution" - die Idee, dass die intellektuelle Dominanz des linken Egalitarismus auf Tabus bezüglich kognitiver Unterschiede zwischen Gruppen beruht - ist bereits sehr wichtig. Aber die bestehenden kognitiven Unterschiede zwischen Gruppen verblassen im Vergleich zu denjenigen, die zwischen Basishumans und: - Menschen, die KI am effektivsten nutzen - Menschen mit Gehirn-Computer-Schnittstellen - genetisch modifizierten Menschen - AIs selbst entstehen werden. Aktuelle kognitive Unterschiede brechen bereits die Politik; diese werden sie noch viel mehr brechen. Daher müssen wir uns auf eine Zukunft vorbereiten, in der der Egalitarismus als empirische These (noch mehr) offensichtlich falsch ist. Ich habe noch keine prägnante Zusammenfassung der Implikationen dieser Position. Aber zumindest möchte ich einen Namen dafür. Unglücklicherweise haben wir tatsächlich kein gutes Wort für "anti-egalitarian". Hereditarian ist zu eng (ebenso wie hierarchist) und elitär hat schlechte Konnotationen. Mein Vorschlag ist "Asymmetrist". Egalitarismus versucht, eine Art von Symmetrie über die gesamte Gesellschaft hinweg durchzusetzen. Aber unsere Aufgabe wird zunehmend darin bestehen, Gesellschaften zu entwerfen, in denen das Fehlen solcher Symmetrien ein Merkmal und kein Fehler ist. 2. Protektionismus. Protektionismus hat einen schlechten Ruf, weil globale Märkte sehr effizient sind. Aber sie sind keineswegs adversarial robust. Wenn Sie ein kleines Land sind und Ihre Grenzen für die Währung, Produkte und Unternehmen eines viel größeren Landes öffnen, werden Sie kurzfristig wohlhabender, haben aber auch extrem große Schwierigkeiten, zu verhindern, dass dieses andere Land langfristig viel Macht über Sie gewinnt. (Als historisches Beispiel war Handel oft ein wichtiger Vorläufer kolonialer Expansion. Siehe auch Amy Chuas ausgezeichnetes Buch "World on Fire", das beschreibt, wie freie Märkte einigen Minderheiten ermöglichen, überproportionale Macht zu erlangen.) Wenn Sie arm genug sind oder die größere Macht wohlwollend genug ist, kann dies ein gutes Geschäft sein! Aber wir steuern auf eine Zukunft zu, in der a) die meisten Menschen aufgrund von KI-gesteuerter Innovation in absoluten Zahlen viel wohlhabender werden und b) AIs letztendlich viel Macht auf nicht sehr wohlwollende Weise ausüben werden (z. B. automatisierte Unternehmen, die das Ziel der Gewinnmaximierung erhalten haben). Angesichts dessen beginnt der Protektionismus, wie eine viel bessere Idee auszusehen. Die Tatsache, dass er das Wachstum verlangsamt, ist kein Problem, da die Gesellschaft bereits mit dem Tempo des Wandels zu kämpfen hat. Und er ermöglicht Ihnen, viel mehr Kontrolle über die Entitäten zu haben, die innerhalb Ihrer Grenzen tätig sind - z. B. können Sie die Nutzung von KI-Entscheidungsfindung innerhalb von Unternehmen viel genauer überwachen. Anders ausgedrückt, in der Zukunft wird die gesamte menschliche Wirtschaft das "kleinere Land" sein, das Angriffen durch Währung, Produkte und Unternehmen ausgesetzt ist, die unter der Kontrolle von AIs (oder Menschen, die Macht an AIs delegiert haben) stehen. Soweit wir die Kontrolle behalten wollen, sollten wir nicht zulassen, dass Menschen diese AIs in regulatorischen Paradiesen ansiedeln, während sie dennoch erheblichen Einfluss auf westliche Länder gewinnen können. Okay, aber werden protektionistische Länder nicht einfach übertroffen? Nicht, wenn sie genug Macht haben, um andere Länder davon abzuhalten, machtsuchende AIs einzusetzen. Und im Moment ist die größte Fertigungsmacht der Welt bereits ziemlich protektionistisch. Wenn die USA also auch in diese Richtung gehen, scheint es wahrscheinlich, dass der kombinierte Einfluss der USA und Chinas ausreicht, um zu verhindern, dass jemand anders "defektiert". Der Engpass wird das Vertrauen zwischen den beiden Supermächten sein. (Fortsetzung im Tweet unten.)