Trzy pozycje polityczne, które moim zdaniem są poważnie niedoceniane w świetle rozwoju AGI: 1. „Rewolucja dziedziczności” @nathancofnas - idea, że intelektualna dominacja lewicowego egalitaryzmu opiera się na tym, że różnice poznawcze między grupami są tematem tabu - jest już bardzo ważna. Jednak istniejące różnice poznawcze między grupami bledną w porównaniu do tych, które pojawią się między podstawowymi ludźmi a: - ludźmi, którzy najskuteczniej wykorzystują AI - ludźmi z interfejsami mózg-komputer - genetycznie zmodyfikowanymi ludźmi - samymi AI Obecne różnice poznawcze już łamią politykę; te będą łamać ją jeszcze bardziej. Musimy więc przygotować się na przyszłość, w której egalitaryzm jako teza empiryczna jest (jeszcze bardziej) oczywiście fałszywy. Na razie nie mam zwięzłego podsumowania implikacji tej pozycji. Ale przynajmniej chcę mieć nazwę dla niej. Niefortunnie, nie mamy naprawdę dobrego słowa na „anty-egalitarny”. Dziedziczność jest zbyt wąska (tak jak hierarchizm), a elitaryzm ma złe konotacje. Moim kandydatem jest „asymetrysta”. Egalitaryzm stara się narzucić rodzaj symetrii w całym społeczeństwie. Ale naszą rolą będzie coraz bardziej projektowanie społeczeństw, w których brak takich symetrii jest cechą, a nie błędem. 2. Protekcjonizm. Protekcjonizm ma złą reputację, ponieważ rynki globalne są bardzo efektywne. Ale wcale nie są odporne na działania wrogie. Jeśli jesteś małym krajem i otwierasz swoje granice na walutę, produkty i firmy znacznie większego kraju, to w krótkim okresie staniesz się bogatszy, ale także będziesz miał niezwykle trudności w zapobieganiu temu, aby ten inny kraj zdobył nad tobą dużą władzę w dłuższym okresie. (Jako przykład historyczny, handel często był ważnym poprzednikiem kolonialnej ekspansji. Zobacz także doskonałą książkę Amy Chua „Świat w ogniu”, o tym, jak wolne rynki umożliwiają niektórym mniejszościom zdobycie nieproporcjonalnej władzy.) Kiedy jesteś wystarczająco biedny lub większa władza jest wystarczająco dobroczynna, może to być dobra umowa! Ale zmierzamy w kierunku przyszłości, w której a) większość ludzi stanie się znacznie bogatsza w absolutnych wartościach dzięki innowacjom napędzanym przez AI, a b) AI ostatecznie zdobędą dużą władzę w niezbyt dobroczynny sposób (np. zautomatyzowane firmy, którym nadano cel maksymalizacji zysku). Biorąc to pod uwagę, protekcjonizm zaczyna wyglądać jak znacznie lepszy pomysł. Fakt, że spowalnia wzrost, nie jest problemem, ponieważ społeczeństwo już będzie się zmagać z tempem zmian. A pozwala na znacznie większą kontrolę nad podmiotami działającymi w twoich granicach - np. możesz znacznie dokładniej monitorować wykorzystanie podejmowania decyzji przez AI w firmach. Mówiąc inaczej, w przyszłości cała ludzka gospodarka będzie „mniejszym krajem”, który staje w obliczu inwazji waluty, produktów i firm kontrolowanych przez AI (lub ludzi, którzy delegowali władzę AI). W miarę jak chcemy zachować kontrolę, nie powinniśmy pozwalać ludziom na umieszczanie tych AI w rajach podatkowych, jednocześnie mając możliwość zdobycia znacznego wpływu na kraje zachodnie. Dobrze, ale czy kraje protekcjonistyczne po prostu nie zostaną wyprzedzone? Nie, jeśli zaczynają z wystarczającą mocą, aby powstrzymać inne kraje przed wdrażaniem AI dążących do władzy. A w tej chwili największa potęga produkcyjna na świecie jest już dość protekcjonistyczna. Więc jeśli USA również pójdą w tym kierunku, wydaje się prawdopodobne, że połączony wpływ USA i Chin będzie wystarczający, aby zapobiec innym „defektom”. Wąskim gardłem będzie zaufanie między tymi dwoma supermocarstwami. (Kontynuacja w poniższym tweecie.)

3. Konserwatyzm narodowy Wszystko, co powyżej, opiera się na celu zachowania ludzkich interesów w świecie znacznie potężniejszych agentów. To z natury jest rodzaj konserwatyzmu, którego nie powinniśmy brać za pewnik. Prawica technologiczna często używa języka "wygrywania", ale jak już wcześniej zauważyłem, coraz większa będzie różnica między *krajem* wygrywającym a *obywatelami* wygrywającymi. W skrajnym przypadku, w pełni zautomatyzowany kraj mógłby rozwijać się gospodarczo i politycznie, nie przynosząc korzyści żadnemu z ludzi w nim żyjących. Konserwatyzm narodowy wyznacza granicę wokół grupy ludzi i mówi: "oto ludzie, których interesami przede wszystkim się zajmujemy". Jak powiedział Vance, Ameryka to grupa ludzi z wspólną historią i wspólną przyszłością. Jeśli stracisz to z oczu, argumenty dotyczące efektywności i produktywności zamienią się w pole do popisu dla osobliwości. (Nie możesz też prowadzić kraju dla dobra "wszystkich ludzi", ponieważ wtedy jesteś w relacji antagonizującej z własnymi obywatelami, którzy słusznie chcą, aby ich przywódcy stawiali ich na pierwszym miejscu.) Rząd Chin ma wiele wad, ale w tej kwestii ma rację. Są państwem narodowym zarządzanym przez swoich ludzi dla swoich ludzi. W ramach tego nie są tylko ekonomicznie protekcjonistyczni, ale także kulturowo protekcjonistyczni - blokując zagraniczne pomysły przed zdobywaniem popularności w ich internecie. Nie sądzę, aby to było dobre podejście dla Zachodu, ale myślę, że powinniśmy spróbować opracować nieco przymusowy odpowiednik: mechanizmy, dzięki którym naród może prowadzić rozmowę ze sobą na temat tego, co powinien cenić i dokąd powinien zmierzać, z pomysłami, które są bardziej cenione, gdy ich zwolennicy mają "skórę w grze". W przeciwnym razie najbardziej elokwentni i przekonujący influencerzy skończą jako AI. Wszystkie te pomysły są na bardzo wysokim poziomie, ale dają zarys tego, dlaczego uważam, że polityka prawicowa jest najlepiej przygotowana do radzenia sobie z rosnącą rolą AI. Jest jeszcze wiele pracy do zrobienia, aby je rozwinąć.

Oto wykład, który wygłosiłem na temat pomysłów związanych z tymi w punkcie 1.