Trzy pozycje polityczne, które moim zdaniem są poważnie niedoceniane w świetle rozwoju AGI: 1. „Rewolucja dziedziczności” @nathancofnas - idea, że intelektualna dominacja lewicowego egalitaryzmu opiera się na tym, że różnice poznawcze między grupami są tematem tabu - jest już bardzo ważna. Jednak istniejące różnice poznawcze między grupami bledną w porównaniu do tych, które pojawią się między podstawowymi ludźmi a: - ludźmi, którzy najskuteczniej wykorzystują AI - ludźmi z interfejsami mózg-komputer - genetycznie zmodyfikowanymi ludźmi - samymi AI Obecne różnice poznawcze już łamią politykę; te będą łamać ją jeszcze bardziej. Musimy więc przygotować się na przyszłość, w której egalitaryzm jako teza empiryczna jest (jeszcze bardziej) oczywiście fałszywy. Na razie nie mam zwięzłego podsumowania implikacji tej pozycji. Ale przynajmniej chcę mieć nazwę dla niej. Niefortunnie, nie mamy naprawdę dobrego słowa na „anty-egalitarny”. Dziedziczność jest zbyt wąska (tak jak hierarchizm), a elitaryzm ma złe konotacje. Moim kandydatem jest „asymetrysta”. Egalitaryzm stara się narzucić rodzaj symetrii w całym społeczeństwie. Ale naszą rolą będzie coraz bardziej projektowanie społeczeństw, w których brak takich symetrii jest cechą, a nie błędem. 2. Protekcjonizm. Protekcjonizm ma złą reputację, ponieważ rynki globalne są bardzo efektywne. Ale wcale nie są odporne na działania wrogie. Jeśli jesteś małym krajem i otwierasz swoje granice na walutę, produkty i firmy znacznie większego kraju, to w krótkim okresie staniesz się bogatszy, ale także będziesz miał niezwykle trudności w zapobieganiu temu, aby ten inny kraj zdobył nad tobą dużą władzę w dłuższym okresie. (Jako przykład historyczny, handel często był ważnym poprzednikiem kolonialnej ekspansji. Zobacz także doskonałą książkę Amy Chua „Świat w ogniu”, o tym, jak wolne rynki umożliwiają niektórym mniejszościom zdobycie nieproporcjonalnej władzy.) Kiedy jesteś wystarczająco biedny lub większa władza jest wystarczająco dobroczynna, może to być dobra umowa! Ale zmierzamy w kierunku przyszłości, w której a) większość ludzi stanie się znacznie bogatsza w absolutnych wartościach dzięki innowacjom napędzanym przez AI, a b) AI ostatecznie zdobędą dużą władzę w niezbyt dobroczynny sposób (np. zautomatyzowane firmy, którym nadano cel maksymalizacji zysku). Biorąc to pod uwagę, protekcjonizm zaczyna wyglądać jak znacznie lepszy pomysł. Fakt, że spowalnia wzrost, nie jest problemem, ponieważ społeczeństwo już będzie się zmagać z tempem zmian. A pozwala na znacznie większą kontrolę nad podmiotami działającymi w twoich granicach - np. możesz znacznie dokładniej monitorować wykorzystanie podejmowania decyzji przez AI w firmach. Mówiąc inaczej, w przyszłości cała ludzka gospodarka będzie „mniejszym krajem”, który staje w obliczu inwazji waluty, produktów i firm kontrolowanych przez AI (lub ludzi, którzy delegowali władzę AI). W miarę jak chcemy zachować kontrolę, nie powinniśmy pozwalać ludziom na umieszczanie tych AI w rajach podatkowych, jednocześnie mając możliwość zdobycia znacznego wpływu na kraje zachodnie. Dobrze, ale czy kraje protekcjonistyczne po prostu nie zostaną wyprzedzone? Nie, jeśli zaczynają z wystarczającą mocą, aby powstrzymać inne kraje przed wdrażaniem AI dążących do władzy. A w tej chwili największa potęga produkcyjna na świecie jest już dość protekcjonistyczna. Więc jeśli USA również pójdą w tym kierunku, wydaje się prawdopodobne, że połączony wpływ USA i Chin będzie wystarczający, aby zapobiec innym „defektom”. Wąskim gardłem będzie zaufanie między tymi dwoma supermocarstwami. (Kontynuacja w poniższym tweecie.)