Tiga posisi politik yang menurut saya sangat diremehkan mengingat perkembangan AGI: 1. "Revolusi keturunan" @nathancofnas - gagasan bahwa dominasi intelektual egalitarianisme sayap kiri bergantung pada perbedaan kognitif kelompok yang tabu - sudah sangat penting. Tetapi perbedaan kognitif kelompok yang ada pucat dibandingkan dengan yang akan muncul antara manusia dasar dan: - manusia yang memanfaatkan AI paling efektif - manusia dengan antarmuka otak-komputer - manusia yang direkayasa secara genetika - AI itu sendiri Perbedaan kognitif saat ini sudah merusak politik; ini akan menghancurkannya jauh lebih banyak. Jadi kita perlu mempersiapkan masa depan di mana egalitarianisme sebagai tesis empiris (bahkan lebih) jelas salah. Saya belum memiliki ringkasan singkat tentang implikasi dari posisi ini. Tapi setidaknya saya ingin nama untuk itu. Anehnya, kita sebenarnya tidak memiliki kata yang baik untuk "anti-egaliter". Hereditarian terlalu sempit (seperti halnya hierarkis) dan elitis memiliki konotasi yang buruk. Kandidat saya adalah "asimetris". Egalitarianisme mencoba menegakkan jenis simetri di seluruh masyarakat. Tetapi tugas kita akan semakin merancang masyarakat di mana tidak adanya simetri seperti itu adalah fitur, bukan bug. 2. Proteksionisme. Proteksionisme mendapat reputasi buruk, karena pasar global sangat efisien. Tapi mereka sangat tidak kuat secara bermusuhan. Jika Anda adalah negara kecil dan Anda membuka perbatasan Anda untuk mata uang, produk, dan perusahaan dari negara yang jauh lebih besar, maka Anda akan menjadi lebih kaya jangka pendek tetapi juga memiliki waktu yang sangat sulit untuk mencegah negara lain itu mendapatkan banyak kekuasaan atas Anda dalam jangka panjang. (Sebagai contoh sejarah, perdagangan sering menjadi pendahulu penting untuk ekspansi kolonial. Lihat juga buku Amy Chua yang sangat baik World on Fire, tentang bagaimana pasar bebas memungkinkan beberapa minoritas untuk mendapatkan kekuasaan yang tidak proporsional.) Ketika Anda cukup miskin, atau kekuatan yang lebih besar cukup baik hati, ini mungkin bagus! Tetapi kita sedang menuju masa depan di mana a) kebanyakan orang menjadi jauh lebih kaya secara absolut karena inovasi yang digerakkan oleh AI, dan b) AI akan berakhir dengan menggunakan banyak kekuasaan dengan cara yang tidak terlalu baik (misalnya perusahaan otomatis yang telah diberi tujuan memaksimalkan keuntungan). Mengingat hal ini, proteksionisme mulai terlihat seperti ide yang jauh lebih baik. Fakta bahwa hal itu memperlambat pertumbuhan bukanlah masalah, karena masyarakat sudah terhuyung-huyung dari laju perubahan. Dan ini memungkinkan Anda memiliki lebih banyak kendali atas entitas yang beroperasi di dalam perbatasan Anda - misalnya Anda dapat memantau penggunaan pengambilan keputusan AI di dalam perusahaan dengan lebih dekat. Dengan kata lain, di masa depan seluruh ekonomi manusia akan menjadi "negara kecil" yang menghadapi serbuan mata uang, produk, dan perusahaan di bawah kendali AI (atau manusia yang telah mendelegasikan kekuatan kepada AI). Sejauh kita ingin mempertahankan kendali, kita tidak boleh membiarkan orang mendasarkan AI tersebut di surga regulasi sambil tetap bisa mendapatkan pengaruh yang signifikan atas negara-negara barat. Oke, tetapi bukankah negara-negara proteksionis akan kalah bersaing? Tidak jika mereka memulai dengan kekuatan yang cukup untuk menghalangi negara lain menggunakan AI yang mencari kekuasaan. Dan saat ini, kekuatan manufaktur terbesar di dunia sudah cukup proteksionis. Jadi jika AS bergerak ke arah itu juga, tampaknya pengaruh gabungan AS dan China akan cukup untuk mencegah orang lain "membelot". Kemacetan akan menjadi kepercayaan antara dua negara adidaya. (Bersambung dalam tweet di bawah.)

3. Konservatisme nasional Semua hal di atas didasarkan pada tujuan melestarikan kepentingan manusia di dunia dengan agen yang jauh lebih kuat. Ini secara inheren adalah semacam konservatisme, dan yang tidak boleh kita terima begitu saja. Kanan teknologi sering menggunakan bahasa "menang", tetapi seperti yang telah saya amati sebelumnya akan semakin ada perbedaan besar antara *negara* yang menang dan *warganya* yang menang. Dalam batasnya, negara yang sepenuhnya otomatis dapat berkembang secara ekonomi dan politik tanpa benar-benar menguntungkan manusia di dalamnya. Konservatisme nasional menarik batas di sekitar sekelompok orang dan mengatakan "inilah orang-orang yang kepentingannya terutama kita perhatikan". Seperti yang dikatakan Vance, Amerika adalah sekelompok orang dengan sejarah bersama dan masa depan yang sama. Lupakan itu, dan argumen tentang efisiensi dan produktivitas akan mengubahnya menjadi tempat pementasan untuk singularitas. (Anda juga tidak dapat menjalankan negara untuk kepentingan "semua manusia", karena Anda berada dalam hubungan permusuhan dengan warga Anda sendiri, yang dengan benar ingin pemimpin mereka memprioritaskan mereka.) Pemerintah Tiongkok memiliki banyak kekurangan, tetapi bagian ini benar. Mereka adalah negara-bangsa yang dijalankan oleh rakyatnya sendiri untuk rakyatnya sendiri. Sebagai bagian dari itu, mereka tidak hanya proteksionis secara ekonomi tetapi juga proteksionis budaya - menghalangi ide-ide asing agar tidak mendapatkan daya tarik di internet mereka. Saya tidak berpikir ini adalah pendekatan yang baik untuk Barat, tetapi saya pikir kita harus mencoba mengembangkan padanan non-koersif: mekanisme di mana suatu bangsa dapat melakukan percakapan dengan dirinya sendiri tentang apa yang harus dihargai dan ke mana ia harus pergi, dengan ide-ide yang ditingkatkan ketika pendukung mereka memiliki "kulit dalam permainan". Jika tidak, influencer yang paling fasih dan persuasif akan berakhir hanya menjadi AI. Semua ide ini sangat tinggi, tetapi mereka memberikan garis besar mengapa saya pikir politik sayap kanan paling siap untuk menghadapi kebangkitan AI. Namun, masih banyak pekerjaan yang harus dilakukan untuk menyempurnakannya.

Berikut adalah ceramah yang saya berikan tentang ide-ide yang terkait dengan yang ada di poin 1.