Три політичні позиції, які, на мою думку, сильно недооцінюються з огляду на розвиток AGI: 1. @nathancofnas «спадкова революція» — ідея про те, що інтелектуальне домінування лівого егалітаризму ґрунтується на табу на групові когнітивні відмінності — вже дуже важлива. Але існуючі групові когнітивні відмінності бліднуть у порівнянні з тими, які виникнуть між вихідними людьми і: - люди, які найбільш ефективно використовують штучний інтелект - люди з інтерфейсом мозок-комп'ютер - генетично модифікована людина - Самі ШІ Нинішні когнітивні відмінності вже ламають політику; Вони порушать його набагато більше. Отже, нам потрібно готуватися до майбутнього, в якому егалітаризм як емпірична теза буде (навіть більше) очевидно хибним. Я поки що не маю стислого викладу наслідків цієї позиції. Але принаймні я хочу назвати його. Як не дивно, у нас насправді немає хорошого слова для «антиегалітарний». Спадковість занадто вузька (як і ієрархічна), а елітарна має погані конотації. Мій кандидат – "асимметрист". Егалітаризм намагається нав'язати певний тип симетрії в усьому суспільстві. Але наше завдання все частіше полягатиме в проектуванні суспільств, де відсутність таких симетрій є особливістю, а не помилкою. 2. Протекціонізм. Протекціонізм отримує погану репутацію, тому що глобальні ринки дуже ефективні. Але вони дуже не відрізняються конкуренційно міцністю. Якщо ви маленька країна і відкриваєте свої кордони для валюти, продуктів і компаній набагато більшої країни, то ви станете короткостроково багатшими, але також вам буде надзвичайно важко перешкодити цій іншій країні отримати велику владу над вами в довгостроковій перспективі. (Як історичний приклад, торгівля часто була важливим попередником колоніальної експансії. Дивіться також чудову книгу Емі Чуа «Світ у вогні» про те, як вільні ринки дозволяють деяким меншинам отримати непропорційну владу.) Коли ви досить бідні, або більша сила досить доброзичлива, це цілком може бути вигідною угодою! Але ми рухаємося до майбутнього, в якому а) більшість людей стануть набагато багатшими в абсолютному вираженні завдяки інноваціям, заснованим на штучному інтелекті, і б) штучний інтелект в кінцевому підсумку буде володіти великою владою не дуже доброзичливими способами (наприклад, автоматизовані компанії, які отримали мету максимізації прибутку). З огляду на це, протекціонізм починає виглядати набагато кращою ідеєю. Те, що це уповільнює зростання, не є проблемою, адже суспільство вже буде оговтуватися від темпів змін. Крім того, це дозволяє вам мати набагато більший контроль над організаціями, які діють у межах ваших кордонів – наприклад, ви можете набагато уважніше стежити за використанням штучного інтелекту для прийняття рішень у компаніях. Іншими словами, в майбутньому вся людська економіка буде «меншою країною», яка зіткнеться з вторгненням валюти, продуктів і компаній під контролем штучного інтелекту (або людей, які делегували владу штучному інтелекту). Оскільки ми хочемо зберегти контроль, ми не повинні дозволяти людям базувати ці штучні інтелекти в регуляторних гаванях, водночас маючи можливість отримати значний вплив на західні країни. Гаразд, але чи не випередять протекціоністські країни просто конкуренцію? Ні, якщо вони почнуть з достатньою потужністю, щоб стримати інші країни від розгортання штучного інтелекту, який прагне влади. І саме зараз найбільша у світі виробнича держава вже є досить протекціоністською. Отже, якщо США також рухатимуться в цьому напрямку, здається ймовірним, що спільний вплив США та Китаю буде достатнім, щоб запобігти «переходу» будь-кого іншого. Вузьким місцем буде довіра між двома наддержавами. (Продовження у твіті нижче.)

3. Національний консерватизм Все вищесказане ґрунтується на меті збереження людських інтересів у світі набагато потужніших агентів. Це свого роду консерватизм, і ми не повинні сприймати його як належне. Праві технології часто використовують мову «перемоги», але, як я вже зазначав раніше, дедалі більше існуватиме велика різниця між перемогою «країни» та перемогою її «громадян». У цьому випадку повністю автоматизована країна може процвітати економічно і політично, не приносячи фактичної користі нікому з людей в ній. Національний консерватизм проводить межу навколо групи людей і каже: «Ось люди, інтереси яких ми в першу чергу дбаємо». Як сказав Венс, Америка – це група людей зі спільною історією та спільним майбутнім. Забудьте про це, і суперечки про ефективність і продуктивність в кінцевому підсумку перетворять його в плацдарм для сингулярності. (Ви також не можете керувати країною на благо «всіх людей», тому що тоді ви перебуваєте у ворожих відносинах зі своїми власними громадянами, які справедливо хочуть, щоб їхні лідери ставили їх на перше місце.) Уряд Китаю має багато недоліків, але він правильно розуміє цю частину. Вони є національною державою, якою керує власний народ для свого народу. Частково вони є не лише економічно протекціоністськими, а й культурно протекціоністськими, блокуючи іноземні ідеї від поширення в їхньому Інтернеті. Я не думаю, що це хороший підхід для Заходу, але я вважаю, що ми повинні спробувати розробити непримусовий еквівалент: механізми, за допомогою яких нація може вести розмову сама з собою про те, що вона повинна цінувати і куди вона повинна рухатися, з ідеями, які переважуються, коли їхні прихильники мають «шкіру в грі». В іншому випадку найкрасномовніші та найпереконливіші інфлюенсери в кінцевому підсумку виявляться просто штучним інтелектом. Усі ці ідеї є дуже високорівневими, але вони дають уявлення про те, чому, на мою думку, права політика найкраще підготовлена для того, щоб впоратися з розвитком штучного інтелекту. Однак попереду ще багато роботи, щоб конкретизувати їх.

Ось моя доповідь про ідеї, пов'язані з тими, що наведені в пункті 1.