Три політичні позиції, які, на мою думку, сильно недооцінюються з огляду на розвиток AGI: 1. @nathancofnas «спадкова революція» — ідея про те, що інтелектуальне домінування лівого егалітаризму ґрунтується на табу на групові когнітивні відмінності — вже дуже важлива. Але існуючі групові когнітивні відмінності бліднуть у порівнянні з тими, які виникнуть між вихідними людьми і: - люди, які найбільш ефективно використовують штучний інтелект - люди з інтерфейсом мозок-комп'ютер - генетично модифікована людина - Самі ШІ Нинішні когнітивні відмінності вже ламають політику; Вони порушать його набагато більше. Отже, нам потрібно готуватися до майбутнього, в якому егалітаризм як емпірична теза буде (навіть більше) очевидно хибним. Я поки що не маю стислого викладу наслідків цієї позиції. Але принаймні я хочу назвати його. Як не дивно, у нас насправді немає хорошого слова для «антиегалітарний». Спадковість занадто вузька (як і ієрархічна), а елітарна має погані конотації. Мій кандидат – "асимметрист". Егалітаризм намагається нав'язати певний тип симетрії в усьому суспільстві. Але наше завдання все частіше полягатиме в проектуванні суспільств, де відсутність таких симетрій є особливістю, а не помилкою. 2. Протекціонізм. Протекціонізм отримує погану репутацію, тому що глобальні ринки дуже ефективні. Але вони дуже не відрізняються конкуренційно міцністю. Якщо ви маленька країна і відкриваєте свої кордони для валюти, продуктів і компаній набагато більшої країни, то ви станете короткостроково багатшими, але також вам буде надзвичайно важко перешкодити цій іншій країні отримати велику владу над вами в довгостроковій перспективі. (Як історичний приклад, торгівля часто була важливим попередником колоніальної експансії. Дивіться також чудову книгу Емі Чуа «Світ у вогні» про те, як вільні ринки дозволяють деяким меншинам отримати непропорційну владу.) Коли ви досить бідні, або більша сила досить доброзичлива, це цілком може бути вигідною угодою! Але ми рухаємося до майбутнього, в якому а) більшість людей стануть набагато багатшими в абсолютному вираженні завдяки інноваціям, заснованим на штучному інтелекті, і б) штучний інтелект в кінцевому підсумку буде володіти великою владою не дуже доброзичливими способами (наприклад, автоматизовані компанії, які отримали мету максимізації прибутку). З огляду на це, протекціонізм починає виглядати набагато кращою ідеєю. Те, що це уповільнює зростання, не є проблемою, адже суспільство вже буде оговтуватися від темпів змін. Крім того, це дозволяє вам мати набагато більший контроль над організаціями, які діють у межах ваших кордонів – наприклад, ви можете набагато уважніше стежити за використанням штучного інтелекту для прийняття рішень у компаніях. Іншими словами, в майбутньому вся людська економіка буде «меншою країною», яка зіткнеться з вторгненням валюти, продуктів і компаній під контролем штучного інтелекту (або людей, які делегували владу штучному інтелекту). Оскільки ми хочемо зберегти контроль, ми не повинні дозволяти людям базувати ці штучні інтелекти в регуляторних гаванях, водночас маючи можливість отримати значний вплив на західні країни. Гаразд, але чи не випередять протекціоністські країни просто конкуренцію? Ні, якщо вони почнуть з достатньою потужністю, щоб стримати інші країни від розгортання штучного інтелекту, який прагне влади. І саме зараз найбільша у світі виробнича держава вже є досить протекціоністською. Отже, якщо США також рухатимуться в цьому напрямку, здається ймовірним, що спільний вплив США та Китаю буде достатнім, щоб запобігти «переходу» будь-кого іншого. Вузьким місцем буде довіра між двома наддержавами. (Продовження у твіті нижче.)