Три политические позиции, которые, на мой взгляд, сильно недооценены с учетом развития ИИ: 1. «Революция наследственности» @nathancofnas — идея о том, что интеллектуальное доминирование леворадикального эгалитаризма зависит от табу на групповые когнитивные различия — уже очень важна. Но существующие групповые когнитивные различия бледнеют по сравнению с теми, которые возникнут между базовыми людьми и: - людьми, которые наиболее эффективно используют ИИ - людьми с интерфейсами «мозг-компьютер» - генетически модифицированными людьми - самими ИИ Текущие когнитивные различия уже разрушают политику; эти различия разрушат её еще больше. Поэтому нам нужно готовиться к будущему, в котором эгалитаризм как эмпирическая теза будет (даже более) очевидно ложным. У меня пока нет краткого резюме последствий этой позиции. Но, по крайней мере, я хочу название для неё. Неловко, но у нас на самом деле нет хорошего слова для «антиэгалитарного». Наследственность слишком узка (как и иерархизм), а элитизм имеет плохие коннотации. Мой кандидат — «асимметрист». Эгалитаризм пытается навязать тип симметрии по всей обществу. Но наша задача будет все больше заключаться в том, чтобы проектировать общества, где отсутствие таких симметрий является особенностью, а не ошибкой. 2. Протекционизм. Протекционизм получает плохую репутацию, потому что глобальные рынки очень эффективны. Но они совершенно не являются противостоящими. Если вы маленькая страна и открываете свои границы для валюты, продуктов и компаний гораздо большей страны, то вы станете краткосрочно богаче, но также столкнетесь с огромными трудностями в предотвращении того, чтобы эта другая страна не получила много власти над вами в долгосрочной перспективе. (В качестве исторического примера, торговля часто была важным предшественником колониальной экспансии. См. также отличную книгу Эми Чуа «Мир в огне», о том, как свободные рынки позволяют некоторым меньшинствам получить непропорциональную власть.) Когда вы достаточно бедны или большая сила достаточно благожелательна, это может быть хорошей сделкой! Но мы движемся к будущему, в котором a) большинство людей станут гораздо богаче в абсолютных терминах благодаря инновациям, основанным на ИИ, и b) ИИ в конечном итоге будут обладать большой властью не очень благожелательными способами (например, автоматизированные компании, которым поставлена цель максимизации прибыли). Учитывая это, протекционизм начинает выглядеть как гораздо лучшая идея. Тот факт, что он замедляет рост, не является проблемой, потому что общество уже будет испытывать шок от темпа изменений. И это позволяет вам иметь гораздо больший контроль над сущностями, которые действуют в ваших границах — например, вы можете гораздо более тщательно контролировать использование ИИ в принятии решений внутри компаний. Иными словами, в будущем вся человеческая экономика будет «меньшей страной», которая сталкивается с вторжениями валюты, продуктов и компаний под контролем ИИ (или людей, которые делегировали власть ИИ). Поскольку мы хотим сохранить контроль, нам не следует позволять людям базировать этих ИИ в регулируемых убежищах, оставаясь при этом способными оказывать значительное влияние на западные страны. Хорошо, но разве протекционистские страны просто не будут вытеснены? Не если они начнут с достаточной силы, чтобы сдерживать другие страны от развертывания ИИ, стремящихся к власти. И прямо сейчас величайшая производственная сила мира уже довольно протекционистская. Так что если США тоже пойдут в этом направлении, кажется вероятным, что комбинированное влияние США и Китая будет достаточным, чтобы предотвратить «дефект» со стороны других. Узким местом будет доверие между двумя сверхдержавами. (Продолжение в следующем твите.)

3. Национальный консерватизм Все вышесказанное основано на цели сохранения человеческих интересов в мире гораздо более мощных агентов. Это по своей сути является своего рода консерватизмом, и на него не следует смотреть как на должное. Техно-правые часто используют язык «победы», но, как я уже наблюдал ранее, будет все большее различие между *страной*, которая побеждает, и *гражданами*, которые побеждают. В конечном итоге полностью автоматизированная страна может процветать экономически и политически, не принося никакой пользы людям внутри нее. Национальный консерватизм очерчивает границы вокруг группы людей и говорит: «вот люди, чьи интересы мы в первую очередь защищаем». Как сказал Вэнс, Америка — это группа людей с общей историей и общим будущим. Если потерять это из виду, аргументы о эффективности и производительности в конечном итоге превратят страну в площадку для сингулярности. (Вы также не можете управлять страной в интересах «всех людей», потому что тогда вы окажетесь в противостоянии со своими собственными гражданами, которые справедливо хотят, чтобы их лидеры ставили их на первое место.) У правительства Китая много недостатков, но в этом аспекте они правы. Это нация-государство, управляемая своими собственными людьми для своих собственных людей. В рамках этого они не только экономически протекционистские, но и культурно протекционистские — блокируя иностранные идеи от распространения в своем интернете. Я не думаю, что это хороший подход для Запада, но я думаю, что мы должны попытаться разработать неконфликтный эквивалент: механизмы, с помощью которых нация может вести разговор с самой собой о том, что она должна ценить и куда ей следует двигаться, с повышением значимости идей, когда их сторонники имеют «кожу в игре». В противном случае самые красноречивые и убедительные влиятельные лица в конечном итоге окажутся просто ИИ. Все эти идеи очень высокого уровня, но они дают представление о том, почему я считаю, что правоцентристская политика лучше всего подготовлена к борьбе с ростом ИИ. Однако еще предстоит проделать много работы, чтобы их развить.

Вот доклад, который я сделал по идеям, связанным с теми, что в пункте 1.