Trois positions politiques que je pense être sévèrement sous-estimées compte tenu du développement de l'AGI : 1. La "révolution héritée" de @nathancofnas - l'idée que la dominance intellectuelle de l'égalitarisme de gauche repose sur le tabou des différences cognitives entre groupes - est déjà très importante. Mais les différences cognitives existantes entre groupes pâlissent en comparaison de celles qui émergeront entre les humains de base et : - les humains qui exploitent l'IA de manière la plus efficace - les humains avec des interfaces cerveau-ordinateur - les humains génétiquement modifiés - les IA elles-mêmes Les différences cognitives actuelles brisent déjà la politique ; celles-ci la briseront encore plus. Nous devons donc nous préparer à un avenir où l'égalitarisme en tant que thèse empirique est (encore plus) manifestement faux. Je n'ai pas encore de résumé concis des implications de cette position. Mais au moins, je veux un nom pour cela. Malheureusement, nous n'avons pas vraiment de bon mot pour "anti-égalitaire". Héritier est trop étroit (tout comme hiérarchiste) et élitiste a de mauvaises connotations. Mon candidat est "asymétriste". L'égalitarisme essaie d'imposer un type de symétrie à l'ensemble de la société. Mais notre travail sera de plus en plus de concevoir des sociétés où l'absence de telles symétries est une caractéristique et non un bug. 2. Protectionnisme. Le protectionnisme a mauvaise réputation, car les marchés mondiaux sont très efficaces. Mais ils ne sont pas du tout robustes face à l'adversité. Si vous êtes un petit pays et que vous ouvrez vos frontières à la monnaie, aux produits et aux entreprises d'un pays beaucoup plus grand, vous deviendrez à court terme plus riche mais aurez également beaucoup de mal à empêcher cet autre pays de gagner beaucoup de pouvoir sur vous à long terme. (Comme exemple historique, le commerce a souvent été un précurseur important de l'expansion coloniale. Voir aussi le livre excellent d'Amy Chua, "World on Fire", sur la façon dont les marchés libres permettent à certaines minorités de gagner un pouvoir disproportionné.) Quand vous êtes assez pauvre, ou que le pouvoir plus grand est assez bienveillant, cela peut être un bon accord ! Mais nous nous dirigeons vers un avenir où a) la plupart des gens deviendront beaucoup plus riches en termes absolus grâce à l'innovation alimentée par l'IA, et b) les IA finiront par exercer beaucoup de pouvoir de manière pas très bienveillante (par exemple, des entreprises automatisées qui ont pour objectif la maximisation des profits). Étant donné cela, le protectionnisme commence à sembler une bien meilleure idée. Le fait qu'il ralentisse la croissance n'est pas un problème, car la société sera déjà en train de se remettre du rythme du changement. Et cela vous permet d'avoir beaucoup plus de contrôle sur les entités qui opèrent dans vos frontières - par exemple, vous pouvez surveiller l'utilisation de la prise de décision par IA au sein des entreprises de manière beaucoup plus étroite. Pour le dire autrement, à l'avenir, l'ensemble de l'économie humaine sera le "petit pays" qui fait face à des incursions de monnaie, de produits et d'entreprises sous le contrôle des IA (ou des humains qui ont délégué le pouvoir aux IA). Dans la mesure où nous voulons conserver le contrôle, nous ne devrions pas laisser les gens baser ces IA dans des havres réglementaires tout en pouvant encore exercer une influence significative sur les pays occidentaux. D'accord, mais les pays protectionnistes ne seront-ils pas simplement surclassés ? Pas s'ils commencent avec suffisamment de pouvoir pour dissuader d'autres pays de déployer des IA cherchant le pouvoir. Et en ce moment, la plus grande puissance manufacturière du monde est déjà assez protectionniste. Donc, si les États-Unis s'orientent également dans cette direction, il semble probable que l'influence combinée des États-Unis et de la Chine sera suffisante pour empêcher quiconque d'"agir". Le goulot d'étranglement va être la confiance entre les deux superpuissances. (À suivre dans le tweet ci-dessous.)

3. Conservatisme national Tout ce qui précède repose sur l'objectif de préserver les intérêts humains dans un monde d'agents beaucoup plus puissants. C'est intrinsèquement une forme de conservatisme, et une que nous ne devrions pas prendre pour acquis. La droite technologique utilise souvent le langage de la "victoire", mais comme je l'ai observé auparavant, il y aura de plus en plus une grande différence entre un *pays* qui gagne et ses *citoyens* qui gagnent. En théorie, un pays entièrement automatisé pourrait prospérer économiquement et politiquement sans réellement bénéficier à aucun des humains qui y vivent. Le conservatisme national trace une frontière autour d'un groupe de personnes et dit "voici les personnes dont nous veillons principalement aux intérêts". Comme l'a dit Vance, l'Amérique est un groupe de personnes avec une histoire partagée et un avenir commun. Si l'on perd de vue cela, les arguments sur l'efficacité et la productivité finiront par en faire un terrain de jeu pour la singularité. (On ne peut pas non plus diriger un pays pour le bénéfice de "tous les humains", car alors vous êtes dans une relation d'adversité avec vos propres citoyens, qui veulent à juste titre que leurs dirigeants les priorisent.) Le gouvernement chinois a de nombreux défauts, mais il réussit bien cet aspect. C'est un État-nation dirigé par son propre peuple pour son propre peuple. Dans ce cadre, ils ne sont pas seulement protectionnistes sur le plan économique, mais aussi protectionnistes sur le plan culturel - bloquant les idées étrangères de gagner du terrain sur leur internet. Je ne pense pas que ce soit une bonne approche pour l'Occident, mais je pense que nous devrions essayer de développer un équivalent non coercitif : des mécanismes par lesquels une nation peut avoir une conversation avec elle-même sur ce qu'elle devrait valoriser et où elle devrait aller, avec des idées valorisées lorsque leurs partisans ont "de la peau dans le jeu". Sinon, les influenceurs les plus éloquents et persuasifs finiront par n'être que des IA. Toutes ces idées sont très abstraites, mais elles donnent un aperçu de pourquoi je pense que la politique de droite est la mieux équipée pour faire face à l'essor de l'IA. Il y a encore beaucoup de travail à faire pour les développer.

Voici une conférence que j'ai donnée sur des idées liées à celles du point 1.