Trois positions politiques que je pense être sévèrement sous-estimées compte tenu du développement de l'AGI : 1. La "révolution héritée" de @nathancofnas - l'idée que la dominance intellectuelle de l'égalitarisme de gauche repose sur le tabou des différences cognitives entre groupes - est déjà très importante. Mais les différences cognitives existantes entre groupes pâlissent en comparaison de celles qui émergeront entre les humains de base et : - les humains qui exploitent l'IA de manière la plus efficace - les humains avec des interfaces cerveau-ordinateur - les humains génétiquement modifiés - les IA elles-mêmes Les différences cognitives actuelles brisent déjà la politique ; celles-ci la briseront encore plus. Nous devons donc nous préparer à un avenir où l'égalitarisme en tant que thèse empirique est (encore plus) manifestement faux. Je n'ai pas encore de résumé concis des implications de cette position. Mais au moins, je veux un nom pour cela. Malheureusement, nous n'avons pas vraiment de bon mot pour "anti-égalitaire". Héritier est trop étroit (tout comme hiérarchiste) et élitiste a de mauvaises connotations. Mon candidat est "asymétriste". L'égalitarisme essaie d'imposer un type de symétrie à l'ensemble de la société. Mais notre travail sera de plus en plus de concevoir des sociétés où l'absence de telles symétries est une caractéristique et non un bug. 2. Protectionnisme. Le protectionnisme a mauvaise réputation, car les marchés mondiaux sont très efficaces. Mais ils ne sont pas du tout robustes face à l'adversité. Si vous êtes un petit pays et que vous ouvrez vos frontières à la monnaie, aux produits et aux entreprises d'un pays beaucoup plus grand, vous deviendrez à court terme plus riche mais aurez également beaucoup de mal à empêcher cet autre pays de gagner beaucoup de pouvoir sur vous à long terme. (Comme exemple historique, le commerce a souvent été un précurseur important de l'expansion coloniale. Voir aussi le livre excellent d'Amy Chua, "World on Fire", sur la façon dont les marchés libres permettent à certaines minorités de gagner un pouvoir disproportionné.) Quand vous êtes assez pauvre, ou que le pouvoir plus grand est assez bienveillant, cela peut être un bon accord ! Mais nous nous dirigeons vers un avenir où a) la plupart des gens deviendront beaucoup plus riches en termes absolus grâce à l'innovation alimentée par l'IA, et b) les IA finiront par exercer beaucoup de pouvoir de manière pas très bienveillante (par exemple, des entreprises automatisées qui ont pour objectif la maximisation des profits). Étant donné cela, le protectionnisme commence à sembler une bien meilleure idée. Le fait qu'il ralentisse la croissance n'est pas un problème, car la société sera déjà en train de se remettre du rythme du changement. Et cela vous permet d'avoir beaucoup plus de contrôle sur les entités qui opèrent dans vos frontières - par exemple, vous pouvez surveiller l'utilisation de la prise de décision par IA au sein des entreprises de manière beaucoup plus étroite. Pour le dire autrement, à l'avenir, l'ensemble de l'économie humaine sera le "petit pays" qui fait face à des incursions de monnaie, de produits et d'entreprises sous le contrôle des IA (ou des humains qui ont délégué le pouvoir aux IA). Dans la mesure où nous voulons conserver le contrôle, nous ne devrions pas laisser les gens baser ces IA dans des havres réglementaires tout en pouvant encore exercer une influence significative sur les pays occidentaux. D'accord, mais les pays protectionnistes ne seront-ils pas simplement surclassés ? Pas s'ils commencent avec suffisamment de pouvoir pour dissuader d'autres pays de déployer des IA cherchant le pouvoir. Et en ce moment, la plus grande puissance manufacturière du monde est déjà assez protectionniste. Donc, si les États-Unis s'orientent également dans cette direction, il semble probable que l'influence combinée des États-Unis et de la Chine sera suffisante pour empêcher quiconque d'"agir". Le goulot d'étranglement va être la confiance entre les deux superpuissances. (À suivre dans le tweet ci-dessous.)