Une nouvelle lettre juridique destinée à OpenAI expose en termes crus la prise d’argent et de pouvoir qu’OpenAI tente de faire accepter aux membres de son conseil d’administration – ce qu’un analyste appelle « le vol du millénaire ». Les faits simples de l’affaire sont à la fois dévastateurs et sombrement hilarants. Je vais vous expliquer pour votre amusement. La lettre « Not For Private Gain » est écrite pour les procureurs généraux concernés et est signée par 3 lauréats du prix Nobel parmi des dizaines de chercheurs de premier plan dans le domaine du ML, des experts juridiques, des économistes, d’anciens membres du personnel d’OpenAI et des groupes de la société civile. (Je vais mettre le lien ci-dessous.) Il dit que la tentative d’OpenAI de se restructurer en tant qu’entreprise à but lucratif est tout simplement totalement illégale, comme on pourrait s’y attendre naïvement. Il demande ensuite aux procureurs généraux (VG) de prendre des mesures extrêmes dont je n’ai jamais vu parler auparavant. Voici comment ils se préparent à leurs exigences radicales. Pendant 9 ans, OpenAI et ses fondateurs n’ont cessé de dire à quel point le contrôle à but non lucratif était essentiel pour : 1. Évitez que quelques personnes ne concentrent un pouvoir immense 2. Veiller à ce que les avantages de l’intelligence artificielle générale (AGI) soient partagés avec toute l’humanité 3. Évitez l’incitation à risquer la vie des autres pour devenir encore plus riche Ils nous ont dit que ces engagements étaient juridiquement contraignants et incontournables. Ils n’étaient pas là pour l’argent ou le pouvoir. Nous pouvions leur faire confiance. « L’objectif n’est pas de construire l’AGI, c’est de s’assurer que l’AGI profite à l’humanité », a déclaré Greg Brockman, président d’OpenAI. Et en effet, l’objectif caritatif d’OpenAI, que son conseil d’administration est légalement tenu de poursuivre, est de « s’assurer que l’intelligence artificielle générale profite à toute l’humanité » plutôt que de promouvoir « le gain privé de toute personne ». Des centaines de chercheurs de haut niveau ont choisi de travailler pour OpenAI à des salaires inférieurs à ceux du marché, en partie motivés par cet idéalisme. Il était au cœur de la stratégie de recrutement et de relations publiques d’OpenAI. Maintenant, 2024 arrive. Cet idéalisme a porté ses fruits. OpenAI est l’une des entreprises les plus en vogue au monde. L’argent afflue. Mais maintenant, tout à coup, on nous dit que la configuration dans laquelle ils sont devenus l’une des startups à la croissance la plus rapide de l’histoire, la configuration qui était censée être totalement essentielle et les distinguait de leurs rivaux, et les protections qui nous ont permis de leur faire confiance, TOUT CELA DOIT DISPARAÎTRE DÈS QUE POSSIBLE : 1. Le droit des organisations à but non lucratif (et donc de l’humanité dans son ensemble) aux super-profits, devraient-elles faire des dizaines de milliards ? Parti. (Devinez où ira cet argent maintenant !) 2. La propriété d’AGI par l’organisme à but non lucratif et sa capacité à influencer la façon dont il est réellement utilisé une fois qu’il est construit ? Parti. 3. La capacité (et l’obligation légale) de l’organisation à but non lucratif de s’opposer si OpenAI fait des choses scandaleuses qui nuisent à l’humanité ? Parti. 4. Un engagement à aider un autre projet AGI si nécessaire pour éviter une course aux armements nuisible, ou si l’union des forces aiderait les États-Unis à battre la Chine ? Parti. 5. Un contrôle majoritaire du conseil d’administration par des personnes qui n’ont pas un énorme intérêt financier personnel dans OpenAI ? Parti. 6. La capacité des tribunaux ou des procureurs généraux de s’opposer s’ils trahissent leur objectif caritatif déclaré d’aider l’humanité ? Parti, parti, parti ! Capture d’écran de la lettre : (Je ferai un nouveau tweet après chaque image pour qu’elles apparaissent correctement.) 1/