O nouă scrisoare legală destinată OpenAI prezintă în termeni duri banii și acapararea puterii pe care OpenAI încearcă să le păcălească pe membrii consiliului său de administrație să accepte – ceea ce un analist numește "furtul mileniului". Faptele simple ale cazului sunt atât devastatoare, cât și întunecate de hilare. Îți voi explica pentru amuzament. Scrisoarea "Not For Private Gain" este scrisă pentru procurorii generali relevanți și este semnată de 3 câștigători ai Premiului Nobel dintre zeci de cercetători de top în ML, experți juridici, economiști, foști angajați OpenAI și grupuri ale societății civile. (Voi face linkul mai jos.) Se spune că încercarea OpenAI de a se restructura ca profit este pur și simplu total ilegală, așa cum v-ați putea aștepta naiv. Apoi cere procurorilor generali să ia niște măsuri extreme pe care nu le-am mai văzut discutate până acum. Iată cum se ridică la cerințele lor radicale. Timp de 9 ani, OpenAI și fondatorii săi au vorbit ad nauseam despre modul în care controlul non-profit este esențial pentru: 1. Împiedicați câțiva oameni să concentreze o putere imensă 2. Asigurați-vă că beneficiile inteligenței artificiale generale (AGI) sunt împărtășite cu întreaga umanitate 3. Evitați stimulentul de a risca viețile altor oameni pentru a deveni și mai bogați Ne-au spus că aceste angajamente sunt obligatorii din punct de vedere juridic și inevitabile. Nu erau în asta pentru bani sau pentru putere. Puteam avea încredere în ei. "Scopul nu este de a construi AGI, ci de a ne asigura că AGI aduce beneficii umanității", a declarat președintele OpenAI, Greg Brockman. Și, într-adevăr, scopul caritabil, pe care consiliul său de administrație este obligat legal să-l urmărească, este de a "se asigura că inteligența artificială generală aduce beneficii întregii umanități", mai degrabă decât de a promova "câștigul privat al oricărei persoane". 100 de cercetători de top au ales să lucreze pentru OpenAI cu salarii sub nivelul pieței, parțial motivați de acest idealism. A fost esențial pentru strategia de recrutare și PR a OpenAI. Acum vine 2024. Acest idealism a dat roade. OpenAI este una dintre cele mai tari companii din lume. Banii se rostogolesc. Dar acum, dintr-o dată, ni se spune configurația prin care au devenit unul dintre startup-urile cu cea mai rapidă creștere din istorie, configurația care se presupune că a fost total esențială și i-a diferențiat de rivalii lor și protecțiile care ne-au permis să avem încredere în ei, TOATE TREBUIE SĂ MEARGĂ CÂT MAI REPEDE: 1. Dreptul organizației non-profit (și, prin urmare, al omenirii în general) la super-profituri, ar trebui să facă zeci de trilioane? Mers. (Ghici unde se vor duce banii ăștia acum!) 2. Proprietatea organizației non-profit asupra AGI și capacitatea de a influența modul în care este de fapt utilizat odată ce este construit? Mers. 3. Capacitatea (și datoria legală) a organizației non-profit de a obiecta dacă OpenAI face lucruri scandaloase care dăunează umanității? Mers. 4. Un angajament de a sprijini un alt proiect AGI dacă este necesar pentru a evita o cursă a înarmării dăunătoare sau dacă unirea forțelor ar ajuta SUA să învingă China? Mers. 5. Controlul majoritar al consiliului de administrație de către oameni care nu au o miză financiară personală uriașă în OpenAI? Mers. 6. Capacitatea instanțelor sau a procurorilor generali de a obiecta dacă își trădează scopul caritabil, declarat de a aduce beneficii umanității? A dispărut, a dispărut, a dispărut! Captură de ecran din scrisoare: (Voi face un nou tweet după fiecare imagine, astfel încât să pară corect.) 1/