У новому юридичному листі, спрямованому на OpenAI, в різких термінах викладено гроші та захоплення влади, які OpenAI намагається обманом змусити своїх членів правління прийняти — те, що один аналітик називає «крадіжкою тисячоліття». Прості факти справи одночасно руйнівні і похмуро смішні. Поясню для вашої розваги. Лист «Не для приватної вигоди» написаний для відповідних генеральних прокурорів і підписаний 3 лауреатами Нобелівської премії серед десятків провідних дослідників машинного навчання, юридичних експертів, економістів, колишніх співробітників OpenAI та груп громадянського суспільства. (Я надаю посилання нижче.) У ньому йдеться, що спроба OpenAI реструктуризуватися як комерційна організація просто абсолютно незаконна, як ви могли б наївно очікувати. Потім він просить Генеральних прокурорів (AGs) вжити деяких крайніх заходів, про які я ніколи раніше не говорив. Ось як вони будують свої радикальні вимоги. Протягом 9 років OpenAI та її засновники до нудоти розмірковували про те, наскільки важливим є контроль над некомерційними організаціями для: 1. Не дозволяйте кільком людям концентрувати величезну владу 2. Забезпечити, щоб переваги штучного загального інтелекту (AGI) були спільними з усім людством 3. Уникайте стимулу ризикувати життям інших людей, щоб стати ще багатшими Вони сказали нам, що ці зобов'язання є юридично обов'язковими та невідворотними. Вони займалися цим не заради грошей чи влади. Їм можна було довіряти. «Мета полягає не в тому, щоб створити AGI, а в тому, щоб переконатися, що AGI принесе користь людству», — сказав президент OpenAI Грег Брокман. І справді, благодійна мета OpenAI, яку її правління юридично зобов'язане переслідувати, полягає в тому, щоб «забезпечити, щоб загальний штучний інтелект приносив користь усьому людству», а не сприяти «приватній вигоді будь-якої людини». 100 найкращих дослідників вирішили працювати в OpenAI із зарплатами нижчими за ринкові, частково мотивованими цим ідеалізмом. Це було ключовим для стратегії підбору персоналу та PR OpenAI. Ось і настав 2024 рік. Цей ідеалізм приніс свої плоди. OpenAI – одна з найпопулярніших компаній у світі. Гроші надходять. Але тепер раптом нам розповідають про налаштування, за яких вони стали одним із найбільш швидкозростаючих стартапів в історії, про налаштування, яке нібито було абсолютно необхідним і відрізняло їх від їхніх конкурентів, а також про захист, який дозволив нам довіряти їм, УСІ МАЮТЬ ПІТИ ЯКНАЙШВИДШЕ: 1. Право некомерційної організації (а отже, і людства в цілому) на надприбутки, чи повинні вони заробляти десятки трильйонів? Пішов. (Вгадайте, куди тепер підуть ці гроші!) 2. Право власності некомерційної організації на AGI та здатність впливати на те, як вона фактично використовується після її створення? Пішов. 3. Здатність (і юридичний обов'язок) некомерційної організації заперечувати, якщо OpenAI робить обурливі речі, які шкодять людству? Пішов. 4. Зобов'язання допомагати іншому проекту AGI, якщо це буде необхідно для уникнення шкідливої гонки озброєнь, або якщо об'єднання зусиль допоможе США перемогти Китай? Пішов. 5. Контроль над більшістю рад директорів людьми, які не мають величезної особистої фінансової частки в OpenAI? Пішов. 6. Здатність судів або генеральних прокурорів заперечувати, якщо вони зраджують заявленій ними благодійну мету – приносити користь людству? Пішов, пішов, пішов! Скріншот з листа: (Я буду робити новий твіт після кожного зображення, щоб вони виглядали правильно.) 1/