Трохи особистих новин: після відходу з OpenAI я публічно пишу про те, як побудувати насправді захоплююче майбутнє зі штучним інтелектом: уникати найгірших ризиків і будувати дійсно хороше майбутнє. Я радий продовжувати цю роботу як співробітник Інституту коріння прогресу.

Коли я пішов з OpenAI, я написав, що дуже наляканий тим, куди рухається штучний інтелект. Це все ще правда, і я знаю так багато співробітників AI lab, які хочуть, щоб це все припинилося, але відчувають індивідуальне безсилля. Але я також вірю в глибоко позитивне майбутнє зі штучним інтелектом, якщо з ризиками добре впоратися.

Щоб було зрозуміло, я вважаю, що лабораторії штучного інтелекту сьогодні далеко відхиляються від шляху до досягнення позитивного майбутнього: вони недостатньо серйозно ставляться до ризиків штучного інтелекту і не будують планів, які насправді захоплюють.

Простий спосіб опису ризиків: компанії зі штучним інтелектом наввипередки створюють технологію, яку вони абсолютно не розуміють і не можуть контролювати, але вважають, що вона може бути надзвичайно руйнівною. І з точки зору переваг: твердження про те, що штучний інтелект вирішить проблему зміни клімату, не робить його таким.

У своїй статті я прагну дати вам чесний, чіткий погляд на те, що відбувається в штучному інтелекті, від людини, яка працює в цій галузі вже майже десять років. Де компанії зі штучним інтелектом грають в ігри слів? Які види зниження ризику є легкими? І про що я взагалі так переживаю?

Я радий приєднатися до спільноти інших письменників, але будьте впевнені, я все ще можу говорити все, що хочу. Є повна незалежність: єдине, що має змінитися, це, сподіваюся, деяке покращення мого стилю письма.

Якщо ви хочете слідкувати за новинами, ви можете підписатися на Clear-Eyed AI на цьому відомому іншому сайті (натисніть на нього з моєї біографії). Це безкоштовно; Я просто прошу вас поділитися цим словом з іншими, кому воно також може сподобатися.

Я також ніколи належним чином не представляв себе там - і тому сьогоднішня публікація присвячена моїй історії походження безпеки штучного інтелекту та деяким основним ідеям, які керують моїм мисленням. Також бонусна історія про дивовижний зв'язок між безпекою ШІ та «китайським курячим салатом».