Некоторые личные новости: с тех пор как я покинул OpenAI, я публично пишу о том, как построить будущее ИИ, которое действительно вдохновляет: избегая худших рисков и создавая действительно хорошее будущее. Я рад продолжить эту работу в качестве стипендиата Института Корней Прогресса.

Когда я покинул OpenAI, я написал, что меня довольно пугает, куда движется ИИ. Это по-прежнему правда, и я знаю так много сотрудников ИИ-лабораторий, которые хотят, чтобы это все остановилось, но чувствуют себя индивидуально бессильными. Но я также верю в глубоко позитивное будущее с ИИ, если риски будут правильно управляться.

Чтобы прояснить, я думаю, что сегодня лаборатории ИИ сильно отклонились от курса на достижение положительного будущего: они недостаточно серьезно относятся к рискам ИИ и не разрабатывают планы, которые действительно вдохновляют.

Простой способ описать риски: компании, занимающиеся ИИ, соревнуются в создании технологий, которые они абсолютно не понимают и не могут контролировать, но верят, что они могут быть крайне разрушительными. Что касается преимуществ: утверждение, что ИИ решит проблему изменения климата, не делает это правдой.

В своих текстах я стремлюсь дать вам честный и ясный взгляд на то, что происходит в области ИИ, от человека, который работает в этой сфере почти десять лет. Где компании по разработке ИИ играют со словами? Какие виды снижения рисков легки? И о чем я так беспокоюсь в любом случае?

Я рад присоединиться к сообществу других писателей, но будьте уверены, я все равно могу говорить что угодно. Полная независимость: единственное, что должно измениться, это, надеюсь, некоторое улучшение моего стиля письма.

Если вы хотите следить за обновлениями, вы можете подписаться на Clear-Eyed AI на том самом другом сайте (кликните по ссылке в моем био). Это бесплатно; я просто прошу вас рассказать об этом другим, кому это тоже может понравиться.

Я также никогда не представился там должным образом - и поэтому сегодняшний пост посвящен моей истории о безопасности ИИ и некоторым основным идеям, которые движут моим мышлением. Также, бонусная история о неожиданной связи между безопасностью ИИ и "китайским куриным салатом."