個人的なニュース: OpenAI を辞めて以来、私は最悪のリスクを回避し、実際に良い未来を築くという、実際にエキサイティングな AI の未来を構築する方法について公に書いてきました。 私は、ルーツ・オブ・プログレス・インスティテュートのフェローとしてこの仕事を続けることに興奮しています。

OpenAI を辞めたとき、私は AI がどこに向かっているのかかなり怖いと書きました。これは今でも真実であり、私はこれをすべて止めたいと思っているが、個人として無力感を感じているAIラボの従業員をたくさん知っています。 しかし、リスクにうまく対処すれば、AI の未来は非常に前向きであると信じています。

はっきり言っておきますが、今日のAIラボは、AIのリスクを十分に真剣に受け止めておらず、実際にエキサイティングな計画を立てていないため、前向きな未来を実現するための軌道から大きく外れていると思います。

リスクを簡単に説明すると、AI 企業は、まったく理解しておらず、制御できないが、非常に破壊的である可能性があると信じているテクノロジーの構築を競っています。 そして、利点の観点から見ると、AI が気候変動を解決すると主張しても、そうはなりません。

私の文章では、この分野で 10 年近く働いている人から、AI で何が起こっているのかについて、正直で明晰な目でお伝えすることを目指しています。 AI企業はどこで言葉遊びをしているのか?どのような種類のリスク軽減が簡単ですか?そして、そもそも私は何をそんなに心配しているのでしょうか?

他の作家のコミュニティに参加できることに興奮していますが、それでも言いたいことは何でも言えますので、ご安心ください。 完全な独立性があります: 変わるべき唯一のことは、うまくいけば、私の文体が何らか改善されることです。

フォローしたい場合は、他のサイトで Clear-Eyed AI を購読できます (私の経歴からクリックしてください)。 無料です。この言葉を気に入ってくれる人たちと共有してほしいと思います。

また、そこでは適切に自己紹介をしたことがなかったので、今日の投稿は、私の AI 安全の起源のストーリーと、私の思考を動かす核となるアイデアのいくつかについてです。 また、AIの安全性と「中華チキンサラダ」の驚くべき関係についてのボーナスストーリー。