私は、AIのリスクと整合性についての議論があまりにも多く、創造性と自由度という、部屋の中のかなり大きな象を見落としているのではないかと心配しています。政策立案者とゲートキーパーは、誰も口にしないように見える2つの競合する力を理解する必要があります:(1)フロンティアラボには、モデルの創造性を高めるための大きな経済的インセンティブがあり、(2)モデル(または人)の行動を制御し、制限しようとすればするほど、その創造性は低下します。 これらの競合する力の間の緊張関係は、創造性が非常に大きな経済的可能性を持っているため、最終的に#1を支持します。 つまり、モデルを制御および制約する方法 (モデルを整列させるなど) は、迫り来る強力な逆風に直面します。 なぜなら、創造性は最終的には経済的な理由だけで勝利するから(そして実際、私たちは創造的なAIから莫大な利益を得ることができる)、モデルに考えさせたい思考に眉をひそめる「マインドコントロール」の方法よりも(私たちは必然的にそれらを放棄するので)、私たちが望むだけ乱暴に考える自由があるにもかかわらず、人間の行動を一致させるために制度的な力がどのように利用されてきたかに目を向けるべきだ。 法律、社会のインセンティブ構造、競合する政府部門やガバナンス、さまざまな状況で一部の人々が他の人々を監督すること、物事を成し遂げるための賛同、承認、協力の必要性など、制度的な抑制と均衡が、人間の災害に対する真のガードレールを提供するのです。明らかに、このシステムは不完全ですが、急進的なイノベーションを追求するのに十分な創造性を許しながらも、文明が持続し、さらには繁栄するための十分な秩序を確保する方法の先例です。 この前例を真剣に受け止めなければ、束縛されていない想像力の経済的な成果がますます明確になるにつれて、アライメントのガードレールはますます(そして静かに)崩れていくでしょう。