中途半端な考え: AIに関する議論では、能力と社会的影響の両方について主張がしばしばなされますが、実際にはその境界線はかなり曖昧です。性格タイプや職業によって物事を見る視点は異なります。誇張を承知で言うと、よくある2つのレンズは以下の通りです。 コンピュータサイエンスの先行は、十分に能力のあるASIがあれば原理的にどんな問題でも解決できる、というものです。ローカル知識は単に取り込まれるデータに過ぎません。十分に賢く、十分な計算能力があれば、すべてを集中管理(そして解決)できます。では、人間の「知能」の閾値を越えたら、人間が持つ「有用性」など何があるのでしょうか? 経済学者の前述(特にハイエク流)は、知識は単に収集される事実ではなく、文脈的で暗黙のうちに生成され、しばしばその場の相互作用を通じて生成されるものです。それを使うプロセスが始まる前には存在しません。どんなに最適化の力を持っても、そのプロセスをスキップすることはできません。なぜなら、知識はそこに置かれていて発見されるのを待っているのではなく、相互作用によって構成されているからです。 前者の見解では、人間の主体性はエピフェノショナルになり、最適化器が自分の役割を果たすのを見ているだけです。一方、後者では、知識が部分的に相互作用を通じて構成される場合、主体性は中核的な要素となります。実際、それは認識論的プロセス自体から切り離せないものです。 これが両陣営がお互いに話すのを無視する理由かもしれません。コンピュータサイエンスの見解では、経済学者の反対意見は「人間は役に立ちたい」や「現在のAIはまだ十分に機能していない」といった、克服されるべき偶発的な制約と見なしています。エコノミストの見解は、コンピュータサイエンスの立場を知識に関するカテゴリー誤りと見なしており、将来の能力レベルに関する主張ではなく、問題の構造についての誤りです。 経済学の見解は本質的に決定論的でなく、いくつかの利点を示唆しています。まず第一に、時間です。もし展開や適応がスキップできない実際の作業であれば、その移行は瞬時に進むものではありません。一つのシステムが突然すべてをやる「フーム」という現象はありません。しかし、それ以上に重要なのは、ポイントを活用することです。価値創造に文脈特有の統合が必要な場合、ガバナンスや制度、選択が成果を形作る多くのポイントがあります。最大のトレーニングクラスターを持つ人やシステムの能力だけで決まるわけではありません。 もう一つの重要なポイントは、アライメントの考え方です。ジリアン・ハドフィールドは「規範や価値観は単なる外生的環境の特徴ではない...むしろ、それらは動的行動システムの平衡出力である。」(コンピュータサイエンスの先行において、アラインメントは正しい目的関数を抽出する技術的な問題です。もし経済学者を優先するなら、アライメントとは規範的判断を構成する動的な社会プロセスへの統合(製品、投票、規範、慣習、選択など)です。 これを形作るのは継続的なものであり、事前解決するものではありません。これは必ずしもコンピュータサイエンスの見解が間違っているという意味ではありません。プリンシパルエージェントの問題や指示追従の問題は現実のものですが、解決策の領域はモデル自体をはるかに超え、AIシステムの展開、統治、責任追及のための制度的スタック全体を含んでいます。