私たち自身も、科学的なワークフローにおけるAIの熱心なユーザーです。日々、すべてがとてもエキサイティングに感じられます。しかし、AIが個々の科学者ではなく、機関としての科学に与える影響は、異なる種類の分析を必要とする別の問題です。このエッセイを書くには、多くの場合、自分自身の直感と戦う必要がありました。あなたがこれらのツールの使用に同様に興奮している科学者であるならば、私たちはあなたにこの違いを心に留めておくことを強くお勧めします。 AIは科学を遅らせることができるのか?生産と進行のパラドックスに立ち向かう 悲劇的なことに、科学コードの潜在的なエラーにフラグを立てるAIなど、真の違いを生むAIフォーサイエンスツールが数多く存在することです。しかし、研究室は文献レビューや「深層研究」など、他のことに固執しています。これは実際のボトルネックではないので、どれだけ速くしても問題ありません。一方、人間の理解を短絡させるリスクは莫大です。 評価は問題の一部です。lit-reviewツールについて尋ねることができる3種類の質問があります:研究者の時間を節約し、既存のツールに匹敵する品質の結果を生成しますか?このツールの使用は、従来の検索と比較して、研究者の文献理解にどのような影響を与えますか?ツールが広く採用された場合、コミュニティにどのような集団的な影響がありますか?例えば、誰もが同じ数本の論文を引用することになるのでしょうか? 現在、評価の意味の一部と見なされているのは最初の質問のみです。後者の 2 つは範囲外であり、そのような測定方法や指標が確立されていません。つまり、AIによる科学評価は、これらのツールの有用性について非常に不完全で偏った全体像を提供し、その潜在的な害を最小限に抑えることが保証されているのです。 最終的には、AIフォーサイエンス研究所、特に大手AI企業のインセンティブがめちゃくちゃになっていることに帰着します。彼らは、AIが人類の問題を解決するという物語を持続させ、それが彼らに有利な政策待遇を与えるために、「AIがXを発見する!」という派手な見出しを望んでいます。私たちは、この状況が変わるのを手を止めているわけではありません。 しかし、現在の軌道に何か深刻な問題があることを認識することは、良い第一歩であり、それが@sayashkと私のこのエッセイの目標です。