我們自己在科學工作流程中熱衷於使用 AI。每天的工作都讓人感到非常興奮。但 AI 對科學作為一個機構的影響，而不僅僅是對個別科學家的影響，則是另一個問題，這需要不同類型的分析。撰寫這篇文章需要在許多情況下與我們自己的直覺作鬥爭。如果你是一位同樣對使用這些工具感到興奮的科學家，我們敦促你記住這一差異。 AI 會減緩科學進展嗎？面對生產-進展悖論 悲劇的是，有許多 AI 科學工具可以真正改變現狀，例如用於標記科學代碼中潛在錯誤的 AI。但實驗室卻專注於其他事情，如文獻回顧 / "深度研究"。這並不是一個實際的瓶頸，因此無論你多快都無所謂。與此同時，短路人類理解的風險是巨大的。 評估是問題的一部分。關於文獻回顧工具，可以提出三種問題：它是否節省了研究者的時間，並產生與現有工具相當的結果？使用該工具對研究者理解文獻的影響與傳統搜索相比如何？如果該工具被廣泛採用，對社群的集體影響將會是什麼？例如，是否每個人最終都會引用同幾篇論文？ 目前，只有第一個問題被視為評估的一部分。後兩個問題則超出了範疇，甚至沒有建立測量這些的標準方法或指標。這意味著 AI 科學評估必然會提供一個高度不完整和偏見的工具有用性的畫面，並最小化其潛在的危害。 最終，這一切歸結於 AI 科學實驗室的錯誤激勵，尤其是那些大型 AI 公司的實驗室。他們想要引人注目的 "AI 發現 X！" 標題，以便維持 AI 將解決人類問題的敘事，這為他們贏得了有利的政策待遇。我們不會對這一改變抱有太大希望。 但意識到當前的發展軌跡存在嚴重問題是一個良好的第一步，這也是 @sayashk 和我這篇文章的目標。