Wir selbst sind begeisterte Nutzer von KI in unseren wissenschaftlichen Arbeitsabläufen. Im Alltag fühlt sich das alles sehr aufregend an. Aber die Auswirkungen von KI auf die Wissenschaft als Institution, und nicht auf einzelne Wissenschaftler, sind eine andere Frage, die eine andere Art von Analyse erfordert. Das Schreiben dieses Essays erforderte in vielen Fällen, unsere eigenen Intuitionen zu hinterfragen. Wenn Sie ein Wissenschaftler sind, der ebenfalls begeistert ist, diese Werkzeuge zu nutzen, fordern wir Sie auf, diesen Unterschied im Hinterkopf zu behalten. Kann KI die Wissenschaft verlangsamen? Konfrontation mit dem Produktions-Fortschritts-Paradoxon Die Tragödie ist, dass es viele KI-für-Wissenschaft-Werkzeuge gibt, die einen echten Unterschied machen würden, wie KI zur Kennzeichnung potenzieller Fehler im wissenschaftlichen Code. Aber die Labore sind auf andere Dinge fixiert, wie Literaturüberprüfung / "tiefe Forschung". Das ist kein tatsächlicher Engpass, also spielt es keine Rolle, wie viel schneller man es macht. In der Zwischenzeit sind die Risiken, das menschliche Verständnis zu kurzschließen, enorm. Evals sind Teil des Problems. Es gibt drei Arten von Fragen, die man zu einem Literaturüberprüfungstool stellen kann: Spart es einem Forscher Zeit und liefert Ergebnisse von vergleichbarer Qualität zu bestehenden Werkzeugen? Wie wirkt sich die Nutzung des Werkzeugs auf das Verständnis des Forschers über die Literatur im Vergleich zur traditionellen Suche aus? Was werden die kollektiven Auswirkungen auf die Gemeinschaft sein, wenn das Werkzeug weit verbreitet angenommen wird? Zum Beispiel, werden am Ende alle die gleichen wenigen Arbeiten zitieren? Derzeit wird nur die erste Frage als Teil dessen betrachtet, was Evaluation bedeutet. Die letzten beiden sind nicht im Umfang, und es gibt nicht einmal etablierte Methoden oder Metriken für eine solche Messung. Das bedeutet, dass die Evaluation von KI-für-Wissenschaft garantiert ein stark unvollständiges und voreingenommenes Bild von der Nützlichkeit dieser Werkzeuge liefert und ihre potenziellen Schäden minimiert. Letztendlich kommt es auf die durcheinandergebrachten Anreize der KI-für-Wissenschaft-Labore an, insbesondere derjenigen in großen KI-Unternehmen. Sie wollen auffällige „KI entdeckt X!“-Schlagzeilen, damit sie die Erzählung aufrechterhalten können, dass KI die Probleme der Menschheit lösen wird, was ihnen eine günstige politische Behandlung einbringt. Wir halten nicht den Atem an, dass sich dies ändern wird. Aber ein Bewusstsein dafür, dass etwas ernsthaft falsch ist mit dem aktuellen Kurs, ist ein guter erster Schritt, und das ist das Ziel dieses Essays von @sayashk und mir.