Sami jesteśmy entuzjastycznymi użytkownikami AI w naszych procesach naukowych. Na co dzień wszystko wydaje się bardzo ekscytujące. Ale wpływ AI na naukę jako instytucję, a nie na poszczególnych naukowców, to inne pytanie, które wymaga innego rodzaju analizy. Napisanie tego eseju wymagało w wielu przypadkach walki z naszymi własnymi intuicjami. Jeśli jesteś naukowcem, który podobnie jak my jest podekscytowany używaniem tych narzędzi, zachęcamy cię do pamiętania o tej różnicy. Czy AI może spowolnić naukę? Zderzenie paradoksu produkcji i postępu Tragedią jest to, że istnieje wiele narzędzi AI dla nauki, które mogłyby wprowadzić realną różnicę, takich jak AI do oznaczania potencjalnych błędów w kodzie naukowym. Ale laboratoria są skupione na innych rzeczach, takich jak przegląd literatury / "głębokie badania". To nie jest rzeczywista przeszkoda, więc nie ma znaczenia, jak bardzo to przyspieszysz. Tymczasem ryzyko skrócenia ludzkiego zrozumienia jest ogromne. Ewaluacje są częścią problemu. Istnieją trzy rodzaje pytań, które można zadać o narzędzie do przeglądu literatury: Czy oszczędza czas badacza i produkuje wyniki porównywalnej jakości z istniejącymi narzędziami? Jak użycie narzędzia wpływa na zrozumienie literatury przez badacza w porównaniu do tradycyjnego wyszukiwania? Jakie będą zbiorowe skutki dla społeczności, jeśli narzędzie zostanie szeroko przyjęte? Na przykład, czy wszyscy skończą cytując te same kilka prac? Obecnie tylko pierwsze pytanie jest uważane za część tego, co oznacza ewaluacja. Dwa pozostałe są poza zakresem, a nie ma nawet ustalonych metod ani wskaźników do takiego pomiaru. To oznacza, że ewaluacja AI dla nauki gwarantuje dostarczenie wysoce niekompletnego i stronniczego obrazu użyteczności tych narzędzi oraz minimalizuje ich potencjalne szkody. Ostatecznie sprowadza się to do zepsutych zachęt laboratoriów AI dla nauki, zwłaszcza tych w dużych firmach AI. Chcą efektownych nagłówków „AI odkrywa X!”, aby mogły utrzymać narrację, że AI rozwiąże problemy ludzkości, co zapewnia im korzystne traktowanie polityczne. Nie trzymamy oddechu na to, że to się zmieni. Ale świadomość, że coś jest poważnie nie tak z obecnym kierunkiem, to dobry pierwszy krok, a to jest celem tego eseju autorstwa @sayashk i mnie.