Sami jsme nadšenými uživateli umělé inteligence v našich vědeckých pracovních postupech. Na každodenní bázi je to všechno velmi vzrušující. Dopad umělé inteligence na vědu jako instituci, nikoli na jednotlivé vědce, je však jiná otázka, která vyžaduje jiný druh analýzy. Psaní této eseje vyžadovalo v mnoha případech boj s vlastní intuicí. Pokud jste vědec, který je podobně nadšený z používání těchto nástrojů, vyzýváme vás, abyste měli tento rozdíl na paměti. Mohla by umělá inteligence zpomalit vědu? Konfrontace s paradoxem výroby a pokroku Tragédií je, že existuje mnoho nástrojů umělé inteligence pro vědu, které by měly skutečný význam, jako je umělá inteligence pro označování potenciálních chyb ve vědeckém kódu. Ale laboratoře jsou fixovány na jiné věci, jako je přehled literatury / "hluboký výzkum". Nejedná se o skutečné úzké hrdlo, takže nezáleží na tom, o kolik rychleji to uděláte. Rizika zkratu lidského chápání jsou přitom obrovská. Evaly jsou součástí problému. Existují tři druhy otázek, které si člověk může položit ohledně nástroje lit-review: Šetří výzkumníkovi čas a produkuje výsledky srovnatelné kvality se stávajícími nástroji? Jaký vliv má použití tohoto nástroje na to, jak výzkumník rozumí literatuře ve srovnání s tradičním vyhledáváním? Jaké budou kolektivní dopady na komunitu, pokud by byl tento nástroj široce přijat? Například, budou všichni nakonec citovat těch samých pár článků? V současné době je za součást toho, co znamená hodnocení, považována pouze první otázka. Poslední dvě jmenované jsou mimo rozsah a neexistují ani zavedené metody nebo metriky pro takové měření. To znamená, že hodnocení AI-for-science zaručeně poskytne vysoce neúplný a zaujatý obraz o užitečnosti těchto nástrojů a minimalizuje jejich potenciální škody. V konečném důsledku jde o zpackané pobídky laboratoří zaměřených na umělou inteligenci pro vědu, zejména těch ve velkých společnostech zabývajících se umělou inteligencí. Chtějí okázalé titulky "Umělá inteligence objevuje X!", aby mohli udržet narativ, že umělá inteligence vyřeší problémy lidstva, což jim zajistí příznivé politické zacházení. Nezadržujeme dech, aby se to změnilo. Ale uvědomění si, že se současnou trajektorií je něco vážně špatně, je dobrým prvním krokem, a to je cílem této eseje @sayashk a mě.