Мы сами являемся энтузиастами использования ИИ в наших научных рабочих процессах. В повседневной жизни это кажется очень захватывающим. Но влияние ИИ на науку как институт, а не на отдельных ученых, — это другой вопрос, который требует другого рода анализа. Написание этого эссе потребовало борьбы с нашими собственными интуициями во многих случаях. Если вы ученый, который также взволнован использованием этих инструментов, мы призываем вас помнить об этом различии. Может ли ИИ замедлить науку? Противостояние парадоксу производства-прогресса Трагедия в том, что существует множество инструментов ИИ для науки, которые действительно могли бы изменить ситуацию, таких как ИИ для выявления потенциальных ошибок в научном коде. Но лаборатории сосредоточены на других вещах, таких как обзор литературы / "глубокие исследования". Это не является реальной узкой местом, поэтому не имеет значения, насколько быстрее вы это сделаете. Тем временем риски сокращения человеческого понимания огромны. Оценки являются частью проблемы. Существует три типа вопросов, которые можно задать о инструменте для обзора литературы: Сохраняет ли он время исследователя и дает ли результаты сопоставимого качества с существующими инструментами? Как использование инструмента влияет на понимание исследователем литературы по сравнению с традиционным поиском? Каковы будут коллективные последствия для сообщества, если инструмент будет широко принят? Например, все ли в конечном итоге будут ссылаться на одни и те же несколько статей? В настоящее время только первый вопрос считается частью того, что означает оценка. Последние два находятся вне сферы, и даже не существует установленных методов или метрик для такого измерения. Это означает, что оценка ИИ для науки гарантированно предоставит крайне неполную и предвзятую картину полезности этих инструментов и минимизирует их потенциальный вред. В конечном итоге все сводится к испорченным стимулам лабораторий ИИ для науки, особенно тех, которые находятся в крупных ИИ-компаниях. Они хотят ярких заголовков "ИИ открывает X!", чтобы поддерживать нарратив о том, что ИИ решит проблемы человечества, что приносит им благоприятное отношение со стороны политики. Мы не держим дыхание в ожидании изменений. Но осознание того, что с текущей траекторией что-то серьезно не так, — это хороший первый шаг, и это цель этого эссе от @sayashk и меня.