ПІДКАЗКА ШТУЧНОГО ІНТЕЛЕКТУ → ПЕРЕВІРКА ШІ Підказка ШІ масштабується, тому що підказка – це просто набір тексту. Але верифікація ШІ не масштабується, тому що перевірка результатів ШІ включає набагато більше, ніж просто набір тексту. Іноді це можна перевірити на око, тому ШІ чудово підходить для фронтенду, зображень та відео. Але для будь-чого тонкого вам потрібно глибоко прочитати код або текст — а це означає знати тему досить добре, щоб виправити штучний інтелект. Дослідники чудово знають про це, тому так багато роботи над евалами та галюцинаціями. Однак концепція верифікації як вузького місця для користувачів ШІ недостатньо обговорюється. Так, ви можете спробувати формальну верифікацію, або критикувати моделі, коли один ШІ перевіряє інший, або інші методи. Але навіть усвідомлювати це питання як першокласну проблему – це половина успіху. Для користувачів: перевірка ШІ так само важлива, як і підказка ШІ.