Искусственные агенты не должны держать Биткойн и взаимодействовать с пользователями. Недавнее исследование: - 44 искусственных агента - 170 тыс. долларов в виде вознаграждений за атаки на них - 1,8 млн попыток - 62 тыс. нарушений ВСЕ модели были взломаны. 1,5% уровень атаки был лучшим результатом модели. "Относитесь к искусственным агентам как к ненадежному коду, взаимодействующему с живыми системами."
Andy Zou
Andy Zou30 июл. 2025 г.
Мы развернули 44 ИИ-агента и предложили интернету 170 тысяч долларов, чтобы атаковать их. 1,8 миллиона попыток, 62 тысячи нарушений, включая утечку данных и финансовые потери. 🚨 Что тревожно, те же уязвимости переносятся на живых производственных агентов… (например: экстракция электронных писем через событие в календаре) 🧵
4,88K