Агенты ИИ становятся все более популярными (например, оператор OpenAI), но их можно атаковать, чтобы навредить пользователям! Мы показываем, что даже с защитой агенты ИИ все еще могут быть скомпрометированы через косвенные инъекции подсказок с помощью "адаптивных атак" в нашей статье с результатами NAACL 2025. 🧵 и ссылки ниже
4,2K