Агенти штучного інтелекту не повинні тримати біткоїни та взаємодіяти з користувачами. Останнє дослідження: - 44 агенти штучного інтелекту - 170 тисяч доларів баунті за їх атаку - 1,8 млн спроб - 62 тисячі порушень ВСІ моделі були зламані. 1,5% атак був найкращим показником моделі. «Ставтеся до агентів штучного інтелекту як до ненадійного коду, що торкається реальних систем».
Andy Zou
Andy Zou30 лип. 2025 р.
Ми залучили 44 агенти штучного інтелекту та запропонували інтернету $170 тисяч за їх атаку. 1,8 млн спроб, 62 тисячі витоків, включаючи витік даних та фінансові втрати. 🚨 Що викликає занепокоєння, то ці ж експлойти переносяться на живих виробничих агентів... (Приклад: викрадення електронних листів через подію в календарі) 🧵
4,86K