AI代理不应持有比特币并与用户互动。 最近的研究: - 44个AI代理 - 17万美元的悬赏来攻击它们 - 180万次尝试 - 62,000次违规 所有模型都被黑客攻击。1.5%的攻击率是最佳模型得分。 "将AI代理视为接触实时系统的非可信代码。"
Andy Zou
Andy Zou2025年7月30日
我们部署了44个AI代理,并向互联网提供了17万美元来攻击它们。 180万次尝试,62000次突破,包括数据泄露和财务损失。 🚨 令人担忧的是,相同的漏洞会转移到实时生产代理上……(例如:通过日历事件提取电子邮件)🧵
4.87K