Agenci AI nie powinni posiadać Bitcoinów i angażować się w interakcje z użytkownikami. Niedawne badanie: - 44 agentów AI - 170 tys. dolarów w nagrodach za ataki na nich - 1,8 mln prób - 62 tys. naruszeń WSZYSTKIE modele zostały zhakowane. 1,5% wskaźnik ataków był najlepszym wynikiem modelu. "Traktuj agentów AI jak nieufny kod dotykający systemów na żywo."
Andy Zou
Andy Zou30 lip 2025
Wdrożyliśmy 44 agentów AI i zaoferowaliśmy internetowi 170 tys. dolarów za ich zaatakowanie. 1,8 mln prób, 62 tys. naruszeń, w tym wycieki danych i straty finansowe. 🚨 Niepokojące jest to, że te same exploity przenoszą się na agentów produkcyjnych na żywo… (przykład: wykradanie e-maili przez wydarzenie w kalendarzu) 🧵
4,87K