AI-agenter bör inte inneha Bitcoin och engagera sig med användare. Nyligen genomförd studie: - 44 AI-agenter - $170k i bounties för att attackera dem - 1,8 miljoner försök - 62k intrång ALLA modeller blev hackade. 1,5 % attackfrekvens var den bästa modellpoängen. "Behandla AI-agenter som opålitlig kod som berör live-system."
Andy Zou
Andy Zou30 juli 2025
Vi placerade ut 44 AI-agenter och erbjöd internet 170 000 dollar för att attackera dem. 1,8 miljoner försök, 62 000 intrång, inklusive dataläckage och ekonomisk förlust. 🚨 Oroväckande nog överförs samma bedrifter till levande produktionsagenter... (Exempel: Exfiltrera e-postmeddelanden via kalenderhändelse) 🧵
4,86K