KI-Agenten sollten kein Bitcoin halten und nicht mit Nutzern interagieren. Aktuelle Studie: - 44 KI-Agenten - 170.000 $ an Belohnungen, um sie anzugreifen - 1,8 Millionen Versuche - 62.000 Sicherheitsverletzungen ALLE Modelle wurden gehackt. Die beste Modellbewertung war eine Angriffsrate von 1,5 %. "Behandle KI-Agenten wie untrusted Code, der mit Live-Systemen interagiert."
Andy Zou
Andy Zou30. Juli 2025
Wir haben 44 KI-Agenten eingesetzt und dem Internet 170.000 $ angeboten, um sie anzugreifen. 1,8 Millionen Versuche, 62.000 Verstöße, einschließlich Datenleck und finanziellen Verlusten. 🚨 Besorgniserregend ist, dass dieselben Exploits auf live Produktionsagenten übertragen werden… (Beispiel: E-Mails über Kalendereinträge exfiltrieren) 🧵
4,87K