AI agenti by neměli držet Bitcoin a jednat s uživateli. Nedávná studie: - 44 AI agenti - 170 tisíc dolarů v odměnách za útok na ně - 1,8 milionu pokusů - 62 tisíc narušení VŠECHNY modely byly hacknuty. 1,5% míra útoků bylo nejlepší skóre modelu. "Zacházejte s agenty umělé inteligence jako s nedůvěryhodným kódem, který se dotýká živých systémů."
Andy Zou
Andy Zou30. 7. 2025
Nasadili jsme 44 AI agentů a nabídli internetu 170 tisíc dolarů za to, že na ně zaútočí. 1,8 milionu pokusů, 62 tisíc úniků, včetně úniku dat a finanční ztráty. 🚨 Znepokojivé je, že stejné exploity se přenášejí na živé produkční agenty... (Příklad: exfiltrace e-mailů prostřednictvím události kalendáře) 🧵
4,87K