AIエージェント(OpenAIのオペレーターなど)はますます人気が高まっていますが、ユーザーに危害を加えるために攻撃される可能性があります。 防御策を講じても、AI エージェントは「適応型攻撃」による間接的なプロンプト インジェクションによって侵害される可能性があることを NAACL 2025 の調査結果の論文で示しています 🧵 および以下のリンク
4.16K