RT 説明 Simon 提高對 LLM 中快速注射攻擊的認識。 感覺有點像早期計算的狂野西部，有計算機病毒（現在 = 隱藏在 Web 數據/工具中的惡意提示），並且沒有完善的防禦措施（防病毒，或更發達的內核/用戶空間安全範式，例如代理被賦予非常具體的作類型，而不是運行任意 bash 腳本的能力）。 矛盾是因為我想在我的個人計算中成為 LLM 代理的早期採用者，但可能性的狂野西部阻礙了我。

我應該澄清一下，如果您運行的是本地 LLM 代理（例如 Cursor、Claude Code 等），則風險最高。 如果您只是在網站上與 LLM（例如 ChatGPT）交談，那麼風險要低得多 * 除非* 您開始打開 Connectors。例如，我剛剛看到 ChatGPT 正在添加 MCP 支援。這將與所有最近添加的記憶體功能結合得特別糟糕 - 例如，想像一下 ChatGPT 將它所知道的關於您的一切告訴互聯網上的某個攻擊者，僅僅因為您在連接器設置中勾選了錯誤的框。