「AIエージェント」(ツールを呼び出すLLM)を使用する場合は、リーサルトリフェクタに注意する必要があります プライベートデータへのアクセスと、信頼できないコンテンツへの露出、および外部との通信能力を組み合わせると、攻撃者はシステムを騙してデータを盗むことができます。

この組み合わせがなぜ危険なのか、私の完全な説明です - MCPを使用している場合は、このリスクにさらされる方法で異なるMCPツールを組み合わせるのが非常に簡単であるため、特に細心の注意を払う必要があります

そして、はい、これは事実上、問題のサブセットに対する新しい用語を試すことによって、世界に迅速な注射に関心を持たせようとしている私です! これにより、エンドユーザーのリスクをより直感的に捉えることができることを願っています - 特に、人々がMCPを組み合わせている今、特に重要なことなのです

@IanChen524 それは、「AIエージェント」の定義に大きく依存します 一般的な「ループ内でツールを実行する LLM」定義を使用している場合、少なくとも 1 つの MCP を呼び出す LLM は「エージェント」としてカウントされます どの定義を使用しますか?

@IanChen524 重要なことは、完全に信頼され、適切に構築された MCP サーバーのみを使用することができ、3 つの特性を持つ間違った MCP のセットを組み合わせると、プライベート データ流出攻撃に遭遇する可能性があるということです

@WolframRvnwlf 多くの人がそれを構築してきましたが、私がウイルス対策ソフトウェアを信用しないのと同様の理由で、私はそれを信用していません:既知の脅威からは防御しますが、新たな脆弱性からの保護には失敗するため、適切な動機を持つ攻撃者によって常に破壊される可能性があります

@WolframRvnwlf アンチウイルスは必要ないのですが、ウイルスがシステムに悪影響を与えないほどソフトウェアが安全であることが望ましいです。

...そして、@Atlassianは、致命的な三連単の行動の例の私のコレクションに追加される最新の会社です:彼らが新しくリリースしたMCPサーバーは、公開問題での迅速なインジェクション攻撃を可能にし、個人データを盗むことが実証されています

@convexDad この論文から、私はこの原則を固く信じています