Se você usar "agentes de IA" (LLMs que chamam ferramentas), precisa estar ciente do Trifecta Letal Sempre que você combina acesso a dados privados com exposição a conteúdo não confiável e a capacidade de se comunicar externamente, um atacante pode enganar o sistema para roubar seus dados!

Aqui está a minha explicação completa de por que esta combinação é tão perigosa - se você está usando MCP, precisa prestar atenção especial porque é muito fácil combinar diferentes ferramentas MCP de uma forma que o expõe a este risco.

E sim, isto é efetivamente eu tentando fazer o mundo se importar com a injeção de prompts, experimentando um novo termo para um subconjunto do problema! Espero que isto capture o risco para os usuários finais de uma forma mais visceral - particularmente importante agora que as pessoas estão misturando e combinando MCP.

@IanChen524 Isso depende muito de qual definição de "agente de IA" você está usando Se você está usando a definição popular "um LLM executando ferramentas em um loop", então qualquer LLM que chama pelo menos um MCP conta como um "agente" Qual definição você usa?

@IanChen524 É importante que você use apenas servidores MCP totalmente confiáveis e bem construídos e ainda assim enfrente ataques de exfiltração de dados privados se combinar o conjunto errado de MCPs que, juntos, possuem as três características.

@WolframRvnwlf Muitas pessoas têm estado a construir isso e eu não confio, por razões semelhantes às quais não confio em software antivírus: defende contra ameaças conhecidas, mas falha em proteger contra novas vulnerabilidades, portanto, pode sempre ser subvertido por um atacante devidamente motivado.

@WolframRvnwlf Eu não quero antivírus, quero que o meu software seja seguro o suficiente para que vírus não consigam fazer nada de mal aos meus sistemas!

... e a @Atlassian são a mais recente empresa a ser adicionada à minha coleção de exemplos da trifecta letal em ação: o seu novo servidor MCP foi demonstrado como permitindo ataques de injeção de comandos em questões públicas para roubar dados privados.

@convexDad Sou um firme crente neste princípio, a partir deste artigo.