Se utilizzi "agenti AI" (LLM che chiamano strumenti) devi essere consapevole del Trifecta Letale. Ogni volta che combini l'accesso a dati privati con l'esposizione a contenuti non affidabili e la capacità di comunicare esternamente, un attaccante può ingannare il sistema per rubare i tuoi dati!

Ecco la mia spiegazione completa del perché questa combinazione sia così pericolosa - se stai usando MCP devi prestare particolare attenzione perché è molto facile combinare diversi strumenti MCP in un modo che ti espone a questo rischio.

E sì, questo è effettivamente il mio tentativo di far sì che il mondo si preoccupi dell'iniezione di prompt provando un nuovo termine per un sottoinsieme del problema! Spero che questo catturi il rischio per gli utenti finali in un modo più viscerale - particolarmente importante ora che le persone stanno mescolando e abbinando MCP.

@IanChen524 Questo dipende molto da quale definizione di "agente AI" stai usando. Se stai usando la popolare definizione "un LLM che esegue strumenti in un ciclo", allora qualsiasi LLM che chiama almeno un MCP conta come un "agente". Quale definizione usi?

@IanChen524 È importante notare che puoi utilizzare solo server MCP completamente affidabili e ben costruiti e comunque incorrere in attacchi di esfiltrazione di dati privati se combini il set sbagliato di MCP che, insieme, presentano le tre caratteristiche.

@WolframRvnwlf Molte persone stanno costruendo quello e non mi fido, per motivi simili a quelli per cui non mi fido del software antivirus: difende contro minacce conosciute ma non riesce a proteggere contro nuove vulnerabilità, quindi può sempre essere sovvertito da un attaccante adeguatamente motivato.

@WolframRvnwlf Non voglio un antivirus, voglio che il mio software sia abbastanza sicuro da impedire ai virus di fare qualcosa di male ai miei sistemi!

... e @Atlassian è l'ultima azienda ad essere aggiunta alla mia collezione di esempi del trifecta letale in azione: il loro nuovo server MCP è stato dimostrato consentire attacchi di iniezione di comandi in problemi pubblici per rubare dati privati.

@convexDad sono un fermo sostenitore di questo principio, tratto da questo documento