Jeśli używasz "agentów AI" (LLM, które wywołują narzędzia), musisz być świadomy Lethal Trifecta. Za każdym razem, gdy łączysz dostęp do danych prywatnych z narażeniem na nieznane treści oraz możliwością komunikacji zewnętrznej, atakujący może oszukać system, aby ukraść twoje dane!

Oto moje pełne wyjaśnienie, dlaczego ta kombinacja jest tak niebezpieczna - jeśli korzystasz z MCP, musisz zwrócić szczególną uwagę, ponieważ bardzo łatwo jest połączyć różne narzędzia MCP w sposób, który naraża cię na to ryzyko.

I tak, to w zasadzie ja próbuję sprawić, aby świat zainteresował się wstrzykiwaniem poleceń, próbując nowego terminu dla podzestawu problemu! Mam nadzieję, że to lepiej oddaje ryzyko dla użytkowników końcowych w bardziej namacalny sposób - szczególnie ważne teraz, gdy ludzie łączą i dopasowują MCP.

@IanChen524 To bardzo zależy od tego, której definicji "agenta AI" używasz. Jeśli używasz popularnej definicji "LLM uruchamiającego narzędzia w pętli", to każdy LLM, który wywołuje przynajmniej jeden MCP, liczy się jako "agent". Jaką definicję stosujesz?

@IanChen524 Ważne jest, aby używać tylko całkowicie zaufanych, dobrze skonstruowanych serwerów MCP i nadal napotkać ataki na wyciek prywatnych danych, jeśli połączysz niewłaściwy zestaw MCP, które razem mają trzy cechy.

@WolframRvnwlf Wiele osób to buduje i nie ufam temu, z podobnych powodów, dla których nie ufam oprogramowaniu antywirusowemu: broni przed znanymi zagrożeniami, ale nie chroni przed nowymi lukami, więc zawsze może być podważone przez odpowiednio zmotywowanego atakującego.

@WolframRvnwlf Nie chcę antywirusa, chcę, aby moje oprogramowanie było wystarczająco bezpieczne, aby wirusy nie mogły wyrządzić żadnych szkód moim systemom!

... a @Atlassian to najnowsza firma, która została dodana do mojej kolekcji przykładów śmiertelnej trifekty w akcji: ich nowo wydany serwer MCP został zademonstrowany jako umożliwiający ataki typu prompt injection w publicznych problemach w celu kradzieży danych prywatnych.

@convexDad Jestem zdecydowanym zwolennikiem tej zasady, z tego dokumentu