Якщо ви використовуєте «агентів штучного інтелекту» (LLM, які викликають інструменти), вам потрібно знати про Lethal Trifecta У будь-який момент, коли ви поєднуєте доступ до особистих даних із доступом до ненадійного контенту та можливістю зовнішнього спілкування, зловмисник може обманом змусити систему викрасти ваші дані!

Ось моє повне пояснення того, чому ця комбінація така небезпечна: якщо ви використовуєте MCP, вам потрібно бути особливо уважним, оскільки дуже легко поєднувати різні інструменти MCP таким чином, щоб наразити себе на цей ризик

І так, це фактично я намагаюся змусити світ подбати про швидку ін'єкцію, випробовуючи новий термін для підмножини проблеми! Я сподіваюся, що це відображає ризик для кінцевих користувачів у більш інтуїтивний спосіб, що особливо важливо зараз, коли люди змішують і поєднують MCP

@IanChen524 Це багато в чому залежить від того, яке визначення «агента штучного інтелекту» ви використовуєте Якщо ви використовуєте популярне визначення "LLM запускає інструменти в циклі", то будь-який LLM, який викликає принаймні один MCP, вважається "агентом" Яке визначення ви використовуєте?

@IanChen524 Важливо, що ви можете використовувати лише повністю надійні, добре сконструйовані сервери MCP і все одно зіткнутися з атаками викрадення приватних даних, якщо поєднаєте неправильний набір MCP, які разом мають три характеристики

@WolframRvnwlf Багато людей розробляли це, і я не довіряю цьому, з тих же причин, чому я не довіряю антивірусному програмному забезпеченню: воно захищає від відомих загроз, але не захищає від нових вразливостей, тому воно завжди може бути підірване належним чином мотивованим зловмисником

@WolframRvnwlf я не хочу використовувати антивірус, я хочу, щоб моє програмне забезпечення було достатньо безпечним, щоб віруси не могли завдати шкоди моїм системам!

... і @Atlassian є останньою компанією, яка була додана до моєї колекції прикладів смертоносної трифекти в дії: було продемонстровано, що їхній нещодавно випущений сервер MCP дозволяє здійснювати швидкі атаки з використанням ін'єкцій у публічних питаннях для викрадення приватних даних

@convexDad Я твердо вірю в цей принцип, з цієї статті