إذا كنت تستخدم "عوامل الذكاء الاصطناعي" (LLMs التي تستدعي الأدوات) ، فيجب أن تكون على دراية ب Trifecta المميتة في أي وقت تجمع فيه بين الوصول إلى البيانات الخاصة والتعرض لمحتوى غير موثوق به والقدرة على التواصل خارجيا ، يمكن للمهاجم خداع النظام لسرقة بياناتك!

إليك شرحي الكامل لسبب خطورة هذا المزيج - إذا كنت تستخدم MCP ، فأنت بحاجة إلى إيلاء اهتمام وثيق بشكل خاص لأنه من السهل جدا الجمع بين أدوات MCP المختلفة بطريقة تعرض نفسك لهذا الخطر

ونعم ، هذا هو فعليا أحاول جعل العالم يهتم بالحقن الفوري من خلال تجربة مصطلح جديد لمجموعة فرعية من المشكلة! آمل أن يلتقط هذا المخاطر التي يتعرض لها المستخدمون النهائيون بطريقة أكثر عمقا - وهو أمر مهم بشكل خاص الآن بعد أن يقوم الناس بخلط MCP ومطابقته

@IanChen524 يعتمد ذلك إلى حد كبير على تعريف "الذكاء الاصطناعي العامل" الذي تستخدمه إذا كنت تستخدم التعريف الشهير "أدوات تشغيل LLM في حلقة" ، فإن أي LLM يستدعي MCP واحدا على الأقل يتم احتسابه على أنه "وكيل" ما هو التعريف الذي تستخدمه؟

@IanChen524 الأهم من ذلك ، يمكنك فقط استخدام خوادم MCP الموثوقة تماما والمبنية جيدا والاستمرار في مواجهة هجمات استخراج البيانات الخاصة إذا قمت بدمج مجموعة خاطئة من MCPs التي لها معا الخصائص الثلاث

@WolframRvnwlf يقوم الكثير من الأشخاص ببناء ذلك وأنا لا أثق به ، لأسباب مماثلة لعدم ثقتي في برنامج مكافحة الفيروسات: فهو يدافع ضد التهديد المعروف ولكنه يفشل في الحماية من نقاط الضعف الجديدة ، لذلك يمكن دائما تخريبه من قبل مهاجم ذو دوافع مناسبة

@WolframRvnwlf لا أريد برنامج مكافحة الفيروسات ، أريد أن يكون برنامجي آمنا بدرجة كافية بحيث لا يمكن للفيروسات فعل أي شيء سيء لأنظمتي!

... @Atlassian هي أحدث شركة تمت إضافتها إلى مجموعتي من الأمثلة على Trifecta المميتة أثناء العمل: لقد ثبت أن خادم MCP الذي تم إصداره حديثا يسمح بهجمات الحقن الفورية في القضايا العامة لسرقة البيانات الخاصة

@convexDad أنا من أشد المؤمنين بهذا المبدأ ، من هذه الورقة