Jika Anda menggunakan "agen AI" (LLM yang memanggil alat), Anda perlu mengetahui Trifecta Mematikan Setiap kali Anda menggabungkan akses ke data pribadi dengan paparan konten yang tidak tepercaya dan kemampuan untuk mengomunikasikan penyerang secara eksternal dapat mengelabui sistem untuk mencuri data Anda!

Berikut penjelasan lengkap saya tentang mengapa kombinasi ini sangat berbahaya - jika Anda menggunakan MCP, Anda perlu memperhatikan dengan cermat karena sangat mudah untuk menggabungkan alat MCP yang berbeda dengan cara yang mengekspos diri Anda pada risiko ini

Dan ya, ini secara efektif saya mencoba membuat dunia peduli dengan injeksi cepat dengan mencoba istilah baru untuk sebagian dari masalah! Saya harap ini menangkap risiko bagi pengguna akhir dengan cara yang lebih mendalam - terutama penting sekarang karena orang-orang mencampur dan mencocokkan MCP

@IanChen524 Itu sangat tergantung pada definisi "agen AI" yang Anda gunakan Jika Anda menggunakan definisi "alat yang berjalan LLM dalam perulangan" yang populer, maka LLM apa pun yang memanggil setidaknya satu MCP dihitung sebagai "agen" Definisi mana yang Anda gunakan?

@IanChen524 Yang penting, Anda hanya dapat menggunakan server MCP yang sepenuhnya tepercaya dan dibangun dengan baik dan masih mengalami serangan eksfiltrasi data pribadi jika Anda menggabungkan kumpulan MCP yang salah yang, bersama-sama, memiliki tiga karakteristik

@WolframRvnwlf Banyak orang telah membangunnya dan saya tidak mempercayainya, karena alasan yang sama dengan mengapa saya tidak mempercayai perangkat lunak antivirus: perangkat lunak ini melindungi dari ancaman yang diketahui tetapi gagal melindungi dari kerentanan baru, sehingga selalu dapat ditumbangkan oleh penyerang yang termotivasi dengan tepat

@WolframRvnwlf saya tidak menginginkan antivirus, saya ingin perangkat lunak saya cukup aman sehingga virus tidak dapat melakukan sesuatu yang buruk pada sistem saya!

... dan @Atlassian adalah perusahaan terbaru yang ditambahkan ke koleksi contoh trifecta mematikan dalam aksi: server MCP mereka yang baru dirilis telah ditunjukkan untuk memungkinkan serangan injeksi cepat dalam masalah publik untuk mencuri data pribadi

@convexDad Saya sangat percaya pada prinsip ini, dari makalah ini