Dalam posting blog terakhir kami, kami menunjukkan cara mematahkan skema LLM yang menjaga privasi — memecahkan kode status model yang diubah dengan akurasi yang hampir sempurna. Hari ini, kami mempresentasikan pembelaan kami: Cascade 🕵️ ♂️✨

Cascade mengamankan inferensi LLM dengan memisahkan status tersembunyi di seluruh pihak melalui "sharding token"—setiap node hanya melihat beberapa token secara berurutan. Semakin jauh token node, semakin tinggi biaya serangan—tumbuh secara eksponensial seiring jarak.

Cascade mempertahankan kesetiaan penuh dalam kesimpulan—tidak ada perkiraan, tidak ada matematika titik tetap. Ini membagi komputasi antara CompNodes (untuk MLP) dan AttnNodes (untuk perhatian), mempertahankan hasil yang tepat di seluruh tahapan terdistribusi.

Inti dari Cascade adalah skema token-sharding yang kuat untuk serangan rekonstruksi dan serangan berbasis pembelajaran yang diketahui. Kami menunjukkan dalam makalah bahwa pendekatan kami, yang disebut c-δ sharding, mencapai privasi yang kuat tanpa mengorbankan kesetiaan.

Kami melakukan eksperimen ekstensif tentang keamanan Cascade terhadap serangan berbasis pembelajaran. Meskipun tidak memiliki jaminan formal SMPC, kami menunjukkan bahwa dengan simpul yang cukup, Cascade secara empiris kuat terhadap serangan ini.

Manfaat Cascade yang paling signifikan adalah kecepatan dan skalabilitas. Dibandingkan dengan skema SMPC yang ada seperti MPCFormer dan Puma, Cascade 2 urutan besarnya lebih cepat, bahkan pengaturan paling aman yang kami uji (72 peserta):

Cascade dimotivasi oleh kebutuhan untuk menemukan paradigma baru dalam tradeoff antara privasi, keamanan, dan skalabilitas. Kami percaya ide intinya—token-sharding—mencapai keseimbangan itu dan membuka arah baru untuk LLM yang menjaga privasi.

Pekerjaan kami pada serangan dan Cascade diterima di ICML 2025, dan akan dipresentasikan pada 16/7 pukul 16:30 PST di East Exhibition Hall A-B, Ruang E-2612, di Vancouver Convention Center. Datang dan mengobrol dengan kami! 🔗

Bergabunglah dengan kami untuk Ritual sosial di ICML. Temui tim riset AI dan kripto kami, bersantai dengan orang-orang hebat, dan akhiri hari Anda dengan cara yang benar. Ini adalah Ritual yang sempurna. Daftar di sini: