In unserem letzten Blogbeitrag haben wir gezeigt, wie man Datenschutz-wahrende LLM-Schemata knacken kann – permutierte Modellzustände mit nahezu perfekter Genauigkeit dekodieren. Heute präsentieren wir unsere Verteidigung: Cascade 🕵️‍♂️✨

Cascade sichert die LLM-Inferenz, indem versteckte Zustände über Parteien hinweg durch "Token-Sharding" aufgeteilt werden – jeder Knoten sieht nur eine Reihe von wenigen Token. Je weiter die Token eines Knotens auseinander liegen, desto höher sind die Kosten für einen Angriff – die exponentiell mit der Distanz wachsen.

Cascade behält die volle Treue bei der Inferenz – keine Annäherungen, keine Festpunktmathematik. Es teilt die Berechnung zwischen CompNodes (für MLPs) und AttnNodes (für Aufmerksamkeit) auf und bewahrt exakte Ergebnisse über verteilte Stufen.

Der Kern von Cascade ist ein Token-Sharding-Schema, das sowohl gegen unseren Rekonstruktionsangriff als auch gegen bekannte lernbasierte Angriffe robust ist. Wir zeigen in der Arbeit, dass unser Ansatz, genannt c-δ Sharding, starke Privatsphäre erreicht, ohne die Treue zu beeinträchtigen.

Wir führen umfangreiche Experimente zur Sicherheit von Cascade gegen angreifende Lernmethoden durch. Obwohl es nicht die formalen Garantien von SMPC bietet, zeigen wir, dass Cascade mit genügend Knoten empirisch robust gegen diese Angriffe ist.

Der bedeutendste Vorteil von Cascade ist Geschwindigkeit und Skalierbarkeit. Im Vergleich zu bestehenden SMPC-Schemata wie MPCFormer und Puma ist Cascade um 2 Größenordnungen schneller, selbst in der sichersten getesteten Einstellung (72 Teilnehmer):

Cascade wurde durch die Notwendigkeit motiviert, ein neues Paradigma im Kompromiss zwischen Privatsphäre, Sicherheit und Skalierbarkeit zu finden. Wir glauben, dass die Kernidee – Token-Sharding – dieses Gleichgewicht erreicht und eine neue Richtung für datenschutzfreundliche LLMs eröffnet.

Unsere Arbeit sowohl zum Angriff als auch zu Cascade wurde auf der ICML 2025 akzeptiert und wird am 16.07. um 16:30 Uhr PST im East Exhibition Hall A-B, Raum E-2612, im Vancouver Convention Center präsentiert. Kommen Sie vorbei und plaudern Sie mit uns! 🔗

Kommen Sie zu unserem Ritual-Event beim ICML. Treffen Sie unser KI- und Krypto-Forschungsteam, entspannen Sie sich mit großartigen Menschen und beenden Sie Ihren Tag auf die richtige Art und Weise. Es ist das perfekte Ritual. Registrieren Sie sich hier: