Hvis du er på ICML og interessert i verifiserbar slutning, sørg for å stikke innom plakaten vår! Vi vil presentere TOPLOC, en effektiv aktiveringshashing-metode som fungerer på tvers av en rekke innstillinger, for eksempel å bytte inferensoppsett eller til og med modeller. 16. juli, 16:30, E-1106
Her er den originale tråden om TOPLOC som forklarer ideene bak den:
Prime Intellect
Prime Intellect29. jan. 2025
I dag lanserer vi TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Oppdager modifikasjoner av modeller, meldinger eller presisjon - Robust på tvers av GPU-typer, tensor parallelle konfigurasjoner og oppmerksomhetskjerner - Opptil 100 × raskere validering enn generasjon - Reduserer minneoverhead for korrektur med 1000× Bygge grunnlaget for desentraliserte, verifiserbare databehandlingsprotokoller.
1,34K