¡Si estás en ICML y te interesa la inferencia verificable, asegúrate de pasar por nuestro póster! Presentaremos TOPLOC, un método eficiente de hashing de activación que funciona en una variedad de configuraciones, por ejemplo, cambiando configuraciones de inferencia o incluso modelos. 16 de julio, 4:30 p.m., E-1106
Aquí está el hilo original sobre TOPLOC que explica las ideas detrás de él:
Prime Intellect
Prime Intellect29 ene 2025
Hoy, lanzamos TOPLOC: Un esquema de hash sensible a la localidad para la inferencia verificable - Detecta modificaciones en los modelos, las indicaciones o la precisión - Robusto en todos los tipos de GPU, configuraciones paralelas de tensor y kernels de atención - Validación hasta un 100× más rápida que la generación - Reduce la sobrecarga de memoria de las pruebas en 1000× Construir la base para protocolos de computación descentralizados y verificables.
1,37K