如果你在 ICML 并对可验证推理感兴趣,确保来我们的海报看看! 我们将展示 TOPLOC,这是一种高效的激活哈希方法,适用于多种设置,例如切换推理设置或甚至模型。 7月16日,下午4:30,E-1106
这是关于TOPLOC的原始讨论线程,解释了其背后的理念:
Prime Intellect
Prime Intellect2025年1月29日
今天,我们发布了TOPLOC:一种用于可验证推理的局部敏感哈希方案 - 检测模型、提示或精度的修改 - 在不同的GPU类型、张量并行配置和注意力内核中具有鲁棒性 - 验证速度比生成快多达100倍 - 将证明的内存开销减少1000倍 为去中心化、可验证的计算协议奠定基础。
1.39K