Nous venons de lancer Covenant-72B : le plus grand entraînement préliminaire décentralisé jamais réalisé, avec une participation sans autorisation sur Internet. Il est particulièrement excitant de voir SparseLoCo se déployer si proprement à 72B — avec >146× de compression, une robustesse face à la participation dynamique et aux acteurs malveillants, et des performances compétitives avec des références centralisées entraînées sur des budgets de tokens plus importants.