Acabamos de lanzar Covenant-72B: la mayor ejecución de pre-entrenamiento descentralizado de la historia, con participación sin permisos a través de internet. Es especialmente emocionante ver cómo SparseLoCo se escala de manera tan limpia a 72B, con >146× de compresión, robustez bajo participación dinámica y actores malintencionados, y un rendimiento competitivo con las líneas base centralizadas entrenadas con presupuestos de tokens más grandes.