Chúng tôi vừa phát hành Covenant-72B: buổi chạy tiền huấn luyện phi tập trung lớn nhất từ trước đến nay, với sự tham gia không cần phép trên internet. Đặc biệt thú vị khi thấy SparseLoCo mở rộng một cách sạch sẽ đến 72B — với >146× nén, độ bền dưới sự tham gia động và các tác nhân xấu, và hiệu suất cạnh tranh với các tiêu chuẩn tập trung được huấn luyện trên ngân sách token lớn hơn.