1/2 قمنا بتوسيع عملنا السابق في نظام موازية البيانات (حيث تحتوي كل عقدة على نسخة كاملة من النموذج) إلى نظام النموذج المتوازي. هذا هو العمل الأول ، بصرف النظر عن ورقة السرب الأصلية ، التي تتعامل مع السيناريو الذي يتم فيه تقسيم النموذج نفسه على الأجهزة.