المواضيع الرائجة
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
تصل اقتصاديات الذكاء الاصطناعي إلى نقطة انعطاف حرجة. وفقا للبحث ، من المتوقع أن تصل تكاليف التدريب لنماذج الذكاء الاصطناعي الحدودية إلى أكثر من مليار دولار بحلول عام 2027.
توقع الرئيس التنفيذي لشركة @AnthropicAI داريو أمودي أن تكاليف التدريب على الذكاء الاصطناعي النماذج ستنمو في العام المقبل إلى بضعة مليارات من الدولارات لكل جولة.
"في عام 2026 ، قد يكون تدريب نموذج واحد أكثر من 10 مليارات دولار. بحلول عام 2027 ، يتوقع أن يكون لدى الشركات النموذجية طموحات لبناء مجموعات تدريب بقيمة 100 مليار دولار ".

حاجز الأجهزة مذهل: لقد كلف ما يقرب من 800 مليون دولار فقط للحصول على الأجهزة المستخدمة لتدريب GPT-4 ، مقارنة ب 40 مليون دولار للتكاليف المطفأة.
مع نمو تكاليف التدريب بمعدل ~ 2.4× سنويا ، أصبحت البنية التحتية للحوسبة غير الفعالة تهديدا وجوديا للشركات الذكاء الاصطناعي التي لا تستطيع تحسين إنفاقها.
دعنا نحلل التكاليف الحقيقية: يتطلب تدريب معلمة 7B LLM على 1-2 تريليون رمز مميز ~ 60,000 ساعة H100 GPU. بسعرنا (1.49 دولار / ساعة) ، هذا هو إجمالي 89,400 دولار.
نفس عبء العمل على AWS عند الطلب؟
405,000 دولار مذهل. يتراوح موفرو الخدمات السحابية الآخرون من 179,400 دولار إلى 209,400 دولار ، بينما تكلف الحلول المحلية حوالي 300,000 دولار عند إطفاؤها بالكامل.

توفر منصتنا ميزة واضحة: أرخص بمقدار 2.5× من AWS المخفضة وأرخص بمقدار 3-4× من مزودي الخدمات السحابية النموذجيين. تكلف البنية التحتية المحلية 6-9× أكثر عند حساب جميع النفقات. بالنسبة للفرق التي تهدف إلى توسيع نطاق مناسب للميزانية وشفاف لتدريب LLM الرئيسي ، يوفر عرضنا وفورات فورية وبساطة تشغيلية.
مع استمرار نمو النماذج ، فإن كفاءة الحوسبة ليست مجرد شيء لطيف - إنها خندقك التنافسي. السؤال ليس ما إذا كنت تستطيع التحسين ، ولكن ما إذا كنت تستطيع عدم القيام بذلك. ابدأ في زيادة ميزانية الذكاء الاصطناعي الخاصة بك إلى أقصى حد اليوم في .
مراجع
عصر الذكاء الاصطناعي. "الاتجاهات في أداء سعر وحدة معالجة الرسومات." عصر الذكاء الاصطناعي ، 2022 ، .
هوبهان وماريوس وتاماي بيسيروغلو. "الاتجاهات في أداء سعر وحدة معالجة الرسومات." عصر الذكاء الاصطناعي ، 2022 ، .
مراكز بيانات TRG. "فتح المدخرات: لماذا تتغلب وحدات معالجة الرسومات NVIDIA H100 على تكاليف تأجير AWS." مراكز بيانات TRG ، 2023 ،
كوتييه ، بن ، وآخرون "التكاليف المتزايدة لتدريب نماذج الذكاء الاصطناعي الحدودية." arXiv ، 2024 ،
تحقق من المدونة الكاملة هنا:
1.65K
الأفضل
المُتصدِّرة
التطبيقات المفضلة