بايت دانس تحقق تقدما كبيرا في مجال الذكاء الاصطناعي يهدد إنفيديا
قالت شركة بايت دانس الصينية، المالكة لمنصة تيك توك، إنها حققت تحسنا في كفاءة تدريب نموذج اللغة الكبير (LLM) بمقدار 1.71 مرة، وهي أحدث شركة للتكنولوجيا تحقق تقدمًا قد يقلل من الطلب على وحدات معالجة الرسومات المتطورة GPU من إنفيديا.
وذكر فريق Doubao Development التابع للشركة أنهم تمكنوا من "تسريع" كفاءة تدريب LLM من خلال "1.71 مرة" بفضل نظام Comet، وهو نظام محسن للخبراء MOE، وفقا لدراسة حديثة تم نشرها على المنتدي العلمي Arxiv.
تقنية MOE تقلل من تكلفة تدريب الذكاء الاصطناعي
تعد MOE هي تقنية تعلم آلي حيث يتم استخدام شبكات خبراء متعددة لتقسيم المسائل إلى أقسام متجانسة؛ مما يعزز كفاءة النماذج.
وقد تم اعتماد هذه التقنية على نطاق واسع لتوسيع نطاق LLMS إلى معلمات تريليونية، مع الحفاظ على تكلفة الحوسبة الثابتة، ويستخدمها الآن العديد من نماذج الذكاء الاصطناعي الرائدة على نطاق واسع، مثل Grok وDeepseek.
من خلال هذه التقنية، تمكنت شركة بايت دانس من تحقيق "مدخرات ضخمة" في ساعات معالجة الرسومات عبر أنظمتها الإنتاجية التي تتطلب أكثر من 10,000 وحدة معالجة رسومات، وفقا لما ذكره فريق Doubao.
يمكن أن تؤدي الاختراقات في تقليل تكلفة التدريب لنماذج الذكاء الاصطناعى إلى انخفاض الطلب على الرقائق من إنفيديا، حيث تخضع وحدات معالجة الرسومات عالية الأداء لضوابط تصدير صارمة من قبل الولايات المتحدة.
لقد أدى صعود نموذج Deepseek، والذي تم تطويره وتدريبه بتكلفة أقل ومع موارد الحوسبة منخفضة بمقارنة بنظرائها الغربيين، وبمجرد إصداره شهدت شركة إنفيديا انخفاضا في القيمة السوقية بقيمة 600 مليار دولار أمريكي تقريبا، في أكبر انخفاض تتعرض له شركة أمريكية يوم واحد، قبل انتعاشها في اليوم التالي.
ومن المتوقع أن يكون النظام الجديد من بايت دانس مفتوح المصدر، مما سيشجع المزيد من التحسينات والتطويرات في هذا المجال.
وفي الوقت نفسه، تشهد تقنيات الذكاء الاصطناعى من شركات التكنولوجيا الكبرى الأخرى في الصين اعتمادا متزايدا في السباق لإنتاج نماذج الذكاء الاصطناعي ذات التكلفة المنخفضة، ففي الشهر الماضي، تم الإعلان عن نموذج جديد للتفكير، تم تدريبه لمدة 26 دقيقة فقط باستخدام 16وحدة معالجة الرسومات H100S، من إنفيديا.
