ديب سيك تفتح مصدر DeepInfer محرك خدماتها على شرائح إنفيديا وهواوي

الملخص

• فتحت ديب سيك مصدر DeepInfer، إطار الاستدلال الذي يشغّل خدماتها الإنتاجية، برخصة Apache 2.0 على GitHub.
• الإصدار يدعم نموذج V4.1-Flash وحده ويعمل على معالجات إنفيديا SM100 ووحدات هواوي Ascend 950، ويستثني نظام ذاكرة KV وموازنة الحمل.
• من يملك هذا العتاد يشغّل خط الإنتاج نفسه الذي تستخدمه الشركة بلا رسوم رخصة، والمستودع جمع 17.9 ألف نجمة سريعاً.

خبر

إطار الاستدلال الذي يشغّل خدمات ديب سيك الإنتاجية صار مفتوح المصدر بالكامل تحت اسم DeepInfer وبرخصة Apache 2.0، بعد يوم واحد من أمر وزارة الأمن الداخلي الأميركية الوكالات المدنية بإزالة منتجات الشركة. تقول ديب سيك إن الهدف خفض تكاليف الحوسبة واستهلاك الطاقة، وإن شيفرة الاستدلال لنماذجها المقبلة ستوضع في المستودع نفسه. الإصدار الأول يغطي الاستدلال دون اتصال فقط.

تفصيل

• النموذج والعتاد: يدعم الإطار حالياً نموذج DeepSeek-V4.1-Flash وحده، ويحمّل افتراضياً نسخة 1017 من Hugging Face عند أول تشغيل. يعمل على معالجات إنفيديا من فئة SM100 ووحدات هواوي Ascend 950، ويحتاج إلى لينكس وPython 3.12 وGCC 13 فأعلى مع CUDA 13 لإنفيديا أو CANN 9.2 لهواوي.
• النوى والتوازي: يعتمد الإطار على نوى FlashMLA وDeepGEMM وDeepEP وTileKernels وDeepSelect ونوى TileLang مخصصة، إلى جانب وقت تشغيل للنموذج والمعاينة، ويوزّع العمل بتوازي بيانات الانتباه وتوازي سياق متوازن وتوازي خبراء لنماذج MoE مع موازنة الأحمال بين الخبراء، وهي المكوّنات التي تقول الشركة إنها تشغّل بها خدمتها.
• الفك التخميني: آلية DSpark تقترح حتى 5 رموز دفعة واحدة ثم تتحقق منها بجدولة تعتمد على الثقة، وتُفعَّل بمتغير بيئة واحد. وتقلّص إعادة التشغيل المحدودة للانتباه ذي النافذة المنزلقة عمل التعبئة المسبقة في المفكك للطلبات الطويلة، فيما تعمل الجدولة غير المتزامنة افتراضياً من دون تدخل المستخدم.
• ثبات المخرجات: يوفر الإطار استدلالاً ثابت الدفعة وأخذ عينات حتمياً، أي أن الإجابة نفسها تتكرر مهما تغير حجم الدفعة، لكن الميزتين تعملان على عتاد إنفيديا فقط دون هواوي. ويدعم الإطار المخرجات المنظمة بقيود تعبيرات regex ومخططات JSON وقواعد EBNF.
• ما لم يُنشر: يستثني الإصدار نظام إدارة ذاكرة KV، والفصل الكامل بين مرحلتي التعبئة المسبقة والفك وإن كانت الوثيقة تقول إن معظم وظائف المحرك اللازمة له منفذة، وموازنة الحمل بين النسخ المتوازية. والإصدار الحالي يغطي الاستدلال دون اتصال فقط لا الخدمة المباشرة للمستخدمين.
• الأداء: قيست المعايير على 4 معالجات SM100 لمرحلة التعبئة المسبقة و64 معالجاً لمرحلة الفك ضمن نطاق توسّع واحد، وتعرض الوثيقة النتائج رسوماً لحدود باريتو من دون أرقام نصية، مع نص برمجي لإعادة إنتاج القياس. وتصف الشركة الإطار بأنه يشغّل V4.1-Flash على نطاق واسع بإنتاجية عالية وكمون منخفض.
• الاستقبال: جمع المستودع 17.9 ألف نجمة و1.8 ألف تفريع على GitHub حتى صباح 22 أكتوبر، بأربعة التزامات على الفرع الرئيسي ومن دون أي إصدار مرقّم بعد. وترافقه مكتبة deepseek-recipe برخصة MIT تحوّل طلبات Chat Completions وResponses وMessages إلى صيغة ديب سيك.
• التوقيت: جاء الإصدار في 20 أكتوبر بعد يوم من أمر وزارة الأمن الداخلي الأميركية الوكالات المدنية الفيدرالية بإزالة منتجات ديب سيك وكل خدمة طرف ثالث مبنية عليها. وتقول ديب سيك إن فتح الشيفرة يهدف إلى مساعدة المجتمع على خفض تكاليف الحوسبة وتقليل استهلاك الطاقة وجعل الذكاء الاصطناعي أرخص.

ماذا بعد؟

إضافة نماذج ديب سيك المقبلة إلى المستودع كما وعدت الشركة، ونشر نظام ذاكرة KV والفصل بين التعبئة المسبقة والفك، وأول إصدار مرقّم للإطار.

المصدر: ديب سيك