المال والأعمال في الشرق الأوسط.

اقتصاد

هواوي تفتح أداة تضغط نموذج 122 مليار معامل في 64 دقيقة

أتاحت هواوي أداة MACaQ مفتوحة المصدر بترخيص Apache 2.0 لتكميم نماذج النص والصورة والفيديو والصوت إلى 4 بت.

· آخر تحقق: 13 نوفمبر 2026 (هواوي (غيت هاب)، arXiv، إيه آي ويكلي)

الملخص

  • أتاحت هواوي أداة MACaQ مفتوحة المصدر بترخيص Apache 2.0 لتكميم نماذج النص والصورة والفيديو والصوت إلى 4 بت.
  • تكمّم الأداة نموذجاً بـ122 مليار معامل في 64 دقيقة بذاكرة 32.5 غيغابايت، وتسرّع التوليد 2.58 مرة على Qwen3.8-27B.
  • المطورون يستطيعون تشغيل نماذج كبيرة محلياً عبر llama.cpp وvLLM وDiffusers على عتاد أقل، دون انتظار نسخ مضغوطة.

خبر

أداة واحدة تضغط نماذج النص والصورة والفيديو والكلام إلى 4 بت وتخرجها بصيغة GGUF للتشغيل المحلي، هذا ما أتاحته هواوي مفتوح المصدر تحت اسم MACaQ من مختبرها للسحابة والذكاء الاصطناعي. الأداة تكمّم نموذجاً بـ122 مليار معامل في 64 دقيقة باستخدام 32.5 غيغابايت من ذاكرة الجهاز، وتعمل مع llama.cpp وvLLM وDiffusers وPyTorch بترخيص Apache 2.0.

تفصيل

  • الأداة: MACaQ اختصار لتكميم معاير محايد للنموذج، ونشرها مختبر هواوي للسحابة والذكاء الاصطناعي تحت حساب huawei-csl على غيت هاب بترخيص Apache 2.0، مع احتفاظ المكوّنات الخارجية المضمّنة بتراخيصها. ويقدّم المستودع نفسه بشعار GGUF عالي الجودة للاستدلال المحلي وتكميم يتجاوز النص إلى بقية الوسائط.
  • الأطر: تخرج الأداة نماذج النص بتكميم 2 و3 و4 بت بصيغة GGUF لـllama.cpp مع دعم التنفيذ على المعالج المركزي، وتقدّم النص في vLLM بوضع W4A4 الافتراضي أو الأوزان فقط، وتكمّم الصورة والفيديو والصوت في Diffusers بوضع W4A4 بصيغة safetensors، وتولّد الكلام في PyTorch ومنه Qwen3-TTS وChatterbox Turbo.
  • النماذج: يسمّي الملف التعريفي نماذج Qwen3 بأحجام 4B و27B و30B و35B و80B، وOLMoE-1B-7B، وFLUX.2-klein-4B للصورة، وWan2.2-TI2V للفيديو، وStable Audio 1.0 للصوت. ويُشحن مع الشيفرة نموذج مكمَّم مسبقاً هو Qwen3.6-35B-A3B-MACaQ-R بصيغة GGUF جاهز للتشغيل، وتعمل نسخ GGUF الناتجة على المعالج المركزي من دون معالج رسومي بحسب المستودع.
  • الأرقام: يقول المؤلفون إن الأداة تكمّم نموذجاً بـ122 مليار معامل في 64 دقيقة باستخدام 32.5 غيغابايت من ذاكرة الجهاز، وتحقق حيرة أدنى من MR-GPTQ وDuQuant++، أو تطابق أفضل حيرة لهما على Llama-3-8B بزمن تكميم أقل 11 مرة. والأرقام معلنة من الفريق نفسه بلا تحقق مستقل.
  • الأداء: على Qwen3.8-27B في vLLM بلغت حيرة النسخة الأصلية BF16 نحو 2.8463 مقابل 2.8994 لنسخة MACaQ بوضع W4A4، أي فارق محدود في الجودة، مع تسريع 2.33 مرة في مرحلة التعبئة المسبقة و2.58 مرة في مرحلة التوليد بحسب المستودع. ويعني وضع W4A4 تكميم الأوزان والتنشيطات معاً إلى 4 بت، وهو ما تعالجه الورقة بعنوانها عن الأوزان والتنشيطات منخفضة الدقة.
  • المنهج: تكمّم الأداة كل طبقة خطية على حدة، وتطبّق تحويلات هادامارد كتلية على التنشيطات مع طيّ التحويلات العكسية في الأوزان، ويحسّن مكوّن Flip-Refinement شيفرات MXFP4. وتعود الطريقة إلى ورقة arXiv 2611.10649 المنشورة في 7 نوفمبر 2026 للمؤلفين مولر وبيش وبوريتي وتشانغ وجوانغ وكافيجيلي.
  • العتاد: تدعم الأداة معالجات Ascend من هواوي عبر طلبات دمج في منصة CANN لنوى W4A4 الكثيفة والمجمّعة، لكن المستودع يوضح أن تنفيذ النموذج كاملاً على هذه المعالجات يحتاج تكاملاً مع وقت تشغيل استدلال Ascend. وكان المستودع عند القراءة يضم 16 التزاماً و35 نجمة.

ماذا بعد؟

اكتمال تكامل Ascend مع وقت تشغيل الاستدلال، وظهور نسخ GGUF مكمَّمة بالأداة لنماذج Qwen الأحدث على المنصات المفتوحة، وتقييمات مستقلة لأرقام الحيرة والتسريع المعلنة.

المصدر: هواوي (غيت هاب)، arXiv، إيه آي ويكلي