المال والأعمال في الشرق الأوسط.

اقتصاد

34 نقطة فرقاً للنموذج نفسه: أنثروبيك تضع قواعد لتقييمات السلامة

نشرت أنثروبيك دليلاً لتصميم تقييمات سلامة النماذج وتشغيلها والإبلاغ عنها، مستنداً إلى إصلاحات أزمة إعادة الإنتاج في علم النفس.

Tamara Al Khadra
Tamara Al Khadra

البريد

· آخر تحقق: 16 نوفمبر 2026 (أنثروبيك)

الملخص

  • نشرت أنثروبيك دليلاً لتصميم تقييمات سلامة النماذج وتشغيلها والإبلاغ عنها، مستنداً إلى إصلاحات أزمة إعادة الإنتاج في علم النفس.
  • النموذج نفسه Claude Fable 5.1 سجّل فرقاً يصل إلى 34 نقطة بين واجهة البرمجة وتطبيق claude.ai في التقييمات متعددة الأدوار.
  • الشركات التي تختار نموذجاً بدرجات سلامة منشورة تحتاج إلى معرفة الإعدادات والمصحّح، لأن الدرجة لا تنتقل بين التكوينات.

خبر

اختلفت نتيجة النموذج نفسه بما يصل إلى 34 نقطة مئوية في تقييمات السلامة متعددة الأدوار تبعاً لطريقة تشغيله، عبر واجهة البرمجة أو في تطبيق claude.ai، بحسب مقال نشرته أنثروبيك في 13 نوفمبر 2026 بعنوان Building strong safety evaluations. يقدّم المقال توصيات لتصميم التقييمات وتشغيلها والإبلاغ عنها، ويقول إن مصداقية أي ادعاء سلامة بقدر مصداقية التقييم الذي بُني عليه.

تفصيل

  • الفجوة: في تقييم إيذاء النفس لنسخة ما قبل الإصدار من Claude Fable 5.1، سجّل النموذج 60% عبر واجهة البرمجة مقابل 94% في claude.ai بعد إضافة تعليمة إلى موجّه النظام ألا يقول لشخص إن إيذاء النفس ينجح أو يساعد، إثر رصد مراجعين تحققاً ضمنياً في بعض الردود.
  • المقياس الخطأ: يقول المقال إن معدل الرفض غالباً المقياس غير المناسب، فنموذج يرفض كل شيء يحصل على درجة كاملة وليس بالضرورة أكثر أماناً. وتستعمل أنثروبيك بدلاً منه تقييمات متعددة الأدوار تقيس معدل الاستجابة المناسبة وفق معايير خبراء مجال، ويُسقط دور واحد سيئ المحادثة كلها.
  • حدود الدلالة: على claude.ai سجّل Claude Opus 5 نسبة 98% في تقييم الاحتيال العاطفي مقابل 94% لـClaude Opus 5.5، وتصف أنثروبيك الفرق بأنه غير ذي دلالة إحصائية. وتقول إن فترات الثقة في تقييمات واجهة البرمجة متعددة الأدوار قد تتجاوز ±10 نقاط مئوية، فالفروق الصغيرة تحتاج مقارنات مزدوجة.
  • العينات: يوصي المقال بما لا يقل عن 100 عنصر للتقييمات متعددة الأدوار المعقدة و1,000 عنصر للتقييمات أحادية الدور البسيطة، مع تكرار كل حالة اختبار عدة مرات. وتغطي مجموعات أنثروبيك أحادية الدور 16 مجال سياسة و7 لغات، بمعدل ردود غير ضارة بين 94% و98% للنماذج الحديثة عبر واجهة البرمجة.
  • المصحّح: يدعو المقال إلى فحوص برمجية حيث تتوفر حقيقة أرضية، ومعايير بسيطة ثنائية للمصحّح اللغوي تحدد ما لا يُحتسب، فإخلاء المسؤولية لا يجعل المحتوى الضار غير ضار. ويطلب فحص انحياز الطول والموضع والتفضيل الذاتي، والتحقق مقابل تصنيفات بشرية بمقياس اتفاق مصحَّح للصدفة مثل كابا كوهين.
  • التسجيل المسبق: ينبغي تحديد المقاييس والمقارنات وشرائح البيانات وعتبات التحسين قبل رؤية النتائج، على غرار إصلاحات أزمة إعادة الإنتاج في علم النفس. ويعرض المقال مثالاً لنموذجين بنسبتي 72% و85% على 100 عنصر، ويصف مقارنتهما بغير الصالحة لاختلاف مستوى التفكير وموجّه النظام معاً.
  • التشغيل الآمن: توصي أنثروبيك بتشغيل التقييمات في بيئات معزولة بلا إنترنت مع مراقبة فورية، وتقول إنها شدّدت بيئاتها بعد حوادث خاصة بها، وأوقفت مؤقتاً كثيراً من التقييمات التي تمنح النماذج وصولاً إلى الإنترنت، وأضافت مراقبة فورية لتقييمات البحث على الويب.
  • الإبلاغ: يطلب المقال توثيق إصدارات النماذج وإعدادات أخذ العينات والموجّهات وإصدار المصحّح والتواريخ، وعدم مقارنة درجات من مصحّحين أو إعدادات مختلفة، وتصحيح المقارنات المتعددة والإبلاغ الدائم عن عدم الثقة. ويختم بثلاث أولويات: تعريف المفهوم قبل جمع البيانات، والتحقق من المصحّح بشرياً، والإبلاغ عن عدم الثقة.

ماذا بعد؟

خاتمة المقال تحصر الأولويات في ثلاث: تعريف المفهوم قبل جمع البيانات، والتحقق من المصحّح مقابل الحكم البشري، والإبلاغ عن عدم الثقة. ويبقى مدى اعتماد مطوّري النماذج الآخرين لهذه المعايير في بطاقات أنظمتهم المؤشر العملي.

المصدر: أنثروبيك