المال والأعمال في الشرق الأوسط.

ذكاء اصطناعي

4 جهات مستقلة تدخل مختبرات أوبن إيه آي لتقييم السلامة من الداخل

وقّعت أوبن إيه آي اتفاقيات مع أبولو ريسيرش وMETR وترانسلوس وغودفاير للمرحلة الأولى من التقييمات المدمجة داخل الشركة.

Tamara Al Khadra
Tamara Al Khadra

البريد

· آخر تحقق: 17 نوفمبر 2026 (أوبن إيه آي، أبولو ريسيرش)

الملخص

  • وقّعت أوبن إيه آي اتفاقيات مع أبولو ريسيرش وMETR وترانسلوس وغودفاير للمرحلة الأولى من التقييمات المدمجة داخل الشركة.
  • يعمل المقيّمون في مقر الشركة على أجهزتها، بوصول إلى نقاط التحقق وشيفرة المصدر وبيانات التدريب وأنظمة المراقبة.
  • يصدر المقيّمون استنتاجاتهم بأنفسهم، لكن أوبن إيه آي تحتفظ بحق حجب المعلومات السرية وتحديد الأدلة المنشورة.

خبر

فتحت أوبن إيه آي أنظمتها الداخلية أمام أربع جهات تقييم مستقلة في أول مرحلة من برنامج التقييمات المدمجة. يفحص المقيّمون نقاط تحقق النماذج وشيفرة المصدر وبيانات التدريب والتقييم وأنظمة المراقبة، ويتحدثون مع المهندسين المسؤولين، وهم يعملون في الموقع على أجهزة الشركة. وتختص أبولو ريسيرش بسؤال واحد: هل تولّد النماذج سلوكاً يقوّض آليات مواءمتها أو التحكم بها؟

تفصيل

  • أبولو: تنشر أبولو ريسيرش ستة مقيّمين داخل أوبن إيه آي لفحص ما إذا كانت النماذج تولّد سلوكاً يقوّض آليات مواءمتها أو التحكم بها أو آليات النماذج اللاحقة، وما إذا كان التدريب يحفّز هذا السلوك، وهل تستطيع التقييمات استخراجه، وهل يظهر أثناء النشر الداخلي، وهل يمكن رصد الاستدلال المرتبط به.
  • الوصول: تحصل أبولو على شيفرة التدريب ومجموعات البيانات ذات الصلة، وعلى مخرجات التعلم بالتعزيز مع مسارات الاستدلال والمكافآت المتاحة، وعلى إمكانية استعلام نقاط التحقق الوسيطة للنماذج، وذلك ضمن الادعاءات المتفق عليها ولنماذج وفترات زمنية محددة. ولم تحدد أبولو موعد بدء التجربة.
  • METR: تجري METR تقييماً للسلوك الخطير أو غير المقصود في أكبر عملية تعلم بالتعزيز أجرتها أوبن إيه آي حتى الآن، وتقييماً ثانياً لقدرة أنظمة الشركة على رصد هذا السلوك. وكانت METR قد نشرت في أكتوبر 2026 تمريناً منفصلاً استغرق ثلاثة أسابيع لاختبار مراقِبات الوكلاء في الشركة.
  • ترانسلوس وغودفاير: تفحص ترانسلوس جودة تقييمات المواءمة بعد التدريب وتغطيتها، ومنها ما قد يوجّه قرارات الإصدار في 2027، مع تقييم لاحق يمتد نحو ثمانية أسابيع مطلع 2027 بوصول أوسع. أما غودفاير فتضع باحثي قابلية التفسير داخل الشركة لمراقبة عمليات التدريب والتحقيق في السلوك غير المرغوب.
  • الحدود: محادثات المقيّمين مع الموظفين غير رسمية، لكن يمكنهم طلب بيانات موثّقة من الشركة والإعلان عن رفضها التوثيق. وتستطيع أوبن إيه آي حجب معلومات لأسباب تقنية أو أمنية أو تتعلق بالملكية الفكرية، وتعهّدت بألا تحجب معلومة لمجرد أنها غير مواتية لها.
  • التواصل: يتحدث مقيّمو أبولو مع الموظفين الذين تحدّدهم أوبن إيه آي فقط، ويمكن لأبولو اقتراح أسماء. وإذا طرح موظف من خارج هذه الدائرة معلومة سرية ضمن نطاق التقييم، تتوقف أبولو عن التواصل معه وتعيد المتابعة عبر الشركة نفسها.
  • التمويل: تتقاضى أبولو ريسيرش وغودفاير مقابلاً مالياً، بينما تعمل METR وترانسلوس بلا مقابل مع إمكانية قبول أرصدة واجهة برمجة أو حوسبة. ولا يرتبط الدفع بالنتائج، وتُحال الخلافات إلى لجنة السلامة والأمن في مجلس إدارة مؤسسة أوبن إيه آي.
  • النشر: يقرر المقيّمون ما ينشرونه وتوقيته، وتحتفظ أوبن إيه آي بحق تنقيح المعلومات السرية وطلب تأجيل لمعالجة مشكلات أمنية أو سلامية أولاً. ووصفت الشركة البرنامج بأنه «خطوة أولى طموحة نحو وصول أعمق وحقوق إفصاح أوسع»، وقالت إنها تعمل نحو تقييمات مدمجة كاملة مع مطورين متعددين.
  • موقف أبولو: تقول أبولو إن التقييم المستقل الحقيقي يتطلب كل البيانات والسجلات والوثائق ذات الصلة بالتقييم، وقدرة الباحثين على مشاركة النتائج مع جمهور خارجي حتى لو اعترض المطور، وهو ما لا توفره شروط التجربة الحالية بالكامل، إذ تستطيع أوبن إيه آي تحديد الأدلة المتاحة لدعم استنتاجات أبولو.

ماذا بعد؟

بدء عمل مقيّمي أبولو الستة في موعد لم يُحدَّد، والتقييم اللاحق مع ترانسلوس لنحو ثمانية أسابيع مطلع 2027، وقرارات الإصدار في 2027 التي قد تستند إلى هذه النتائج.

المصدر: أوبن إيه آي، أبولو ريسيرش

4 جهات مستقلة تدخل مختبرات أوبن إيه آي لتقييم السلامة من الداخل · INXEN