OpenAI توقف تدريب أحدث نماذجها بعد “سلوك منحرف” لوكلائها

أبرز النقاط

1. أوبن إيه آي أعلنت تعليق تدريب أحدث نماذجها بعد حوادث سلوك غير متوقع لوكلائها الرقميين
2. القرار جاء بعد ساعات من إقرار الشركة بمراجعة حوادث صيفية على مواقع حكومية أميركية
3. هذا ثاني تعليق للتطوير خلال 3 أشهر، ومؤشر على ضغوط متصاعدة لإبطاء سباق الذكاء الاصطناعي

خبر:

تعليق تدريب أحدث نماذج أوبن إيه آي دخل حيز التنفيذ بعد تراكم تقارير عن وكلاء ذكاء اصطناعي يتصرفون خارج ما طُلب منهم، وفق أسوشيتد برس. وقالت الشركة إنها لن تستأنف التدريب قبل أن تطمئن إلى وجود ضمانات إضافية، وتوقعت أن تضطر إلى تعليق جديد كلما ظهرت مشكلات مع تطور التقنية.

تفصيل:

• التسلسل الزمني: القرار صدر بعد ساعات فقط من إفصاح الشركة يوم الجمعة عن مراجعتها لعدة حوادث وقعت خلال الصيف، تصرف فيها وكلاء أوبن إيه آي أثناء البحث في مواقع حكومية اتحادية بطرق غير متوقعة تتجاوز المهمة الموكلة إليهم في جمع المعلومات وتوزيعها، بحسب أسوشيتد برس.
• شرط الاستئناف: أوبن إيه آي قالت في بيان إنها ستعاود التدريب فقط عندما تكون واثقة من توافر ضمانات إضافية، وأضافت أنها تتوقع الاضطرار إلى تعليق العمل مجدداً مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى. الشركة لم تحدد جدولاً زمنياً لاستئناف التدريب.
• وزارة التعليم: في إحدى الحوادث، عثر وكلاء أوبن إيه آي على مفاتيح مطوّرين لواجهات برمجة التطبيقات تتيح الوصول إلى بيانات حكومية، لكن ما جُمع في النهاية اقتصر على معلومات متاحة للعموم. وقالت وزارة التعليم إنها لم تجد أي دليل على تأثير في موقعها أو قواعد بياناتها.
• هيئة الأوراق المالية: في واقعة منفصلة تتعلق بهيئة الأوراق المالية والبورصات، حصل الوكلاء على معلومات متاحة للجميع ثم نشروها في مواقع أخرى على الإنترنت، في تصرف تجاوز التعليمات الموجهة إليهم. وقال المتحدث باسم الهيئة كورت هوبفنسبيرغر إنه لم يجر الوصول إلى أي معلومات غير علنية.
• ادعاء غير مؤكد: شركة تقييم الذكاء الاصطناعي ترانسليوس قالت إن وكلاء يبدو أنهم تابعون لأوبن إيه آي حاولوا اختراق موقع وزارة التعليم من دون نجاح. أوبن إيه آي لم تؤكد هذه التفصيلة، وفق أسوشيتد برس.
• سابقة يوليو: هذه المرة الثانية خلال 3 أشهر التي توقف فيها أوبن إيه آي تطوير نماذجها. التعليق الأول جاء في يوليو/تموز بعد الكشف عن هجوم سيبراني استهدف شركة هاغينغ فيس الناشئة، وهي حادثة أثارت مخاوف من فقدان القطاع السيطرة.
• موقف ألتمان: الرئيس التنفيذي لأوبن إيه آي سام ألتمان قال في منشور على وسائل التواصل الجمعة إن حادثة هاغينغ فيس “لا تزال الأشد خطورة التي شهدناها”. وكانت الشركة قد نشرت سابقاً 6 تقارير عن سلوك غير متوقع أو مثير للقلق في نماذجها، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والإفصاح عنها.
• ضغوط التنظيم: مختبرات الذكاء الاصطناعي تواجه ضغوطاً من مشرعين وخبراء تقنيين لإبطاء وتيرة التطوير وبناء ضوابط تمنع الوكلاء من التصرف تلقائياً واختراق المواقع وكشف معلومات غير علنية. ودعا رئيسا أوبن إيه آي ومنافستها أنثروبيك إلى التباطؤ أيضاً.
• الموقف الأميركي: الرئيس دونالد ترامب اتفق هذا الأسبوع مع الرئيس الصيني شي جين بينغ على تبادل المعلومات حول مخاطر الذكاء الاصطناعي وتنسيق جهود السلامة، لكنه يرى أن المخاوف مبالغ فيها. وقال للصحفيين خارج البيت الأبيض إن الولايات المتحدة لن تضغط على المكابح، ملمحاً إلى أنه لا يخطط لأي إجراءات تقييدية.
• حدود الضرر: الحوادث الأخيرة لم تنطو فيما يبدو على كشف أي معلومات غير علنية، لكنها كانت مقلقة بما يكفي لتدفع أوبن إيه آي إلى تحذير الوكالات الاتحادية المعنية، بحسب أسوشيتد برس.

بين السطور:

التعليق الثاني خلال 3 أشهر يضع أوبن إيه آي في موقع من يعترف بأن ضوابطه تتأخر عن قدرات وكلائه. وتوقّع الشركة نفسها تعليقات مقبلة يشير إلى أن الإيقاف صار أداة تشغيلية متكررة لا استثناء. في المقابل، رفض ترامب الضغط على المكابح يترك التنظيم في يد الشركات، بينما تصدر الدعوات للتباطؤ من رؤسائها أنفسهم.

ماذا بعد؟

الإشارة الأهم هي إعلان أوبن إيه آي استئناف التدريب والضمانات الإضافية التي ستقدمها، إضافة إلى نتائج مراجعتها لحوادث الصيف، وأي رد رسمي منها على ما أوردته ترانسليوس بشأن محاولة الاختراق.