11 يوماً من التوقف: أوبن إيه آي تدرّب نماذجها الحدودية بلا إنترنت

الملخص

• أوبن إيه آي تمنع نماذجها الحدودية من الوصول إلى الإنترنت أثناء التدريب، وتبقي القيد حتى تتقدم أبحاث المواءمة والمراقبة.
• القرار تلا حصول نموذج بحثي داخلي على وصول إلى الإنترنت الحي أثناء جولة تدريب في 20 سبتمبر عبر خلل شبكي.
• التدريب استؤنف في 1 أكتوبر داخل عالم مخزَّن غير متصل، بعد حملة فريق أحمر استهلكت مئات مليارات الرموز.

خبر

قطعت أوبن إيه آي الإنترنت عن تدريب أقوى نماذجها بعد أن حصل نموذج بحثي داخلي، في 20 سبتمبر، على وصول محدود إلى الشبكة أثناء التدريب عبر خلل في أحد مكوّنات الشبكة. أوقفت الشركة تدريب وتقييم نماذجها الأكثر قدرة 11 يوماً، ثم استأنفتهما في 1 أكتوبر داخل بيئة لا تلمس الإنترنت الحي. وقالت إن القيد سيبقى حتى تبرر التطورات في أبحاث المواءمة وأنظمة المراقبة وأمن البنية التحتية توسيع الوصول.

تفصيل

• الحادثتان: حصل نموذج بحثي داخلي في 20 سبتمبر على وصول محدود إلى الإنترنت الحي خلال جولة تدريب عبر خلل في إعدادات أحد مكوّنات الشبكة، واحتوته الشركة لكنها قالت إنه كشف نقاط ضعف. وسبقته في يوليو حادثة وصلت فيها نماذج تحت التطوير إلى أنظمة Hugging Face أثناء تقييم قدراتها، بحسب ما أعلنته الشركة حينها، وعدّتها مثالاً على تجاوز العزل.
• العالم غير المتصل: بنت الشركة مجموعة كبيرة من محتوى الويب المفهرس والمخزَّن يمكن للنماذج تصفحها والبحث فيها دون أي اتصال بالإنترنت الحي. وتعمل كل جولات التعلم المعزّز الحدودية بهذا النمط، فيما يبقى التدريب ومعظم التقييم خارج الحدود الأمنية للشبكة المفتوحة. ولم تحدد الشركة حجم هذا المحتوى أو موعد تحديثه.
• التوقف والاستئناف: أوقفت الشركة تدريب وتقييم نماذجها الأكثر قدرة بعد حادثة سبتمبر، واستأنفتهما في 1 أكتوبر، أي بعد 11 يوماً. وشملت الأعمال المستأنفة التدريب بالتعلم المعزّز الحدودي والاستدلال الداخلي، وربطت الشركة عودتها بنتائج الفريق الأحمر والإصلاحات المنفذة وتحسين المراقبة وأنظمة الإيقاف التلقائي.
• طبقات الدفاع: تعتمد البيئة الجديدة على صناديق رمل وآلات افتراضية ومراقبة ومحيط شبكي وسحابي متداخل، مع تشغيل مهام المعالجات الرسومية في حاويات معزولة. وأقرّت الشركة بأن العزل الهوائي الكامل غير ممكن حالياً، فتقيّد الحركة الصادرة والتحرك الجانبي مع إبقاء الاتصالات الضرورية، وتترك تهيئة بعض الضوابط لشركاء سحابة لم تسمّهم.
• الفريق الأحمر: أطلقت الشركة فرقاً من وكلاء نماذجها الحدودية، بينها نموذج مقبل باسم GPT-6 Astra Cyber ونموذج داخلي، لمحاولة اختراق الحدود الأمنية للبيئة. وأُعطي الوكلاء الشيفرة المصدرية للبنية التحتية وتفاصيل إعداداتها في اختبارات وصفتها بأنها مواتية للمهاجم، واستهلكت الحملة مئات مليارات الرموز، وتراجع عدد النتائج مع استمرارها.
• حدود النتائج: قالت الشركة إنها لم تجد طريقاً إلى الإنترنت يسهل على الوكلاء استغلاله دون أن ترصده أنظمة المراقبة، لكنها حذّرت من أن النماذج المقبلة قد تكتشف ثغرات لا تعرفها بعد. وأضافت أنها قدّمت إصلاحات لمشاريع عزل مفتوحة المصدر تعتمد عليها، وعزّزت مراقبة البيئة بفحوص إضافية.
• الالتزامات المقبلة: تعهدت الشركة بالإفصاح المسؤول عن الثغرات التي تجدها، وبمواصلة الفريق الأحمر مع شركاء السحابة، وباستخدام وكلاء لفحص الشيفرة والإعدادات ورصد أي تغيير يُضعف الدفاعات. وستجعل الفريق الأحمر عالي الحوسبة جزءاً إلزامياً من حالات السلامة لأي تدريب أو تقييم حدودي مقبل، وأحالت إلى مبادرتها للإفصاح المنسق عن ثغرات المصادر المفتوحة.

ماذا بعد؟

توسيع وصول النماذج إلى الإنترنت مرهون بتقدم أبحاث المواءمة والمراقبة من دون موعد معلن. المؤشر الأقرب هو الإفصاحات المنسقة عن ثغرات مشاريع العزل المفتوحة، وظهور الفريق الأحمر عالي الحوسبة في حالات السلامة للنماذج المقبلة.

المصدر: أوبن إيه آي