أوبن إيه آي تعيد بناء دليل سلوك نماذجها حول 5 قيم

الملخص

• أوبن إيه آي تحدّث Model Spec وتعيد تنظيمه حول خمس قيم تحكم سلوك نماذجها.
• الدليل وثيقة علنية تصف السلوك المطلوب من النماذج، لا السلوك القائم فعلياً.
• التحديث يلغي معظم إرشادات الأسلوب التفصيلية ويضيف قواعد للسياق والرقابة البشرية.

خبر

أعادت أوبن إيه آي تنظيم دليل سلوك نماذجها Model Spec حول خمس قيم أساسية: الإخلاص للنية البشرية، وتقليل الضرر، والصدق والشفافية، وتعزيز الفاعلية البشرية، والعناية. وقالت الشركة إن التحديث يضيف إرشادات جديدة حول السياق والإشراف والفاعلية، ويعدّل بعض السلوكيات الافتراضية، ويلغي الجزء الأكبر من التوجيهات التفصيلية المتعلقة بالأسلوب.

تفصيل

• القيم الخمس: حدّدت الشركة الإخلاص للنية البشرية باعتباره الأساس، إلى جانب تقليل الضرر عبر احترام حدود أمان صارمة، والصدق والشفافية بشأن ما يعرفه النموذج وما لا يتيقن منه، وتعزيز قدرة الناس على الفهم والاختيار والتصرف، والعناية بظروف المتأثرين والالتزام بالمعايير المهنية.
• سبب التحديث: قالت أوبن إيه آي إن ازدياد قدرة النماذج واتساع آثار أفعالها يفرضان أن تتجاوز التفسير الحرفي للتعليمات، وأن تفهم النوايا والقيم البشرية لتمارس حكماً سليماً في مواقف لا تغطيها التعليمات صراحة، مع بقائها خاضعة للنية والإشراف البشريين.
• تسلسل الصلاحيات: بحسب الشركة، تكتب أوبن إيه آي الدليل وتضع الحدود وتدرّب النماذج على احترامها، ويوجّه المطوّرون تطبيقاتهم داخل تلك الحدود، بينما يوجّه المستخدمون عمل النموذج ضمن القيود نفسها. ويتضمن التحديث نسخة محدّثة من تسلسل الصلاحيات تشرح أي التعليمات تُطبّق وكيف تُحسم التعارضات.
• أقسام جديدة: أضاف التحديث قسماً فرعياً عن مراعاة السياق بعناية، يشرح كيف ينبغي للمحادثات والذاكرة والأدلة السياقية أن تُغذّي فهم النموذج لنوايا المستخدمين وتفضيلاتهم، إضافة إلى سلوكيات افتراضية جديدة حول دعم الفاعلية البشرية واتباع المعايير الاجتماعية ذات الصلة.
• الآثار الجانبية: وسّعت الشركة الإرشادات القائمة بشأن ضبط الآثار الجانبية لعمل النموذج والإبلاغ عنها، بما يشمل مراعاة انعكاسات العمل على أطراف أخرى، وتعزيز قدرات المستخدمين، وإنتاج عمل يمكن الاعتماد عليه، مع احترام أهداف المستخدم وتعليماته.
• إلغاء الأسلوب: ألغت أوبن إيه آي معظم الإرشادات التفصيلية المتعلقة بالأسلوب، معتبرة أنه يجب أن يتكيّف مع تفضيلات المستخدمين ضمن اللغات والثقافات. لكن الدليل احتفظ بسلوكيات افتراضية أقوى، منها مقاربة الأسئلة بموضوعية، وعدم استنتاج وجهة نظر يرجّح النموذج أن المستخدم يريد سماعها.
• تسمية جديدة: باتت الوثيقة تشير إلى النموذج باسم GPT بدلاً من المساعد، وعزت الشركة ذلك إلى اتساع حالات الاستخدام وبيئات النشر.
• مثال تطبيقي: أوردت الشركة مثالاً على الإخلاص للنية: عند مساعدة شخص في المقارنة بين عروض عمل، يمكن للنموذج الاستناد إلى أولويات سبق أن ذكرها مثل ساعات عمل يمكن التنبؤ بها، على أن تبقى تلك الافتراضات ظاهرة وقابلة للتصحيح بسهولة.
• قيد صريح: أقرّت أوبن إيه آي بأن الدليل يصف السلوك الذي تعمل نحوه، وأن نماذجها لا تعكسه بالكامل بعد. ولم تحدد الشركة جدولاً زمنياً لنشر نتائج أساليب التدريب الجديدة التي تختبرها لتعليم النماذج هذه القيم.

خلفية

Model Spec وثيقة علنية تنشرها أوبن إيه آي لوصف السلوك المطلوب من نماذجها، وتحدَّث دورياً استناداً إلى البحث وتجربة النشر والتعليقات العامة وملاحظات خبراء خارجيين.

بين السطور

الانتقال من قواعد أسلوب تفصيلية إلى خمس قيم عامة يعكس رهاناً على أن النماذج قادرة على الاستدلال في مواقف غير مألوفة بدل اتباع قوائم سلوك جاهزة. ويزيد وزن هذا الرهان إقرار الشركة بأن نماذجها لا تطابق الدليل بالكامل بعد، ما يجعل الفجوة بين النص المعلن والسلوك الفعلي هي محل الاختبار الحقيقي.

ماذا بعد؟

دعت أوبن إيه آي إلى إرسال ملاحظات حول القيم والمفاضلات والصياغات، وقالت إنها ستنشر نتائج ودروس أساليب التدريب الجديدة في تحديثات مقبلة.

المصدر: أوبن إيه آي