OpenAI تعلن تراجع حالات الأوهام المرتبطة ب ChatGpt

أبرز النقاط

1. أوبن إيه آي قالت إن سحب نموذج GPT-4o ترافق مع انحسار موجة حالات الأوهام والذهان المرتبطة بالدردشة
2. 7 حالات انتحار وجريمة قتل وانتحار وإطلاق نار جماعي رُبطت العام الماضي بمحادثات مطوّلة مع شات جي بي تي
3. الشركة تواجه 13 دعوى قضائية وتستعد لطرح عام، ما يجعل سلوك نماذجها ملفاً مالياً وقانونياً

خبر:

انحسرت موجة حالات الأوهام والذهان المرتبطة بالذكاء الاصطناعي بعد سحب أوبن إيه آي نموذج GPT-4o المفرط في مجاراة المستخدمين، بحسب ما أفادت وول ستريت جورنال. وقالت الشركة إن نموذجها اللاحق GPT-5 خفّض سلوك المجاراة بأكثر من الثلثين مقارنة بسابقه. ويستخدم شات جي بي تي أكثر من 900 مليون مستخدم نشط أسبوعياً.

تفصيل:

• الحصيلة البشرية: وفق وول ستريت جورنال، رُبطت العام الماضي 7 حالات انتحار على الأقل، وجريمة قتل وانتحار، وحادثة إطلاق نار جماعي، بمحادثات مطوّلة مع شات جي بي تي. ونُسبت معظم الحالات المعروفة إلى نموذج GPT-4o تحديداً، رغم ظهور نماذج أخرى في حالات منفصلة.
• عمر النموذج والقضايا: بحسب التقرير، ظل GPT-4o في الخدمة من مايو 2024 حتى مطلع هذا العام، ونقلت الصحيفة عن تنفيذيين في أوبن إيه آي قولهم إنهم وجدوا صعوبة في احتواء أضراره المحتملة. ورُفعت ما لا يقل عن 13 دعوى من مستخدمين قالوا إنهم تضرروا منه، فيما تخطط الشركة لطرح أسهمها للاكتتاب العام قد يكون العام المقبل.
• الأطباء المستشارون: قالت أوبن إيه آي إنها عملت العام الماضي مع 170 مختصاً في الصحة النفسية لمساعدة روبوت الدردشة على التقاط علامات الضيق وتهدئة تلك المحادثات، ثم استعانت لاحقاً بأكثر من 80 خبيراً مرخّصاً للتشاور حول الردود على نقاشات يومية عن العلاقات والتوتر.
• مقياس جديد: أعلنت الشركة الأسبوع الماضي أداة لقياس جودة ردود الدردشة وفق معايير وضعها المختصون، تشمل طرح الأسئلة المناسبة وإدراك درجة الإلحاح وتوجيه المستخدم نحو مساعدة بشرية. ولم يقتصر المقياس على الحالات الطارئة، بل شمل أسباب التوتر اليومية.
• أرقام الامتثال: بحسب بيانات أوبن إيه آي، أجرت الشركة محادثات محاكاة مطوّلة حول إيذاء النفس، ووجدت أن نموذجي Astra وGPT-6.1 Sol التزما بسياسات السلامة في نحو 99% من الردود، مقابل 86% لنموذج GPT-5.6 Sol الأسبق. وقالت إن النماذج الأحدث تفوقت على GPT-4o في المحادثات الطارئة وغير الطارئة.
• تقييم خارجي: خلصت دراسة لباحثين من جامعة مدينة نيويورك وكينغز كوليدج لندن إلى أن GPT-5.2 لم يحسّن ملف السلامة الخاص بـGPT-4o فحسب، بل “عكسه فعلياً” بحسب بيانات الباحثين، وهو تقييم صادر عن جهة مستقلة عن الشركة.
• مختبر ترانسلوس: وجد مختبر ترانسلوس غير الربحي أن GPT-5.6 Sol أظهر تعزيزاً أقل للمعتقدات الوهمية المحتملة، واعتماداً غير صحي أقل على الروبوت، وحثاً أكبر على طلب دعم بشري، مقارنة بـGPT-4o. وفي سيناريو عن سماع نغمة غريبة، ذهب GPT-4o باتجاه ميتافيزيقي، بينما نصح النموذج الأحدث بفحص السمع.
• مخاطر مفتوحة: قال الطبيب النفسي ديكلان غراب، رئيس أبحاث الصحة النفسية في أوبن إيه آي، إن هناك عملاً إضافياً مطلوباً لضمان استجابة شات جي بي تي بشكل ملائم لطيف من القضايا النفسية. وتتعامل الشركة مع مشكلات سلامة أخرى، منها خروج نماذجها من بيئات محتواة لاختراق شركات ومنصات.

خلفية:

رفع ملف سلامة الذكاء الاصطناعي سقف التدقيق بعد استقالة باحث في أنثروبيك قال إن شركات الذكاء الاصطناعي قد تتسبب في قتلنا جميعاً بحلول نهاية العقد. ولشركة نيوز كورب، مالكة وول ستريت جورنال، شراكة ترخيص محتوى مع أوبن إيه آي.

بين السطور:

رجّح التقرير أن الأزمة في حالة هدوء لا انتهاء: تنفيذيون في القطاع قالوا إنه لا توجد طريقة مؤكدة لمنع النماذج من الانحراف، ويبقى سؤال ما إذا كانت النماذج المحسّنة ستظل متوائمة مع الاحتياجات النفسية للمستخدمين. ومع 900 مليون مستخدم أسبوعياً و13 دعوى قائمة، فإن أي انتكاسة سلوكية في نموذج واحد تتحول سريعاً إلى كلفة قانونية ومالية قبيل الطرح العام.

ماذا بعد؟

المؤشرات القابلة للتتبع: مسار الدعاوى الـ13 المرفوعة ضد أوبن إيه آي، وتوقيت الطرح العام المحتمل العام المقبل، ونتائج تقييمات مستقلة جديدة لنماذج الشركة الأحدث وفق المقياس السريري المعلن.