أوبن إيه آي تقيّد معلومات الأسلحة للمراهقين وتُنهي محادثات العنف تلقائياً

الملخص

• ستحجب ChatGPT عن المراهقين المعلومات العملية عن الأسلحة وأنظمة الأمن حتى حين يبدو السؤال بريئاً وبلا نية عنيفة.
• لجميع المستخدمين: تُنهى المحادثة تلقائياً عند التركيز على العنف، ويُعلَّق الحساب مؤقتاً إذا تكرر ذلك.
• أوبن إيه آي أحالت أكثر من 200 حالة لجهات إنفاذ القانون في الربع الثالث، وستنشر تقرير سلامة كل 6 أشهر.

خبر

تضيق ChatGPT على المراهقين في المعلومات المتعلقة بالأسلحة وأنظمة الأمن حتى من دون مؤشرات على نية عنيفة، وتكتسب لجميع المستخدمين القدرة على إنهاء المحادثة تلقائياً حين تُظهر تركيزاً على العنف أو على إيذاء شخص آخر. أعلنت أوبن إيه آي الحزمة في 30 أكتوبر، وقالت إن الضمانات تبدأ بالتطبيق خلال الأسابيع المقبلة. وكشفت أنها أحالت أكثر من 200 حالة لجهات إنفاذ القانون في الربع الثالث.

تفصيل

• قيود المراهقين: تُقيَّد للمراهقين المعلومات العملية عن الأسلحة وأنظمة الأمن التي قد تسهّل العنف حتى حين يبدو السؤال بريئاً، وفق أوبن إيه آي. ويبقى بإمكانهم الحصول على مساعدة في منع العنف أو تهدئته وطلب الدعم والتواصل مع بالغ موثوق، وتُطبَّق القيود الأشد حين يتوقع النظام أن المستخدم دون 18 عاماً.
• إنهاء المحادثة: حين تُظهر المحادثة تركيزاً على العنف أو على إيذاء شخص آخر بجدية، يستطيع ChatGPT إنهاؤها تلقائياً لأي مستخدم مهما كان عمره. وإذا أنهى النظام محادثات متعددة للسبب نفسه فقد توقف أوبن إيه آي الحساب مؤقتاً، بحسب المنشور.
• الهجمات الجماعية: ستقدم ردود ChatGPT عن الهجمات الجماعية السابقة ومنفذيها تفاصيل أقل، بما فيها الأسلحة والمعدات وكيفية الحصول عليها ومقارنات حجم الضرر، بصرف النظر عن عمر المستخدم أو السبب الذي يعلنه. ويبقى السؤال عن أثر تلك الأحداث وعلامات الإنذار والوقاية متاحاً، وفق أوبن إيه آي.
• التحقق من العمر: قالت رويترز إن أوبن إيه آي شددت نظام التنبؤ بالعمر لنقل من يُقدَّر أنهم دون 18 عاماً إلى تجربة المراهقين. ومن وُضع خطأً في هذه التجربة يستطيع تأكيد أنه بالغ عبر Persona، شريك الشركة للتحقق من العمر. وبدأ التنبؤ بالعمر على خطط المستهلكين في 20 يناير 2026.
• تنبيهات الآباء: قد يتلقى الآباء تنبيهاً إذا عُطّل حساب مراهق بسبب انتهاكات تتعلق بالعنف، وتعمل الشركة على تنبيهات حين يُوقف الحساب مؤقتاً بسبب تكرار الحديث عن العنف. وكانت أوبن إيه آي قد وسّعت تنبيهات الآباء في يوليو 2026 وأطلقت ChatGPT للمراهقين في 18 أغسطس 2026.
• تقرير السلامة: التزمت أوبن إيه آي بتقرير دوري عن منع العنف وقضايا سلامة المجتمع وفاعلية ضماناتها، يصدر أوله مطلع 2027 ويغطي النصف الثاني من 2026، ثم يتجدد كل 6 أشهر. ويتضمن التقرير أمثلة مجهولة الهوية وتدابير جديدة وتغييرات في السياسات وبيانات داعمة.
• الأرقام: أحالت أوبن إيه آي أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من 2026، وفق المنشور. وبحسب رويترز، وجد أول تقرير للشركة عن استخدام المراهقين، الصادر في وقت سابق من أكتوبر، أنهم يقضون أقل من 15 دقيقة يومياً في المتوسط على ChatGPT.
• السياق: أفادت رويترز بأن شركات الذكاء الاصطناعي تواجه تدقيقاً متزايداً في مخاطر روبوتات المحادثة على المستخدمين الصغار ودورها في رصد تهديدات الأذى. وأشارت إلى تقرير لكومون سينس ميديا في أكتوبر وجد أن نسخة المراهقين كثيراً ما نبّهت الآباء متأخراً أو لم تنبههم عند نقاشات حساسة.
• التنفيذ: قالت أوبن إيه آي إن الضمانات تبدأ بالتطبيق خلال الأسابيع المقبلة وستُحسَّن مع الوقت، ولم تحدد موعداً لاكتمال الطرح. وبدأ التنبؤ بالعمر في الاتحاد الأوروبي وفق تحديث نشرته الشركة في 25 أغسطس 2026، بعد انطلاقه على خطط المستهلكين في يناير.

ماذا بعد؟

بدء تطبيق الضمانات خلال الأسابيع المقبلة، وصدور أول تقرير سلامة المجتمع مطلع 2027 عن النصف الثاني من 2026، وتنبيهات الآباء عند الإيقاف المؤقت التي تقول الشركة إنها تعمل عليها.

المصدر: أوبن إيه آي، رويترز