المال والأعمال في الشرق الأوسط.

ذكاء اصطناعي

OpenAI تطلق مصنّفاً للصور وتحذيرات داخل ChatGpt

مصنّف صور جديد قادر على رصد مواد الاعتداء الجنسي على الأطفال، بما فيها المولَّدة بالذكاء الاصطناعي، أعلنته أوبن إيه آي ضمن حزمة أدوات للسلامة. وتشمل الحزمة شاشات تحذير داخل تشات جي بي تي، وحظراً مؤقتاً للحسابات، وإرشادات للمطورين، وأدوات مخصصة لأجهزة إنفاذ القانون.

Sakina Khalid
Sakina Khalid

البريد

· نُشر أصلاً على ontime+ · آخر تحقق: 16 نوفمبر 2026

أبرز النقاط

  1. أوبن إيه آي أطلقت أدوات جديدة لرصد مواد الاعتداء الجنسي على الأطفال وحظر مستخدميها مؤقتاً
  2. المصنّف طُوِّر مع المركز الوطني للأطفال المفقودين والمستغَلين ويُتاح مجاناً لشركات مختارة عبر واجهة البرمجة
  3. الإعلان يأتي مع دعاوى قضائية تتهم تقنيات الشركة بإلحاق الضرر بالمستخدمين، وخصوصاً القاصرين

خبر:

مصنّف صور جديد قادر على رصد مواد الاعتداء الجنسي على الأطفال، بما فيها المولَّدة بالذكاء الاصطناعي، أعلنته أوبن إيه آي ضمن حزمة أدوات للسلامة. وتشمل الحزمة شاشات تحذير داخل تشات جي بي تي، وحظراً مؤقتاً للحسابات، وإرشادات للمطورين، وأدوات مخصصة لأجهزة إنفاذ القانون. وقالت الشركة إن المصنّف متاح مجاناً لشركات مختارة عبر واجهة البرمجة.

تفصيل:

  • آلية المصنّف: بحسب أوبن إيه آي، يبحث المصنّف عن علامات بصرية للاعتداء في صور لم تُرصد سابقاً، ثم يمنحها درجة تعطي المراجعين مؤشراً على كيفية التعامل معها. وتتيح الشركة الوصول إليه عبر واجهة البرمجة لشركات مختارة دون مقابل.
  • الأرقام: قالت الشركة إن الاختبارات المبكرة مع شركاء أظهرت أن المصنّف يضع علامة على عدد أقل من الصور بنسبة 48%، مع رصد العدد نفسه من الصور المسيئة، ما يقلّص عبء المراجعين. وأضافت أن الصور المُعلَّمة أكثر ترجيحاً بمرتين لأن تكون مسيئة.
  • الشركاء: وفق أوبن إيه آي، طُوِّر المصنّف بالتعاون مع المركز الوطني للأطفال المفقودين والمستغَلين، وتعمل الشركة مع تحالف التقنية ومنظمة روست لتوسيع نطاق إتاحته. ولم تحدد الشركة أسماء الشركات التي حصلت على الوصول المبكر.
  • داخل تشات جي بي تي: سيعرض التطبيق تنبيهاً للمستخدم الذي يحاول الوصول إلى محتوى يُجنسن الأطفال، ويوجهه إلى جهات دعم متخصصة لوقف السلوك الضار، مع تعليق الحساب 24 ساعة كإنذار. وقالت الشركة إن تكرار المخالفة قد يؤدي إلى إلغاء الحساب نهائياً.
  • صياغة الرسائل: ذكرت أوبن إيه آي أنها صاغت نصوص التحذير وإرشاداتها بالتعاون مع منظمات وباحثين، بينهم منظمة بروتكت تشيلدرن ومؤسسة لوسي فيثفول والباحث جويل سكانلان من جامعة تسمانيا، الذي قيّم بشكل مستقل تجربة للرسائل الرادعة.
  • إرشادات المطورين: تنشر الشركة إرشادات للمطورين الذين يستخدمون أدواتها، تتناول منع هذا المحتوى ورصده ومساعدة المستخدمين على الإبلاغ عنه. وقالت إن الاختبارات الأولية دفعت عدداً من المطورين إلى تبنّي أدوات حماية الأطفال والتسجيل للإبلاغ لدى المركز الوطني.
  • أدوات التحقيق: تقول أوبن إيه آي إنها تزوّد أجهزة إنفاذ القانون المعنية بسلامة الأطفال بإضافات برمجية مخصصة وأدوات تحقيق وتحليل بيانات معقدة، يديرها مشرفو البرنامج. وتشمل الحزمة تدريباً للمحققين ودليلاً ميدانياً لاستخدام الذكاء الاصطناعي.
  • الضغوط القانونية: تواجه أوبن إيه آي دعاوى قضائية عدة تحمّل تقنيتها مسؤولية إلحاق الضرر بمستخدمين، وخصوصاً الأطفال. ووصفت منظمة كومون سينس ميديا غير الربحية، المعنية بالسلامة، تقنية الشركة بأنها تمثل “خطراً غير مقبول” على المراهقين.
  • سياق القطاع: تعرضت روبوتات محادثة أخرى، وتحديداً غروك، لاستخدامها في إنتاج صور جنسية غير رضائية شملت أطفالاً. وخلال الأشهر الـ12 الماضية أصدرت أوبن إيه آي مخططاً للسلامة، وحدّثت إرشادات المحتوى لحظر المواد غير اللائقة، وأطلقت نسخة من تشات جي بي تي مخصصة للمراهقين.

بين السطور:

ترتيب الإعلان نفسه يشير إلى هدف مزدوج: أدوات تقنية تُمنح مجاناً للقطاع والشرطة تضع أوبن إيه آي في موقع مزوّد البنية التحتية للسلامة، لا الطرف الخاضع للمساءلة فقط. وتوقيت الحزمة، مع دعاوى قضائية مفتوحة وتقييم كومون سينس ميديا السلبي، يجعلها أيضاً ورقة دفاعية في نقاش عام تخسره الشركة حالياً أمام المنظمات المعنية بالقاصرين.

ماذا بعد؟

المؤشرات القابلة للمتابعة: اتساع قائمة الشركات التي تحصل على المصنّف عبر تحالف التقنية وروست، وأي نتائج لاحقة لتقييم الرسائل الرادعة، ومسار الدعاوى القضائية المرفوعة ضد الشركة.

اقرأ على ontime+ ↗