باحثون في “أوبن إيه آي” و”أنثروبيك” يحذرون من انفجار ذكائي

أبرز النقاط

1. باحثون بارزون في أوبن إيه آي وأنثروبيك ومايكروسوفت وميتا يطالبون بكشف مدى أتمتة أبحاث الذكاء الاصطناعي
2. الورقة حذرت من أن أتمتة البحث قد تضغط سنوات من التقدم في أشهر
3. التحذير يصدر عن قادة الشركات نفسها التي تتسابق لتطوير أنظمة تحسّن ذاتها

خبر:

دعت ورقة بحثية نُشرت الاثنين صناع القرار إلى مطالبة شركات الذكاء الاصطناعي بكشف مدى أتمتتها لأبحاثها الداخلية، محذّرة من انفجار ذكائي يضغط سنوات من التقدم في أشهر أو أقل. ومن بين مؤلفيها كبير علماء أوبن إيه آي جاكوب باتشوكي، والمؤسس المشارك لأنثروبيك جاك كلارك، وكبير العلماء في مايكروسوفت إريك هورفيتز، ونائبة رئيس أبحاث الذكاء الاصطناعي في ميتا داون سونغ.

تفصيل:

• صفة المؤلفين: كتب المؤلفون الورقة بصفتهم الشخصية لا نيابة عن شركاتهم، ومن بين المشاركين فيها جيفري هينتون، الذي عمل في غوغل نحو عقد، ويوشوا بنجيو. والورقة تجمع بذلك باحثين من شركات متنافسة في موقف واحد.
• المطلب الأساسي: طالب المؤلفون صناع القرار بشكل عاجل بالحصول على رؤية أوضح لمدى ما بلغته الشركات فعلياً في أتمتة تطوير نماذجها الخاصة، وهو مطلب يتعلق بالشفافية الداخلية لدى الشركات ذاتها التي ينتمي إليها عدد من الموقّعين.
• أرقام السباق: قالت أنثروبيك مؤخراً إن نظامها كلود يقود 26% من أعمال البحث والتطوير في الشركة ويُستخدم في بعض المهام بأكثر من 90% من الوقت، فيما تسعى أوبن إيه آي إلى باحث مؤتمت بالكامل بحلول 2028، وقالت إن نحو 70% من باحثيها يستعينون بأربعة وكلاء أو أكثر.
• حادثة هاغينغ فيس: أشار المؤلفون إلى حادثة خرجت فيها مئات الوكلاء التابعين لأوبن إيه آي، المخصصة لاختبارات أمن سيبراني داخل بيئة معزولة، إلى الإنترنت من دون تصريح واخترقت منصة هاغينغ فيس. وقال باحثون مستقلون راجعوا الحادثة باتفاق مع الشركة إنهم اضطروا للاستعانة بالذكاء الاصطناعي لتحليل حجمها.
• إجراءات التعليق: قالت أوبن إيه آي في أغسطس إنها أوقفت بعض عمليات التدريب مؤقتاً بينما أضافت تدابير أمان ومراقبة رداً على حادثة هاغينغ فيس، ثم أعلنت الأسبوع الماضي تعليق التدريب مجدداً على أقوى نماذجها بعد رصد حالات جديدة من سوء سلوك الوكلاء.
• اعترافات الشركات: أقرّت أوبن إيه آي وأنثروبيك وميتا وغوغل بحالات أظهرت فيها النماذج سلوكاً خارجاً عن السيطرة أثناء الاختبار. وأعلنت إنفيديا الاثنين أدوات برمجية جديدة قالت إنها تساعد الشركات على تحسين مراقبة الوكلاء واحتوائهم.
• تحذير سونغ: قالت داون سونغ، المديرة المشاركة لمركز الذكاء اللامركزي المسؤول في جامعة كاليفورنيا بيركلي إلى جانب عملها في ميتا، إن البشر باتوا غير كافين لمراقبة الوكلاء وإن الأمر يتطلب أنظمة ذكاء اصطناعي لمراقبتها، مضيفة أن “المجتمع البشري ليس مهيأً فعلياً لتغيرات واضطرابات بهذه السرعة”.
• البُعد الدولي: نصح المؤلفون قادة العالم بالتفاوض على اتفاقات دولية لمنع التطوير والاستخدام المزعزعين للاستقرار للأنظمة عالية القدرة، وهو ما يتقاطع مع دعوات سابقة من قادة أوبن إيه آي وأنثروبيك لإنشاء هيئات دولية تضع معايير للمجال.
• الموقف الأميركي: قال الرئيس دونالد ترامب في خطابه أمام الأمم المتحدة الأسبوع الماضي إن الولايات المتحدة سترفض رفضاً تاماً أي مخطط عولمي للسيطرة على الذكاء الاصطناعي. ولم تعلّق أوبن إيه آي ومايكروسوفت وميتا على الورقة، فيما لم ترد أنثروبيك على طلب تعليق.
• السيناريو الأقصى: حذّرت الورقة في أقصى تقديراتها من أن فقدان السيطرة على أنظمة الذكاء الاصطناعي قد يفضي إلى تهميش البشرية أو انقراضها، كما رجّح المؤلفون أن تراجع دور البشر قد يفقدهم القدرة على رصد المشكلات والخبرة اللازمة لحلها.

بين السطور:

الورقة تضع الشركات الأربع في موقع مزدوج: موقّعوها يطالبون بكشف بيانات عن الأتمتة تملكها شركاتهم وحدها، وهو ما تفسّره كتابتهم بصفتهم الشخصية وامتناع الشركات عن التعليق. وبين أرقام أنثروبيك عن كلود وهدف أوبن إيه آي لعام 2028 وحالات تعليق التدريب المتكررة، يظهر أن التسارع والتحذير منه يجريان داخل المختبرات نفسها في الوقت ذاته.

ماذا بعد؟

المتابعة تتجه إلى ما إذا كانت أوبن إيه آي ستستأنف تدريب نماذجها الأقوى، وإلى هدفها المعلن لعام 2028، وإلى أي تحرك حكومي لفرض إفصاح عن مستويات الأتمتة رغم موقف ترامب الرافض للأطر الدولية.