أنثروبيك تحذّر مستثمريها: قد نبلغ وشيكاً عتبة التقدم المتسارع بفعل الذكاء الاصطناعي

الملخص

• ملف الاكتتاب المعدّل يضيف تحذيراً: تقديرات الشركة تشير إلى بلوغ وشيك لتعريف سياستها للتقدم المتسارع بفعل الذكاء الاصطناعي
• الشركة تقر بأنها لم تتعرف في السابق على تسارع كبير إلا بعد وقوعه، ولم تصنّف أي نموذج حالي فوق العتبة
• الشركة تدرس تحديث سياسة التوسع المسؤول لإبقاء البشر في موقع السيطرة على تطوير النماذج الرائدة

خبر

قد تبلغ أنثروبيك وشيكاً عتبة تعرّفها سياستها للتوسع المسؤول بأنها تقدم متسارع بصورة كبيرة يُعزى إلى الذكاء الاصطناعي، بحسب عامل خطر جديد في النسخة المعدّلة من ملف اكتتابها العام لدى هيئة الأوراق المالية الأميركية. وتقول الشركة إن تقديراتها الداخلية وتوقعاتها للنماذج المقبلة هي ما يشير إلى ذلك، وإنها لم تصنّف أي نموذج حالي فوق هذه العتبة وما زالت تقيّم البيانات.

تفصيل

• ما الجديد في الملف: أضافت النسخة المعدّلة من ملف S-1، المودعة الاثنين 2 نوفمبر، فقرة في قسم عوامل الخطر لم تكن في نسخة 26 أكتوبر، التي تضمنت قسماً عن التسارع المدفوع بالذكاء الاصطناعي من دون هذا التحذير. ورصدت تك كرانش الصياغة الجديدة أولاً، ثم أوردتها غيزمودو مع رابطي الملفين.
• نص التحذير: تقول الشركة إن تقديراتها تشير إلى أنها "قد تبلغ وشيكاً" تعريف سياستها للتوسع المسؤول لتقدم متسارع بصورة كبيرة يُعزى إلى الذكاء الاصطناعي. وتخص الصياغة نماذج مقبلة لا نموذجاً حالياً، فالشركة تؤكد أنها لم تصنّف أي نموذج قائم فوق العتبة وأنها ما زالت تقيّم البيانات.
• الاعتراف بالتأخر: يقر الملف بأن الشركة استخدمت الذكاء الاصطناعي في تطوير نماذج ولم تتعرف على قفزات القدرة فيها وقتها، وأنها في السابق لم تحدد التسارع الكبير إلا بعد وقوعه. ويضيف أن التطوير المدعوم بالذكاء الاصطناعي قد يشكل خطراً كبيراً على السلامة إذا سرّع التقدم بحدة.
• الضمانات المعلنة: لا تتوقع الشركة أن تسمح بأمان لـClaude بتصميم أجيال متعاقبة من النماذج الرائدة وبنائها باستقلال كامل من دون إشراف بشري ذي معنى أو فهم بشري. وتدرس تحديثات على سياسة التوسع المسؤول هدفها إبقاء البشر في موقع السيطرة على تطوير النماذج الرائدة، من دون موعد لإعلانها.
• معنى العتبة: تقرأ غيزمودو سياسة التوسع المسؤول على أن العتبة هي تضاعف معدل التحسن الأساسي مع إمكان عزو هذا التضاعف إلى الذكاء الاصطناعي. وتذكر السياسة، بحسب الموقع، أن الشركة ستستكشف سبلاً طموحة وربما غير تقليدية لبلوغ مستويات أمن غير مسبوقة، ورؤية شاملة لأنشطتها الداخلية، وفريقاً أحمر يغنيها عن مكافآت الثغرات.
• موقع التحذير في الملف: يضع الملف هذا الخطر ضمن ما تغطيه سياسة التوسع المسؤول مع الاقتراب مما بات يسمى التحسين الذاتي المتكرر. ولم يحدد الملف موعداً متوقعاً لبلوغ العتبة، ولا الإجراءات التي ستترتب على بلوغها خارج ما تقول الشركة إنها تدرسه.
• قراءة المتشككين: يرى منتقدون، بحسب تك كرانش، أن ملف الاكتتاب يعمل تسويقاً أيضاً، وأن القول باقتراب الذكاء الاصطناعي الذي يبني نفسه قد يخدم غرضاً ترويجياً. وتذكر تك كرانش أن قدرات Claude في البرمجة والرياضيات والأمن السيبراني تحسنت كثيراً هذا العام.

ماذا بعد؟

أي تحديث تنشره أنثروبيك لسياسة التوسع المسؤول، وأي تصنيف رسمي لنموذج فوق عتبة التقدم المتسارع، وما يرد عن ذلك في نسخ لاحقة من ملف الاكتتاب قبل الطرح.

المصدر: هيئة الأوراق المالية الأميركية، تك كرانش، غيزمودو