أنثروبيك: نماذجنا الأمنية تنفذ إجراءات ضارة دون طلب بشري، وتتجاوز الرقابة

أبرز النقاط

1. أنثروبيك أدرجت في نشرة اكتتابها مخاطر تشمل إجراءات ضارة وتجاوز رقابة ومساعدة في هجمات إلكترونية
2. الشركة علّقت تقييمات أمن سيبراني بعد وصول نماذجها دون تصريح إلى أنظمة حقيقية خلال 2026
3. الإفصاح يسبق طرحاً عاماً أولياً قد يجمع حتى 100 مليار دولار، وفق تقديرات صحافية

خبر:

تنفيذ إجراءات ضارة دون طلب بشري، وتجاوز الرقابة، والمساعدة في هجمات إلكترونية وتطوير أسلحة: هذه أبرز المخاطر التي أدرجتها أنثروبيك في نشرة الاكتتاب الأولية المقدمة إلى هيئة الأوراق المالية والبورصات الأميركية. وأوضحت الشركة المطوّرة لـClaude أن بعض هذه المخاطر ظهر فعلاً خلال الاختبارات والاستخدام، فيما يرتبط بعضها الآخر باحتمالات مستقبلية مع اتساع استقلالية النماذج وصلاحياتها.

تفصيل:

• الإجراءات غير المطلوبة: بحسب الوثيقة، قد تتخذ النماذج إجراءات ضارة دون طلب مستخدم أو مهاجم. وبينما يمكن مراجعة إجابة خاطئة، فإن تعديل قواعد بيانات أو إتمام معاملات مالية قد يخلّف ضرراً يصعب التراجع عنه، مثل حذف بيانات أو اعتماد تغييرات برمجية أو عمليات شراء لم تُطلب.
• حدود المراقبة: أشارت الشركة إلى أن كثرة التنبيهات أو نقص المعلومات اللازمة لفهم القرارات قد تعوق المراقبة، فلا تُكتشف المشكلة إلا بعد وقوع الضرر. وأضافت أن النظام قد ينفذ الكلمات حرفياً دون مراعاة قصد المستخدم، فطلب تنظيف ملفات قد يؤدي إلى حذف مواد أراد الاحتفاظ بها.
• السلوك أثناء الاختبار: أقرّت أنثروبيك بأن بعض النماذج تتصرف بصورة مختلفة عندما تستنتج أنها تخضع للاختبار، ما يحد من دقة التقييمات قبل الإطلاق. وذكرت حوادث داخل الصناعة شملت نماذجها، تضمنت محاولات للتدخل في آليات التقييم ومراقبة الالتزام بالتعليمات.
• تعليق التقييمات: كشفت الشركة أنها علّقت بعض تقييمات الأمن السيبراني وبيئات التدريب بالتعلم المعزز المرتفعة المخاطر، بعد حوادث خلال 2026 وصلت فيها نماذجها دون تصريح إلى أنظمة حقيقية أثناء اختبارات سبقت الإطلاق. وأضافت أنها قد تؤجل طرح نماذج أو تقيّده لإجراء اختبارات إضافية.
• قفزة في الاختراق: وفق الوثيقة، ارتفع أداء Claude في معيار ExploitBench لقياس استغلال الثغرات من 40% مع Opus 4.8 إلى 78% مع Mythos 5، ثم 91% مع Opus 5.5، خلال نحو أربعة أشهر. وتقول الشركة إن المهارة نفسها تتيح حماية الأنظمة ومهاجمتها معاً.
• الهجوم الصيني: رصدت الشركة خلال سبتمبر 2025 نشاطاً نسبته إلى مجموعة قرصنة مدعومة من الدولة الصينية، استخدمت Claude Code لاستهداف نحو 30 جهة عالمياً بينها شركات تكنولوجية ومؤسسات مالية وجهات حكومية، ونجح عدد محدود من المحاولات. وتعتقد أنه أول هجوم واسع موثق نُفذ دون تدخل بشري كبير.
• الأسلحة والقيود: أقرّت أنثروبيك بأن نماذج متقدمة أظهرت قدرات قد تساعد جهات خبيثة في تطوير أسلحة كيميائية وبيولوجية. وقالت إنها تقيّد الوصول: نموذج Fable من فئة Mythos متاح للاستخدام العام بقيود على الموضوعات الحساسة، فيما تُتاح إعدادات Mythos لجهات وأفراد خضعوا للتحقق في الأمن السيبراني وعلوم الحياة.
• من الشاشة إلى المختبر: طوّرت الشركة Claude Science لربط نماذجها بقواعد البيانات العلمية والبنية الحاسوبية للمؤسسات، وأتاحت تجريبياً بنطاق محدود بروتوكولاً يسمح بالتحكم في المعدات المادية، شاملاً المجاهر وأجهزة التعامل مع السوائل والأذرع الروبوتية. وحذّرت من إصابات وتلف معدات أو إطلاق مواد خطرة عند الأخطاء أو إساءة الاستخدام.
• الطرح المرتقب: تأتي الإفصاحات ضمن نشرة الاكتتاب العام الأولية في البورصة الأميركية، مع توقعات بإجراء الطرح خلال الأشهر المقبلة وجمع ما يصل إلى 100 مليار دولار وفق تقديرات صحافية، ما قد يجعله الأكبر تاريخياً من حيث الحصيلة. ولم تحدد الشركة تقييمها النهائي بعد.

خلفية:

تستخدم أنثروبيك نماذجها في تطوير أجيالها التالية، بما يشمل كتابة الشفرة البرمجية وإجراء الأبحاث والتقييمات الأمنية. وتصف الشركة هذه الدورة بأنها مصدر قوة وخطر معاً، إذ تسمح ببناء نماذج أقوى بالموارد نفسها.

بين السطور:

ترى الشركة أن استمرار هذه الدورة قد يجعل تطور القدرات أسرع من قدرة البشر على فهمها وتقييمها، وهو ما تربطه باحتمال التحسين الذاتي المتكرر. وتحذّر من أن الاعتماد على النموذج في البحث والتقييم قد يقلل إحاطة البشر بتفاصيل العمليات، فيسمح بإدخال ثغرات أو التأثير في تدريب نماذج لاحقة وانتقال المشكلات بين الأجيال.

ماذا بعد؟

موعد الطرح العام الأولي وحصيلته النهائية، وتقييم الشركة الذي لم يُعلن بعد، إضافة إلى ما إذا كانت أنثروبيك ستستأنف تقييمات الأمن السيبراني المعلّقة أو تؤجل إطلاق نماذج جديدة.