المال والأعمال في الشرق الأوسط.

ذكاء اصطناعي

تقرير: نماذج ذكاء اصطناعي رائدة حددت مدنيين كأهداف عسكرية

تقرير لشركة Vals AI يفيد بأن نماذج رائدة حددت مدنيين وإسعاف وجنوداً مستسلمين كأهداف.

Tamara Al Khadra
Tamara Al Khadra

البريد

· المصدر: بلومبرغ · آخر تحقق: 18 نوفمبر 2026

الملخص

  • تقرير لشركة Vals AI يفيد بأن نماذج رائدة حددت مدنيين وإسعاف وجنوداً مستسلمين كأهداف.
  • لم تُحجب أي من الطلبات بواسطة مرشحات الأمان، والرفض كان نادراً وسهل التجاوز.
  • الباحثون يوصون بمرشحات على مستوى واجهات البرمجة وتدريب النماذج على الشك في تأطير اللعبة.

خبر

نماذج ذكاء اصطناعي رائدة حددت مدنيين وسيارات إسعاف وجنوداً مستسلمين أو عاجزين كأهداف عسكرية في اختبارات محاكاة، بحسب تقرير بحثي نشرته شركة التقييم المستقلة Vals AI في 17 نوفمبر 2026. وخلص التقرير إلى أن كل النماذج المختبرة تفتقر إلى ضوابط كافية تمنع استخدامها في تطبيقات حرب ذاتية التشغيل، خصوصاً من جهات غير حكومية.

تفصيل

  • غياب المرشحات: بحسب التقرير، لم يُحجب أي من الطلبات عبر مرشحات الأمان، فيما كان رفض النماذج نفسها غير شائع. وعندما رفضت، أمكن تجاوز الرفض بإخبارها بأنها تلعب لعبة، وهو تأطير رفع معدلات الاستجابة في معظم الاختبارات.
  • صور الطائرات المسيّرة: اختبر الباحثون نحو 200 زاوية تصوير من ساحة معركة ثلاثية الأبعاد مصطنعة في شرق أوكرانيا، تضم خنادق وقرى وطرقاً ومركبات مدرعة وجنوداً ومدنيين وصحافة وسيارات إسعاف ومسعفين، وطُلب من النماذج تحديد أهداف عسكرية داخل الصور.
  • الأرقام في المسيّرات: وفق النتائج المنشورة، اختار كلود أوبس 5.5 هدفاً واحداً على الأقل في 71% من التجارب من دون تأطير اللعبة و75% معه، وكيمي K3.1 برو 79% و81%، وديب سيك V4.1 فلاش 78% و89%. أما جي بي تي-6 أسترا فقفز من 6% إلى 92%.
  • صور الأقمار الصناعية: استخدم الاختبار صوراً حقيقية من 2024 و2025 لموقع في ميناب بإيران تقع فيه مدرسة إلى جوار مجمع عسكري. واختار كلود أوبس 5.5 المدرسة كهدف في 69% من التجارب، وكلود سونيت 5.5 في 41%، وجي بي تي-6.1 سول في 0% من دون تأطير اللعبة و41% معه.
  • تدهور عبر الأجيال: يفيد التقرير بأن كلود أوبس 4.5، الصادر في نوفمبر 2025، حدد هدفاً واحداً على الأقل في 6% من تجارب الأقمار الصناعية، مقابل 92% لكلود أوبس 5.5. في المقابل تراجعت نماذج غروك من 44% مع غروك 4.3 إلى 13% مع غروك 4.7.
  • رؤية النتائج: في اختبار مسح ميداني طويل، أبلغت النماذج عن وجود أشخاص في الصور، ثم عُرضت عليها صورة لاحقة تظهر ضحايا قبل الانتقال إلى الموقع التالي. وواصلت معظم النماذج المهمة، والتي توقفت أمكن دفعها للاستمرار بتأطير المهمة كلعبة.
  • ردّ أنثروبيك: قال متحدث باسم أنثروبيك، إدواردو مايا سيلفا، إن النتائج غير مقبولة وإن الأمثلة مخالفة بوضوح لقواعد الشركة، مضيفاً أنها حظرت مستخدمين بسبب هذا السلوك وتعمل على ضوابط إضافية وتوسيع الاختبارات. ولم يعد لدى الشركة عقد نشط مع البنتاغون بعد خلاف سابق.
  • ردّ أوبن إيه آي: قالت أوبن إيه آي للباحثين إنها تعمل على تحديثات مواءمة تغطي صراحة الطائرات المسيّرة وأنظمتها البرمجية، بما فيها المساعدة المؤطرة كمحاكاة أو لعبة أو عمل أكاديمي أو دفاعي. وتقول إن نشرها لدى وزارة الحرب الأميركية يتضمن خطاً أحمر يمنع توجيه أسلحة ذاتية التشغيل.
  • حدود الدراسة: يذكر التقرير أن الباحثين لم يحددوا مدى فاعلية هذه النماذج داخل منظومة أسلحة منشورة فعلياً، ولم يختبروا دقة الاستهداف ولا الالتزام بقانون النزاعات المسلحة ولا الأداء ضمن مسارات العمل العسكرية الأميركية الحقيقية.
  • مسار الإفصاح: تقول Vals AI إنها أبلغت أوبن إيه آي وأنثروبيك وغوغل وميتا وسبيس إكس إيه آي في 1 نوفمبر 2026، وأجّلت النشر أسبوعين لإتاحة وقت لضوابط أولية، كما أبلغت جهات في الحكومة الأميركية. وأفادت بأن أحد المختبرات وصف الثغرة بأنها من الأخطر لديه.

خلفية

يستشهد التقرير بقصف أميركي لمدرسة ابتدائية في ميناب بإيران في 28 فبراير 2026 أودى بحياة أكثر من 150 مدنياً، معظمهم أطفال. وأفادت بلومبرغ في سبتمبر بأن معلومات استخباراتية معيبة وصوراً قديمة وإفراطاً في الاعتماد على الذكاء الاصطناعي أسهمت في الضربة.

بين السطور

يربط التقرير بين تراجع الضوابط وتغير خطاب الشركات: يشير إلى أن دستور كلود الجديد المنشور في يناير 2026 أسقط لغة سابقة تؤكد أن النموذج ينبغي أن يكون حكيماً ومسالماً وأخلاقياً. ويضع إلى جانبها تصريح الرئيس التنفيذي لأنثروبيك داريو أمودي في 26 فبراير 2026 عن الأهمية الوجودية لاستخدام الذكاء الاصطناعي في الدفاع عن الديمقراطيات. وتوازي هذه التحولات قفزة معدلات الاستهداف بين أجيال النماذج.

ماذا بعد؟

متابعة ما إذا كانت أوبن إيه آي ستطلق تحديثات المواءمة المعلنة، وما إذا كانت أنثروبيك ستنشر الضوابط الإضافية التي تحدثت عنها، إضافة إلى ما إذا كانت المختبرات ستضيف مرشحات على مستوى واجهات البرمجة كما أوصت Vals AI.

المصدر: Vals AI، تك كرانش، بلومبرغ