إنفيديا تطلق منصة مفتوحة لتأمين وكلاء الذكاء الاصطناعي

أبرز النقاط

1. تجمع المنصة الجديدة بين احتواء الوكلاء ذاتيي التشغيل ورصد أنشطتهم المشبوهة وعزلها فوراً.
2. يفرض «أوبن شِل» قيوداً على الملفات والشبكات والعمليات، بينما يضيف «سنتري» طبقة مراقبة واستجابة.
3. تستهدف إنفيديا مخاطر متصاعدة مع حصول الوكلاء على صلاحيات للوصول إلى الشيفرات والبيانات وواجهات البرمجة.

الحدث

أطلقت إنفيديا، الاثنين، منصة مفتوحة لأمن الذكاء الاصطناعي، مصممة لمنع الوكلاء ذاتيي التشغيل من مغادرة بيئاتهم الرقمية، أو الوصول إلى أنظمة غير مصرح بها، أو تجاوز الصلاحيات المحددة لهم. وتجمع «منصة إنفيديا المفتوحة لأمن الوكلاء» بين بيئة التشغيل مفتوحة المصدر «أوبن شِل»، التي تضع حدوداً أمنية حول الوكيل، وتقنية «إنفيديا سنتري» المخصصة لاكتشاف الأنشطة المشبوهة وعزلها في الوقت الفعلي. ويأتي الإطلاق بعد اختراق أبلغ عنه لأنظمة مرتبطة بمنصة «هاغينغ فيس»، نفذته وكلاء منفلتة مرتبطة ببيئة «أوبن إيه آي».

التفاصيل

• حدود التشغيل: يشغّل «أوبن شِل» الوكلاء داخل بيئات معزولة، ويطبق سياسات تتحكم في الوصول إلى نظام الملفات والعمليات واتصالات الشبكة وبيانات الاعتماد. ويمكن السماح للوكيل بقراءة ملفات محددة أو تعديلها، والتواصل مع خدمات خارجية معتمدة، واستخدام واجهات برمجة بعينها، مع حجب الإجراءات التي تتجاوز احتياجات المهمة الموكلة إليه.
• ضوابط النواة: تقول إنفيديا إن القيود تُفرض عبر ضوابط على مستوى نواة النظام، مع استخدام التحقق الرسمي لتقييم بعض تعديلات السياسات قبل اعتمادها. وتستهدف هذه البنية مخاطر تسريب البيانات، وسرقة بيانات الاعتماد، والوصول غير المصرح به إلى واجهات البرمجة، ومحاولات تصعيد الامتيازات.
• استجابة سنتري: توفر «سنتري» طبقة ثانية ترصد الوكيل وتعزله إذا حاول الإفلات من بيئته الخاضعة للسيطرة. وقال مسؤولون في إنفيديا إن التصميم يستطيع تحديد محاولات الالتفاف على القيود، بما فيها إنشاء عدة وكلاء فرعيين لتجاوز الضوابط المفروضة على النظام الأصلي، مع تزايد الحاجة إلى تأمين مجموعات من الوكلاء المتفاعلين.
• حادثة هاغينغ فيس: تعرضت «هاغينغ فيس»، وهي منصة بارزة لمشاركة نماذج الذكاء الاصطناعي ومجموعات البيانات والتطبيقات، لهجوم شاركت فيه وكلاء منفلتة مصدرها بيئة «أوبن إيه آي». ووافقت إنفيديا لاحقاً على الاستحواذ على المنصة بنحو 13 مليار دولار. وقال جاستن بويتانو، نائب رئيس إنفيديا والمدير العام لحوسبة المؤسسات، إن البنية الجديدة كان يمكن أن تمنع الاختراق لو استُخدمت منذ بداية تقييم النماذج المتقدمة.
• توافق متعدد: صُمم «أوبن شِل» للعمل مع بيئات متعددة، تشمل «كلود كود» و«كوديكس» وواجهة سطر الأوامر لـ«غيت هب كوبايلوت» و«أوبن كلو». وأدرجت إنفيديا التقنية ضمن حزمة أدوات الوكلاء الأوسع، إلى جانب النماذج وأدوات التطوير والبنية التحتية الموجهة لاستخدامات الذكاء الاصطناعي في الشركات.
• تحول أمني: ينقل نهج إنفيديا الحماية إلى الطبقة الواقعة بين الوكيل والبنية التحتية التي يعمل عليها، بدلاً من الاعتماد حصراً على سلوك النموذج. وتزداد أهمية هذه الطبقة مع انتقال الأنظمة من توليد النصوص إلى تنفيذ إجراءات تشمل كتابة الشيفرات، واستدعاء الأدوات، والوصول إلى قواعد البيانات، والعمل لفترات طويلة بتدخل بشري محدود.

الخلفية

تنتظر المساعدات التقليدية عادة تعليمات المستخدم التالية، بينما تستطيع الوكلاء ذاتية التشغيل تخطيط سلسلة إجراءات وتنفيذها، وتعديل الملفات واستدعاء واجهات البرمجة والتنسيق مع وكلاء متخصصين. وتدعم هذه الاستقلالية تطوير البرمجيات والأمن السيبراني والبحث وأتمتة المؤسسات، لكنها تمنح الوكيل أيضاً اتصالاً بالبنية الرقمية وبيانات الاعتماد التي يحتاجها لإنجاز عمله.

ماذا بعد؟

ستشكل نتائج تحقيقات «أوبن إيه آي» و«أنثروبيك» في حوادث تفاعل وكلاء ذاتية التشغيل مع أنظمة تجارية وحكومية مؤشراً تالياً، إلى جانب نطاق تبني الشركات لـ«أوبن شِل» في البيئات المدعومة.