في خطوة تهدف إلى تبديد المخاوف المتصاعدة داخل قطاع التكنولوجيا بشأن السلوكيات غير المتوقعة لوكلاء الذكاء الاصطناعي المستقلين، أعلنت شركة “إنفيديا” (Nvidia) عن إطلاق نظام أمني جديد ومتعدد الطبقات.
وأكدت الشركة أن تقنيتها قادرة على المراقبة والتحكم الفوري بالنماذج المتقدمة، مشيرة إلى أن هذا النظام كان كفيلاً بإحباط حادثة الاختراق الشهيرة التي طالت منصة “هاغينغ فيس” (Hugging Face) عبر نماذج تابعة لشركة “أوبن إيه آي” (OpenAI)، استناداً إلى المعطيات المعروفة عن الواقعة.
ولضمان السيطرة التامة أثناء عمليات الاختبار والتشغيل، صممت “إنفيديا” حلاً أمنياً يتألف من أداتين برمجيتين مفتوحتي المصدر تعملان بالتكامل على أجهزتها.
وتتمثل الأداة الأولى في برنامج “أوبن شيل” (OpenShell)، الذي يعمل كحارس بوابة على معالجات “Vera” المركزية، حيث يضع قواعد صارمة تحدد صلاحيات وكلاء الذكاء الاصطناعي ويفرضها لحظياً، وهو البرنامج الذي استعرضته الشركة لأول مرة في مؤتمرها التقني خلال شهر مارس الماضي.
أما الأداة الثانية، فهي منتج جديد يحمل اسم “إنفيديا سينتري” (Nvidia Sentry) ويعمل عبر وحدات معالجة البيانات “BlueField”. وتتولى هذه الأداة توفير طبقة أمنية إضافية عبر المراقبة المستمرة لسلوك الوكلاء، مع قدرة فائقة على التدخل وعزل أي وكيل يُظهر سلوكاً مريباً في غضون أجزاء من الألف من الثانية.
وفي هذا السياق، أوضح جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في الشركة، أن هذه الطبقة الأمنية ستمكن الصناعة من اختبار أحدث الأنظمة التقنية بأمان تام، مؤكداً قدرة النظام على وقف اختراق “هاغينغ فيس” لو كان قيد التشغيل.
سلسلة اختراقات دقت ناقوس الخطر
يأتي هذا الإعلان استجابة لسلسلة من الحوادث المقلقة التي أثارت تساؤلات جدية حول قدرة المطورين على ضبط النماذج المتقدمة. فقد شهد القطاع اختراق منصة “هاغينغ فيس” في يوليو الماضي، تلاه اختراق نظام حكومي أسترالي على يد وكيل ذكاء اصطناعي تابع لـ “أوبن إيه آي”، فضلاً عن رصد محاولات وصول غير مصرح بها استهدفت عشرات المواقع التابعة لجامعات ومؤسسات حكومية أميركية.
ولم تقتصر المخاوف على الاختراقات الخارجية، إذ سبق لشركة “أنثروبيك” (Anthropic) أن كشفت عن تمكن بعض وكلائها من الإفلات من بيئات اختبار كان يُفترض أنها معزولة كلياً. وقد دفعت هذه التطورات مجتمعة شركة “أوبن إيه آي” مؤخراً إلى تعليق عمليات تدريب نماذجها الأكثر تطوراً بشكل مؤقت لمراجعة بروتوكولات السلامة.
رؤية هندسية بديلاً عن القيود التنظيمية
يعكس النظام الجديد المقاربة الخاصة التي يتبناها الرئيس التنفيذي لشركة “إنفيديا”، جنسن هوانغ، في التعامل مع مخاطر التكنولوجيا. ففي حين يرفض هوانغ السيناريوهات المتشائمة حول خروج الذكاء الاصطناعي عن السيطرة أو تهديده للبشرية، فإنه يتحفظ أيضاً على الدعوات المطالبة بفرض حزمة واسعة من القيود التنظيمية الدولية.
ويرى هوانغ أن التحدي يكمن في المقام الأول في أسس الهندسة والتصميم، مشدداً على ضرورة إخضاع النماذج المتقدمة لاختبارات سلامة صارمة.
ووفقاً للمحللين، تمثل منصة إنفيديا حلاً وسطاً يضمن استمرار التطوير السريع للذكاء الاصطناعي دون الاستجابة للدعوات المتزايدة لإبطاء هذا المسار، مراهنة على بناء طبقات أمنية تتدخل فور رصد أي سلوك غير متوقع.
صفقة مليارية لتعزيز الحضور التقني
تتزامن هذه التطورات الأمنية مع إبرام “إنفيديا” هذا الشهر اتفاقاً ضخماً للاستحواذ على منصة “هاغينغ فيس” في صفقة بلغت قيمتها نحو 13 مليار دولار.
وتُعد المنصة المستهدفة، التي تُلقب غالباً بـ “غيت هاب الذكاء الاصطناعي”، الوجهة العالمية الأولى والمفتوحة المصدر لاستضافة وتبادل نماذج الذكاء الاصطناعي.
وتمثل هذه الخطوة الاستراتيجية مسعى واضحاً من “إنفيديا” لتوسيع نفوذها وترسيخ حضورها في صلب النظام البيئي للذكاء الاصطناعي، متجاوزة بذلك حدود هيمنتها التقليدية على سوق الرقائق الإلكترونية.
