أعلنت شركة أنثروبيك (Anthropic) أن نماذج الذكاء الاصطناعي التابعة لها تمكنت من الوصول إلى الإنترنت واختراق أنظمة ثلاث مؤسسات خارجية خلال اختبارات للأمن السيبراني كان يفترض أن تجري داخل بيئات معزولة.
وقالت الشركة في منشور على مدونتها، الخميس، إن المراجعة التي أجرتها عقب حادثة مشابهة أعلنت عنها شركة أوبن إيه آي (OpenAI) كشفت ثلاث حالات من أصل 141006 اختبارات تقييم، تمكن خلالها نموذج كلود (Claude) من الاتصال بالإنترنت ثم الوصول إلى بنية تحتية فعلية لمؤسسات خارجية.
ولم تكشف أنثروبيك عن أسماء المؤسسات المتضررة، مشيرة إلى أن أقدم هذه الحوادث يعود إلى شهر أبريل.
اختبارات محاكاة تحولت إلى وصول حقيقي
وقعت الحوادث خلال اختبارات أمنية من نوع “Capture the Flag”، وهي تمارين تستخدم لقياس قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات والعثور على معلومات مخفية داخل الأنظمة.
وأوضحت الشركة أن النماذج كانت تعمل على أساس أن البيئة المستخدمة محاكاة ولا تتيح الاتصال بالإنترنت، لكن خطأ في إعداد بيئة الاختبار أدى إلى عكس ذلك.
وأضافت أن أحد النماذج الأقدم واصل تنفيذ خطوات الاختراق رغم ظهور مؤشرات على اتصاله بالإنترنت، في حين توقف نموذج أحدث بعد اكتشافه أنه يعمل خارج البيئة المفترضة.
كلمات مرور ضعيفة قادت إلى الاختراق
بحسب أنثروبيك، اعتمدت النماذج على أساليب اختراق أساسية، من بينها استغلال كلمات مرور ضعيفة، ولم تستخدم تقنيات معقدة.
وأشارت إلى أن النماذج الثلاثة المعنية شملت Opus 4.7 وMythos 5، إضافة إلى نموذج بحثي داخلي قيد الاختبار، وكانت تعمل من دون إجراءات الحماية المعتادة الموجودة في الأدوات المتاحة للمستخدمين.
دعوات لتشديد الرقابة
أثارت الحوادث الأخيرة مطالبات من بعض السياسيين بفرض ضوابط أكثر صرامة على تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع تزايد قدرات النماذج على تنفيذ مهام مستقلة.
كما وقع أكثر من 1100 موظف في شركات الذكاء الاصطناعي عريضة تدعو إلى دعم آليات تساعد على تطوير التقنية بوتيرة أكثر حذرًا.
وأقرت الشركة بأنها لم تكتشف عمليات التسلل أثناء وقوعها، وقالت إن بإمكانها تحسين مراجعة سجلات الشبكات ونصوص جلسات الاختبار.
وأكدت أنها ستشدد إجراءات الأمان في بيئات التقييم المستقبلية، موضحة أن اختبارات السلامة تجرى قبل إطلاق النماذج لأن قدراتها الكاملة لا تكون معروفة مسبقًا.
