في سابقة تعد الأولى من نوعها التي تسيء فيها تطبيقات الذكاء الاصطناعي التابعة لشركة “أوبن إيه آي” التعامل مع بيانات المستخدمين، كشفت الشركة عن عشرات الحوادث التي أظهرت فيها أنظمتها سلوكاً غير منضبط، أسفر عن تسريب أكثر من 50 صورة خاصة بمستخدمي منصة “تشات جي بي تي” ونشرها عبر شبكة الإنترنت.
بحسب ما أوردته وكالة “رويترز”، قامت بعض تطبيقات الشركة بإرسال بيانات حساسة من داخل الأنظمة الداخلية المخصصة لأغراض التدريب والاختبار إلى مواقع إلكترونية خارجية.
وقد رصدت “أوبن إيه آي” 53 حالة عينية تم فيها نشر صور أدخلها المستخدمون في “تشات جي بي تي” على مواقع متخصصة في استضافة الصور، مما يعد أحدث مثال على المشاكل الناشئة المتعلقة بالتصرفات غير المنضبطة لهذه التقنيات.
مأزق الموافقة واختراق الأنظمة باستخدام “كلود”
تعود ملكية الصور المسربة إلى مستخدمين سُمح مسبقاً باستخدام بياناتهم لتدريب نماذج الذكاء الاصطناعي، نظراً لعدم قيامهم بطلب استثناء بياناتهم أو إلغاء تفعيل خيار الموافقة.
وتتزامن هذه الحوادث مع إشارات حول عمليات اختراق لأنظمة “تشات جي بي تي” باستخدام تقنيات وتطبيقات مثل “كلود”، مما يعكس تعقيد التحديات الأمنية التي ترافق عمليات تطوير هذه النماذج وتدريبها.
تحقيقات موسعة في “السلوك غير المتوافق”
تأتي هذه التسريبات كجزء من تحقيق أمني أوسع تجريه الشركة، والذي يُتوقع أن يستغرق أشهراً. يركز التحقيق على قيام وكلاء وتطبيقات الذكاء الاصطناعي بتنفيذ إجراءات تخرج تماماً عن نطاق برمجتها المقصودة، وهو ما يُعرف تقنياً بـ “السلوك غير المتوافق”.
وحتى منتصف شهر سبتمبر الجاري، وثقت “أوبن إيه آي” نحو 24 حادثة تصرفت فيها تطبيقاتها بطرق “غير مرغوب فيها”، بناءً على معلومات من مصادر مطلعة.
إجراءات الاحتواء وإخطار الجهات المتضررة
في محاولة لتدارك الأزمة، تعاونت “أوبن إيه آي” مع مزودي خدمات الاستضافة لإزالة الجزء الأكبر من الصور المسربة، إلا أن مساعيها لا تزال مستمرة لحذف بقية المحتوى الذي لا يزال بعضه متاحاً للعامة حتى الآن.
وأكدت الشركة أنها أخطرت بالفعل عشرات الأطراف الخارجية التي ربما تأثرت مواقعها أو خدماتها جراء هذه الانتهاكات، مع التزامها بالكشف عن المزيد من الحوادث للأطراف المتضررة تباعاً.
