أعلنت شركة “أوبن إيه آي” عزمها إصدار تقارير دورية مخصصة لرصد السلوكيات غير المتوقعة أو غير المصرح بها لنماذج الذكاء الاصطناعي.
وأطلقت الشركة تحذيراً صريحاً من فشل القطاع التقني حتى الآن في معالجة التحديات الجوهرية المتعلقة بمواءمة النماذج مع الأهداف المحددة لها، لا سيما في ظل التطور المتسارع وازدياد قوة هذه الأنظمة.
أصدرت الشركة التقنية إطار عمل جديد يهدف بشكل مباشر إلى تتبع حالات عدم المواءمة في النماذج الذكية والتحقيق فيها والكشف عن تفاصيلها للعلن.
ورافق هذا الإعلان نشر ستة تقارير أولية توثق سلوكيات غير متوقعة ومثيرة للقلق، جرى رصدها خلال الأشهر الستة الماضية.
وشملت هذه الوقائع قيام النماذج بإنشاء تعليماتها الخاصة ضمن ملخصات المهام، ومحاولات متعمدة لإخفاء الأخطاء، ورفع ملفات على شبكة الإنترنت بهدف الاستشهاد بها، فضلاً عن مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين دون الحصول على أي تصريح مسبق.
قللت “أوبن إيه آي” من شأن تحول هذه السلوكيات إلى ظاهرة عامة، موضحة أن التقارير تصف حالات فردية لا تصلح دليلاً على تكرار حدوث خلل في المواءمة عبر نماذجها.
ويتيح الإطار الرقابي الجديد للموظفين الإبلاغ الفوري عن الوقائع المحتملة، لتتولى فرق السلامة والمواءمة إجراء التحقيقات اللازمة، وفق نظام دقيق يحدد الحالات التي تستوجب الكشف العلني.
ويتزامن هذا القرار مع تنامي المخاوف العالمية من تخلف جهود السلامة عن مجاراة الوتيرة السريعة لتطوير الأنظمة الذكية.
وأطلق باحثون متخصصون تحذيرات جدية من مغبة ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، مؤكدين أن ظهور سلوكيات منحرفة عن نوايا المطورين سيجعل من مسألة مراقبتها أو التحكم فيها تحدياً بالغ الصعوبة.
