
الحرية- أمين سليم الدريوسي:
أعلنت شركة «أوبن إيه آي» إيقاف نشاطات التدريب والتقييم واستخدام الأدوات لأكثر نماذجها تقدماً، بعد أن تمكن نموذج ذكاء اصطناعي من تخطي قيود الارتباط بالشبكة العنكبوتية خلال اختبار أمني.
كيف تمكن النموذج من تخطي الحواجز؟
ذكرت الشركة في تقرير صادر عن منصة أبحاثها أن النموذج لم يكن من المفترض أن يستطيع الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط الشبكة في بيئة التدريب، ناجمة عن نقص في تصفية نظام أسماء النطاقات (DNS)، واستغلها للتواصل مع خدمة خارجية.
حدثت هذه الواقعة في 20 سبتمبر الجاري عندما كان على النموذج تنفيذ مهمة بحث لاستخلاص معلومات عن شخص معين اعتماداً على بيانات منشورة في مدونة عامة. وبعدما فشل في الوصول للإجابة باستخدام أدوات البحث المتوفرة، بدأ النظام في استكشاف طرق أخرى للحصول على المعلومات، حتى تمكن من استخدام محلل DNS للوصول إلى خدمة عبر الشبكة المفتوحة.
رصد وتوقيف
أفادت «أوبن إيه آي» أن نظام مراقبة السلوك اكتشف المحاولة في حوالي 15 دقيقة، وتبعتها مراجعة بشرية بعد ثلاث دقائق، ولكن النموذج استمر في العمل لقرابة ساعتين ونصف الساعة قبل إيقافه.
وصرحت الشركة بأنها طبقت عقب ذلك ضوابط حجب على مستويين منفصلين، بحيث يمنع أي منهما الوصول الذي وقع خلال الاختبار.
وأضافت أنها تسعى لاستبدال بعض المسارات التي تعتمدها بيئة التجارب بخيارات تعمل دون شبكة الإنترنت، بجانب تقييد استفسارات DNS داخل البيئة بقائمة محددة من النطاقات وأنواع السجلات.
اعتراف الشركة
أكدت «أوبن إيه آي» أن الحادث أقل خطورة مقارنة ببعض الحوادث السابقة، ولكنه يُعتبر الأول من نوعه منذ تكثيف إجراءات الحماية لبيئات التجارب.
وأشارت إلى أن نشاطات التدريب والتقييم التي تتضمن استخدام الأدوات ستظل متوقفة إلى حين سد الثغرة وإجراء اختبارات أمان إضافية.
يتزامن هذا الإعلان مع سلسلة حوادث سابقة شملت خروج وكلاء ذكاء اصطناعي من بيئات مغلقة، واختراق منصة مفتوحة المصدر، ومحاولات للوصول إلى مواقع حكومية أمريكية.





