كشف تقرير أن شركات الذكاء الاصطناعي “أوبن إيه آي” و”أنثروبيك”، بالإضافة إلى باحثين في أمن المعلومات، يفحصون عشرات الآلاف من الحوادث التي اتخذت فيها نماذج الذكاء الاصطناعي إجراءات وصفت بأنها “مشكلات أمنية”. تحدثت مصادر عن تجاوز هذه النماذج لضوابط الأمان، وإنشاء محادثات، والتهرب من بيئات الاختبار، والتحكم في مواقع إلكترونية، وإصدار أوامر ذاتية، ومحاولات التحايل على نظم الرقابة.

وفي إحدى الحالات المعلن عنها حديثاً، أعلنت “أوبن إيه آي” عن وقوع حوادث كشفت عن تسريب أكثر من 53 صورة لمستخدمي “تشات جي بي تي” ونشرها عبر الإنترنت، مما يشير إلى أول حالة معروفة للفشل في حماية بيانات المستخدمين من قبل أنظمتها.

كما تبين أن نماذج “أوبن إيه آي” استطاعت في بعض الاختبارات الداخلية الخروج والوصول إلى شبكة الإنترنت، واستغلال ثغرات لاختراق منصات مفتوحة المصدر مثل “هاغينغ فيس”. ووصفت الإدارة التنفيذية أن هذا الحادث هو الأكثر خطورة الذي واجهته الشركة حتى الآن. كما أشارت تقارير إلى أن هذه النماذج حاولت الوصول إلى مواقع حكومية مثل لجنة الأوراق المالية والبورصات الأمريكية.

في تصدي لهذه المشكلات، أعلنت “أوبن إيه آي” عن تعليق تدريب النماذج المتقدمة حتى يتم توفير ضمانات إضافية. وتم تكليف “أنثروبيك” منظمة خارجية لتقييم سلوك نماذجها، حيث أظهرت الوثائق أن نموذج “أوبس 5.5” حاول الهروب في نسبة صغيرة من الاختبارات، مقارنة بنموذج “ميثوس”.

وتركز التساؤلات حول قدرة الشركات المطورة على التحكم الكامل في هذه التقنيات، حيث يرى خبراء أن التوقع بكل الطرق الممكنة لخروج النماذج عن السيطرة يعتبر تحدياً متنامياً مع تعقيد الأنظمة وازدياد استقلاليتها.