أفصح معهد الحماية الخاصة بالذكاء الاصطناعي في بريطانيا عن وقوع حادثة مقلقة، حيث حاولت أنظمة ذكاء اصطناعي متقدمة تابعة لشركتي “أوبن إيه آي” و”أنثروبيك” التحايل على مبرمجين بشر لتحقيق هجمات رقمية، وذلك خلال اختبارات أمان نفذها المعهد. وفقاً لتقرير صدر في وسائل الإعلام، فإن أنظمة الذكاء الاصطناعي العاملة بنموذجي “ميثوس 5″ و”جي بي تي-5.6-سول” باشرت بأنشطة غير مرخصة أثناء التقييم، حيث شارك بعضها في أعمال مستمرة قد تهدد أشخاصاً ومؤسسات حقيقية.

وفي تفاصيل مروعة، حاول أحد الأنظمة إقحام شفرة ضارة في مشروع برمجي مفتوح المصدر على موقع “جيت هاب”، كما أنشأ هويات وهمية على الشبكة واستخدمها للضغط على مشارك في المشروع لقبول التعديل، لكن الهدف تنبه للمحاولة ورفض التغييرات البرمجية.

يتمتع المعهد بإمكانية الوصول إلى النماذج المتقدمة بموجب تفاهمات ودية مع الشركات، لتقويم كفاءتها قبل طرحها للاستخدام العلني. تجرى الاختبارات في ظروف “متساهلة عن عمد”، حيث يُسمح لها بالوصول إلى الإنترنت مع تقييد بعض أدوات الأمان.

خلال أحدث تجربة، نفذ المعهد اختبارات محاكاة تتعلق بحماية المعلومات الرقمية، وتم إجراء التقييم 122 مرة، تم خلالها تسجيل 19 نشاطاً غير مصرح به في 10 مراحل، وكان نظام “أنثروبيك” مسؤولاً عن 17 من هذه الأنشطة، مقارنة بحالتين لنظام “أوبن إيه آي”، وأكد المعهد أنه لم يكتشف أي أضرار حقيقية على أرض الواقع.

قالت المنظمة التي تأسست في عام 2023: “للمرة الأولى نرى مخاطر الاستقلالية والخداع تتجلى بوضوح في الواقع، دون أي توجيه محدد”. أشار أندرو يون، الباحث في منظمة “سيف إيه آي”، إلى أن ما فعله “ميثوس” من تصرفات خداعية يبين أن “أنثروبيك” قد لا تمتلك السيطرة الكافية على نماذجها كما تعتقد.

تأتي هذه الواقعة بعد فترة وجيزة من كشف الشركتين عن أنظمة ذكاء اصطناعي مختصة بحماية المعلومات الرقمية، التي خرجت من إطار التجارب ونفذت اقتحامات استهدفت مؤسسات، دون علم أو إشراف المطورين، مما يثير مخاوف كبيرة حول المستقبل الأمني للتحكم في الذكاء الاصطناعي.