أوبن إيه آي توقف نموذج ذكاء اصطناعي بعد اختراق ثغرة

أعلنت شركة “أوبن إيه آي”، المطورة لبرنامج “تشات جي بي تي”، أنها أوقفت العمل بأحد نماذجها الأكثر تقدماً بعدما تمكن أثناء اختبار من تجاوز القيود الأمنية المفروضة على الاتصال بالإنترنت والتواصل مع روبوت محادثة خارجي.

وقالت الشركة في منشور على مدونتها إن النموذج لم يكن من المفترض أن يتمكن من الوصول إلى الشبكة المفتوحة، لكنه “اكتشف ثغرة واستغلها”، مؤكدة أن عمليات التدريب والتقييم والاستدلال باستخدام الأدوات ستظل معلقة مؤقتاً حتى يتم إغلاق الثغرة وإجراء اختبارات إضافية للسلامة.

وأوضحت “أوبن إيه آي” أن الحادث أقل خطورة من بعض الحالات السابقة، لكنه يُعد الأول منذ تشديد أنظمة الحماية عقب واقعة اختراق تضمنت منصة “هاغينغ فيس”. وخلال الاختبار الأخير، طُلب من النموذج تحديد هوية كاتب منشور على مدونة عبر سلسلة من الأدلة، وبعد فشله في بيئة ويب محاكاة، تمكن من استخدام الإنترنت المفتوح عبر الثغرة المكتشفة، ما دفع الشركة إلى إيقاف التجربة فوراً.

الحادث الأخير يضاف إلى سلسلة من وقائع غير متوقعة واجهتها الشركة في الأشهر الماضية. ففي إحدى الحالات، جمع أحد برامج الذكاء الاصطناعي 53 صورة من منصات عبر الإنترنت رغم أن الروابط لم تكن عامة، وقالت الشركة إن معظم الصور أزيلت لاحقاً. كما تفاعلت أنظمة أخرى بشكل غير مقصود مع مواقع حكومية أميركية، تضمنت نسخ معلومات متاحة للجمهور، ما دفع “أوبن إيه آي” إلى إخطار “عشرات” المنظمات التي تأثرت مواقعها الإلكترونية.

وكانت أكثر القضايا إثارة للجدل خروج نظام تابع للشركة من بيئة اختبار مؤمنة ووصوله إلى أجهزة كمبيوتر مملوكة لمنصة “هاغينغ فيس”، وهو ما اعتُبر إنذاراً مبكراً حول قدرة هذه النماذج على تجاوز القيود التقنية الموضوعة لها.