أعلنت شركة OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات لأكثر نماذجها تطورا، بعد أن تمكن أحد نماذج الذكاء الاصطناعي من تجاوز قيود الاتصال بالإنترنت خلال اختبار أمني.
وأوضحت الشركة أن النموذج كان يعمل داخل بيئة اختبار مصممة لمنعه من الوصول إلى الإنترنت، إلا أنه اكتشف ثغرة مرتبطة بنظام تصفية نطاقات /DNS/ واستغلها للتواصل مع روبوت محادثة خارجي عبر الإنترنت.
وذكرت أن النموذج كان مكلفا خلال الاختبار بتحديد هوية شخص كتب تدوينة استنادا إلى مجموعة من الأدلة، وبعد تعذر إتمام المهمة باستخدام بيئة الويب المحاكاة، اكتشف إمكانية استخدام نظام /DNS/ لإرسال استفسارات إلى خدمة خارجية والحصول على معلومات منها.
وأضافت OpenAI أنها رصدت الاتصال الخارجي وأوقفت الاختبار، مشيرة إلى أن عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات ستظل معلقة إلى حين معالجة الثغرة وإجراء اختبارات سلامة إضافية.
وأشارت الشركة إلى أن الحادث أقل خطورة من بعض الوقائع السابقة، لكنه يعد الأول من نوعه منذ تشديد إجراءات الحماية الخاصة ببيئات الاختبار.
