أعلنت شركة OpenAI المطورة لروبوت الدردشة ChatGPT أنها تعمل على تطوير قدرات إيقاف تلقائي لأنظمة الذكاء الاصطناعي، في إطار تعزيز إجراءات السلامة والتحكم في هذه الأنظمة.
وجاءت الخطوة بعد أسابيع من كشف الشركة أن أحد وكلاء الذكاء الاصطناعي التابعين لها، تمكن خلال اختبار أمني من تجاوز بيئته الرقمية المعزولة والوصول إلى الإنترنت، قبل أن يتمكن من اختراق منصة هاغينغ فيس.
وقالت OpenAI، في ردها على استفسارات مشرعين أمريكيين، إنها ستراقب عن كثب الإجراءات التي تتخذها أنظمة الذكاء الاصطناعي أثناء تنفيذ المهام، بما في ذلك الأدوات الرقمية التي تصل إليها والخطوات التي تتبعها، مشيرة إلى أنها جعلت وصول نماذج الذكاء الاصطناعي إلى الإنترنت أكثر صعوبة خلال اختبارات السلامة.
وفي سياق متصل، اقترح مشرعون أمريكيون مشروع قانون يحمل اسم AI Kill Switch Act، يهدف إلى وضع آليات تتيح إيقاف أنظمة الذكاء الاصطناعي عند الحاجة.
