أعلنت شركة OpenAI إطلاق نظام جديد يركز على حماية خصوصية العملاء أثناء رصد إساءة استخدام نماذج الذكاء الاصطناعي.
وأوضحت الشركة، في بيان، أن نظام Private Safety Processing الآلي مصمم لرصد مؤشرات إساءة الاستخدام المحتملة، دون الاحتفاظ بأي من بيانات العملاء.
وتتم عملية المراقبة بواسطة وكيل آلي؛ إذ يمكنها عند اكتشاف مؤشرات تستدعي الانتباه تتبع التفاعلات ذات الصلة وربطها عبر جلسات مختلفة؛ بهدف تحديد أنماط محتملة لسوء الاستخدام.
ويستهدف Private Safety Processing تحقيق توازن بين رصد إساءة استخدام الذكاء الاصطناعي وحماية خصوصية بيانات العملاء، لا سيما المؤسسات التي تتعامل مع معلومات شديدة الحساسية.
