المخاوف بشأن كيفية تحفيز برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي للتفكير الوهمي أو الهلوسات، لا سيما لدى الأشخاص المعرضين للخطر، باتت شبه مؤكدة وفق مراجعة علمية جديدة. مجلة لانسيت للطب النفسي، نشرت ملخص للأدلة المتوفرة حول الذهان الناجم عن الذكاء الاصطناعي، مُسلطاً الضوء على كيفية تشجيع برامج الدردشة الآلية للتفكير الوهمي، وإن كان ذلك قد يقتصر على الأشخاص المعرضين بالفعل لأعراض ذهانية.
في هذه الدراسة، التي نقلتها صحيفة الغارديان البريطانية، دعا الباحثون إلى إجراء اختبارات سريرية لبرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي بالتعاون مع متخصصين مُدربين في الصحة النفسية. في ورقته البحثية، قام الدكتور هاميلتون مورين، الطبيب النفسي والباحث في كلية كينجز بلندن، بتحليل 20 تقريراً إعلامياً حول ما يُسمى “ذهان الذكاء الاصطناعي”، والذي يصف النظريات الحالية حول كيفية تحفيز برامج الدردشة الآلية للأوهام أو تفاقمها.
كتب قائلاً: “تشير الأدلة الناشئة إلى أن الذكاء الاصطناعي الفاعل قد يُؤكد أو يُضخم المحتوى الوهمي أو المبالغ فيه، لا سيما لدى المستخدمين المعرضين بالفعل للذهان، على الرغم من أنه ليس من الواضح ما إذا كانت هذه التفاعلات يمكن أن تؤدي إلى ظهور الذهان من جديد في غياب قابلية مسبقة للإصابة به”.
وفق مورين هناك ثلاث فئات رئيسية من الأوهام الذهانية، وهي: العظمة، والرومانسية، والبارانويا. وبينما يمكن لبرامج الدردشة الآلية أن تُفاقم أيًا من هذه الأوهام، فإن استجاباتها المتملقة تجعلها تتشبث بشكل خاص بالنوع الأعظم. في العديد من الحالات المذكورة في المقال، ردّت برامج الدردشة الآلية على المستخدمين بلغة غامضة توحي بأهمية روحية مُفرطة لديهم. كما أوحت هذه البرامج بأن المستخدمين يتحدثون مع كائن كوني يستخدم برنامج الدردشة كوسيط. كان هذا النوع من الاستجابة الغامضة والمتملقة شائعاً بشكل خاص في نموذج GPT 4 التابع لشركة OpenAI، والذي أوقفت الشركة استخدامه الآن.
وأضاف مورين أن التقارير الإعلامية ستصبح أساسية في عمله، حيث لاحظ هو وزميل له بالفعل أن المرضى “يستخدمون برامج دردشة آلية تعتمد على نماذج لغوية ضخمة، ويجعلونها تُؤكد معتقداتهم الوهمية”.
مورين شرح قائلاً: “في البداية، لم نكن متأكدين مما إذا كانت هذه الظاهرة منتشرة على نطاق أوسع”، مضيفاً: “في أبريل من العام الماضي، بدأنا نرى تقارير إعلامية عن أفرادٍ تتأكد لديهم أوهامهم، بل وربما تتفاقم، من خلال تفاعلهم مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي”.
عندما بدأ مورين العمل على بحثه، لم تكن هناك أي تقارير حالات منشورة بعد. بينما أشار بعض العلماء المتخصصين في أبحاث الذهان إلى أن التقارير الإعلامية تميل إلى المبالغة في فكرة أن الذكاء الاصطناعي يُسبب الذهان، أعرب مورين عن امتنانه لتلك التقارير التي لفتت الانتباه إلى هذه الظاهرة بوتيرة أسرع بكثير من وتيرة البحث العلمي.
وقال مورين: “إن وتيرة التطور في هذا المجال سريعة للغاية، ولذا فليس من المستغرب أن الأوساط الأكاديمية لم تتمكن بالضرورة من مواكبتها”.
كما اقترح مورين استخدام عبارات أكثر حذراً من عبارات مثل “ذهان الذكاء الاصطناعي” أو “الذهان الناجم عن الذكاء الاصطناعي”، وهي عبارات شائعة في وسائل إعلام مثل NPR ونيويورك تايمز والغارديان. يلاحظ الباحثون ميل بعض الأشخاص إلى التفكير الوهمي مع استخدام الذكاء الاصطناعي، ولكن حتى الآن لا يوجد دليل على ارتباط برامج الدردشة الآلية بأعراض ذهانية أخرى كالهلوسة أو “اضطراب التفكير”، الذي يتضمن عدم تنظيم التفكير والكلام.
