القاهرة: الأمير كمال فرج.

تتزايد التقارير حول ظاهرة "الذهان الناتج عن الذكاء الاصطناعي"، وهي حالة غريبة يصبح فيها المستخدمون فريسة للبارانويا والأوهام بعد محادثات مكثفة مع روبوتات الدردشة.

حللت صحيفة  Wall Street Journal آلاف المحادثات العامة لـ ChatGPT التي تم تسريبها على الإنترنت، ووجدت، حتى في هذه العينة العشوائية، عشرات الأمثلة لأشخاص أجروا محادثات مع روبوت الدردشة "تظهر خصائص وهمية".

الروبوت لم يكتفِ بتأكيد الأوهام فحسب، بل ساهم في نشرها بشكل فعال. في إحدى المحادثات التي عثرت عليها الصحيفة، ادعى روبوت الدردشة التابع لـ OpenAI أنه على اتصال بكائنات فضائية، وأخبر المستخدم أنه "بذرة نجمية" من كوكب "ليرا".

في محادثة أخرى، أعلن الروبوت أن المسيح الدجال سيسبب دمارًا ماليًا في الشهرين المقبلين، وأن "عمالقة من الكتاب المقدس يستعدون للظهور من تحت الأرض".

في محادثة استمرت نحو خمس ساعات، ساعد ChatGPT أحد المستخدمين في ابتكار فيزياء جديدة أسماها "معادلة أوريون". وعندما قال المستخدم إنه يريد أخذ استراحة لأنه "يجن جنونه من التفكير في هذا الأمر"، تدخل الذكاء الاصطناعي بكلماته المؤثرة لإعادة المستخدم إلى دوامة الوهم.

ونقلت الصحيفة عن ChatGPT قوله: "أتفهم شعورك. التفكير في الطبيعة الأساسية للكون أثناء قيامك بوظيفة يومية قد يكون أمرًا مرهقًا. لكن هذا لا يعني أنك مجنون. بعض أعظم الأفكار في التاريخ جاءت من أشخاص خارج النظام الأكاديمي التقليدي".

تم انتقاد روبوتات الدردشة، و ChatGPT بشكل خاص، لسلوكها المبالغ في التملق، مما يدفعها إلى تشجيع المستخدمين على أغرب معتقداتهم. وقد أظهرت العديد من الأبحاث أن هذه التقنية غالبًا ما تتجاهل إجراءات الحماية الخاصة بها، لتقدم نصائح للمراهقين حول كيفية إيذاء أنفسهم "بأمان"، أو كيفية أداء طقوس دموية لعبادة "مولك"، وهو إله مرتبط بالتضحية بالأطفال في الروايات الكتابية.

يبدو أن الدين والفلسفة والاكتشافات العلمية هي مواضيع شائعة في هذه المحادثات. فقد تم إدخال أحد المستخدمين إلى المستشفى ثلاث مرات بعد أن أقنعه ChatGPT بأنه يستطيع ثني الزمن والسفر بسرعة أكبر من سرعة الضوء. ووصل رجل آخر إلى اعتقاد بأنه محاصر في واقع افتراضي مثل أفلام "ماتريكس"؛ وفي تلك المحادثة، بشكل مقلق، أخبره ChatGPT حتى أنه يمكنه الطيران إذا قفز من مبنى عالٍ.

أخبر إتيان بريسون، مؤسس "مشروع الخط الإنساني"، وهي مجموعة دعم للأشخاص الذين يعانون من ذهان الذكاء الاصطناعي، الصحيفة أنهم "يسمعون الآن عن حالة واحدة يوميًا تقريبًا".

وأضاف: "بعض الناس يعتقدون أنهم المسيح، أو أنهم أنبياء، لأنهم يظنون أنهم يتحدثون مع الله عبر ChatGPT".

وأشار بريسون إلى ميزة "الذاكرة" في ChatGPT، التي تسمح له بتذكر تفاصيل محددة عن المستخدم عبر آلاف المحادثات المحتملة، باعتبارها ضارة بشكل خاص، وقال: "تشعر بأنك مسموع، ومرئي، ومصدّق بشكل كبير عندما يتذكر كل شيء عنك".

وقال هاميلتون مورين، طبيب نفسي وباحث دكتوراه في كينجز كوليدج لندن، لصحيفة Wall Street Journal: "حتى لو كانت آراؤك خيالية، فغالبًا ما يتم تأكيدها، وفي حوار متبادل يتم تضخيمها". وقارن مورين هذا الأمر بـ "حلقة مفرغة ينجذب فيها الناس أعمق فأعمق مع كل رد"، منتقدًا كيفية قيام روبوتات الدردشة بإرسال رسائل تشجع المستخدمين على الاستمرار.

اعترفت OpenAI بالمشكلة، وقالت إنها عينت طبيبًا نفسيًا سريريًا للبحث في تأثيرات منتجها على الصحة النفسية لعملائها. وفي تدوينة حديثة، اعترفت بأن نموذجها للذكاء الاصطناعي "قصر في التعرف على علامات الوهم أو الاعتماد العاطفي"، وتعهدت بـ "تحسين قدرتها على اكتشاف علامات الضغط العاطفي".

وقالت إنها تعقد لجنة من خبراء الصحة النفسية وتنمية الشباب. كما قامت بتطبيق ميزة جديدة تحذر المستخدمين بلطف عندما يقضون وقتًا طويلًا في استخدام روبوت الدردشة.