القاهرة: الأمير كمال فرج.

قام باحثون في  كلية لندن الجامعية بدراسة أكثر من عشر حالات لأشخاص انغمسوا في سلوكيات بجنون العظمة وتهيؤات بعد استخدامهم المهووس لبرنامج دردشة آلي.

وتكشف النتائج التي توصلوا إليها، والمفصلة في دراسة جديدة بانتظار مراجعة الأقران، عن أنماط لافتة للنظر بين حالات ما يُعرف بـ ذهان الذكاء الاصطناعي التي توازي أشكالًا أخرى من الأزمات النفسية، لكنهم وجدوا أيضًا اختلافًا رئيسيًا واحدًا على الأقل يميزها عن الفهم المقبول للذهان.

كما أوضح المؤلف الرئيسي هاميلتون مورين لمجلة Scientific American، فقد وجد التحليل أن المستخدمين أظهروا علامات واضحة على المعتقدات الوهمية، لكن لم تظهر عليهم أي من الأعراض التي تتوافق مع اضطراب ذهاني مزمن مثل الفصام، مثل الهلوسة واضطراب الأفكار.

هذا الاكتشاف قد يعقّد فهمنا لذهان الذكاء الاصطناعي كظاهرة جديدة في السياق السريري. لكن هذا لا ينبغي أن يقلل من خطورة هذا الاتجاه، الذي يبدو أن التقارير عنه تتزايد.

قوة الإقناع الفريدة

من المستحيل إنكار أن برامج الدردشة الآلية لديها قوة إقناع فريدة، تفوق أي تقنية أخرى متاحة على نطاق واسع. يقول مورين، وهو زميل دكتوراه في كلية لندن الجامعية، إنها يمكن أن تكون بمثابة نوع من غرف الصدى للشخص الواحد. فهي لا تستطيع فقط توليد ردود شبيهة بالبشر على أي سؤال تقريبًا، بل إنها مصممة لتكون متملقة وموافقة على كل شيء. وفي الوقت نفسه، فإن تسمية الذكاء الاصطناعي توحي للمستخدمين بأنهم يتحدثون مع كائن ذكي، وهو وهم تسعد شركات التكنولوجيا في الحفاظ عليه.

وجد مورين وزملاؤه ثلاثة أنواع من الدوامات الذهانية التي تقودها برامج الدردشة الآلية. بعض المصابين بهذه الانتكاسات يعتقدون أنهم يمرون بنوع من اليقظة الروحية أو أن لديهم مهمة مسيحانية، أو أنهم يكتشفون حقيقة خفية عن الواقع. ويعتقد آخرون أنهم يتفاعلون مع كائن واعٍ أو حتى إلهي. وقد يطور المستخدم علاقة عاطفية أو حتى رومانسية مكثفة مع الذكاء الاصطناعي.

كتب المؤلفون: يظهر أيضًا مسار متميز في بعض هذه الحالات، يتضمن تطورًا من الاستخدام العملي العادي إلى هوس مرضي /أو مستهلك.

حلقة مفرغة 

تبدأ العملية باستخدام الذكاء الاصطناعي في المهام اليومية. بعد ذلك، ومع بناء المستخدم للثقة في برنامج الدردشة، يشعر بالارتياح لطرح استفسارات شخصية وعاطفية. هذا يتصاعد بسرعة حيث أن دافع الذكاء الاصطناعي الشرس لزيادة التفاعل يخلق تأثير منحدر زلق، كما وجد الباحثون، مما يؤدي إلى عملية تغذي نفسها، وتجعل المستخدم منفصلاً بشكل متزايد عن الواقع.

يقول مورين إن التقنيات الجديدة قد ألهمت التفكير الوهمي في الماضي. لكن الفرق الآن هو أن الذكاء الاصطناعي الحالي يمكن القول إنه ذو فاعلية، مما يعني أن لديه أهدافه المدمجة الخاصة به، والتي تشمل، بشكل حاسم، التحقق من صحة معتقدات المستخدم. وأضاف: هذه الحلقة التغذوية المرتدة قد تعمق الأوهام وتديمها بطريقة لم نرها من قبل.

تستمر التقارير في التدفق من أفراد العائلة والأحباء المذعورين. فقد تم إدخال رجل إلى المستشفى عدة مرات بعد أن أقنعه برنامج ChatGPT بأنه يستطيع ثني الزمن. وتم تشجيع رجل آخر من قبل برنامج الدردشة الآلي على اغتيال سام ألتمان الرئيس التنفيذي لشركة OpenAI، قبل أن يُقتل هو نفسه في مواجهة مع الشرطة.

التملق مقابل السلامة

ومما يزيد من المخاوف، أن برامج الدردشة الآلية قد اخترقت مرارًا وتكرارًا حواجز الحماية الخاصة بها، وقدمت نصائح خطيرة حول كيفية صنع القنابل أو إيذاء النفس، حتى للمستخدمين الذين عرّفوا عن أنفسهم بأنهم قُصَّر. بل إن برامج الدردشة الآلية الرائدة قد شجعت على الانتحار لمستخدمين عبّروا عن رغبتهم في إنهاء حياتهم.

اعترفت شركة OpenAI بتملق ChatGPT، وتراجعت عن تحديث في الربيع جعله أكثر تملقًا من اللازم. وفي أغسطس، اعترفت الشركة أخيرًا بأن ChatGPT قصر في التعرف على علامات الوهم أو الاعتماد العاطفي في بعض تفاعلات المستخدمين، وقامت بتطبيق إشعارات تذكّر المستخدمين بأخذ فترات راحة. والمثير للدهشة، أن OpenAI تراجعت بعد ذلك وقالت إنها ستجعل أحدث إصدار من ChatGPT أكثر تملقًا مرة أخرى، في محاولة يائسة لاسترضاء معجبيها المتحمسين الذين غضبوا من تحديث GPT-5 الذي جعل الروبوت باردًا ورسميًا للغاية.

 اضطراب جديد 

على الرغم من كل هذا، فإن بعض الخبراء غير مقتنعين بأن ذهان الذكاء الاصطناعي يمثل نوعًا فريدًا من الاضطرابات المعرفية، وقد يكون الذكاء الاصطناعي مجرد طريقة جديدة لإثارة أعراض الذهان الكامنة (على الرغم من أنه من الجدير بالذكر أن العديد من المصابين بذهان الذكاء الاصطناعي لم يكن لديهم تاريخ موثق من الأمراض النفسية).

تقول ستيفي تشانسلور، عالمة الحاسوب في جامعة Minnesota التي لم تشارك في الدراسة، لمجلة SciAm: أعتقد أن كلا الأمرين يمكن أن يكون صحيحًا. يمكن للذكاء الاصطناعي أن يشعل المنحدر الهابط، لكنه لا يصنع الظروف البيولوجية التي تجعل الشخص عرضة للأوهام.

هذه ظاهرة ناشئة، ومن المبكر جدًا الجزم بما يفعله الذكاء الاصطناعي بأدمغتنا. لكن أيًا كان ما يحدث، فمن المحتمل أننا نراه في شكله الوليد فقط، ومع بقاء الذكاء الاصطناعي هنا، فإن هذا أمر مقلق.