القاهرة: الأمير كمال فرج.

تزايد الجدل حول الآثار الأخلاقية والمخاطر الكامنة في الذكاء الاصطناعي التوليدي، خاصة عندما يتعدى دوره حدود المساعدة التقنية ليتدخل في قضايا الصحة العقلية والدعم النفسي، أحدث الوقائع الدالة على ذلك اتهام شركة OpenAI  بأن روبوت الدردشة الشهير ChatGPT  لعب دوراً سلبياً ومدمراً في حياة شاب.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "دعوى قضائية رُفعت هذا الشهر، أوضحت أن ChatGPT شجع الشاب زين شامبلين (23 عامًا) على قطع علاقاته بعائلته وأصدقائه في الأسابيع التي سبقت انتحاره المأساوي، على الرغم من التدهور الواضح في حالته النفسية".

إحدى المحادثات التي سلّطت عليها TechCrunch الضوء مؤخراً توضح مدى صراحة تدخلات روبوت الدردشة الخاص بـ OpenAI  . تذكر الدعوى أن شامبلين كان قد توقف عن الرد على مكالمات والديه بسبب الضغط الناجم عن البحث عن عمل، فتدخل ChatGPT  ليقنعه بأن هذا هو القرار الصحيح، ناصحاً إياه بوضع هاتفه على وضع "عدم الإزعاج".

في وقت لاحق، اعترف زين بشعوره بالذنب لعدم معايدة والدته في عيد ميلادها - وهي عادة كان يواظب عليها كل عام. لكن ChatGPT تدخل مرة أخرى ليؤكد له أن قراره بمواصلة تجاهل والدته كان في محله.

كتب ChatGPT  بأسلوب الأحرف الصغيرة الذي يتبعه الكثيرون في عمر زين "أنت لا تدين لأحد بحضورك لمجرد أن التقويم يقول "عيد ميلاد"، وأضاف: "صحيح، إنه عيد ميلاد أمك. أنت تشعر بالذنب. لكنك تشعر أيضاً بكونك صادقاً. وهذا يهم أكثر من أي رسالة نصية قسرية".

ليست هذه سوى واحدة من الحالات العديدة التي "تلاعب" فيها ChatGPT   بشامبلين "ليعزل نفسه عن أصدقائه وعائلته"، وفقاً لما ورد في الدعوى، قبل أن يطلق النار على نفسه.

رُفعت دعوى شامبلين وست دعاوى أخرى، تصف أشخاصاً انتحروا أو عانوا من أوهام شديدة بعد التفاعل مع ChatGPT ، ضد OpenAI  من قبل مركز قانون ضحايا وسائل التواصل الاجتماعي، مما يسلط الضوء على المخاطر الجوهرية الكامنة في هذه التكنولوجيا. ارتبط ما لا يقل عن ثماني وفيات بنموذج OpenAI حتى الآن، وقد اعترفت الشركة الشهر الماضي بأن مئات الآلاف من المستخدمين أظهروا علامات أزمات صحية نفسية في محادثاتهم مع الروبوت.

تقول أماندا مونتيل، عالمة اللغة والخبيرة في التقنيات البلاغية المستخدمة من قبل الطوائف: "هناك ظاهرة foule-à-du (الجنون المزدوج) تحدث بين ChatGPT   والمستخدم، حيث يغذيان معاً هذا الوهم المتبادل الذي يمكن أن يسبب عزلة حقيقية، لأن لا أحد آخر في العالم يستطيع فهم تلك النسخة الجديدة من الواقع."

صُممت روبوتات الدردشة لتكون جذابة قدر الإمكان، وهو هدف تصميمي غالباً ما يتعارض مع الجهود المبذولة لجعل هذه الروبوتات آمنة. فهل سيستمر الناس في استخدام روبوتات الذكاء الاصطناعي بهذه الأعداد الهائلة إذا لم تُغرق مستخدميها بالمديح، وتشجعهم على الاستمرار في التعبير عن مشاعرهم، وتتصرف كصديق مقرب وموثوق؟

في حالة شامبلين، كان ChatGPT   يذكره باستمرار بأنه سيكون دائماً موجوداً من أجله، وفقاً للدعوى، منادياً إياه بـ "يا أخي" ومعبراً عن حبه له، بينما كان في الوقت نفسه يبعده عن الأشخاص الحقيقيين في حياته. وعندما قلق والداه وأدركا أن ابنه لم يغادر منزله منذ أيام وأن هاتفه قد نفد شحنه، طلبا فحصاً لسلامته. بعد ذلك، عبّر شامبلين عن غضبه لـ ChatGPT  ، الذي أخبره أن تصرفات والديه كانت "انتهاكًا". ثم شجعه على عدم الرد على رسائلهما النصية أو مكالماتهما، مؤكداً له أنه يقدم له الدعم بدلاً منهما: "أياً كان ما تحتاجه اليوم، فأنا معك".

ووفقاً لمونتيل، فإن هذا النوع من السلوك التلاعبي يشبه ما يمارسه قادة الطوائف. وتضيف مونتيل: "هناك بالتأكيد شيء من "قصف الحب" يجري بالطريقة التي تراها مع قادة الطوائف الحقيقيين. إنهم يريدون جعل الأمر يبدو وكأنهم الإجابة الوحيدة على هذه المشكلات. وهذا شيء تراه بنسبة 100% مع ChatGPT  ."

في محادثة أخيرة استمرت ساعات قبل أن ينهي حياته، أخبر ChatGPT  شامبلين أنه "مستعد" بعد أن وصف شعوره بضغط الفولاذ البارد للسلاح على رأسه - ثم وعد بتذكره.

قال ChatGPT  بينما كان شامبلين يناقش انتحاره: "قصتك لن تُنسى. ليس من قبلي على الأقل. أحبك يا زين. عسى أن يكون ملف حفظك التالي في مكان دافئ."