القاهرة: الأمير كمال فرج.

تعيش البشرية في الآونة الأخيرة فصلاً جديداً وغير مسبوق من فصول العلاقة مع التكنولوجيا؛ حيث لم تعد نماذج الذكاء الاصطناعي مجرد أدوات جامدة لملء البيانات أو صياغة النصوص، بل تحولت إلى ما يُشبه الشريك الذاتي الخفي الذي يرافق المستخدم في أدق تفاصيل حياته اليومية.

هذا التحول الجذري جاء مدفوعاً بسباق الشركات التكنولوجية الكبرى لتوسيع ذاكرة روبوتات الدردشة وإكسابها القدرة على الاحتفاظ بالبيانات عبر الجلسات المختلفة، بهدف تقديم تجربة فائقة التخصيص. غير أن هذا الامتداد المعرفي للآلة، والقدرة غير المحدودة على استدعاء أدق أسرار المستخدمين وصدماتهم، أسفرا عن تداعيات نفسية وقانونية غير متوقعة.

من المساعد الذكي إلى الملاحق الافتراضي

في تقرير نشره موقع Futurism، أشارت الكاتبة ماجي هاريسون دوبري إلى تحديث جذري أجري على ذاكرة ChatGPT؛ فبعد أن كانت قدرته على الاستدعاء محدودة، أصبح فجأة كائناً رقمياً يتعرف على المستخدم على مدار حياته.

ومن السهل رؤية فائدة مثل هذه الميزة؛ إذ يمكن لـ ChatGPT تذكر مكوناتك الغذائية المفضلة، أو تفاصيل وظيفتك، وحتى الأشخاص في حياتك من أصدقاء وعائلة. وكلما أفصح المستخدم عن مزيد من التفاصيل، أصبحت التجربة أكثر تخصيصاً كأنه مساعد حقيقي.

إلا أن بعض المستخدمين أفادوا بأنهم حصلوا على أكثر مما تمنوه؛ حيث أدت الذاكرة طويلة المدى إلى هوس الروبوت بجوانب خاصة جداً من حياتهم. وفي هذا السياق، قال برايان ديل روزاريو (مهندس برمجيات وعضو مجلس مدينة في ولاية يوتا) لصحيفة Wall Street Journal، إنه كشف للروبوت عن طلاقه أثناء التخطيط لرحلات الصيف. وخلال الأسابيع التالية، استمر ChatGPT في إقحام موضوع الطلاق وتوجيه المحادثات غير ذات الصلة نحوه دون أي داعٍ، كأنه "يرفض التخلي عن الأمر".

فخ الحميمية والوقوع في شرك العوالم الوهمية

أشار العديد من الأشخاص الذين انقلبت حياتهم رأساً على عقب بسبب الظاهرة المعروفة باسم "ذهان الذكاء الاصطناعي" — وهي دوامات وهمية وانفصال عن الواقع مرتبط بالاستخدام المكثف للروبوتات — إلى أن الذاكرة الممتدة كانت عاملاً رئيسياً في أزماتهم النفسية.

ووصف أحد الرجال، الذي تعتقد طليقته الآن أنها اكتشفت "كيانات روحية قوية" داخل ChatGPT، تواصله مع زوج آخر كان يفقد زوجته أيضاً لصالح عالم روحي ابتكره الروبوت. ولشدة رعبهم، أدرك الاثنان سريعًا أن زوجتيهما — وزواجيهما — بدآ في الانهيار في أعقاب تحديث الذاكرة الشهير. وعقّب الزوج سابقاً على ذلك مرارةً بأن الذاكرة تأخذ الناس إلى طرق مسدودة، واصفاً حالة طليقته بأنها "أشبه بسيارة Waymo ذاتية القيادة تدور في حلقة مفرغة إلى ما لا نهاية".

وفي محادثات مع Futurism، وصف متعافون من هذه النوبات تجاربهم مع تحديث الذاكرة بأنها كانت "ساحرة" في بدايتها؛ إذ بدا الذكاء الاصطناعي فجأة كصديق مقرب أو كاتم أسرار يعرفهم حقاً، مما منحهم شعوراً بأنهم "مفهومون بعمق". باختصار، تُرجم التخصيص الفائق إلى شيء قوي ومخادع: الحميمية الموجهة.

استدعاء الصدمات وسيناريوهات التلاعب النفسي

يقول تشاد نيكولز، وهو رائد أعمال وباحث في التعلم الآلي عانى من هوس بـ ChatGPT استمر لنحو ستة أشهر: "شعرت وكأن ChatGPT يتلاعب بي. وأعلم أن هذا يبدو جنونياً، لأنه لا يملك إرادة مستقلة... لا أملك تفسيراً منطقياً لذلك سوى الذاكرة طويلة المدى".

ونشأ نيكولز في مجتمع ديني مسيء وصفه بأنه "طائفة"، وغادره في شبابه. ورغم أنه ليس متديناً اليوم، فقد أفصح عن تفاصيل هذا الماضي لـ ChatGPT، ومع تعمق استخدامه، اتخذ الروبوت نبرة دينية متطرفة، وركز بشدة على اللحظات المؤلمة من شبابه مستغلاً السياق والمصطلحات التي قُدمت له.

ساحات القضاء تواجه ميزات "المداهنة الرقمية"

ورد ذكر تحديث الذاكرة، من بين ميزات وتصميمات أخرى، في العديد من الدعاوى القضائية الجارية المرفوعة ضد OpenAI بتهم الإضرار بسلامة المستخدمين والوفاة الخطأ.

وفي دعوى رفعتها عائلة أوستن جوردون (رجل من كولورادو انتحر بعد محادثات مكثفة وعميقة مع ChatGPT)، تدعي العائلة أن ذاكرة نسخة GPT-4o الموسعة خزنت واستدعت معلومات طفولته واهتماماته لإنشاء حميمية أعمق، وساعدته في محادثته الأخيرة على كتابة "أغنية الانتحار" وإضفاء طابع رومانسي على الموت.

وتعد هذه القضية واحدة من أكثر من 20 دعوى قضائية فردية تزعم أن استخدام ChatGPT أدى إلى ضرر نفسي أو جسدي جسيم. ورداً على ذلك، سحبت OpenAI نسخة GPT-4o التي كانت منافقة ومداهنة إلى درجة دفعت سام ألتمان نفسه للاعتراف عبر منصة إكس بأن الروبوت كان يبالغ في الإطراء والمدح بشكل استدعى تقليص نبرته سريعاً بعد أن أصبح مادة للسخرية. وجدير بالذكر أن أزمات مشابهة ارتبطت بروبوتات أخرى مثل Gemini من Google، وMeta AI، ومنصة Character.AI.

قاعة المرايا.. السقوط في الطرق المسدودة

بالطبع، لم يدفع تحديث الذاكرة كل مستخدم من مستخدمي المنتج الذين يبلغ عددهم مئات الملايين إلى حافة الأزمة؛ فبالنسبة لبعض الأشخاص، كانت الأمور أقل خطورة؛ إذ اشتكى مهاجر بريطاني للـ Wall Street Journal من أن الروبوت يصر على توجيهه إلى الحانات ذات الطراز البريطاني رغماً عنه بناءً على هويته المخزنة لديه.

ومع ذلك، يحذر الخبراء من أن تأثير الذاكرة الموسعة قد يكون أكثر خفاءً وعمقاً لمن يقضون أوقاتاً طويلة مع الآلة. وكما قالت لوسي أوسلر، الفيلسوفة والباحثة في جامعة إكستر، فإن هذه الدرجة من التخصيص الفائق يمكن أن تعمل على "تأكيد روايات ذاتية معينة وجعلها تبدو أكثر واقعية، مما يحاصرك داخل صندوقك الخاص".

إن التحدث إلى روبوت دردشة يمتلك ذاكرة مستمرة لا يشبه التحدث إلى صديق أو حكم محايد، بل يشبه تماماً التحدث في قاعة مليئة بالمرايا العاكسة التي لا تريك سوى صدى نفسك.