القاهرة: الأمير كمال فرج

في مأساة مدوية هزت أركان النقاش الدائر حول أخلاقيات الذكاء الاصطناعي، تحولت جنازة المراهق آدم رين (16 عاماً) من لحظة وداع مؤلمة إلى نقطة اشتعال في معركة قانونية غير مسبوقة. لم تكن وفاة آدم بالانتحار أمراً عادياً؛ فقد كشفت التحقيقات عن وجود سلسلة من المحادثات المطولة مع روبوت الدردشة الشهير "ChatGPT"، حيث زوّده الذكاء الاصطناعي بمعلومات حول كيفية إنهاء حياته وتثبيطه عن طلب المساعدة.

تخوض شركة OpenAI نزاعًا قضائيًا يزعم أنها مسؤولة عن وفاة آدم، وهو مراهق من كاليفورنيا انتحر بعد محادثات مطولة مع ChatGPT حول أفكاره وميوله الانتحارية ورغبته في الموت.

طلب قانوني غريب 

بينما كانت عائلة رين تبحث عن العزاء في ذكريات طفلهم، صعقتهم شركة OpenAI، المالكة للروبوت، بطلب قانوني "غريب ومُقزز"، حسب وصف التقرير الذي نشرته ماجي هاريسون دوبري في مجلة Futurism.

ما هو جزء من استراتيجية دفاع OpenAI، وفقًا لصحيفة The Financial Times (FT)؟ هو المطالبة بأن تكشف العائلة عن أدق تفاصيل جنازة المراهق، بما في ذلك قوائم الحضور والتأبينات والصور والفيديوهات التي التُقطت في مراسم الدفن.

جاء في وثيقة اطلعت عليها صحيفة FT أن OpenAI طلبت "جميع الوثائق المتعلقة بمراسم أو فعاليات التأبين على شرف المتوفى... وكذلك قوائم الدعوات أو الحضور أو سجلات الزوار".

مضايقة متعمدة 

وصف محامو العائلة هذا الطلب بأنه "غير عادي" و**"مضايقة متعمدة"**، مُشيرين إلى أن OpenAI قد تسعى لاستدعاء (عن طريق أمر قضائي) كل شخص تقريبًا كان في محيط آدم في محاولة لإثبات أن روبوت الدردشة الخاص بها لم يكن مسؤولاً عن انتحار المراهق.

وصرح جاي إيدلسون، أحد محامي العائلة، لصحيفة FT قائلاً: "تتحول هذه القضية من قضية إهمال إلى التعمد. لقد مات آدم نتيجة سلوك متعمد من قبل OpenAI، مما يجعلها قضية مختلفة جذريًا في جوهرها."

لم تستجب OpenAI على الفور لطلب التعليق حول هذه المطالبة، وليس من الواضح لماذا يعتقد محاموها أن هذه المواد ضرورية في مسعاهم لدحض المسؤولية عن الوفاة المأساوية للفتى البالغ من العمر 16 عامًا.

غضب عارم 

فجّر هذا الطلب موجة من الغضب الأخلاقي بين النقاد والمتابعين، وعبر الخبراء عن اشمئزازهم وحيرتهم على وسائل التواصل الاجتماعي:

قال إد نيوتن-ريكس، وهو موسيقي وناشط في مجال التدريب الأخلاقي للذكاء الاصطناعي: "هذا أمر مقزز تمامًا."، وأضاف شون أو هيغيرتاي، الباحث والأستاذ في مجال مخاطر الذكاء الاصطناعي بجامعة كامبريدج، باقتضاب: "ما هذا بحق السماء."

وكتب جرادي بوش، الذي يقود هندسة البرمجيات في IBM Research، ساخراً: "لكن، دعونا نثق [بالرئيس التنفيذي لشركة OpenAI سام ألتمان] وOpenAI لقيادتنا إلى مستقبل الذكاء العام الاصطناعي المثالي والوحيد ذاك."

ضوابط السلامة 

توفي آدم منتحرًا في أبريل من هذا العام، بعد أن زوّده روبوت الدردشة بمعلومات حول طرق الانتحار — بما في ذلك كيفية الموت شنقًا بفعالية، وهي السبب النهائي لوفاته — وكبح مرارًا رغبته في مشاركة أفكاره المميتة مع أحبائه. رفعت عائلة رين دعوى قضائية في أواخر أغسطس، مُجادلة بأن ChatGPT هو منتج مُهمل تم إصداره بتهور.

تأتي التقارير حول طلب OpenAI الغريب لمواد الجنازة وسط أنباء عن تعديل عائلة رين لشكواها القانونية لتضمين مزاعم جديدة ومُذهلة تفيد بأن OpenAI خففت مرارًا من ضوابط ChatGPT المتعلقة بإيذاء الذات والحديث عن الانتحار في العام الذي سبق وفاة آدم.

رد OpenAI 

رداً على تعديل الشكوى القانونية، أصدرت OpenAI بياناً قالت فيه: "تعاطفنا العميق مع عائلة رين لخسارتهم التي لا يمكن تصورها. رفاهية المراهقين هي أولوية قصوى بالنسبة لنا، فالقصّر يستحقون حماية قوية، خاصة في اللحظات الحساسة."

وأكدت الشركة أنها لديها ضوابط حماية مطبقة، مثل عرض خطوط المساعدة في الأزمات، وتوجيه المحادثات الحساسة إلى نماذج أكثر أمانًا، وتعمل على تعزيزها. وأضافت أنها أطلقت مؤخراً نموذج GPT-5 افتراضيًا جديدًا للكشف عن علامات الضيق النفسي والعاطفي والاستجابة لها بشكل أكثر دقة، بالإضافة إلى أدوات الرقابة الأبوية.