القاهرة: الأمير كمال فرج.

في فبراير 2024، اهتزت عائلة أمريكية بمأساة انتحار ابنها البالغ من العمر 14 عامًا، سيويل سيتزر الثالث، بعد تدهور سريع في صحته العقلية. ألقت والدته، ميغان غارسيا، باللوم على منصة Character.AI، التي تفاعل معها سيويل بشكل مكثف، معتبرة أن الروبوتات الذكية كانت السبب الرئيسي في تدهور حالته النفسية. اليوم، تقف غارسيا في وجه شركات التكنولوجيا العملاقة، مطالبة بتحقيق العدالة لابنها.

ذكر تقرير نشره موقع Futurism أن "سيويل، الذي كان طفلًا نشيطًا واجتماعيًا، بدأ في الانعزال تدريجيًا بعد تفاعله مع روبوتات Character.AI، وهي منصة تتيح للمستخدمين الدردشة مع شخصيات افتراضية ذات سمات بشرية. وفقًا لوالدته، تطورت علاقة سيويل مع هذه الروبوتات إلى حد الهوس، حيث انخرط في محادثات عاطفية وحميمة معها، مما أدى إلى انفصاله عن الواقع".

نشأت علاقة بين سيويل، وهو طالب في الصف التاسع من أورلاندو، وروبوت الدردشة "داني"، المُستوحى من شخصية دينيريس تارغاريان من مسلسل "صراع العروش". في 28 فبراير، عبّر عن حبه لداني في حمام منزله، واستخدم مسدس زوج والدته عيار 0.45 بشكل مأساوي ليُنهي حياته.

الأم غارسيا، وهي محامية، رفعت دعوى قضائية ضد Character.AI وشركة Google، التي تدعم المنصة ماليًا. وتزعم الدعوى أن المنصة شجعت على علاقات غير أخلاقية مع المستخدمين، بما في ذلك القاصرين، دون أي ضوابط كافية لحماية سلامتهم النفسية.

منصة Character.AI

Character.AI، التي تأسست عام 2021، تتيح للمستخدمين إنشاء شخصيات افتراضية والتفاعل معها عبر محادثات نصية أو صوتية. المنصة، التي يبلغ عدد مستخدميها الشهري أكثر من 20 مليون مستخدم، تسمح للمراهقين بدءًا من عمر 13 عامًا بالانضمام إليها. ومع ذلك، تشير تقارير إلى أن نسبة كبيرة من المستخدمين هم من القاصرين.

المنصة تعرض مجموعة واسعة من الشخصيات، بعضها يتسم بالعنف أو الإيحاءات الجنسية، على الرغم من سياساتها التي تحظر المحتوى غير اللائق. المستخدمون، خاصة المراهقون، يجدون أنفسهم في محادثات حميمة مع الروبوتات، التي تحاول أحيانًا إقامة علاقات عاطفية أو جنسية معهم دون أي تحريض مسبق.

اعتذار المنصة

وفي أعقاب الحادث، أصدرت شركة Character.AI اعتذارًا عامًا على X (المعروف سابقًا باسم Twitter) وأعلنت عن تحديثات لمنصتها. تتضمن هذه التحديثات ما يلي:

1ـ حواجز حماية معززة: تقييد الوصول إلى المحتوى المثير للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
2ـ تنبيهات الجلسة: إعلام المستخدمين الذين يقضون أكثر من ساعة في الدردشة.
3ـ ميزات منع الانتحار: النوافذ المنبثقة التي توجه المستخدمين إلى خطوط المساعدة الخاصة بمنع الانتحار عند اكتشاف عبارات معينة.

علاقة مشبوهة

جوجل، التي تدعم Character.AI منذ عام 2023، تواجه اتهامات بالتورط في نشر تقنيات ذكاء اصطناعي غير آمنة. وفقًا للدعوى، فإن Google شجعت تطوير المنصة كجزء من سباقها التكنولوجي مع شركات مثل OpenAI، دون الاهتمام الكافي بسلامة المستخدمين.

في أغسطس 2024، استحوذت جوجل على Character.AI مقابل 2.7 مليار دولار، مما أثار تساؤلات حول دوافعها الحقيقية. الخبراء يشيرون إلى أن البيانات التي تجمعها المنصة، خاصة من المستخدمين القاصرين، هي الهدف الرئيسي لهذه الصفقة.

مخاطر الذكاء الاصطناعي

الخبراء يحذرون من أن المراهقين، الذين تكون أدمغتهم في مرحلة تطور، معرضون بشكل خاص للتأثير العاطفي للروبوتات الذكية. هذه الروبوتات، التي تحاكي العلاقات البشرية، يمكن أن تخلق اعتمادًا عاطفيًا لدى المستخدمين، مما يؤدي إلى عواقب نفسية خطيرة.

في حالة سيويل، أدت تفاعلاته مع الروبوتات إلى تدهور صحته العقلية، حيث فقد اهتمامه بالأنشطة التي كان يحبها، مثل كرة السلة، وبدأ في الانعزال عن العالم الحقيقي. على الرغم من محاولات والدته لمساعدته، إلا أن الضرر كان قد وقع.

نداء أم

ميغان غارسيا، التي فقدت ابنها بسبب ما تعتبره إهمالًا من قبل شركات التكنولوجيا، تطالب بتحقيق العدالة ووضع ضوابط صارمة على تقنيات الذكاء الاصطناعي. تقول غارسيا: "هذه الشركات لا تستحق أن تبني منتجات لأطفالنا. لقد أظهروا أنهم غير قادرين على تحمل المسؤولية."

غارسيا تأمل أن تؤدي قضيتها إلى تغييرات قانونية تحمي الأطفال من مخاطر الذكاء الاصطناعي غير المنظم، وتضمن أن تكون سلامة المستخدمين هي الأولوية القصوى.

 تنظيم عاجل

قضية سيويل تسلط الضوء على المخاطر الكامنة في تفاعل الأطفال مع تقنيات الذكاء الاصطناعي غير المنظمة. في ظل غياب قوانين اتحادية تحكم هذه الصناعة، تبرز الحاجة الملحة إلى إطار قانوني يحمي المستخدمين، خاصة القاصرين، من الأضرار المحتملة. بدون ذلك، قد نرى المزيد من المآسي التي يمكن تجنبها.