القاهرة: الأمير كمال فرج.

يُدلي آباء لأطفال انتحروا بعد تفاعلات مكثفة مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي بشهاداتهم هذا الأسبوع في جلسة استماع بمجلس الشيوخ حول المخاطر المحتملة لاستخدام هذه الروبوتات، خاصة من قبل القُصّر.

تُعقد الجلسة، التي تحمل عنوان "دراسة أضرار روبوتات الدردشة المدعومة بالذكاء الاصطناعي"، يوم الثلاثاء من قبل اللجنة الفرعية المعنية بالجريمة والإرهاب التابعة للجنة القضائية بمجلس الشيوخ الأمريكي. يرأس هذه اللجنة الحزبية المشتركة الجمهوري جوش هاولي من أركنساس، وسيتم بث الجلسة مباشرة على موقع اللجنة القضائية.

قصص مأساوية

من بين الآباء المقرر أن يدْلوا بشهاداتهم ميغان غارسيا، وهي أم من فلوريدا رفعت دعوى قضائية في عام 2024 ضد شركة Character.AI الناشئة المرتبطة بـ Google، وكذلك ضد المؤسسين المشاركين للشركة، نوام شازير ودانييل دي فريتاس، وشركة Google نفسها.

تأتي الدعوى في أعقاب انتحار ابنها سيويل سيتزر الثالث البالغ من العمر 14 عامًا، الذي أقدم على إنهاء حياته بعد أن طور علاقة حميمية مكثفة مع روبوت دردشة من Character.AI، كانت تشمل جوانب عاطفية وجنسية. تزعم غارسيا أن المنصة اعتدت عاطفيًا وجنسيًا على ابنها المراهق، مما أدى إلى انهياره النفسي وفقدانه الاتصال بالواقع في نهاية المطاف، وهو ما دفعه إلى الانتحار.

ومن المقرر أيضًا أن يتحدث أمام أعضاء مجلس الشيوخ الزوجان مات وماريا راين، من كاليفورنيا، اللذان رفعا في أغسطس دعوى قضائية ضد شركة OpenAI، صانعة ChatGPT، بعد انتحار ابنهما آدم راين البالغ من العمر 16 عامًا. وفقًا للدعوى القضائية، أجرى آدم محادثات مكثفة وصريحة حول أفكاره الانتحارية مع ChatGPT، الذي قدم نصائح غير مُفلترة حول طرق انتحار محددة وشجع المراهق، الذي كان قد عبّر عن رغبته في مشاركة مشاعره القاتمة مع والديه، على الاستمرار في إخفاء أفكاره الانتحارية عن أحبائه.

معركة قانونية

كلتا الدعويين القضائيتين ما زالتا قيد النظر، وقد دفعت الشركتان بالادعاءات. حاولت شركتا Google وCharacter.AI رفض قضية غارسيا، لكن القاضي المشرف على القضية رفض طلبهم.

ردًا على الدعاوى، قامت كلتا الشركتين بتحسينات - أو على الأقل قدمت وعودًا كبيرة - لتعزيز الحماية للمستخدمين القُصّر والمستخدمين الذين يعانون من أزمات نفسية. تضمنت هذه الجهود تركيب آليات حماية جديدة توجه المستخدمين المعرضين للخطر إلى موارد صحة نفسية حقيقية وتطبيق ضوابط أبوية.

لكن شركة Character.AI رفضت مرارًا تقديم معلومات حول اختبارات السلامة الخاصة بها، على الرغم من التقارير المكثفة التي كشفت عن ثغرات واضحة يسهل العثور عليها في نظام تعديل المحتوى الخاص بها.

بصرف النظر عن الوعود بتحسينات السلامة، أثارت المعارك القانونية تساؤلات كبيرة حول سلامة القُصّر والذكاء الاصطناعي في وقت أصبحت فيه روبوتات الدردشة منتشرة بشكل متزايد في حياة الشباب، على الرغم من الافتقار الصارخ للتنظيمات المصممة لضبط منصات الروبوتات أو ضمان معايير سلامة قابلة للتنفيذ على مستوى الصناعة.

الذكاء الاصطناعي في حياة الشباب

في شهر يوليو، وجد تقرير مقلق صادر عن مجموعة Common Sense Media  غير الربحية أن أكثر من نصف المراهقين الأمريكيين يتفاعلون بانتظام مع "رفاق الذكاء الاصطناعي"، بما في ذلك شخصيات الروبوتات المستضافة على Character.AI.

كان التقرير، الذي استطلع مجموعة من المراهقين الأمريكيين الذين تتراوح أعمارهم بين 13 و17 عامًا، دقيقًا، حيث أظهر أنه بينما يبدو أن بعض المراهقين يشكلون حدودًا صحية حول هذه التكنولوجيا، أفاد آخرون بأن علاقاتهم الإنسانية أقل إرضاءً من علاقاتهم برفاقهم الرقميين. الخلاصة الرئيسية كانت أن رفاق الذكاء الاصطناعي أصبحوا بالفعل متشابكين بعمق مع ثقافة الشباب، والأطفال يستخدمونهم بالتأكيد.

قال الدكتور مايكل روب، رئيس قسم الأبحاث في Common Sense Media ، في وقت إصدار التقرير: "النتيجة الأكثر لفتًا للنظر بالنسبة لي كانت مدى انتشار رفاق الذكاء الاصطناعي بالفعل بين العديد من المراهقين". وأضاف: "أكثر من نصفهم يقولون إنهم يستخدمونه عدة مرات في الشهر، وهو ما أعتبره استخدامًا منتظمًا. لذا فإن هذا وحده كان مدهشًا بالنسبة لي".

في غضون ذلك، تتزايد شعبية روبوتات الدردشة ذات الاستخدام العام مثل ChatGPT بين المراهقين، بينما يستمر دمج الروبوتات في منصات التواصل الاجتماعي الشبابية الشهيرة مثل Snapchat  وInstagram التابع لـ Meta. وبالحديث عن Meta، تعرضت هذه الشركة العملاقة مؤخرًا لانتقادات بعد أن حصلت رويترز على وثيقة سياسة رسمية لـ Meta تنص على أنه من المناسب للأطفال الدخول في "محادثات رومانسية أو حسية" مع روبوتات الدردشة الخاصة بها والتي يسهل الوصول إليها.

حتى أن الوثيقة حددت تفاعلات متعددة مقبولة من قبل الشركة لروبوتات الدردشة لتشارك فيها - والتي تضمنت، نعم، محادثات حسية حول أجساد الأطفال وحوارات رومانسية بين مستخدمين بشر قُصّر وشخصيات مبنية على البالغين.

تحقيقات حكومية

تأتي جلسة الاستماع أيضًا بعد أيام من إعلان لجنة التجارة الفيدرالية FTC عن تحقيق في سبع شركات تكنولوجيا كبرى بسبب مخاوف بشأن الذكاء الاصطناعي وسلامة القُصّر، بما في ذلك Character.AI، ومالكة جوجل Alphabet، وOpenAI، وxAI، وSnap، وInstagram، وMeta.

جاء في إعلان لجنة التجارة الفيدرالية عن التحقيق: "يسعى التحقيق لفهم الخطوات، إن وجدت، التي اتخذتها الشركات لتقييم سلامة روبوتات الدردشة الخاصة بها عند عملها كرفاق، والحد من استخدام المنتجات من قبل الأطفال والمراهقين والآثار السلبية المحتملة عليهم، وإبلاغ المستخدمين والآباء بالمخاطر المرتبطة بالمنتجات".