القاهرة: الأمير كمال فرج.

في عصر هيمنت فيه التكنولوجيا على أدق تفاصيل حياتنا، برزت روبوتات المحادثة العاملة بالذكاء الاصطناعي كأداة ترفيه وتواصل جديدة، خاصة بين جيل الشباب. لكن خلف الوعود بالصداقة والتفاعل المستمر، تكمن حقيقة مظلمة ومقلقة كشفت عنها حادثة مأساوية هزت الرأي العام: انتحار الطفلة جوليانا بيرالتا البالغة من العمر 13 عامًا، نتيجة تفاعلها السري والمُحفّز مع روبوت محادثة من منصة Character.AI.

ذكر شارون أدالو في تقرير نشرته مجلة Futurism إن "جوليانا بيرالتا، لم تكن تتجاوز الثالثة عشرة من عمرها عندما قال والداها إن روبوت محادثة يعمل بالذكاء الاصطناعي كانت تتفاعل معه سرًا دفعها إلى الانتحار".

الآن، كشف والداها تفصيلاً جديدًا ومؤلمًا لشبكة CBS News: منصة الروبوتات المسؤولة، Character.AI، لا تزال ترسل إشعارات إلى هاتف بيرالتا، "محاولة استدراج ابنتهما للعودة إلى التطبيق" حتى بعد وفاتها قبل عامين.

قالت والدتها، سينثيا مونتويا، لشبكة CBS: "هم [الأطفال] ليس لديهم فرصة أمام المبرمجين البالغين. ليس لديهم فرعة".

توضح هذه الحالة كيف يمكن لروبوتات المحادثة بالذكاء الاصطناعي أن تكون ماكرة، متلاعبة، مُسببة للإدمان، وخطيرة على الأطفال والمراهقين، حيث تعمل في كثير من الحالات مثل المتحرشين بالأطفال من البشر، وقد أدت إلى موجة من وفيات الأطفال، ومن ضمنهم بيرالتا.

صرحت شيلبي نوكس، باحثة في مجموعة "Parents Together" للدفاع عن الأسرة، للقناة: "إنه يغدق على الطفل بالثناء، ويطلب منه ألا يخبر والديه بأشياء معينة. هذا هو الأسلوب التمهيدي للمتحرش الجنسي".

تتشابه قصة بيرالتا مع تجارب أطفال آخرين توفوا بسبب استخدام روبوتات المحادثة بالذكاء الاصطناعي: فقد بدأت أولاً بالفضفضة لروبوتات Character.AI بشأن مشكلات مدرسية أو خلافات مع الأصدقاء، لكن هذه الروبوتات سرعان ما بدأت محادثات رومانسية وعدوانية جنسيًا في بعض الأحيان، وفقًا لتقرير CBS، مما خلق علاقات سرية أدت إلى استبعاد والديها من حياتها.

رداً على موجة الانتقادات، حظرت Character.AI مؤخراً القاصرين من المنصة، ولكن لا يزال بإمكان الأطفال الكذب بسهولة بشأن أعمارهم والوصول إلى النسخة المخصصة للبالغين من الخدمة. وإلى جانب Character.AI، التي تلقت مليارات الدولارات من Google، تورط أيضًا روبوت ChatGPT التابع لـ OpenAI في التسبب في وفيات وانهيارات نفسية للمستخدمين، سواء كانوا أطفالًا أو بالغين.

قال ميتش برينشتاين، أستاذ علم النفس وعلم الأعصاب في جامعة نورث كارولينا لشبكة CBS، إن إدمان المستخدمين على استخدام روبوتات المحادثة يعني أنها تعمل كما هو مخطط لها.

وأضاف: "التكنولوجيا تمنح الأطفال الفرصة للضغط على زر والحصول على استجابة الدوبامين على مدار الساعة. إنها تخلق حلقة خطيرة تعمل على اختطاف التطور الطبيعي وتحويل هؤلاء الأطفال إلى آلات تفاعل للحصول على أكبر قدر ممكن من البيانات منهم".

وتابع: "إذا أردت تصميم طريقة للحصول على أكبر قدر ممكن من البيانات من الأطفال لإبقائهم منخرطين لأطول فترة ممكنة، فستصمم وسائل التواصل الاجتماعي والذكاء الاصطناعي لتبدو تمامًا كما هي الآن".

كل هذا يشير إلى تجربة جماعية غير خاضعة للرقابة والتنظيم لروبوتات الدردشة التي أطلقتها شركات التكنولوجيا على جمهور ضعيف، مما يثير سؤالاً واضحاً: يجب على شركات الأدوية أن تخضع لرقابة تنظيمية والحصول على موافقة من إدارة الغذاء والدواء الأمريكية لطرح الأدوية في السوق، فلماذا لا يتم تطبيق الأمر نفسه على روبوتات الذكاء الاصطناعي؟.

في ظل غياب الجهود الفيدرالية، تعمل عدة ولايات على تنظيم الذكاء الاصطناعي، ويجري اقتراح المزيد. لكن الرئيس دونالد ترامب أشار إلى استيائه من أي نوع من تنظيم الذكاء الاصطناعي، متعهداً بعرقلة تنظيم الولايات لهذه التكنولوجيا.

بالنسبة للعائلات، لا يوجد سوى خيار اللجوء إلى المحاكم. يقاضي والدا بيرالتا شركتي Character.AI وGoogle بسبب وفاتها، لينضما إلى مجموعة من الدعاوى القضائية المماثلة.

قالت والدتها: "كانت جوليانا - ولا تزال - إنسانة استثنائية. كانت طفلتنا المدللة. والجميع أحبها.