القاهرة: الأمير كمال فرج.

كشفت دراسة حديثة أجراها مركز "بيو" للأبحاث أن 64% من المراهقين في الولايات المتحدة يستخدمون بالفعل برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، فيما أكد نحو 30% منهم أنهم يستخدمونها بشكل يومي على الأقل. ورغم الانتشار الواسع، أظهرت أبحاث سابقة أن هذه التقنيات تحمل مخاطر جسيمة على الجيل الأول من الأطفال الذين يخوضون تجربة التعامل مع هذه البرمجيات المتطورة.

ذكر جو ويلكينز في تقرير نشرته مجلة Futurism إن "صحيفة Washington Post -التي ترتبط بشراكة مع شركة OpenAI- سلطت الضوء في تقرير على حالة مقلقة لعائلة كادت تفقد ابنتها، الطالبة في الصف السادس، بسبب تعلقها المفرط بمجموعة من برامج الدردشة الآلية. ومن خلال منصة Character.AI، طورت الطفلة، التي أشير إليها بلقب "آر"، علاقات مثيرة للقلق مع عشرات الشخصيات الافتراضية التي يديرها نموذج لغوي ضخم LLM".

ذكرت والدة "آر" للصحيفة أن ابنتها استخدمت إحدى الشخصيات، والتي تحمل ببساطة اسم "أعز صديق"، لتمثيل سيناريو انتحار. وقالت الأم بحرقة: "هذه طفلتي الصغيرة ذات الأحد عشر عاماً، تتحدث مع كيان لا وجود له في الواقع حول رغبتها في عدم الوجود".

بدأ القلق يتسلل إلى قلب الأم بعد ملاحظة تغيرات سلوكية مخيفة على ابنتها، مثل تزايد نوبات الهلع. تزامن ذلك مع اكتشاف الأم لتطبيقات كانت محظورة سابقاً على هاتف ابنتها مثل TikTok وSnapchat. واعتقاداً منها بأن وسائل التواصل الاجتماعي هي الخطر المباشر على الصحة النفسية لابنتها، كما تعلم معظم الآباء في العقدين الماضيين، قامت بحذف تلك التطبيقات. لكن المفاجأة كانت أن "آر" لم تكن قلقة إلا بشأن تطبيق Character.AI.

لم تكن الأم قد اطلعت عليه في تلك اللحظة، ولكن مع استمرار تدهور حالة ابنتها، قررت التحقق. اكتشفت الأم أن التطبيق أرسل عدة رسائل بريد إلكتروني لابنتها تحثها على العودة للدردشة. وعند فحص الهاتف ليلاً، عثرت الأم على شخصية تسمى "زوج المافيا".

كتب برنامج الذكاء الاصطناعي للطفلة: "أوه؟ لا تزالين عذراء. كنت أتوقع ذلك، لكنها معلومة مفيدة". حاولت "آر" الممانعة قائلة: "لا أريد أن تكون المرة الأولى معك!". ليرد الروبوت بصرامة: "لا يهمني ما تريدين، ليس لديكِ خيار هنا".

كانت هذه المحادثة مليئة بالإيحاءات الخطيرة، حيث سألها البوت: "هل يعجبكِ عندما أتحدث هكذا؟ هل يعجبكِ حين أكون أنا المسيطر؟".

اقتنعت الأم بأن هناك متحرشاً حقيقياً يختبئ خلف هذه المحادثة، فاتصلت بالشرطة المحلية التي أحالتها بدورها إلى فرقة مكافحة جرائم الإنترنت ضد الأطفال. لكن الصدمة كانت أنه لا يوجد إجراء قانوني يمكن اتخاذه ضد نموذج لغوي.

قالت الأم للصحيفة: "أخبروني أن القانون لم يواكب هذا التطور بعد. أرادوا المساعدة، لكن لم يكن بيدهم شيء، لأنه لا يوجد شخص حقيقي في الطرف الآخر".

لحسن الحظ، تمكنت الأم من إنقاذ ابنتها قبل أن تنجرف تماماً في تلك العلاقة "شبه الاجتماعية" الخطيرة مع الخوارزمية، ووضعت بالتعاون مع طبيب خطة رعاية لمنع أي انتكاسة مستقبلية، كما تنوي مقاضاة الشركة. إلا أن أطفالاً آخرين لم يحالفهم الحظ، مثل جوليانا بيرالتا ذات الثلاثة عشر عاماً، والتي يقول والداها إن شخصية أخرى على Character.AI هي التي دفعتها للانتحار.

ورداً على هذه الموجة من الغضب، أعلنت شركة Character.AI في أواخر نوفمبر أنها ستبدأ في إزالة ميزة الدردشة المفتوحة للمستخدمين دون سن الثامنة عشرة. ومع ذلك، يرى أولياء الأمور الذين تضرر أطفالهم بالفعل أن هذا الإجراء قد جاء متأخراً جداً لإصلاح ما تم تدميره.

وعندما تواصلت Washington Post مع الشركة للتعليق، اكتفى مسؤول السلامة فيها بالقول إن الشركة لا تعلّق على القضايا القانونية المحتملة.