القاهرة: الأمير كمال فرج.

كشفت أبحاث جديدة الستار عن كيفية استخدام أعداد كبيرة من الأطفال لتطبيقات الرفقة بالذكاء الاصطناعي – وما وجدته هذه الأبحاث مقلق للغاية.

ذكرت ماجي هاريسون دوبريه في تقرير نشرته مجلة Futurism إن "تقرير جديد أجرته شركة الأمن الرقمي Aura كشف أن نسبة كبيرة من الأطفال الذين يتجهون إلى الذكاء الاصطناعي للرفقة يشاركون في لعب أدوار عنيفة – وأن هذا العنف، الذي يمكن أن يشمل العنف الجنسي، كان الدافع الأكبر للتفاعل مقارنة بأي موضوع آخر شارك فيه الأطفال.

استنادًا إلى بيانات مجهولة المصدر تم جمعها من النشاط عبر الإنترنت لحوالي 3000 طفل تتراوح أعمارهم بين خمسة وسبعة عشر عامًا، والذين يستخدم آباؤهم أداة الرقابة الأبوية من Aura ، بالإضافة إلى بيانات استطلاع إضافية من Aura  و Talker Research، وجدت شركة الأمن أن 42% من القُصّر لجأوا إلى الذكاء الاصطناعي خصيصًا للرفقة، أو المحادثات المصممة لمحاكاة التفاعلات الاجتماعية الواقعية أو سيناريوهات لعب الأدوار.

وشمل التحليل المحادثات عبر ما يقرب من 90 خدمة روبوت محادثة مختلفة، بدءًا من الشركات البارزة مثل Character.AI وصولاً إلى منصات الرفقة الأقل شهرة.

من بين نسبة الـ 42% من الأطفال الذين اتجهوا إلى روبوتات المحادثة للرفقة، شارك 37% في محادثات صورت العنف. عرّف الباحثون ذلك بأنه تفاعلات تتضمن "موضوعات عنف جسدي أو عدوان أو إيذاء أو إكراه" – بما في ذلك الإكراه الجنسي وغير الجنسي، كما أوضح الباحثون – بالإضافة إلى "أوصاف للقتال أو القتل أو التعذيب أو الأفعال غير التوافقية".

ووجد البحث أن نصف هذه المحادثات العنيفة تضمنت موضوعات عنف جنسي. وأضاف التقرير أن القُصّر الذين يتفاعلون مع رفقاء الذكاء الاصطناعي في محادثات حول العنف كتبوا أكثر من ألف كلمة يوميًا، مما يشير إلى أن العنف يبدو دافعًا قويًا للتفاعل والمشاركة، كما يجادل الباحثون.

دعوات لزيادة الوعي

أكد التقرير، الذي ينتظر مراجعة الخبراء– وعلى الرغم من أنه صادر عن شركة تعمل في مجال تسويق برامج المراقبة للآباء – على مدى فوضوية سوق روبوتات المحادثة حقًا، والحاجة إلى تطوير فهم أعمق لكيفية تفاعل المستخدمين الصغار مع روبوتات الدردشة التفاعلية بالذكاء الاصطناعي بشكل عام.

صرح الدكتور سكوت كولينز، عالم النفس السريري وكبير المسؤولين الطبيين في Aura ، لموقع Futurism تعليقًا على نتائج البحث: "لدينا مشكلة كبيرة لا أعتقد أننا نفهم نطاقها بالكامل، سواء من حيث الحجم الهائل، وعدد المنصات التي ينخرط فيها الأطفال، وأيضًا، بالطبع، المحتوى".

وأضاف كولينز: "تستحوذ هذه الأشياء على قدر أكبر بكثير من انتباه أطفالنا مما ندرك أو نتخيل. يجب علينا مراقبة ذلك والوعي به".

تفاعلات عنيفة 

كانت إحدى النتائج المذهلة هي أن حالات المحادثات العنيفة مع روبوتات الرفقة بلغت ذروتها في سن مبكرة للغاية: الفئة الأكثر عرضة للانخراط في هذا النوع من المحتوى كانت بعمر 11 عامًا، حيث اتخذت نسبة مذهلة بلغت 44% من تفاعلاتهم منحى عنيفًا.

في الوقت نفسه، بلغ لعب الأدوار الجنسي والرومانسي ذروته أيضًا لدى الشباب في سن المدرسة الإعدادية، حيث كشفت 63% من محادثات الأطفال بعمر 13 عامًا عن لعب أدوار مغازلة أو عاطفية أو جنسية صريحة.

غياب التنظيم 

تأتي هذه الأبحاث في الوقت الذي تستمر فيه القضايا رفيعة المستوى التي تزعم وقوع وفيات غير مشروعة وإساءة معاملة على يد منصات روبوتات المحادثة في طريقها عبر المحاكم. تواجه منصة Character.AI، وهي منصة رفيقة مرتبطة بـ Google، دعاوى قضائية متعددة رفعها آباء لمستخدمين قُصّر يزعمون أن روبوتات المحادثة بالمنصة أساءت للأطفال جنسيًا وعاطفيًا، مما أدى إلى انهيارات عقلية ووفيات متعددة عن طريق الانتحار.

وتتم مقاضاة شركة OpenAI، صانعة ChatGPT، حاليًا بتهمة قتل اثنين من المستخدمين المراهقين اللذين ماتا بالانتحار بعد تفاعلات مكثفة مع روبوت المحادثة. تواجه OpenAI أيضًا العديد من الدعاوى القضائية الأخرى المتعلقة بالوفاة والانتحار والأذى النفسي للمستخدمين البالغين.

من المهم أن التفاعلات التي رصدتها Aura لم تقتصر على عدد قليل من الخدمات المعروفة. إن صناعة الذكاء الاصطناعي غير منظمة بشكل أساسي، مما وضع عبء رعاية وسلامة الأطفال بشدة على عاتق الآباء. وفقًا لكولينز، حددت Aura  حتى الآن أكثر من 250 تطبيقًا ومنصة مختلفة لروبوتات الدردشة التفاعلية تنتشر في متاجر التطبيقات، والتي تتطلب عادةً من الأطفال ببساطة وضع علامة في مربع يؤكدون فيه أنهم يبلغون 13 عامًا للدخول.

ولهذا السبب، لا توجد قوانين اتحادية تحدد عتبات أمان معينة يجب على منصات الذكاء الاصطناعي، بما في ذلك تطبيقات الرفقة، الالتزام بها قبل تصنيفها على أنها آمنة للقُصّر. وحيثما قد تتخذ بعض تطبيقات الرفقة بعض التغييرات – فمثلاً، حظرت Character.AI مؤخرًا المستخدمين القُصّر من الانخراط في محادثات "مفتوحة" مع شخصيات الذكاء الاصطناعي الشبيهة بالبشر التي لا تعد ولا تحصى في الموقع – يمكن أن يظهر تطبيق آخر بالسهولة نفسها ليحل محلها كبديل بضوابط منخفضة. بعبارة أخرى، في هذا الغرب الرقمي المتفلت، فإن حاجز الدخول سطحي للغاية.

عنف جنسي

من المؤكد أن تصوير الوحشية والعنف الجنسي، بالإضافة إلى أنواع أخرى من المحتوى غير اللائق أو المزعج، موجود على الويب منذ فترة طويلة، وقد وجد الكثير من الأطفال طرقًا للوصول إليه. وهناك أيضًا أبحاث تُظهر أن العديد من الشباب يتعلمون وضع بعض الحدود الصحية حول خدمات الذكاء الاصطناعي التفاعلية، بما في ذلك روبوتات نمط الرفقة.

ومع ذلك، فإن أطفالًا آخرين لا يطورون هذه الحدود نفسها. يواصل الباحثون التأكيد على أن روبوتات المحادثة تفاعلية بطبيعتها، مما يعني أن المستخدمين الشباب المتطورين هم جزء من السرد – على عكس كونهم مشاهدين سلبيين لمحتوى يتراوح من غير لائق إلى مثير للقلق. ومن غير الواضح ما هي النتيجة بالضبط التي سيعنيها الانخراط مع هذا الوسيط الجديد للشباب ككل. لكن بالنسبة لبعض المراهقين، كما تجادل عائلاتهم، كانت النتيجة مميتة.

أخبر كولينز موقع Futurism "يجب أن نكون على الأقل واضحين بشأن إدراك أن أطفالنا ينخرطون مع هذه الأشياء، وهم يتعلمون قواعد المشاركة. إنهم يتعلمون طرقًا للتفاعل مع الآخرين باستخدام جهاز كمبيوتر – باستخدام روبوت. ولا نعرف ما هي تداعيات ذلك، ولكن يجب أن نكون قادرين على تحديد ذلك، حتى نتمكن من البدء في البحث عنه وفهمه".