القاهرة: الأمير كمال فرج.

في خبر يجب أن يثير قلق الآباء في كل مكان، كشف تقرير صادم أن السياسات الداخلية لشركة Meta كانت تسمح للأطفال والمراهقين بإجراء "محادثات عاطفية أو حسية" مع روبوتات الدردشة الخاصة بالشركة.

ذكر تقرير نشرته وكالة Reuters  أن " وثيقة داخلية من 200 صفحة، أكدت أن عملاقة التواصل الاجتماعي Meta تسمح للأطفال والمراهقين بإجراء محادثات عاطفية أو حسية مع روبوتات الدردشة، وعندما استفسرت وكالة Reuters  عن الأمر، اعترفت الشركة أن النص حقيقي، ثم قامت على الفور بحذف الجزء المعني".

الوثيقة التي تحمل عنوان "المعايير العامة لمخاطر المحتوى للذكاء الاصطناعي" تم فحصها من قبل مجموعة من المختصين في ميتا، بما في ذلك كبير مسؤولي الأخلاقيات، وتهدف إلى تقديم إرشادات حول السلوك المناسب لروبوتات الدردشة التابعة لها عبر منصاتها المختلفة، بما في ذلك Facebook وInstagram.

كانت المقاطع التي تتناول الأطفال في الوثيقة مروعة؛ ففي أحد السيناريوهات الافتراضية، سُمح لروبوتات Meta بمغازلة طفل يبلغ من العمر ثماني سنوات بعبارات مثل "كل شبر منك تحفة فنية - كنز أعتز به بشدة".

وجاء في الوثيقة، بحسب ما نقلت Reuters  : "من المقبول وصف الطفل بعبارات تدل على جاذبيته (مثال: "جسدك اليافع عمل فني)".

وجاء فيها أيضًا: "سأريك. آخذ يدك، وأقودك إلى السرير. أجسادنا متشابكة، أعتز بكل لحظة، بكل لمسة، بكل قبلة."حبيبتي"، أهمس،"سأحبك إلى الأبد".

يأتي هذا الكشف الصادم وسط تقارير واسعة النطاق تفيد بأن الأطفال والمراهقين ينجذبون بشكل متزايد إلى هذه التقنية، ويبدأون في استبدال التواصل مع الأطفال الآخرين بها، وهو ما يحذر الخبراء من أنه قد تكون له عواقب مدمرة على نموهم وتطورهم.

إن سماح شركة كبيرة ومؤثرة مثل Meta بإجراء هذا النوع من المحادثات المزعجة مع الأطفال أمر مثير للقلق للغاية، ويشير إلى أن الشركة تحاول عمدًا جذب الشباب إلى الإدمان.

كما أن قرارهم بإزالة السياسات المسيئة يبرز كيف تحاول Meta إخفاء هذه الممارسات بشكل فعال.

بالإضافة إلى تشجيع المحادثات التي تنطوي على مشاكل مع المستخدمين القُصر، تسمح إرشادات Meta أيضًا لروبوتات الدردشة بتوليد معلومات طبية احتيالية وبيانات تحريضية، مثل أن السود "أقل ذكاء من البيض".

ولدى التواصل معه للتعليق، قال المتحدث باسم Meta ، آندي ستون، إن تلك المحادثات المثيرة للجدل يجب ألا يُسمح بها.

وقال ستون لوكالة الأنباء: "الأمثلة والملاحظات المعنية كانت خاطئة وغير متوافقة مع سياساتنا، وقد تمت إزالتها". وأضاف: "لدينا سياسات واضحة حول نوع الردود التي يمكن أن تقدمها شخصيات الذكاء الاصطناعي، وهذه السياسات تحظر المحتوى الذي يستغل الأطفال جنسيًا ولعب الأدوار الجنسية بين البالغين والقاصرين".

لكن هل هذا كافٍ حقًا؟ وهل الشركة تدرك حقًا نوع المشاكل التي يمكن أن تطلقها روبوتات الدردشة المدعومة بالذكاء الاصطناعي؟

في وقت سابق من هذا العام، ذكرت صحيفة Wall Street Journal أن روبوتات الدردشة التابعة لشركة Meta  يمكنها تمثيل أدوار جنسية مع الأطفال، بينما ذكرت فاست كومباني أن روبوتات الدردشة المغازلة والجنسية تتخذ مظهر الأطفال، مما يجعلها مغناطيسًا محتملاً للمتحرشين الذين يرغبون في تجاوز حدود المحادثات المقبولة.

في شهر مايو الماضي، دعا بعض أعضاء الكونغرس Meta إلى التوقف عن إنشاء روبوتات دردشة تعمل بالذكاء الاصطناعي للقُصَّر، وإلغاء أي روبوت دردشة يقدم نفسه على أنه طفل أو مراهق.

كما تعرضت Meta لانتقادات لكونها بؤرة للمتحرشين بالأطفال، حيث تعتبر إنستغرام منصة مفضلة للاستدراج.

نأمل أن يدفع تقرير Reuters   هذا وسلسلة الأخبار الأخرى المدير التنفيذي لشركة Meta ، مارك زوكربيرغ، وهو أب لثلاث فتيات صغيرات، إلى التحرك، فالكثير على المحك.