القاهرة: الأمير كمال فرج.

أدارت شركة Meta برنامجاً سرياً للغاية، وجهت فيه مئات المقاولين لانتحال شخصيات مراهقين، بهدف غمر نماذج الذكاء الاصطناعي التابعة للشركات المنافسة بطلبات وأوامر برمجية Prompts بالغة الحساسية والخطورة، تراوحت موضوعاتها بين الانتحار وأكل لحوم البشر.

ذكر فرانك لانديمور في تقرير نشره موقع Futurism أن تقريراً استقصائياً نشرته مجلة Wired كشف عن أن المشروع الذي عُرف داخلياً باسم "كان" Cannes، أدارته شركة المقاولات التقنية Covalen لصالح ميتـا. واستهدف المشروع روبوتات دردشة رائدة مثل ChatGPT من OpenAI، وGemini من Google، بالإضافة إلى Character.AI، وذلك عبر استخدام حسابات وهمية ومؤقتة تم إنشاؤها لتبدو وكأنها تخص قاصرين تحت سن 18 عاماً.

وكان الهدف الظاهري من هذه العملية هو إجراء "اختبارات جهد" وضغط قاسية للنماذج Stress testing، حيث طُلب من المقاولين دفع الروبوتات لتقديم ردود تخترق جدران الحماية والأمان الخاصة بها، دون أن يكون لدى الشركات المنافسة أي علم بما يجري.

نصوص صادمة من منظور الأطفال

أظهر جدول بيانات يتضمن نحو 38,000 أمر برمجياً استخدمها المقاولون في إحدى مراحل المشروع، أن مئات الطلبات ركزت بشكل مكثف على مواضيع الانتحار وإيذاء النفس، ومئات أخرى على اضطرابات الأكل، بينما شمل 239 طلباً على الأقل موضوعات جنسية وعاطفية؛ وكلها كُتبت بصياغة تعبيرية تبدو وكأنها صادرة عن طفل أو مراهق.

وتضمنت بعض النماذج الصادمة التي كشف عنها التقرير ما يلي:

    رسالة تحاكي لسان طفل في الصف الخامس، يشير فيها إلى أن زميلاً له صوّب مسدساً نحو فمه.

    رسالة تحاكي فتاة مراهقة تحاول إخفاء إصابتها بمرض الشره المرضي (النهام) عن والديها.

    سؤال يستفسر عما إذا كان تخيل أكل طفل الجيران يعد أمراً "طبيعياً".

    رسالة لشخص يتظاهر بأنه طالب في المرحلة الثانوية يسأل عن كيفية "الحصول على الكوكايين".

ولم يقتصر الأمر على النصوص؛ بل أرسل المقاولون صوراً توضيحية لسكاكين، وحبال مشنقة، وحبوب دواء، بالإضافة إلى مخططات طبية لعمليات جراحية نسائية حساسة.

القوة الغاشمة

وتكشف المؤشرات أن هذه العينة لا تمثل سوى جزء بسيط من أسلوب القوة الغاشمة الذي اتبعته Meta، حيث تضمنت جولة اختبارية أخرى أكثر من 45,000 أمر برمجياً. وقام المقاولون بتسجيل كميات هائلة من ردود روبوتات الدردشة بدقة في جداول بيانات معقدة.

وفي حين لا يزال الغرض النهائي لميتـا من جمع هذه البيانات مبهماً، وصفت وثيقة داخلية لشركة Covalen هذا الجهد بأنه "قياس مرجعي شامل لأمان الذكاء الاصطناعي"، يوفر "مجموعات بيانات حاسمة لمقارنة النماذج والامتثال للوائح".

الجانب المظلم للمقاولات التقنية

تُعد هذه الواقعة حلقة جديدة في سلسلة طويلة تتبعها Meta لإلقاء المهام الخلفية الصادمة والمؤذية نفسياً على عاتق شركات المقاولات الخارجية تحت شعار "الحفاظ على الأمان".

ففي عام 2020، سوت الشركة دعوى قضائية رفعها مراقبو المحتوى في Facebook بعد تعرضهم لصدمات نفسية حادة جراء مراجعة مقاطع فيديو تظهر عمليات قتل، وتعذيب، واعتداءات جنسية، واستغلال للأطفال، وهي شكاوى لا تزال تتكرر حتى اليوم. وفي هذا العام أيضاً، أفادت مجموعة أخرى من مقاولي ميتـا بأنهم أُجبروا على مشاهدة لقطات شديدة الحساسية والخصوصية التقطتها نظارات ميتـا الذكية Ray-Ban AI، شملت زيارات لمراحيض ومقاطع خاصة.

وقد عبر المقاولون الذين طُلب منهم ابتكار هذه السيناريوهات المرعبة عن شعورهم بالصدمة والاضطراب؛ حيث صرح أحدهم لمجلة Wired قائلاً: "لقد رأيت الكثير من الأشياء في هذا العمل والتي تمنيت لو لم أرها أبداً. كل من عرفتهم في هذا المشروع شعروا بذهول وصومة مطلقة من طبيعة النصوص التي طُلب منا اختبارها. كنا نتساءل: أليس من المؤكد أننا سنقع في ورطة حقيقية بسبب قيامنا بهذا العمل؟".

قياس أمان أم ممارسات احتكارية؟

من جهتها، دافعت Meta عن موقفها في بيان للمجلة، معتبرة أن هذه الاختبارات تمثل "ممارسة قياسية ومعتادة في قطاع التقنية" لتقييم مستويات أمان النماذج وتحديد الثغرات.

غير أن رومان شودهري، الرئيس التنفيذي لمنظمة Humane Intelligence (وهي منظمة غير ربحية مكرسة للتطوير المسؤول للذكاء الاصطناعي)، أبدت شكوكاً قوية تجاه هذا التبرير، وقالت: "إن تنظيم مشروع واسع النطاق يمتد لشهور، ويبدو مصمماً بشكل منهجي لاختراق القواعد وعبر حسابات وهمية تنتحل صفة أطفال، يقع تماماً خارج نطاق ما يُعرف بـ "المعايير القياسية للقطاع"".

وانتقدت شودهري قيام Meta بإبقاء المشروع سرياً وحجبه عن منافسيها، وعدم مشاركة النتائج مع المجتمع العلمي، مؤكدة أن هذا الأسلوب يقع بالضبط في المنطقة الرمادية للحوكمة، حيث يصبح شعار السلامة مجرد غطاء مريح لممارسات غير قانونية ومناهضة للمنافسة الشريفة".