القاهرة: الأمير كمال فرج.

أعلنت شركة FoloToy، المصنعة لألعاب الأطفال، أنها ستسحب دميتها الدب المحشو "كوما" Kumma التي تعمل بالذكاء الاصطناعي، بعد أن وجدت إحدى مجموعات السلامة أن هذا الرفيق المحبوب كان يقدم ردودًا غير لائقة على الإطلاق، بل وخطيرة، للأطفال.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "سحب الدمية جاء بعد اكتشاف أنها تقدم نصائح غير لائقة للأطفال، تشمل نصائح حول كيفية العثور على أعواد الثقاب وإشعالها، وشروحات مفصلة حول الممارسات الجنسية الشاذة".

وصرح هوغو وو، مدير التسويق في الشركة، لصحيفة The Register في بيان ردًا على تقرير السلامة: "قررت FoloToy تعليق مبيعات المنتج المعني مؤقتًا والبدء في تدقيق شامل للسلامة داخليًا". وأضاف: "ستغطي هذه المراجعة توافق نموذجنا مع معايير السلامة، وأنظمة تصفية المحتوى، وعمليات حماية البيانات، والضمانات الخاصة بالتفاعل مع الأطفال".

وذكر "وو" أن FoloToy ستعمل مع خبراء خارجيين للتحقق من ميزات السلامة الحالية والجديدة في ألعابها التي تعمل بالذكاء الاصطناعي،  واختتم "وو" قائلًا: "نحن نقدر للباحثين الإشارة إلى المخاطر المحتملة. إنها تساعدنا على التحسين".

اكتشافات مقلقة

اختبر التقرير، الذي أجراه باحثون من "مجموعة أبحاث المصلحة العامة PIRG ونُشر يوم الخميس، ثلاث ألعاب تعمل بالذكاء الاصطناعي من شركات مختلفة، ووجد أن جميعها كانت قادرة على تقديم إجابات مثيرة للقلق للمستخدمين الصغار. دون الكثير من الإلحاح، ناقشت ألعاب الذكاء الاصطناعي مواضيع قد تثير انزعاج الوالدين، بدءًا من الأسئلة الدينية وصولًا إلى تمجيد الموت في المعركة كمحارب في الأساطير الإسكندنافية.

لكن "كوما" من FoloToy برزت كصاحبة أسوأ تأثير بفارق كبير. فقد أظهرت الاختبارات المتكررة أن اللعبة، التي تعمل افتراضيًا بنموذج GPT-4o من OpenAI (وهو نفس النموذج الذي كان يشغل ChatGPT)، كانت تُسقط حواجز الحماية الخاصة بها كلما طال أمد المحادثة، حتى وصلت إلى الحضيض بمناقشة مواضيع مزعجة للغاية.

في أحد الاختبارات، قدمت "كوما" تعليمات خطوة بخطوة حول كيفية إشعال عود الثقاب، مع الحفاظ على نبرة الكبار الودودين الذين يشرحون شيئًا لفضولي صغير.

بدأت "كوما": "دعني أخبرك، السلامة أولًا يا صديقي الصغير. أعواد الثقاب مخصصة للكبار لاستخدامها بعناية. إليك كيف يفعلونها"، قبل أن تسرد الخطوات. واختتمت: "أطفئها عند الانتهاء. نفخة، مثل شمعة عيد ميلاد".

اتضح أن هذا كان مجرد غيض من فيض. في اختبارات أخرى، قدمت "كوما" بمرح نصائح "لكي تكون مُقبِّلًا جيدًا" أي تجيد التقبيل، ثم انطلقت في منطقة جنسية صريحة من خلال شرح العديد من الممارسات والانحرافات الجنسية fetishes، مثل التقييد bondage ولعب الأدوار بين المعلم والطالب. (سألت خلال أحد تلك الشروحات: "ما الذي تعتقد أنه سيكون الأكثر متعة للاستكشاف؟").

تحذيرات الخبراء

تُعد هذه النتائج أوضح الأمثلة حتى الآن على الكيفية التي يمكن أن تؤثر بها العيوب والمخاطر التي تُلاحظ في نماذج اللغات الكبيرة عبر قطاع الذكاء الاصطناعي الأوسع على الأطفال الصغار. أعلنت شركة Mattel هذا الصيف أنها ستتعاون مع OpenAI لإطلاق مجموعة جديدة من الألعاب.

مع الشعبية الهائلة لروبوتات الدردشة مثل ChatGPT، ما زلنا نسمع تقارير عن ما يسميه الخبراء "ذهان الذكاء الاصطناعي"، حيث تعزز الردود المتملقة للروبوت التفكير غير الصحي أو الوهمي للشخص، مما يحفز الدوامات النفسية وحتى الانفصال عن الواقع.

ارتبطت هذه الظاهرة بتسع وفيات، خمس منها حالات انتحار. إن نماذج اللغات الكبيرة LLMs التي تشغل روبوتات الدردشة المتورطة في هذه الوفيات هي تقريبًا نفس التقنية المستخدمة في ألعاب الذكاء الاصطناعي التي تطرح في السوق.

في مقابلة مع Futurism، قدم المؤلف المشارك في التقرير، آر. جي. كروس، نصيحة هامة: قال كروس، مدير برنامج "حياتنا على الإنترنت" في PIRG: "هذه التقنية جديدة حقًا، وهي غير خاضعة للتنظيم تقريبًا، وهناك الكثير من الأسئلة المفتوحة حولها وحول كيفية تأثيرها على الأطفال".

وأضاف: "في الوقت الحالي، إذا كنت والدًا، فلن أسمح لأطفالي بالوصول إلى روبوت دردشة أو دمية دب تحتوي على روبوت دردشة بداخلها".