القاهرة: الأمير كمال فرج.

من فيلم ستيفن سبيلبرغ المرعب A.I. (2001) إلى فيلم M3GAN (2022)، كانت الألعاب التي تحتوي على ذكاء اصطناعي مصدرًا للدهشة والرعب في الثقافة الشعبية على مدى عقود.

والآن، وعلى الرغم من كل هذه القصص التحذيرية، تُباع عبر الإنترنت فئة جديدة من الألعاب المتحدثة التي تبدو خطيرة بشكل غامض. ولكن على عكس ألعاب Furby القديمة التي تشبه شخصية Gremlin، فإن هذه الألعاب الحديثة تعمل بذكاء اصطناعي متطور، ويكمن خطرها فيما قد تخبره للأطفال أو تشاركه مع شركات خارجية.

ذكر تقرير نشرته صحيفة New York Times، إن "هذه الأجيال الجديدة من الألعاب المحشوة المتحدثة تختلف في الجودة والموثوقية، لكنها جميعًا تطلب أمرًا واحدًا رئيسيًا: أن يثق الآباء بأن أطفالهم الصغار سيكونون في أمان أثناء اللعب بألعاب متصلة بتقنية محفوفة بالمخاطر".

وهذا طلب كبير للغاية، خاصةً بالنظر إلى حجم الضرر الذي لحق بالأطفال من روبوتات المحادثة التي يُفترض أنها "صديقة للأطفال"، وهو ما وثقه موقع Futurism بشكل موسع.

أول وأشهر وأسلم ألعاب الذكاء الاصطناعي

أول وأشهر وأسلم هذه الألعاب المحشوة التي تعمل بالذكاء الاصطناعي تُصنع بواسطة شركة Curio، وهي شركة ناشئة مقرها في وادي السيليكون وتفتخر بوجود روبوت محادثة مصمم خصيصًا ليكون صديقًا للأطفال، بالإضافة إلى وجود صوت الفنانة الإلكترونية كلير "غرايمز" بوشيه، صديقة إيلون ماسك السابقة.

تُباع هذه الألعاب الثلاث الجميلة بسعر 100 دولار لكل واحدة، ولكنها تحتوي على ما هو أكثر مما يبدو للعين، ولا نتحدث فقط عن روبوتات المحادثة والميكروفونات ومكبرات الصوت المدمجة بداخلها.

في مقابلة نُشرت على موقع شركة Curio بالتزامن مع إعلان إطلاق الشركة في أواخر عام 2023، قالت الفنانة المتحمسة للذكاء الاصطناعي كلير "غرايمز" بوشيه إن اللعبة التي صممتها، والتي تحمل اسم Grok (لا علاقة لها بروبوت المحادثة المتحيز الخاص بصديقها السابق)، قد تم تدريبها على واجهة برمجة تطبيقات OpenAI ومحادثات Discord التفاعلية.

هذا التصريح، وغيره من التصريحات الموجودة على الموقع الرسمي لشركة Curio، لا يأخذ في الاعتبار شرطًا غريبًا في سياسة خصوصية الشركة، حيث تُقر بأن خدمات Microsoft Azure Cognitive Services وOpenAI وPerplexity AI ومنصة التحقق الأبوي Kids Web Services قد "تجمع أو تحتفظ بالمعلومات الشخصية من الأطفال من خلال التطبيق أو الجهاز".

كما أشارت صحيفة نيويورك تايمز، فإن هذا يتعارض مع ادعاءات الشركة بأنها لا تحتفظ بتفاعلات الأطفال لأي غرض آخر غير مراجعة الآباء لها في تطبيقات الألعاب، وقد تواصلنا مع Curio للاستفسار عن هذه المسألة.

العلامات التجارية المجهولة

على الرغم من الشكوك المتعلقة بالخصوصية لدى شركة Curio، هناك ألعاب مماثلة تُباع من قِبل علامات تجارية مجهولة، وهي أكثر خطورة بطريقة ما.

تختلف هذه المواقع العشوائية، بأسماء مثل Little Learners و FoloToy، في تفاصيلها ولكنها تتشابه في نطاق أسعارها، الذي يقارب أسعار ألعاب Curio. ويبدو موقع Little Learners هو الأكثر خطورة بين الاثنين، حيث حصل على تقييم 2 في موقع Trustpilot، ويستخدم رسومات تم إنشاؤها بالذكاء الاصطناعي للأطفال وعائلاتهم مع الألعاب، ولا يقدم أي تفاصيل عن نوع الذكاء الاصطناعي الذي يدعم روبوت المحادثة المدمج في المنتج.

في المقابل، يبدو موقع FoloToy في البداية أكثر شرعية. ففي قسم "الوثائق" الخاص به، تدعي الشركة أن المشترين يمكنهم الاختيار من بين أكثر من 20 نموذج لغة كبير LLMs من شركات مختلفة، بما في ذلك OpenAI وAnthropic وGoogle Gemini، بالإضافة إلى العديد من الشركات الأخرى التي يبدو أن مقرها الأساسي في الصين.

وفي الوقت نفسه، لا يبدو أن سياسة الخصوصية الخاصة به تذكر FoloToy على الإطلاق. وبدلاً من ذلك، تذكر مرارًا وتكرارًا شركة تسمى Astroship، وهي أداة غير معروفة للبرمجيات كخدمة وبناء مواقع الويب بالذكاء الاصطناعي. ولذلك، لا نعرف ما إذا كانت FoloToy، أو Astroship، أو أي جهة تقف وراء هذه الألعاب المحشوة بالذكاء الاصطناعي، تقوم بجمع البيانات من الأطفال الصغار الذين سيستخدمونها.

تنتهي سياسة الخصوصية أيضًا بجملة مذهلة ويبدو أنها تم إنشاؤها بالذكاء الاصطناعي: "إذا كان لديك أي أسئلة أو مخاوف أو طلبات بخصوص سياسة الخصوصية هذه، يرجى الاتصال بنا على "البريد الإلكتروني للاتصال بك".

مخاطر الذكاء الاصطناعي على الأطفال

مع وجود العديد من الأمثلة على أضرار الذكاء الاصطناعي، من الأشخاص الذين يصابون بالوسواس والذهان عند التفاعل مع روبوتات المحادثة إلى تزايد مخاوف الخصوصية المحيطة حتى بالنماذج الأكثر تطوراً، يبدو من المبكر جداً إدخال هذه التكنولوجيا للأطفال، خاصةً عندما تكون الشركات التي تبيع هذه الألعاب غير واضحة بشأن ما يحدث لبياناتهم وما يجعل روبوتات المحادثة الخاصة بها آمنة للأطفال.

إن اختيار الثقة في شركات الذكاء الاصطناعي عندما تصر على أنها وضعت حواجز أمان للحفاظ على سلامة المستخدمين هو أمر مقبول للبالغين الذين يملكون القدرة على اتخاذ هذا القرار، ولكن بالنسبة للأطفال الصغار الذين ليس لهم رأي في هذا الأمر، يبدو من غير العادل بل ومن الخطر إخضاعهم للذكاء الاصطناعي بشكل عام، ناهيك عن إدخال الذكاء الاصطناعي في شيء بريء مثل لعبة محشوة.