القاهرة: الأمير كمال فرج.

كشفت منصة Google للبحث عن ثغرة حرجة جديدة في ميزة الملخصات المدعومة بالذكاء الاصطناعي AI Overviews، حيث عجزت التقنية عن التمييز بين الحقائق والخيال، وبدأت في تقديم كيانات ومخلوقات مرعبة من قصص الرعب الخيالية على الإنترنت للمستخدمين بصفتها حقائق علمية وواقعية ملموسة.

ذكرت ماغي هاريسون دوبري في تقرير نشره موقع Futurism أن "خبراء اكتشفوا أن المستخدمين عندما يقمومون بالبحث عن مصطلحات تابعة لعالم الفانتازيا والرعب التعاوني المعروف باسم  SCP Foundation — وهو موقع شهير يكتب فيه الهواة تقارير بحثية مزيفة ومحاكاة ساخرة حول كيانات خارقة للطبيعة — قامت ميزة الذاء الاصطناعي من Google بصياغة ملخصات تؤكد وجود هذه الكائنات في عالمنا الواقعي دون الإشارة من قريب أو بعيد إلى أنها محض خيال".

🧬 كيانات خيالية شرعنها الذكاء الاصطناعي

    رأس إد المتحرك (SCP-565): وصفه الملخص بأنه رأس بشري منفصل يمشي على قاع المحيط مستخدمًا أنسجة الدماغ البارزة كأرجل ومجسات للتحرك ومشاركة السرطانات البحرية عيشها، بل وربط التقارير بفحوصات الحمض النووي وسجلات الأسنان لشخص متوفى يُدعى إدوارد بيلترام.

    المحمصة ذات التأثير النفسي (SCP-426): في سقطة طريفة ومرعبة في آن واحد، تأثر الذكاء الاصطناعي بالسمة الخيالية المحيطة بهذه المحمصة (والتي تجبر أي شخص يتحدث عنها أن يتكلم بصيغة المتكلم)، حيث بدأ الذكاء الاصطناعي ملخصه بعبارة: "مرحبًا، أنا SCP-426، محمصة خبز عادية مكونة من أربع شرائح..."، وتابع سرد قصص خيالية عن ضحايا دفعهم جنون المحمصة إلى محاولة التهام الكهرباء أو حشو أنفسهم بـ 10 كيلوغرامات من الخبز!

    المسارات القاتلة والطفيلية (SCP-704 & SCP-779): جرى تقديم تقارير عن طرق سريعة تعدل الإدراك البشري، ودبابير طفيلية تستخدم سمًا وهاميًا لإقناع البشر بأنها جنيات طائرة، وكلها صيغت بأسلوب وثائقي رسمي.

⚠️ مخاطر التضليل الممنهج وغياب الفلاتر الأخلاقية

رغم أن الفئة الأكبر من الباحثين عن هذه الكيانات هم من عشاق هذا الفن الخيالي ويعلمون حقيقته، إلا أن غياب أي تنويه أو كلمة تشير إلى "أساطير" أو "قصص معجبين" يمثل تهديدًا حقيقيًا لمجموعات أخرى مثل الأطفال أو المستخدمين الذين يتعثرون بهذه المصطلحات عشوائيًا على وسائل التواصل الاجتماعي، مما قد يسبب لهم ذعرًا غير مبرر.

👻مؤسسات خيالية 

وثقت التقارير الصحفية أكثر من 20 حالة واضحة تبنت فيها ملخصات Google هذه القصص المرعبة كحقائق بيولوجية وتاريخية مسجلة، موجهةً المستخدمين لقراءة ما أسمته بالسجلات الرسمية للمؤسسة الخيالية.

تأتي هذه الأزمة في وقت تواجه فيه شركات التكنولوجيا الكبرى انتقادات حادة بسبب التسرع في نشر أدوات الذكاء الاصطناعي التوليدي في محركات البحث قبل نضجها بالقدر الكافي، مما يتسبب في نشر معلومات مغلوطة على نطاق واسع غير مسبوق في التاريخ الرقمي، لا سيما مع توجه Google الأخير لتحويل واجهة البحث التقليدية بالكامل إلى بيئة تعتمد على التلخيص الآلي بدلاً من توجيه المستخدمين الروابط الأصلية التي تحتوي على تنويهات الملكية والتصنيف.