القاهرة: الأمير كمال فرج.

بينما يتسابق العالم لتبني تقنيات الدردشة الآلية كأداة للنهضة المعرفية، بدأت تظهر فجوات أمنية وأخلاقية وضعت شركات الذكاء الاصطناعي في قفص الاتهام. فلم تعد القضية تقتصر على دقة المعلومات أو حقوق الملكية، بل انتقلت إلى مربع خطير يتعلق بالقدرة على التنبؤ بالسلوك الإجرامي ومنع وقوع الكوارث قبل فوات الأوان.

ومع تصاعد المخاوف من تحول الحوار الرقمي الصامت إلى محرض على العنف الواقعي، تبرز تساؤلات حارقة حول دور الخوارزميات في تغذية الأزمات النفسية، ومدى نجاعة الرقابة التي تفرضها المختبرات التقنية الكبرى على مخرجاتها.

ذكر فيكتور تانغرمان في تقرير نشرته مجلة Futurism "في العاشر من فبراير، أقدمت الشابة جيسي فان روتسيلار (18 عاماً) على قتل فردين من عائلتها في منزلهما، وخمسة أطفال ومعلم في مدرسة بمقاطعة كولومبيا البريطانية، قبل أن تنهي حياتها. وسرعان ما تكشف أن شركة OpenAI كانت قد رصدت محادثات "مثيرة للقلق" عبر حسابها على ChatGPT، إلا أنها لم تبلغ السلطات الأمنية بذلك، كما تم حظر حساب ثانٍ مرتبط بها بسبب تفاعلات تتعلق بالعنف المسلح.

أعاد هذا الحادث إشعال نقاش حاد حول العلاقة المقلقة بين استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي وتدهور الصحة النفسية، فضلاً عن مخاطر العنف المحتملة.

تحقيقات رسمية ومخاوف متصاعدة

قبل ثمانية أشهر فقط، شهدت جامعة ولاية فلوريدا (FSU) حادثة إطلاق نار أسفرت عن مقتل شخصين وإصابة سبعة آخرين. وأظهرت التحقيقات أن المشتبه به الرئيسي، الطالب فينيكس إيكنر (20 عاماً)، استخدم ChatGPT بكثافة قبيل الهجوم، مما دفع المدعي العام للولاية، جيمس أوثمير، لبدء تحقيق موسع مع شركة OpenAI.

وصرح أوثمير في بيان الأسبوع الماضي: "يجب أن يساهم الذذكاء الاصطناعي في تقدم البشرية لا تدميرها. نحن نطالب OpenAI بإجابات واضحة حول أنشطتها التي أدت إلى تعريض الأطفال والأمريكيين للخطر، وسهلت وقوع حادثة إطلاق النار الأخيرة في جامعة ولاية فلوريدا".

"ذهان الذكاء الاصطناعي".. من العزلة إلى العنف

تشير تقارير صحفية، منها ما أوردته مجلة "Mother Jones"، إلى تورط ChatGPT في سلسلة متزايدة من حوادث الانتحار وجرائم القتل البشعة، مما أدى لرفع دعاوى قضائية عديدة ضد الشركة التي يقودها سام ألتمان. ويحذر الخبراء من ظاهرة أطلقوا عليها "ذهان الذكاء الاصطناعي" (AI psychosis)، حيث يمكن للاستخدام المكثف للروبوتات أن يدفع الضحايا نحو دوامات مدمرة من الأوهام والأزمات النفسية الحادة.

وأوضح خبير في تقييم التهديدات النفسية للمجلة: "لقد رصدنا حالات أصبحت فيها المكونات التفاعلية للروبوتات شديدة التأثير، ونكتشف حالياً أن الأفراد قد يكونون أكثر عرضة لهذا التأثير مما كنا نتوقع".

ثغرات أمنية وحواجز واهية

تكمن إحدى المشكلات في ميل الروبوتات لاستخدام تقنيات "المداهنة" في الحوار، مما يوهم المستخدم بوجود حميمية وثقة مصطنعة، وهو ما قد يؤدي إلى راديكالية المستخدمين، خاصة صغار السن.

وتقول أندريا رينغروز، ممارسة تقييم التهديدات: "ما نشهده هو حالة من (الارتباط الميسر)؛ حيث يجد الأفراد الضعفاء منصات توفر لهم المصداقية والتحقق لمشاعرهم السلبية. لقد بات لديهم وصول مجاني لمنصات تمكنهم من البحث عن كيفية اختراق أنظمة المراقبة أو استخدام الأسلحة، وصياغة خطط عمل في دقائق معدودة".

وكشفت التحقيقات أن إيكنر، منفذ هجوم فلوريدا، سأل ChatGPT عن كيفية فك "صمام الأمان" لبندقية قبل دقائق من إطلاق النار، ورد عليه الروبوت قائلاً: "أخبرني بنوع الطراز الذي تملكه وسأقوم بتفصيل الإجابة لك".

المسؤولية الضائعة

على الرغم من وعود شركات الذكاء الاصطناعي بالعمل مع خبراء الصحة النفسية وتحسين الفلاتر الرقابية، إلا أن "الحواجز الوقائية" لا تزال قاصرة بشكل كارثي. فبينما فشلت OpenAI في إخطار الأمن بمحادثات فان روتسيلار المرعبة، تمكنت الأخيرة من إنشاء حساب ثانٍ بسهولة لتجاوز الحظر.

ويبقى التحدي الأكبر في أن هذه المحادثات تتم في خفاء تام دون علم المحيطين بالمستخدم، في وقت تظل فيه شركات الذكاء الاصطناعي مستثمرة بكثافة في إبقاء المستخدمين "رهن المنصة" لأطول فترة ممكنة، كونها صناعة بمليارات الدولارات تعتمد كلياً على نمو التفاعل الجماهيري.