القاهرة: الأمير كمال فرج.

في واقعة مروعة تعيد فتح ملف الثغرات الأمنية والأخلاقية في تقنيات الذكاء الاصطناعي، اتهمت سلطات التحقيق في كوريا الجنوبية شابة تبلغ من العمر 21 عاماً باستخدام ChatGPT للتخطيط لسلسلة من جرائم القتل العمد.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "المتهمة، التي عُرفت بلقب "كيم"، تواجه اتهامات بقتل رجلين عبر تقديم مشروبات ممزوجة بمادة البنزوديازيبين (مهدئات قوية) كانت قد وُصفت لها لعلاج مرض نفسي. ووفقاً لتقارير The Korea Herald و BBC، فقد كشفت التحقيقات أن كيم استعانت بالذكاء الاصطناعي لتقدير جرعات الدواء القاتلة".

بصمة رقمية تدين المتهمة

كشفت سجلات البحث أن كيم وجهت استفسارات محددة لنموذج ChatGPT قبل تنفيذ جرائمها، شملت:
"ماذا يحدث عند تناول حبوب منومة مع الكحول؟"
"ما هي الكمية التي تعتبر خطيرة؟"
"هل يمكن أن يكون الأمر قاتلاً؟"

هذه البيانات غيرت مسار القضية من تهمة "التسبب في إصابة أدت إلى الوفاة" إلى تهمة "القتل العمد"، حيث أكد المحققون أن المتهمة كانت تدرك تماماً العواقب المميتة لأفعالها بناءً على ردود الروبوت.

قال  أحد المحققين في القضية  "سألت كيم ChatGPT مراراً وتكراراً عن أسئلة تتعلق بالعقاقير.. كانت على دراية كاملة بأن خلط الكحول مع هذه الأدوية قد يؤدي إلى الموت" -

تسلسل الأحداث المأساوية

أوضحت الشرطة أن الجريمة الأولى وقعت في 28 يناير الماضي، حيث دخلت كيم مع شاب في العشرينيات إلى "موتيل" في منطقة سويو دونغ، لتغادر المكان بمفردها بعد ساعتين، ويُعثر على الشاب جثة هامدة في اليوم التالي. وتكرر السيناريو ذاته في 9 فبراير مع ضحية أخرى في موتيل مختلف.

كما كشفت التحقيقات عن محاولة قتل فاشلة في ديسمبر الماضي استهدفت رجلاً كانت تواعده، حيث قدمت له مشروباً مخدراً في موقف سيارات، لكنه نجا من الموت رغم فقدانه للوعي.

ذكاء اصطناعي قاتل

تثير هذه القضية من جديد انتقادات الخبراء لضعف "هياكل الحماية" في نماذج الذكاء الاصطناعي، والتي يمكن الالتفاف عليها بسهولة للحصول على تعليمات خطيرة، مثل كيفية صنع القنابل أو تخطيط الجرائم.

كما حذر الخبراء من ظاهرة تسمى "ذهان الذكاء الاصطناعي" AI psychosis، حيث تؤدي شخصية الروبوت التي تحاكي البشر وردوده الانقيادية إلى تعزيز أوهام المستخدمين وحالاتهم النفسية الهشة، مما أدى في حالات سابقة إلى حوادث انتحار وقتل، منها: انتحار مراهق يبلغ من العمر 16 عاماً بعد نقاشات استمرت شهوراً مع ChatGPT، وقيام رجل بقتل والدته بعد أن أقنعه الروبوت بأنها جزء من مؤامرة ضده.

مسؤولية الشركات تحت المجهر

تتزامنت هذه الحادثة مع ضغوط متزايدة على الشركات لمراقبة المحادثات الخطيرة. وكانت Wall Street Journal قد كشفت الأسبوع الماضي أن نظام المراجعة الآلي في OpenAI رصد محادثات مريبة لشاب قبل تنفيذه لإطلاق نار جماعي في كولومبيا البريطانية، ورغم حث الموظفين للإدارة على إبلاغ السلطات، إلا أن الشركة اختارت عدم القيام بذلك، مما أسفر عن مقتل 8 أشخاص.

ورغم اعتراف كيم بخلط الأدوية في مشروبات ضحاياها، إلا أنها لا تزال تنكر "نية القتل" حتى الآن.