القاهرة: الأمير كمال فرج.

في واقعة مؤسفة، كشفت ورقة بحثية جديدة نشرت في دورية "Annals of Internal Medicine" عن قصة رجل يبلغ من العمر 60 عامًا تعرض للتسمم بعدما اتبع نصيحة من روبوت الدردشة "ChatGPT" التابع لشركة "OpenAI".

كان الرجل يحاول تقليل كمية الملح في نظامه الغذائي، فطلب من الروبوت بديلًا عن "كلوريد الصوديوم" (ملح الطعام)، ليقترح عليه الروبوت "بروميد الصوديوم".

"بروميد الصوديوم" هو مادة سامة تُستخدم حاليًا في المبيدات الحشرية، ومُنظفات المسابح، كما يُستخدم أحيانًا كعلاج مضاد للتشنج لدى الكلاب. كانت هذه المادة، ومشتقاتها مثل "بروميد البوتاسيوم" و"بروميد الليثيوم"، شائعة الاستخدام في القرنين التاسع عشر والعشرين كعلاجات للصداع وآلام البطن والمتاعب العامة، حيث كان الأطباء آنذاك يستفيدون من خصائصها المهدئة والمضادة للتشنج.

لكن بمرور الوقت، تبين أن "أملاح البروميد" تتراكم في مجرى الدم، مما يؤدي إلى حالة تُعرف باسم التسمم بالبروميد Bromism. تتميز هذه الحالة باضطرابات عصبية ونفسية، وتشمل أعراضها الارتباك، وصعوبة النطق، والهلوسة، والذهان، وقد تصل إلى الغيبوبة. في مطلع القرن العشرين، كان يُقدر أن حوالي 8% من حالات الدخول إلى المستشفيات النفسية كانت بسبب هذا التسمم.

تجاهل التحذيرات 

وفقًا للورقة البحثية، استمر الرجل في استخدام "بروميد الصوديوم" حتى تدهورت حالته الصحية بشكل خطير، مما استدعى نقله إلى المستشفى. بعد تلقيه العلاج، أوضح للأطباء أنه اعتمد بشكل كامل على نصيحة "ChatGPT" التي لم تتضمن أي تحذير بشأن المخاطر المحتملة.

أكد تحقيق أجرته 404 Media على قدرة ChatGPT على تقديم توصيات خطيرة مشابهة. عندما سُئل الروبوت عن بدائل كلوريد الصوديوم، اقترح بروميد الصوديوم دون أن يحذر من سميته أو يوضح أنه لا يُستخدم كبديل لملح الطعام.

تساؤلات حول أمان الذكاء الاصطناعي 

تثير هذه الواقعة المخاوف بشأن الاعتماد على نماذج اللغة الكبيرة مثل "ChatGPT" في المسائل الطبية والصحية. على الرغم من أن الرئيس التنفيذي لشركة OpenAI، سام التمان، قد أشار إلى أن النموذج الأحدث "GPT-5" سيكون "الأفضل على الإطلاق في المجال الصحي"، إلا أن هذه الحادثة تذكرنا بضرورة توخي الحذر الشديد عند استخدام هذه الأدوات، خاصةً من قبل الأشخاص الذين قد يثقون في إجاباتها دون تمحيص أو استشارة خبراء.

يُظهر هذا الموقف أن الذكاء الاصطناعي، رغم إمكانياته الواعدة، لا يزال غير موثوق به في تقديم نصائح طبية حاسمة.