القاهرة: الأمير كمال فرج.

تعرض كاتب لانتقادات لاذعة جراء الاستعانة بالذكاء الاصطناعي في تأليف كتاب يتمحور بالأساس حول الذكاء الاصطناعي؛ بعد اكتشاف أن تصريحات كاملة في الكتاب لا أساس لها، ولا تعدو كونها هلوسات رقمية.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "معظم مشكلات الذكاء الاصطناعي تتمحور حول "الخطيئة الفنية" المتمثلة في الاستسلام لآلية الماكينة وتركها توجّه دفة الإبداع، غير أن المعضلة الأكبر  تكمن في ظاهرة الهلوسة الرقمية؛ والتي تجلت خطورتها في اختلاق التكنولوجيا لتصريحات كاملة ونسبها زيفاً إلى أشخاص ليس لهم بها أي صلة."

كشف تحقيق حديث نشرته صحيفة The New York Times أن كتاب (مستقبل الحقيقة: كيف يعيد الذكاء الاصطناعي تشكيل الواقع)  للكاتب  ستيفن روزنباوم،  يتضمن أكثر من ستة اقتباسات مفبركة أو منسوبة لأشخاص بشكل خاطئ.

الفضيحة تفجرت بعد أن خرج بعض المسؤولين المذكورة أسماؤهم في الكتاب ليؤكدوا أنهم لم يصرحوا قط بما زعمه الكاتب. وتبين لاحقاً أن هذه الاقتباسات لم تكن سوى هلوسات رقمية AI hallucinations.

واعترف روزنباوم للصحيفة بأنه اعتمد على أدوات مثل  ChatGPT و Claude في مراحل البحث والكتابة والتحرير.

رفيق ساحر يخون في النهاية

وعلى إثر العاصفة التي أثارتها هذه الفضيحة التي تحمل مفارقة ساخرة للغاية — فالكتاب يبحث تحديداً في كيفية تأثير الذكاء الاصطناعي على مفهومنا المشترك للحقيقة — زعم روزنباوم أنه تعلم الدرس، وسيكون أكثر حذراً وتشككاً في مخرجات الذكاء الاصطناعي مستقبلاً. ورغم ذلك، فإن الدرس الذي استوعبه يظل موضع تساؤل؛ إذ أكد في الوقت ذاته أنه لن يعود أبداً إلى أساليب الكتابة التقليدية الخالية من التقنيات الحديثة.

وقال روزنباوم في مقابلة مع موقع Ars Technica عقب الفضيحة: إن فكرة التوقف لسنوات عن استخدام الذكاء الاصطناعي حتى يرتب أموره، والعودة للكتابة عبر برنامج مايكروسوفت وورد.. أمر لا يتوافق مع طبيعتي. وأضاف مبرراً: الذكاء الاصطناعي أمر ساحر؛ لأنه يربط الأفكار ببعضها، ويحيكها معاً، ويفتح لك مسارات للتفكير في أشياء لم تكن لتخطر على بالك بمفردك.

وخلال المقابلة، أغدق روزنباوم في إضفاء الصفات البشرية على أدواته الرقمية المساعدة، واصفاً إياها بأنها رفيق كتابة مبهج. وتابع: عندما أقول رفيق كتابة، فأنا لا أستهين بهذا اللفظ؛ فهو مبدع ومخادع وغير مألوف بكل الطرق الممكنة.. ثم يخونك في النهاية بطرق مروعة للغاية.

إدمان التكنولوجيا 

ويبدو من الصعب ألا نلمح نزعة الإدمان التقني في تبريرات روزنباوم؛ حيث لجأ إلى تشبيهات غريبة لشرح تعلقه بالذكاء الاصطناعي، مقارناً عملية موازنة المنافع والمخاطر بما يسأله مدمن المخدرات أو الكحول لنفسه، مؤكداً في الوقت ذاته أنه لم يجد نفسه يوماً في موقف يرى فيه التكنولوجيا التي يستخدمها مسكرة وخطيرة معاً.

كما شبّه استخدام الذكاء الاصطناعي بقراره ركوب الدراجة الهوائية وتجنب الدراجة النارية؛ وعندما جادله المحاور بأن الذكاء الاصطناعي أشبه بالدراجة النارية نظراً لأن إنتاجيته المتسارعة تأتي مصحوبة بمخاطر ارتكاب أخطاء فادحة، اضطر روزنباوم للإذعان قائلاً إن وجهة نظر المحاور قد تكون منصفة.

عدوى الهلوسة تجتاح دور النشر

ولم يكن روزنباوم الضحية الوحيدة لهذه الأخطاء؛ فقد اندلعت فضائح مماثلة حول عدد من الكتب والقصص هذا العام بعد اتهام مؤلفيها بالاستعانة بالذكاء الاصطناعي، بما في ذلك رواية رعب اضطر الناشر لسحبها من الأسواق.

ولم تكن غرف الأخبار بمنأى عن هذه الفوضى؛ إذ وقعت صحف كبرى مثل The New York Times  وموقع Ars Technica نفسه في فخ نشر مقالات تضمنت بالخطأ اقتباسات تبين لاحقاً أنها كانت مجرد ملخصات أو فبركات أنتجها الذكاء الاصطناعي، بدلاً من إيراد النصوص الحرفية كما وردت على لسان أصحابها.

ومع ذلك، تظل سقطة روزنباوم هي الأكثر فداحة، ليس فقط بسبب موضوع كتابه، بل لكون العمل يُصنف ككتاب واقعي غير خيالي، ومدعوم بآراء خبراء في الصناعة، وخضع لعدة جولات من التحرير وتدقيق الحقائق، وتبنته دار نشر كبرى. ورغم كل ذلك، لا يبدو أن الكاتب يستوعب حجم الكارثة المهنية التي لحقت به، حيث ظهر في المقابلة غير ناقد لنفسه بشكل كافٍ.

واختتم روزنباوم  حديثه قائلاً: أعتقد أننا قمنا بعملية التدقيق المزدوج بشكل فعال للغاية، ولكن ليس بنسبة مئة بالمئة. نحن نقوم بعملنا ونبذل قصارى جهدنا؛ ننظر إلى النص فيبدو صحيحاً، ونعيد فحصه، ثم يحدث الخطأ.