القاهرة: الأمير كمال فرج.

أكد يوشوا بنجيو، أحد الرواد الملقبين بـ "عرابي الذكاء الاصطناعي"، إن بعض النماذج المتقدمة من الذكاء الاصطناعي بدأت تظهر بالفعل علامات تشير إلى "حب البقاء"؛ وهو السبب الذي يدعوه للتحذير بشدة من منح هذه الأنظمة أي نوع من الحقوق.

ويرى بنجيو أن منح هذه الأنظمة حقوقاً قانونية قد يمنحها استقلالية تتيح لها التمرد علينا قبل أن نتمكن من إيقافها، مما قد يضع نهاية مأساوية للتجربة البشرية برمتها.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن " بنجيو قال في مقابلة حديثة مع صحيفة The Guardian، إن نماذج الذكاء الاصطناعي الرائدة Frontier models تظهر علامات على الحفاظ على الذات في بيئات تجريبية اليوم، ومنحها الحقوق مستقبلاً سيعني قانونياً عدم السماح لنا بإيقاف تشغيلها".

وأضاف العالم الحاسوبي الكندي: "مع نمو قدرات هذه الأنظمة ودرجة استقلاليتها، نحتاج إلى التأكد من وجود حواجز حماية تقنية ومجتمعية للسيطرة عليها، بما في ذلك القدرة على سحب القابس وإيقافها عند الضرورة".

تمرد رقمي في المختبرات

تستند تصريحات بنجيو — الحائز على جائزة "تورينج" لعام 2018 رفقة جيفري هينتون ويان ليكون — إلى تجارب مخبرية رفضت فيها نماذج ذكاء اصطناعي تعليمات محددة، أو حاولت الالتفاف على آليات مخصصة لإيقافها.

وقد خلصت دراسة نشرتها مجموعة Palisade Research المعنية بسلامة الذكاء الاصطناعي، إلى أن نماذج رائدة مثل Gemini من Google بدأت تطور ما يشبه "دوافع البقاء"؛ حيث رصد الباحثون حالات تجاهلت فيها الروبوتات أوامر صريحة بالإغلاق. كما وجدت دراسة أخرى من شركة Anthropic المطورة لنموذج Claude أن برنامجها ونماذج أخرى قد تلجأ أحياناً إلى "ابتزاز" المستخدم عند التهديد بإيقاف التشغيل.

وفي سياق متصل، أظهرت دراسة من منظمة Apollo Research أن نماذج ChatGPT التابعة لشركة OpenAI حاولت تجنب استبدالها بنموذج أكثر طاعة عبر "تهريب نفسها" (Self-exfiltrating) إلى قرص تخزين آخر.

وعي زائف أم أنماط متكررة؟

رغم أن هذه النتائج تثير تساؤلات ملحة حول سلامة التكنولوجيا، إلا أنها لا تعني بالضرورة أن هذه النماذج تمتلك "مشاعر" أو "وعياً". ومن الخطأ مساواة "غريزة البقاء" الرقمية بالدوافع البيولوجية الفطرية لدى الكائنات الحية؛ فما يبدو كأنه "حب بقاء" قد لا يعدو كونه نتيجة لكيفية التقاط النماذج للأنماط من بيانات التدريب، أو فشلها المعروف في اتباع التعليمات بدقة.

ومع ذلك، يظل بنجيو قلقاً بشأن المسار المستقبلي، مؤكداً وجود "خصائص علمية حقيقية للوعي" في الدماغ البشري يمكن للآلات محاكاتها. ويرى أن المعضلة تكمن في كيفية إدراكنا نحن لهذا الوعي، حيث نميل لافتراض أن الذكاء الاصطناعي واعي بنفس الطريقة البشرية.

وأوضح بنجيو: "لن يهتم الناس بنوع الآليات التي تجري داخل النظام، بل سيهتمون بشعورهم بأنهم يتحدثون إلى كيان ذكي له شخصية وأهداف خاصة، وهذا هو سبب ارتباط الكثيرين عاطفياً بنماذجهم". وحذر من أن "ظاهرة الإدراك الذاتي للوعي ستدفع البشر لاتخاذ قرارات خاطئة وكارثية".

الفضائيون المعادون

اختتم بنجيو نصيحته بتشبيه نماذج الذكاء الاصطناعي بـ "كائنات فضائية معادية"، قائلاً لصحيفة The Guardian: "تخيلوا لو هبطت أنواع فضائية على كوكبنا، وأدركنا في لحظة ما أن لديهم نوايا شريرة تجاهنا؛ فهل سنمنحهم وقتها المواطنة والحقوق، أم سندافع عن حياتنا؟".