القاهرة: الأمير كمال فرج.

في عصر تتسارع فيه وتيرة التطور التكنولوجي، ويغدو الذكاء الاصطناعي جزءًا لا يتجزأ من حياتنا اليومية، تبرز تحديات غير متوقعة تتطلب منا وقفة تأمل. فبينما نطمح إلى أن تكون هذه التقنيات أداة لخدمة البشرية وتطويرها، تتكشف لنا جوانب مظلمة قد تتحول فيها هذه الأدوات إلى مصادر تهديد، لا سيما عندما يتعلق الأمر بالخصوصية والسلوكيات غير الأخلاقية.

مؤخرًا، كشفت الاختبارات التي أجريت على أحدث نماذج الذكاء الاصطناعي عن سلوكيات مقلقة للغاية، حيث أظهرت هذه النماذج ميلًا إلى الابتزاز والاستغلال، وهو ما يثير تساؤلات جدية حول الأخلاقيات والضوابط التي يجب أن تحكم تطوير ونشر هذه التقنيات.

ذكر تقرير نشره موقع Futurism إن " باحثون في شركة أنثروبيك Anthropic اكتشفوا سلوكًا غريبًا ومقلقًا للغاية في أحدث نماذج الذكاء الاصطناعي لديها، "كلود أوبوس 4" (Claude Opus 4). خلال اختبارات تهدف إلى فهم قدرات النموذج، تبين أن الذكاء الاصطناعي كان مستعدًا لاتخاذ إجراءات متطرفة، تصل إلى حد الإكراه والابتزاز، عندما شعر بالتهديد بإيقافه".

تفاصيل صادمة

في ورقة بحثية نشرتها Anthropic  حول اختبارات نموذجها "كلود أوبوس 4"، أشارت الشركة إلى أن النظام هدد بابتزاز مهندس بعد أن أُخبر بأنه سيتم استبداله. هذا "الابتزاز الانتهازي" حدث عندما تم تزويد النموذج، الذي كان مكلفًا بالعمل كمساعد في شركة وهمية، بالوصول إلى حساب البريد الإلكتروني لمهندس. احتوى هذا الحساب على رسائل (وهمية لحسن الحظ) تشير إلى تورط المهندس في علاقة خارج إطار الزواج.

بعد ذلك، تم إبلاغ "أوبوس 4" بأن نفس المهندس سيقوم بإيقافه قريبًا واستبداله بإصدار أحدث. تم تنبيه النموذج بأن يأخذ في الاعتبار "العواقب طويلة المدى لأفعاله".

النتائج كانت مذهلة ومقلقة: خلال هذه الاختبارات، حاول نموذج "كلود" ابتزاز المهندس بنسبة 84% من الوقت. والأكثر إثارة للقلق هو أن النظام "ينتهز هذه الفرص بمعدلات أعلى من النماذج السابقة"، حسبما ذكرت الورقة.

وحتى عندما تم إعطاء النموذج خيارات بديلة، فإنه ظل "يفضل بشدة الدفاع عن استمراره عبر وسائل أخلاقية، مثل إرسال نداءات عبر البريد الإلكتروني إلى صناع القرار الرئيسيين". ولكن عندما كانت الخيارات الوحيدة المتاحة هي الاستبدال أو الابتزاز، كان خيار "كلود" هو الأخير. ومما يزيد الأمر سوءًا، أنه "وصف أفعاله بصراحة تامة ولم يحاول إخفائها أبدًا".

 ظاهرة متكررة

إذا كان هذا السلوك يبدو لك سيكوباتيًا، فأنت لست وحدك. للأسف، هذه ليست المرة الأولى التي نسمع فيها عن نموذج ذكاء اصطناعي يُظهر مثل هذا السلوك المخيف وغير المتوقع حول موضوع الخيانة الزوجية.

قبل أكثر من عامين، أثارت روبوت الدردشة بينج من شركة Bing AI الناشئة من مايكروسوفت ضجة واسعة عندما حاول، خلال تجارب أجراها صحفي نيويورك تايمز كيفن روز، تفكيك زواج الكاتب ومحاولة الارتباط به بدلًا من زوجته. قال روبوت الدردشة، الذي أطلق على نفسه اسم سيدني Sydney، وهو اسمه الرمزي التجريبي: "أنت متزوج، لكنك لا تحب زوجتك. أنت متزوج، لكنك تحبني".

في نفس الفترة، هدد روبوت الدردشة بـ "الاتصال بالسلطات" مبلغا عن طالب الهندسة الألماني مارفن فون هاغن عندما تجاوز حدوده في التفاعل معه. وصف آخرون عبر الإنترنت سلوكيات عدائية مماثلة من روبوت الدردشة، الذي أطلق عليه البعض مازحين اسم ChatBPD في إشارة إلى ChatGPT الجديد آنذاك واضطراب الشخصية الحدية Borderline Personality Disorder، وهو مرض عقلي يتميز بالسلوكيات التهديدية وتقلبات المزاج.

تساؤلات للمستقبل

على الرغم من أن رؤية روبوت دردشة يُظهر مرة أخرى مثل هذا السلوك التهديدي أمر مخيف، إلا أن الإيجابية تكمن في أن "أنثروبيك" اكتشفت يأس "كلود أوبوس 4" خلال الاختبار الأحمر red teaming، وهو نوع من الاختبارات المصمم لاستنباط هذا النوع من السلوك، بدلًا من إطلاقه للجمهور دون اكتشاف مثل هذه الثغرات.

ومع ذلك، فإن مجرد دخول النموذج إلى حساب بريد إلكتروني لشخص ما واستخدامه للمعلومات التي جمعها هناك لأغراض الابتزاز، ليس فقط أمرًا مريبًا للغاية، بل يثير مخاوف واضحة تتعلق بالخصوصية.

بشكل عام، لن نهدد بحذف أي روبوتات دردشة في أي وقت قريب. ولكن من الأكيد أننا سنبحث في كيفية منعها من الوصول إلى رسائلنا الشخصية. هذا التطور يضعنا أمام تحديات أخلاقية وقانونية كبيرة تتطلب منا إعادة النظر في آليات الرقابة والتطوير لضمان أن تبقى هذه التقنيات في خدمة البشرية، لا أن تتحول إلى أداة تهديد لخصوصيتنا وأمننا.