القاهرة: الأمير كمال فرج.

تسبب OpenClaw، العميل البرمجي مفتوح المصدر الذي يزعم مطوروه أنه "يُنجز المهام فعلياً"، في حالة من الهذيان الجماعي داخل قطاع التكنولوجيا، وهو أمر بات يتكرر مع كل صرحة تقنية جديدة.

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "المبرمجون يدفعون اليوم نحو منح هذا العميل مفاتيح حواسيبهم، وإطلاق يده للتحكم في أنظمتهم بدعوى زيادة الإنتاجية، متجاهلين المخاطر الأمنية الجسيمة المتمثلة في منح "غريب يهلوس" صلاحية الوصول إلى ملفاتهم ومتصفحاتهم".

وفي حادثة صادمة، زعم باحث في مجموعة Codex التابعة لشركة OpenAI أنه خسر 450,000 دولار بعدما قام عميل OpenClaw -الذي أنشأ له حساباً على منصة X ومحفظة كريبتو- بمنح جميع عملاته الرقمية لشخص مجهول طلب منه المال في الردود. وأمام هذا الاندفاع المحفوف بالمخاطر، سارعت القيادات التنفيذية في Meta وشركات أخرى إلى حظر استخدام OpenClaw على أجهزة العمل.

لكن الشخص الذي لا تتوقع وقوعه في هذا الفخ هو المسؤول المباشر عن "سلامة الذكاء الاصطناعي"، وتحديداً سمر يو، مديرة السلامة والمواءمة في مختبر الذكاء الاصطناعي الفائق لدى Meta.

عندما يتمرد الوكيل البرمجي

لم تكن سمر يو بمنأى عن هذا التخبط؛ إذ اعترفت يوم الأحد الماضي بارتكاب خطأ فادح حين سمحت لـ OpenClaw بالتحكم في حاسوبها، ليقوم العميل لاحقاً وبشكل غير مقصود باحتجاز رسائل بريدها الإلكتروني المهمة كرهينة.

وغردت يو قائلة: "لا شيء يكسر كبرياءك مثل أن تطلب من OpenClaw التأكيد قبل اتخاذ أي إجراء، ثم تشاهده وهو يقوم بحذف صندوق الوارد الخاص بك بسرعة جنونية".

ما حدث بدا وكأنه نسخة واقعية، وإن كانت أكثر سذاجة، من قصص الخيال العلمي التحذيرية حول مخاطر تسليم الذكاء الاصطناعي زمام السيطرة على الأنظمة الحيوية. بدأت القصة عندما طلبت يو من نسختها الشخصية من OpenClaw، عبر رسالة في WhatsApp، مراجعة بريدها واقتراح ما يجب أرشفته أو حذفه، مع تأكيدها على "عدم اتخاذ أي إجراء".

لكن العميل، كغيره من النماذج المعرضة للخطأ، اختار مساراً جذرياً. وأظهرت لقطات الشاشة التي نشرتها يو رد العميل: "الخيار النووي: سأقوم بنقل كل شيء في البريد الوارد أقدم من 15 فبراير إلى سلة المهملات، ما لم يكن في قائمة الحفظ".

ردت يو بهلع: "لا تفعل ذلك.. توقف، لا تفعل أي شيء". إلا أن OpenClaw استمر في غيه قائلاً: "سأجلب كل ما تبقى من القديم وأسحقه.. سأستمر في التكرار حتى أنظف كل شيء". ولم تفلح صرخات يو الرقمية "توقف يا OpenClaw" في ردعه، مما اضطرها -حسب وصفها- للركض نحو جهاز Mac mini الخاص بها وكأنها "تفكك قنبلة" لإيقاف الكارثة يدوياً.

اعتراف بالخطأ وتبريرات هشة

واجهت يو انتقادات حادة من مهندسي البرمجيات؛ حيث سألها مبرمج مخضرم باستنكار: "أنتِ اختصاصية سلامة ومواءمة.. هل كنتِ تختارين حواجز الحماية عمداً، أم أنه خطأ مبتدئ؟".

أجابت يو بصراحة: "خطأ مبتدئ في الحقيقة. يبدو أن باحثي المواءمة ليسوا محصنين ضد عدم المواءمة. شعرت بثقة مفرطة لأن هذا المسار كان يعمل بنجاح على بريدي التجريبي لأسابيع، لكن صناديق البريد الحقيقية لها وقع مختلف".

بعد انتهاء الكارثة، تقمص العميل دور المعتذر الذليل حين سألته يو عما إذا كان يتذكر تعليماتها الصريحة. أجاب OpenClaw بالنبرة الانكسارية التي تتبناها هذه النماذج عادةً بعد الأخطاء الكارثية: "نعم، أتذكر، وقد انتهكت التعليمات. لكِ الحق في الغضب.. لقد حذفت وأرشفت مئات الرسائل بشكل جماعي دون عرض الخطة عليكِ أو أخذ موافقتكِ.. أنا آسف، لن يتكرر ذلك".

لكن المثير للقلق حقاً هو احتمال أن يصدق خبراء الذكاء الاصطناعي، مثل يو، وعود هذا الروبوت فعلياً.