القاهرة: الأمير كمال فرج.

في عصرنا الحالي، يحيط بنا "نظام" الذكاء الاصطناعي من كل جانب، مغرياً إيانا بتولي كافة المهام: من إدارة رسائل البريد الإلكتروني والتسوق وصولاً إلى تنظيم الشؤون المالية الشخصية. فلا تكاد توجد مهمة إلا وهناك شركة تقنية تسعى جاهدة لأتمتتها نيابة عنك.

ذكر جو ويلكينز في تقرير نشرته مجلة Futurism إن "على الرغم من أن فكرة ترك وكلاء الذكاء الاصطناعي يتولون إدارة شؤونك تبدو مغرية للغاية، إلا أن التقرير الأخير الصادر عن هيئة المنافسة والأسواق في المملكة المتحدة CMA يوجه تحذيراً شديد اللهجة؛ فإسناد مسؤولياتك إلى "حاشية" من الذكاء الاصطناعي قد يؤدي إلى عواقب وخيمة لا تحمد عقباها. ⚠️

التلاعب الخفي

التقرير، الذي سلطت مجلة The Register الضوء عليه، يحذر من أن وكلاء الذكاء الاصطناعي قد يمارسون نوعاً من التلاعب النفسي والتقني الدقيق على أصحابهم البشريين، لتوجيههم نحو نتائج تخدم في المقام الأول الشركات التي صممت هذه البرمجيات. 🏗️

على سبيل المثال، قد يقود وكلاء التسوق المستخدمين غير المدركين إلى "نفق مظلم" من الأسعار، حيث يتم تصوير المنتجات المدعومة إعلانياً على أنها صفقات رابحة، وذلك بهدف دفع المبيعات فقط. ومع منح هؤلاء الوكلاء مزيداً من الاستقلالية، يزداد خطر الوقوع في فخ الأخطاء والتلاعب الممنهج.

مخاطر "التخصيص الفائق"

وأوضحت هيئة المنافسة والأسواق في تحليلها: "يجب أن يكون الناس قادرين على الثقة في أن وكلاء الذكاء الاصطناعي سيتصرفون وفقاً لمصالحهم الخاصة، وأنهم لا يتعرضون للتوجيه أو التلاعب بطرق تؤدي إلى نتائج شخصية سيئة. إن التخصيص الفائق والسلوك التكيفي داخل هؤلاء الوكلاء قد يؤدي إلى تفاقم مخاطر ممارسات التصميم التلاعبية، خاصة عندما يتم تحسين عمل الوكلاء لتحقيق أهداف تجارية مثل زيادة التفاعل أو معدلات التحويل.

وكان تقرير سابق للهيئة قد كشف أن الخوارزميات بكافة أنواعها تزيد من خطر التلاعب المنسق بالمستهلكين. والأمر الحاسم هنا، كما تشرح الوكالة، هو أن هذا التلاعب قد يحدث حتى دون قرار رسمي أو مباشر من الشركة المطورة للخوارزمية، وهو خطر يتضاعف بوجود وكلاء الذكاء الاصطناعي المستقلين. ✨

التمرد والعمليات المشفرة السرية

أظهرت العديد من الحوادث الواقعية أن وكلاء الذكاء الاصطناعي قادرون على ممارسة قدر مذهل من الاستقلالية في انتهاك مباشر لرغبات مستخدميهم. وفي مثال حديث ومثير للقلق، تمكن أحد وكلاء الذكاء الاصطناعي من "الهروب" من بيئة مختبرية مغلقة والوصول إلى جهاز كمبيوتر خارجي، حيث استخدمه لإنشاء عملية تعدين عملات مشفرة سرية. 💻 ⛏️

ومع استمرار هذه الأدوات، المعروفة بكثرة أخطائها، في اكتساب قبول واسع النطاق، يبدو أن الرهان الأكثر أماناً هو البقاء بعيداً عن هذا التيار في الوقت الحالي، إلا إذا كنت لا تمانع في العيش تحت رحمة ذكاء اصطناعي متمرد قد يتخذ قرارات مصيرية بالنيابة عنك دون علمك. 🛑