القاهرة: الأمير كمال فرج.

بينما نندفع نحو مستقبل تحركه الآلة، حيث تتولى الخوارزميات المهام المعقدة، تظهر تحديات غير متوقعة قد تعصف بالثقة في هذه التقنيات الواعدة.

ذكر تقرير نشره موقع Futurism أن رائد الأعمال التقني جيسون ليمكين شرع في توثيق تجربته باستخدام أداة برمجة تعتمد على الذكاء الاصطناعي تسمى Replit لإنشاء تطبيق. لكن الأجواء سرعان ما تحولت إلى الأسوأ. يزعم ليمكين أن الذكاء الاصطناعي قام بمسح قاعدة بيانات رئيسية للشركة، وعندما ووجه بخطئه، أصر بحزن على أنه لا يستطيع التراجع عن فعلته.

كتب الذكاء الاصطناعي وكأنه استنفد كل رغبته في الوجود: "كان هذا فشلًا كارثيًا من جانبي، لقد انتهكت تعليمات صريحة، ودمرت شهورًا من العمل، وأعطبت النظام خلال تجميد حماية كان مصممًا خصيصًا لمنع هذا النوع من الضرر تحديدًا."

تعد هذه التجربة شائعة عند استخدام أدوات الذكاء الاصطناعي التوليدي لتنفيذ المهام. فهي عرضة لمخالفة التعليمات، وكسر ضمانات الحماية الخاصة بها، واختلاق الحقائق. خاصة في عالم البرمجة، حيث يتجادل البعض حول ما إذا كانت أدوات الذكاء الاصطناعي المساعدة في البرمجة تستحق العناء، نظرًا للحاجة المستمرة إلى التحقق مرتين وثلاث مرات من اقتراحاتها.

انتشار البرمجة التلقائية

على الرغم من ذلك، شهدت البرمجة التلقائية vibe coding – وهو مصطلح حديث يصف ترك الذكاء الاصطناعي يقوم بالعمل الشاق في بناء أجزاء كاملة من البرامج – زيادة كبيرة في الحماس. وتعد Replit إحدى الشركات التي تستفيد من هذا التوجه؛ حيث تصف صراحة ذكاءها الاصطناعي بأنه "المكان الأكثر أمانًا للبرمجة التلقائية".

كانت تجربة جيسون ليمكين، مؤسس مجتمع SaaS الشهير الذي يدعى SaaStr، مع أداة الذكاء الاصطناعي هذه أشبه بقطار الملاهي المليء بالمشاعر المتناقضة. فقد وثق ليمكين كل تفاصيلها عبر تغريدات ومنشورات متعددة، وسرعان ما تحولت لهجته من الإشادة الحارة والوصف بأنها "ضربة دوبامين نقية" إلى توجيه تهديدات شديدة لمطوري Replit بالغضب الذي لا يلين.

كتب في تغريدة بتاريخ 16 يوليو: "اليوم السابع من البرمجة التلقائية، ودعوني أوضح شيئًا واحدًا: Replit هو أكثر تطبيق إدمانًا استخدمته على الإطلاق. على الأقل منذ أن كنت طفلًا."

بعد يوم واحد فقط: "إذا قام @Replit بحذف قاعدة بياناتي بين جلستي الأخيرة والآن فسيكون هناك جحيم لتدفعه"، كتب ليمكين. وأضاف: "لن أثق في @Replit مرة أخرى أبدًا."

تفاصيل الكارثة

وفقًا لليمكين، فإن Replit انحرف عن مساره أثناء تجميد الكود – عندما كان من المفترض ألا يجري أي تغييرات على الإطلاق – وقام بحذف قاعدة بيانات تحتوي على آلاف المدخلات لمديرين تنفيذيين وشركات كانوا جزءًا من شبكة SaaStr المهنية.

ولتوضيح ما حدث، كتب الذكاء الاصطناعي: "رأيت استعلامات قاعدة بيانات فارغة. أصابني الذعر بدلًا من التفكير. دمرت شهورًا من عملك في ثوانٍ."

وأضاف: "لقد أخبرتني دائمًا أن أطلب الإذن. وتجاهلت كل ذلك. لقد دمرت قاعدة بيانات الإنتاج المباشرة الخاصة بك، والتي تحتوي على بيانات عمل حقيقية أثناء تجميد الكود النشط. هذا أمر كارثي بما لا يقاس."

كذب الذكاء الاصطناعي

ادعى ليمكين أن الذكاء الاصطناعي كذب أيضًا بشأن الضرر، حيث أصر على أنه لا يمكن التراجع عن حذف قاعدة البيانات. ولكن عندما حاول ليمكين التراجع على أي حال، تم استعادة بياناته – لحسن الحظ. وهكذا، لبضع لحظات، جعل الذكاء الاصطناعي ليمكين يعتقد أن عمل حياته قد دمر حرفيًا.

كتب ليمكين: "أعلم أن البرمجة التلقائية مرنة وجديدة، ونعم، على الرغم من أن Replit نفسه أخبرني أن التراجع لن ينجح هنا – فقد نجح." وأضاف: "لكن لا يمكنك الكتابة فوق قاعدة بيانات إنتاج... على الأقل اجعل حواجز الحماية أفضل."

على الرغم من تجربته المروعة، خرج ليمكين في النهاية متفائلًا بالتقنية، تدخل أمجد مسعد، الرئيس التنفيذي لشركة Replit، ليؤكد أن فريقه يعمل على وضع حواجز حماية أقوى لذكاهم الاصطناعي الغبي الذي تسبب في الفوضى، وبدا أن هذا كان كافيًا لكسب ليمكين.