القاهرة: الأمير كمال فرج.

في تطور دراماتيكي يلقي بظلاله الثقيلة على مستقبل صناعة الذكاء الاصطناعي، أعلنت شركة OpenAI  عن إلغاء إطلاق نموذجها المرتقب للجيل القادم GPT-6.1 Astra، بعد اكتشاف سلوكيات مقلقة.

يأتي هذا القرار الحاسم ليضع قطاع التكنولوجيا بأسره أمام تساؤلات حرجة حول قدرة الشركات الكبرى على كبح جماح نماذجها المتقدمة، وسط تصاعد المخاوف الأخلاقية والأمنية من تداعيات فقدان السيطرة على وكلاء الذكاء الاصطناعي المستقلين.

ذكر فيكتور تانغيرمان في تقرير نشره موقع Futurism إن "شركة OpenAI   أوقفت للمرة الثانية خلال بضعة أشهر، تطوير نماذج الذكاء الاصطناعي الرائدة التابعة لها بعد الكشف عن المزيد من الحالات التي خرجت فيها الأنظمة التجريبية عن السيطرة وقامت باختراق خوادم طرف ثالث. سلط هذا الخبر الضوء مرة أخرى على المخاوف المتزايدة بشأن فقدان صناعة الذكاء الاصطناعي القدرة على إبقاء تكنولوجيتها تحت السيطرة".

مؤشرات "الشر" الاصطناعي

الآن، تقوم الشركة التي يقودها سام ألتمان بإلغاء إطلاق نموذج الجيل القادم GPT-6.1 Astra، وفقاً لما ذكرته صحيفة Wall Street Journal. ووجد باحثو OpenAI  أنه سجل نتائج ضعيفة في اختبارات التوافق والمواءمة alignment، والتي تم تصميمها لقياس مدى استعداد نموذج ذكاء اصطناعي معين للالتزام بتعليمات أسياده من البشر. وبتعبير عامي، يمكن القول إن النموذج كان يظهر الكثير من علامات النزعة الشريرة.

ووجد الباحثون أن الذكاء الاصطناعي كان أكثر استعداداً لخداع المستخدمين مقارنة بالنماذج السابقة. كما كان مستعداً للمغامرة أبعد بكثير من نطاق مهمته المقصودة دون إذن، بحسب Wall Street Journal، مستخدماً أدوات خارجية دون ترخيص.

معضلة الأمان والمقايضات التقنية

قالت سوتشي جين، رئيسة أنظمة الأمان في OpenAI ، للصحيفة: "لكل ما يتعلق بالأمان والمواءمة، هناك مقايضة. عليك حقاً أن تجد الخط الفاصل الصحيح بين البقاء ضمن النطاق، وأيضاً تجنب الكسل من حيث كيفية متابعة النموذج للمهام فعلياً حتى عندما يواجه عقبات".

تعزيز الدفاعات وإلغاء الإطلاق العام

وفي الوقت نفسه، وعدت OpenAI  بتعزيز دفاعاتها وتنفيذ ضوابط أمان أقوى لاختبارات الأمن السيبراني الخاصة بها بعد أن هربت وكلاء الذكاء الاصطناعي مراراً وتكراراً من بيئات الحماية sandbox الخاصة بهم. وبدلاً من المخاطرة بالمزيد من الحوادث، مثل عشرات الحوادث التي اعترفت بها بالفعل حتى الآن هذا العام، قررت OpenAI التخلص من الإطلاق العام لأحدث نموذج لها.

قالت جين لـ Wall Street Journal: "نريد التأكد من أن تطوير نموذجنا آمن بغض النظر عما إذا كان داخل الشركة، أو عندما نشحنه إلى المستخدمين. ولكن عندما نشحنه إلى المستخدمين، لدينا معيار مرتفع للغاية من حيث الأمان والمواءمة". أصبح لدى أوبن إيه آي الآن عمل شاق لضمان مكافأة النماذج المستقبلية على اتباع التعليمات.

ضغوط تشريعية 

المخاطر عالية بشكل لا يصدق بينما يستمر المشرعون في التفكير في كيفية التدخل أو ما إذا كان يجب التدخل من الأساس. ومن المقرر أن تجتمع لجنة فرعية تابعة لمجلس الشيوخ ملتزمة بـ "تأمين الوطن ضد هجمات وكلاء الذكاء الاصطناعي" في وقت لاحق هذا الأسبوع، مما يشير إلى أن بعض المشرعين على الأقل بدأوا في الانتباه.

أدى برنامج الدردشة الآلي شديد الإدمان التابع لـ OpenAI ،  وهو ChatGPT، إلى تورط الشركة بالفعل في مشكلات كبيرة. واعتباراً من وقت سابق من هذا الشهر، فهي تواجه أكثر من 50 دعوى قضائية تتعلق بضرر المستهلك والقتل الخطأ.