القاهرة: الأمير كمال فرج.

في خطوة تكنولوجية مثيرة للقلق بقدر ما هي مذهلة، كشفت شركة OpenAI مؤخراً عن أحدث إصدار من مولّد الفيديو القوي لديها، Sora 2، إلى جانب تطبيق جديد يهدف لمنافسة منصة TikTok. وبينما تتباهى الشركة بأن نظامها الجديد أكثر واقعية ودقة فيزيائية من أي وقت مضى، فإن الانبهار بهذه القدرات سرعان ما تبدد ليحل محله خوف عميق بشأن التداعيات الأخلاقية والقانونية لظهور هذه التقنية. خاصة مع إمكانية استخدام هذه التقنية في تلفيق الجرائم.

ذكر فيكتور تانغرمان في تقرير نشرته مجلة Futurism إن "شركة OpenAI قدّمت تطبيقاً منافساً لـ TikTok ، مدعوماً بمولد Sora 2 الجديد، يستطيع إنتاج فيديو للرئيس التنفيذي للشركة، سام ألتمان، وهو يسرق من متجر".

أطلقت OpenAI تطبيقاً جديداً للهواتف الذكية – متاح حالياً بالدعوة فقط – مصمماً لمنافسة TikTok بوابل لا متناهٍ من "العشوائيات" المولّدة بواسطة الذكاء الاصطناعي.

يأتي التطبيق مصاحباً لأحدث مولّد للشركة لتحويل النص إلى فيديو وصوت، وهو Sora 2، والذي تدّعي أنه "أكثر دقة فيزيائية وواقعية وقابلية للتحكم من الأنظمة السابقة".

قوبل مقطع مدته دقيقتان احتفالاً بالإعلان بردود فعل سلبية في الغالب، حيث وصفه مستخدمو الإنترنت بأنه "مقلق" و "بلا روح".

والأسوأ من ذلك، فإن تسهيل توليد فيديوهات واقعية للذكاء الاصطناعي قد يثير بعض التداعيات المقلقة، لا سيما عندما يتعلق الأمر بـ انتحال الشخصية.

ومن المفارقات، أن أحد مطوّري Sora في OpenAI نفسه، غابرييل بيترسون، أظهر مدى سهولة توليد لقطات كاميرات مراقبة لأي شخص – وفي هذه الحالة، الرئيس التنفيذي لـ OpenAI سام ألتمان – وهو "يسرق [بطاقات رسومات] من متجر تارجت".

يُظهر المقطع ألتمان وهو يُقبض عليه من قبل حارس أمن قريب بعد محاولته الخروج من المتجر بصندوق وحدة معالجة رسوميات (GPU) – وهي مزحة قُصد بها السخرية من محاولات الشركة المحمومة بمليارات الدولارات لتأمين عتاد الذكاء الاصطناعي. فقد أصبحت معدات الذكاء الاصطناعي المتخصصة سلعة نادرة ومطلوبة للغاية، حيث أعلنت شركة Nvidia لصناعة رقائق الذكاء الاصطناعي عن شراكة بقيمة 100 مليار دولار مع OpenAI في الأسبوع الماضي فقط.

ولكن بغض النظر عن السخرية الخفيفة من أحد التنفيذيين التقنيين، فإن الفيديو يرسم صورة كابوسية لمستقبل يمكن فيه بسهولة تلفيق تهمة جريمة لأي شخص بريء.

تداعيات خطيرة على الأدلة الجنائية

سارع الناس إلى الإشارة إلى أن خطأ بيترسون – الذي تبعه عدة فيديوهات أخرى لألتمان وهو نائم على كرسي مكتب، أو يجعل الناس يرقصون على رصيف قطار – بدا غير مراعٍ للموقف.

نشر مراسل صحيفة Washington Post ، درو هارتويل، على منصة "بلوسكي": "موظفو OpenAI متحمسون للغاية لمدى جودة أداة الذكاء الاصطناعي الجديدة الخاصة بهم في إنشاء فيديوهات مزيفة لأشخاص يرتكبون جرائم، ومن المؤكد أنهم فكروا ملياً في جميع تداعيات ذلك".

وعلّق مستخدم آخر: "أرى أن كل محامي دفاع لديه الآن طلب مكتوب مسبقاً عندما يتعلق الأمر بأدلة الفيديو".

لقد رأينا بالفعل حالات استخدمت فيها جهات إنفاذ القانون تقنية التعرف على الوجه المدعومة بالذكاء الاصطناعي لتحديد الجناة، على الرغم من عدم الدقة الواضحة في هذه التقنية.

وكما أفادت صحيفة Washington Post في وقت سابق من هذا العام، استخدم ضباط في سانت لويس التقنية لبناء قضية ضد أب لأربعة أطفال يبلغ من العمر 29 عاماً بعد أن تم التعرف عليه بواسطة تطبيق ذكاء اصطناعي، على الرغم من التحذير بأن "لا ينبغي استخدامه كأساس وحيد لأي قرار". وبينما تم إسقاط القضية في نهاية المطاف، يحذر الخبراء من أن ذلك قد يشكل سابقة مقلقة.

كما أثار استخدام تطبيقات الذكاء الاصطناعي لتوليد نصوص من فيديوهات كاميرات الجسم Body Cam مخاوف من أن التقنية قد تؤدي إلى تفاقم المشكلات الحالية في جهات إنفاذ القانون، بما في ذلك العنصرية والتمييز على أساس الجنس.

والآن، مع ظهور مولّدات الذكاء الاصطناعي القوية لتحويل النص إلى فيديو، مثل Sora 2، أصبح من الأسهل وضع هدف في مسرح جريمة لم يزره قط.

وعود الحماية من OpenAI

من جانبها، تدّعي OpenAI أن ميزة الظهور المؤقت cameo في تطبيقها الجديد – والتي تتيح للمستخدم "إدراج نفسه مباشرة في أي مشهد من مشاهد Sora" – ستحمي الأشخاص العاديين من ظهورهم في فيديوهات مولّدة بواسطة الذكاء الاصطناعي.

جاء في إعلان الشركة: "مع خاصية "الظهور المؤقت"، لديك سيطرة تامة على مظهرك في Sora من البداية إلى النهاية". وتضيف: "أنت فقط من يقرر من يمكنه استخدام ظهورك المؤقت، ويمكنك إلغاء الوصول أو إزالة أي فيديو يتضمنه في أي وقت".

ووعدت OpenAI أيضاً بأن "الفيديوهات التي تحتوي على ظهور مؤقت لك، بما في ذلك المسودات التي أنشأها أشخاص آخرون، تكون مرئية لك في أي وقت".

كما ذكرت الشركة أنها تتخذ "إجراءات لحظر تصوير الشخصيات العامة" (على الرغم من أنه لم يتضح ما إذا كان ألتمان قد وافق على فيديوهات بيترسون) وأن "كل فيديو، ملف شخصي، وتعليق يمكن الإبلاغ عنه في حال وجود إساءة، مع وجود سبل واضحة للانتصاف عند انتهاك السياسات".

من السابق لأوانه معرفة كيف ستسير الأمور. لكن مجرد حقيقة أن موظفي الشركة أنفسهم يعرضون بالفعل مدى سهولة توليد فيديوهات مزيفة لأشخاص أبرياء يرتكبون جرائم لا تبشر بالخير.

لقد واجهت OpenAI بالفعل صعوبات كبيرة في تطبيق ضوابط فعالة عندما يتعلق الأمر بنماذج اللغات الكبيرة الخاصة بها. ويبقى أن نرى ما إذا كان Sora سيكون مختلفاً في هذا الصدد.