القاهرة: الأمير كمال فرج.

كان إطلاق أداة سورا 2 من OpenAI فوضوياً للغاية في أحسن الأحوال. فبمجرد طرحه الأسبوع الماضي، أصبح أحدث تطبيق لإنشاء الفيديو من النصوص الذي تقدمه الشركة، بين المعجبين الذين استخدموه لإنتاج كميات هائلة من مقاطع فيديو الذكاء الاصطناعي التي وُصفت بأنها "مجنونة ومثيرة للجدل".

ذكر فرانك لانديمور في تقرير نشرته مجلة Futurism إن "العديد من هذه المقاطع تضمنت شخصيات معروفة مثل "سبونج بوب" وهو يعدّ المخدرات، مما أثار تساؤلاً واضحاً حول ما إذا كانت شركة الذكاء الاصطناعي تتجاهل بشكل صارخ قوانين حقوق النشر".

ومع انتشار العديد من مقاطع الفيديو التي أنشأتها Sora 2 والتي تسخر من الرئيس التنفيذي سام ألتمان على الإنترنت، بما في ذلك مقاطع مزيفة تظهر لقطات كاميرات مراقبة CCTV وهو يرتكب جرائم، لم يعد بالإمكان تجاهل الاحتمال بأن هذه التقنية يمكن أن تُستخدم بسهولة لتلفيق مقاطع فيديو ضارة لأشخاص دون موافقتهم.

وفي هذا الصدد، يبدو أن Sora 2 قد وجدت استخداماً آخر مروعاً: المطاردة والتحرش.

بعد يوم واحد فقط من إطلاق Sora 2، صرحت الصحفية تايلور لورينز أن "مطاردها المختل عقلياً" كان يستخدم بالفعل أداة OpenAI لإنشاء مقاطع فيديو لها بالذكاء الاصطناعي، في الوقت الذي يُزعم فيه أنه يدير مئات الحسابات المخصصة لها.

وكتبت لورينز في تغريدة: "إنه لأمر مخيف أن نتصور ما يفعله الذكاء الاصطناعي لتغذية أوهام مطاردي... هذا رجل استأجر مصورين لمراقبتي، ويظهر في المناسبات التي أحضرها، وينتحل شخصيات أصدقائي وأفراد عائلتي عبر الإنترنت لجمع المعلومات".

ولحسن الحظ، قالت لورينز إن الأداة سمحت لها بحظر وحذف مقاطع الفيديو غير المصرح بها التي تحتوي على صورتها من التطبيق. ولكن من المحتمل أن يكون المطارد قد حمّل إبداعات الذكاء الاصطناعي بالفعل — ومن المثير للقلق أنه سُمح بإنشائها من الأساس.

التحرش القاعدة الجديدة

بينما ذهب مطارد لورينز إلى أقصى الحدود، فمن المرجح ألا يكون استخدام Sora 2 للمطاردة والمضايقة مجرد حالة استثنائية، لأن تطبيق تقنية التزييف العميق Deepfake على نفسك والآخرين في مقاطع الفيديو هو أحد الميزات الأساسية التي يروج لها التطبيق.

تسمي OpenAI هذه التزييفات العميق بـ "لقطات الـ Cameo، وهي "شخصيات قابلة لإعادة الاستخدام" يتم تركيبها من مقاطع فيديو لنفسك تقوم بتحميلها على التطبيق. يمكنك أيضاً استخدام "لقطات Cameos لأشخاص آخرين — بموافقتهم بالطبع.

لكن ضوابط سورا 2 (Guardrails) ليست موثوقة. فقد أظهر بعض المستخدمين بالفعل أن بإمكانهم إنشاء مقاطع فيديو مثيرة وذات إيحاءات جنسية لأشخاص. وفي وثيقة نظام سورا 2 (System Card)،

اعترفت OpenAI بأن تطبيق الذكاء الاصطناعي فشل في منع المطالبات بإنشاء مقطع فيديو يحتوي على عري أو محتوى جنسي باستخدام صورة شخص حقيقي بنسبة 1.6% من الوقت، حسبما لاحظت مجلة PCMag. هذه نسبة كبيرة من مقاطع الفيديو التي تتجاوز الضوابط عند الحديث عن ملايين المطالبات.

من غير الواضح كيف تمكن مطارد لورينز من استخدام Sora 2 لتطبيق التزييف العميق على صورتها. تزعم OpenAI أن التطبيق يمنع المستخدمين من تحميل الصور التي تحتوي على وجوه. ومع ذلك، فقد تم استخدام أدوات الذكاء الاصطناعي لتوليد الصور للمضايقة الجنسية للأشخاص، وعادة ما تكون من النساء، منذ أن انتشرت هذه الأدوات على نطاق واسع. ففي العام الماضي، استُهدفت نجمة البوب تايلور سويفت بموجة من "الصور العارية" المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

كما أن عامة الناس ليسوا في مأمن أيضاً. فقد زُعم أن أحد الملاحقين استخدم الذكاء الاصطناعي لتوليد صور عارية مزيفة لامرأة كان يضايقها وأنشأ روبوت محادثة يحاكي شخصيتها، واتُهم آخر بإنشاء مقاطع فيديو إباحية بالذكاء الاصطناعي لما يقرب من اثنتي عشرة من ضحاياه وإرسالها إلى عائلاتهم.

أصبحت هذه المقاطع أسهل في الإنشاء وأكثر إقناعاً من أي وقت مضى. ومما يزيد الأمر سوءاً أن ألتمان قلل من خطورة تطبيق التزييف العميق على أصدقائه من خلال السماح لمعجبيه بنشر صورته الخاصة دون ضوابط.

يبدو أن OpenAI تريد منا جميعاً أن نعتاد بسرعة على فكرة تزييف مقاطع فيديو واقعية لبعضنا البعض — وهو أمر أصبح ممكناً بفضل خوارزميات الصندوق الأسود التي ترمز ملامح وجوهنا — على أنه مجرد متعة غير ضارة.