القاهرة : الأمير كمال فرج .

قال فنان المؤثرات المرئية الذي أنشأ ثلاثة مقاطع فيديو عن طريق التزييف العميق للممثل توم كروز والتي انتشرت على TikTok الأسبوع الماضي إنه يؤيد القوانين التي تنظم استخدام التكنولوجيا.

قال كريس أومي لمجلة Fortune في إحدى المقابلات الأولى التي أجراها لمناقشة كيفية إنشاء التزييف العميق. "أعتقد بقوة أنه يجب أن تكون هناك قوانين تساعد في الاستخدام المسؤول للذكاء الاصطناعي والتزييف العميق بشكل عام".

والتزييف العميق deepfakes هي مقاطع فيديو مزيفة مقنعة تم إنشاؤها باستخدام برمجيات الذكاء الاصطناعي A.I. الفيديوهات يمكن إنتاجها من خلال برامج بسيطة متاحة مجانًا، لإنشاء مواد إباحية انتقامية مزيفة وللتحرش بالنساء ، الأمر الذي أدى إلى دق ناقوس الخطر بين جماعات المجتمع المدني والسياسيين. كما أعرب خبراء الأمن عن قلقهم بشأن إمكانية استخدام مثل هذه الفيديوهات في حملات التضليل.

قال أومي إنه سيكون هناك دائمًا أشخاص لديهم نوايا سيئة يسعون لإساءة استخدام التكنولوجيا، لكن غرضه الخاص في إنشاء مقاطع فيديو مزيفة هو الترفيه ، وليس التضليل أو الإساءة.

في حين أنه غالبًا ما ينشر فيديوهات "التعطل" التي تعرض بعض الجوانب المتعلقة بكيفية إنشاء مقاطع التزييف العميقة الخاصة به، إلا أنه قال إنه لم يكشف أبدًا عن الحيل عالية التقنية التي يستخدمها في أصعب الجوانب لجعل التزييف العميق قابلاً للتصديق ، مثل التلاعب بفم الشخصية المزيفة. وقال أيضًا إنه لن يعمل مع حكومة على أمل استخدام تقنية التزييف العميق للتضليل أو الدعاية.

المخاطر المحتملة

فيما يتعلق بالمخاطر المحتملة للخداع من خلال تقنية التزييف العميق ، قال أومي إنه يجب على الناس أن يتعلموا أن يصبحوا أكثر تشككًا، وأن يفكروا بشكل نقدي أكثر في وسائل الإعلام التي يستهلكونها. كما أشار إلى أن المخاوف بشأن التزييف العميق لا ينبغي المبالغة فيها. قال "لا يستطيع المستهلكون العاديون فعل ما فعلته". "عليك أن تفهم جودة ما فعلته، والعمل الذي يدخل فيه".

تم نشر مقاطع فيديو توم كروز الثلاثة على تيك توك TikTok من خلال مجهول من حساب يسمى deeptomcruise ، ولبعض الوقت ، في محاولة لمعرفة من قام بإنشائها وكيف؟ ، أصبحت الفيديوهات حديث الوسائط الاجتماعية.

في وقت سابق من هذا الأسبوع ، ذكرت مجلة Fortune أن أومي كان مسؤولا عن أجزاء الفيديوهات المزيفة العميقة بعد العثور على معلومات عبر الإنترنت تربطها بفنان المؤثرات البصرية البلجيكي المولد. أكد أومى أن التزييف العميق كان عمله بعد أن اتصلت به فورتشن.

عمل أومي مع الممثل مايلز فيشر  منتحل شخصية توم كروز لإنشاء ثلاثة مقاطع فيديو ، حصدت أكثر من 11 مليون مشاهدة على تيك توك. اتفق الخبراء في الطب الشرعي للفيديو الرقمي وكذلك محبو وسائل التواصل الاجتماعي على أن هذا النوع من مقاطع الفيديو المزيفة التي أنشأها الذكاء الاصطناعي أكثر الأمثلة التي تم إنشاؤها بشكل جيد وحرفية حتى الآن.

لاحظ عدد من المعلقين على تويتر ورديت أن مقاطع فيديو كروز كانت قادرة على خداع برنامج "اكتشاف التزييف العميق" الذي أنشأته بعض الشركات. لكن محللي الطب الشرعي للفيديو البشري الذين فحصوا مقاطع الفيديو يدويًا لا يزالون قادرين على العثور على إشارات تدل على أن مقاطع فيديو كروز لم تكن حقيقية.

عامل المصداقية

في حين أن خبراء الأمن قلقون من أن نفس الأساليب المستخدمة لإنشاء مقاطع فيديو كروز يمكن استخدامها للتضليل السياسي، إلا أن هذا لم يصبح اتجاهًا رئيسيًا حتى الآن. هناك أدلة على استخدام الصور الثابتة للتزييف العميق لإنشاء صور ملفات شخصية لحسابات مزيفة في حملات التضليل على وسائل التواصل الاجتماعي. ولكن حتى الآن اقتصر دور الفيديو على عدد قليل من الأمثلة، لم يكن معظمها يعتبر ذا مصداقية خاصة.

قد يكون أحد الأسباب هو الجهد المكثف اللازم لإنشاء تقنية التزييف العميق القابلة للتصديق. قال أومي إنه يستخدم برنامجًا مجانيًا مفتوح المصدر يسمى DeepFaceLab كأساس لمزيفه العميق. لكنه يستخدم أجهزة كمبيوتر قوية لمعالجة الرسومات لتشغيل هذا الذكاء الاصطناعي، وفي هذه الحالة ، دربه على قاعدة بيانات تضم 13000 صورة لتوم كروز تلتقط الممثل من كل زاوية يمكن تصورها تقريبًا.

قال أومي إنه قام بعد ذلك بضبط مولد وجه توم كروز deepfake على مجموعة بيانات أخرى أصغر تحتوي على ما بين 5000 إلى 6000 صورة إضافية لكروز .

في المجموع ، استغرق تدريب مولد التزييف العميق كروز حوالي شهرين ، كما قال أومي. بمجرد أن يتم اختبار نموذج التزييف العميق الخاص به لهذه الفترة ، يمكنه بشكل موثوق إنشاء إصدارات جديدة من رأس كروز تفعل أي شيء تقريبًا. في هذه المرحلة، يستغرق الأمر يومين إلى ثلاثة أيام إضافية لإنشاء التزييف العميق الخاص بكل مقطع فيديو قصير على تيك توك.

أمضى أومي بعد ذلك 24 ساعة إضافية في العمل على عمليات تحسين ما بعد الإنتاج لكل مقطع فيديو، وفحص كل إطار بشق الأنفس. خلال هذه العملية، عمل على مزج وجه التزييف العميق مع جسد فيشر وإزالة أي شذوذ واضح، أو تناقضات تنتج غالبًا عن برامج التزييف العميق.

على سبيل المثال، قال إنه في بعض الأحيان لا تتم محاذاة العيون في التزييف العميق بشكل صحيح أو أن زاوية النظرة تكون خاطئة أو أن الشعر غير متناسق، وعليه ضبط هذه الأشياء يدويًا باستخدام برامج تحرير الفيديو التقليدية على الكمبيوتر.

وهم مقنع

يفخر أومي بنفسه في الرسوم المتحركة للفم ، وهو جزء صعب بشكل خاص من خلق وهم مقنع. قال إنه مسرور بشكل خاص لأن هاني فريد ، الخبير في الطب الشرعي بالفيديو من جامعة كاليفورنيا في بيركلي ، أخبر مجلة Fortune أنه يعتقد أن هذا هو الفم الحقيقي للممثل المستخدم في مقاطع فيديو تيك نوك ، وليس الفم العميق. قال أومي إن وجه كروز بالكامل كان مزيفًا عميقًا ، باستثناء الإطارات القليلة حيث كان يتلاشى في وجه فيشر الحقيقي.

قال أومي إنه بينما يحاول إزالة العيوب الواضحة والشذوذ البصري الصارخ عند القيام بعمل ما بعد الإنتاج هذا، فإنه لا يفعل ذلك من أجل مراوغة محللي الطب الشرعي أو برنامج الكشف عن التزييف العميق التي قد تمشط عبر مقطع فيديو إطارًا تلو الآخر.

قال "نيتي واضحة، وهي أن أجعل مقاطع فيديو ممتعة، وأن تجعل الناس يبتسمون وأن يجعلهم يتساءلون". "ليس لدي أي نية لخداع أي شخص أو خداع النظام."

وقال أيضًا إنه غير متفاجئ من أن برنامج اكتشاف التزييف العميق، الذي يستخدم هو نفسه الذكاء الاصطناعي ، فشل في الإبلاغ عن مقاطع فيديو تيك توك. وقال إن هذه الأنظمة قد تم تدريبها على العديد من الأمثلة القديمة للتزييف العميق، والتي كانت أكثر ضعفا من الأمثلة الحديثة عالية الجودة.

هل يمكنك إخباري بالفرق؟

على الرغم من كل مهاراته وسحره في التكنولوجيا الفائقة ، قال أومي إنه لم يكن من الممكن إنشاء مثل هذه التزييف العميق القابل للتصديق إذا لم يحمل فيشر مثل هذا التشابه الوثيق مع كروز، وإذا لم يكن فيشر انطباعيًا قادرًا على الإقناع.

تقليد صوت كروز وإيقاعه وسلوكياته سمح لأومي باللعب بمزج وجه فيشر بعناية مع التزييف العميق لكروز، وتلاشي المسافة بين الاثنين. قال إن هناك لحظات في بعض مقاطع الفيديو ، لا سيما تلك التي يبدو فيها أن كروز يتدرب على لعبة الجولف ، حيث يرى المشاهد ببساطة وجه فيشر ، دون أي تراكب مزيف عميق ، ولكن لا يمكن للمشاهد معرفة الفرق بسهولة.

من المفيد أيضًا وجود الكثير من الصور المتاحة للجمهور لكروز. قال أومي إنه لا يستطيع إنشاء مثل هذا التزييف الواقعي العميق لشخص كانت لديه بيانات أقل بكثير، لأن البرنامج لن يكون قادرًا على تصوير وجهه بشكل واقعي بزوايا كافية وبتعبيرات مختلفة.

الخصومة التوليدية

يستخدم التزييف العميق الذكاء الاصطناعي. تقنية تسمى GAN ، أو شبكة الخصومة التوليدية. إنه ينطوي على ربط شبكتين عصبيتين - نوع من التعلم الآلي المصمم بشكل فضفاض على الدماغ البشري - معًا وتدريبهما جنبًا إلى جنب.

تتعلم إحدى الشبكات ، من قاعدة بيانات الصور الحقيقية لوجه شخص ما، كيفية إنشاء صور مزيفة جديدة واقعية المظهر. فيما تم تدريب الشبكة الثانية على محاولة التعرف على صور حقيقية لهذا الشخص بعينه من قاعدة بيانات للوجوه التي تتضمن بعض صور الهدف العميق ، والعديد من صور الأشخاص الآخرين. يجب أن تتعلم الشبكة الأولى إنشاء صور مزيفة جيدة بما يكفي لخداع الشبكة الثانية.

قال أومي، الذي تدرب على التأثيرات الرقمية التقليدية في إحدى الجامعات البلجيكية، إنه تعرف على تقنية التزييف العميق لأول مرة عام 2018 ، بعد حوالي خمس سنوات من تخرجه. فانجذب إليها على الفور، يتذكر "كانت هناك القصة الجديدة على التلفزيون تتحدث عن كيفية إساءة استخدام التقنية. لكنني رأيت ذلك واعتقدت أن هذا رائع للغاية". "هناك الكثير من الأشياء التي يمكنك استخدامها بطرق إبداعية، حتى الطرق الإبداعية التي لم نجربها من قبل".

سيد التزييف العميق

أومي هو عضو في Deep Voodoo studio ، وهو كادر من خبراء deepfake تم تجميعهم بواسطة تري باركر ومات ستون، مؤسسي مسلسل ساوث بارك South Park ، والممثل الكوميدي والمخرج الإنجليزي بيتر سيرافينوفيتش لإنتاج سلسلتهم الساخرة  العدل الوقح Sassy Justice على يوتيوب، والتي تستخدم مزيجًا من الواقعية الممثلين ورؤساء المشاهير deepfaked.

تم توظيفه بعد تلقيه اهتمامًا بسبب مقطع فيديو فيروسي أنشأه عام 2019 والذي كان لديه فيه صورة مزيفة للممثل كيت هارينغتون ، الذي يلعب دور جون سنو في لعبة Game of Thrones ، يعتذر عن الموسم الأخير من السلسلة الناجحة التي انتشرت على نطاق واسع.

قال سيد التزييف العميق إنه انتهى بالعمل مع فيشر على مقاطع فيديو كروز بعد أن شاهد مقطع فيديو أنشأه فيشر في أغسطس 2019 ،والذي يصور فيه الممثل الشهير وهو يعلن عن سباق رئاسي وهمي. التقط أومي الفيديو وأعاد رسمه بواجهة كروز عميقة متراكبة على فيشر ، ثم نشر تفصيلاً لنسخته المزيفة العميقة جنبًا إلى جنب مع النسخة الأصلية على قناته الخاصة على يوتيوب. قال إنه حاول الاتصال بفيشر عبر وسائل التواصل الاجتماعي للحصول على إذنه لكنه لم يتلق أي رد منه.

بعد مرور عام ، فجأة ، اتصل فيشر بأومي وطلب منه العمل على فيديو محاكاة ساخرة جديد كروز حيث كان فيشر سيطلب من كروز التنازل عن ترشيحه للرئاسة، وتحول وجهه إلى كروز عميق في اللحظات الأخيرة للرسم.

تم نشر هذا الفيديو عبر الإنترنت ، مع توضيح كامل لكل من فيشر وأومي ، في يناير. في الوقت نفسه ، طلب فيشر من أومي إنشاء بعض مقاطع الفيديو المزيفة الإضافية للترويج للبودكاست الخاص به. قاما بتصوير أربعة إجمالاً ، ثلاثة منها أصبحت مقاطع الفيديو الفيروسية المنشورة على تيك توك.

الاحتمالات الإبداعية

قال أومي إنه يعتقد أن تقنية التزييف العميق ستغير على الأرجح طريقة إنتاج هوليوود للأفلام. قال "إنه يمنحك الكثير من الاحتمالات الإبداعية." "إذا كان لديك ممثل سيكون رائعًا بالنسبة لدور ما ولكنه لا يتناسب جسديًا مع الدور ، يمكنك تغيير نوع الشخصية، ويمكنه الآن لعب هذا الدور. هناك الكثير من الأشياء التي يمكننا فعلها بها ".

وأضاف إن طموحه الشخصي أن يصنع يومًا ما فيلمًا مع مخرج فيلم  سيد الخواتم : رفقة الخاتم  Lord of the Rings ، بيتر جاكسون ، المعروف بتأثيراته الخاصة الناتجة عن الكمبيوتر.