القاهرة: الأمير كمال فرج.

يمثل التطور المتسارع في مجال الذكاء الاصطناعي، وخاصة في مجال توليد الصور، قفزة نوعية تحمل في طياتها إمكانيات هائلة وتحديات جمة. فبينما تبهرنا هذه التقنيات بقدرتها على إنتاج صور واقعية وإبداعية، يبرز جانب مظلم يثير القلق بشأن إساءة استخدامها.

ذكر فيكتور تانجرمان في تقرير نشره موقع Futurism إن "نماذج توليد الصور من OpenAI، المعروف باسم "4o"، أثار مخاوف جدية حول قدرته الفائقة على إنتاج صور تتضمن نصوصًا مقنعة، الأمر الذي يفتح الباب واسعًا أمام عمليات تزوير الوثائق والاحتيال بأنواعه المختلفة".

يُظهر نموذج OpenAI الأحدث لتوليد الصور، "4o"، قدرة مذهلة على إنتاج نصوص داخل الصور، وهو إنجاز كان يمثل تحديًا كبيرًا للنماذج السابقة، وقد اكتشف المستخدمون أن هذه القدرة تجعله أداة قوية لإنشاء صور لوثائق احتيالية.

خير مثال على ذلك، نشر ديدي داس، المسؤول في شركة Menlo Ventures، صورة على تويتر لإيصال مزيف لوجبة فاخرة في مطعم ستيك هاوس حقيقي في سان فرانسيسكو، كما رصد موقع TechCrunch.

وكتب داس: "يمكنك استخدام نموذج 4o لإنشاء إيصالات مزيفة. هناك الكثير من عمليات التحقق الواقعية التي تحتاج إلى 'صور حقيقية' كدليل، ولكن هذا العصر انتهى"

احتيال العصر الرقمي

تبدو الصورة بحد ذاتها، للوهلة الأولى، مقنعة للغاية وتتضمن تفصيلاً لوجبة متعددة الأطباق، ومجموعًا فرعيًا صحيحًا، وحتى عملية حساب للبقشيش.

بل وتمكن مستخدم آخر من تعديل الصورة بشكل إضافي عن طريق إضافة فلتر واقعي وبقع طعام - الطريقة المثالية لارتكاب عمليات الاحتيال في النفقات، إذا كنت تميل إلى ذلك.

وهذا مجرد غيض من فيض. فقد وجد داس أيضًا أن نموذج 4o كان قادرًا بسهولة على إنشاء وصفات طبية مزيفة لمواد خاضعة للرقابة مثل دواء زولوفت.

فرقة مكافحة الاحتيال على المحك

يسلط هذا التطور الضوء على التقدم الكبير الذي حققته مولدات الصور المدعومة بالذكاء الاصطناعي. فقد عانت النماذج السابقة بشكل كبير في إعادة إنتاج الحروف، وغالبًا ما كانت تنتج أشكالًا مشوهة وعبارات مضحكة غير مقصودة.

بالإضافة إلى تزوير النفقات لوجبات فاخرة، فإن قدرة OpenAI المتزايدة على إنشاء مستندات مزيفة يمكن أن تفتح الباب أمام كل شيء بدءًا من النماذج الضريبية والشيكات المصرفية المزيفة وصولًا إلى بطاقات الهوية وشهادات الميلاد وجوازات السفر المزورة.

يبقى أن نرى ما إذا كانت قدرتنا على اكتشاف هذه العاصفة من المستندات المزيفة ستصمد أم لا؟. ولكن بالنظر إلى الجهود الحالية لشركات الذكاء الاصطناعي، فإن الأمور لا تبدو مبشرة. فالحواجز الوقائية مثل البيانات الوصفية الملحقة أو العلامات المائية التي تكشف ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي يمكن التغلب عليها بسهولة.

حتى قبل ظهور مولدات الصور القوية التي تعمل بالذكاء الاصطناعي، وجد استطلاع أجري عام 2015 أن 85 % من المشاركين أقروا بالكذب للحصول على تعويضات مالية أكبر. والعديد من حالات الاحتيال هذه تفلت من العقاب بسبب نقص الضوابط الداخلية وعمليات الدفع المعيبة للحسابات. بعبارة أخرى، لم يعد بإمكانك تصديق أي شيء تراه عبر الإنترنت.