القاهرة: الأمير كمال فرج.

عندما يتعلق الأمر بالشمولية، فإن سجل الذكاء الاصطناعي AI ليس الأفضل. فنماذج الذكاء الاصطناعي، بوصفها خوارزميات ضخمة مدربة على كميات هائلة من البيانات المجمعة من الإنترنت، تكون بطبيعتها عرضة لإعادة إنتاج التحيزات الاجتماعية البشرية.

ذكر جو ويلكنز في تقرير نشرته مجلة Futurism إن "الذكاء الاصطناعي يملك ميلًا حقيقيًا للتمييز، وغالبًا ما يؤدي إلى تفاقم الأحكام المسبقة على أساس العرق، والجنس، والميول الجنسية. وكما اكتشفت إحدى النساء خلال زيارة مهينة إلى إدارة المركبات DMV، فإن أنظمة الذكاء الاصطناعي قادرة تمامًا على التمييز ضد ذوي الإعاقة أيضًا".

تجربة مهينة في إدارة المركبات

في قصة نشرها موقع "Wired" لأول مرة، بدت مهمة أوتمن غاردينر، وهي من سكان ولاية كونيتيكت، سهلة وروتينية: فقد تزوجت مؤخرًا وكانت في إدارة المركبات لتحديث رخصة قيادتها. وللقيام بذلك، كان على المسؤولين التقاط صورة جديدة لها، وهي عملية بسيطة سرعان ما تحولت إلى كابوس بسبب برنامج التحقق من الهوية الذي يعمل بالذكاء الاصطناعي والمُعتمد لدى حكومة الولاية.

قالت غاردينر، التي تعيش مع متلازمة فريمان-شيلدون—وهي اضطراب وراثي نادر يؤثر على العضلات حول الوجه، وخاصة الفم—إن صورها جميعها رُفضت، واحدة تلو الأخرى، من قِبل برنامج تحديد الهوية في إدارة المركبات. وصفت غاردينر المشهد لـ "Wired" قائلة: "لقد أصبح الأمر عرضًا... الجميع يراقبون. كانوا يلتقطون المزيد من الصور".

وأضافت: "كان الأمر مهينًا وغريبًا... ها هي آلة تخبرني بأنني لا أمتلك وجهًا بشريًا."

التمييز ضد ذوي "الاختلافات المرئية"

تتسبب متلازمة فريمان-شيلدون فيما يُعرف باسم الاختلاف المرئي Visible Difference. ورغم عدم وجود قائمة رسمية تحدد ما هو أو ليس اختلافًا مرئيًا، تصف مجموعة Changing Faces المدافعة عنهم هذا المصطلح بأنه "ندبة أو علامة أو حالة تجعلك تبدو مختلفًا". يمكن أن يشمل ذلك أي شخص لديه وحمات خلقية، حروق، آثار للسرطان، حالات قحفية وجهية، تساقط الشعر، حالات جلدية مثل البهاق، أو حالات وراثية مثل الورم العصبي الليفي.

تحدث حوالي نصف دزينة من الأشخاص الذين يعانون من اختلافات مرئية مع "Wired" ليسردوا الطرق التي تزيد بها برامج الذكاء الاصطناعي من تعقيد حياتهم. الإحباطات لا تنتهي، وتتراوح بين فلاتر صور السيلفي على وسائل التواصل الاجتماعي وبين التحقق من الوجه لتطبيقات البنوك.

شهدت نيكي ليلي، ممثلة عن مجموعة "Face Equality International" المدافعة عن المساواة في الوجه، أمام الأمم المتحدة في وقت سابق من هذا العام قائلة: "في العديد من البلدان، أصبح التعرف على الوجه جزءًا متزايدًا من الحياة اليومية، لكن هذه التكنولوجيا تخيّب آمال مجتمعنا."

ومع ازدياد تطلب هذه الأنظمة في العديد من جوانب الحياة، يطرح سؤال جاد: من يستفيد من ذلك، ومَن تزداد حياته صعوبة؟