القاهرة: الأمير كمال فرج.

باتت أنظمة المراقبة المدعومة بالذكاء الاصطناعي تحيط بنا من كل جانب في وقتنا الراهن؛ فهي تراقب طرقاتنا، وتتتبع مشترياتنا في المتاجر، بل وصل الأمر إلى مراقبة دورات المياه في المدارس.

ومع ذلك، تنطوي هذه الأنظمة على ثغرة كارثية؛ فهي تمتلك حساسية مفرطة في رصد السلوكيات السلبية، مما أدى إلى عدد صادم من الاعتقالات والاحتجازات القسرية.

ذكر جو ويلكينز في تقرير نشرته مجلة  Futurism إن "تقرير جديد نشرته صحيفة Milwaukee Independent كشف أن المدارس التي تستخدم أنظمة مراقبة لرصد المحادثات الرقمية التي تشير إلى العنف، قد سجلت عدداً مذهلاً من "التنبيهات الإيجابية". ورغم أن الكثير من هذه الحالات لا تشكل تهديدات حقيقية تستدعي التحرك، إلا أنها قد تؤدي رغم ذلك إلى الاحتجاز القسري".

على سبيل المثال، في إحدى المناطق التعليمية بمدينة لورانس بولاية كانساس، قامت أداة مراقبة السلامة عبر الإنترنت والمعروفة باسم Gaggle برصد أكثر من 1200 حادثة رقمية خلال فترة 10 أشهر. ومع ذلك، وجدت الصحيفة أن ثلثي تلك التنبيهات كانت مجرد قضايا تافهة لا تستحق الذكر.

وفي حين يمكن تجاهل الكثير من التنبيهات الخاطئة، إلا أن المدارس في الولايات التي تتبنى قوانين "عدم التسامح المطلق" في التبليغ — مثل تينيسي أو فلوريدا — ملزمة قانوناً بإبلاغ الشرطة عن أي حالة يلمح فيها الطلاب إلى العنف بأي شكل من الأشكال.

وفي مقاطعة بولك التعليمية بولاية فلوريدا — حيث رصد نظام Gaggle نحو 500 طالب على مدار أربع سنوات — أدى ذلك إلى اعتقال أو إدخال ما لا يقل عن 72 طفلاً إلى المستشفيات قسراً بموجب "قانون بيكر" في الولاية.

وفي تصريح لصحيفة Independent، قال سام بويد، وهو محامٍ في مركز قانون الفقر الجنوبي: "إن عدداً كبيراً جداً من الأطفال الذين يخضعون للفحص القسري يتذكرون التجربة بوصفها صدمة نفسية قاسية ومدمرة، وليست وسيلة تساعدهم في تحسين صحتهم النفسية".

المثير للصدمة أن الكثير من هؤلاء الطلاب لا يدركون أصلاً أن بريدهم الإلكتروني، ومحادثاتهم عبر الإنترنت، وعمليات البحث في Google عبر أجهزة المدرسة تخضع للمراقبة، فضلاً عن عدم إدراكهم أنهم ارتكبوا أي خطأ. فعلى سبيل المثال، روت ليزلي ماثيس، وهي أم من ولاية تينيسي، كيف تعرضت ابنتها في الصف الثامن للاعتقال والاستجواب والتفتيش الذاتي المهين، وقضت ليلة في السجن بسبب مجرد "مزاح" عبر الإنترنت.

وبالتحديد، كان أصدقاء الطالبة قد سخروا منها بسبب بشرتها التي تشبه "المكسيكيين"، رغم أنها تنتمي لأصول عرقية مختلفة. وردت الطالبة متهكمة: "يوم الخميس سنقتل كل المكسيكيين".

ورغم أن هذه التعليقات تبدو فظة وبغيضة، إلا أنها كانت مجرد حالة من النزق والمراهقة في الصف الثامن، وليست تهديداً فعلياً قابلاً للتنفيذ.

وتساءلت ماثيس بحرقة: "جعلني ذلك أشعر بالذهول، هل هذه هي أمريكا التي نعيش فيها؟ لقد كان السبب تكنولوجيا غبية تقوم بمجرد التقاط كلمات عشوائية دون النظر إلى سياق الكلام".

تشير الدراسات في الولايات المتحدة إلى أن الشباب الذين يمرون بتجربة احتجاز الأحداث — حتى لفترات قصيرة مثل الحبس الاحتياطي قبل المحاكمة — يواجهون نتائج تربوية أسوأ في حياتهم المستقبلية مقارنة بأقرانهم؛ ويشمل ذلك ارتفاع معدلات السجن في سن البلوغ، وانخفاض فرص العمل بدوام كامل، وتدهور الحالة الصحية عند الكبر.

ورغم ذلك، يرى بعض مديري المدارس أن هذه المخاطرة تستحق العناء، على الرغم من قلة الأدلة التي تشير إلى أن تكنولوجيا المراقبة تساهم فعلياً في خفض مستويات العنف في المدارس الأمريكية. وكما قالت آن كوستيلو، عضو مجلس إدارة مدرسة لورانس، في اجتماع للمجلس عام 2024: "أحياناً يتعين عليك القبول بهذه المقايضة من أجل الصالح العام".