قال متحدث باسم شركة Cognitec إنه لا يمكنهم التعليق على عملهم مع الوزارة الداخلية؛ ومع ذلك، يشيرون إلى أن “الاختلافات السكانية” في الأداء تنطبق على جميع خوارزميات مسح الوجه. “أسباب التحيز معقدة للغاية وغالبًا ما تكون مرتبطة بمشكلات جودة الصورة،” يقول المتحدث.
“إن تحيز خوارزميات Cognitec منخفض بالمقارنة مع خوارزميات أخرى من حيث الدقة العامة المماثلة، وكن مطمئنًا أننا نعمل بجد وباستمرار على تقليل التحيز من خلال تطوير منهجيات اختبار محددة، وتصميم دوال خسارة في تدريب الشبكة الخاصة بنا، ومن خلال تنويع بيانات التدريب والاختبار،” يقول المتحدث.
اختبار الإجهاد
حتى إذا كان من الممكن تحسين الدقة، نادرًا ما يتم تشغيل التكنولوجيا بالطريقة التي ينويها المبدعون. تعني الأخطاء وعدم كفاءة التكنولوجيا وخطأ المستخدم أن الأنظمة تنتج أخطاء بشكل متكرر. عندما يجتمع ذلك مع قرارات حساسة قد تغير حياة الناس، يمكن أن تتفاقم تلك المخاطر.
لسنوات، وفقًا للتقارير السابقة من قبل مفتش الحدود والهجرة المستقل في المملكة المتحدة، تضمن تقديرات عمر الوزارة الداخلية التي يقودها البشر مشاكل. كانت هناك حالات من “سوء” توثيق السجلات، و”تقييمات بصرية شكلية”، وفي بعض الأحيان نقص في الشرح من موظفي الحدود حول العمليات القائمة. لم يتم تزويد الموظفين الذين يقومون بتقديرات العمر بأي تدريب محدد لهذه المهمة حتى عام 2023، وفقًا لتقرير التفتيش الأخير.
“اتخاذ قرارات العمر الأولية هو عمل صعب ومعقد، حيث يعمل ضباط الهجرة في ظروف صعبة، وغالبًا ما يكونون تحت ضغط لمعالجة الكثير من الوافدين الجدد بسرعة،” تقول الوزارة الداخلية في إرشادات نشرت مؤخرًا حول الاستخدام المحتمل لتقدير عمر الوجه بواسطة الذكاء الاصطناعي. “يتيح ذلك لضباط الهجرة اختبار حكمهم مقابل تقدير التكنولوجيا.”
ومع ذلك، في التقرير المسرب من العام الماضي، ذكرت الوزارة الداخلية أن كيفية استخدام تكنولوجيا مسح الوجه في “سياق عملي” لا تزال قيد الاستكشاف. يبرز التقرير، الذي رفضت الحكومة سابقًا إصداره في طلبات السجلات، أن الاختبارات وجدت أن “الشيخوخة المؤقتة” المتعلقة بالصدمة و”ضغط السفر” يبدو أنها تؤثر على دقة أنظمة تقدير عمر الوجه، مما يثير المزيد من الأسئلة حول استخدام التكنولوجيا في عملية اللجوء.
