أعلنت منظمة الاتحاد الأمريكي للحريات المدنية ACLU يوم الخميس أنها قامت بعمل اختبار لنظام التعرف على الوجه التابع لشركة أمازون المعروف باسم Amazon Rekognition، وكانت النتائج صادمة حيث حدد النظام  بشكل خاطئ 28 عضو في الكونغرس الأمريكي كأشخاص آخرين تم اعتقالهم بسبب جريمة، مما أثار مخاوف جدية لدى المشرعين حول هذه التقنية حيث أن شركة أمازون تسوق بشكل نشط هذا النظام إلى وكالات إنفاذ القانون في جميع أنحاء الولايات المتحدة، وهو ببساطة ليس جيدًا بما فيه الكفاية.

وفقا لجاك سنو محامي منظمة اتحاد الحريات المدنية: “إن المنظمة قامت بتحميل نظام أمازون بقاعدة بيانات تحتوي على 25 ألف سجل جنائي للمجرمين ومرتكبي مخالفات قانونية تم تنزيلها من مصدر عام، وبعد ذلك قام الاتحاد الأمريكي للحريات المدنية بتمرير الصور الرسمية لكل أعضاء الكونغرس البالغ عددهم 535 عضوًا خلال برنامج Rekognition، مطالبين إياها بمضاهاة أي من هذه الصور قد يتطابق مع قاعدة البيانات وانتهى الأمر بمطابقة صور 28 عضو، من بين هؤلاء الـ 28 فشل النظام في التعرف على 6 أعضاء لأنهم من ذوي البشرة السمراء بما في ذلك النائب جون لويس ديموقراطي من جورجيا، وهو ناشط أمريكي من أصل أفريقي في مجال الحقوق المدنية”.

قالت أمازون في ردها: “إن الأمر يتعلق بإعدادات أداة تعريف الوجوه خلال الاختبار”، ومع ذلك تسلط هذه النتائج الضوء على المخاطر التي يمكن أن يواجهها الأفراد إذا استخدمت الشرطة هذه التكنولوجيا بطرق معينة للقبض على المجرمين.

يضغط  الاتحاد الأمريكي للحريات المدنية وغيره من جماعات الحقوق المدنية على شركة أمازون منذ شهر مايو/أيار 2018 لوقف بيع نظام التعرف على الوجوه Rekognition لوكالات إنفاذ القانون، حيث أشارت جماعات الحقوق المدنية إلى استخدام نظام Rekognition  من قبل وكالات إنفاذ القانون في ولاية أوريغون وفلوريدا وحذرت من أن هذه الأداة يمكن استخدامها لاستهداف المهاجرين والأشخاص حسب لونهم بشكل غير عادل.

كما أظهرت دراسة الاتحاد الأمريكي للحريات المدنية مشكلة التحيز العنصري التي يعاني منها نظام أمازون الآن، حيث أن  نظام أمازون فشل في التعرف على الأعضاء بنسبة 39% لأنهم هم ذوي البشرة السمراء، رغم أنهم لم يشكلوا سوى 20% من الكونغرس، لذلك سيتعرض الأشخاص ذوي البشرة السمراء للأذى بشكل غير متناسب”.

أظهر الباحثون أن التحيز العرقي مشكلة راسخة تعاني منها أنظمة التعرف على الوجه، ففي شهر فبراير الماضي اكتشف باحثون في مختبرات معهد ماساتشوستس للتكنولوجيا أن أنظمة التعرف على الوجه الشائعة من مايكروسوفت وآي بي أم IBM و++Face تتخذ وقتًا أطول في تحديد الجنس في الأشخاص ذوي درجات البشرة الداكنة مقارنة بالأشخاص البيض، وفي تقييم شهر يونيو لنظام أمازون Rekognition، وجد الباحثون أن خوارزميات النظام  تعاني من تحيزًا مماثلًا حيث لم يتمكن النظام من التعرف على أوبرا وينفري بشكل صحيح.

لذلك قام ثلاثة من الديمقراطيين الذين تم تحديدهم في اختبار الاتحاد الأمريكي للحريات المدنية – السيناتور إدوارد ماركي، والنائب لويس غوتيريز والممثل مارك دي ساولنيير – بإرسال رسالة إلى جيف بيزوس الرئيس التنفيذي لشركة أمازون أعربوا فيها عن قلقهم واستفسروا عن دقة الأداة وكيفية استخدامها من قبل سلطات إنفاذ القانون.

قال اتحاد الحريات المدنية الأمريكي إنه دفع 12.33 دولارًا فقط ليقارن نظام  أمازون بين صور رسمية لكل عضو في مجلس النواب ومجلس الشيوخ الأمريكي مقابل قاعدة بيانات تضم 25 ألف صورة لمرتكبي الجرائم.

والجدير بالذكر أن تقنية التعرف على الوجه تستخدم على نطاق واسع بالفعل في الصين من قبل الشرطة، وهناك عدد من الشركات الناشئة هناك التي تسعى بقوة إلى تطبيق هذه التقنية.

وقالت متحدثة من قسم خدمات أمازون السحابية في بيان “مازلنا متحمسين بشأن إمكانية استخدام تحليل الصور والفيديو بحيث يكون محركًا للخير في العالم، مشيرة إلى مساعدة التقنية  في العثور على الأطفال المفقودين ومنع الجرائم، وأضافت أن نظام أمازون يستخدم عادة لتضييق المجال أمام المراجعة البشرية وليس لاتخاذ قرارات نهائية”. وعلقت على مشكلة تعيين المؤشرات لنظامها أثناء الاختبار مشيرة إلى أن  اتحاد الحريات المدنية استخدم حد الثقة للنظام بنسبة 80 % – وهذا هو احتمال أن يعثر نظام Rekognition على تطابق ويمكنك ضبطه وفقًا لمستوى الدقة المطلوب-.

وأضافت: “إن معدل الثقة بنسبة 80 في المئة كان مناسبًا لتحديد الأشياء والحيوانات أو غيرها من حالات استخدام وسائل التواصل الاجتماعي وليس الأفراد، وعند استخدام النظام من قبل وكالات إنفاذ القانون فإننا نوجه العملاء إلى تعيين حد أدنى لا يقل عن 95 في المئة أو أعلى”.

وبناء عليه يؤكد ذلك الفكرة القائلة بأن الدعم البشري يوفر أداءًا أفضل للنظام، حيث قال جيرامي سكوت مدير مشروع المراقبة المحلية بمركز معلومات الخصوصية الإلكترونية: “في كثير من الأحيان يعتمد الناس على الأنظمة التكنولوجية أكثر من اللازم كما لو أنها معصومة من الخطأ، ففي عام 2009 على سبيل المثال قامت الشرطة في سان فرانسيسكو بتوقيف امرأة واحتجزتها تحت تهديد السلاح بعد أن قام جهاز قارئ لوحة الترخيص بتعريف سيارتها بشكل خاطيء، كل ما كان عليهم فعله لتجنب هذا الخطأ هو النظر إلى لوحة السيارة بأنفسهم أو ملاحظة أن التصميم والطراز واللون لم يتطابقا ولكنهم بدلًا من ذلك كانوا يثقون في الجهاز”.

حتى لو كانت تقنية التعرف على الوجه تعمل بشكل جيد فإن وضعها في أيدي وكالات تطبيق القانون لا يزال يثير المخاوف، يقول سكوت “ما نحاول تجنبه هنا هو المراقبة الجماعية”.

في حين أن دراسة اتحاد الحريات المدنية الأمريكي ACLU تظهر جانب آخر من أخطاء أنظمة التعرف على الوجوه ، فقد يكون لها فرصة أفضل في إحداث تأثير حقيقي. قال ألفارو بيدويا المدير التنفيذي لمركز الخصوصية والتكنولوجيا في جامعة جورج تاون: “إن أقوى جانب في هذا الاختبار هو أنه جعل الأمر شخصيًا لأعضاء الكونغرس، حيث كان عدد من أعضاء الكونغرس قد كتبوا في السابق رسالة إلى أمازون تعرب عن مخاوف ذات صلة، ولكن يبدو أن اتحاد الحريات المدنية الأمريكي قد لفت انتباه العديد من المشرعين إلى هذه الأخطاء”.

يقول المدافعون عن الخصوصية أنه على الأقل يجب أن يكون استخدام وكالات إنفاذ القانون لتقنية التعرف على الوجه مقيدًا إلى أن يتم تصحيح التحيز العنصري وضمان دقتها، وحتى في هذه الحالة يجادلون بأن نطاق استخدامها يجب أن يكون محدودًا.

قال بيدويا: “إن التكنولوجيا التي أثبتت عدم دقتها بشكل كبير بين الأشخاص على أساس لون بشرتهم غير مقبولة في عمل الشرطة في القرن الحادي والعشرين”.