يواصل الاتحاد الأمريكي للحريات المدنية (ACLU) حملته ضد استخدام أنظمة التعرف على الوجه من قبل الوكالات الفيدرالية والشرطة. يصر اتحاد الحريات المدنية الأمريكي على أن جودة هذه الأنظمة ضعيفة جدًا ولا يمكن استخدامها بشكل حقيقي. ونتيجة لذلك ، سيكون هناك العديد من الإيجابيات الكاذبة ، والتي سوف تتسبب في معاناة الأبرياء. في محاولة لإقناع الكونجرس الأمريكي بحظر استخدام هذه الأنظمة ، اتخذ المدافعون عن حقوق الإنسان إجراءً جريئًا وفعالًا: لقد قادوا من خلال نظام التعرف على الوجوه
Amazon Rekognition لجميع أعضاء الكونجرس الأمريكي. كانت النتيجة متوقعة قليلاً:
اعترف النظام
بـ 28 عضوًا في الكونغرس كمجرمين . صور "الأبطال" في الصورة أعلاه.
تروج أمازون بقوة لنظام التعرف على الوجوه. أصبح من المعروف مؤخرًا أن الشركة قد
أبرمت عقودًا مع وحدات الشرطة في مقاطعة واشنطن وأوريغون وفلوريدا. يضع الرئيس التنفيذي للشركة Jeff Bezos موقع Rekognition كأداة فعالة للتعرف على الوجه في الوقت الحقيقي ، بما في ذلك دفق الفيديو الذي يأتي من كاميرات الفيديو القابلة للارتداء على زي الشرطة.
وهذا يذكرنا بالنظام الذي
بدأ اختباره هذا العام في بعض المدن في الصين ، بما في ذلك مدينة تشنغتشو (مقاطعة خنان في شرق وسط الصين). هناك ، تم منح ضباط الشرطة نظارات خاصة بكاميرات الفيديو ، والتي ترتبط أيضًا ببرنامج التعرف على الوجوه.
تم منح الأدوات لأول مرة لضباط شرطة المرور الذين يعملون في محطة تشنغتشو الشرقية للسكك الحديدية ، لأن معظم الناس يمرون أمام أعينهم. تم تصميم النظارات خصيصًا للشرطة ومتصلة بجهاز كمبيوتر محمول. بعد مسح وجه أحد المارة ، يتصل الكمبيوتر بقاعدة بيانات مركزية ، حيث يتم البحث عن التطابقات. أثبتت التجربة فعاليتها: بحلول 6 فبراير ، تمكنت الشرطة من التعرف على سبعة هاربين متهمين بالاختباء من مكان الحادث والاتجار بالبشر.
لكن حماية حقوق الإنسان في الصين أكثر تساهلاً: هناك بالفعل
170 مليون كاميرا مراقبة تعمل في الشوارع متصلة بنظام التعرف على الوجه الواحد. لا تزعج الإيجابيات الكاذبة أي شخص خاصة إذا كان النظام يساعد في القبض على المجرمين الحقيقيين.
لكن نشطاء حقوق الإنسان الأمريكيين يعتقدون أن الإيجابيات الكاذبة هي دليل على أن النظام غير جاهز للاستخدام بعد.
أظهرت نتائج اختبار اتحاد الحريات المدنية الأمريكية أن Rekognition التقط عن طريق الخطأ صور 28 من أعضاء الكونغرس الأبرياء للمجرمين. من المثير للاهتمام أن الاستجابات غير الصحيحة مشوهة تجاه الأشخاص ذوي البشرة السوداء. من بين أعضاء الكونغرس "المتأثرين" هناك 39٪ ، على الرغم من أن أعضاء الكونغرس السود يشكلون 20٪ فقط من مجلس النواب. تؤكد هذه النتائج مخاوف المجموعات السوداء في رسالة من الكونغرس الأسود إلى الأمازون بأن استخدام التعرف على الوجوه يمكن أن يكون له "عواقب سلبية غير مقصودة" على السود والمهاجرين غير الشرعيين والمتظاهرين. في الواقع ، هناك علامات على أن النظام من المرجح أن يرتكب أخطاء عند مقارنة الوجوه السوداء ، وخاصة النساء.
ولكن بشكل عام ، أصبح الجميع تحت السيطرة - الديمقراطيون والجمهوريون والرجال والنساء ، من جميع الأعمار من مناطق مختلفة من البلاد. كلهم سقطوا في عدد أخطاء النظام.
يعتقد ممثلو اتحاد الحريات المدنية الأمريكي أن كل إيجابية كاذبة ستعرض حرية الإنسان للخطر. يجوز انحياز شرطي ضد هذا الشخص بإخضاعه للاستجواب أو التفتيش.
تم إجراء المسح على خدمة Amazon Rekognition العامة ، وكانت تكلفة الخدمة 12.33 دولارًا. للمقارنة مع الصور ، اختار 535 من أعضاء الكونغرس وأعضاء مجلس الشيوخ 25000 صورة مكبلة بالأصفاد للأشخاص المتاحين للجمهور. تم تنفيذ الاختبار مع الإعدادات الافتراضية. 28 خطأ يعني حوالي 5٪ إيجابيات كاذبة. من الناحية النظرية ، قد تكون هذه نتيجة جيدة ، ولكن إذا تم تطبيقها على آلاف الأشخاص ، فهذا يعني الكثير من الأبرياء الذين يتم تفتيشهم بسبب خطأ في البرنامج.
بالطبع ، سيتم فحص جميع نتائج البرنامج من قبل الناس ، لكننا نعلم جميعًا أن هذه الأنظمة يمكن أن تخرج بسرعة عن نطاق السيطرة وتنتقل إلى الوضع التلقائي ، كما حدث مع نظام إصدار تذاكر السرعة.
ودعا الاتحاد الأمريكي للحريات المدنية الكونغرس إلى "فرض حظر" على استخدام هذه التكنولوجيا حتى يبدأ في إنتاج دقة مقبولة.