अमेज़ॅन रेकग्निशन 28 अमेरिकी कांग्रेसियों को अपराधियों के रूप में मान्यता देता है

अमेरिकन सिविल लिबर्टीज यूनियन (ACLU) ने संघीय एजेंसियों और पुलिस द्वारा चेहरा पहचान प्रणाली के उपयोग के खिलाफ अपना अभियान जारी रखा है। ACLU जोर देकर कहता है कि वास्तविक उपयोग के लिए इन प्रणालियों की गुणवत्ता बहुत खराब है। परिणामस्वरूप, कई झूठी सकारात्मकताएँ होंगी, जिससे निर्दोष लोगों को नुकसान उठाना पड़ेगा। इन प्रणालियों के उपयोग पर प्रतिबंध लगाने के लिए अमेरिकी कांग्रेस को समझाने की कोशिश करते हुए, मानवाधिकार के रक्षकों ने एक साहसिक लेकिन प्रभावी कार्रवाई की: उन्होंने सभी अमेरिकी कांग्रेसियों के फेस रिकग्निशन सिस्टम अमेज़ॅन रेकग्निशन के माध्यम से चलाई। परिणाम थोड़ा अनुमानित था: प्रणाली ने 28 कांग्रेसियों को अपराधियों के रूप में मान्यता दी । ऊपर दिए गए स्क्रीनशॉट में "नायकों" की तस्वीरें।

अमेज़ॅन आक्रामक रूप से अपने चेहरे की पहचान प्रणाली को बढ़ावा देता है। हाल ही में यह ज्ञात हुआ कि निगम ने वाशिंगटन काउंटी, ओरेगन और फ्लोरिडा में पुलिस इकाइयों के साथ अनुबंध किया है। कंपनी के सीईओ जेफ बेजोस वास्तविक समय में चेहरे की पहचान के लिए एक प्रभावी उपकरण के रूप में रिकॉग्निशन को तैनात करते हैं, जिसमें पुलिस की वर्दी पर पहनने योग्य वीडियो कैमरों से आने वाली वीडियो स्ट्रीम भी शामिल है।

यह इस प्रणाली की याद दिलाता है कि इस वर्ष चीन के कुछ शहरों में परीक्षण किया जाने लगा , जिसमें झेंग्झौ शहर (मध्य चीन के पूर्व में हेनान प्रांत) भी शामिल है। वहां, पुलिस अधिकारियों को वीडियो कैमरों के साथ विशेष चश्मा दिया गया, जो कि पहचान सॉफ्टवेयर से भी जुड़े हैं।



ट्रैफ़िक पुलिस अधिकारियों को गैजेट पहले दिए गए थे जो व्यस्त झेंग्झौ पूर्व रेलवे स्टेशन पर काम करते हैं, क्योंकि ज्यादातर लोग अपनी आंखों के सामने से गुजरते हैं। चश्मा विशेष रूप से पुलिस के लिए डिज़ाइन किया गया है और एक हाथ में कंप्यूटर से जुड़ा है। एक राहगीर के चेहरे को स्कैन करने के बाद, कंप्यूटर एक केंद्रीय डेटाबेस से जुड़ता है, जहां मैच खोजे जाते हैं। प्रयोग ने इसकी प्रभावशीलता साबित कर दी: 6 फरवरी तक, पुलिस ने उन सात भगोड़ों की पहचान करने में कामयाबी हासिल की, जिन पर एक दुर्घटना के दृश्य को छिपाने और मानव तस्करी का आरोप है।

लेकिन चीन में, मानवाधिकारों की सुरक्षा अधिक उदार है: पहले से ही 170 मिलियन निगरानी कैमरे सड़कों पर चल रहे हैं जो एक एकल चेहरा पहचान प्रणाली से जुड़े हैं। गलत सकारात्मक किसी को भी परेशान नहीं करते हैं खासकर अगर सिस्टम वास्तविक अपराधियों को पकड़ने में मदद करता है।

लेकिन अमेरिकी मानवाधिकार कार्यकर्ताओं का मानना ​​है कि झूठी सकारात्मकता इस बात का सबूत है कि सिस्टम अभी उपयोग के लिए तैयार नहीं है।

ACLU के परीक्षा परिणामों से पता चला कि गलती से अपराधियों के लिए 28 निर्दोष कांग्रेसियों की तस्वीरें गलती से आ गईं। यह दिलचस्प है कि गलत प्रतिक्रियाएं काली त्वचा के रंग वाले लोगों के प्रति विकृत होती हैं। "प्रभावित" कांग्रेसियों में 39% हैं, हालांकि वास्तव में काले कांग्रेसियों ने संसद के निचले सदन का केवल 20% हिस्सा बनाया है। ये परिणाम अमेजन को कांग्रेसी ब्लैक कॉकस पत्र में काले समूहों की चिंताओं की पुष्टि करते हैं कि चेहरे की पहचान का उपयोग करने से काले लोगों, अनियमित प्रवासियों और प्रदर्शनकारियों के लिए "गहरे नकारात्मक अनपेक्षित परिणाम" हो सकते हैं। वास्तव में, संकेत हैं कि काले चेहरे, विशेषकर महिलाओं की तुलना करते समय सिस्टम में गलतियां होने की अधिक संभावना है।

लेकिन सामान्य तौर पर, हर कोई देश के विभिन्न क्षेत्रों से सभी उम्र के, लोकतांत्रिक, गणराज्यों, पुरुषों और महिलाओं के हाथ में आया। वे सभी सिस्टम त्रुटियों की संख्या में गिर गए।

ACLU के प्रतिनिधियों का मानना ​​है कि हर गलत सकारात्मक मानव स्वतंत्रता को खतरे में डालेगा। एक पुलिसकर्मी को ऐसे व्यक्ति के खिलाफ पूछताछ या खोज के लिए पक्षपाती बनाया जा सकता है।



अमेज़ॅन रेकग्निशन पब्लिक सर्विस पर स्कैनिंग की गई, सेवा की लागत $ 12.33 थी। तस्वीरों के साथ तुलना के लिए, 535 कांग्रेसियों और सीनेटरों ने सार्वजनिक रूप से उपलब्ध लोगों की 25,000 हस्तनिर्मित तस्वीरों को चुना। परीक्षण डिफ़ॉल्ट सेटिंग्स के साथ किया गया था। 28 त्रुटियों का मतलब लगभग 5% झूठी सकारात्मकता है। सैद्धांतिक रूप से, यह एक अच्छा परिणाम हो सकता है, लेकिन यदि हजारों लोगों पर लागू किया जाता है, तो इसका अर्थ बहुत सारे निर्दोष लोग हैं, जिन्हें प्रोग्राम त्रुटि के कारण खोजा जाता है।

बेशक, कार्यक्रम के सभी परिणामों को लोगों द्वारा जांचा जाएगा, लेकिन हम सभी जानते हैं कि इस तरह की प्रणाली जल्दी से नियंत्रण से बाहर हो सकती है और स्वचालित मोड में जा सकती है, जैसा कि तेजी से टिकट जारी करने के लिए सिस्टम के साथ हुआ था।

ACLU ने कांग्रेस से इस तकनीक के उपयोग पर "स्थगन लागू करने" का आह्वान किया, जब तक कि यह स्वीकार्य सटीकता का उत्पादन शुरू नहीं करता।