चेहरे की पहचान प्रणालियों के परीक्षण के लिए तस्वीरें कहाँ से आती हैं?

आईबीएम ने चेहरे के डेटासेट में विविधता की व्याख्या की

हाल ही में, आईबीएम की फ़्लिकर फोटो होस्टिंग और अन्य साइटों से सार्वजनिक रूप से उपलब्ध फ़ोटो लेने के लिए आलोचना की गई थी जहाँ उपयोगकर्ता अपनी तस्वीरों को तंत्रिका नेटवर्क को प्रशिक्षित करने के लिए पोस्ट करते हैं। औपचारिक रूप से, सब कुछ कानून के अनुसार है - सभी तस्वीरें एक क्रिएटिव कॉमन्स लाइसेंस के तहत प्रकाशित की जाती हैं - लेकिन लोग असहज महसूस करते हैं क्योंकि एआई उनके चेहरे से सीखता है। कुछ को पता भी नहीं था कि वे फोटो खिंचवा रहे थे। जैसा कि आप जानते हैं, किसी सार्वजनिक स्थान पर किसी व्यक्ति की तस्वीर लगाने के लिए, आपको उससे अनुमति मांगने की आवश्यकता नहीं है।

मीडिया रिपोर्ट्स के मुताबिक, आईबीएम ने अपने फेस रिकग्निशन सिस्टम को प्रशिक्षित करने के लिए फ्लिकर से लगभग 1 मिलियन निजी तस्वीरों का इस्तेमाल किया। लेकिन फिर यह पता चला कि आईबीएम वास्तव में फ़्लिकर से तस्वीरें कॉपी नहीं करता था, ये चित्र तंत्रिका नेटवर्क के प्रशिक्षण के लिए उपलब्ध 99.2 मिलियन तस्वीरों के वाईएफसीसी 100 एम डेटा सेट का हिस्सा हैं। यह आधार फ़्लिकर के पूर्व मालिक याहू द्वारा भी बनाया गया था।

यह पता चला है कि आईबीएम के साथ कहानी सिर्फ हिमशैल की नोक है। यहां, कंपनी गलती से वितरण के तहत गिर गई, और वास्तव में, उपयोगकर्ता तस्वीरों का उपयोग विभिन्न प्रणालियों को प्रशिक्षित करने के लिए लंबे समय से किया गया है, यह पहले से ही आम बात हो गई है: "हमारे अध्ययन से पता चला है कि अमेरिकी सरकार, शोधकर्ताओं और निगमों ने अप्रवासियों, दुर्व्यवहार करने वाले बच्चों और मृत लोग अपने चेहरे की पहचान प्रणाली का परीक्षण करने के लिए, “ स्लेट लिखते हैं । यह जोर देता है कि यहां तक ​​कि राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) जैसी सरकारी एजेंसियां ​​भी इस तरह की गतिविधियों का अभ्यास करती हैं।

विशेष रूप से, NIST तृतीय-पक्ष कंपनियों द्वारा विकसित फेस रिकग्निशन सिस्टम के मानकीकृत परीक्षण के लिए फेशियल रिकॉग्निशन वेरिफिकेशन टेस्टिंग (FRVT) प्रोग्राम संचालित करता है। यह कार्यक्रम आपको उसी तरह से सभी प्रणालियों का मूल्यांकन करने की अनुमति देता है, उद्देश्यपूर्ण रूप से एक दूसरे के साथ तुलना करना। कुछ मामलों में, प्रतियोगिता जीतने के लिए $ 25 हजार तक के नकद पुरस्कार प्रदान किए जाते हैं। लेकिन मौद्रिक इनाम के बिना भी, NIST परीक्षण में एक उच्च स्कोर विकास कंपनी की व्यावसायिक सफलता के लिए एक शक्तिशाली प्रोत्साहन है, क्योंकि संभावित ग्राहक तुरंत इस प्रणाली पर ध्यान देंगे, और ए + रेटिंग का उल्लेख किया जा सकता है। प्रेस विज्ञप्ति और प्रचार सामग्री में।

एनआईएसटी का मूल्यांकन करने के लिए, बड़े डेटा सेट का उपयोग विभिन्न कोणों पर और विभिन्न प्रकाश की स्थिति में लिए गए चेहरों की तस्वीरों के साथ किया जाता है।

एक स्लेट जांच से पता चला है कि NIST डेटासेट में निम्नलिखित तस्वीरें शामिल हैं:

• बाल पोर्नोग्राफ़ी में इस्तेमाल बच्चों की तस्वीरें;
  
• विशेष रूप से मेक्सिको से अमेरिकी वीजा आवेदकों की तस्वीरें;
  
• जो लोग गिरफ्तार किए गए हैं और अब मारे गए हैं;
  
• नागरिकों को अपराध करने के संदेह में हिरासत में लिया गया।

सार्वजनिक स्थानों पर डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी (डीएचएस) के कर्मचारियों द्वारा कई तस्वीरें ली गईं, जबकि राहगीरों की तस्वीर लेने की प्रक्रिया में, डीएचएस के कर्मचारियों ने पर्यटकों के रूप में तस्वीरें खिंचवाईं, जो आसपास की तस्वीरें खींचते हैं।

NIST डेटासेट में लाखों लोगों के चित्र हैं। चूंकि सार्वजनिक स्थानों पर डेटा संग्रह हुआ, वस्तुतः कोई भी व्यक्ति इस डेटाबेस में हो सकता है। एनआईएसटी अपने डेटा सेट को सक्रिय रूप से वितरित कर रहा है, जिससे सभी को चेहरा पहचान प्रणाली विकसित करने के लिए इन तस्वीरों को डाउनलोड, स्टोर और उपयोग करने की अनुमति मिलती है (बाल शोषण की छवियां प्रकाशित नहीं होती हैं)। स्लेट लिखते हैं, यह कहना असंभव है कि कितने वाणिज्यिक सिस्टम इस डेटा का उपयोग करते हैं, लेकिन कई वैज्ञानिक परियोजनाएं इसे सुनिश्चित करती हैं।

प्रकाशन के लिए एक टिप्पणी में, एक NIST प्रवक्ता ने कहा कि FRVT आधार को अन्य सरकारी संगठनों द्वारा उनके कार्यों के अनुसार एकत्र किया जा रहा है, यह भी बच्चों की तस्वीरों के साथ आधार पर लागू होता है। NIST इस डेटा का उपयोग कानून और मौजूदा नियमों के अनुसार सख्त है। उन्होंने पुष्टि की कि चाइल्ड पोर्न के साथ डेटाबेस वास्तव में वाणिज्यिक उत्पादों का परीक्षण करने के लिए उपयोग किया जाता है, लेकिन इस डेटाबेस में बच्चे अनाम हैं, अर्थात, उनके नाम और निवास स्थान का संकेत नहीं दिया गया है। एनआईएसटी कर्मचारी इन तस्वीरों को नहीं देखते हैं, वे डीएचएस सर्वर पर संग्रहीत हैं।

कम से कम 2016 के बाद से बच्चों की तस्वीरों वाला डेटासेट इस्तेमाल किया गया है। डेवलपर्स के लिए प्रलेखन के अनुसार, इसमें "एक किशोरी के लिए एक शिशु से बच्चों की तस्वीरें" शामिल हैं, जहां अधिकांश छवियां "जबरदस्ती, हिंसा और यौन गतिविधि" दिखाती हैं। स्थिति, संदर्भ आदि में अधिक परिवर्तनशीलता के कारण इन छवियों को पहचानना विशेष रूप से मुश्किल माना जाता है।

यह डेटा सेट संभवतः अश्लील सामग्री के स्वत: फ़िल्टरिंग के लिए प्रशिक्षण और परीक्षण प्रणालियों के लिए उपयोग किया जाता है ।

पत्रकार कई एनकाउंटर डेटासेट डेटा सेट के "पूर्वाग्रह" पर भी प्रकाश डालते हैं। हालांकि अश्वेतों ने अमेरिका की आबादी का केवल 12.6% हिस्सा बनाया है, 47.5% अपराधियों की तस्वीरों के डेटाबेस में हैं, यही वजह है कि एआई भी पूर्वाग्रह सीख सकता है और नस्लवादी बन सकता है ।