अमेज़ॅन एआई उपयोगकर्ता-अश्लील सामग्री से निपटना आसान बनाता है

उपयोगकर्ताओं द्वारा अपलोड की गई अश्लील छवियों और वीडियो को खोजने के लिए हजारों कंपनियां अमेज़ॅन की रिकॉग्निशन मशीन विज़न सेवा का उपयोग करती हैं

अमेज़न की विवादास्पद रेकग्निशन तकनीक पहले से ही खाद्य वेबसाइटों से लिंग की छवियों को हटाने के लिए उपयोग की जाती है। कम से कम यह इसके उपयोग का एक उदाहरण है। कुछ बिंदु पर, लंदन स्थित खाद्य वितरण सेवा डेलीवरू सामग्री मॉडरेशन मुद्दों में भाग गई। भोजन की समस्या की स्थिति में, डेलीवरू ग्राहक शिकायत के साथ भोजन की एक तस्वीर भेजते हैं। और अक्सर वे अपने जननांगों के साथ फोटोबॉम्बिंग करते हैं। या खाने की अश्लील तस्वीरें बनाते हैं। हाँ, वास्तव में।

और इसलिए यह पता चला है कि डेलीवेरू कर्मचारी हमेशा ऐसी सामग्री से निपटना नहीं चाहते हैं। इसलिए, कंपनी अश्लील तस्वीरों को पहचानने के लिए Rekognition का उपयोग करती है, और किसी व्यक्ति को देखने से पहले उन्हें धुंधला या हटा देती है।

समस्या उद्धार एक उत्तरोत्तर अधिक जटिल समस्या के कुछ हद तक अजीब पहलू प्रस्तुत करता है। एक तरह से या किसी अन्य, कई ऑनलाइन कंपनियां उपयोगकर्ता-निर्मित सामग्री पर भरोसा करती हैं। हाल के वर्षों में, हम तेजी से मानव प्रकृति के अंधेरे पक्ष की इस सामग्री में प्रवेश के साथ सामना कर रहे हैं। सामग्री मॉडरेशन एक प्राथमिकता बन गई है, क्योंकि साइटें उपयोगकर्ताओं द्वारा बनाई गई नकली समाचार, हिंसा, द्विध्रुवी, धमकाने, आक्रामक बयानबाजी और अन्य विषाक्त सामग्री जैसी अप्रिय सामग्रियों से तेजी से सामना कर रही हैं। यदि आप फेसबुक हैं, तो इस समस्या को हल करने के लिए आप अपने एआई को विकसित कर सकते हैं या मध्यस्थों की एक सेना को नियुक्त कर सकते हैं - या दोनों कर सकते हैं। हालांकि, कुछ संसाधनों वाली छोटी कंपनियों में अक्सर यह क्षमता नहीं होती है। यह वह जगह है जहाँ अमेज़न की सामग्री मॉडरेशन सेवा उनकी सहायता के लिए आती है।

यह सेवा अमेज़ॅन वेब सेवाओं द्वारा प्रदान की गई मान्यता कंप्यूटर दृष्टि सेवा पैकेज का हिस्सा है। इस तथ्य के लिए प्रेस में उनकी बहुत आलोचना की गई कि कंपनी यूएस माइग्रेशन सेवा के लिए चेहरा पहचान सेवाएं प्रदान करने के लिए सहमत हुई । मान्यता वेबसाइट पर, आप ट्रैकिंग के लिए सेवा का उपयोग करने के अन्य उदाहरण पा सकते हैं - उदाहरण के लिए, वीडियो पर विभिन्न कोणों से ली गई कार संख्या को पहचानने की क्षमता, या कैमरा रिकॉर्ड का उपयोग करके किसी व्यक्ति के पथ को ट्रैक करना ।

शायद कंप्यूटर दृष्टि सेवा की अधिक सकारात्मक छवि की तलाश में, अमेज़ॅन ने हिंसा और अभद्रता को खत्म करने के लिए उपयोगकर्ता सामग्री की निगरानी के लिए पहले Rekognition का उपयोग करने के बारे में बात की थी। सेवा आपको साइट पर अपलोड की गई छवियों और वीडियो पर असुरक्षित या अप्रिय सामग्री को पहचानने की अनुमति देती है।

और यह व्यवसाय बढ़ रहा है। अमेजन के वाइस प्रेसिडेंट, स्वामी शिवसुब्रमण्यन, अमेजन ने मुझे बताया कि यूजर-जनरेट कंटेंट की भूमिका साल-दर-साल बढ़ती जा रही है। आज हम अपने दोस्तों और रिश्तेदारों के साथ सोशल नेटवर्क पर रोजाना 2-3 तस्वीरें शेयर करते हैं। शिवसुब्रमण्यन कहते हैं कि अमेज़ॅन ने 2017 में ग्राहकों के अनुरोधों के जवाब में सामग्री मॉडरेशन सेवाओं की पेशकश शुरू की।

कंपनियां डाउनलोड करने योग्य छवियों का अध्ययन करने के लिए लोगों को काम पर रखने के बजाय पुन: मान्यता के लिए भुगतान कर सकती हैं। AWS के साथ अन्य सेवाओं की तरह, यह एक पे-पर-यूज़ मॉडल पर काम करता है, और इसकी लागत तंत्रिका नेटवर्क द्वारा संसाधित छवियों की संख्या पर निर्भर करती है।

यह आश्चर्य की बात नहीं है कि डेटिंग सेवाएं सामग्री प्रबंधन के पहले उपयोगकर्ताओं में से थीं - उन्हें उपयोगकर्ता प्रोफाइल पर अपलोड की गई सेल्फी को जल्दी से संसाधित करने की आवश्यकता है। अमेज़ॅन का कहना है कि डेटिंग साइटें कॉफी मीट्स बागेल और शैदी इस सेवा का उपयोग सिर्फ इस उद्देश्य के लिए करती हैं - पुर्तगाली आत्मा साइट की तरह, जो लोगों को डेटिंग साइटों की मदद करती है।

एआई न केवल नग्नता की तलाश में है। तंत्रिका नेटवर्क को हथियारों या हिंसा या आमतौर पर अप्रिय छवियों की छवियों सहित किसी भी संदिग्ध सामग्री को पहचानने के लिए प्रशिक्षित किया गया था। यहाँ मान्यता स्थल से वर्गीकरण मेनू है:

स्पष्ट नग्नता:

• नग्न शरीर;
• एक नग्न पुरुष शरीर का ग्राफिक चित्रण;
• एक नग्न महिला शरीर की ग्राफिक छवि;
• यौन गतिविधि;
• नग्नता या यौन गतिविधि का प्रदर्शन
• वयस्कों के लिए खिलौने।

संदिग्ध सामग्री:

• महिलाओं का स्विमिंग सूट या अंडरवियर;
• पुरुषों की तैराकी चड्डी या अंडरवियर;
• आंशिक रूप से नग्न शरीर;
• स्पष्ट वस्त्र।

सामग्री का प्रदर्शन हिंसा:

• हिंसा या रक्त का ग्राफिक प्रतिनिधित्व;
• शारीरिक शोषण;
• बंदूक हिंसा;
• हथियारों;
• स्वयं को चोट पहुँचाना।

विचलित दृश्य सामग्री:

• क्षीण शरीर;
• लाशों;
• फांसी।

यह कैसे काम करता है

AWS की हर चीज की तरह, Rekognition क्लाउड में चलता है। कंपनी सेवा को बता सकती है कि उसे किस तरह की छवियां ढूंढनी हैं। फिर यह उपयोगकर्ताओं से प्राप्त फ़ोटो और वीडियो को फीड करता है - जो कई मामलों में वैसे भी AWS सर्वर पर संग्रहीत किया जा सकता है।

तंत्रिका नेटवर्क छवियों को संसाधित करता है, इस सामग्री की खोज करता है और किसी भी संभावित अप्रिय लोगों को नोट करता है। तंत्रिका नेटवर्क छवियों की सामग्री का वर्णन मेटाडेटा का उत्पादन करता है, साथ ही जारी किए गए लेबल में विश्वास का प्रतिशत भी होता है। यह कुछ इस तरह दिखता है:



यह डेटा पहले से ही क्लाइंट-साइड प्रोग्राम द्वारा संसाधित किया जाता है, जो तय करता है, प्रोग्राम किए गए व्यावसायिक नियमों के आधार पर, संसाधित छवि के साथ क्या करना है। यह स्वचालित रूप से इसे हटा सकता है, छोड़ सकता है, इसका हिस्सा धुंधला कर सकता है, या इसे समीक्षा के लिए मॉडरेटर को भेज सकता है।

डीप इमेज प्रोसेसिंग न्यूरल नेटवर्क में कई परतें होती हैं। उनमें से प्रत्येक छवियों के विभिन्न पहलुओं का प्रतिनिधित्व करने वाले डेटा का मूल्यांकन करता है, गणना करता है और परिणाम को अगली परत पर भेजता है। सबसे पहले, नेटवर्क निम्न स्तर की जानकारी जैसे मूल रूपों या किसी छवि में किसी व्यक्ति की उपस्थिति को संसाधित करता है।

शिवसुब्रमण्यन बताते हैं, "तब वह लगातार डेटा को अधिक से अधिक परिष्कृत करती है, अगली परतें और अधिक विशिष्ट हो जाती हैं।" धीरे-धीरे, परत दर परत, तंत्रिका नेटवर्क छवियों की सामग्री को कभी-कभी निश्चितता के साथ निर्धारित करता है।

एआई मैट वुड के एडब्ल्यूएस उपाध्यक्ष का कहना है कि उनकी टीम विभिन्न सेटों से लाखों निजी और सार्वजनिक रूप से सुलभ चित्रों पर कंप्यूटर विज़न मॉडल का प्रशिक्षण दे रही है। उनका कहना है कि अमेज़न इस उद्देश्य के लिए उपयोगकर्ताओं से प्राप्त छवियों का उपयोग नहीं करता है।

फ्रेम से ढँका

कुछ सबसे बड़े Rekognition क्लाइंट इस सेवा का उपयोग उपयोगकर्ता-जनित सामग्री को मॉडरेट करने के लिए नहीं करते हैं। अमेज़ॅन का कहना है कि बड़ी डिजिटल वीडियो लाइब्रेरी वाली प्रमुख मीडिया कंपनियां इन वीडियो से प्रत्येक फ्रेम की सामग्री जानना चाहती हैं। रेकग्निशन न्यूरल नेटवर्क वीडियो के हर सेकंड को प्रोसेस कर सकता है, मेटाडेटा का उपयोग करके इसका वर्णन कर सकता है, और संभावित खतरनाक छवियों को फ़्लैग कर सकता है।

"कार्यों में से एक है जो मशीन लर्निंग अच्छी तरह से वीडियो या छवियों में मिलता है और अतिरिक्त संदर्भ प्रदान करता है," वुड मुझसे कहता है। "यह कह सकते हैं कि 'इस वीडियो में, एक महिला कुत्ते के साथ झील के किनारे पर चलती है,' या 'एक आंशिक रूप से कपड़े पहने आदमी को चित्रित किया गया है।" इस मोड में, वे कहते हैं, तंत्रिका नेटवर्क उच्च सटीकता के साथ छवियों में खतरनाक, विषाक्त या अशोभनीय सामग्री को पहचानने में सक्षम है।

और फिर भी कंप्यूटर दृष्टि का यह क्षेत्र अभी तक अपनी परिपक्वता तक नहीं पहुंच पाया है। वैज्ञानिक अभी भी तंत्रिका नेटवर्क एल्गोरिदम को अनुकूलित करने के लिए नए तरीके खोज रहे हैं ताकि वे छवियों को और भी अधिक सटीक और अधिक विस्तार से पहचान सकें। वुड कहते हैं, "हम अभी तक कम मुनाफे की स्थिति में नहीं पहुंचे हैं।"

शिवसुब्रमण्यन ने मुझे बताया कि पिछले महीने ही कंप्यूटर विज़न पर काम करने वाली टीम ने झूठी सकारात्मकता (जब छवि को गलत तरीके से खतरनाक माना जाता है) की संख्या में 68% की कमी की है, और झूठी नकारात्मक की संख्या - 36% से। "हमारे पास इन एपीआई की सटीकता में सुधार करने का अवसर है," वे कहते हैं।

सटीकता के अलावा, ग्राहक छवियों के अधिक विस्तृत वर्गीकरण के लिए पूछ रहे हैं। AWS वेबसाइट का कहना है कि सेवा केवल मुख्य श्रेणी और असुरक्षित छवियों की एक उपश्रेणी प्रदान करती है। इसलिए, उदाहरण के लिए, सिस्टम यह दे सकता है कि छवि में मुख्य श्रेणी के रूप में नग्नता है, और यौन एक उपश्रेणी के रूप में काम करता है। तीसरी उपश्रेणी में यौन गतिविधि के प्रकार का वर्गीकरण हो सकता है।

"अब तक, मशीन तथ्यों के लिए प्रवण है और शाब्दिक रूप से काम करती है - यह आपको बताएगी कि 'यह वहां दिखाया गया है," पिएत्रो पेरोना ने कहा, कैलटेक से कंप्यूटिंग और न्यूरल सिस्टम के प्रोफेसर, एडब्ल्यूएस के सलाहकार हैं। - लेकिन वैज्ञानिक इस ढांचे से आगे जाना चाहेंगे, और न केवल यह दर्शाएंगे कि वहां क्या दर्शाया गया है, बल्कि यह भी है कि ये लोग क्या सोचते हैं। नतीजतन, यह क्षेत्र इस दिशा में विकास करना चाहता है - न कि चित्र में दिखाए गए चीजों की एक सूची दें। "

और इस तरह के सूक्ष्म अंतर सामग्री मॉडरेशन के लिए महत्वपूर्ण हो सकते हैं। क्या छवि में संभावित रूप से आपत्तिजनक सामग्री है या नहीं यह वहां दर्शाए गए लोगों के इरादों पर निर्भर हो सकता है।

यहां तक ​​कि "असुरक्षित" और "अपमानजनक" छवियों की बहुत परिभाषाएं बहुत धुंधली हैं। वे समय के साथ बदल सकते हैं और भौगोलिक क्षेत्र पर निर्भर हो सकते हैं। और संदर्भ सब कुछ है, पेरोना बताते हैं। हिंसा की छवियाँ एक अच्छा उदाहरण हैं।

पेरोना का कहना है, "हिंसा एक संदर्भ में अस्वीकार्य हो सकती है, जैसे कि सीरिया में वास्तविक हिंसा," लेकिन एक फुटबॉल मैच या टारनटिनो फिल्म के एक दृश्य की तरह स्वीकार्य है।

अन्य एडब्ल्यूएस सेवाओं के साथ, अमेज़ॅन केवल दूसरों को सामग्री मॉडरेशन टूल नहीं बेचता है: यह अपना ग्राहक है। कंपनी का कहना है कि वह इस सेवा का उपयोग उपयोगकर्ता-निर्मित सामग्री को छवियों और वीडियो में सॉर्ट करने के लिए करती है जो समीक्षाओं को संग्रहीत करने के लिए संलग्न हैं।