YouTube कर्मचारी वीडियो पर नफ़रत की तलाश करते हैं। एआई देखता है और सीखता है

पोलैंड फिल्म के राष्ट्रवादी पुनरुद्धार के बगल में बीबीसी फिल्म का विज्ञापन

हर दिन, संयुक्त राज्य अमेरिका (और शायद विदेशों में) के विभिन्न हिस्सों में सैकड़ों लोग अपने कंप्यूटर चालू करते हैं और YouTube देखना शुरू करते हैं। लेकिन वे इसे आनंद के लिए नहीं करते हैं, इसके विपरीत। लोग इस नौकरी से बीमार हैं, लेकिन ये Google के अस्थायी नियोक्ता की आवश्यकताएं हैं - उन्हें वीडियो देखना, घृणित शब्दों और कैप्शन की तलाश करना, वीडियो को "आक्रामक" या "संवेदनशील" के रूप में चिह्नित करना चाहिए। सभी आदेशों में, भगवान ने मना किया, एक प्रमुख विज्ञापनदाता के विज्ञापन, जो तब आर्थिक रूप से समर्थन करने वाले नस्लवादियों और इसी तरह के पापों के लिए घुट जाएंगे, ऐसे वीडियो में नहीं मिलते। इसका सामना वॉलमार्ट, पेप्सीको और वेराइजन सहित अन्य को करना पड़ा।

YouTube और Google ने हाल ही में बाज़ार में एरिक फ़िनबर्ग की गतिविधियों के बारे में खुद को घोटाले के केंद्र में पाया, जो इंटरनेट पर बुराई को मिटाने के लिए सेट करते हैं - उन साइटों और वीडियो को वितरित करते हैं जो घृणित समूहों और समुदायों से मेल खाते हैं जैसे "यहूदियों को मार डालो"। फ़िनबर्ग ने YouTube पर ऐसी साइटों और वीडियो के लिंक और स्क्रीनशॉट प्रकाशित किए, जो प्रसिद्ध ब्रांडों सहित विज्ञापनों को रखकर सफलतापूर्वक कमाते हैं। एक्टिविस्ट की बदौलत यह समस्या राष्ट्रीय मीडिया के स्तर तक पहुंच गई, कई उदाहरणों से यह पता चला कि किसी वीडियो में किसी विशेष कंपनी का विज्ञापन किस तरह बेईमानी या घृणास्पद बयानों के साथ दिखाई देता है।

नतीजतन, YouTube को उस सामग्री के सत्यापन को कसने के लिए मजबूर किया गया था जिस पर विज्ञापन रखे जाते हैं। आधिकारिक ब्लॉग पर Google ने वादा किया कि वह अधिक लोगों को भर्ती करेगा जो विज्ञापनों को अनुचित सामग्री वाले पृष्ठों पर प्रदर्शित होने से रोकने के लिए नियमों के अनुपालन की निगरानी करेंगे।

Google ने अपना वादा रखा - अस्थायी कर्मचारियों को काम पर रखने के लिए ज़ीरोचोस और अन्य तृतीय-पक्ष एजेंसियों के माध्यम से बहुत सारे अस्थायी कर्मचारियों ("टेम्पो") को काम पर रखा। वे दूरस्थ रूप से काम करते हैं और अपने घरों से YouTube वीडियो देखते हैं, आक्रामक सामग्री को टैग और वर्गीकृत करते हैं।

बेशक, एक हजार "गति" भी उन सभी वीडियो को नहीं देख पाएगी जो मानवता YouTube पर अपलोड करती है। नवीनतम आंकड़ों के अनुसार, प्रति मिनट 400 घंटे के वीडियो डाउनलोड किए जाते हैं , जो लगभग 600,000 घंटे प्रति दिन है। यदि हम मानते हैं कि वीडियो का मूल्यांकन करने के लिए आपको इसकी अवधि का 10% देखने की आवश्यकता है, तो कुल मॉडरेशन के लिए 8 घंटे की शिफ्ट में काम करने वाले 7,500 कर्मचारियों की उपस्थिति की आवश्यकता होगी ( $$$(600000/10) / 8 = $ 750$ )। कर्मचारियों की इस राशि का भुगतान करने के लिए एक दिन में लगभग एक मिलियन डॉलर लगेंगे।

इसलिए Google एक सामान्य सिलिकॉन AI सिस्टम को एकीकृत करने से पहले प्रोटीन स्टाफ को एक अस्थायी समाधान के रूप में देखता है जो वीडियो को गुणवत्ता के तरीके से वर्गीकृत करेगा। वास्तव में, अब "गति" तंत्रिका नेटवर्क के उदाहरणों का उपयोग करके प्रशिक्षण ले रही है, यह "आक्रामक" और "नाजुक" वीडियो के नमूने दिखाती है।

एरिक फ़िनबर्ग ने कहा कि अनुसंधान के वर्षों में "हजारों शब्दों और वाक्यांशों का एक डेटाबेस संकलित किया गया है जो विले गतिविधि से जुड़े हैं।" उदाहरण के लिए, इन शब्दों में से एक सर्बियाई शब्द "हनवा" है, जो जिहादियों की गतिविधि से संबंधित है। उनकी राय में, Google को इस तरह के आधार को संकलित करने में बहुत लंबा समय लगेगा, इसलिए इससे लाइसेंस खरीदना बेहतर है। लेकिन Google, जैसा कि हम देखते हैं, अपने तरीके से चला गया है। ब्लूमबर्ग के साथ हाल ही में एक साक्षात्कार में, Google बिक्री निदेशक, फिलिप शिंडलर ने स्पष्ट रूप से कहा कि समस्या को लोगों द्वारा हल नहीं किया जा सकता है और न ही लोगों की मदद से हल किया जा सकता है।

वीडियो को रेट करने वाले कर्मचारी अच्छी तरह से जानते हैं कि वे एआई को प्रशिक्षित करते हैं। इसी समय, कर्मचारियों को भरोसा है कि एआई कार्य के साथ सामना नहीं करेगा, क्योंकि इस तरह की सामग्री का वर्गीकरण एक बहुत ही नाजुक मामला है। वे कहते हैं कि मानव आंखों और एक मानव मस्तिष्क की आवश्यकता होती है, जो यह बताता है कि कौन सी सामग्री आक्रामक है। इस संबंध में, मुझे अमेरिकी न्यायाधीश " मुझे पता है कि जब मैं इसे देखता हूं " से अश्लीलता की पंखों वाली परिभाषा को याद करता हूं ।

लेकिन Google अलग तरीके से सोचता है, और अब, वीडियो को वर्गीकृत करते समय, उन्हें मध्यस्थों के अधिकतम प्रदर्शन की आवश्यकता होती है। प्राथमिकताएं बदल गई हैं, अब प्रदर्शन सटीकता से अधिक पूर्वता लेता है, कुछ मामलों में उन्हें देखने के कुछ मिनटों के बाद प्रति घंटा वीडियो के लिए रेटिंग की आवश्यकता होती है। समय बचाने के लिए मॉडरेटर अलग-अलग तरीकों का उपयोग करते हैं: जल्दी से शीर्षक स्कैन करें, 10 सेकंड के लिए झटके में वीडियो के माध्यम से स्क्रॉल करें। वे एक टाइमर के साथ काम करते हैं जो लगातार कार्य पर खर्च किए गए समय और अनुमानित समय सीमा को दर्शाता है। परिणामस्वरूप, न केवल वीडियो को "अनुपयुक्त" के रूप में चिह्नित करना आवश्यक है, बल्कि एक विशिष्ट श्रेणी को इंगित करने के लिए: "अनुचित भाषा" (उपश्रेणियाँ: अपवित्रता, घृणा के लिए उकसाना), "क्रूरता" (उपश्रेणियाँ: आतंकवाद, युद्ध और संघर्ष, मृत्यु और त्रासदी, आदि)। , "ड्रग्स", "सेक्स / नग्नता" (उपश्रेणियाँ: आक्रामक सामग्री, नग्नता, अन्य)। अगर कोई उत्तेजक वीडियो या "सनसनीखेज और चौंकाने वाला" कंटेंट दिखाया जाता है, तो मॉडरेटर को "अन्य संवेदनशील सामग्री" भी इंगित करनी चाहिए। कुछ सामग्री बस इन श्रेणियों में फिट नहीं होती हैं, जो मध्यस्थों के काम को जटिल बनाती हैं। यह निर्धारित करना विशेष रूप से मुश्किल है जब एक वीडियो में लोग एक विदेशी भाषा बोलते हैं (Google सक्रिय रूप से विदेशी भाषाओं के ज्ञान के साथ मध्यस्थों की भर्ती कर रहा है)।

Google मॉडरेटरों की गुणवत्ता की जांच करने के लिए एक प्रसिद्ध उत्तर के साथ परीक्षण वस्तुओं को भी इंजेक्ट करता है।

मध्यस्थों का कहना है कि उन्होंने पहले से ही सभी को पर्याप्त देखा है: आत्महत्या और ऐसी क्रूरता, जिसे देखने के बाद ठीक होने में कई घंटे लगते हैं।

2004 में कंटेंट रेटिंग प्रोग्राम के लॉन्च के बाद, ABE ने "रिमोट" पर कड़ी मेहनत के लिए प्रति घंटे 20 डॉलर का भुगतान किया। यदि तंत्रिकाएं झेल सकती हैं, तो ओवरटाइम काम कर सकता है। तब ABE ने WorkForceLogic का अधिग्रहण किया, और 2012 में उत्तरार्द्ध ने ZeroChaos का अधिग्रहण किया। आज तक, काम करने की स्थिति खराब हो गई है: वेतन को अपमानजनक $ 15 प्रति घंटे तक घटा दिया गया था, और अधिकतम कामकाजी सप्ताह 29 घंटे तक सीमित था। इन Google कर्मचारियों ने छुट्टियों का भुगतान नहीं किया है, वे किसी भी समय अपनी नौकरी खो सकते हैं। और सबसे दुखद बात यह है कि हर दिन वे अपनी बर्खास्तगी को करीब लाते हैं, जबकि वे खुद मशीन को अपना काम करने के लिए प्रशिक्षित करते हैं।