फेसबुक मॉडरेटर गाइड: परस्पर विरोधी स्लाइड के 1,400 से अधिक पृष्ठ

मैनुअल बताता है कि कौन से इमोटिकॉन्स को खतरा माना जा सकता है या विशिष्ट समूहों के संदर्भ में, घृणा को उकसाने के लिए।

आलोचना की आग के तहत, फेसबुक को उदारवादी सामग्री के लिए उपाय करने के लिए मजबूर किया जाता है। लेकिन यह कार्य उतना सरल नहीं है जितना लगता है। मीडिया को फेसबुक मॉडरेटर्स के लिए एक आंतरिक मैनुअल मिला: ये 1400 (!) निर्देशों के पृष्ठ हैं, जिन्हें समझना कभी-कभी बहुत मुश्किल होता है, NY टाइम्स लिखता है ।

आज, राजनेता और सार्वजनिक संगठन सोशल नेटवर्क पर घृणा और गलत सूचना भड़काने का आरोप लगाते हैं। फेसबुक के लिए, यह मुख्य रूप से एक वित्तीय समस्या है, क्योंकि इस तरह के आरोपों से नकारात्मक पृष्ठभूमि बनती है और स्टॉक की कीमत पर प्रतिकूल प्रभाव पड़ सकता है, जिसका मतलब है कि कंपनी के मालिकों और कर्मचारियों का कल्याण।

फेसबुक, जो प्रति तिमाही लगभग 5 बिलियन डॉलर कमाता है, को सभी को यह दिखाना चाहिए कि यह दुर्भावनापूर्ण सामग्री के खिलाफ लड़ाई को गंभीरता से लेता है। लेकिन उपयोगकर्ता आधार का विस्तार करने के लिए लगातार 100 से अधिक भाषाओं में प्रति दिन अरबों संदेशों को कैसे ट्रैक किया जाए, जो व्यापार की नींव है? कंपनी का निर्णय: मॉडरेटर्स का एक नेटवर्क जो एक PowerPoint स्लाइड भूलभुलैया द्वारा निषिद्ध सामग्री की व्याख्या कर रहा है।

"हर मंगलवार सुबह, कई दर्जन फेसबुक कर्मचारी नए नियमों के साथ आने के लिए नाश्ते के लिए इकट्ठा होते हैं और चर्चा करते हैं कि साइट के दो बिलियन उपयोगकर्ताओं को क्या कहने की अनुमति है," एनवाई टाइम्स लिखता है। "बैठकों के परिणामों के आधार पर, प्रासंगिक नियमों को दुनिया भर के 7,500 से अधिक मध्यस्थों को भेजा जाता है।" अखबार में 1,400 से अधिक नियम पुस्तिकाएं हैं। जानकारी उन कर्मचारियों में से एक द्वारा प्रदान की गई थी जो अत्यधिक मॉडरेशन के बारे में चिंतित हैं और बहुत सी गलतियां हैं जो कंपनी सामग्री को मॉडरेट करते समय करती है।

दस्तावेजों की जांच से कई अंतराल, पूर्वाग्रहों और स्पष्ट त्रुटियों का पता चला। जाहिर है, नियम विभिन्न भाषाओं और देशों के लिए भिन्न होते हैं, जिसके परिणामस्वरूप कुछ क्षेत्रों में अभद्र भाषा पनप सकती है और अनावश्यक रूप से दूसरों में दबा दी जा सकती है। उदाहरण के लिए, जब एक बार मॉडरेटर्स को इंडोनेशिया में ज्वालामुखी के पीड़ितों के लिए धन उगाहने वाले कॉल को हटाने के लिए कहा गया था, क्योंकि धन उगाहने वाले आयोजकों में से एक प्रतिबंधित फेसबुक समूहों के ब्लैकलिस्ट पर था। भारत में, मध्यस्थों को गलती से धर्म की आलोचना करने वाली टिप्पणियों को हटाने के लिए कहा गया था। म्यांमार में, चरमपंथी समूह फेसबुक दस्तावेज़ में गलती के कारण कई महीनों तक सक्रिय रहा।


मध्यस्थों के लिए फेसबुक मैनुअल से स्क्रीनशॉट

पॉप-अप डॉक्युमेंटेशन को देखते हुए, फेसबुक सरल हाँ या कोई नियम के रूप में मध्यस्थों के लिए सिद्धांतों को बनाने की कोशिश कर रहा है। फिर कंपनी वास्तविक मॉडरेशन को तीसरे पक्ष की कंपनियों को स्थानांतरित करती है। वे मुख्य रूप से अकुशल श्रमिकों को आकर्षित करते हैं, जिनमें से कई कॉल सेंटर (कुख्यात "भारतीय समर्थन" में काम करते हैं - ये कर्मचारी हैं जो मॉडरेशन में शामिल हैं)।

अक्सर मॉडरेटर काम करने के लिए Google अनुवाद पर भरोसा करते हैं। उनके प्रदर्शन की आवश्यकताएं ऐसी हैं कि उन्हें कुछ सेकंड के भीतर अनगिनत नियमों को याद रखना चाहिए और उन्हें उन सैकड़ों संदेशों पर लागू करना चाहिए जो हर दिन उनके कंप्यूटर पर दिखाई देते हैं। उदाहरण के लिए, जिन इमोटिकॉन में जिहाद का उल्लेख निषिद्ध है, उन नियमों को जल्दी से याद करने के लिए।



मध्यस्थों के लिए फेसबुक मैनुअल से एक स्क्रीनशॉट, जो अभद्र भाषा के संकेतों की व्याख्या करता है। यहूदियों और चूहों के बीच तुलना सहित छह "अमानवीय तुलना" के आधार पर मध्यस्थों को "गंभीरता" के तीन स्तरों की पहचान करनी चाहिए। जनरल हेट स्पीकिंग गाइड 200 पेज

कुछ मध्यस्थ कहते हैं कि नियम बहुत प्रभावी नहीं हैं, और कभी-कभी अर्थहीन होते हैं। हालांकि, कंपनी के प्रबंधन का मानना ​​है कि यह अन्यथा नहीं है: "हमारे पास एक दिन में अरबों संदेश हैं, और हम अपनी तकनीकी प्रणालियों का उपयोग करके अधिक से अधिक संभावित उल्लंघनों की पहचान कर रहे हैं," मोनिका बिकर्ट, फेसबुक ग्लोबल पॉलिसी डायरेक्टर कहते हैं। "इस तरह के पैमाने पर, यहां तक ​​कि 99% सटीकता बहुत सारी गलतियों को छोड़ देती है।"

प्रेस को हिट करने वाला फेसबुक मैनुअल एक स्पष्ट मार्गदर्शक की तरह नहीं दिखता है। इसमें दर्जनों खंडित PowerPoint प्रस्तुतियाँ और एक्सेल स्प्रेडशीट नौकरशाही सुर्खियों के साथ हैं जैसे कि "पश्चिमी बाल्कन नफरत संगठन और व्यक्ति" या "स्पष्ट हिंसा: कार्यान्वयन मानक"। यह कंपनी के विभिन्न विभागों द्वारा स्थापित नियमों का एक प्रकार का "पैचवर्क" है। फेसबुक ने दस्तावेजों की प्रामाणिकता की पुष्टि की, हालांकि यह कहा कि उनमें से कुछ एनवाई टाइम्स के कब्जे में आए संस्करण की तुलना में अपडेट किए गए थे। फेसबुक का कहना है कि फाइलें केवल प्रशिक्षण उद्देश्यों के लिए हैं, लेकिन मध्यस्थ कहते हैं कि वे वास्तव में रोजमर्रा के काम में संदर्भ सामग्री के रूप में उपयोग किए जाते हैं।