यह उस तरह का इंटरनेट है जो हम चाहते हैं: सोशल मीडिया एक घातक हथियार में बदल गया

हम पहले से ही इस तथ्य के अभ्यस्त हैं कि पश्चिमी देशों में सामाजिक नेटवर्क चुनाव और राजनीति को प्रभावित करते हैं। लेकिन वे लोगों को उनके जीवन का खर्च दे सकते हैं, और अभी तक कोई समाधान नहीं है।


मार्च 2019 में, न्यूजीलैंड में दो मस्जिदों में 49 लोग मारे गए थे। नरसंहार के आयोजकों ने इसे सोशल नेटवर्क पर प्रसारित किया ताकि अधिक से अधिक लोगों का ध्यान आकर्षित किया जा सके। पैट्रिक क्रूसियस स्क्रीन के दूसरी तरफ दर्शकों में से थे, जिन्होंने जो कुछ भी देखा, उसकी छाप के तहत, 4 अगस्त को एल पासो में वॉलमार्ट डिपार्टमेंट स्टोर में एक सामूहिक शूटिंग का मंचन किया , जिसमें 21 लोग मारे गए और 26 से अधिक घायल हो गए। जांचकर्ताओं का दावा है कि संदिग्ध ने त्रासदी से पहले कई महीनों के बारे में जानकारी पोस्ट की थी। नेटवर्क पर चरमपंथी संसाधनों में से एक पर उनका इरादा , जहां उन्होंने अन्य बातों के अलावा, न्यूजीलैंड के एक लड़ाकू के लिए समर्थन व्यक्त किया। आपदा के कारणों की जांच के बाद, फ्रांस और न्यूजीलैंड ने अन्य देशों और प्रौद्योगिकी कंपनियों की ओर रुख किया, ताकि उन प्रौद्योगिकियों को खोजा जा सके जो इस तरह की सामग्री के वितरण को रोकती हैं। इस पहल को 17 देशों, यूरोपीय संघ और 8 प्रमुख प्रौद्योगिकी कंपनियों ने समर्थन किया , जिनमें Google और फेसबुक शामिल हैं।

अप्रैल 2019 में, श्रीलंका में विस्फोटों की एक श्रृंखला में 200 से अधिक लोग मारे गए । अधिकारियों का कहना है कि उन्होंने सोशल मीडिया हिंसा को बढ़ावा देने के संभावित परिणामों के बारे में फेसबुक को चेतावनी दी । समझ हासिल नहीं की गई थी, और मानव हताहतों के परिणामस्वरूप, फेसबुक और व्हाट्सएप सहित कई सामाजिक नेटवर्क और तत्काल दूतों तक पहुंच को अवरुद्ध करने का निर्णय लिया गया था। अधिकारियों के अनुसार, घटनाओं के बारे में गलत सूचना के प्रसार से देश में हिंसा बढ़ सकती है।

हिंसा के प्रकोप के दौरान सामाजिक नेटवर्क और त्वरित संदेशवाहकों को अवरुद्ध करना अधिक बार होता है। उदाहरण के लिए, 2018 की गर्मियों में, व्हाट्सएप अपहरण की अफवाहों के वायरल प्रसार ने भारत में संघर्ष की एक श्रृंखला को उकसाया। और फरवरी 2019 में, फेसबुक, इंस्टाग्राम और व्हाट्सएप पर फैलने वाली गलत सूचना ने भारत और पाकिस्तान के बीच तनाव बढ़ा दिया। अब, भारत में अधिकारियों को डर है कि फेसबुक के माध्यम से फर्जी खबरें फैलाने से आगामी चुनावों के दौरान स्थिति बिगड़ सकती है। अधिक विकसित देशों में ऑनलाइन नस्लों की हिंसा: मैक्सिको , संयुक्त राज्य अमेरिका और जर्मनी में ।

एक ओर, जब सरकारें सामाजिक नेटवर्क को अवरुद्ध करती हैं, तो इसे बोलने की स्वतंत्रता को प्रतिबंधित करने का प्रयास माना जाता है। लेकिन दूसरी ओर, उपरोक्त मामले दिखाते हैं कि हिंसा और जीवन की हानि को रोकने के लिए सामाजिक नेटवर्क को डिस्कनेक्ट करना देशों के लिए एकमात्र उपकरण है। सामाजिक नेटवर्क कैसे आक्रामक वातावरण में बदल गए हैं और क्या इंटरनेट को बंद किए बिना हिंसा को रोकने का एक तरीका है?

जातीय सफाये से लेकर आतंकवादी हमले तक

संयुक्त राष्ट्र के अध्ययन से पता चला है कि फेसबुक ने म्यांमार में पड़ोसी देश श्रीलंका में मुस्लिम विरोधी भावना के उदय में एक "निर्धारित भूमिका" निभाई। सामाजिक नेटवर्क में अफवाहों के प्रसार से आबादी के बीच हताहत हुए : म्यांमार के सामाजिक नेटवर्क में मुस्लिम-विरोधी उन्माद एक पूर्ण पैमाने पर जातीय सफाई में बदल गया। सरकारी बलों ने देश में रोहिंग्या जातीय समूह के खिलाफ प्रचार करने के लिए कई वर्षों से फेसबुक का उपयोग किया है। डॉक्टर्स विदाउट बॉर्डर्स की एक रिपोर्ट के अनुसार , वास्तविक दुनिया में कम से कम 6,700 लोग इसके शिकार बने। नवंबर 2018 में, फेसबुक ने म्यांमार में जो कुछ भी हो रहा था उसका स्वतंत्र मूल्यांकन प्रकाशित किया और स्वीकार किया कि कंपनी ने अपने मंच को वास्तविक जीवन में असहमति और हिंसा को उकसाने से रोकने के लिए पर्याप्त नहीं किया।

श्रीलंका में आतंकवादी हमलों से एक साल पहले, सोशल नेटवर्क में झूठी अफवाहों ने बौद्धों को मुसलमानों के खिलाफ बोलने के लिए उकसाया था: समाचार फ़ीड फेसबुक ने भी एक घातक भूमिका निभाई थी । साथ ही, देश की सरकार कई वर्षों के गृह युद्ध के बाद लोकतंत्र की स्थापना में मदद करने के लिए सामाजिक नेटवर्क की सराहना करती है, इसलिए नस्लीय घृणा को उकसाने के लिए उनकी आलोचना को उद्देश्य माना जा सकता है। फेसबुक के प्रतिनिधियों ने सरकार की आलोचना का जवाब नहीं दिया जब तक कि देश में उनके संसाधन तक पहुंच अवरुद्ध नहीं हो गई। इसके बाद ही, अमेरिकी कंपनी ने अधिक मध्यस्थों को नियुक्त करने और स्थानीय अधिकारियों के साथ बातचीत में सुधार करने का वादा किया।

मौत एल्गोरिदम

प्रकाशकों के विशाल बहुमत और वेब पर चरम सामग्री के वितरक वास्तविक जीवन में घृणा अपराध नहीं करते हैं। लेकिन जो घृणा अपराध होते हैं, वे अक्सर ऑनलाइन इंस्टीगेटर्स की गतिविधियों से संबंधित होते हैं। रूसी वैज्ञानिकों द्वारा गणना किए गए सामाजिक व्यवहार के गणितीय मॉडल से पता चलता है कि एक महत्वपूर्ण मोड़ है, जिसके बाद कुछ लोग इंटरनेट द्वारा बनाए गए वास्तविकता के विकृत संस्करण से इतने अधिक प्रभावित हो जाते हैं कि यह कार्य करना शुरू कर देता है।

ग्रेट ब्रिटेन में वारविक विश्वविद्यालय के एक अध्ययन में पाया गया कि जर्मनी में 2015 से 2017 के बीच शरणार्थियों पर हमले के बीच उच्च Facebook लोकप्रियता वाले क्षेत्रों में और दूर सही लोकलुभावन पार्टी "जर्मनी के लिए वैकल्पिक" (AfD) के प्रसार के साथ शरणार्थियों के खिलाफ पोस्ट मिला । 3335 हमलों में से, 3171 नगरपालिकाओं में उच्च ऑनलाइन खतरे की गतिविधि के साथ हुए। जर्मनी के केमित्ज़ में, ट्विटर और फ़ेसबुक पर हत्यारे प्रवासियों के बारे में झूठी अफवाहों के कारण बड़े पैमाने पर प्रदर्शन हुए , अगस्त 2018 में 6,000 प्रतिभागी एकत्रित हुए।

वायरल सामग्री प्रदान करने वाली तकनीकों और प्लेटफार्मों तक पहुंचना इतना मुश्किल नहीं है। लगभग 3 मिलियन लोगों द्वारा लिखी गई 126,000 से अधिक पोस्ट के मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT) द्वारा किए गए एक अध्ययन से पता चला कि सोशल मीडिया पर झूठ बहुत तेजी से फैलता है और सूचना की सभी श्रेणियों में सच्चाई की तुलना में अधिक व्यापक रूप से फैलता है। सोशल नेटवर्क के प्रभाव को तथाकथित वैचारिक बुलबुले द्वारा प्रबलित किया जाता है: जब तक संभव हो अपनी साइट पर लोगों का ध्यान रखने के लिए, फेसबुक और यूट्यूब जैसी कंपनियां एल्गोरिदम का उपयोग करती हैं जो उपयोगकर्ता को संभावित रूप से सबसे दिलचस्प पोस्ट की सलाह देती हैं। यदि सिस्टम किसी वीडियो की लोकप्रियता को कैप्चर करता है, तो वह इसे अधिक वितरित करता है, और इसके परिणामस्वरूप, सामग्री को अधिक दृश्य मिलते हैं, और YouTube इस तथ्य के कारण अधिक धन प्राप्त करता है कि उपयोगकर्ता संसाधन पर अधिक समय बिताते हैं और अधिक विज्ञापन देखते हैं।

वैचारिक बुलबुले में उपयोगकर्ताओं को दुनिया का एक संस्करण दिखाई देता है जिसमें उनके विचार कभी विवादित नहीं होते हैं, और विरोधी राय नहीं मिलती है। YouTube का दर्शक रूसी समाजशास्त्रियों के " सूचना टकराव " के मॉडल में मानी जाने वाली स्थितियों में आता है: उपयोगकर्ता वैकल्पिक बिंदुओं के रूप में एक अड़चन का सामना नहीं करता है। यह अनुयायियों का एक अत्यंत घनिष्ठ और निष्ठावान चक्र बनाता है जो अगर ऐसा होता है तो अधिक कट्टरपंथी एजेंडे की नकल करने के लिए तैयार हैं। इन जैसे बुलबुले "टिपिंग पॉइंट्स" लाते हैं, जिसमें हिंसा फैलती है।

इंजीनियर गुइलूम चासलो, जिन्होंने तीन साल के लिए YouTube की सिफारिश प्रणालियों पर काम किया, ने 2016 में Algotransparency वेबसाइट बनाई, जहां वह वीडियो होस्टिंग एल्गोरिदम को अनारकली करने की कोशिश करता है: दूसरों की तुलना में एक सामग्री को कैसे बढ़ावा दिया जाता है। 2018 में पिट्सबर्ग सिनागॉग में शूटिंग से एक दिन पहले, अल्गोट्रांसपेरेंसी ने दर्ज किया कि YouTube एल्गोरिथ्म साजिश के सिद्धांतवादी डेविड इके का एक वीडियो वितरित करता है, जिसमें वह यहूदी-जनित अरबपति , परोपकारी और दुनिया में राजनीतिक घटनाओं के हेरफेर करने वाले अल्ट्रा-राइट जॉर्ज सोरोस के प्रिय लक्ष्य पर आरोप लगाता है। वीडियो में 1000 से कम दृश्य थे, जब एल्गोरिथम ने इसे बढ़ावा देना शुरू किया, अब इसकी संख्या 70,000 से अधिक है। यह वीडियो और शूटिंग के बीच एक कारण संबंध साबित नहीं करता है, लेकिन यह उत्तेजक वीडियो खोजने और उनके वितरण का मुकाबला करने की समझ देता है।

ऑनलाइन हिंसा

हिंसा और नेटवर्क मीडिया से जुड़ी एक और समस्या नरसंहार और आत्महत्या वाले वीडियो का अनियंत्रित वितरण है। चार साल पहले, वर्जीनिया में दो पत्रकारों के हत्यारे द्वारा स्वतंत्र रूप से शूट किया गया एक वीडियो फेसबुक और ट्विटर पर वितरित किया गया था, तीन साल पहले, डलास में बड़े पैमाने पर शूटिंग वायरल हुई थी। सोशल मीडिया प्लेटफ़ॉर्म उन लोगों के लिए एक वैश्विक ऑडियंस प्रदान कर सकता है जो स्वयं या दूसरों को गंभीर नुकसान पहुंचाना चाहते हैं। यह शायद फेसबुक की गिनती नहीं थी जब उसने फेसबुक लाइव को कई साल पहले जनता के सामने पेश किया था ।

इस तथ्य के कारण कि वीडियो स्ट्रीमिंग इंटरनेट पर एक अपेक्षाकृत नया उपकरण है जो फेसबुक, ट्विटर, अमेज़ॅन और अन्य निगमों में निवेश करना जारी रखता है, यह स्पष्ट नहीं है कि हवा पर आतंकवादी हमलों के प्रसारण के मामले में क्या करना है। भले ही फेसबुक हिंसक सामग्री को जल्दी से अवरुद्ध कर देता है, ऐसी घटनाएं तुरंत ज्ञात हो जाती हैं, जिससे लोगों को Google और अन्य खोज इंजनों के माध्यम से मूल वीडियो खोजने के लिए प्रेरित किया जाता है।

न्यूज़ीलैंड में उपरोक्त हमले, जिसमें 50 लोग मारे गए, फेसबुक पर लाइव प्रसारित किया गया, यूट्यूब पर फिर से पोस्ट किया गया और इनमें से किसी भी प्लेटफॉर्म पर प्रतिक्रिया देने से पहले रेडिट पर चर्चा की गई। कई उपयोगकर्ता इसे अपने खातों में रखने का प्रबंधन करते हैं, जिसके लिए न केवल स्वचालित साधनों द्वारा, बल्कि सभी प्रतियों को हटाने के लिए मध्यस्थों की भागीदारी के साथ एक दूसरे ऑडिट की आवश्यकता होती है। उदाहरण के लिए, क्राइस्टचर्च त्रासदी के लगभग दो महीने बाद, CNN ने कई साइटों पर नरसंहार प्रसारण की प्रतियां अभी भी उपलब्ध हैं।

डूबने से बचा

हाल के वर्षों में, विरोध प्रदर्शन या अन्य सरकार विरोधी गतिविधियों के बाद, विशेष रूप से एशिया और अफ्रीका में, इंटरनेट को अक्षम करना आम हो गया है।

हालांकि, इंटरनेट नीति विशेषज्ञों को संदेह है कि रुकावटें आतंकवादियों को उनके इरादों को पूरा करने से रोकती हैं। स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ता जान रिडगैक ने पाया कि भारत में सामाजिक नेटवर्क और वेबसाइटों को अवरुद्ध करने के साथ-साथ हिंसा में वृद्धि हुई है ... वैकल्पिक समाचारों के माध्यम से फर्जी समाचारों और अफवाहों को फैलाना, तीव्र जनसंचार इंटरनेट संचार के अभाव में इसका खंडन करना अधिक कठिन है।

किसी भी मामले में, प्रतिबंध केवल कुछ हद तक प्रभावी हैं, क्योंकि उपयोगकर्ता वीपीएन या आभासी निजी नेटवर्क के रूप में जाने वाले अनुप्रयोगों का उपयोग अवरुद्ध या तत्काल दूतों को करने के लिए कर सकते हैं जो इंटरनेट बंद होने पर वाई-फाई के माध्यम से आसपास के उपकरणों के साथ संवाद करते हैं।

मार्च में, भारतीय संसदीय आयोग ने व्हाट्सएप और इंस्टाग्राम पर नियंत्रण को कसने के लिए वैश्विक फेसबुक राजनीति के प्रमुख जोएल कापलान से पूछा कि कंपनियों को उपयोगकर्ताओं के पदों की जांच करने की आवश्यकता है ताकि यह सुनिश्चित हो सके कि उनके पास कुछ भी अवैध नहीं है। यह दृष्टिकोण दो कारणों से अस्पष्ट है: यह व्हाट्सएप जैसी कंपनियों का नेतृत्व करता है, जो अपने प्लेटफार्मों को मौलिक रूप से बदलने के लिए एंड-टू-एंड एन्क्रिप्शन का उपयोग करते हैं, और दूसरी ओर, गोपनीयता और अत्यधिक राज्य नियंत्रण के बारे में चिंताएं बढ़ाते हैं।

मैनुअल नियंत्रण

चीन में, सेंसर की एक बहुत ही वास्तविक सेना सैकड़ों करोड़ उपयोगकर्ताओं के साथ अनुचित सोशल मीडिया सामग्री के खिलाफ लड़ रही है। हार्वर्ड विश्वविद्यालय के शोधकर्ताओं ने सरकारी प्रतिभागियों और तथाकथित इंटरनेट पुलिस सहित हजारों प्रतिभागियों के अभूतपूर्व दसियों नंबर पर अपनी संख्या का मूल्यांकन किया, जो नेटवर्क संसाधनों से सामग्री को फ़िल्टर करते हैं। तेजी से विकासशील चीनी अनुप्रयोगों के लिए धन्यवाद, सेंसर का प्रभाव मध्य साम्राज्य की सीमाओं से बहुत आगे तक फैलता है: फेसबुक के संस्थापक मार्क जुकरबर्ग ने टीकटॉक सोशल नेटवर्क पर हांगकांग में विरोध से संबंधित सामग्री को अवरुद्ध करने का आरोप लगाया , यहां तक ​​कि संयुक्त राज्य में भी।

यदि खतरनाक सामग्री आकाशीय साम्राज्य के बाहर स्थित है, तो ग्रेट गन का उपयोग किया जाता है , जो आपत्तिजनक संसाधनों के काम को धीमा कर देता है। उदाहरण के लिए, पावेल ड्यूरोव के अनुसार, चीन सरकार ने 13 जून को टेलीग्राम को धीमा करने के लिए DDoS हमला किया, जब हांगकांग के सैकड़ों नागरिकों ने बिल का विरोध करने के लिए सरकारी भवन को घेर लिया, जिससे मुख्य भूमि चीन में लोगों को अदालत में प्रत्यर्पित किया जा सके।

लेकिन यहां तक ​​कि ऐसी शक्तिशाली प्रणाली और मध्यस्थों की सेना उचित समय में प्रत्येक डाउनलोड की गई फ़ाइल को मैन्युअल रूप से देखने में सक्षम नहीं है, और स्ट्रीमिंग प्रसारण की वृद्धि इसके साथ क्रूर सामग्री को पहचानने में नई कठिनाइयां लाती है, क्योंकि वीडियो को सेंसर द्वारा प्रसारित किए जाने से पहले दिखाया जा सकता है।

स्वचालित प्रौद्योगिकियाँ एकदम सही हैं और वेब पर केवल सबसे अहंकारी सामग्री की पुनरावृत्ति को रोकने और ध्वजांकित करने का एकमात्र अवसर प्रदान करती हैं। YouTube के आंकड़ों के अनुसार, केवल 73% ऑटो-टैग वीडियो हटाए जाते हैं, इससे पहले कि कोई व्यक्ति उन्हें देखता है।

इन वर्षों में, फेसबुक और Google दोनों ने स्वचालित उपकरण विकसित और कार्यान्वित किए हैं जो फ़ोटो, वीडियो और पाठ का पता लगा सकते हैं और हटा सकते हैं जो उनकी नीतियों का उल्लंघन करते हैं। उदाहरण के लिए, फेसबुक चाइल्ड पोर्नोग्राफी का पता लगाने के लिए Microsoft के PhotoDNA का उपयोग करता है। Google ने इस ओपन सोर्स सॉफ्टवेयर का अपना संस्करण विकसित किया है। इन कंपनियों ने चरमपंथी संदेशों का पता लगाने के लिए प्रौद्योगिकियों में भी निवेश किया, एक समूह से मिलकर आतंकवाद विरोधी सामग्री पर जानकारी का आदान-प्रदान करने के लिए ग्लोबल इंटरनेट फ़ोरम ऑन काउंटरटेररिज़्म कहा। ज्ञात अवैध सामग्री के लिए, डिजिटल हस्ताक्षर उत्पन्न किए जाते हैं जो इसे बार-बार डाउनलोड करने पर मान्यता देते हैं (और इसे प्रतिबंधित करते हैं)।

लेकिन स्वचालित मॉडरेशन बहुत मुश्किल हो जाता है अगर यह फ़ोटो और वीडियो के बारे में नहीं है, लेकिन स्ट्रीमिंग वीडियो के बारे में है। जैसा कि Google के सामान्य वकील केंट वॉकर ने 2017 में अपने ब्लॉग पर लिखा था, "मशीनें समस्याग्रस्त वीडियो की पहचान करने में मदद कर सकती हैं, लेकिन मानव कारक अभी भी हिंसा के प्रचार और धार्मिक बयानों के बीच सीमा तय करने की बारीकियों में एक निर्णायक भूमिका निभाता है।" प्रौद्योगिकी निगम अभी तक प्रभावी रूप से ऐसी सामग्री को ब्लॉक करने के लिए प्रभावी एआई नहीं बना पाए हैं , हालांकि यह दुनिया का सबसे धनी उद्योग है। इसलिए, फेसबुक और यूट्यूब में सेंसर की टीमें हैं, जो दुनिया भर में वीडियो देखते हैं, और साथ ही डेटा की मात्रा की समस्या का सामना कर रहे हैं। शायद यूट्यूब और फेसबुक दोनों ही मॉडरेट होने के लिए बहुत बड़े हो गए हैं।

ऐसा लगता है कि मार्क जुकरबर्ग खुद भी स्वचालित प्रणालियों की क्षमताओं के बारे में निश्चित नहीं हैं: वह संकटग्रस्त संपत्तियों पर नियंत्रण रखने के लिए तैयार हैं, जिनमें "हत्यारा" सामग्री और राजनीतिक विज्ञापन शामिल हैं। “हाल तक, चीन के बाहर लगभग सभी देशों में इंटरनेट को अमेरिकी प्लेटफार्मों द्वारा परिभाषित किया गया था, जिसमें बोलने की स्वतंत्रता के मूल्य मजबूत हैं। इस बात की कोई गारंटी नहीं है कि ये मूल्य जीतेंगे, ”अरबपति ने जॉर्जटाउन विश्वविद्यालय में एक भाषण में कहा। लेकिन क्या इस बात की कोई गारंटी है कि किसी भी देश की सरकार को सामग्री पर नियंत्रण के हस्तांतरण के मामले में, हम चीनी परिदृश्य के अनुसार ग्लोबल नेटवर्क की सेंसरशिप प्राप्त नहीं करेंगे? क्या इस तरह का इंटरनेट हमें चाहिए, मार्क?

---

निकिता त्सापलिन

यूएफओ केयर मिनट

यह सामग्री परस्पर विरोधी भावनाओं का कारण बन सकती है, इसलिए टिप्पणी लिखने से पहले, अपनी स्मृति में कुछ महत्वपूर्ण को ताज़ा करें:

टिप्पणी कैसे लिखें और जीवित रहें

• आपत्तिजनक टिप्पणी न लिखें, व्यक्तिगत न करें।
• अश्लील भाषा और विषाक्त व्यवहार (यहां तक ​​कि एक विकृत रूप में) से बचना चाहिए।
• साइट के नियमों का उल्लंघन करने वाली टिप्पणियों की रिपोर्ट करने के लिए, "रिपोर्ट" बटन (यदि उपलब्ध हो) या फीडबैक फॉर्म का उपयोग करें ।

क्या करें यदि: ऋण कर्म | अवरुद्ध खाता

→ लेखकों का कोड Habr और habraetiket
→ साइट नियमों का पूर्ण संस्करण