जनरेटिव न्यूरल फेक: हाउ मशीन लर्निंग चेंजेज ऑफ द परसेप्शन ऑफ द वर्ल्ड

ऑक्सफोर्ड डिक्शनरी के संपादकों ने "पोस्ट-ट्रुथ" शब्द को सम्मानजनक " 2016 शब्द " के रूप में चुना। यह शब्द उन परिस्थितियों का वर्णन करता है जिसमें उद्देश्य तथ्य भावनाओं और व्यक्तिगत विश्वासों की अपील की तुलना में सार्वजनिक राय के गठन के लिए कम महत्वपूर्ण हैं।

बड़ी संख्या में फर्जी खबरों के प्रसार के संबंध में अमेरिकी राष्ट्रपति चुनाव के बाद इस शब्द का उपयोग करने की एक उच्च आवृत्ति अंग्रेजी भाषा के प्रकाशनों में देखी गई थी, जिसके बाद खुद सच्चाई बहुत मायने नहीं रखती थी।

कुछ विश्लेषकों के अनुसार, नकली मानहानि संबंधी समाचारों का प्रसार चुनावों में हिलेरी क्लिंटन की हार का एक कारण था। अल्गोरिदमिक फीड फेसबुक झूठी खबरों के मुख्य स्रोतों में से एक बन गया है ।

इस पृष्ठभूमि के खिलाफ, कृत्रिम बुद्धि के क्षेत्र में डेवलपर्स से समाचार लगभग किसी का ध्यान नहीं था। हम पहले से ही इस तथ्य के अभ्यस्त हैं कि तंत्रिका नेटवर्क चित्र बनाते हैं, अपने मौखिक विवरण के अनुसार किसी व्यक्ति की तस्वीर बनाते हैं और संगीत उत्पन्न करते हैं। वे अधिक से अधिक कर रहे हैं, और हर बार वे बेहतर कर रहे हैं। लेकिन सबसे दिलचस्प बात यह है कि मशीनों ने नकली बनाना सीखा।

फेक का प्रभाव

अमेरिकी चुनाव की दौड़ के दौरान, सोशल नेटवर्क पर नकली समाचारों के रिपॉस्ट की संख्या सत्य संदेशों के रिपॉस्ट की संख्या से अधिक हो गई, क्योंकि फेक अपेक्षाओं के अनुरूप थे या अधिक रोमांचक थे। चुनाव के बाद, फेसबुक ने उपयोगकर्ताओं को सचेत करने के लिए असत्यापित संदेशों को फ़्लैग करने के लिए स्वतंत्र तथ्य चेकर्स को काम पर रखा।

समाज के बढ़ते राजनीतिक ध्रुवीकरण के संयोजन और मुख्य रूप से शीर्षकों को पढ़ने की प्रवृत्ति एक संचयी प्रभाव देती है। नकली समाचार साइटों को अक्सर नकली समाचार साइटों के माध्यम से प्रसारित किया जाता है, जिसमें से जानकारी अक्सर मुख्यधारा के मीडिया में आती है, जो उपयोगकर्ता यातायात को आकर्षित करना चाहते हैं। और कुछ भी आकर्षक हेडलाइन की तरह ट्रैफ़िक को आकर्षित नहीं करता है।

लेकिन वास्तव में, नकली का प्रभाव केवल राजनीतिक क्षेत्र तक सीमित नहीं है। ऐसे कई उदाहरण हैं जो समाज पर झूठी खबरों के प्रभाव को प्रदर्शित करते हैं।


एक ऑस्ट्रेलियाई वीडियो प्रोडक्शन कंपनी नकली वायरल वीडियो को दो वर्षों के लिए जारी कर रही है, जिससे सैकड़ों मिलियन दृश्य प्राप्त हो रहे हैं।

स्टालिन के बारे में एक अच्छी तरह से सोचा-समझा नकली में, जिसका चेहरा कथित रूप से मास्को मेट्रो में दिखाई दिया था, वे 1 अप्रैल को भी विश्वास करते थे।

1992 में, करोड़पति इल्या मेडकोव ने रूस और सीआईएस (आरआईए नोवोस्ती, इंटरफैक्स, आईटीएआर-टीएएस सहित) में बड़ी समाचार एजेंसियों का भुगतान करना शुरू किया। ITAR-TASS ने जनवरी 1993 में लेनिनग्राद NPP में दुर्घटना के बारे में मीडिया को एक गलत संदेश जारी किया। नतीजतन, प्रमुख स्कैंडिनेवियाई कंपनियों के शेयरों की कीमत में गिरावट आई, और एक मीडिया खंडन दिखाई देने से पहले, मेडकोव के एजेंटों ने स्वीडिश, फिनिश और नॉर्वेजियन कंपनियों के सबसे अधिक लाभदायक शेयर खरीदे।



26 जून, 2017 को, दूसरी इथेरियम क्रिप्टोक्यूरेंसी कैपिटलाइज़ेशन की दर में तेजी से गिरावट आई - एक्सचेंज ने अफवाह पर प्रतिक्रिया व्यक्त की, जो ईथर, क्रिएटर ब्यूटिरिन के निर्माता की दुखद मौत के बारे में नेटवर्क पर दिखाई दी। इसके अलावा, पहली "तत्काल समाचार" एक अनाम 4chan छविबोर्ड पर दिखाई दिया - और यह स्रोत, स्पष्ट रूप से, सबसे विश्वसनीय नहीं है।



विकिपीडिया ने लिखा है कि "विटालिक एक रूसी प्रोग्रामर था," और फिर पीले प्रेस ने इस खबर को उठाया। नतीजतन, ईथर की दर 13% तक गिर गई, लगभग $ 289 से $ 252 तक। विटाली से ख़बरों के खंडन के तुरंत बाद पाठ्यक्रम बढ़ने लगा।
इस बात का कोई सबूत नहीं है कि किसी ने जानबूझकर क्रिप्टोकरंसी दरों में अंतर पर लाभ के लिए नकली बनाया। यह केवल निर्विवाद है कि बिना किसी पुष्ट तथ्य के काल्पनिक समाचार लोगों पर एक शक्तिशाली प्रभाव डालते हैं।

वास्तविकता का अनुकरण

वीडियो में फ्रांसीसी गायक फ्रैंकोइस अर्डी अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प के सलाहकार केलियेन कॉनवे के भाषण को दोहराएंगे, जो "वैकल्पिक तथ्यों" के बारे में बोलने के बाद प्रसिद्ध हो गए। यहां जो दिलचस्प है वह यह है कि अर्शी वास्तव में 73 साल की है, और वीडियो में वह बीस साल की दिखती है।

रोलर अल्टरनेटिव फेस v1.1 जर्मन कलाकार-एक्शनिस्ट मारियो क्लिंगमैन द्वारा बनाया गया था। उन्होंने कॉनवे के ऑडियो साक्षात्कार और एर्ड के पुराने संगीत वीडियो लिए। और फिर उन्होंने एक जेनेरिक न्यूरल नेटवर्क (GAN) का इस्तेमाल किया, जिसने गायक के विभिन्न क्लिपों के कई फ्रेमों से अद्वितीय वीडियो सामग्री बनाई, और कॉनवे द्वारा टिप्पणियों के साथ एक ऑडियो ट्रैक को ओवरलेड किया।

इस मामले में, नकली को पहचानना आसान है, लेकिन आप आगे बढ़ सकते हैं - ऑडियो फ़ाइल में परिवर्तन कर सकते हैं। लोगों को विश्वास होगा कि छवि और ध्वनि रिकॉर्डिंग सिर्फ पाठ से अधिक स्वेच्छा से। लेकिन मानव आवाज की बहुत नकली कैसे नकली?

जीएएन-सिस्टम ऑडियो रिकॉर्डिंग की सांख्यिकीय विशेषताओं का अध्ययन करने में सक्षम हैं, और फिर उन्हें मिलीसेकंड के लिए एक अलग संदर्भ में पुन: पेश करते हैं। यह पाठ दर्ज करने के लिए पर्याप्त है कि तंत्रिका नेटवर्क को पुन: पेश करना चाहिए, और आपको एक प्रशंसनीय बयान मिलेगा।
कनाडाई स्टार्टअप Lyrebird ने अपने स्वयं के एल्गोरिदम प्रकाशित किए हैं जो किसी भी व्यक्ति की आवाज़ को एक मिनट की लंबाई के साथ ध्वनि फ़ाइल के आधार पर अनुकरण कर सकते हैं। संभावनाओं को प्रदर्शित करने के लिए, कंपनी ने ओबामा, ट्रम्प और क्लिंटन के बीच एक बातचीत पोस्ट की - सभी नायक, निश्चित रूप से, नकली थे।

डीपमाइंड, Baidu इंस्टीट्यूट फॉर डीप लर्निंग और मॉन्ट्रियल इंस्टीट्यूट फॉर द स्टडी ऑफ अल्गोरिद्म (MILA) पहले से ही अत्यधिक यथार्थवादी टेक्स्ट-टू-स्पीच एल्गोरिदम पर काम कर रहे हैं।

परिणाम अभी तक सही नहीं है, आप जल्दी से मूल से आवाज को अलग कर सकते हैं, लेकिन समानता महसूस की जाती है। इसके अलावा, आवाज में, नेटवर्क भावनाओं को बदलता है, स्थिति के आधार पर क्रोध या उदासी जोड़ता है।

छवि निर्माण

डेवलपर क्रिस्टोफर हेसे ने एक ऐसी सेवा बनाई, जो मशीन लर्निंग की मदद से कई रेखाओं से मिलकर बने रेखाचित्रों को रंगीन तस्वीरों में "आकर्षित" कर सकती है। हां, यह वह साइट है जो बिल्लियों को आकर्षित करती है। जवानों को बाहर कर दिया जाता है - इसलिए उन्हें वास्तविक लोगों के साथ भ्रमित करना मुश्किल है।

प्रोग्रामर एलेक्सा जोलिकियर मार्टिनो उन बिल्लियों को बनाने में सक्षम थे जो वास्तव में वास्तविक लोगों की तरह हैं। ऐसा करने के लिए, उन्होंने DCGAN - डीप कॉन्टेक्शनल जेनरेटिव एडवरसियर नेटवर्क्स (डीप जेनरेटिव कन्वेन्शनल कॉन्ट्रोवर्शियल नेटवर्क) का इस्तेमाल किया। DCGAN दो गहरे तंत्रिका नेटवर्क को मिलाकर अद्वितीय फोटोरिअलिस्टिक चित्र बनाने में सक्षम हैं जो एक दूसरे से प्रतिस्पर्धा करते हैं।



पहला नेटवर्क (जनरेटिंग) इनपुट पर वेरिएबल्स के मूल्यों को प्राप्त करता है, और आउटपुट में यह इन वेरिएबल्स के फ़ंक्शन के मूल्यों को देता है, जिन्हें दूसरे नेटवर्क (भेदभाव, या भेदभाव) को "मना" करना चाहिए कि पहले नेटवर्क के परिणाम मानक से अप्रभेद्य हैं। जोलीकर-मार्टिनो के काम में नमूने के रूप में, दस हजार फ़लाइन पोर्ट्रेट के एक डेटाबेस का उपयोग किया गया था।

DCGAN विधियों का उपयोग करके, नकली छवियां बनाना संभव है, जिन्हें किसी अन्य तंत्रिका नेटवर्क के बिना निष्पक्ष रूप से नकली नहीं माना जा सकता है।

सामग्री संयोजन

वाशिंगटन विश्वविद्यालय में, उन्होंने एक एल्गोरिथ्म विकसित किया है जो आपको सटीक होंठ सिंक्रनाइज़ेशन वाले किसी व्यक्ति के वीडियो पर ऑडियो ओवरले करने की अनुमति देता है। एल्गोरिथ्म को बराक ओबामा के वीडियो संदेशों के 17 घंटे पर प्रशिक्षित किया गया था। तंत्रिका नेटवर्क को ओबामा के होंठों के आंदोलनों को इस तरह से अनुकरण करने के लिए प्रशिक्षित किया गया था ताकि सही शब्दों के उच्चारण की नकल करके उनके आंदोलनों को ठीक किया जा सके। अब तक, आप केवल उन शब्दों के साथ वीडियो उत्पन्न कर सकते हैं जो व्यक्ति ने वास्तव में कहा था।


अब एल्गोरिथ्म के संचालन को देखें, जो आपको मक्खी के किसी अन्य व्यक्ति के चेहरे के भावों को अपने चेहरे के भावों को बदलने की अनुमति देता है । ट्रम्प के साथ वीडियो में (बुश, पुतिन और ओबामा पर अभी भी एक प्रदर्शन है), व्यक्ति की वक्रता को स्टूडियो में लगाया जाता है, और परिणाम एक क्रोधी ट्रम्प है। एल्गोरिथ्म का उपयोग Face2Face में किया जाता है। बनाई गई तकनीक स्माइल वेक्टर बॉट के सिद्धांत के समान है, जो तस्वीरों में लोगों को एक मुस्कान जोड़ता है।

इस प्रकार, अब एक यथार्थवादी वीडियो बनाना संभव है जिसमें एक प्रसिद्ध व्यक्ति काल्पनिक तथ्यों को बोलता है। किसी भी संदेश को लिखने के लिए भाषण को पिछले भाषणों से काटा जा सकता है। लेकिन निकट भविष्य में भी ऐसी तरकीबें निकली होंगी - नेटवर्क किसी भी पाठ को नकली चरित्र के मुंह में डाल देगा।

परिणाम

व्यावहारिक दृष्टिकोण से, ये सभी प्रौद्योगिकियां आपको बहुत अच्छा करने की अनुमति देती हैं। उदाहरण के लिए, यदि आप वीडियो स्ट्रीम से बाहर आते हैं, तो आप लापता फ़्रेम को संश्लेषित करके वीडियो कॉन्फ्रेंसिंग की गुणवत्ता में सुधार कर सकते हैं। और यहां तक ​​कि पूरे लापता शब्दों को संश्लेषित करता है, किसी भी सिग्नल स्तर के साथ स्थानों में उत्कृष्ट संचार प्रदान करता है।

अभिनेता को पूरी तरह से "डिजिटाइज़" करना और फिल्मों और खेलों में इसकी एक यथार्थवादी प्रतिलिपि जोड़ना संभव होगा।

लेकिन खबरों का क्या होगा?

संभावना है कि आने वाले वर्षों में नकली पीढ़ी एक नए स्तर पर पहुंच जाएगी। लड़ने के नए तरीके हैं। उदाहरण के लिए, यदि आप क्षेत्र में ज्ञात स्थितियों (हवा की गति, छाया का झुकाव, प्रकाश स्तर, आदि) के साथ एक तस्वीर को सहसंबंधित करते हैं, तो ये डेटा एक नकली की पहचान करने में मदद करेंगे।



2014 में, NVIDIA के इंजीनियरों ने उस समय के दस्तावेजी साक्ष्यों के आधार पर, चांद लैंडिंग दृश्य को ठीक उसी तरह समेट दिया जैसा कि वे कर सकते थे। इस मामले में, वस्तुओं के सभी भौतिक और ऑप्टिकल गुणों को ध्यान में रखा गया था ताकि पता लगाया जा सके कि विभिन्न सामग्रियों से प्रकाश कैसे परिलक्षित होता है और वास्तविक समय में व्यवहार करता है। नतीजतन, वे नासा तस्वीरों की प्रामाणिकता को मज़बूती से सत्यापित करने में सक्षम थे।

एनवीआईडीआईए ने पुष्टि की कि उचित तैयारी के साथ, एक दशक पहले बनाए गए सबसे जटिल फोटो काम की प्रामाणिकता (या खंडन) को साबित कर सकता है।

पिछले साल, यूएस एजेंसी फॉर एडवांस्ड डिफेंस रिसर्च एंड डेवलपमेंट (DARPA) ने एक ओपन मीडिया फोरेंसिक सिस्टम बनाने के लिए चार साल की परियोजना शुरू की, जो एक या दूसरे तरीके से संसाधित या विकृत हो चुकी तस्वीरों की पहचान कर सकती है।
तंत्रिका नेटवर्क न केवल मूल सामग्री को बदलने में सक्षम होंगे, बल्कि उच्चतम गुणवत्ता वाले नकली की पहचान करने में भी सक्षम होंगे। इस तकनीक की दौड़ में आखिरकार कौन जीतेगा, यह समय दिखाएगा।