ये नई तरकीबें अभी भी डीपफेक वीडियो को आउटसोर्स करने में सक्षम हैं।

कई हफ्तों के लिए, कंप्यूटर विज्ञान विशेषज्ञ Siwei Lyu ने उनकी टीम द्वारा बनाई गई डीपफेक वीडियो को चिंताजनक रूप से देखा। मशीन लर्निंग एल्गोरिदम का उपयोग करके बनाई गई इन नकली फिल्मों ने मशहूर हस्तियों को ऐसी चीजें करते दिखाया जो वे नहीं करेंगे। वे अजीब तरह से उसे डर लग रहा था, और सिर्फ इसलिए नहीं कि वह जानता था कि वे नकली थे। "वे गलत दिखते हैं," वह अपने विचारों को याद करते हैं, "लेकिन वास्तव में यह धारणा बनाना बहुत मुश्किल है।"

लेकिन एक बार उनके दिमाग में एक बचपन की याद आई। कई अन्य बच्चों की तरह, उन्होंने बच्चों के साथ "पीपर" खेला। "मैं हमेशा ऐसी प्रतियोगिताओं में हार जाता हूं," वह कहते हैं, "क्योंकि जब मैंने उनके बेबाक चेहरों को देखा, तो मुझे बहुत बेचैनी महसूस हुई।"

उन्होंने महसूस किया कि इन नकली फिल्मों ने उन्हें एक समान असुविधा का कारण बनाया: उन्होंने इन फिल्म सितारों के लिए झांकियों को खेला, क्योंकि वे नहीं खोले और अपनी आँखें बंद नहीं की, जितनी बार असली लोग करते हैं।

यह पता लगाने के लिए कि एलयू , अल्बानी विश्वविद्यालय के एक प्रोफेसर और उनकी टीम ने डीपफेक सॉफ्टवेयर के प्रत्येक चरण का अध्ययन किया जिसने ये वीडियो बनाए।

प्रवेश पर दीपफेक कार्यक्रमों में एक विशिष्ट व्यक्ति की बहुत सारी छवियां ली जाती हैं - आप, आपकी पूर्व प्रेमिका, किम जोंग-उन - ताकि उन्हें अलग-अलग कोणों से देखा जा सके, अलग-अलग चेहरे के भावों के साथ अलग-अलग शब्द कहे जा सकते हैं। एल्गोरिदम सीखते हैं कि यह चरित्र कैसा दिखता है, और फिर एक वीडियो में अधिग्रहीत ज्ञान को संश्लेषित करता है जिसमें दिखाया गया है कि यह व्यक्ति वह कैसे करता है जो उसने कभी नहीं किया। अश्लील साहित्य । स्टीफन कोल्बर्ट जॉन ओलिवर के शब्दों को बोलते हुए। फर्जी वीडियो के खतरों के बारे में चेतावनी देते राष्ट्रपति।

ये वीडियो फोन स्क्रीन पर कुछ सेकंड के लिए आश्वस्त होते हैं, लेकिन वे (अभी तक) सही नहीं हैं। उन्हें नकली के लक्षण दिखाई दे सकते हैं, उदाहरण के लिए, एक अजीब तरीके से, लगातार खुली आँखें, उनकी रचना की प्रक्रिया की कमियों से उपजी। डीपफेक की हिम्मत को देखते हुए, लू ने महसूस किया कि कार्यक्रम का अध्ययन करने वाली छवियों में, उनकी आंखों के साथ बहुत सारी तस्वीरें बंद नहीं थीं (आपने एक सेल्फी नहीं ली है, जिस पर आप झपकी लेते हैं?)। "यह एक विकृति बन जाता है," वे कहते हैं। तंत्रिका नेटवर्क को पलक झपकना समझ नहीं आता है। कार्यक्रम में अन्य लोगों को भी याद किया जा सकता है "लोगों में निहित शारीरिक संकेत," लुया ने कहा, जो इस घटना का वर्णन करता है - सामान्य गति से सांस लेना, या नाड़ी की उपस्थिति। यद्यपि यह अध्ययन विशिष्ट सॉफ़्टवेयर का उपयोग करके बनाए गए विज्ञापनों पर केंद्रित है, यह आमतौर पर स्वीकार किया जाता है कि तस्वीरों का एक बड़ा सेट भी किसी व्यक्ति की शारीरिक धारणा का पर्याप्त वर्णन करने में सक्षम नहीं हो सकता है, इसलिए इन छवियों पर प्रशिक्षित कोई भी सॉफ़्टवेयर अपूर्ण होगा।

पलक झपकने के बारे में रहस्योद्घाटन से कई नकली वीडियो सामने आए। लेकिन लू और टीम द्वारा कार्य के एक प्रारूप को ऑनलाइन पोस्ट करने के कुछ सप्ताह बाद, उन्हें एक गुमनाम पत्र मिला, जिसमें YouTube पर पोस्ट किए गए अगले नकली वीडियो के लिंक थे, जहां सितारों ने अपनी आँखें खोलीं और अधिक सामान्य मोड में बंद कर दिया। नकली रचनाकार विकसित हुए हैं।

और यह स्वाभाविक है। जैसा कि लू ने द कन्वर्सेशन के साथ एक साक्षात्कार में कहा, "ब्लिंकिंग को डीपफेक वीडियो में जोड़ा जा सकता है, जिसमें डेटाबेस में बंद आंखों के साथ चित्र शामिल हैं, या प्रशिक्षण के लिए वीडियो का उपयोग किया जाता है।" यह जानना कि नकली का संकेत क्या है, आप इससे बच सकते हैं - यह एक तकनीकी समस्या है। जिसका अर्थ है कि नकली वीडियो रचनाकारों और पहचानकर्ताओं के बीच हथियारों की दौड़ में शामिल हो जाएंगे। Luy के कार्य जैसे अनुसंधान केवल नकली निर्माताओं के जीवन को जटिल बना सकते हैं। "हम बार को बढ़ाने की कोशिश कर रहे हैं," वे कहते हैं। "हम इस प्रक्रिया को जटिल बनाना चाहते हैं, ताकि इसे अधिक समय लगता है।"

क्योंकि अब यह बहुत सरल है। कार्यक्रम डाउनलोड करें, Google सेलिब्रिटी तस्वीरें, उन्हें कार्यक्रम के प्रवेश द्वार पर फ़ीड करें। वह उन्हें पचाता है, उनसे सीखता है। और यद्यपि वह अभी तक पूरी तरह से स्वतंत्र नहीं है, थोड़ी मदद के साथ, वह भालू और कुछ नया और काफी वास्तविक दिखने को जन्म देती है।

"वह बहुत धुंधली है," लू कहती है। और वह छवियों का मतलब नहीं है। "यह लाइन सत्य और नकली के बीच है," उन्होंने कहा।

यह एक साथ annoys और किसी को भी आश्चर्यचकित नहीं करता है जो हाल ही में जिंदा है और इंटरनेट पर सर्फिंग कर रहा है। लेकिन यह विशेष रूप से सैन्य और खुफिया विभागों की चिंता है। विशेष रूप से, यही कारण है कि कुछ अन्य कार्यों की तरह, लू का अध्ययन मेडीफोर - मीडिया फोरेंसिक [मीडिया फोरेंसिक] नामक एक डीएआरपीए कार्यक्रम द्वारा वित्त पोषित है।

MediFor परियोजना 2016 में शुरू की गई थी, जब एजेंसी ने नकली निर्माताओं की गतिविधि में वृद्धि देखी थी। परियोजना एक स्वचालित प्रणाली बनाने की कोशिश कर रही है जो नकली के संकेतों के तीन स्तरों का अध्ययन करती है, और एक छवि या वीडियो के "वास्तविकता का आकलन" का उत्पादन करती है। पहले स्तर पर, गंदे डिजिटल ट्रैक खोजे जाते हैं - एक निश्चित मॉडल या संपीड़न कलाकृतियों के कैमरे से शोर। दूसरा स्तर भौतिक है: प्रकाश व्यवस्था चेहरे पर नहीं है, प्रतिबिंब उस तरह नहीं दिखता है जैसा कि दीपक की इस व्यवस्था के साथ दिखना चाहिए। उत्तरार्द्ध शब्दार्थ है: पुष्टि की गई वास्तविक जानकारी के साथ डेटा की तुलना करना। यदि, उदाहरण के लिए, यह दावा किया जाता है कि फुटबॉल के खेल पर कब्जा करने वाले वीडियो को सेंट्रल पार्क में मंगलवार, 9 अक्टूबर, 2018 को दोपहर 2 बजे शूट किया गया था, तो क्या आकाश की स्थिति मौसम संग्रह के साथ मेल खाती है? सभी स्तरों को एक साथ इकट्ठा करें और डेटा की वास्तविकता का आकलन करें। DARPA को उम्मीद है कि MediFor के अंत तक सिस्टम के प्रोटोटाइप होंगे जिसके साथ बड़े पैमाने पर चेक की व्यवस्था करना संभव होगा।

हालांकि, घड़ी की टिक टिक है (या यह केवल एक दोहराई जाने वाली ध्वनि है जो एआई द्वारा बनाई गई है जो समय की ट्रैकिंग से संबंधित डेटा पर प्रशिक्षित है;) "कुछ वर्षों में, आप घटनाओं के निर्माण के रूप में इस तरह की चीज़ों में आने में सक्षम होंगे," DARPAI के प्रबंधक मैट ट्यूरेक कहते हैं। "न केवल एक छवि या संपादित वीडियो, बल्कि कई चित्र या क्लिप एक सम्मोहक संदेश देने की कोशिश कर रहे हैं।"

कंप्यूटर वैज्ञानिक जस्टोन मूर के पास लॉस एलामोस नेशनल लेबोरेटरी में संभावित भविष्य की स्पष्ट तस्वीर है। मान लीजिए कि हम एल्गोरिथ्म को सूचित करते हैं कि हमें एक वीडियो की आवश्यकता है जिस पर मूर फार्मेसी चला रहे हैं; हम इसे इस संस्था की सुरक्षा प्रणाली की वीडियो रिकॉर्डिंग में पेश करते हैं; उसे जेल भेज दो। दूसरे शब्दों में, वह चिंतित है कि अगर साक्ष्यों के सत्यापन के मानक फेक निर्माण के समानांतर विकसित नहीं होते (या नहीं कर सकते), तो लोगों को स्थानापन्न करना आसान होगा। और अगर अदालतें दृश्य डेटा पर भरोसा नहीं कर सकती हैं, तो यह पता चल सकता है कि असली सबूतों की अनदेखी की जाएगी।

हम तार्किक निष्कर्ष पर आते हैं कि एक बार देखना सौ बार सुनने से बेहतर नहीं होगा। "ऐसा हो सकता है कि हम किसी भी फोटोग्राफिक सबूत पर भरोसा नहीं करते," वह कहते हैं, "लेकिन मैं ऐसी दुनिया में नहीं रहना चाहता।"

ऐसी दुनिया इतनी अविश्वसनीय नहीं है। और समस्या, मूर के अनुसार, व्यक्तियों की जगह से बहुत आगे तक फैली हुई है। मूर कहते हैं, "एल्गोरिदम उन लोगों की छवियां बना सकते हैं जो वास्तविक लोगों से संबंधित नहीं हैं, वे अजीब तरह से छवियों को बदल सकते हैं, एक घोड़े को ज़ेबरा में बदल सकते हैं।" वे छवियों के कुछ हिस्सों को हटा सकते हैं और वीडियो से अग्रभूमि वस्तुओं को हटा सकते हैं।

शायद हम फेक से निपटने में सक्षम नहीं होंगे, जितना वे किया जाएगा। लेकिन शायद यह काम करेगा - और यह अवसर मूर टीम को साक्ष्य के अध्ययन के लिए डिजिटल तरीकों का अध्ययन करने के लिए प्रेरणा प्रदान करता है। साइबर सिस्टम, सूचना प्रणाली, सैद्धांतिक जीव विज्ञान और बायोफिजिक्स के ज्ञान का संयोजन करने वाला लॉस अलामोस कार्यक्रम, DARPA एजेंसी से लगभग एक साल छोटा है। एक दृष्टिकोण "कम्प्रेसिबिलिटी" पर केंद्रित है, उन मामलों में जहां छवि में इतनी जानकारी नहीं है जितना लगता है। मूर कहते हैं, "मूल रूप से, हम इस विचार पर निर्माण करते हैं कि सभी एआई छवि जनरेटर के पास सीमित चीजें हैं जो वे बना सकते हैं।" "यहां तक ​​कि अगर छवि मुझे या आपके लिए जटिल लगती है, तो भी आप इसमें एक दोहराई जाने वाली संरचना पा सकते हैं।" पिक्सल को रिसाइकिल करते समय बहुत कुछ बचा नहीं है।

वे मैचों के साथ खेल खेलने के लिए विरल कोडिंग एल्गोरिदम का भी उपयोग करते हैं। मान लें कि हमारे पास दो संग्रह हैं: वास्तविक चित्रों का एक गुच्छा, और कृत्रिम रूप से निर्मित AI चित्रों का एक गुच्छा। एल्गोरिथ्म उनका अध्ययन करता है, जो बनाता है कि मूर एक "दृश्य तत्वों का शब्दकोश" कहते हैं, यह देखते हुए कि कृत्रिम चित्रों में कुछ सामान्य है और वास्तविक छवियों में कुछ है। यदि मूर के दोस्त ओबामा की छवि को देखते हैं, और मूर मानते हैं कि छवि एआई का उपयोग करके बनाई गई थी, तो वह इसे कार्यक्रम के माध्यम से चला सकेगा और यह पता लगा सकेगा कि यह किन शब्दकोशों के करीब होगा।

लॉस एलामोस, जहां दुनिया का सबसे शक्तिशाली सुपर कंप्यूटर स्थित है, इस कार्यक्रम में संसाधनों को न केवल अपलोड करता है, क्योंकि कोई नकली डकैती के माध्यम से मूर का स्थान ले सकता है। प्रयोगशाला का मिशन "वैज्ञानिक उत्कृष्टता की मदद से राष्ट्रीय सुरक्षा की समस्याओं को हल करना" है। उनका मुख्य कार्य परमाणु सुरक्षा है, यह गारंटी प्रदान करता है कि बम तब विस्फोट नहीं करेंगे जब उन्हें नहीं करना चाहिए, और विस्फोट करना चाहिए जब उन्हें (कृपया नहीं), साथ ही अप्रसार में सहायता भी करनी चाहिए। यह सब मशीन सीखने के एक सामान्य ज्ञान की आवश्यकता है, क्योंकि यह मदद करता है, जैसा कि मूर कहते हैं, "छोटे डेटा सेट से बड़े निष्कर्ष निकालें।"

लेकिन इस सब के अलावा, लॉस अल्मोस जैसे व्यवसायों को अपनी आंखों पर विश्वास करने में सक्षम होना चाहिए - या पता है कि उन्हें कब भरोसा करने की आवश्यकता नहीं है। क्योंकि, अगर आप किसी देश के परमाणु हथियारों को जुटाते या परीक्षण करते हैं, तो आप क्या करते हैं? क्या होगा अगर कोई सेंसर रीडिंग फेक करे?

यह एक भयावह भविष्य है कि मूर और लू के काम को आदर्श रूप से बचा जाना चाहिए। लेकिन ऐसी दुनिया में जहां सब कुछ खो जाता है, देखने के लिए विश्वास करने का मतलब नहीं है, लेकिन प्रतीत होता है कि पूर्ण माप नकली हो सकता है। सब कुछ संदेह में है।

लेकिन शायद "संदेह" गलत शब्द है। कई लोग चेहरे के मूल्य पर नकली लगेंगे (ह्यूस्टन में शार्क की फोटो याद रखें?), खासकर अगर सामग्री उनके विश्वासों से मेल खाती है। मूर कहते हैं, "लोग जिस पर विश्वास करते हैं, उस पर विश्वास करेंगे।"

इसकी संभावना राष्ट्रीय सुरक्षा के क्षेत्र की तुलना में समाचारों को देखने वाले आम लोगों के लिए अधिक है। और हमारे बीच सरलता से गलत सूचना के प्रसार को रोकने के लिए, DARPA उपयोगकर्ताओं को यह निर्धारित करने में मदद करने के प्रयास में सोशल मीडिया सहयोग प्रदान करता है कि वीडियो की विश्वसनीयता जहां किम जोंग-उन नाचते हैं, वहीं मैकरून कम है। ट्यूरेक बताते हैं कि सोशल नेटवर्क वीडियो को तेजी से वीडियो के रूप में तेजी से फैलाने वाली कहानी को फैला सकता है।

लेकिन क्या वे ऐसा करेंगे? एक्सपोजर एक परेशान करने वाली प्रक्रिया है (हालांकि अफवाह के रूप में यह अक्षम नहीं है)। और लोगों को कल्पना के बारे में अपना विचार बदलने से पहले वास्तव में तथ्यों को दिखाने की जरूरत है।

लेकिन भले ही कोई भी वीडियो की सत्यता के बारे में जनता के दिमाग को बदल नहीं सकता है, लेकिन यह महत्वपूर्ण है कि जो लोग राजनीतिक और कानूनी निर्णय लेते हैं - जो रॉकेट ले जा रहे हैं या लोगों को मार रहे हैं - एआई नींद से स्पष्ट वास्तविकता को अलग करने के लिए मशीनों का उपयोग करने की कोशिश कर रहे हैं।