खतरनाक सहजता जिसके साथ आप सैन्य कृत्रिम बुद्धिमत्ता को मूर्ख बना सकते हैं

संयुक्त राज्य अमेरिका और चीन की रणनीतियों पर AI युद्ध हावी होने लगा है, लेकिन क्या इसके लिए तकनीकें तैयार हैं?

पिछले मार्च में, चीनी शोधकर्ताओं ने अमेरिका की सबसे मूल्यवान तकनीकी संपत्तियों में से एक: टेस्ला इलेक्ट्रिक कार पर एक शानदार और संभावित विनाशकारी हमले शुरू करने के अपने इरादे की घोषणा की।

चीनी टेक दिग्गज Tencent की सुरक्षा लैब की एक टीम ने टेस्ला के AI एल्गोरिदम को ट्रिक करने के कई तरीके दिखाए। कार के सेंसर में जाने वाले डेटा को थोड़ा बदलकर, शोधकर्ताओं ने कार को चलाने वाले AI को भ्रमित करने में कामयाब रहे।

एक मामले में, टीवी स्क्रीन पर एक छिपा हुआ पैटर्न था जिसने वाइपर को काम किया था।
दूसरे में, सड़क पर चिह्नों को स्वायत्त ड्राइविंग सिस्टम को भ्रमित करने के लिए थोड़ा बदल दिया गया था, जिसके बाद इसने कार को एक आसन्न लेन में स्थानांतरित कर दिया।

टेस्ला एल्गोरिदम आमतौर पर विंडशील्ड पर या सड़क के निशान के बाद बारिश की बूंदों को देखने का एक बड़ा काम करते हैं, लेकिन उनका ऑपरेटिंग सिद्धांत मानवीय धारणा से मौलिक रूप से अलग है। इस वजह से, यदि आप उनकी कमजोरियों को जानते हैं तो डीप लर्निंग अल्गोरिदम (जैसे चेहरा पहचान और कैंसर निदान जैसे क्षेत्रों में तेज़ी से लोकप्रियता हासिल करना) को मूर्ख बनाना आसान हो जाता है।

ऐसा लग सकता है कि टेस्ला कार के भ्रम में संयुक्त राज्य अमेरिका के लिए कोई रणनीतिक खतरे नहीं हैं। लेकिन अगर ऐसी ही तकनीकों का इस्तेमाल युद्धक ड्रोन या सॉफ्टवेयर को धोखा देने के लिए किया जाता था जो उपग्रह छवियों का विश्लेषण करता है ताकि यह उन वस्तुओं को देख सके जो छवियों में नहीं हैं, या यह नहीं देखते हैं कि यह वास्तव में क्या है?

कृत्रिम बुद्धि का संचय

पूरी दुनिया में, एआई को पहले से ही एक महत्वपूर्ण सैन्य लाभ प्राप्त करने के लिए अगला कदम माना जाता है।

इस वर्ष, संयुक्त राज्य अमेरिका ने एक रणनीति के कार्यान्वयन की घोषणा की जिसमें एआई का उपयोग कई सैन्य क्षेत्रों में किया जाएगा, जिसमें डेटा विश्लेषण, निर्णय लेने, स्वायत्त वाहन, रसद और हथियार शामिल हैं। रक्षा मंत्रालय द्वारा 2020 के लिए अनुरोध किए गए $ 718 बिलियन में से $ 927 मिलियन एआई और मशीन लर्निंग पर जाएंगे। मौजूदा परियोजनाओं में, दोनों उबाऊ हैं (यह जांचना कि क्या एआई सर्विसिंग टैंक और ट्रकों की आवश्यकता की भविष्यवाणी कर सकता है) और हथियारों के क्षेत्र में सबसे उन्नत चीजें (ड्रोन का स्वार)।

पेंटागन एआई के उपयोग की वकालत करता है, विशेष रूप से इस डर के कारण कि इसकी तकनीक का इस्तेमाल उसके विरोधी कर सकते हैं। पिछले साल, रक्षा सचिव के रूप में जिम मैटिस ने राष्ट्रपति डोनाल्ड ट्रम्प को एक मेमो चेतावनी दी थी कि अमेरिका पहले से ही एआई के मामलों में पीछे है। उसकी चिंता को समझा जा सकता है।

जुलाई 2017 में, चीन ने अपनी एआई रणनीति का खुलासा किया, जिसमें कहा गया था कि "दुनिया के सबसे बड़े विकसित देश एआई विकास को प्रतिस्पर्धी स्थिति में सुधार करने और राज्य सुरक्षा की रक्षा करने के लिए मुख्य रणनीति के रूप में स्वीकार करते हैं।" कुछ महीने बाद, रूस के राष्ट्रपति व्लादिमीर पुतिन ने निम्नलिखित भविष्यवाणी की: "जो कोई भी AI में नेता बनेगा वह दुनिया पर राज करेगा" [ यह मूल लेख से उद्धृत अंश का शाब्दिक अनुवाद है। लेकिन, जैसा कि अक्सर होता है, उद्धरण विकृत होता है। वह इस तरह लग रहा था : "अगर कोई कृत्रिम बुद्धि के क्षेत्र में एकाधिकार सुनिश्चित कर सकता है, तो हम सभी परिणामों को समझते हैं - वह दुनिया का शासक बन जाएगा" / लगभग। ट्रांस। ]।

सबसे चतुर और सबसे घातक हथियार बनाने की इच्छा को समझा जा सकता है, लेकिन, टेस्ला के हैक शो के रूप में, एआई एल्गोरिथ्म के सिद्धांतों को जानने वाला एक दुश्मन इसे बेअसर कर सकता है या मालिकों के खिलाफ भी कर सकता है। एआई युद्ध जीतने का रहस्य सबसे प्रभावशाली हथियार बनाने के लिए नहीं हो सकता है, लेकिन विश्वासघाती सॉफ्टवेयर धोखे की कला में महारत हासिल करने के लिए।

लड़ाई की पोटली

वाशिंगटन, डीसी में पिछली गर्मियों में एक चमकदार धूप के दिन, माइकल कनान पेंटागन के कैफे में बैठे, एक सैंडविच खाया और शक्तिशाली मशीन लर्निंग एल्गोरिदम के नए सेट पर आश्चर्यचकित थे।

कुछ हफ्ते पहले, कन्नन एक वीडियो गेम देख रहा था जिसमें पांच एआई एल्गोरिदम ने एक साथ काम किया, और एक प्रतियोगिता में पांच लोगों को लगभग हरा दिया और आउट किया, जिसमें एक बड़े और जटिल युद्ध के मैदान में बिखरे बलों, शिविर और संसाधनों को नियंत्रित करना आवश्यक था। हालांकि, कन्नन अपने छोटे कटे हुए बालों के नीचे फंसे हुए थे क्योंकि उन्होंने बताया कि क्या हो रहा था। यह एआई रणनीति का सबसे प्रभावशाली प्रदर्शन था जो उसने देखा था - एआई का एक अप्रत्याशित झटका, शतरंज में हुआ एक जैसा, अटारी के लिए खेल, आदि।

ये लड़ाई Dota 2 में खेली गई थी, एक लोकप्रिय NF वीडियो गेम जो कंप्यूटर के लिए अविश्वसनीय रूप से जटिल है। टीमों को किसी भी बोर्ड गेम की तुलना में अधिक जटिल और विश्वासघाती माहौल में दुश्मन के शिविर पर हमला करके अपने क्षेत्रों का बचाव करना चाहिए। खिलाड़ी पूरे क्षेत्र का केवल एक छोटा सा हिस्सा देख सकते हैं, और यह निर्धारित करने में लगभग आधे घंटे लग सकते हैं कि उनकी रणनीति जीत रही है या नहीं।

एआई के नियंत्रण में विरोधियों को सेना द्वारा नहीं, बल्कि ओपनएआई द्वारा विकसित किया गया था, जो कि एलोन मास्क और सैम ऑल्टमैन सहित सिलिकॉन वैली के प्रकाशकों द्वारा एआई के क्षेत्र में बुनियादी अनुसंधान करने के लिए बनाया गया था। OpenAI Five के नाम से जाने जाने वाले इन एल्गोरिदमिक योद्धाओं ने अपनी खुद की जीत की रणनीति विकसित की, खेल को अथक रूप से अभ्यास किया और उन चालों का उपयोग किया जो सबसे अच्छे साबित हुए।

यह एक प्रकार का सॉफ़्टवेयर है जो कनान को दिलचस्पी देता है, उन लोगों में से एक है जिन्हें अमेरिकी सेना को आधुनिक बनाने के लिए एआई का उपयोग करना चाहिए। उनके दृष्टिकोण से, यह सॉफ्टवेयर दिखाता है कि एआई के क्षेत्र में दुनिया के अग्रणी शोधकर्ताओं की मदद से सेना को क्या फायदे होंगे। हालांकि, चाहे वे इसे प्रदान करने के लिए तैयार हों - यह सवाल और तीव्र होता जा रहा है।

कानन ने हवाई तस्वीरों में वस्तुओं की मान्यता को स्वचालित करने के लिए एआई का उपयोग करने के उद्देश्य से एक सैन्य पहल, संयुक्त राज्य वायु सेना परियोजना मावेन का नेतृत्व किया। Google परियोजना का ठेकेदार था, और जब 2018 में कंपनी के कुछ कर्मचारियों को इस बारे में पता चला, तो कंपनी ने इस परियोजना को छोड़ने का फैसला किया। उसके बाद, कंपनी ने एआई का उपयोग करने के लिए नियमों को जारी किया, जहां उसने लिखा कि Google अपने एआई का उपयोग "हथियार या अन्य तकनीकों को विकसित करने के लिए नहीं करेगा, जिनके प्रमुख उद्देश्य या कार्यान्वयन की विधि में लोगों को चोट पहुंचाना शामिल है।"

Google को अन्य बड़ी प्रौद्योगिकी कंपनियों के कर्मचारियों द्वारा पीछा किया गया था, जिससे नियोक्ताओं को सैन्य अनुबंधों से बचना पड़ा। एआई के कई प्रमुख शोधकर्ताओं ने पूरी तरह से स्वायत्त हथियारों पर वैश्विक प्रतिबंध लगाने के प्रयासों का समर्थन किया है।

हालांकि, कन्नन के लिए, यह एक बड़ी समस्या होगी यदि सेना शोधकर्ताओं के साथ काम नहीं कर सकती है - जैसे कि ओपनए फाइव विकसित करने वाले। जिस संभावना में इस तरह की उन्नत तकनीक तक पहुंच प्राप्त होगी वह संभावना और भी अधिक अप्रिय लगती है। "कोड सार्वजनिक डोमेन में है, हर कोई इसका उपयोग कर सकता है," उन्होंने कहा। और उन्होंने कहा: युद्ध एक वीडियो गेम की तुलना में बहुत अधिक जटिल है। "

ऐ सर्जना

कन्नन ने विशेष रूप से एआई के साथ सवाल पर जोर दिया, क्योंकि वह पहले हाथ से जानता है कि यह सैन्य के लिए कितना उपयोगी हो सकता है। छह साल पहले, वह अमेरिकी वायु सेना के लिए अफगानिस्तान में एक खुफिया अधिकारी था, और एक नया खुफिया-एकत्रित उपकरण तैनात करने के लिए जिम्मेदार था: एक हाइपरस्पेक्ट्रल विश्लेषक। यह उपकरण साधारण दृष्टि से छिपी वस्तुओं को नोटिस कर सकता है, जैसे कि छलावरण कपड़े से ढंके टैंक, या अवैध विस्फोटक कारखाने से उत्सर्जन। कानन का कहना है कि इस प्रणाली ने सेना को युद्ध के मैदान से हजारों किलोग्राम विस्फोटक निकालने की अनुमति दी। और फिर भी, अक्सर, विश्लेषक, विश्लेषक द्वारा एकत्र की गई बड़ी मात्रा में डेटा का विश्लेषण नहीं कर सके। "हम डेटा को देखने में बहुत समय बिताते हैं, और बहुत कम समय निर्णय लेते हैं," वे कहते हैं। "कभी-कभी यह इतना घसीटा जाता है कि हम इस बारे में सोचने लगे कि क्या हम और भी अधिक जीवन बचा सकते हैं।"

इसका समाधान जोफ्रे हिंटन के निर्देशन में टोरंटो विश्वविद्यालय की एक टीम द्वारा कंप्यूटर विज़न के क्षेत्र में की गई सफलता में पाया जा सकता है। वैज्ञानिकों ने दिखाया है कि मल्टी-लेयर न्यूरल नेटवर्क से प्रेरित एक एल्गोरिथ्म ऑब्जेक्ट को अभूतपूर्व सटीकता के साथ पहचान सकता है यदि आप इसे पर्याप्त डेटा और कंप्यूटिंग शक्ति प्रदान करते हैं।

एक तंत्रिका नेटवर्क को सीखना का अर्थ है कि यह डेटा प्राप्त करेगा, उदाहरण के लिए, छवि पिक्सल, और इसे संसाधित करेगा, गणितीय तकनीकों का उपयोग करके नेटवर्क में लगातार आंतरिक कनेक्शन बदल रहा है, ताकि आउटपुट एक विशिष्ट परिणाम के जितना करीब हो सके, उदाहरण के लिए, यह निर्धारित करना कि क्या वस्तु की छवि। समय के साथ, ये गहरे सीखने वाले तंत्रिका नेटवर्क पिक्सेल से पैटर्न को पहचानना सीखते हैं जो इंगित करते हैं, उदाहरण के लिए, लोग या घर। गहरी सीखने में बाधाओं ने मौजूदा एआई बूम को जन्म दिया; यह तकनीक टेस्ला और OpenAI एल्गोरिदम के लिए स्टैंडअलोन सिस्टम की नींव है।

कन्नन ने सैन्य अभियानों के लिए विभिन्न प्रकार की छवियों और सेंसर डेटा को संसाधित करने के लिए गहरी सीखने की क्षमता को तुरंत पहचान लिया। उन्होंने और उनके सहयोगियों ने वायु सेना से जल्द ही इस तकनीक में निवेश करने के लिए अधिकारियों को आंदोलन करना शुरू कर दिया। उनके प्रयासों ने AI विकास योजनाओं में पेंटागन की उन्नति में योगदान दिया।

हालांकि, एआई के क्षेत्र में गहन सीखने के कुछ ही समय बाद, शोधकर्ताओं ने पाया कि एक ही गुण जो इसे इतना शक्तिशाली उपकरण बनाते हैं, वह है इसका अकिलीस जेल।

यदि यह गणना करना संभव है कि नेटवर्क मापदंडों को कैसे समायोजित किया जाए ताकि यह ऑब्जेक्ट को सही ढंग से वर्गीकृत कर सके, तो आप गणना कर सकते हैं कि छवि में क्या न्यूनतम बदलाव नेटवर्क को गलती कर सकते हैं। इस तरह के "प्रतिस्पर्धात्मक उदाहरण" में, छवि के कुछ पिक्सेल बदलने के बाद, यह एक व्यक्ति के लिए समान दिखता है, लेकिन एआई एल्गोरिथ्म द्वारा पूरी तरह से अलग तरीके से माना जाता है। समस्या यह हो सकती है कि कहीं भी गहन शिक्षण का उपयोग किया जाता है - उदाहरण के लिए, रोबोट वाहनों के प्रबंधन, मिशन की योजना बनाने या नेटवर्क हैक का पता लगाने में।

और सैन्य उद्देश्यों के लिए एआई के उपयोग में इस सभी सक्रिय वृद्धि के बीच, कुछ लोग सॉफ्टवेयर में रहस्यमय कमजोरियों को नोटिस करते हैं।

चलते हुए लक्ष्य

एक उल्लेखनीय वस्तु प्रतिस्पर्धी मशीन सीखने की पूरी शक्ति का चित्रण करती है। यह एक बग की छवि है।

यह मुझे या आपको सामान्य लगता है, लेकिन वह एक ड्रोन या एक रोबोट को देखता है, जिसमें एक निश्चित मशीन दृष्टि एल्गोरिदम होता है, जो गहरे प्रशिक्षण के माध्यम से प्राप्त होता है ... एक बंदूक के रूप में। वास्तव में, कछुए के गोले के निशान से अद्वितीय पैटर्न को फिर से बनाया जा सकता है ताकि Google की क्लाउड सेवा के माध्यम से सुलभ AI-आधारित कंप्यूटर विज़न, इसे किसी भी चीज़ के साथ भ्रमित कर दे (तब से Google ने अपने एल्गोरिथ्म को अपडेट कर दिया है, और आप इसे केवल मूर्ख नहीं बना सकते हैं )।

उसी समय, कछुए को राज्य के दुश्मन ने नहीं, बल्कि एमआईटी के चार लोगों ने बनाया था। उनमें से एक अनीश अटाली है, जो कंप्यूटर साइंस और आर्टिफिशियल इंटेलिजेंस लैबोरेटरी (CSAIL) में कंप्यूटर सुरक्षा के क्षेत्र में काम करने वाला एक दुबला और बहुत ही विनम्र युवक है। उनके लैपटॉप पर घूमती एक वीडियो में कछुओं के परीक्षण की प्रक्रिया को दिखाया गया है (इनमें से कुछ मॉडल, उन्होंने कहा, एक सम्मेलन में चोरी हो गए थे), जो 360 डिग्री घुमाए जाते हैं और उल्टा भी होते हैं। और एल्गोरिथ्म वहां एक ही चीज देखता है: "शॉटगन", "शॉटगन", "शॉटगन"।

सबसे शुरुआती प्रतिस्पर्धी उदाहरण नाजुक थे और अक्सर काम करने से मना कर दिया जाता था, लेकिन अटाली और उनके दोस्तों का मानना ​​था कि वे इस तरह के उदाहरण का काफी विश्वसनीय संस्करण विकसित करने में सक्षम होंगे जो 3 डी प्रिंटर पर छपी किसी वस्तु पर भी काम कर सकते हैं। तीन-आयामी वस्तुओं को अनुकरण करना और एक एल्गोरिथ्म विकसित करना आवश्यक था जो एक कछुआ बनाता है - एक प्रतिस्पर्धी उदाहरण जो विभिन्न कोणों से और विभिन्न दूरी पर काम करेगा। सीधे शब्दों में कहें, वे एक एल्गोरिथ्म के साथ आए थे जो कुछ ऐसा बनाता है जो मज़बूती से मशीन सीखने को धोखा देता है।

इस तकनीक के सैन्य अनुप्रयोग स्पष्ट हैं। छलावरण प्रतिस्पर्धी एल्गोरिदम का उपयोग करते हुए, टैंक और विमान एआई के साथ उपग्रहों और ड्रोन से छिपा सकते हैं। एआई-संचालित मिसाइलें प्रतिस्पर्धी डेटा के साथ अंधा हो सकती हैं, या यहां तक ​​कि मैत्रीपूर्ण लक्ष्यों पर वापस जा सकती हैं। स्मार्ट एल्गोरिदम को खिलाई गई जानकारी को आतंकवादी खतरे को छिपाने या वास्तविक दुनिया में सैनिकों को फंसाने के द्वारा जहर दिया जा सकता है।

प्रतिस्पर्धी मशीन सीखने के बारे में अटल को कितनी चिंता है, इस पर अचरज है। "मैं इस उद्योग के लोगों के एक समूह के साथ बात करता था, उनसे पूछ रहा था कि क्या वे प्रतिस्पर्धी उदाहरणों के बारे में चिंतित थे," वे कहते हैं। "उनमें से लगभग सभी ने नकारात्मक उत्तर दिया।"

सौभाग्य से, पेंटागन इस पर ध्यान देना शुरू कर रहा है। अगस्त में, DARPA परियोजना ने कई प्रमुख AI अनुसंधान परियोजनाओं को शुरू करने की घोषणा की। उनमें से GARD, एक प्रोग्राम है जो प्रतिस्पर्धी मशीन लर्निंग पर केंद्रित है। मैसाचुसेट्स विश्वविद्यालय के प्रोफेसर और जीएआरडी के कार्यक्रम प्रबंधक ह्वा शिगेलमैन का कहना है कि ये हमले सैन्य स्थितियों में विनाशकारी हो सकते हैं क्योंकि लोग उन्हें पहचान नहीं सकते हैं। "हम माना जाता है कि अंधे हैं," वह कहते हैं। "और इससे स्थिति बहुत खतरनाक हो जाती है।"

प्रतिस्पर्धा की मशीन सीखने की समस्याओं ने यह भी बताया कि पेंटागन Google और अमेज़ॅन जैसी कंपनियों के साथ-साथ आईआईटी जैसे अनुसंधान संस्थानों के साथ काम करने के लिए क्यों उत्सुक है। प्रौद्योगिकी बहुत तेजी से विकसित हो रही है, और नवीनतम सफलताओं सिलिकॉन वैली कंपनियों और सर्वश्रेष्ठ विश्वविद्यालयों द्वारा चलाए जा रहे प्रयोगशालाओं में जगह ले रही हैं, बजाय अन्य रक्षा ठेकेदारों के।

जो महत्वपूर्ण है, वे संयुक्त राज्य अमेरिका के बाहर भी होते हैं, विशेष रूप से चीन में। "मुझे लगता है कि एक और दुनिया आ रही है," कानन कहते हैं। "और हमें इसे AI से लड़ना होगा।"

सैन्य उद्देश्यों के लिए एआई का उपयोग करने के लिए गुस्सा प्रतिक्रिया समझ में आता है, लेकिन यह पूरी तस्वीर नहीं देख सकता है। लोग स्मार्ट किलर रोबोट के बारे में चिंतित हैं, हालांकि, यह संभव है कि हम जल्द ही युद्ध के एक एल्गोरिथम कोहरे के खतरे में होंगे - जिसके माध्यम से यहां तक ​​कि सबसे स्मार्ट मशीनों में कुछ भी नहीं देखा जा सकता है।