क्यों स्वायत्त हत्यारे रोबोटों पर प्रतिबंध कुछ भी हल नहीं करेगा

स्वायत्त हथियार - हत्यारा रोबोट जो मानव हस्तक्षेप के बिना हमला कर सकते हैं - यह एक बहुत ही खतरनाक उपकरण है। इसमें कोई संदेह नहीं है। जैसा कि यूएन के अपने खुले पत्र में कहा गया है, इलोन मस्क, जिन्होंने उनके तहत हस्ताक्षर किए, एआई कंपनी दीपइंड / लगभग के मुस्तवा सुलेमान [ सह-संस्थापक। ट्रांस। ] और अन्य लेखक, स्वायत्त हथियार "डराने के हथियार, हथियार हो सकते हैं जो अत्याचारी और आतंकवादी एक निर्दोष आबादी के खिलाफ उपयोग कर सकते हैं, जो हथियार हैक किए जा सकते हैं और अवांछनीय तरीके से काम कर सकते हैं।"

लेकिन इसका मतलब यह नहीं है कि संयुक्त राष्ट्र को ऐसे हथियारों के अनुसंधान पर प्रतिबंधात्मक प्रतिबंध लगाना चाहिए, जैसा कि पत्र के लेखकों ने आग्रह किया है।

सबसे पहले, योग्य लक्ष्यों को प्राप्त करने के लिए कभी-कभी खतरनाक साधनों की आवश्यकता होती है। रवांडा में हुए नरसंहार को याद कीजिए जब दुनिया ने खड़ा किया और कुछ नहीं किया। अगर 1994 में स्वायत्त हथियार मौजूद थे, तो शायद हम इस तरफ नहीं देखेंगे। यह संभावना प्रतीत होती है कि यदि मानवीय हस्तक्षेप की लागत को केवल पैसे से मापा जा सकता है, तो ऐसे हस्तक्षेपों के लिए सार्वजनिक समर्थन प्राप्त करना आसान होगा।

दूसरे, यह विश्वास करने के लिए भोला है कि हम अपनी कुछ कमियों का अनुभव किए बिना एआई में हाल की सफलताओं का लाभ उठा सकते हैं। मान लीजिए कि संयुक्त राष्ट्र स्वायत्त हथियारों की किसी भी तकनीक पर प्रतिबंधात्मक प्रतिबंध लगाता है। हम यह भी मानते हैं - पहले से ही काफी आशावादी है - कि दुनिया की सभी सेनाएं इस प्रतिबंध का सम्मान करेंगी और स्वायत्त हथियार कार्यक्रमों के विकास को रद्द कर देंगी। और फिर भी, हमें अभी भी इस बारे में चिंता करनी होगी। एक रोबोमोबाइल को आसानी से एक स्वायत्त हथियार प्रणाली में बदल दिया जा सकता है: पैदल चलने वालों के आसपास जाने के बजाय, आप उन्हें स्थानांतरित करने के लिए सिखा सकते हैं।

सामान्यतया, AI प्रौद्योगिकियां अत्यंत उपयोगी होती हैं और पहले से ही हमारे जीवन में प्रवेश कर रही हैं, भले ही कभी-कभी हम यह नहीं देखते हैं और पूरी तरह से महसूस नहीं कर सकते हैं। इस पैठ को देखते हुए, यह सोचना अदूरदर्शी होगा कि स्वायत्त हथियारों के विकास पर प्रतिबंध लगाकर प्रौद्योगिकी के दुरुपयोग को प्रतिबंधित किया जा सकता है। शायद यह दुनिया भर की विभिन्न सेनाओं द्वारा विकसित परिष्कृत और चुनिंदा रूप से कार्य करने वाली स्वायत्त हथियार प्रणाली है जो प्रभावी रूप से मोटे तौर पर स्वायत्त हथियारों का मुकाबला करने में सक्षम होगी जो प्रतीत होता है कि शांतिपूर्ण एआई तकनीक, जैसे कि एक ही रोबोमोबाइल्स को फिर से संगठित करके विकसित करना आसान है।

इसके अलावा, अंतरराष्ट्रीय स्तर पर एक सरल प्रतिबंध का विचार स्वायत्त हथियारों के विचार के लिए एक पर्यवेक्षित दृष्टिकोण देता है। इस तरह की अवधारणा विभिन्न देशों के कार्यों और समझौतों के कारणों और प्रभावों के लंबे इतिहास को अपने और अकेले के बीच नहीं पहचानती है, जो हजारों छोटे कार्यों और चूक के माध्यम से इस तरह की प्रौद्योगिकियों के विकास का कारण बना। जबकि स्वायत्त हथियारों पर बहस मुख्य रूप से संयुक्त राष्ट्र के स्तर पर आयोजित की जाती है, स्वायत्त हथियारों से होने वाले नुकसान के लिए नैतिक दायित्वों को नहीं मानने के लिए औसत नागरिक, सैनिक या प्रोग्रामर को माफ किया जा सकता है। लेकिन यह एक बहुत ही खतरनाक धारणा है, जो आपदा का कारण बन सकती है।

सभी लोग जो किसी भी तरह स्वचालित हथियार प्रौद्योगिकियों से संबंधित हैं, उन्हें उचित परिश्रम के साथ व्यायाम करना चाहिए, और हम में से प्रत्येक को इस तकनीक के संभावित खतरों की सूची में अपनी कार्रवाई या निष्क्रियता के लिए क्या योगदान देना चाहिए, इसके बारे में सावधानी से सोचना चाहिए। इसका मतलब यह नहीं है कि देशों और अंतर्राष्ट्रीय एजेंसियों की अपनी महत्वपूर्ण भूमिका नहीं है। यह इस तथ्य से रेखांकित किया गया है कि यदि हम स्वचालित हथियारों के संभावित खतरे को खत्म करना चाहते हैं, तो व्यक्तिगत जिम्मेदारी की नैतिकता को बढ़ावा देना आवश्यक है, और यह प्रचार उन निम्नतम स्तरों पर पहुंचना चाहिए जिन पर निर्णय किए जाते हैं। के साथ शुरू करने के लिए, विस्तार से और पूरी तरह से स्वायत्त हथियारों के विकास के बारे में बात करना बहुत महत्वपूर्ण है - उन सभी के कार्यों के परिणामों सहित, जो सभी स्तरों पर निर्णय लेते हैं।

अंत में, यह कभी-कभी तर्क दिया जाता है कि एक स्वायत्त हथियार खतरनाक नहीं है क्योंकि यह उपकरण अपने आप में खतरनाक है, लेकिन क्योंकि यह स्वतंत्र हो सकता है और अपने हितों में कार्य करना शुरू कर सकता है। यह एक गलत गलती है, और इसके अलावा, स्वायत्त हथियारों के विकास पर प्रतिबंध इस खतरे को रोकने में मदद नहीं करेगा। यदि अधीक्षण मानवता के लिए खतरा है, तो हमें तत्काल इस खतरे का प्रभावी ढंग से मुकाबला करने के तरीकों की तलाश करने की आवश्यकता है, और यह परवाह किए बिना कि क्या स्वचालित हथियारों की तकनीक को और विकसित किया जाएगा।

कुछ पारंपरिक हथियारों पर संयुक्त राष्ट्र सम्मेलन के लिए खुला पत्र

जैसा कि कुछ कंपनियां कृत्रिम बुद्धिमत्ता और रोबोटिक्स से संबंधित तकनीकें बनाती हैं जिन्हें स्वायत्त हथियारों के विकास के लिए पुनर्निर्देशित किया जा सकता है, हम इस अलार्म को बढ़ाने के लिए एक विशेष जिम्मेदारी महसूस करते हैं। हम घातक स्वायत्त शस्त्र प्रणालियों पर सरकारी विशेषज्ञों (ग्रुप ऑफ गवर्नमेंट एक्सपर्ट्स, जीजीई) के एक समूह की नियुक्ति पर "कन्वेंशन ऑन विशिष्ट प्रकार के पारंपरिक हथियारों का सम्मेलन" अपनाने पर गर्मजोशी से स्वागत करते हैं। हमारे कई शोधकर्ता और इंजीनियर इस मुद्दे पर मदद करने के लिए तकनीकी सलाह देने के लिए तैयार हैं।

हम GGE के अध्यक्ष के रूप में भारत से राजदूत अमनदीप सिंह गिल की नियुक्ति का स्वागत करते हैं। हम इस तरह के हथियारों की दौड़ को रोकने, नागरिकों को उनके दुरुपयोग से बचाने और इन तकनीकों के अस्थिर प्रभावों से बचने के तरीकों को खोजने के लिए सक्रिय रूप से काम करने के लिए GGE में भाग लेने वाले उच्च अनुबंधित दलों से पूछते हैं। हमें खेद है कि अगस्त 2017 के लिए निर्धारित पहली GGE बैठक को इस तथ्य के कारण रद्द कर दिया गया था कि कुछ देशों ने संयुक्त राष्ट्र में वित्तीय योगदान नहीं दिया था। हम नवंबर में होने वाली पहली जीजीई बैठक में अपने प्रयासों को दोगुना करने के लिए उच्च अनुबंध वाले दलों से आग्रह करते हैं।

विस्तृत स्वायत्त हथियारों ने सैन्य मामलों में तीसरी क्रांति लाने की धमकी दी। इसके विकास के बाद, यह पहले से अभूतपूर्व पैमाने पर सैन्य संघर्षों को संचालित करने के लिए संभव बनाता है, और एक व्यक्ति क्या अनुभव कर सकता है की तुलना में कम समय पर। यह डराने-धमकाने का हथियार बन सकता है, एक हथियार जो अत्याचारी और आतंकवादी एक निर्दोष आबादी के खिलाफ इस्तेमाल कर सकते हैं, एक हथियार जिसे हैक किया जा सकता है और अवांछनीय तरीकों से काम किया जा सकता है। हमारे पास बहुत कम समय बचा है। इस पेंडोरा के बॉक्स को खोलने के बाद, इसे बंद करना मुश्किल होगा। इसलिए, हम हाई कॉन्ट्रैक्टिंग पार्टियों से इन सभी खतरों से हमें बचाने के तरीके खोजने के लिए कहते हैं।