कर्मचारियों ने Google से पेंटागन युद्ध ड्रोन के लिए मशीन विजन को विकसित करने से रोकने का आग्रह किया

“हम मानते हैं कि Google को सैन्य व्यवसाय का हिस्सा नहीं बनना चाहिए। इसलिए, हम कंपनी से मावेन परियोजना को रद्द करने के साथ-साथ एक ऐसी नीति प्रकाशित और लागू करने के लिए कहते हैं जिसमें स्पष्ट रूप से कहा गया है कि न तो Google और न ही इसके ठेकेदार कभी सैन्य तकनीक का निर्माण करेंगे, ”नियोक्ता को सामूहिक पत्र का पाठ शुरू होता है, जिसे अब Google कर्मचारियों द्वारा बड़े पैमाने पर हस्ताक्षरित किया जा रहा है। NY टाइम्स के अनुसार , दस्तावेज़ पर 3,100 से अधिक लोगों ने हस्ताक्षर किए हैं। संपादकों को पाठ (पीडीएफ) मिला।

जैसा कि यह एक महीने पहले ज्ञात हुआ, खोज दिग्गज ने अमेरिकी रक्षा विभाग के साथ एक अनुबंध पर हस्ताक्षर किए । 2017 के अंत तक , मावेन परियोजना के हिस्से के रूप में , "बड़ी संख्या में चलती या अभी भी छवियों को पहचानने के लिए सरकारी प्लेटफार्मों में उन्नत कंप्यूटर एल्गोरिदम को पेश करने की योजना बनाई गई थी।" वास्तव में, यह सैन्य यूएवी के लिए एक मशीन विजन सिस्टम है।

पत्र में, मावेन परियोजना को संक्षेप में "एक कस्टम एआई इंजन के रूप में वर्णित किया गया है जो वाहनों और अन्य वस्तुओं का पता लगाने के लिए अमेरिकी सरकार मानवरहित हवाई वाहनों द्वारा एकत्र किए गए वाइड एरिया मोशन इमेजरी डेटा का उपयोग करता है, उनके आंदोलनों को ट्रैक करता है और रक्षा विभाग को मान्यता परिणाम प्रसारित करता है।"

सामान्य Google कर्मचारियों के बीच, कम से कम एक महीने के लिए परियोजना की चर्चा चल रही है । पत्र में कहा गया है कि सबसे पहले उन्होंने कंपनी के अंदर की समस्या पर चर्चा करने की कोशिश की। कर्मचारियों को Google डायने ग्रीन (डायने ग्रीन) के निदेशक मंडल के अध्यक्ष द्वारा संबोधित किया गया था। उसने आश्वासन दिया कि Google की तकनीक "ड्रोन को नियंत्रित नहीं करेगी" और "हथियारों को लॉन्च करने के लिए उपयोग नहीं किया जाएगा।" मानो ये तथ्य सभी को आश्वस्त करने के लिए पर्याप्त हैं। लेकिन नहीं। वास्तव में, प्रौद्योगिकी का उपयोग बड़ी संख्या में अन्य सैन्य अनुप्रयोगों के लिए किया जा सकता है, जिसमें लड़ाकू यूएवी शामिल हैं जो बोर्ड पर घातक हथियार ले जाते हैं। और कोई भी गारंटी नहीं देता कि यूएवी ऑपरेटर Google से डेटा प्राप्त करने के बाद इस हथियार का उपयोग करने का फैसला करेगा। साधारण नागरिक प्रोग्रामर, मशीन दृष्टि और कृत्रिम बुद्धि के विशेषज्ञ इस तरह की जिम्मेदारी नहीं लेना चाहते हैं।

2017 के पतन में, आर्टिफिशियल इंटेलिजेंस और ग्लोबल सिक्योरिटी सिस्टम पर एक शिखर सम्मेलन में, एरिक श्मिट ने चिंता व्यक्त की कि इस तरह के उन्नत मशीन विज़न सिस्टम और एआई का "लोगों को मारने के लिए सेना द्वारा दुरुपयोग किया जा सकता है।" उनके अनुसार, प्रौद्योगिकी उद्योग में इस बारे में कुछ चिंता है, क्योंकि आम तौर पर बोलते हुए, आईटी कंपनियां सभी विकासशील मशीन विजन सिस्टम में नहीं हैं। एआई के विश्वविद्यालयों और विभागों के कई वैज्ञानिक और शोधकर्ता सुझाव नहीं देते हैं कि उनके विकास का उपयोग इस तरह से किया जा सकता है।

पेंटागन अन्यथा विश्वास करता है। द मेवेन प्रोजेक्ट अप्रैल 2017 में शुरू किया गया था, और पिछले साल रक्षा विभाग ने आर्टिफिशियल इंटेलिजेंस से संबंधित क्षेत्रों में कुल 7.4 बिलियन डॉलर का निवेश किया, द वॉल स्ट्रीट जर्नल ने लिखा है । अब सभी उपकरण और सॉफ्टवेयर की खरीद पर काम करते हैं, साथ ही एआई सिस्टम के कार्यान्वयन को मावेन परियोजना के ढांचे के भीतर समन्वित किया जाता है। प्राथमिक कार्य ऑब्जेक्ट मान्यता है और टोही ड्रोन द्वारा शूट किए गए वीडियो फ्रेम की एक बड़ी संख्या का विश्लेषणात्मक प्रसंस्करण। इस जानकारी के आधार पर, लक्ष्यों को नष्ट करने के लिए निर्णय किए जा सकते हैं।

पत्र में कहा गया है, "इस योजना से ब्रांड और Google की नौकरी बाजार में प्रतिस्पर्धा करने की क्षमता को नुकसान होगा।" - एक पक्षपाती और सशस्त्र एआई के बढ़ते डर के बीच, Google पहले से ही जनता के विश्वास को बनाए रखने के लिए संघर्ष कर रहा है। इस अनुबंध पर हस्ताक्षर करने से, Google Palantir, Raytheon और General Dynamics जैसी कंपनियों के रैंक में शामिल हो जाएगा। तर्क है कि अन्य फर्मों, जैसे कि माइक्रोसॉफ्ट और अमेज़ॅन, भी परियोजना में भाग ले रहे हैं, Google के लिए जोखिम कम नहीं करता है। "Google का अनूठा इतिहास, इसका आदर्श वाक्य डोन्ट बी ईविल , और अरबों लोगों के जीवन पर सीधा प्रभाव इसे तस्वीर से बाहर कर रहा है।"

कर्मचारियों का मानना ​​है कि निर्मित प्रौद्योगिकियों के उपयोग के लिए अनधिकृत व्यक्तियों को नैतिक जिम्मेदारी सौंपना असंभव है । Google के घोषित मूल्य यह स्पष्ट करते हैं कि प्रत्येक उपयोगकर्ता कंपनी पर भरोसा करता है। आप इसे कभी जोखिम में नहीं डाल सकते। यह अनुबंध Google की प्रतिष्ठा और सीधे मूल मूल्यों का विरोध करता है। पत्र में कहा गया है, "सैन्य खुफिया में अमेरिकी सरकार की सहायता के लिए इस तकनीक का निर्माण - और संभावित रूप से घातक - अस्वीकार्य है"।

इस प्रकार, पत्र पर हस्ताक्षर करने वाले हजारों कर्मचारी प्रबंधन से पूछते हैं:

1. प्रोजेक्ट को तुरंत रद्द करें।
2. एक स्पष्ट नीति को डिज़ाइन, प्रकाशित और लागू करना, जो कहती है कि न तो Google और न ही इसके ठेकेदार कभी भी युद्ध के लिए तकनीक का निर्माण करेंगे।

सार्वजनिक शिकायतों के जवाब में, Google ने कहा कि पेंटागन "किसी भी Google क्लाउड उपयोगकर्ता के लिए उपलब्ध मुफ्त सॉफ़्टवेयर" का उपयोग करता है। इस तकनीक का उपयोग "किसी व्यक्ति द्वारा अध्ययन की जाने वाली उम्मीदवार छवियों की पहचान करने के लिए किया जाता है और इसे मानव जीवन को बचाने और लोगों को बहुत थकाऊ काम करने से बचाने के लिए डिज़ाइन किया गया है।"

उपलब्ध जानकारी के अनुसार, निकट भविष्य में, Google, Amazon और Microsoft अमेरिकी रक्षा विभाग को क्लाउड सेवाओं के प्रावधान के लिए एक बहु-अरब डॉलर के अनुबंध के लिए बहस करेंगे।