Google के प्रमुख का मानना ​​है कि AI का डर "पूरी तरह से उचित" है

कृत्रिम बुद्धिमत्ता के क्षेत्र में काम करने वाली सबसे बड़ी कंपनियों में से एक, Google के सीईओ सुंदर पिचाई ने इस सप्ताह एक साक्षात्कार में कहा कि प्रौद्योगिकी के हानिकारक उपयोग के बारे में डर "पूरी तरह से उचित" है - हालांकि, हमें इस पर भरोसा करना चाहिए कि यह उद्योग में सक्षम होगा सभी जिम्मेदारी इसके उपयोग को विनियमित करने के लिए।

वाशिंगटन पोस्ट के साथ एक बातचीत में, पिचाई ने कहा कि नए एआई उपकरण - जैसे कि रोबोमोबाइल्स और रोग-मान्यता एल्गोरिदम जैसे नवाचारों की नींव - कंपनियों को एक नैतिक ढांचे को परिभाषित करने और ध्यान से विचार करने की आवश्यकता है कि इस तकनीक का दुरुपयोग कैसे किया जा सकता है।

पिचाई ने कहा, "मुझे लगता है कि प्रौद्योगिकी व्यवसाय को समझना चाहिए कि आप इसे पहले नहीं बना सकते हैं और फिर इसे ठीक कर सकते हैं।" "मुझे लगता है कि यह काम नहीं करेगा।"

पिचाई ने कहा कि तकनीकी दिग्गजों को यह सुनिश्चित करना होगा कि एआई "अपने लक्ष्यों के साथ" मानवता को नुकसान न पहुंचाए। उन्होंने कहा कि वह प्रौद्योगिकी के दीर्घकालिक लाभों के बारे में आशावादी थे, लेकिन एआई के संभावित जोखिमों के बारे में उनका आकलन कुछ प्रौद्योगिकी आलोचकों से सहमत है, जो दावा करते हैं कि इस तकनीक का उपयोग आक्रामक निगरानी को लागू करने, घातक हथियार बनाने और प्रसार करने के लिए किया जा सकता है। अन्य प्रौद्योगिकी कंपनी के प्रबंधकों, जैसे कि स्पेसएक्स और टेस्ला के संस्थापक, एलोन मस्क ने फ़ोल्डर की भविष्यवाणी की कि एआई "परमाणु बमों की तुलना में बहुत अधिक खतरनाक हो सकता है।"

Google की AI तकनीक एक विवादास्पद चीनी कंपनी परियोजना से लेकर YouTube के घृणास्पद और षड्यंत्र के सिद्धांतों, कंपनी के विभाजन तक सब कुछ के केंद्र में है। पिचाई ने अगले साल इस समस्या को हल करने का वादा किया। Google ने जिस तरह से AI का उपयोग करने का निर्णय लिया है, उसने कंपनी के कर्मचारियों के बीच हाल की अशांति उत्पन्न की है।

स्व-नियमन के लिए पिचाई के आह्वान ने कांग्रेस में उनके भाषण का पालन ​​किया, जहां सांसदों ने इसके दुरुपयोग के जवाब में प्रौद्योगिकी के उपयोग को प्रतिबंधित करने की धमकी दी, जिसमें गलत सूचना और घृणा फैलाने वाले भाषण [अभद्र भाषा] के प्रसार के लिए एक मध्यस्थ के रूप में भी शामिल है। एआई की ओर से संभावित खतरों के अस्तित्व की उनकी स्वीकारोक्ति महत्वपूर्ण रूप से महत्वपूर्ण थी, क्योंकि इससे पहले भारत में पैदा हुए इस प्रोग्रामर ने अक्सर कहा था कि मानव पर्यवेक्षण के बिना सीखने और निर्णय लेने में सक्षम स्वचालित प्रणालियों को पेश करने के परिणाम दुनिया को कैसे बदल देंगे।

पिचाई ने एक साक्षात्कार में कहा कि दुनिया भर के कानून निर्माता अभी भी एआई के प्रभाव और इसके राज्य विनियमन की संभावित आवश्यकता को महसूस करने की कोशिश कर रहे हैं। "कभी-कभी यह मुझे परेशान करता है कि लोग छोटे और मध्यम अवधि में होने वाले परिवर्तनों की भयावहता को कम आंकते हैं, और मुझे लगता है कि ये मुद्दे वास्तव में बेहद जटिल हैं," उन्होंने कहा। Microsoft सहित अन्य तकनीकी दिग्गजों ने हाल ही में AI विनियमन लिया है, दोनों इस तकनीक को बनाने वाली कंपनियों से और इसके उपयोग की देखरेख करने वाली सरकारों से।

हालांकि, उचित हैंडलिंग के साथ, एआई "जबरदस्त लाभ" प्रदान कर सकता है, पिचाई ने समझाया, जिसमें डॉक्टरों को आंखों के रोगों और अन्य बीमारियों को स्वचालित रूप से रिकॉर्ड स्कैन करके पहचानने में मदद मिलती है। उन्होंने कहा, '' विकास के शुरुआती चरण में तकनीक को विनियमित करना मुश्किल है, लेकिन मुझे लगता है कि कंपनियों को आत्म-नियमन में संलग्न होना चाहिए, '' उन्होंने कहा। - इसलिए, हम एआई के सिद्धांतों के सेट को आवाज देने के लिए सक्रिय रूप से प्रयास कर रहे हैं। हमने सब कुछ ठीक नहीं किया होगा, लेकिन हमने सोचा कि इस संवाद को शुरू करना महत्वपूर्ण था। ”

पिचाई, जो 2004 में Google में शामिल हुए और, सीईओ के रूप में कार्यभार संभालने के बाद, जनवरी में AI को "मानवता की सबसे महत्वपूर्ण चीजों में से एक" पर काम कर रहे थे और कहा कि यह "बिजली" की तुलना में मानवता के लिए "अधिक महत्वपूर्ण" हो सकता है आग। " हालाँकि, मशीनों को बेहतर बनाने की दौड़ जो अपने दम पर चल सकती है, ने सिलिकॉन वैली की कॉर्पोरेट भावना - "यह उपवास करो, नुकसान करो" जैसे परिचित आशंकाओं को जन्म दिया है, जैसा कि फेसबुक ने एक बार वर्णन किया था - इससे शक्तिशाली और अपूर्ण प्रौद्योगिकी को समाप्त किया जा सकता है और नौकरियों को नुकसान पहुंचा सकता है। लोगों को।

Google में, AI बनाने के प्रयास भी विवादास्पद हैं: कंपनी को इस वर्ष रक्षा विभाग के एक अनुबंध पर काम करने के लिए आलोचनाओं की बाढ़ का सामना करना पड़ा, जिसके तहत कार, इमारतों और अन्य वस्तुओं को स्वचालित रूप से चिह्नित करने में सक्षम AI का उपयोग सैन्य ड्रोन में किया जाएगा। कुछ कर्मचारियों ने भी छोड़ दिया, इसका कारण कंपनी के "सैन्य व्यवसाय" में कमाई बताया।

पिचाई ने कर्मचारियों की इस प्रतिक्रिया के बारे में सवालों के जवाब में अखबार को बताया कि ये श्रमिक हमारी संस्कृति का एक महत्वपूर्ण हिस्सा थे। उनके पास अपनी बात कहने का अवसर है, और यह कंपनी के लिए महत्वपूर्ण है, यही हम महत्व देते हैं, ”उन्होंने कहा।

जून में, घोषणा के बाद, जहां कंपनी ने कहा कि वह इस अनुबंध को नवीनीकृत नहीं करेगी, पिचाई ने एआई बनाते समय नैतिक सिद्धांतों का एक सेट प्रकट किया, जिसमें विकासशील प्रणालियों पर प्रतिबंध शामिल था, जिसका उपयोग नुकसान पहुंचाने, मानवाधिकारों का उल्लंघन करने या लोगों की निगरानी में मदद करने के लिए किया जा सकता था। ” अंतरराष्ट्रीय स्तर पर स्वीकृत मानकों के उल्लंघन में। ”

कंपनी की सामान्य उपयोग AI उपकरणों के लिए विमोचन करने के लिए आलोचना की गई है जिनका उपयोग निरोध के लिए किया जा सकता है। 2015 में जारी, TensorFlow सॉफ्टवेयर पैकेज, Google की आंतरिक मशीन लर्निंग सिस्टम, ने AI के बड़े पैमाने पर विकास में तेजी लाने में मदद की, लेकिन नकली वीडियो के निर्माण को स्वचालित करने के लिए उपयोग किया गया था, जो तब गलत सूचना और उत्पीड़न के लिए उपयोग किए जाते थे।

Google और पिचाई ने व्यक्तिगत रूप से रिलीज़ का बचाव किया, यह तर्क देते हुए कि प्रौद्योगिकी के प्रसार को प्रतिबंधित करने का मतलब होगा कि जनता इसे सावधानीपूर्वक नियंत्रित नहीं करेगी, और डेवलपर्स और शोधकर्ता इसकी क्षमताओं में सुधार नहीं कर सकते हैं ताकि यह उसे लाभान्वित करे।

पिचाई ने एक साक्षात्कार में कहा, "मेरा मानना ​​है कि समय के साथ, सफलतापूर्वक तकनीक विकसित करने के लिए, नैतिक मुद्दों और संज्ञानात्मक पूर्वाग्रहों पर चर्चा करना और इसे विकसित करना महत्वपूर्ण है।"

"एक अर्थ में, हम एक नैतिक मंच विकसित करना चाहते हैं, ताकि वैज्ञानिकों को विकास के प्रारंभिक चरण में कंप्यूटर विज्ञान के क्षेत्र से न आकर्षित किया जा सके," उन्होंने कहा। "मानवता को अधिक सक्रिय रूप से शामिल करना आवश्यक है, क्योंकि यह तकनीक मानवता को प्रभावित करेगी।"

पिचाई ने इस क्षेत्र के शुरुआती चरणों में आनुवंशिक अनुसंधान को सीमित करने के लिए वैज्ञानिक समुदाय के प्रयासों के साथ एआई मापदंडों को निर्धारित करने के शुरुआती प्रयासों की तुलना की। "कई जीवविज्ञानी ऐसे भेद करने लगे हैं जो संकेत देते हैं कि प्रौद्योगिकी का विकास कहां होना चाहिए," उन्होंने कहा। "अकादमिक समुदाय ने सक्रिय आत्म-नियमन किया है, जो, मुझे लगता है, अत्यंत महत्वपूर्ण था।"

Google निदेशक ने कहा कि स्वायत्त हथियारों के विकास में इस तरह का दृष्टिकोण पूरी तरह से आवश्यक होगा - और यह समस्या प्रौद्योगिकी कंपनियों के निदेशकों और कर्मचारियों को पीड़ा दे रही है। जुलाई में, Google जैसी कंपनियों का प्रतिनिधित्व करने वाले हजारों उद्योग श्रमिकों ने AI उपकरणों पर प्रतिबंध लगाने के लिए एक याचिका पर हस्ताक्षर किए जिन्हें मारने के लिए प्रोग्राम किया जा सकता था।

पिचाई ने कहा कि उन्होंने WP लेख "घृणित" में वर्णित YouTube- नफरत की साजिश सिद्धांतों पर विचार किया और यह स्पष्ट किया कि कंपनी सिस्टम को बेहतर बनाने के लिए काम करेगी जो समस्याग्रस्त सामग्री को पहचानती है। इन वीडियो में, जो अप्रैल में अपनी उपस्थिति के बाद से कई मिलियन बार देखे गए, उन्होंने हिलेरी क्लिंटन और उनके लंबे समय तक सहायक ह्यूम एबेडिन के निराधार आरोपों पर चर्चा की कि उन्होंने लड़की पर हमला किया, उसे मार डाला और उसका खून पी लिया।

पिचाई ने कहा कि उन्होंने खुद उन वीडियो को नहीं देखा, जो उनसे कांग्रेस में सवाल पूछे गए थे, और रिपोर्ट करने से इनकार कर दिया कि क्या ऐसे YouTube दोष सिस्टम पर प्रतिबंधों का परिणाम हैं जो वीडियो हटाने की आवश्यकता के मूल्यांकन के लिए अनुचित सामग्री या नियमों को पहचानते हैं। लेकिन उन्होंने कहा कि "2019 में आप हमारी तरफ से इस क्षेत्र में और काम देखेंगे।"

पिचाई ने इंटरनेट के चीनी नियंत्रित खंड में एक नए उत्पाद को विकसित करने के लिए Google के प्रयासों को भी प्रारंभिक रूप से वर्णित किया, और यह नहीं बताया कि यह किस प्रकार का उत्पाद हो सकता है और जब यह बाजार में हिट हो सकता है, तो बिल्कुल भी।

उन्हें "प्रोजेक्ट ड्रैगनफ्लाई" कहा जाता है, और उन कर्मचारियों और अधिकारों के कार्यकर्ताओं से एक मजबूत प्रतिक्रिया प्राप्त की है, जो नागरिकों की सरकारी निगरानी में Google की संभावित सहायता की चेतावनी देते हैं, जो राजनीतिक असंतुष्टों के असहिष्णु हैं। इस संभावना के बारे में एक सवाल के जवाब में कि Google एक ऐसा उत्पाद बनाएगा, जो चीनी अधिकारियों को यह पता लगाने की अनुमति देता है कि कोई व्यक्ति " तियानमेन स्क्वायर हत्याकांड " जैसे कुछ संवेदनशील शब्दों की खोज कैसे करता है , पिचाई ने कहा कि इस तरह के निर्णय करना जल्दबाजी होगी।

पिचाई ने कहा, "ये सभी काल्पनिक विचार हैं।" "हम इस स्थिति से बहुत दूर हैं।"