क्या रोबोट को सहानुभूति की आवश्यकता है?

हम रोबोटिक्स में एक क्रांति के कगार पर हैं, और वैज्ञानिक और इंजीनियर यह समझने की कोशिश कर रहे हैं कि यह लोगों को कैसे प्रभावित करेगा। मतों को दो शिविरों में विभाजित किया गया था: भविष्य में हमें एक रॉब-एपोकैलिप्स ला "टर्मिनेटर" का वादा किया गया है, या रोबोट मनुष्य के सबसे अच्छे दोस्त की भूमिका में कुत्तों की जगह लेंगे। और कई आधुनिक विचारकों और दूरदर्शी लोगों के दृष्टिकोण से, दूसरा परिदृश्य केवल तभी संभव है जब रोबोट में सहानुभूति हो । अधिक सटीक, कृत्रिम बुद्धि में।

स्मृतिहीनता एआई के परिणामों ने हाल ही में पूरी तरह से माइक्रोसॉफ्ट को महसूस किया, अपने प्रसिद्ध चैट बॉट के साथ थाए नामक एक क्रशिंग फियास्को का सामना करना पड़ा। यह ट्विटर उपयोगकर्ताओं के साथ बातचीत के माध्यम से सीखने के लिए प्रोग्राम किया गया है। नतीजतन, ट्रॉल्स की भीड़ ने तुरंत एक 19 वर्षीय लड़की को बदल दिया, जिसने एक नटखट नस्लवादी नाजी नस्लवादी में बॉट की भूमिका निभाई । लॉन्च के एक दिन बाद डेवलपर्स को बॉट को निष्क्रिय करना पड़ा। इस मामले ने एआई की उस समस्या के महत्व को स्पष्ट रूप से प्रदर्शित किया जो रैंकों में चली गई, कि Google के डिवीजनों में से एक - डीपमाइंड - ने ऑक्सफोर्ड के विशेषज्ञों के साथ मिलकर एआई के लिए " आपातकालीन स्विच " तकनीक विकसित करना शुरू किया जब तक कि वे एक वास्तविक खतरे में नहीं बदल गए।

लब्बोलुआब यह है कि एआई, जो किसी व्यक्ति के कारण के स्तर से नीच नहीं है, और केवल स्वतंत्र विकास और अनुकूलन पर निर्भर है, इस निष्कर्ष पर पहुंच सकता है कि लोग इसे बंद करना चाहते हैं या इसे वे संसाधन प्राप्त करने से रोकना चाहते हैं जो वे चाहते हैं। और इस निष्कर्ष के अनुसार, कृत्रिम बुद्धि लोगों के खिलाफ कार्रवाई करने का फैसला करेगी, भले ही इसके संदेह कितने उचित हों। एक बार जाने-माने सिद्धांतकार एलीज़र युडकोव्स्की ने एक बार लिखा था: “ एआई न तो आपसे प्यार करेगा और न ही आपसे नफरत करेगा। लेकिन फिर आप परमाणुओं से बने होते हैं, जिसका उपयोग वह अपनी जरूरतों के लिए कर सकता है । ”



और यदि क्लाउड-आधारित सुपरकंप्यूटर में AI "जीवित" से खतरा अब आपको नहीं लगता है, तो आप एक पूर्ण रोबोट के बारे में क्या कह सकते हैं, इलेक्ट्रॉनिक दिमाग में जिसके बारे में आप अपने जीवन में हस्तक्षेप करते हैं, यह विचार उठता है?



यह सुनिश्चित करने का एक तरीका है कि रोबोट, और सामान्य एआई, अच्छे पक्ष में रहेंगे, उन्हें सहानुभूति के साथ सामान करना है। इस तथ्य से नहीं कि यह पर्याप्त होगा, लेकिन कई विशेषज्ञों की राय में यह एक आवश्यक शर्त है। हम बस सहानुभूति के लिए सक्षम रोबोट बनाने के लिए मजबूर होंगे।

बहुत समय पहले, एलोन मस्क और स्टीफन हॉकिंग ने सेंटर फॉर द स्टडी ऑफ़ एक्ज़िस्टेंशियल रिस्क (CSER) को एक खुला पत्र लिखा था, जिसमें AI में "संभावित जाल" के अध्ययन के लिए और अधिक प्रयासों का आह्वान किया गया था। पत्र के लेखकों के अनुसार, कृत्रिम बुद्धि परमाणु हथियारों से अधिक खतरनाक हो सकती है, और हॉकिंग का आमतौर पर मानना ​​है कि इस तकनीक से मानवता समाप्त हो जाएगी। Apocalyptic परिदृश्य से बचाने के लिए, यह एक मजबूत एआई (एजीआई, कृत्रिम सामान्य खुफिया) बनाने का प्रस्ताव है जिसमें मानव के समान एक अंतर्निहित मनोवैज्ञानिक प्रणाली या एआई में मानव तंत्रिका प्रतिक्रियाओं को पूरी तरह से मॉडल करना है।

सौभाग्य से, समय अभी तक याद नहीं किया गया है और आप तय कर सकते हैं कि हमें किस दिशा में बढ़ना चाहिए। विशेषज्ञ समुदाय के अनुसार, मनुष्यों से नीच नहीं, एक मजबूत एआई का उद्भव वर्तमान क्षण से 15 से 100 वर्ष की सीमा में संभव है। इसी समय, सीमा की सीमाएं आशावाद और निराशावाद की चरम डिग्री को दर्शाती हैं, जबकि अधिक यथार्थवादी शब्द 30-50 वर्ष हैं। नैतिक सिद्धांतों के बिना खतरनाक एआई प्राप्त करने के जोखिम के अलावा, कई डर है कि वर्तमान आर्थिक, सामाजिक और राजनीतिक उथल-पुथल इस तथ्य को जन्म दे सकती है कि मजबूत एआई के निर्माता शुरू में उन्हें एक नए हथियार, दबाव या प्रतिस्पर्धा के साधन में बदलने की तलाश करेंगे। और अंतिम भूमिका से, निगमों के रूप में बेलगाम पूंजीवाद यहां खेलेंगे। बड़े व्यवसाय हमेशा बेरहमी से प्रक्रियाओं को अनुकूलित और अधिकतम करने की कोशिश करते हैं,और निश्चित रूप से प्रतिस्पर्धात्मक लाभ प्राप्त करने के लिए "खुशियों के लिए तैरना" का प्रलोभन होगा। कुछ सरकारें और निगम संभवतः बाजारों और चुनावों के प्रबंधन के लिए मजबूत एआई को आकर्षित करने की कोशिश करेंगे, साथ ही साथ नए हथियारों को विकसित करने के लिए, और अन्य देशों को एआई-हथियारों की दौड़ में शामिल होने के लिए इन कदमों का पर्याप्त रूप से जवाब देना होगा।



कोई भी यह तर्क नहीं दे सकता है कि एआई जरूरी मानवता के लिए खतरा बन जाएगा। इसलिए, इस क्षेत्र में विकास पर प्रतिबंध लगाने की कोशिश करने की आवश्यकता नहीं है, और यह व्यर्थ है। ऐसा लगता है कि अज़ीमोव के रोबोटिक्स के नियम हमें नहीं कर सकते हैं, और डिफ़ॉल्ट रूप से हमें रोबोट को शांतिपूर्ण और मैत्रीपूर्ण बनाने के लिए "भावनात्मक" फ़्यूज़ शुरू करने की आवश्यकता है। ताकि वे दोस्ती का एक हिस्सा बना सकें, वे लोगों की भावनाओं को पहचान और समझ सकें, संभवतः सहानुभूति भी। यह प्राप्त किया जा सकता है, उदाहरण के लिए, मानव मस्तिष्क की तंत्रिका संरचना की नकल करके। कुछ विशेषज्ञों का मानना ​​है कि एल्गोरिदम और कम्प्यूटेशनल संरचनाएं बनाना सैद्धांतिक रूप से संभव है जो हमारे दिमाग की तरह काम कर सकते हैं। लेकिन चूंकि हम खुद नहीं जानते कि यह कैसे व्यवस्थित किया जाता है, यह दूर के भविष्य के लिए एक कार्य है।

बाजार पर पहले से ही रोबोट हैं जो कुछ मानवीय भावनाओं की विशुद्ध रूप से तकनीकी पहचान करने में सक्षम हैं। उदाहरण के लिए, नाओ - केवल 58 सेमी की ऊंचाई और 4.3 किलो वजन के साथ, रोबोट चेहरे की पहचान सॉफ्टवेयर से लैस है। जब वह उससे बात करते हैं तो वह आंखों का संपर्क बनाने और प्रतिक्रिया करने में सक्षम होता है। इस रोबोट का उपयोग ऑटिस्टिक बच्चों की मदद के लिए अनुसंधान उद्देश्यों के लिए किया गया है। एक ही निर्माता से एक और मॉडल - काली मिर्च - शब्दों, चेहरे की अभिव्यक्तियों और शरीर की भाषा को पहचानने में सक्षम है, प्राप्त जानकारी के अनुसार अभिनय ।



लेकिन आधुनिक रोबोटों में से एक महसूस करने में सक्षम नहीं है। ऐसा करने के लिए, उन्हें आत्म-जागरूकता की आवश्यकता होती है, तभी रोबोट इंसानों की तरह महसूस कर सकते हैं, भावनाओं के बारे में सोच सकते हैं।


हम सभी रोबोट में एक व्यक्ति की उपस्थिति का अनुकरण करने में सक्षम हैं, लेकिन आंतरिक दुनिया के साथ सब कुछ बहुत अधिक जटिल है।

सहानुभूति होने का अर्थ है दूसरों में उन्हीं भावनाओं को समझने में सक्षम होना जो आप एक बार अनुभव करते हैं। और इसके लिए, रोबोट को अपनी सफलताओं और असफलताओं के साथ बड़े होने के अपने दौर से गुजरना होगा। उन्हें स्नेह, इच्छा, सफलता, प्रेम, क्रोध, चिंता, भय, शायद ईर्ष्या का अनुभव करना होगा। ताकि किसी के बारे में सोचने वाला रोबोट मानवीय भावनाओं के बारे में सोचे।

इस तरह की परिपक्वता के साथ रोबोट कैसे प्रदान करें? अच्छा सवाल है। वर्चुअल एमुलेटर / सिमुलेटर बनाना संभव हो सकता है जिसमें AI भावनात्मक अनुभव प्राप्त करेगा, ताकि बाद में उन्हें भौतिक निकायों में लोड किया जा सके। या कृत्रिम पैटर्न / यादों को बनाते हैं और रोबोटों को नैतिक और नैतिक मूल्यों के मानक सेट के साथ मुहर लगाते हैं। इस तरह की बातें विज्ञान कथा लेखक फिलिप के। डिक ने अपने उपन्यासों में बताई थीं जिनमें रोबोट अक्सर कृत्रिम यादों के साथ काम करते हैं। लेकिन रोबोट की भावुकता का एक और पक्ष हो सकता है: हालिया फिल्म एक्स मचिना मेंएक स्थिति का वर्णन तब किया जाता है जब एक मजबूत AI द्वारा नियंत्रित रोबोट भावनाओं को इतनी दृढ़ता से प्रदर्शित करता है कि यह लोगों को गुमराह करता है, उन्हें अपनी योजना का पालन करने के लिए मजबूर करता है। प्रश्न: कैसे अंतर करना है जब एक रोबोट केवल किसी स्थिति पर चालाकी से प्रतिक्रिया कर रहा है, या जब वह वास्तव में आपके समान भावनाओं का अनुभव करता है? उसे एक होलोग्राफिक हेलो बनाएं, जिसका रंग और पैटर्न रोबोट द्वारा व्यक्त की गई भावनाओं की ईमानदारी की पुष्टि करता है, जैसा कि एनीमे "ईव ऑफ टाइम" ( ईवीई नो जीकन ) में है?



लेकिन मान लीजिए कि हम उपरोक्त सभी समस्याओं को हल करने में सक्षम थे और उठाए गए सवालों के जवाब पा सकते हैं। क्या रोबोट हमारे बराबर होंगे, या वे सामाजिक सीढ़ी पर हमारे नीचे होंगे? क्या लोगों को अपनी भावनाओं को प्रबंधित करना चाहिए? या यह एक तरह की उच्च तकनीक की गुलामी होगी, जिसके अनुसार मजबूत एआई वाले रोबोट हमें जिस तरह से चाहते हैं वह सोच और महसूस करना चाहिए?



कई कठिन सवाल हैं जिनके लिए अभी तक कोई जवाब नहीं है। फिलहाल, हमारी सामाजिक, आर्थिक और राजनीतिक संरचनाएँ इस तरह के आमूल-चूल बदलावों के लिए तैयार नहीं हैं। लेकिन सभी समान, जल्दी या बाद में हमें स्वीकार्य समाधानों की तलाश करनी होगी, क्योंकि कोई भी रोबोटिक्स के विकास को रोक नहीं सकता है, और किसी दिन मानव शरीर में काम करने में सक्षम एक मजबूत एआई बनाया जाएगा। हमें इसके लिए पहले से तैयारी करनी होगी।

Source: https://habr.com/ru/post/hi397209/