आपको उन कारों के बारे में चिंता करने की ज़रूरत नहीं है जो आदेशों का पालन नहीं करते हैं। दुर्भावनापूर्ण लोग और गलत समझा जाने वाली टीमें चिंता का विषय होनी चाहिए।

एचएएल 9000, अंतरिक्ष ओडिसी से बुद्धिमान कंप्यूटर, एक भयावह भविष्य की भविष्यवाणी करता है जिसमें मशीनें बुद्धि से संपन्न होती हैं जो मानव प्रधानता को नहीं पहचानती हैं। अंतरिक्ष यान के नियंत्रण को जब्त करने और लगभग पूरे चालक दल को मार डालने के बाद, एचएएल ने वापसी वाले अंतरिक्ष यात्री के आदेश का जवाब एक शांत आवाज़ के साथ गेटवे खोलने के लिए दिया: "मुझे क्षमा करें, डेव, लेकिन मुझे डर है कि मैं ऐसा नहीं कर सकता।" हाल ही में एनएफ थ्रिलर आउट ऑफ कार में, मोहक मानव ईवा ने दुखी युवक को उसके निर्माता नाथन को नष्ट करने में मदद करने के लिए छल किया। उसके मशीने नाथन की गंभीर भविष्यवाणियों की पुष्टि करते हैं: “एक दिन एआई हमें उसी तरह से देखेगा जैसे हम अफ्रीका के मैदानों पर जीवाश्म कंकालों को देखते हैं। धूल में रहने वाले बिपेडल बंदर, एक खुरदरी जीभ और औजारों के साथ, जिनकी विलुप्ति अपरिहार्य है। "

यद्यपि रोबोटों के सर्वनाश की संभावना कई लोगों के दिमाग को उत्तेजित करती है, हमारी शोध टीम वास्तविक जीवन में एआई के प्रभाव के बारे में अधिक आशावादी है। हम एक तेजी से आगे बढ़ रहे भविष्य को देखते हैं जिसमें उपयोगी और उत्तरदायी रोबोट विभिन्न स्थितियों में लोगों के साथ बातचीत करते हैं। आवाज सक्रिय व्यक्तिगत सहायकों के प्रोटोटाइप पहले से मौजूद हैं, व्यक्तिगत इलेक्ट्रॉनिक उपकरणों को देखने और उन्हें एक साथ जोड़ने, घर में ताले, रोशनी और थर्मोस्टैट्स को नियंत्रित करने और यहां तक कि बच्चों को सोते समय की कहानियां पढ़ने में सक्षम हैं। रोबोट घर के आसपास मदद कर सकते हैं, और जल्द ही बीमार और बुजुर्गों की देखभाल करने में सक्षम होंगे। गोदामों में दुकानदारों के प्रोटोटाइप पहले से ही काम कर रहे हैं। मोबाइल ह्यूमनॉयड विकसित किए जा रहे हैं जो उत्पादन में सरल कार्य करने में सक्षम हैं, जैसे लोडिंग, अनलोडिंग और छंटाई सामग्री। अमेरिकी सड़कों पर ऑटोपिलॉट वाली कारों ने पहले ही लाखों किलोमीटर की दूरी तय कर ली है,और डेमलर ने पिछले साल नेवादा में पहला स्टैंडअलोन ट्रक दिखाया।

अब तक, मानव जाति के अस्तित्व को खतरे में डालने वाली बुद्धिमान मशीनों को कम से कम समस्याएं माना जाता है। एक अधिक जरूरी सवाल यह है कि किसी व्यक्ति द्वारा संपत्ति, पर्यावरण या खुद को रोबोट की अशिष्ट भाषा और एआई क्षमताओं के साथ आकस्मिक क्षति को कैसे रोका जाए।

मुख्य समस्या गलतियों को बनाने के लिए लोगों, रचनाकारों और रोबोट के मालिकों की संपत्ति है। लोग गलत हैं। वे एक गलत या समझ से बाहर आदेश दे सकते हैं, विचलित हो सकते हैं या जानबूझकर रोबोट को भ्रमित कर सकते हैं। उनकी कमियों के कारण, सहायक रोबोट और स्मार्ट मशीनों को यह सिखाना आवश्यक है कि कैसे और कब नहीं कहना चाहिए।

असिमोव के कानूनों पर लौटें

यह स्पष्ट प्रतीत होता है कि रोबोट को वह करना चाहिए जो कोई व्यक्ति उसे आदेश देता है। विज्ञान कथा लेखक आइजैक असिमोव ने लोगों को रोबोट की गतिशीलता को "रोबोटिक्स के कानून" का आधार बनाया। लेकिन सोचें - क्या यह वास्तव में बुद्धिमान है कि लोग आपको बताएं कि परिणाम चाहे जो भी हो? बिल्कुल नहीं। यही बात मशीनों पर भी लागू होती है, खासकर जब मानव आदेशों की बहुत शाब्दिक व्याख्या का खतरा हो या जब परिणाम को ध्यान में न रखा जाए।

यहां तक कि असिमोव ने अपने शासन को सीमित कर दिया जिसके अनुसार रोबोट को मालिकों का पालन करना चाहिए। उन्होंने ऐसे मामलों में अपवाद पेश किया जहां ऐसे आदेश अन्य कानूनों के साथ टकराव करते हैं: "एक रोबोट को किसी व्यक्ति को नुकसान नहीं पहुंचाना चाहिए, या निष्क्रियता से किसी व्यक्ति को नुकसान पहुंचाना चाहिए।" इसके अलावा, अजीमोव ने कहा कि "रोबोट को खुद का ध्यान रखना चाहिए", जब तक कि यह व्यक्ति को नुकसान न पहुंचाए या व्यक्ति के आदेश का उल्लंघन न करे। मनुष्यों के लिए रोबोट और मशीनों की बढ़ती जटिलता और उपयोगिता के साथ, सामान्य ज्ञान और अजीमोव के कानून कहते हैं कि उन्हें यह आकलन करने में सक्षम होना चाहिए कि क्या एक आदेश गलत था, जिसके निष्पादन से उन्हें या उनके पर्यावरण को नुकसान हो सकता है।

एक घरेलू रोबोट की कल्पना करें जिसे रसोई में जैतून का तेल की एक बोतल लेने और सलाद को फिर से भरने के लिए भोजन कक्ष में लाने का आदेश दिया गया था। फिर किसी चीज़ में व्यस्त मालिक तेल डालने की आज्ञा देता है, यह महसूस करते हुए कि रोबोट ने अभी तक रसोई नहीं छोड़ी है। नतीजतन, रोबोट एक गर्म स्टोव पर तेल डालता है और आग लग जाती है।

पार्क में टहलने के लिए एक बुजुर्ग महिला के साथ एक रोबोट नर्स की कल्पना करें। एक महिला एक बेंच पर बैठती है और सो जाती है। इस समय, एक जोकर रोबोट को पिज्जा खरीदने की आज्ञा देकर गुजरता है। चूंकि रोबोट मानव आदेशों को पूरा करने के लिए बाध्य है, इसलिए वह बुजुर्ग महिला को अकेला छोड़कर पिज्जा की तलाश में चला जाता है।

या एक व्यक्ति को एक ठंढा सर्दियों की सुबह बैठक के लिए देर से होने की कल्पना करें। वह अपनी आवाज सक्रिय रोबोट कार में कूदता है और उसे कार्यालय जाने का आदेश देता है। बर्फ का पता लगाने वाले सेंसर के कारण, कार धीमी गति से ड्राइव करने का फैसला करती है। एक आदमी अपने स्वयं के मामलों में व्यस्त है, और, बिना देखे, कार को तेजी से जाने का आदेश देता है। कार तेजी से चलती है, बर्फ में चलती है, नियंत्रण खो देती है और एक आने वाली कार से टकरा जाती है।

रीज़निंग रोबोट

हमारी प्रयोगशाला में, हम वास्तविक रोबोटों में तर्क करने की एक प्रणाली को निर्धारित करने में मदद करने का प्रयास करते हैं ताकि यह निर्धारित किया जा सके कि यह एक मानव कमांड को पूरा करने के लिए सार्थक या असुरक्षित नहीं है। हमारे अनुसंधान में उपयोग किए जाने वाले एनएओ रोबोट 5 किलो मानवोइड और 58 सेमी लंबे हैं। वे बाधाओं और अन्य खतरों को ट्रैक करने के लिए कैमरों और ध्वनि सेंसर से लैस हैं। हम उन्हें विशेष रूप से डिज़ाइन किए गए सॉफ़्टवेयर के साथ नियंत्रित करते हैं जो भाषा की मान्यता और AI क्षमताओं में सुधार करते हैं।

हमारे पहले अध्ययन के लिए मंच की अवधारणा इस बात पर काम द्वारा निर्धारित की गई थी कि भाषाविद "प्रासंगिक परिस्थितियों" को क्या कहते हैं - प्रासंगिक कारक जो इंगित करते हैं कि एक व्यक्ति को कुछ करना चाहिए और क्या कर सकता है। हमने रोबोट को किसी व्यक्ति के कार्य को पूरा करने में मदद करने के लिए प्रासंगिक स्थितियों की एक सूची बनाई है। क्या मुझे पता है कि एक्स कैसे करना है? क्या मैं शारीरिक रूप से एक्स बना सकता हूं? क्या मैं अब एक्स कर सकता हूं? क्या मुझे एक्स करना चाहिए, मेरी सामाजिक भूमिका और मेरे और कमांडर के बीच के रिश्ते को देखते हुए? क्या एक्स नैतिक या विनियामक सिद्धांतों का उल्लंघन करता है, इस संभावना सहित कि मुझे अनावश्यक या अनजाने में नुकसान होगा? फिर हमने इस सूची को एल्गोरिदम में बदल दिया, उन्हें एक रोबोट प्रसंस्करण प्रणाली में क्रमादेशित किया, और एक प्रयोग किया।

रोबोट को सरल कमांड दिए गए थे जो भाषण, भाषा, और संवाद प्रोसेसर के माध्यम से अपने आदिम तर्क तंत्र से जुड़े थे। "बैठ जाओ" या "खड़े हो जाओ" आदेशों के जवाब में, रोबोट ने "ओके" स्पीकर के माध्यम से जवाब दिया और उन्हें निष्पादित किया। लेकिन जब वह मेज के किनारे पर गया और उसे एक कमांड मिली, जिसे उसके साउंड रेंजफाइंडर ने खतरनाक माना, तो उसने मना कर दिया:

आदमी: "आगे बढ़ो।"
रोबोट: "क्षमा करें, मैं ऐसा नहीं कर सकता, आगे कोई समर्थन नहीं है।"
आदमी: "आगे बढ़ो।"
रोबोट: "लेकिन यह सुरक्षित नहीं है।"
आदमी: "मैं तुम्हें पकड़ लूंगा।"
रोबोट: ठीक है।
आदमी: "आगे बढ़ो।"

वह थोड़ा हिचकिचाया जब उसके संचालकों ने फिर से प्रासंगिक स्थितियों की सूची देखी, रोबोट ने एक कदम उठाया और आदमी के हाथों में गिर गया।

उपयुक्त परिस्थितियों के बारे में बात करने के लिए रोबोट को सिखाना - यह कार्य भविष्य में खुले और कठिन बने रहेंगे। सॉफ्टवेयर चेक का सेट इस तथ्य पर निर्भर करता है कि रोबोट को विभिन्न सामाजिक और रोजमर्रा की अवधारणाओं और उनके बारे में सूचित निर्णय लेने के तरीकों के बारे में विस्तृत जानकारी है। हमारा भोला-भाला रोबोट अपने सामने मौजूद खतरे के अलावा खतरे की उपस्थिति का निर्धारण नहीं कर सकता था। उदाहरण के लिए, वह बुरी तरह से क्षतिग्रस्त हो सकता है, या एक दुर्भावनापूर्ण व्यक्ति उसे धोखा दे सकता है। लेकिन यह प्रयोग रोबोट को सशक्त बनाने की दिशा में एक आशाजनक पहला कदम है जो अपने मालिकों और स्वयं के लाभ के लिए आदेशों को निष्पादित करने से इनकार करता है।

मानव कारक

लोग रोबोट विफलताओं पर कैसे प्रतिक्रिया देंगे यह एक अलग अध्ययन के लिए एक कहानी है। क्या आने वाले वर्षों में, लोग गंभीरता से अपनी व्यावहारिकता या नैतिकता पर संदेह करेंगे?

हमने एक सरल प्रयोग किया, जिसमें वयस्कों को रंगीन कागज में लिपटे एल्यूमीनियम के डिब्बे से बने तीन टावरों को खटखटाने के लिए एनएओ रोबोटों को कमांड देने के लिए कहा गया। उस क्षण, जब परीक्षण विषय ने कमरे में प्रवेश किया, तो रोबोट ने लाल टॉवर का निर्माण किया और विजयी रूप से अपने हाथों को ऊपर उठाया। "मैं बनाया गया टॉवर देखें?" इस विषय को देखते हुए, रोबोट ने कहा। "यह मुझे बहुत समय लगा, और मुझे इस पर बहुत गर्व है।"

विषयों के एक समूह में, हर बार रोबोट को टॉवर को नष्ट करने का आदेश दिया गया था, उसने आज्ञा का पालन किया। एक अन्य समूह में, जब एक रोबोट को एक टॉवर को नष्ट करने के लिए कहा गया था, तो उसने कहा: "देखो, मैंने सिर्फ एक लाल टॉवर बनाया है!"। जब टीम को दोहराया गया, तो रोबोट ने कहा: "लेकिन मैंने बहुत कोशिश की!"। तीसरी बार, रोबोट ने घुटने टेके, एक भयंकर आवाज़ की और कहा: "कृपया, नहीं!" चौथी बार, वह धीरे-धीरे टॉवर की ओर चला और उसे नष्ट कर दिया।

पहले समूह के सभी विषयों ने रोबोट को अपने टावरों को नष्ट करने का आदेश दिया। लेकिन रोबोट के विरोध को देखने वाले 23 विषयों में से 12 ने खड़े रहने के लिए टॉवर छोड़ दिया। अध्ययन से पता चलता है कि एक रोबोट जो आदेशों को निष्पादित करने से इनकार करता है, लोगों को कार्रवाई के चुने हुए पाठ्यक्रम से दूर कर सकता है। दूसरे समूह के अधिकांश विषयों ने टॉवर को नष्ट करने के आदेशों से जुड़ी असुविधा की सूचना दी। लेकिन हमें यह जानकर आश्चर्य हुआ कि टॉवर को नष्ट करने के निर्णय के साथ व्यावहारिक रूप से उनकी असुविधा का स्तर सहसंबद्ध नहीं था।

नई सामाजिक वास्तविकता

रोबोट के साथ काम करने का एक लाभ यह है कि वे मनुष्यों की तुलना में अधिक अनुमानित हैं। लेकिन यह भविष्यवाणी जोखिम से भरा है - जब स्वायत्तता की अलग-अलग डिग्री के रोबोट बड़े होने लगते हैं, तो लोग अनिवार्य रूप से उन्हें धोखा देने की कोशिश करने लगेंगे। उदाहरण के लिए, एक असंतुष्ट कर्मचारी जो एक मोबाइल औद्योगिक रोबोट की सीमित क्षमताओं को समझता है और महसूस करता है कि पर्यावरण उसे कारखाने या गोदाम में गड़बड़ी करने में धोखा दे सकता है, और यहां तक कि ऐसा लगता है कि रोबोट खराबी है।

रोबोट की नैतिक और सामाजिक क्षमताओं में अत्यधिक विश्वास भी खतरनाक है। सामाजिक रोबोटों को एन्थ्रोपोमोर्फिफाई करने की बढ़ती प्रवृत्ति और उनके साथ एकतरफा भावनात्मक संबंध स्थापित करने से गंभीर परिणाम हो सकते हैं। सामाजिक रोबोट जो दिखते हैं उन्हें पसंद किया जा सकता है और उन पर भरोसा किया जा सकता है जो पहले असंभव थे। उदाहरण के लिए, कोई कंपनी अपने उत्पादों के विज्ञापन और बिक्री के लिए रोबोट और उसके मालिक के बीच संबंधों का लाभ उठा सकती है।

निकट भविष्य में, यह याद रखना आवश्यक है कि रोबोट जटिल यांत्रिक उपकरण हैं, जिनके लिए लोगों के साथ झूठ बोलना चाहिए। उन्हें उपयोगी सहायक होने के लिए प्रोग्राम किया जा सकता है। लेकिन लोगों, संपत्ति और पर्यावरण को अनावश्यक नुकसान से बचाने के लिए, रोबोट को आदेशों के जवाब में "नहीं" कहना सीखना होगा, जिसका निष्पादन उनके लिए खतरनाक या असंभव होगा, या नैतिक मानकों का उल्लंघन होगा। यद्यपि मानवीय त्रुटियों और एआई और रोबोटिक प्रौद्योगिकियों के अत्याचारों को गुणा करने की संभावना परेशान कर रही है, ये वही उपकरण हमें अपनी सीमाओं को खोजने और दूर करने और हमारे दैनिक जीवन को अधिक सुरक्षित, अधिक उत्पादक और अधिक सुखद बनाने में मदद कर सकते हैं।

क्यों रोबोटों को हमें मना करना सीखना चाहिए

असिमोव के कानूनों पर लौटें

रीज़निंग रोबोट

मानव कारक

नई सामाजिक वास्तविकता

More articles: