कृत्रिम बुद्धिमत्ता की मुख्य समस्या यह है कि कोई भी पूरी तरह से यह नहीं समझता है कि यह कैसे काम करता है

पिछले साल, न्यू जर्सी के मोनमाउथ काउंटी की सड़कों पर एक अजीब रोबोमोबाइल ड्राइव करने लगा। एनवीडिया के विशेषज्ञों द्वारा विकसित यह प्रायोगिक वाहन, अन्य निर्माताओं, जैसे कि Google, टेस्ला या जनरल मोटर्स की अन्य स्वायत्त कारों की उपस्थिति से भिन्न नहीं है। लेकिन विशेष रूप से इस कार के लिए, एक नई नियंत्रण प्रणाली विकसित की गई है। वह स्व-शिक्षा है, और उत्पादन में निर्दिष्ट सेटिंग्स पर निर्भर नहीं करता है। इसके बजाय, रोबोमोबाइल मानव चालक के कार्यों पर नज़र रखता है और उससे सीखता है।

यह एक रोबोमोबाइल को प्रशिक्षित करने के लिए थोड़ा असामान्य तरीका है। दूसरी ओर, कुछ लोग पूरी तरह से कल्पना करते हैं कि मशीन कैसे निर्णय लेती है। सेंसर, रडार और लिडर्स से सूचना तंत्रिका नेटवर्क में प्रवेश करती है, जहां इन आंकड़ों को स्टीयरिंग व्हील, ब्रेक और अन्य प्रणालियों को नियंत्रित करने के लिए स्पष्ट नियमों के आवंटन के साथ संसाधित किया जाता है। नतीजतन, यह पता चला है कि रोबोमोबाइल की कार्रवाई अक्सर एक मानव चालक के कार्यों के समान होती है जो सड़क पर समान स्थिति में गिर गई हैं। सवाल उठता है - क्या कार किसी एक मामले में एक अजीब निर्णय ले सकती है - उदाहरण के लिए, पूरी गति से एक पेड़ में दुर्घटनाग्रस्त हो जाना या हरी बत्ती होने पर ट्रैफिक लाइट पर खड़ा होना?

एक तंत्रिका नेटवर्क प्रसंस्करण जानकारी की तुलना एक ब्लैक बॉक्स से की जा सकती है। नहीं, ज़ाहिर है, विशेषज्ञ सामान्य रूप से तंत्रिका नेटवर्क द्वारा डेटा प्रसंस्करण के सिद्धांत की कल्पना करते हैं। लेकिन समस्या यह है कि स्व-प्रशिक्षण पूरी तरह से पूर्व निर्धारित प्रक्रिया नहीं है, इसलिए कभी-कभी आउटपुट पर बिल्कुल अप्रत्याशित परिणाम की उम्मीद की जा सकती है। सब कुछ के दिल में गहरी शिक्षा निहित है, जिसने हमें पहले से ही छवि प्रसंस्करण, भाषण मान्यता, अनुवाद सहित कई महत्वपूर्ण समस्याओं को हल करने की अनुमति दी है। यह संभव है कि तंत्रिका नेटवर्क प्रारंभिक अवस्था में बीमारियों का निदान करने में सक्षम होंगे, एक्सचेंज पर व्यापार करते समय सही निर्णय ले सकते हैं और सैकड़ों अन्य महत्वपूर्ण मानव क्रियाओं का प्रदर्शन कर सकते हैं।

लेकिन पहले आपको उन तरीकों को खोजने की आवश्यकता है जो डेटा को संसाधित करते समय तंत्रिका नेटवर्क में खुद को समझने में बेहतर समझेंगे। अन्यथा, यदि एआई के कमजोर रूप के साथ सिस्टम की संभावित त्रुटियों की भविष्यवाणी करना संभव है, तो यह मुश्किल है। और ऐसी त्रुटियां निश्चित रूप से होंगी। यह एक कारण है कि एनवीडिया से कार का परीक्षण अभी भी चल रहा है।

एक व्यक्ति अब गणितीय मॉडल लागू करता है ताकि खुद को चुनने के कार्य को सुविधाजनक बनाया जा सके - उदाहरण के लिए, निधियों का एक विश्वसनीय उधारकर्ता निर्धारित करने के लिए या किसी तरह के काम के लिए आवश्यक अनुभव के साथ एक कर्मचारी को खोजने के लिए। सामान्य तौर पर, गणितीय मॉडल और उनका उपयोग करने वाली प्रक्रियाएं अपेक्षाकृत सरल और सीधी होती हैं। लेकिन सैन्य, वाणिज्यिक कंपनियां, वैज्ञानिक अब बहुत अधिक जटिल प्रणालियों का उपयोग करते हैं, जिनके "निर्णय" एक या दो मॉडल के परिणामों पर आधारित नहीं हैं। डीप लर्निंग कंप्यूटर ऑपरेशन के सामान्य सिद्धांतों से अलग है। एमआईटी के एक प्रोफेसर टॉमी जाकोल के अनुसार, यह समस्या तेजी से प्रासंगिक होती जा रही है। "आप जो भी करते हैं, निवेश के बारे में निर्णय लेते हैं, निदान करने की कोशिश करते हैं, युद्ध के मैदान पर एक हमले का बिंदु चुनते हैं, यह सब ब्लैक बॉक्स पद्धति पर निर्भर नहीं होना चाहिए," वे कहते हैं।

यह न केवल वैज्ञानिकों द्वारा समझा जाता है, बल्कि अधिकारियों द्वारा भी समझा जाता है। अगली गर्मियों से, यूरोपीय संघ डेवलपर्स और स्वचालित कंप्यूटर सिस्टम समाधान के आपूर्तिकर्ताओं के लिए नए नियम पेश करता है। ऐसी कंपनियों के प्रतिनिधियों को उपयोगकर्ताओं को यह समझाने की आवश्यकता होगी कि सिस्टम कैसे काम करता है, और कौन से सिद्धांत निर्णय किए जाते हैं। समस्या यह है कि यह संभव नहीं हो सकता है। हां, समस्याओं के बिना तंत्रिका नेटवर्क के संचालन के बुनियादी सिद्धांतों की व्याख्या करना संभव है, लेकिन कुछ ही बता सकते हैं कि जटिल जानकारी के प्रसंस्करण के दौरान क्या होता है। यहां तक ​​कि ऐसी प्रणालियों के निर्माता सब कुछ "से और," तक नहीं समझा सकते हैं क्योंकि सूचना के प्रसंस्करण के दौरान तंत्रिका नेटवर्क में होने वाली प्रक्रियाएं बहुत जटिल हैं।

पहले कभी किसी व्यक्ति ने ऐसी मशीनें नहीं बनाईं जिनके ऑपरेटिंग सिद्धांत को स्वयं रचनाकारों द्वारा पूरी तरह से समझा नहीं गया है और जिस तरह से जानकारी स्वयं व्यक्ति द्वारा उपयोग की जाती है, उससे बहुत अलग है। तो क्या हम उन मशीनों से सामान्य बातचीत की उम्मीद कर सकते हैं जिनका संचालन अप्रत्याशित है?


कलाकार एडम फेरिस द्वारा Google डीप ड्रीम के साथ पेंटिंग

2015 में, न्यूयॉर्क से माउंट सिनाई अस्पताल के अनुसंधान दल ने रोगी रिकॉर्ड डेटाबेस को संसाधित करने के लिए गहन सीखने का उपयोग किया। डेटाबेस में प्रत्येक व्यक्ति के लिए सैकड़ों लाइनों की जानकारी वाले हजारों रोगियों की जानकारी शामिल थी, जैसे कि परीक्षण परिणाम, डॉक्टर की यात्रा की तारीख आदि। नतीजतन, दीप रोगी कार्यक्रम दिखाई दिया, जिसे 700 हजार लोगों के रिकॉर्ड के उदाहरण पर प्रशिक्षित किया गया था। इस कार्यक्रम ने जो परिणाम दिखाए वे असामान्य रूप से अच्छे थे। उदाहरण के लिए, वह कई रोगियों में प्रारंभिक अवस्था में कुछ बीमारियों के उभरने की भविष्यवाणी करने में सक्षम थी।

हालांकि, परिणाम थोड़ा अजीब निकला। उदाहरण के लिए, सिस्टम ने सिज़ोफ्रेनिया का पूरी तरह से निदान करना शुरू कर दिया। लेकिन अनुभवी मनोचिकित्सकों के लिए भी, सिज़ोफ्रेनिया का निदान एक जटिल समस्या है। लेकिन कंप्यूटर ने एक धमाके के साथ इसका मुकाबला किया। क्यों? कोई समझा नहीं सकता, व्यवस्था के निर्माता भी नहीं।

प्रारंभ में, एआई डेवलपर्स को दो शिविरों में विभाजित किया गया था। पहले समर्थकों ने कहा कि मशीन को प्रोग्राम किया जाना चाहिए ताकि सिस्टम में होने वाली सभी प्रक्रियाओं को देखा और समझा जा सके। दूसरे शिविर ने इस विचार का पालन किया कि मशीन को अपने आप सीखना चाहिए, अधिक से अधिक स्रोतों से डेटा प्राप्त करना, इसके बाद ऐसे डेटा की स्वतंत्र प्रसंस्करण। यही है, इस दृष्टिकोण के समर्थकों ने, वास्तव में, सुझाव दिया कि प्रत्येक तंत्रिका नेटवर्क को "अपना मालिक" होना चाहिए।

यह सब वर्तमान समय तक शुद्ध सिद्धांत बना रहा, जब कंप्यूटर काफी शक्तिशाली हो गए ताकि कृत्रिम बुद्धिमत्ता और तंत्रिका नेटवर्क के विशेषज्ञ अपने विचारों को व्यवहार में लाना शुरू कर सकें। पिछले दस वर्षों में, विचारों की एक बड़ी संख्या को लागू किया गया है, उत्कृष्ट सेवाएं दिखाई दी हैं जो ग्रंथों को एक भाषा से दूसरी भाषा में अनुवाद करने, भाषण को पहचानने, वास्तविक समय में वीडियो स्ट्रीम करने, वित्तीय डेटा के साथ काम करने और उत्पादन प्रक्रियाओं का अनुकूलन करने में मदद करती हैं।



लेकिन समस्या यह है कि लगभग किसी भी मशीन सीखने की तकनीक विशेषज्ञों के लिए बहुत पारदर्शी नहीं है। "मैनुअल" प्रोग्रामिंग के मामले में, स्थिति बहुत सरल है। बेशक, कोई यह नहीं कह सकता कि भविष्य की प्रणाली किसी के लिए समझ से बाहर होगी। लेकिन स्वभाव से, गहरा सीखना एक तरह का ब्लैक बॉक्स है।

आप केवल तंत्रिका नेटवर्क के सिद्धांतों को नहीं देख सकते हैं और परिणाम की भविष्यवाणी कर सकते हैं कि हमें किसी प्रकार के डेटा सरणी के प्रसंस्करण के परिणामस्वरूप मिलेगा। "ब्लैक बॉक्स" के अंदर दसियों और सैकड़ों "न्यूरॉन्स की परतें" होती हैं जो एक जटिल प्रक्रिया में परस्पर जुड़ी होती हैं। इसके अलावा, अंतिम परिणाम के लिए मूल्य केवल परतों का काम नहीं है, बल्कि व्यक्तिगत न्यूरॉन्स का भी है। ज्यादातर मामलों में, एक व्यक्ति यह अनुमान नहीं लगा सकता है कि तंत्रिका नेटवर्क के आउटपुट में क्या दिखाई देगा।

एक तंत्रिका नेटवर्क मानव मस्तिष्क से कैसे अलग है इसका एक उदाहरण डीप ड्रीम सिस्टम है। यह एक Google परियोजना है, एक तंत्रिका नेटवर्क है, जिसमें एक नियमित फोटो पेश की गई थी और एक विशिष्ट विषय के अनुसार इस तस्वीर को परिवर्तित करने का लक्ष्य दिया गया था। ठीक है, उदाहरण के लिए, चित्र में सभी वस्तुओं को कुत्तों की तरह देखो। नतीजों ने सभी को प्रभावित किया। किसी तरह, डम्बल छवि बनाने का कार्य सिस्टम में पेश किया गया था। प्रणाली का मुकाबला हुआ, लेकिन सभी मामलों में लोगों के हाथ डंबल के लिए तैयार थे - तंत्रिका नेटवर्क ने फैसला किया कि डंबल-आर्म एक एकल प्रणाली है जिसे दो अलग-अलग तत्वों के रूप में नहीं माना जा सकता है।



विशेषज्ञों का मानना ​​है कि यह समझने के लिए आवश्यक है कि इस तरह के सिस्टम कैसे काम करते हैं। यह सरल कारण के लिए आवश्यक है कि वे तेजी से महत्वपूर्ण क्षेत्रों में तंत्रिका नेटवर्क का उपयोग करना शुरू कर रहे हैं जहां एक त्रुटि एक दुखद अंत हो सकती है (प्रतिभूति व्यापार एक उदाहरण है)। “यदि आपके पास एक छोटा तंत्रिका नेटवर्क है, तो आप पूरी तरह से समझ सकते हैं कि यह कैसे काम करता है। लेकिन जब एक तंत्रिका नेटवर्क बढ़ता है, तो इसमें तत्वों की संख्या सैकड़ों परतों के साथ प्रति परत सैकड़ों हजारों न्यूरॉन्स तक बढ़ जाती है - इस मामले में यह अप्रत्याशित हो जाता है, “जाकोला कहते हैं।

फिर भी, एक ही दवा में तंत्रिका नेटवर्क को काम में इस्तेमाल किया जाना चाहिए। डॉक्टर कई डेटा के महत्व को कम करते हैं, एक व्यक्ति बस अपनी आंखों को पकड़ने में सक्षम नहीं होता है और रोगी के चिकित्सा इतिहास में सैकड़ों रिकॉर्डों के बीच लिंक पाता है। और मशीन - शायद यह तंत्रिका नेटवर्क और सामान्य रूप से गहन सीखने का महान मूल्य है।

अमेरिकी सेना ने स्वचालित ड्रोन कंट्रोल सिस्टम, विभिन्न वस्तुओं की पहचान और पहचान, डेटा विश्लेषण के विकास में अरबों डॉलर का निवेश किया है। लेकिन सेना का मानना ​​है कि इस तरह के सिस्टम का काम समझने और समझाने योग्य होना चाहिए। जो सैनिक स्वचालित-नियंत्रित टैंक में बंद हैं, वे बहुत असहज महसूस करेंगे यदि वे यह नहीं समझेंगे कि कैसे और क्या काम करता है, तो सिस्टम ने ऐसा निर्णय क्यों किया, और किसी अन्य ने नहीं।

शायद भविष्य में ये सिस्टम उनके कार्यों की व्याख्या करेगा। उदाहरण के लिए, वाशिंगटन विश्वविद्यालय के एक प्रोफेसर कार्लोस गेस्ट्रीन ने एक कंप्यूटर प्रणाली विकसित की है जो उनकी गणनाओं के मध्यवर्ती परिणामों की व्याख्या करती है। इस प्रणाली का उपयोग इलेक्ट्रॉनिक संदेशों का विश्लेषण करने के लिए किया जा सकता है। अगर उनमें से किसी का मूल्यांकन एक सशर्त आतंकवादी द्वारा भेजे गए कंप्यूटर द्वारा किया जाता है, तो एक स्पष्टीकरण दिया जाएगा कि ऐसा निष्कर्ष क्यों बनाया गया है।

वैज्ञानिक के अनुसार, स्पष्टीकरण काफी सरल और समझने योग्य होना चाहिए। "हम अभी तक उस सपने तक नहीं पहुँचे हैं जहाँ AI सिर्फ आपके साथ बात करता है और समझा सकता है," गेस्ट्रीन कहते हैं। "हम केवल पारदर्शी AI बनाने की दिशा में एक लंबी यात्रा की शुरुआत में हैं।"

एआई को एक विशेष परिणाम के लिए नेतृत्व करने वाले कारणों को समझना अगर हम एआई को अपने जीवन का हिस्सा बनाना चाहते हैं, और एक उपयोगी हिस्सा है। यह न केवल सेना के मामले में सच है, बल्कि सिरी या किसी अन्य डिजिटल सहायकों पर भी लागू होता है। उदाहरण के लिए, यदि आप सिरी को पास के रेस्तरां का चयन करने के लिए कहते हैं, तो कई लोग यह समझना चाहते हैं कि ये रेस्तरां क्यों दिखाए गए हैं, और अन्य नहीं। एआई के कार्यान्वयन के लिए एक महत्वपूर्ण मानदंड कंप्यूटर सिस्टम में मानवीय विश्वास है।

संभवतः, कंप्यूटर को अपने सभी कार्यों और निर्णयों की व्याख्या करना अभी भी असंभव है - क्योंकि, उदाहरण के लिए, किसी भी व्यक्ति के कार्यों और निर्णयों को समझना अक्सर असंभव होता है। वे बड़ी संख्या में कारकों पर निर्भर करते हैं। और तंत्रिका नेटवर्क जितना जटिल होता है, उतने अधिक कारक इसे ध्यान में रखते हैं और विश्लेषण करते हैं।

यह नैतिक और सामाजिक प्रकृति के कई जटिल मुद्दों को उठाता है। उदाहरण के लिए, एक ही सेना के मामले में, जब स्वचालित टैंक और अन्य हत्या मशीनों को बनाने की बात आती है, तो यह महत्वपूर्ण है कि उनके फैसले मानव नैतिक मानकों का पालन करें। वास्तव में, हत्या करना हममें से कई लोगों के नैतिक मानकों के अनुसार नहीं हो सकता है। लेकिन ये निर्णय बहुमत के लिए कम से कम स्वीकार्य होना चाहिए। हालांकि, यह बहुमत क्या है? एक सवाल भी।

टफ्ट्स विश्वविद्यालय के एक दार्शनिक, डैनियल डेनेट कहते हैं: “मेरा मानना ​​है कि अगर हम इन चीजों का उपयोग करने जा रहे हैं और उन पर निर्भर हैं, तो हमें यह समझने की आवश्यकता है कि वे इस तरह कैसे और क्यों कार्य करते हैं और अन्यथा नहीं। यदि वे हमें बेहतर नहीं समझा सकते हैं कि वे क्या कर रहे हैं, तो उन पर विश्वास न करें। "