हम अकेले गहन शिक्षा पर निर्मित AI सिस्टम पर भरोसा नहीं कर सकते

यह पाठ वैज्ञानिक अनुसंधान का परिणाम नहीं है, बल्कि हमारे तात्कालिक तकनीकी विकास के बारे में कई राय है। और उसी समय चर्चा के लिए एक निमंत्रण।

न्यूयॉर्क विश्वविद्यालय के एक प्रोफेसर गैरी मार्कस का मानना ​​है कि गहरी शिक्षा एआई के विकास में महत्वपूर्ण भूमिका निभाती है। लेकिन वह यह भी मानते हैं कि इस तकनीक के लिए अत्यधिक उत्साह इसकी बदनामी का कारण बन सकता है।

उनकी किताब, रिबूटिंग एआई: बिल्डिंग आर्टिफिशियल इंटेलिजेंस में, हम मार्कस पर भरोसा कर सकते हैं , प्रशिक्षण के द्वारा एक न्यूरोलॉजिस्ट, जिसने अत्याधुनिक एआई शोध पर अपना कैरियर बनाया, तकनीकी और नैतिक मुद्दों को संबोधित करता है। प्रौद्योगिकी के दृष्टिकोण से, गहन शिक्षण उन धारणा कार्यों के समाधान का सफलतापूर्वक अनुकरण कर सकता है जो हमारा मस्तिष्क करता है: उदाहरण के लिए, छवियों या भाषण की मान्यता। लेकिन अन्य कार्यों को हल करने के लिए, जैसे बातचीत को समझना या कारण संबंधों को निर्धारित करना, गहरी शिक्षा अच्छी नहीं है। अधिक उन्नत बुद्धिमान मशीनें बनाने के लिए जो कार्यों की एक विस्तृत श्रृंखला को हल कर सकती हैं - उन्हें अक्सर सामान्य कृत्रिम बुद्धि कहा जाता है - गहरी सीखने को अन्य तकनीकों के साथ जोड़ा जाना चाहिए।

यदि एआई सिस्टम वास्तव में अपने कार्यों या इसके आसपास की दुनिया को नहीं समझता है, तो इससे खतरनाक परिणाम हो सकते हैं। यहां तक ​​कि सिस्टम के वातावरण में सबसे छोटे अप्रत्याशित परिवर्तन इसके गलत व्यवहार को जन्म दे सकते हैं। पहले से ही कई ऐसे उदाहरण हैं: अनुचित अभिव्यक्तियों के निर्धारक जो मूर्ख बनाना आसान है; नौकरी खोज प्रणाली जो लगातार भेदभाव करती है; मानव रहित वाहन जो दुर्घटनाओं में शामिल हो जाते हैं और कभी-कभी एक चालक या पैदल यात्री को मार देते हैं। सामान्य कृत्रिम बुद्धि का निर्माण केवल एक दिलचस्प शोध समस्या नहीं है, इसमें कई पूरी तरह से व्यावहारिक अनुप्रयोग हैं।

अपनी पुस्तक में, मार्कस और उनके सह-लेखक अर्नेस्ट डेविस ने एक अलग रास्ते की वकालत की। उनका मानना ​​है कि हम अभी भी एक आम एआई बनाने से दूर हैं, लेकिन उन्हें यकीन है कि जितनी जल्दी या बाद में इसे बनाना संभव होगा।

हमें एक सामान्य AI की आवश्यकता क्यों है? विशिष्ट संस्करण पहले से ही बनाए गए हैं और बहुत सारे लाभ लाते हैं।

सच है, और लाभ भी अधिक होगा। लेकिन ऐसे कई कार्य हैं जो विशेष रूप से AI केवल हल नहीं कर सकते हैं। उदाहरण के लिए, साधारण भाषण को समझना, या आभासी दुनिया में सामान्य मदद, या एक रोबोट जो सफाई और खाना पकाने में मदद करता है। ऐसे कार्य विशिष्ट एआई की क्षमताओं से परे हैं। एक और दिलचस्प व्यावहारिक सवाल: क्या किसी विशेष एआई का उपयोग करके सुरक्षित ड्रोन कार बनाना संभव है? अनुभव बताता है कि इस तरह के एआई में अभी भी ड्राइविंग करते समय असामान्य स्थितियों में व्यवहार के साथ कई समस्याएं हैं, जो स्थिति को बहुत जटिल करती हैं।

मुझे लगता है कि हम सभी एक एआई प्राप्त करना चाहेंगे जो दवा में नए बड़े पैमाने पर खोज करने में हमारी मदद कर सके। यह स्पष्ट नहीं है कि वर्तमान प्रौद्योगिकियां इसके लिए उपयुक्त हैं, क्योंकि जीव विज्ञान एक जटिल क्षेत्र है। कई पुस्तकों को पढ़ने के लिए तैयार रहना चाहिए। वैज्ञानिक नेटवर्क और अणुओं की बातचीत में कारण-प्रभाव संबंधों को समझते हैं, ग्रहों और इतने पर सिद्धांतों का विकास कर सकते हैं। हालाँकि, विशेष AI के साथ, हम ऐसी खोजों के लिए सक्षम मशीनें नहीं बना सकते हैं। और आम एआई के साथ, हम विज्ञान, प्रौद्योगिकी और चिकित्सा में क्रांति ला सकते हैं। मेरी राय में, एक सामान्य एआई पर काम करना जारी रखना बहुत महत्वपूर्ण है।

मजबूत AI का मतलब "सामान्य" लगता है?

"सामान्य" कहने का मतलब है कि एआई विचार करने में सक्षम होगा और स्वतंत्र रूप से मक्खी पर नई समस्याओं को हल करेगा। इसके विपरीत, कहते हैं, गुओ, जिसमें पिछले 2000 वर्षों से समस्या नहीं बदली है।

जनरल एआई को राजनीति और चिकित्सा दोनों में निर्णय लेने में सक्षम होना चाहिए। यह मानवीय क्षमता का एक एनालॉग है; कोई भी समझदार व्यक्ति बहुत कुछ कर सकता है। आप अनुभवहीन छात्रों को लेते हैं और कुछ दिनों के बाद उन्हें लगभग किसी भी चीज पर काम करने के लिए मजबूर करते हैं, कानूनी कार्य के साथ शुरू होता है और मेडिकल के साथ समाप्त होता है। यह इस तथ्य के कारण है कि उन्हें दुनिया की एक आम समझ है और पढ़ने में सक्षम हैं, और इसलिए वे बहुत व्यापक गतिविधियों में योगदान कर सकते हैं।

ऐसी बुद्धि और मजबूत के बीच का संबंध यह है कि एक गैर-मजबूत बुद्धि शायद आम समस्याओं को हल करने में सक्षम नहीं होगी। पर्याप्त विश्वसनीय बनाने के लिए जो कभी बदलती दुनिया के साथ काम कर सकता है, आपको कम से कम सामान्य बुद्धि के करीब पहुंचने की आवश्यकता हो सकती है।

लेकिन अब हम इससे बहुत दूर हैं। AlphaGo एक 19x19 बोर्ड पर पूरी तरह से खेल सकता है, लेकिन एक आयताकार बोर्ड पर खेलने के लिए इसे वापस लेने की आवश्यकता होती है। या औसत गहरी सीखने की प्रणाली को लें: यह एक हाथी को पहचान सकता है यदि वह अच्छी तरह से जलाया जाता है और उसकी त्वचा की बनावट दिखाई देती है। और अगर केवल एक हाथी का सिल्हूट दिखाई देता है, तो सिस्टम शायद इसे पहचान नहीं पाएगा।

अपनी पुस्तक में, आप उल्लेख करते हैं कि गहरी शिक्षा सामान्य एआई की क्षमताओं को प्राप्त करने में सक्षम नहीं है, क्योंकि यह गहरी समझ में सक्षम नहीं है।

संज्ञानात्मक विज्ञान में वे विभिन्न संज्ञानात्मक मॉडल के गठन के बारे में बात करते हैं। मैं एक होटल के कमरे में बैठा हूं और मैं समझता हूं कि एक कोठरी है, एक बिस्तर है, एक टीवी है, जो असामान्य रूप से निलंबित है। मैं इन सभी वस्तुओं को जानता हूं, मैं सिर्फ उनकी पहचान नहीं करता हूं। मैं यह भी समझता हूं कि वे एक दूसरे के साथ कैसे जुड़े हैं। मेरे पास दुनिया के कामकाज के बारे में विचार हैं। वे परिपूर्ण नहीं हैं। वे गलत हो सकते हैं, लेकिन वे बहुत अच्छे हैं। और उनके आधार पर, मैं बहुत सारे निष्कर्ष निकालता हूं, जो मेरे दैनिक कार्यों के लिए एक मार्गदर्शक बन जाते हैं।

दूसरा चरम दीपइंड द्वारा बनाई गई अटारी गेमिंग प्रणाली की तरह है, जिसमें उन्हें याद है कि स्क्रीन पर कुछ जगहों पर पिक्सल देखने पर उन्हें क्या करना चाहिए। यदि आपको पर्याप्त डेटा मिलता है, तो ऐसा लग सकता है कि आपके पास एक समझ है, लेकिन वास्तव में यह बहुत ही सतही है। प्रमाण यह है कि यदि आप वस्तुओं को तीन पिक्सेल तक ले जाते हैं, तो एआई बहुत बुरा खेलता है। परिवर्तन उसे चकित कर रहा है। यह गहरी समझ के विपरीत है।

इस समस्या को हल करने के लिए, आप क्लासिक AI पर लौटने का प्रस्ताव करते हैं। इसका उपयोग करने के लिए हमें क्या फायदे चाहिए?

इसके कई फायदे हैं।

सबसे पहले, क्लासिक एआई वास्तव में दुनिया के संज्ञानात्मक मॉडल बनाने के लिए एक रूपरेखा है, जिसके आधार पर निष्कर्ष तब निकाला जा सकता है।

दूसरे, क्लासिक एआई पूरी तरह से नियमों के अनुकूल है। अब गहरी शिक्षा के क्षेत्र में एक अजीब प्रवृत्ति है जब विशेषज्ञ नियमों से बचने की कोशिश करते हैं। वे तंत्रिका नेटवर्क पर सब कुछ करना चाहते हैं और ऐसा कुछ नहीं करते हैं जो क्लासिक प्रोग्रामिंग जैसा दिखता है। लेकिन ऐसे कार्य हैं जो शांति से इस तरह से हल किए गए थे, और किसी ने इस पर ध्यान नहीं दिया। उदाहरण के लिए, Google मानचित्र में मार्ग बनाना।

वास्तव में, हमें दोनों दृष्टिकोणों की आवश्यकता है। मशीन लर्निंग आपको डेटा से अच्छी तरह से सीखने की अनुमति देता है, लेकिन यह कंप्यूटर प्रोग्राम का प्रतिनिधित्व करने वाले अमूर्त को प्रदर्शित करने में बहुत खराब मदद करता है। क्लासिक एआई अमूर्तता के साथ अच्छी तरह से काम करता है, लेकिन इसे पूरी तरह से मैन्युअल रूप से प्रोग्राम करने की आवश्यकता है, और उन सभी को प्रोग्राम करने के लिए दुनिया में बहुत अधिक ज्ञान है। जाहिर है, हमें दोनों दृष्टिकोणों को मिलाने की जरूरत है।

यह उस अध्याय से संबंधित है जिसमें आप बात करते हैं कि हम मानव मन से क्या सीख सकते हैं। और सबसे पहले, ऊपर बताए गए विचार पर आधारित अवधारणा के बारे में हमारी चेतना में कई अलग-अलग प्रणालियां शामिल हैं जो अलग-अलग तरीकों से काम करती हैं।

मुझे लगता है कि इसे समझाने का एक और तरीका है: प्रत्येक संज्ञानात्मक प्रणाली जो हमारे पास है, वास्तव में विभिन्न समस्याओं को हल करती है। एआई के समान भागों को विभिन्न समस्याओं को हल करने के लिए डिज़ाइन किया जाना चाहिए जिसमें विभिन्न विशेषताएं हैं।

अब हम उन समस्याओं को हल करने के लिए कुछ ऑल-इन-वन तकनीकों का उपयोग करने की कोशिश कर रहे हैं जो एक दूसरे से मौलिक रूप से भिन्न हैं। किसी वाक्य को समझना किसी वस्तु को पहचानने के समान नहीं है। लेकिन दोनों मामलों में लोग गहरी शिक्षा का उपयोग करने की कोशिश करते हैं। संज्ञानात्मक दृष्टिकोण से, ये गुणात्मक रूप से भिन्न कार्य हैं। मैं सिर्फ इस बात से चकित हूं कि गहरे सीखने वाले विशेषज्ञों का समुदाय क्लासिक एआई को कितना महत्व देता है। चांदी की गोली का इंतजार क्यों करें? यह अप्राप्य है, और फलहीन खोजें एआई बनाने के कार्य की जटिलता को समझने की अनुमति नहीं देती हैं।

आप यह भी उल्लेख करते हैं कि एआई सिस्टम कारण-प्रभाव संबंधों को समझने के लिए आवश्यक हैं। क्या आपको लगता है कि गहरी शिक्षा, क्लासिक एआई या पूरी तरह से नया कुछ हमें इसमें मदद करेगा?

यह एक और क्षेत्र है जिसके लिए गहन शिक्षा बहुत उपयुक्त नहीं है। यह कुछ घटनाओं के कारणों की व्याख्या नहीं करता है, लेकिन दी गई शर्तों के तहत किसी घटना की संभावना की गणना करता है।

हम किस बारे में बात कर रहे हैं? आप कुछ परिदृश्यों को देखते हैं, और आप समझते हैं कि ऐसा क्यों होता है और यदि कुछ परिस्थितियां बदलती हैं तो क्या हो सकता है। मैं उस स्टैंड को देख सकता हूं जिस पर टीवी खड़ा है, और कल्पना करें कि अगर मैंने उसके एक पैर को काट दिया, तो स्टैंड पलट जाएगा और टीवी गिर जाएगा। यह एक कारण संबंध है।

क्लासिक एआई हमें इसके लिए कुछ उपकरण देता है। वह कल्पना कर सकता है, उदाहरण के लिए, क्या समर्थन है और क्या गिरावट है। लेकिन मैं प्रशंसा नहीं करूंगा। समस्या यह है कि अधिकांश भाग के लिए क्लासिक एआई क्या हो रहा है, इसके बारे में जानकारी की पूर्णता पर निर्भर करता है, लेकिन मैंने केवल स्टैंड को देखकर निष्कर्ष निकाला। किसी तरह मैं सामान्य कर सकता हूं, स्टैंड के कुछ हिस्सों की कल्पना कर सकता हूं जो मुझे दिखाई नहीं दे रहे हैं। हमारे पास इस संपत्ति को लागू करने के लिए अभी तक उपकरण नहीं हैं।

आप यह भी कहते हैं कि लोगों को जन्मजात ज्ञान है। एआई में इसे कैसे लागू किया जा सकता है?

जन्म के समय, हमारा मस्तिष्क पहले से ही एक बहुत ही सावधानीपूर्वक विचार प्रणाली है। यह तय नहीं है, प्रकृति ने पहला, मोटा मसौदा तैयार किया। और फिर सीखने से हमें जीवन भर इस मसौदे को संशोधित करने में मदद मिलती है।

मस्तिष्क के एक मोटे मसौदे में पहले से ही कुछ क्षमताएं हैं। कुछ ही घंटों में एक नवजात पर्वत बकरी पहाड़ की ढलान पर सटीक उतरने में सक्षम है। जाहिर है, उसे पहले से ही त्रि-आयामी अंतरिक्ष, उसके शरीर और उनके बीच संबंध की समझ है। बहुत जटिल प्रणाली।

यह आंशिक रूप से इसलिए है कि मुझे लगता है कि हमें संकर की आवश्यकता है। यह कल्पना करना कठिन है कि आप एक रोबोट कैसे बना सकते हैं जो समान ज्ञान के बिना दुनिया में अच्छी तरह से काम करता है, जहां शुरू करने के बजाय, खरोंच से शुरू करने और लंबे, विशाल अनुभव से सीखने के बजाय।

मनुष्यों के लिए, हमारे जन्मजात ज्ञान हमारे जीनोम से आता है, जो समय के साथ विकसित हुआ है। और एआई सिस्टम के साथ, हमें दूसरे रास्ते पर जाना होगा। भाग में, ये हमारे एल्गोरिदम के निर्माण के नियम हो सकते हैं। भाग में, ये डेटा संरचनाएं बनाने के लिए नियम हो सकते हैं जो इन एल्गोरिदम में हेरफेर करते हैं। और भाग में, यह ज्ञान हो सकता है कि हम सीधे मशीनों में निवेश करेंगे।

दिलचस्प बात यह है कि किताब में आप ट्रस्ट के विचार और ट्रस्ट सिस्टम के निर्माण को सामने लाते हैं। आपने यह मानदंड क्यों चुना?

मेरा मानना ​​है कि आज यह सब बॉल का खेल है। यह मुझे लगता है कि हम इतिहास में एक अजीब क्षण जी रहे हैं, मोटे तौर पर भरोसेमंद सॉफ्टवेयर जो भरोसेमंद नहीं है। मुझे लगता है कि आज की अंतर्निहित चिंताएं हमेशा के लिए नहीं रहेंगी। सौ साल में, AI हमारे भरोसे को सही ठहराएगा, और शायद पहले भी।

लेकिन आज, एआई खतरनाक है। इस अर्थ में नहीं कि एलोन मस्क डरते हैं, लेकिन इस तथ्य में कि नौकरी साक्षात्कार प्रणाली महिलाओं के खिलाफ भेदभाव करती है, भले ही प्रोग्रामर क्या करें, क्योंकि उनके उपकरण बहुत सरल हैं।

मैं चाहूंगा कि हमारे लिए बेहतर एआई हो। मैं नहीं चाहता कि "कृत्रिम बुद्धिमत्ता की सर्दी" शुरू हो, जब लोगों को एहसास हो कि एआई काम नहीं कर रहा है और सिर्फ खतरनाक है, और वे इसे ठीक नहीं करना चाहते हैं।

एक तरह से, आपकी पुस्तक वास्तव में बहुत आशावादी लगती है। आप सुझाव देते हैं कि आप एक विश्वसनीय AI का निर्माण कर सकते हैं। हमें बस एक अलग दिशा में देखने की जरूरत है।

सच है, पुस्तक अल्पावधि में बहुत निराशावादी है और दीर्घकालिक में बहुत आशावादी है। हम मानते हैं कि हमारे द्वारा बताई गई सभी समस्याओं को हल किया जा सकता है यदि हम सही उत्तर पर अधिक व्यापक रूप से देखें। और हम सोचते हैं कि ऐसा होने पर दुनिया बेहतर हो जाएगी।