वजन-असंवेदनशील तंत्रिका नेटवर्क (WANN)

Google का नया काम तंत्रिका नेटवर्क की एक वास्तुकला प्रदान करता है जो कि जीवों की सहज प्रवृत्ति और सजगता का अनुकरण कर सकता है, इसके बाद जीवन भर आगे प्रशिक्षण कर सकता है।

और नेटवर्क के भीतर कनेक्शन की संख्या को काफी कम कर देता है, जिससे उनकी गति बढ़ जाती है।

कृत्रिम तंत्रिका नेटवर्क, हालांकि जैविक लोगों के सिद्धांत के समान हैं, फिर भी एक मजबूत एआई बनाने के लिए उनके शुद्ध रूप में उपयोग किए जाने के लिए उनसे बहुत अलग हैं। उदाहरण के लिए, अब एक सिम्युलेटर (या माउस, या यहां तक ​​कि एक कीट) में एक व्यक्ति का एक मॉडल बनाना असंभव है, उसे एक आधुनिक तंत्रिका नेटवर्क के रूप में "मस्तिष्क" दें और उसे प्रशिक्षित करें। यह सिर्फ काम नहीं करता है

यहां तक ​​कि सीखने के तंत्र में मतभेदों को त्यागने के बाद (मस्तिष्क में त्रुटि बैक प्रचार एल्गोरिदम का कोई सटीक एनालॉग नहीं है, उदाहरण के लिए) और मल्टीस्केल समय सहसंबंधों की कमी, जिसके आधार पर जैविक मस्तिष्क अपना काम करता है, कृत्रिम तंत्रिका नेटवर्क में कई और समस्याएं हैं जो उन्हें पर्याप्त रूप से अनुकरण करने की अनुमति नहीं देती हैं। जीवित मस्तिष्क। यह संभावना है कि गणितीय उपकरण के इन अंतर्निहित समस्याओं के कारण, अब इस्तेमाल किया गया सुदृढीकरण लर्निंग, इनाम के आधार पर जीवित प्राणियों के प्रशिक्षण को यथासंभव अभ्यास करने के लिए डिज़ाइन किया गया है, अभ्यास में वह काम नहीं करता है जैसा हम चाहते हैं। हालांकि यह वास्तव में अच्छे और सही विचारों पर आधारित है। डेवलपर्स खुद मजाक करते हैं कि मस्तिष्क आरएनएन + ए 3 सी है (यानी, इसके प्रशिक्षण के लिए एक आवर्तक नेटवर्क + अभिनेता-आलोचक एल्गोरिदम)।

जैविक मस्तिष्क और कृत्रिम तंत्रिका नेटवर्क के बीच सबसे अधिक ध्यान देने योग्य अंतर यह है कि जीवित मस्तिष्क की संरचना लाखों वर्षों के विकास से पूर्व-कॉन्फ़िगर की गई है। यद्यपि नवजात शिशु, जो स्तनधारियों में उच्च तंत्रिका गतिविधि के लिए जिम्मेदार है, लगभग एक समान संरचना है, मस्तिष्क की सामान्य संरचना जीन द्वारा स्पष्ट रूप से परिभाषित की जाती है। इसके अलावा, स्तनधारियों (पक्षियों, मछलियों) के अलावा अन्य जानवरों में एक नियोकोर्टेक्स नहीं होता है, लेकिन साथ ही वे जटिल व्यवहार का प्रदर्शन करते हैं जो आधुनिक तंत्रिका नेटवर्क द्वारा प्राप्त करने योग्य नहीं है। मस्तिष्क की संरचना में एक व्यक्ति की शारीरिक सीमाएं भी होती हैं, जिन्हें समझाना मुश्किल है। उदाहरण के लिए, एक आँख का रिज़ॉल्यूशन लगभग 100 मेगापिक्सेल (~ 100 मिलियन फोटोसेंसेटिव छड़ और शंकु) है, जिसका अर्थ है कि दो आँखों से वीडियो स्ट्रीम लगभग 200 मेगापिक्सेल होना चाहिए जिसमें कम से कम 15 फ्रेम प्रति सेकंड की आवृत्ति हो। लेकिन वास्तव में, ऑप्टिक तंत्रिका खुद को 2-3 मेगापिक्सेल से अधिक नहीं पारित करने में सक्षम है। और इसके कनेक्शन को मस्तिष्क के निकटतम भाग तक नहीं, बल्कि दृश्य कॉर्टेक्स के ओसीसीपटल भाग तक निर्देशित किया जाता है।

इसलिए, नियोकोर्टेक्स के महत्व से विचलित हुए बिना (मोटे तौर पर बोलना, इसे जन्म के समय बेतरतीब ढंग से शुरू किए गए आधुनिक तंत्रिका नेटवर्क के एनालॉग के रूप में माना जा सकता है), तथ्यों से पता चलता है कि मनुष्यों में भी पूर्वनिर्धारित मस्तिष्क संरचना एक बड़ी भूमिका निभाती है। उदाहरण के लिए, यदि बच्चा अपनी जीभ दिखाने के लिए केवल कुछ ही मिनट का है, तो दर्पण न्यूरॉन्स के लिए धन्यवाद, वह अपनी जीभ को भी चिपका देगा। यही बात बच्चों की हँसी के साथ भी होती है। यह सर्वविदित है कि जन्म से शिशुओं को मानव चेहरे की उत्कृष्ट पहचान के साथ "सिले" किया गया है। लेकिन इससे भी महत्वपूर्ण बात यह है कि सभी जीवित चीजों का तंत्रिका तंत्र उनके रहने की स्थिति के लिए अनुकूलित है। भूख लगने पर बच्चा घंटों रोएगा नहीं। वह थक जाएगा। या किसी चीज से डरकर चुप हो जाना। लोमड़ी तब तक थकावट तक नहीं पहुंचेगी जब तक कि दुर्गम अंगूरों के लिए भुखमरी न पहुंच जाए। वह कई प्रयास करेंगी, तय करेंगी कि वह कड़वा है। और यह सीखने की प्रक्रिया नहीं है, बल्कि जीव विज्ञान द्वारा पूर्वनिर्धारित व्यवहार है। इसके अलावा, विभिन्न प्रजातियों में अलग-अलग हैं। कुछ शिकारी तुरंत शिकार के लिए भागते हैं, जबकि अन्य लंबे समय तक घात में बैठे रहते हैं। और उन्होंने यह परीक्षण और त्रुटि के माध्यम से नहीं सीखा, लेकिन यह उनकी जीव विज्ञान है, जो सहज ज्ञान द्वारा दिया गया है। इसी तरह, कई जानवरों ने जीवन के पहले मिनटों से शिकारी से बचने के कार्यक्रम चलाए हैं, हालांकि वे शारीरिक रूप से अभी तक उन्हें नहीं सीख सके हैं।

सैद्धांतिक रूप से, तंत्रिका नेटवर्क के प्रशिक्षण के आधुनिक तरीके ऐसे पूर्व-प्रशिक्षित मस्तिष्क की समानता बनाने के लिए पूरी तरह से जुड़े नेटवर्क से सक्षम होते हैं, अनावश्यक कनेक्शनों को शून्य करते हैं (वास्तव में, उन्हें काटकर) और केवल आवश्यक लोगों को छोड़ देते हैं। लेकिन इसके लिए बड़ी संख्या में उदाहरणों की आवश्यकता होती है, यह ज्ञात नहीं है कि उन्हें कैसे प्रशिक्षित किया जाए, और सबसे महत्वपूर्ण बात - इस समय मस्तिष्क की इस "प्रारंभिक" संरचना को ठीक करने के लिए कोई अच्छे तरीके नहीं हैं। बाद में प्रशिक्षण इन वजन को बदल देता है और सब कुछ खराब हो जाता है।

Google के शोधकर्ताओं ने भी यह सवाल पूछा। क्या जैविक एक के समान प्रारंभिक मस्तिष्क संरचना बनाना संभव है, अर्थात, समस्या को हल करने के लिए पहले से ही अच्छी तरह से अनुकूलित किया गया है, और उसके बाद ही इसे वापस लेना है? सैद्धांतिक रूप से, यह नाटकीय रूप से समाधान के स्थान को संकीर्ण करेगा और आपको तंत्रिका नेटवर्क को जल्दी से प्रशिक्षित करने की अनुमति देगा।

दुर्भाग्य से, मौजूदा नेटवर्क संरचना अनुकूलन एल्गोरिदम, जैसे न्यूरल आर्किटेक्चर सर्च (एनएएस), पूरे ब्लॉकों पर काम करते हैं। जो जोड़ने या हटाने के बाद, तंत्रिका नेटवर्क को खरोंच से नए सिरे से प्रशिक्षित किया जाना है। यह एक संसाधन-गहन प्रक्रिया है और समस्या को पूरी तरह से हल नहीं करता है।

इसलिए, शोधकर्ताओं ने एक सरल संस्करण का प्रस्ताव किया, जिसे "वेट एग्नॉस्टिक न्यूरल नेटवर्क्स" (WANN) कहा जाता है। विचार एक तंत्रिका नेटवर्क के सभी भार को एक "सामान्य" वजन के साथ बदलने का है। और सीखने की प्रक्रिया में, यह न्यूरॉन्स के बीच वजन का चयन करने के लिए नहीं है, जैसा कि सामान्य तंत्रिका नेटवर्क में होता है, लेकिन नेटवर्क की संरचना (न्यूरॉन्स की संख्या और स्थान) का चयन करने के लिए, जो एक ही वजन के साथ सबसे अच्छा परिणाम दिखाता है। और उसके बाद, इसे अनुकूलित करें ताकि नेटवर्क इस कुल वजन के सभी संभावित मूल्यों (न्यूरॉन्स के बीच सभी कनेक्शनों के लिए सामान्य) के साथ अच्छी तरह से काम करे।

नतीजतन, यह एक तंत्रिका नेटवर्क की संरचना देता है, जो विशिष्ट भार पर निर्भर नहीं करता है, लेकिन सभी के साथ अच्छी तरह से काम करता है। क्योंकि यह समग्र नेटवर्क संरचना के कारण काम करता है। यह एक जानवर के मस्तिष्क के समान है जिसे अभी तक जन्म के समय विशिष्ट तराजू के साथ शुरू नहीं किया गया है, लेकिन पहले से ही इसकी सामान्य संरचना के कारण एम्बेडेड वृत्ति शामिल है। और जीवन भर प्रशिक्षण के दौरान तराजू के ठीक बाद की ट्यूनिंग, इस तंत्रिका नेटवर्क को और भी बेहतर बनाती है।

इस दृष्टिकोण का एक पक्ष सकारात्मक प्रभाव नेटवर्क में न्यूरॉन्स की संख्या में महत्वपूर्ण कमी है (चूंकि केवल सबसे महत्वपूर्ण कनेक्शन बने हुए हैं), जिससे इसकी गति बढ़ जाती है। नीचे एक पूरी तरह से जुड़े तंत्रिका नेटवर्क (बाएं) और एक मिलान किए गए नए (दाएं) की जटिलता की तुलना है।

इस तरह की वास्तुकला की खोज के लिए, शोधकर्ताओं ने टोपोलॉजी सर्च एल्गोरिदम (NEAT) का उपयोग किया। सबसे पहले, सरल तंत्रिका नेटवर्क का एक सेट बनाया जाता है, और फिर तीन क्रियाओं में से एक किया जाता है: दो न्यूरॉन्स के बीच मौजूदा कनेक्शन में एक नया न्यूरॉन जोड़ा जाता है, यादृच्छिक लोगों के साथ एक नया कनेक्शन दूसरे न्यूरॉन में जोड़ा जाता है, या न्यूरॉन्स में सक्रियण फ़ंक्शन बदलता है (नीचे दिए गए आंकड़े देखें)। और फिर, शास्त्रीय एनएएस के विपरीत, जहां न्यूरॉन्स के बीच इष्टतम वजन की खोज की जाती है, यहां सभी वजन एक एकल संख्या के साथ आरंभीकृत होते हैं। और नेटवर्क संरचना को खोजने के लिए अनुकूलन किया जाता है जो इस एक कुल वजन के मूल्यों की एक विस्तृत श्रृंखला में सबसे अच्छा काम करता है। इस प्रकार, एक नेटवर्क प्राप्त किया जाता है जो न्यूरॉन्स के बीच विशिष्ट वजन पर निर्भर नहीं करता है, लेकिन पूरी रेंज में अच्छी तरह से काम करता है (लेकिन सभी वजन अभी भी एक नंबर द्वारा शुरू किए गए हैं, और सामान्य नेटवर्क की तरह अलग नहीं हैं)। इसके अलावा, अनुकूलन के लिए एक अतिरिक्त लक्ष्य के रूप में, वे नेटवर्क में न्यूरॉन्स की संख्या को कम करने की कोशिश करते हैं।

नीचे एल्गोरिथ्म की एक सामान्य रूपरेखा है।

1. सरल तंत्रिका नेटवर्क की आबादी बनाता है
2. प्रत्येक नेटवर्क अपने सभी वज़न को एक संख्या के साथ और संख्याओं की एक विस्तृत श्रृंखला के लिए प्रारंभ करता है: w = -2 ... + 2
3. परिणामी नेटवर्क समस्या के समाधान की गुणवत्ता और न्यूरॉन्स की संख्या के अनुसार क्रमबद्ध किए जाते हैं (नीचे)
4. सबसे अच्छे प्रतिनिधियों के हिस्से में, एक न्यूरॉन जोड़ा जाता है, एक कनेक्शन या एक न्यूरॉन परिवर्तनों में सक्रियण फ़ंक्शन
5. ये संशोधित नेटवर्क बिंदु 1 में प्रारंभिक रूप में उपयोग किए जाते हैं)

यह सब अच्छा है, लेकिन सैकड़ों, अगर तंत्रिका नेटवर्क के लिए हजारों विभिन्न विचारों का प्रस्ताव नहीं किया गया है। क्या यह अभ्यास में काम करता है? हाँ यह करता है। नीचे शास्त्रीय पेंडुलम ट्रॉली समस्या के लिए इस तरह के नेटवर्क आर्किटेक्चर के खोज परिणाम का एक उदाहरण है। जैसा कि आंकड़े से देखा जा सकता है, तंत्रिका नेटवर्क कुल वजन के सभी वेरिएंट (+1 के साथ बेहतर है, लेकिन पेंडुलम को -1.5 से उठाने की कोशिश करता है) के साथ अच्छी तरह से काम करता है। और इस एकल वजन का अनुकूलन करने के बाद, यह पूरी तरह से पूरी तरह से काम करना शुरू कर देता है (चित्र में फाइन-ट्यून्ड वेट विकल्प)।

आमतौर पर, आप इस एकल कुल वजन के रूप में पुनः प्राप्त कर सकते हैं, क्योंकि वास्तुकला का चयन सीमित असतत संख्या मापदंडों पर किया जाता है (उदाहरण में -2, -1,,2,2 से ऊपर)। और आप एक अधिक सटीक इष्टतम पैरामीटर प्राप्त कर सकते हैं, कहते हैं, 1.5। और आप सभी वजनों के पुन: उपयोग के लिए शुरुआती बिंदु के रूप में सबसे अच्छे कुल वजन का उपयोग कर सकते हैं, जैसे कि तंत्रिका नेटवर्क के शास्त्रीय प्रशिक्षण में।

यह जानवरों को प्रशिक्षित करने के तरीके के समान है। ऐसी वृत्ति होना जो जन्म के समय इष्टतम के करीब हो, और जीन द्वारा दी गई इस मस्तिष्क संरचना का उपयोग प्रारंभिक रूप में किया जाता है, अपने जीवन के दौरान जानवर विशिष्ट बाहरी परिस्थितियों में अपने मस्तिष्क को प्रशिक्षित करते हैं। जर्नल नेचर के एक हालिया लेख में अधिक जानकारी।

नीचे पिक्सेल आधारित मशीन नियंत्रण कार्य के लिए WANN द्वारा पाया गया नेटवर्क का एक उदाहरण है। कृपया ध्यान दें कि यह "नंगे प्रवृत्ति" पर एक सवारी है, सभी जोड़ों में समान वजन के साथ, सभी भार के क्लासिक फाइन-ट्यूनिंग के बिना। इसी समय, तंत्रिका नेटवर्क संरचना में बेहद सरल है।

शोधकर्ताओं का सुझाव है कि WANN के लिए एक और उपयोग के मामले के रूप में WANN नेटवर्क से ensembles बनाना है। इसलिए, एमएनआईएसटी पर सामान्य यादृच्छिक रूप से प्रारंभिक तंत्रिका नेटवर्क लगभग 10% की सटीकता दिखाता है। एक चयनित एकल WANN न्यूरल नेटवर्क में लगभग 80% उपज होती है, लेकिन WANN से अलग कुल वजन के साथ एक पहनावा पहले से ही> 90% दिखाता है।

नतीजतन, Google शोधकर्ताओं द्वारा प्रस्तावित एक इष्टतम तंत्रिका नेटवर्क की प्रारंभिक वास्तुकला की खोज करने के लिए प्रस्तावित विधि न केवल पशु सीखने (जन्म के साथ निर्मित इष्टतम प्रवृत्ति और जीवन के दौरान फिर से शिक्षित करना) का अनुकरण करती है, बल्कि शास्त्रीय विकासवादी एल्गोरिदम में पूरे नेटवर्क के पूर्ण सीखने के साथ पूरे पशु जीवन के अनुकरण से भी बचती है। एक बार में सरल और तेज नेटवर्क। जो पूरी तरह से इष्टतम तंत्रिका नेटवर्क प्राप्त करने के लिए बस थोड़ी सी ट्रेन के लिए पर्याप्त है।

संदर्भ

1. Google AI ब्लॉग प्रविष्टि
2. एक इंटरैक्टिव लेख जिसमें आप कुल वजन को बदल सकते हैं और परिणाम की निगरानी कर सकते हैं
3. जन्म के समय अंतर्निहित वृत्ति के महत्व पर प्रकृति लेख