👼🏽 🤖 🌾 सोचने का तर्क - स्पिन-ऑफ 🐧 ☝🏾 👨‍👧

मैं आपके ध्यान में तंत्रिका नेटवर्क पर लेखों की एक श्रृंखला प्रस्तुत करता हूं, जो कि वैचारिक रूप से अलेक्सी रेडोज़ुबोव के लेखों की एक श्रृंखला के करीब है । सामग्री को समझने के लिए, यह अनुशंसा की जाती है कि आप अपने लेखों के पूरे चक्र से खुद को परिचित करें। लिंक में चक्र से केवल एक लेख है, इस पाठ के लिए उपयोगी है।

तंत्रिका नेटवर्क (बाद में एनएस के रूप में संदर्भित) के वर्णित मॉडल अलेक्सी की तुलना में थोड़ा उच्च स्तर के होंगे। यह हमें एनएस में होने वाली प्रक्रियाओं की प्रस्तुति और समझ को सरल बनाने की अनुमति देता है, जो तब हमें निम्न-स्तरीय एनएस की बारीक ट्यूनिंग पर आगे बढ़ने की अनुमति देगा। इसके अलावा, ऐसे एनएस पर काम करने से उन्हें अधिक तेज़ी से उपयोग करना संभव हो जाता है। विशेष रूप से, मैंने उन्हें ग्रंथों को पार्स करने के लिए इस्तेमाल किया, एक भूलभुलैया के माध्यम से चलने वाले माउस का अनुकरण किया और एक लिस्प जैसी भाषा की व्याख्या की, कई अन्य अनुप्रयोग हो सकते हैं। हम चक्र के अंत में इस तरह के जटिल व्यवहार को सुचारू रूप से करेंगे।
आइए ऐसे उच्च-स्तरीय दृष्टिकोण को चित्रित करके शुरू करें। हिप्पोकैम्पस पर एलेक्सी के लेख में एक वाक्य है: "हिप्पोकैम्पस यादों के लिए अद्वितीय पहचानकर्ता बनाता है।" आइए एक सरल कोड से शुरू करें जो इन क्रियाओं को करेगा - एक विशिष्ट पहचानकर्ता बनाएगा और इसे वर्णित घटनाओं से जोड़ेगा। C ++ कोड। मैं अभी तक स्रोत कोड अपलोड नहीं करता - बिना तैयारी के स्पष्टीकरण के, फिर भी उनका बहुत कम उपयोग होता है।

NC & hippocampNewId = newNC ();

व्यक्तिगत न्यूरॉन्स के बजाय, मुख्य कार्यक्रम इकाई एक तंत्रिका क्लस्टर / स्तंभ है। वर्ग का नाम नेकां (न्यूरोक्स्टर के लिए छोटा) है। चूंकि एनएस (मेरे प्रयोगों में, सैकड़ों हजारों) में बड़ी संख्या में न्यूरोक्लस्टर्स बनते हैं, इसलिए नए न्यूरोलक्लेटर को अलग करने के लिए ऑपरेटर नए का उपयोग करना अवांछनीय है - यह धीरे-धीरे चलता है और एक बड़ी मेमोरी ओवरहेड है। इसलिए, नयाएनसी फ़ंक्शन का उपयोग किया जाता है, जो न्यूरोक्लस्टर्स के पूल का उपयोग करता है, और उन्हें वहां से आवंटित करता है। एक सूचक के बजाय, यह फ़ंक्शन नेकां के लिए एक संदर्भ देता है, जो कोड को अधिक सुविधाजनक और सुरक्षित बनाता है।
वैचारिक रूप से, यह कोड लगभग इस दृष्टिकोण से मेल खाता है: नेशनल असेंबली में कई तंत्रिका स्तंभ हैं, अगले कमजोर रूप से उपयोग किए गए कॉलम को आवंटित करना आवश्यक है, और यह नए पहचानकर्ता के लिए जिम्मेदार होगा। इस तरह के अलगाव होने के तरीके का पता लगाना हिप्पोकैम्पस विशेषज्ञों के लिए एक निम्न-स्तरीय कार्य है। यह भी दिलचस्प है, मेरे पास इस पर विचार है कि इसे कैसे हल किया जाए, लेकिन ऐसा कार्य बहुत निम्न स्तर का है, इसलिए हम आगे बढ़ेंगे।
आइए सभी न्यूरोलक्स्टर्स के माध्यम से पारित होने का एक चक्र लिखें:

(NC & nc: _listNC) के लिए {
	अगर (nisisActive ())
		// यहाँ हमें किसी तरह इस न्यूरोक्लस्टर को hippocampNewId से जोड़ना होगा
}

एक सक्रिय न्यूरोक्लस्टर उदाहरण के लिए किसी भी वर्तमान सनसनी, संवेदी कॉर्टेक्स से एक संकेत, वर्तमान कार्रवाई, और इसी तरह है।
एलेक्सी के मॉडल में, इस तरह के कनेक्शन को ट्यूनिंग के माध्यम से बनाया जाएगा - क्लस्टर एक नई पहचान लहर को पहचानना सीखेगा। इस तरह के अप्रत्यक्ष संबंध बनाने के लिए, आपको बहुत सारे कंप्यूटिंग संसाधनों की आवश्यकता होती है - आपको बहुत सारे न्यूरॉन्स और कनेक्शन (सौ या दो न्यूरॉन्स प्रति न्यूरोक्लस्टर) की आवश्यकता होती है, बहुत सारी गणनाएँ, आपको पूरे कॉर्टेक्स के माध्यम से एक पहचान तरंग के पारित होने की आवश्यकता होती है, इस बीतने में बहुत समय लगेगा। हम इसे आसान करेंगे - सीधे एक सॉफ्टवेयर कनेक्शन बनाएँ:

(NC & nc: _listNC) के लिए {
	अगर (nisisActive ())
		hippocampNewId.createLinkTo (nc);
}

उसके बाद, नई हिप्पोकैम्पस लेबल को अतीत की यादों के साथ समय पर जोड़ना होगा:

	hippocampNewId.createTimeLinkTo (_prevHippocampId);

और अंत में, अगले चक्र के लिए, हम प्रतिस्थापित करेंगे:

	_prevHippocampId = hippocampNewId;

बेशक, यह अभी भी छद्म कोड है। यह समझा जाता है कि यह एएनएन वर्ग में एक कोड है। इसलिए, नयाएनसी फ़ंक्शन एचसी वर्ग का एक सदस्य कार्य है। यदि एक चर अंडरस्कोर से शुरू होता है, तो यह चर वर्ग का एक सदस्य है (कुछ उपसर्ग m_ की तरह, बस अक्षर m का उच्चारण नहीं करना है, जो प्रोग्रामिंग को अधिक सुविधाजनक बनाता है)।
अलेक्सी की योग्यता यह है कि उनकी खोज आपको createLinkTo जैसे कोड लिखने की अनुमति देती है। उनके लेखों से पहले, कोई केवल अनुमान लगा सकता था कि दो यादों को एक साथ कैसे जोड़ा जाए। सब के बाद, मस्तिष्क तुरंत एक न्यूरॉन के अक्षतंतु से दूसरे गोलार्ध में एक कनेक्शन को अंकुरित नहीं कर सकता है, और इसलिए हर सेकंड में सौ बार। अलेक्सी की तकनीक हिप्पोकैम्पस के साथ पूरे मस्तिष्क को एक स्विच में बदल देती है जो बहुत जल्दी मनमाना संघ बना सकता है। लगभग 15 साल पहले, मैंने एक दिया के रूप में इस तरह के तंत्र के अस्तित्व को स्वीकार किया, और काम किया, उम्मीद है कि किसी दिन इसे खोला जाएगा। यह केवल कुछ संदेह के साथ कोड लिखने के लिए बना रहा - लेकिन यह सब जैविक रूप से प्रशंसनीय कितना है? इस तरह के एक तंत्र के अस्तित्व को इंगित विभिन्न तथ्य, और अंत में, विवरण सामने आए थे।
खैर, हम किसी तरह सबसे सक्रिय वर्तमान यादों और नए हिप्पोकैम्पस लेबल से जुड़े। यह हमें क्या देता है? आइए इसे बनाते हैं ताकि पहले याद किए गए समान घटनाओं की एक श्रृंखला प्राप्त होने पर, याद किए गए टाइमस्टैम्प्स इन नई श्रृंखलाओं को पहचान सकते हैं क्योंकि कुछ पहले से ही सामना कर रहे हैं। फिर विभिन्न चीजों को करना संभव होगा - उदाहरण के लिए, अनुभव के आधार पर पूर्वानुमान शुरू करना।
ऐसा करने के लिए, अस्थायी रूप से किसी अन्य कार्य के लिए आगे बढ़ें। ANN (कृत्रिम एनएस) के सेंसर कॉर्टेक्स को अक्षरों को देखते हैं। उदाहरण के लिए, उन्हें एक फ़ाइल से पढ़ता है। कार्य तंत्रिका श्रृंखलाएं बनाना है जो शब्द को पहचानेंगे - उदाहरण के लिए, "मान्यता प्राप्त" शब्द। इसके अलावा, यह मान्यता कई घटकों से होनी चाहिए - "दौड़", "पोज़", "नकद" की तीन अलग-अलग श्रृंखलाओं से।
समाधान का सामान्य सिद्धांत आम तौर पर स्पष्ट है, और उदाहरण के लिए, हॉकिंस की पदानुक्रमित टेम्पोरल मेमोरी में वर्णित है। लेकिन नीचे दी गई तस्वीर के लिए, आपको स्पष्टीकरण देने की जरूरत है (

पुराने टैब में खोलने के लिए टैब बार में चूहों द्वारा तस्वीर खींची जा सकती है): 1) पुराने एएनएन मॉडल में, न्यूरॉन क्लस्टर्स का उपयोग किया गया था, लेकिन न्यूरॉन्स ( यहां के रूप में ), लेकिन अब तंत्रिका प्रयोगशाला 3 के उन पुराने स्रोतों को उठाएं। और उन्हें बहुत थका देना, इसलिए मैं न्यूरो लैब के नवीनतम संस्करण 4 में उत्पन्न चित्रों के साथ वर्णन करूंगा। इसलिए, हालांकि न्यूरोक्लस्टर्स के सार प्रदर्शित किए जाएंगे, मैं उन्हें न्यूरॉन्स कहूंगा - यह संदर्भ से स्पष्ट होना चाहिए हम किस बारे में बात कर रहे हैं
2) यह विंडो - "2d चेन" टैब - तंत्रिका नेटवर्क के हिस्से का एक सुविधाजनक दृश्य बनाता है। यह तंत्रिका नेटवर्क को देखने के लिए असुविधाजनक है कि यह लेख में पहली तस्वीर में कैसा दिखता है। और यह विंडो आपको एक अलग न्यूरोलक्स्टर निर्दिष्ट करने की अनुमति देती है, इसके कनेक्शनों का विश्लेषण करती है, और केवल उन क्लस्टरों को दिखाती है जो चयनित से कनेक्शनों द्वारा पहुंच योग्य हैं। यह एक पंक्ति में समूहों को व्यवस्थित करता है, नीचे बेटी के संकेतों को दिखाता है, क्षैतिज रूप से अस्थायी कनेक्शन है। अब यह देखना आसान है कि यह श्रृंखला "मान्यता प्राप्त" शब्द का विश्लेषण करती है।
3) यह देखा जा सकता है कि विभिन्न समूहों में अलग-अलग प्रकार होते हैं, अलग-अलग प्रकार अलग-अलग रंगों में चित्रित किए जाते हैं। चित्र सामान्य (यदि) और संवेदी (सेंसर) न्यूरोक्लस्टर्स दिखाता है - वे संवेदी प्रांतस्था के अनुरूप हैं। सेंसर क्लस्टर से वास्तविक सेंसर तक संचार की आवश्यकता की कमी के लिए मॉडलिंग नहीं की जाती है। इस मामले में, डिबगिंग को सुविधाजनक बनाने के लिए एक अलग प्रकार के क्लस्टर की आवश्यकता होती है - उदाहरण के लिए, यह सोचने के लिए नहीं, "यह क्लस्टर किसी भी संकेत को क्यों नहीं पहचानता है, क्या यह बेकार है?" नहीं, यह बेकार नहीं है, यह टिप्पणी में इंगित पत्र को पहचानता है।
4) पॉप-अप ग्रीन टूलटिप (माउस होवर पर) में, विभिन्न क्षेत्रों को दिखाया गया है। टूलटिप के बहुत नीचे, एक क्लस्टर विज़ुअलाइज़ेशन स्कीम दिखाई जाती है। विभिन्न एएनएन मॉडल विभिन्न तरीकों से समूहों की कल्पना कर सकते हैं।, क्योंकि उनके पास बहुत भिन्न सामग्री हो सकती है (सभी प्रकार के संख्यात्मक चर, आंतरिक न्यूरॉन्स की संख्या, आदि), और यह स्पष्ट करने के लिए कि ये संख्याएं क्या हैं, मैंने संकेत के साथ तस्वीर देने का फैसला किया।
5) आइए हम पहले शब्दांश "दौड़" की मान्यता का विश्लेषण करें। इसमें संवेदी न्यूरॉन्स 6, 7 और 9 शामिल हैं, उन्हें न्यूरॉन्स 8 और 10 के कारण वांछित अनुक्रम में मान्यता प्राप्त है। यदि वे एक अलग क्रम में काम करते हैं, या कम से कम एक घड़ी चक्र की देरी के साथ, संकेत न्यूरॉन 10 तक नहीं पहुंचेगा।
6) उपरोक्त योजना के अनुसार, कोई सोच सकता है कि अक्षर "c" के साथ एक न्यूरॉन संख्या 10 के बाद एक और शब्दांश से न्यूरॉन संख्या 20 को एक संकेत भेजता है, संकेत बहुत जल्दी आ जाएगा और दूसरा शब्दांश पहचाने जाने से पहले बाहर जाने का समय होगा। इससे पहले, इस समस्या को हल करने के लिए, मैंने "देरी न्यूरॉन्स" का उपयोग किया था जो एक संकेत भेजते थे ताकि यह ठीक उसी समय आ जाए, जब दूसरे न्यूरॉन को इसकी आवश्यकता होगी। अब मैंने सीखा कि सही कनेक्शन सेटिंग्स का उपयोग कैसे करें, जिसे एक अलग लेख में वर्णित किया जाएगा, इसलिए देरी न्यूरॉन्स की आवश्यकता नहीं है। इसलिए, वे तस्वीर में नहीं हैं।
7) न्यूरॉन्स के साथ यह सर्किट, किसी शब्द को सही ढंग से पहचानने के लिए, "सही" और "अप" को संकेत भेजता है। यह समय बीतने और पदानुक्रम में विशेषता के स्तर में वृद्धि से मेल खाती है। लेकिन टूलटिप से पता चलता है कि इनकमिंग और आउटगोइंग कनेक्शन की संख्या ऐसी है कि कनेक्शन "डाउन" का नेतृत्व करने की अधिक संभावना है। ये न्यूरोक्लस्टर्स के संचालन की विशेषताएं हैं, ध्यान न दें, न्यूरॉन्स के साथ एक सर्किट के लिए, संचार दाईं ओर और ऊपर जाता है।
8) सुविधा के लिए, यह विंडो स्क्रीन के किनारों के साथ-साथ पंक्ति और स्तंभ संख्याओं को खींचती है, साथ ही मुख्य ऑफसेट क्लस्टर के संचालन के सापेक्ष समय की भरपाई करती है - अर्थात, जिसकी पहचानकर्ता को इनपुट फ़ील्ड में दर्ज किया जाता है और जो ऊपरी दाएं में एक मोटी फ्रेम द्वारा हाइलाइट किया जाता है
9) एक जटिल समय प्रारूप (टाइप 0: 0.0-0 के न्यूरॉन के निर्माण का समय) बाद में वर्णित किया जाएगा। चूंकि यह एनएस चित्रण के लिए उत्पन्न होता है, इसलिए सभी न्यूरॉन्स का निर्माण समय यहां एक ही है। वास्तविक सर्किट में, यह समय उस घड़ी को दिखाएगा जिसमें किसी विशेष विशेषता को पहचानने के लिए एक दिया गया तंत्रिका स्तंभ दिया गया है। यह वह समय है जब न्यूएनसी फ़ंक्शन को कहा जाता है। यह जानकारी डिबगिंग और अधिक के लिए उपयोग की जा सकती है।
10) इस तरह की चेन, निश्चित रूप से, किसी भी समय एक से अधिक विशेषताओं को याद कर सकती है (न्यूरॉन्स के पास किसी भी संख्या में कनेक्शन हो सकते हैं)। इस मामले में, न्यूरॉन्स के पास प्रत्येक समय कदम के लिए एक कनेक्शन होता है, क्योंकि पत्र मान्यता प्राप्त होते हैं। यदि दृश्य श्रृंखलाएं थीं, तो चित्र पूरी तरह से अलग होगा, जिसमें बहुत बड़ी संख्या में कनेक्शन होंगे। शैक्षिक उद्देश्यों के लिए, अक्षरों के साथ काम करना आसान है। अक्षरों को पहचानते समय, एक समय के स्टाम्प में, कई समूहों के कनेक्शन को याद किया जा सकता है - पत्र द्वारा, किसी मान्यता प्राप्त शब्द के अंत तक, किसी मान्यता प्राप्त शब्द के अंत में, किसी पाठ के समानांतर विचार के साथ समानांतर विचार द्वारा। यह न्यूरोक्लस्टर्स और लिस्प के बीच एक महत्वपूर्ण अंतर है, जहां कार / सीडीआर में केवल एक पॉइंटर होता है। लिस्प में रिश्तों का ऐसा शब्दार्थ AI के लिए कम सुविधाजनक है - क्योंकि एक एकल कोशिका को पूर्ण संघ के रूप में नहीं माना जा सकता है,ऐसा करने के लिए, आपको सेल से विशेषताओं की एक अलग सूची निकालने की आवश्यकता है, जिसे बहुत अलग तरीकों से जोड़ा जा सकता है। इसलिए, लिस्प पर एआई के साथ काम करने का प्रयास तुरंत एक स्पष्ट समाधान देता है - एक अलग चरित्र = एक अलग सेल, और यह काम करने के लिए बहुत कम स्तर है, लिस्प पर एआई बनाने के लिए असुविधाजनक है।
में अगले भाग हम वातानुकूलित सजगता के आवंटन के लिए कुछ एल्गोरिदम चर्चा की।

सोचने का तर्क - स्पिन-ऑफ

More articles: