👨🏾‍🌾 👶🏽 🗞️ स्पिन-ऑफ 2 सोचने का तर्क: कुछ चेनिंग एल्गोरिदम 🤼 📮 🧞

उद्देश्य:

घटनाओं के अक्सर दोहराए जाने वाले अनुक्रमों को एक अलग श्रृंखला में अलग करें जिसमें कुछ भी नहीं होगा।
इस कार्य के कई समाधान हैं। अक्सर "बेकिंग" का उपयोग किया जाता है - जो रिश्ते अक्सर उपयोग किए जाते हैं वे तय होते हैं, जबकि अन्य कमजोर होते हैं। फाइनल में, आपको एक श्रृंखला मिलनी चाहिए जिसमें सबसे अधिक बार दोहराया जाने वाली घटनाओं में मजबूत संबंध होते हैं। इस समाधान में कई कमियां हैं, जिनके बीच - कम गति। लेकिन हमारे पास Redozubov से पहचान तरंगें हैं, हम अन्य एल्गोरिदम का उपयोग कर सकते हैं जो पहले दोहराने के बाद एक नई श्रृंखला बना सकते हैं। चलो एक साधारण से शुरू करते हैं।
में पिछले लेखमेमोरी चेन में सभी घटनाओं को रिकॉर्ड करने के लिए एक विधि का वर्णन किया गया है। सिस्टम को एक बार "क्षय" शब्द को पढ़ने दें, और दूसरे समय पर - "झरना" शब्द। इन दो शब्दों का एक ही हिस्सा है - तीन अक्षरों का अंत। समस्या की स्थितियों के अनुसार, श्रृंखला "पैड" को उजागर करना आवश्यक है। इस श्रृंखला में कोई पूर्व शर्त नहीं है, अर्थात यह आसानी से संबंधित इनपुट को पहचानता है।

एक उपाय

हम कार्य को दो में विभाजित करते हैं:
1) दो समान घटनाओं की श्रृंखला पाते हैं (आपको यह समझने की आवश्यकता है कि लगभग इन दो शब्दों में समान क्रम हैं)
2) उन्हें एक अलग श्रृंखला ("पैड") में चुनें।
चलो भाग 2 से शुरू करते हैं। हम समय की मोहर के साथ न्यूरोक्लस्टर को जटिल करते हैं, जो मेमोरी चेन में सभी घटनाओं को संग्रहीत करता है, जैसा कि चित्र में दिखाया गया है। पहचानने वाले भाग के लिए धन्यवाद (सामान्यीकृत समय टिकट के लिए विशेषताओं से कनेक्शन की दिशा), सबस्कैप 1 को हल किया जाएगा - सामान्य विशेषताओं के साथ एक स्थिति खोजने के लिए, और नीचे लिंक के साथ मेमोरी चेन के लिए धन्यवाद, सबस्कैप 2 हल हो जाएगा। 2 का उपशीर्षक का समाधान यह है: हम एक ही समय में दो शब्दों को याद करना शुरू करेंगे। जहां वे आम हैं। यही है, सिस्टम उन पत्रों के अनुरूप न्यूरॉन्स द्वारा सक्रियण भेजेगा। यदि पत्र दोनों शब्दों में पाया जाता है, तो इसे याद रखना चाहिए। ऐसा करने के लिए, स्मृति को आधे बल के साथ होने दें। यदि न्यूरॉन की सक्रियता सीमा टी है, तो स्मृति श्रृंखला को कार्रवाई क्षमता का 0.5 टी भेजना चाहिए। तब सक्रियता सीमा केवल तभी पार की जाएगी जबजब लक्षण दोनों जंजीरों में मिले। इसके बाद, लक्षण सक्रिय हो जाता है। फिर आप पिछले लेख के कोड के साथ मेमोराइजेशन के सामान्य एल्गोरिदम का उपयोग कर सकते हैं - हिप्पोकैम्पस स्मृति की एक श्रृंखला बनाएगा, यह उन संकेतों को बताएगा जो दोनों श्रृंखलाओं के लिए सामान्य थे। हमने पिछले एक के समाधान को कम कर दिया।
ईएनएस (प्राकृतिक एनएस) में, "आधा सक्रियण" भेजने के समय (स्पाइक्स की संख्या अलग-अलग), न्यूरोट्रांसमीटर की संख्या, या शायद निरोधात्मक कनेक्शन (0.5T में 1T चालू करने के लिए) का उपयोग करके अलग-अलग किया जा सकता है।
सबटैक 1 कुछ अधिक जटिल है, क्योंकि इसे फजी मान्यता के साथ काम करना चाहिए। यही है, भले ही श्रृंखला में केवल कुछ सामान्य संकेत हैं जो श्रृंखला के बीच में कहीं खो गए हैं, फिर भी आपको इस स्थिति पर ध्यान देना चाहिए। मुझे आपको याद दिलाना है कि, अपेक्षाकृत बोल, न्यूरॉन्स तीन मोड में हो सकते हैं - बाकी, एक एकल संकेत भेजना, और उच्च आवृत्ति सक्रियण मोड। यह स्वीकार किया जा सकता है कि "पूर्ण मान्यता" न्यूरॉन के संक्रमण को उच्च-आवृत्ति सक्रियण मोड में ले जाती है, और फ़ज़ी मान्यता एकल सिग्नल ट्रांसमिशन की ओर ले जाती है। या हम यह मान सकते हैं कि न्यूरोक्लस्टर में विशेष न्यूरॉन्स होंगे, जिनमें से कुछ केवल पूर्ण संयोग और आत्मविश्वास की मान्यता के साथ काम करेंगे, और अन्य न्यूरॉन काम करेंगे यदि केवल विशेषताओं के हिस्से को मान्यता दी जाती है। कई समाधान हैं, मुख्य बात यह है कि किसी तरह वांछित समूहों पर सक्रियण की उपस्थिति को नोटिस करें।

कब करना है

सवाल यह है कि ऐसी खोज करने का समय क्या है। कई दृष्टिकोण हो सकते हैं:
1) एक विशेष नींद मोड - अधिक सटीक, "धीमी नींद"। सिस्टम उन सभी घटनाओं से गुजरता है जो एक दिन में सीखी, और अपनी अन्य यादों के साथ मैचों की तलाश में है। इस मामले में, सिस्टम मेमोरी का उपयोग करता है - एक अवरोही श्रृंखला में भेज रहा है, फिर संकेतों के न्यूरॉन्स के लिए संकेत "अप" अन्य यादों को पहले से ही भेजने के लिए समय देता है। जिसके बाद वह उन यादों को सारांशित करता है और खोजता है जिनमें कुल सक्रियता की सबसे बड़ी मात्रा होती है। फिर वह इनमें से किसी एक स्थान का चयन करता है और उपमा 2 लॉन्च करता है - "श्रृंखला का चयन करें"।
2) एक विशेष नींद के बिना। प्रणाली धारणा के दौरान, मक्खी पर एक खोज का संचालन कर सकती है - और वर्तमान स्थिति क्या दिखती है? दरअसल, न्यूरॉन्स द्वारा संकेतों को भेजने के कारण सामान्य सोच के दौरान खोज स्वचालित रूप से होती है, सिस्टम केवल उन यादों पर ध्यान दे सकता है जो वर्तमान स्थिति के साथ बहुत कुछ है, और यदि आवश्यक हो, तो विश्लेषण चलाएं - सामान्य उप-श्रृंखला का चयन करें।

इसी तरह के एल्गोरिदम

ये एल्गोरिदम सरल लगते हैं, लेकिन इनमें बहुत सारी सूक्ष्मताएं होती हैं, यहां तक कि त्वरित सॉर्ट एल्गोरिथ्म की तुलना में भी अधिक, जो कि आप जानते हैं, त्रुटियों के बिना लंबे समय तक नहीं लिखा जा सकता है।
यह कार्य ज्ञात कार्यों के समान है, उदाहरण के लिए, सामान्य डीएनए परवर्ती की खोज। प्रत्येक चरण में केवल डीएनए में केवल एक न्यूक्लियोटाइड हो सकता है, और प्रत्येक टाइमस्टैम्प के लिए तंत्रिका नेटवर्क में एक मनमाना संख्या में वर्ण हो सकते हैं। इसलिए, यह कार्य डीएनए खोज की तुलना में अधिक सामान्य मामला है। यदि आप मौजूदा एल्गोरिदम को स्थानांतरित करने की कोशिश करते हैं और तंत्रिका नेटवर्क के बिना "लोफोल" समस्या को हल करते हैं, तो संकेतों की सूचियों में हेरफेर करके, फिर आपका सिर घूमने लगता है - ये सभी नेस्टेड मैचों की सूची, मैचों के क्रम की सूची, अन्य प्रश्न। न्यूरॉन्स को सक्रियण भेजकर इस समस्या का समाधान करना बहुत सरल है - न्यूरॉन्स पहले से मौजूद हैं, वे सब कुछ स्वचालित रूप से करते हैं, उनकी स्मृति पहले से ही आवंटित है, कोई नेस्टेड सूचियों की आवश्यकता नहीं है, यह केवल कुछ न्यूरॉन्स का विश्लेषण करने और आवश्यक एल्गोरिदम चलाने के लिए बनी हुई है।
मैं क्रमशः एक और दो अग्रणी श्रृंखलाओं के साथ 1 और 2 मोड को उप-मास्क कहता हूं। यही है, "मेमोरी चेन में कितने सक्रिय अवरोही न्यूरॉन्स मैचों को उजागर करने के प्रयास में संकेत भेजते हैं।" यदि केवल एक ऐसी रिकॉल चेन है, तो वह सत्यापन के लिए दूसरे उम्मीदवार की तलाश कर रही है। और अगर उम्मीदवार पहले से ही पाया गया है, तो आप उसे सक्रिय कर सकते हैं और संकेतों को उजागर करना शुरू कर सकते हैं। इस तरह के नाम - "1 या 2 प्रमुख श्रृंखलाएं" - "सबटैक 1 या 2" के बजाय नाम से इन एल्गोरिदम को संदर्भित करना संभव होगा। एक अग्रणी श्रृंखला वाले मोड को "संयोग खोज मोड" भी कहा जा सकता है, और 2 प्रमुख श्रृंखलाओं को संयोग हाइलाइटिंग मोड कहा जा सकता है।

मैचों के लिए खोजें ...

(1 out, 1 अग्रणी श्रृंखला) को निम्नलिखित तरीकों से किया जा सकता है:
1) दिन के दौरान मिलने वाली सभी यादों को रैखिक रूप से देखें। डिबगिंग उद्देश्यों के लिए इस मोड में संक्रमण निम्नानुसार किया जा सकता है: एक विशेष यूनिकोड वर्ण या एक विशेष शब्द एएनएन के लिए इनपुट डेटा के परीक्षण सेट में डाला गया है; पढ़ने पर, एएनएन "धीमी नींद" मोड पर स्विच करेगा और मैचों की खोज करना शुरू कर देगा। अर्थ यह है - उन्होंने एएनएन को वास्तविक डेटा से भर दिया, सामान्यीकरण की खोज के लिए एल्गोरिदम को डीबग करना शुरू कर दिया।
2) एक रेखीय खोज का उपयोग नहीं करने के लिए, लेकिन सबसे दिलचस्प स्थितियों के साथ विश्लेषण शुरू करने के लिए - उन लोगों के साथ जिनमें सबसे बड़ा भावनात्मक रंग था। इस अनुकूलन की आवश्यकता है, क्योंकि ये एल्गोरिदम बहुत ही प्रचंड हैं। चूहों में, ऐसा लगता है कि जो दिन था उसका स्मरण केवल दिन के दौरान की तुलना में लगभग 10 गुना तेज होता है। नींद जागने से कम समय लेती है। इसलिए, सभी यादों में समय के समान वितरण के साथ, प्रत्येक मेमोरी को केवल कुछ समान स्थितियों की तुलना करने में कामयाब किया जा सकता है, जिनमें से अधिकांश बकवास और नगण्य संयोग होंगे। इसलिए, सबसे महत्वपूर्ण पर ध्यान केंद्रित करना फायदेमंद है, और इसके साथ काम करना शुरू करें। हम कह सकते हैं कि एल्गोरिथ्म एक और कदम जोड़ता है - 0 अग्रणी श्रृंखला, इस कदम पर सिस्टम को अधिकतम महत्व के साथ स्मृति में अगले घटना का चयन करना चाहिए,और इसे अगले चरण पर पास करें - इसे मैच खोजने के लिए लीड चेन बनाएं।
3) जागने के समय से सेरिफ़्स बनाना संभव है - सबसे दिलचस्प स्थानों के लिए पूर्व-बनाएं कनेक्शन जो रात में तुलना करने की आवश्यकता होगी।
संयोगों के साथ चयनित श्रृंखलाओं को याद किया जाता है, लेकिन भविष्य में उन्हें भुलाया जा सकता है यदि उनका महत्व समय के साथ बढ़ता है।

भूल

भूल जाने के कारण न्यूरोक्लास्टर को हटा दिया जाता है - निष्कासन ऑपरेशन, न्यूएनसी ऑपरेशन का विलोम। ईएनएस में, न्यूरॉन्स कहीं भी नहीं जाएंगे, वे नहीं मरेंगे, उनके कनेक्शन बस इस हद तक कमजोर हो जाएंगे कि वे अब उनके संकेतों पर प्रतिक्रिया नहीं करेंगे, और एक अन्य संयोजन को याद करने के लिए पुनरावृत्ति के लिए तैयार होंगे। हमारे मॉडल में, ऐसे न्यूरॉन्स को संग्रहीत करने की आवश्यकता नहीं है, उन्हें तुरंत हटा दिया जा सकता है - यह एएनएन के संचालन को गति देगा, मेमोरी की खपत को कम करेगा, और डिबगिंग को सरल करेगा। यह आपको परिमाण के एक क्रम से मेमोरी खपत की आवश्यकताओं को कम करने की अनुमति देता है।

साथ में चलाना

1 से to 2, मोड में संक्रमण करने के लिए, सबसे पहले मैंने नियंत्रण न्यूरॉन्स बनाने की कोशिश की, जो सिग्नल स्विचिंग, विश्लेषण और मोड परिवर्तन का उत्पादन करते थे। लेकिन तब मुझे यह काम बहुत निम्न-स्तर का लगा और यह अनिवार्य सी ++ कोड - कोड लिखना शुरू कर दिया, जैसे "सभी समूहों के माध्यम से चलना, उनका विश्लेषण करना, जिसको आपकी ज़रूरत है उसे चुनें, ऑपरेटिंग मोड को बदलने के बारे में सोचें"।
ऐसी प्रणाली के प्रदर्शन का सवाल: यदि आप न्यूरॉन्स हार्डवेयर बनाते हैं, तो आप उन्हें समानांतर कर सकते हैं (हां, कम से कम वीडियो कार्ड पर)। फिर क्लस्टर के अंदर न्यूरॉन्स और कनेक्शन को नियंत्रित करने वाला कोड आसानी से और स्वचालित रूप से समानांतर हो जाता है (यह सिर्फ एक सक्रियण पैकेज है जिसे कार्य की स्थितियों के अनुसार समानांतर किया जाता है), लेकिन अनिवार्य C ++ कोड को प्रत्येक बार स्वतंत्र रूप से समानांतर करना होगा। इसलिए, छोटे एकल-थ्रेडेड न्यूरल नेटवर्क के लिए, C ++ कोड लिखना आसान है, और बड़े पैमाने पर समानांतर ANN के लिए, यह काम ANN के अंदर ही न्यूरॉन्स के कंधों और उनके बीच के कनेक्शन को स्थानांतरित करना बेहतर है। हमें यह नहीं भूलना चाहिए कि हार्डवेयर ANN O (1) के दृष्टिकोण से C ++ में "सभी न्यूरॉन्स के माध्यम से चक्र" या "C सभी न्यूरोलॉकरों के माध्यम से चक्र" सक्रियण भेजने का एक चरण है। इसलिए इसे देखा जा सकता हैआदर्श रूप से समानांतर ANN के लिए 1VTs और 2VTs (अग्रणी श्रृंखला) दोनों एक ही कम्प्यूटेशनल जटिलता है।

निरंतरता: एएनएन में आदिम पूर्वानुमान

स्पिन-ऑफ 2 सोचने का तर्क: कुछ चेनिंग एल्गोरिदम