डिमांस्ट्रिफ़िंग कन्वर्सेशनल न्यूरल नेटवर्क्स का अनुवाद।


संवादी तंत्रिका नेटवर्क।

पिछले एक दशक में, हमने कंप्यूटर दृष्टि में अद्भुत और अभूतपूर्व प्रगति देखी है। आज, कंप्यूटर 98% की सटीकता के साथ वीडियो की छवियों और फ़्रेम में वस्तुओं को पहचान सकता है, पहले से ही 97% के साथ एक व्यक्ति से आगे है। यह मानव मस्तिष्क का कार्य था जिसने डेवलपर्स को मान्यता तकनीक बनाने और सुधारने के लिए प्रेरित किया।

एक बार न्यूरोलॉजिस्ट ने बिल्लियों पर प्रयोग किए और पाया कि छवि के समान भाग बिल्ली के मस्तिष्क के समान भागों को सक्रिय करते हैं। यही है, जब बिल्ली सर्कल को देखती है, तो अल्फा ज़ोन उसके मस्तिष्क में सक्रिय होता है, और जब वह वर्ग को देखता है, तो बीटा ज़ोन सक्रिय होता है। शोधकर्ताओं ने निष्कर्ष निकाला कि जानवरों के मस्तिष्क में न्यूरॉन्स के क्षेत्र होते हैं जो छवि की विशिष्ट विशेषताओं का जवाब देते हैं। दूसरे शब्दों में, जानवर मस्तिष्क की बहुपरत तंत्रिका वास्तुकला के माध्यम से पर्यावरण का अनुभव करते हैं। और प्रत्येक दृश्य, प्रत्येक छवि संकेतों के चयन के एक अजीब ब्लॉक से गुजरती है, और उसके बाद ही यह मस्तिष्क की गहरी संरचनाओं में प्रसारित होती है।

इससे प्रेरित होकर, गणितज्ञों ने एक प्रणाली विकसित की है जिसमें न्यूरॉन्स के समूहों का अनुकरण किया जाता है जो विभिन्न छवि गुणों पर काम करते हैं और एक दूसरे के साथ बातचीत करके एक आम तस्वीर बनाते हैं।

पुनः प्राप्त करने के गुण

विशिष्ट इनपुट डेटा के साथ आपूर्ति किए गए सक्रिय न्यूरॉन्स के एक समूह का विचार एक बहुआयामी मैट्रिक्स की गणितीय अभिव्यक्ति में बदल गया था जो गुणों के एक सेट के निर्धारक की भूमिका निभाता है - इसे फ़िल्टर या कर्नेल कहा जाता है। प्रत्येक ऐसा फ़िल्टर छवि में कुछ ख़ासियत के लिए दिखता है। उदाहरण के लिए, सीमाओं को निर्धारित करने के लिए एक फ़िल्टर हो सकता है। फिर पाए जाने वाले गुणों को फ़िल्टर के दूसरे सेट में स्थानांतरित किया जाता है जो छवि के उच्च-स्तरीय गुणों को निर्धारित कर सकते हैं, उदाहरण के लिए, आँखें, नाक, आदि।


सीमाओं को निर्धारित करने के लिए लाप्लास फिल्टर का उपयोग करके छवि का रूपांतरण।

गणित की दृष्टि से, इनपुट छवि के बीच, पिक्सेल तीव्रता और फिल्टर के मैट्रिक्स के रूप में प्रस्तुत किया गया है, हम एक कन्वोकेशन ऑपरेशन करते हैं, जिसके परिणामस्वरूप एक तथाकथित संपत्ति मानचित्र (फीचर मैप) होता है। यह मानचित्र अगली फ़िल्टर परत के इनपुट के रूप में काम करेगा।

सजा क्यों?

वार्तालाप एक ऐसी प्रक्रिया है जिसमें नेटवर्क इनपुट सिग्नल को पहले से ज्ञात जानकारी के साथ तुलना करके चिह्नित करने का प्रयास करता है। यदि इनपुट सिग्नल बिल्लियों के पिछले चित्रों की तरह दिखता है, पहले से ही ज्ञात नेटवर्क, तो संदर्भ सिग्नल "बिल्ली" को इनपुट सिग्नल के साथ - मिश्रित - कम से कम किया जाएगा। परिणामी संकेत अगली परत को प्रेषित होता है। इस स्थिति में, इनपुट सिग्नल का अर्थ है आरजीबी पिक्सल की तीव्रता के रूप में चित्र का त्रि-आयामी प्रतिनिधित्व, और संदर्भ संकेत "बिल्ली" को बिल्ली को पहचानने के लिए सीखा जाता है।


इमेज कन्वोकेशन ऑपरेशन और फिल्टर। स्रोत ।

कन्वेंशन ऑपरेशन में एक उत्कृष्ट संपत्ति है - अनुवाद अपरिवर्तनीय। इसका मतलब यह है कि प्रत्येक कनवल्शन फिल्टर गुणों का एक निश्चित समूह दर्शाता है, उदाहरण के लिए, आंखें, कान, आदि, और दृढ़ तंत्रिका नेटवर्क एल्गोरिथ्म यह निर्धारित करने के लिए सीखता है कि गुणों का कौन सा सेट बिल्ली के संदर्भ से मेल खाता है। आउटपुट सिग्नल की तीव्रता गुणों के स्थान पर नहीं, बल्कि उनकी उपस्थिति पर निर्भर करती है। इसलिए, बिल्ली को विभिन्न पोज़ में चित्रित किया जा सकता है, लेकिन एल्गोरिथ्म अभी भी इसे पहचान सकता है।

पूलिंग (पूलिंग)

जैविक मस्तिष्क के सिद्धांत का पालन करके, वैज्ञानिक गुणों को निकालने के लिए एक गणितीय उपकरण विकसित करने में सक्षम थे। लेकिन परतों और गुणों की कुल संख्या का मूल्यांकन करने के बाद जटिल ज्यामितीय आकृतियों को ट्रैक करने के लिए विश्लेषण करने की आवश्यकता होती है, वैज्ञानिकों ने महसूस किया कि सभी डेटा को संग्रहीत करने के लिए कंप्यूटर में पर्याप्त मेमोरी नहीं होगी। इसके अलावा, आवश्यक कंप्यूटिंग संसाधनों की मात्रा गुणों की संख्या में वृद्धि के साथ तेजी से बढ़ती है। इस समस्या को हल करने के लिए, एक पूलिंग तकनीक विकसित की गई थी। उसका विचार बहुत सरल है: यदि एक निश्चित क्षेत्र में स्पष्ट गुण होते हैं, तो हम इस क्षेत्र में अन्य गुणों की खोज करने से इनकार कर सकते हैं।


अधिकतम मूल्य को पूल करने का उदाहरण।

पूलिंग ऑपरेशन न केवल मेमोरी और प्रोसेसिंग पावर को बचाता है, बल्कि छवियों को शोर से साफ करने में भी मदद करता है।

पूरी तरह से बंधी हुई परत

ठीक है, एक तंत्रिका नेटवर्क क्यों काम में आएगा यदि यह केवल छवि गुणों के सेट को परिभाषित कर सकता है? हमें किसी तरह उसे छवियों को वर्गीकृत करने के लिए कैसे सिखाने की जरूरत है। और तंत्रिका नेटवर्क के गठन के लिए पारंपरिक दृष्टिकोण हमें इसमें मदद करेगा। विशेष रूप से, पिछली परतों पर प्राप्त संपत्ति के नक्शे को एक परत में एकत्र किया जा सकता है जो पूरी तरह से उन सभी लेबलों से जुड़ा होता है जिन्हें हमने वर्गीकरण के लिए तैयार किया था। यह अंतिम परत प्रत्येक वर्ग के मिलान की संभावनाओं को बताएगी। और इन अंतिम संभावनाओं के आधार पर, हम छवि को कुछ श्रेणी में रख सकते हैं।


पूरी तरह से बंधी हुई परत। स्रोत ।

अंतिम वास्तुकला

अब यह केवल नेटवर्क द्वारा अध्ययन किए गए सभी अवधारणाओं को एक ही ढांचे में संयोजित करने के लिए बना हुआ है - दृढ़-तंत्रिका तंत्रिका नेटवर्क (कन्वेंशन न्यूरल नेटवर्क, सीएनएन)। CNN में ऐसी संश्लिष्ट परतें होती हैं, जिन्हें किसी भी वर्ग से मेल खाने की संभावनाओं को निर्धारित करने के लिए पूरी तरह से जुड़ी हुई परतों के लिए पास की गई संपत्ति का नक्शा बनाने के लिए पूलिंग परतों के साथ जोड़ा जा सकता है। हमें प्राप्त होने वाली त्रुटियों को वापस लाते हुए, हम इस तंत्रिका नेटवर्क को सटीक परिणाम प्राप्त करने के लिए प्रशिक्षित कर सकते हैं।

अब जब हम CNN के कार्यात्मक दृष्टिकोण को समझते हैं, तो चलिए CNN के उपयोग के पहलुओं पर एक नज़र डालते हैं।

संवादी तंत्रिका नेटवर्क

संवादी परत।

कन्वेन्शन लेयर CNN का मुख्य बिल्डिंग ब्लॉक है। ऐसी प्रत्येक परत में स्वतंत्र फ़िल्टर का एक सेट शामिल है, जिनमें से प्रत्येक आने वाली छवि में गुणों के अपने सेट की तलाश में है।


कनवल्शन ऑपरेशन। स्रोत ।

गणित के दृष्टिकोण से, हम एक निश्चित आकार का एक फ़िल्टर लेते हैं, इसे छवि पर सुपरइमोज़ करते हैं और फ़िल्टर के स्केलर उत्पाद और इनपुट छवि के एक टुकड़े की गणना करते हैं। काम के परिणाम अंतिम संपत्ति के नक्शे में रखे गए हैं। फिर हम फ़िल्टर को दाईं ओर ले जाते हैं और ऑपरेशन को दोहराते हैं, साथ ही संपत्ति के नक्शे में गणना का परिणाम जोड़ते हैं। एक फिल्टर की मदद से पूरी छवि को समझाने के बाद, हमें एक संपत्ति का नक्शा मिलता है, जो स्पष्ट संकेतों का एक सेट है और इसे अगली परत के इनपुट के रूप में खिलाया जाता है।

स्ट्राइड

स्ट्राइड फिल्टर ऑफसेट की मात्रा है। उपरोक्त चित्रण में, हम फ़िल्टर को 1. के कारक से स्थानांतरित करते हैं लेकिन कभी-कभी आपको ऑफसेट के आकार को बढ़ाने की आवश्यकता होती है। उदाहरण के लिए, यदि पड़ोसी पिक्सेल दृढ़ता से एक दूसरे के साथ सहसंबंधित होते हैं (विशेषकर निचली परतों पर), तो यह उचित स्ट्राइड का उपयोग करके आउटपुट के आकार को कम करने के लिए समझ में आता है। लेकिन अगर स्ट्राइड को बहुत बड़ा बना दिया जाता है, तो बहुत सारी जानकारी खो जाएगी, इसलिए सावधान रहें।


स्ट्राइड 2. सोर्स ।

पुडिंग

पैडिंग सिंगल लेयर। स्रोत ।

स्ट्राइडिंग के साइड इफेक्ट्स में से एक संपत्ति के नक्शे में लगातार कमी है क्योंकि अधिक से अधिक नए संकल्प किए जाते हैं। यह "कमी" के बाद से अवांछनीय हो सकता है अर्थात जानकारी का नुकसान। इसे स्पष्ट करने के लिए, मध्य और कोने में सेल पर फ़िल्टर को लागू करने की संख्या पर ध्यान दें। यह पता चला है कि बिना किसी कारण के मध्य भाग की जानकारी किनारों पर अधिक महत्वपूर्ण है। और पहले की परतों से उपयोगी जानकारी निकालने के लिए, आप मैट्रिक्स को शून्य की परतों से घेर सकते हैं।

पैरामीटर साझा करना

यदि हमें पहले से ही अच्छे से अच्छे तंत्रिका नेटवर्क हैं, तो हमें प्रासंगिक नेटवर्क की आवश्यकता क्यों है? यह उल्लेखनीय है कि यदि हम छवियों को वर्गीकृत करने के लिए गहन शिक्षण नेटवर्क का उपयोग करते हैं, तो प्रत्येक परत पर मापदंडों की संख्या, संवेदी तंत्रिका नेटवर्क की तुलना में एक हजार गुना अधिक होगी।


एक जटिल तंत्रिका नेटवर्क में मापदंडों को साझा करना।