अलग-अलग प्रोग्रामिंग

चार मापदंडों के साथ, मैं एक हाथी से पूछ सकता हूं, और पांच के साथ मैं उसे अपने ट्रंक को स्थानांतरित कर सकता हूं।
- जॉन वॉन न्यूमैन

मशीन लर्निंग की दुनिया में " विभेदी प्रोग्रामिंग " का विचार बहुत लोकप्रिय है। कई लोगों के लिए, यह स्पष्ट नहीं है कि क्या यह शब्द एक वास्तविक बदलाव को दर्शाता है कि कैसे शोधकर्ता मशीन लर्निंग को समझते हैं, या यह सिर्फ (एक और) "गहरी सीखने" की रीब्रांडिंग है। यह पोस्ट बताती है कि मशीन लर्निंग टेबल में क्या नया विभेदित प्रोग्रामिंग (या inP) है।

सबसे महत्वपूर्ण बात, विभेदित प्रोग्रामिंग गहरी सीखने की दिशा के विपरीत बदलाव है; तेजी से पैरामीटर वाले मॉडल से सरल मॉडल जो समस्या संरचना का अधिक से अधिक उपयोग करते हैं।

अगला, हम निर्बाध पाठ के कैनवास के माध्यम से फ्लिप करते हैं, हम यह पता लगाना चाहते हैं कि ऑटो-भेदभाव क्या है, और यहां तक ​​कि इसे गुलेल से भी आबाद करें!

लाभ के साथ क्रूर बल

विभिन्नता एक मूल विचार है जो गहरी शिक्षा को इतना सफल बनाता है। जहां कई सौ मॉडल मापदंडों के लिए भी ब्रूट फोर्स की खोज बहुत महंगी होगी, ग्रेडिएंट पैरामीटर स्पेस के दिलचस्प हिस्सों के छद्म आयामी ट्रैवर्सल की अनुमति देते हैं और एक अच्छा सेट पाते हैं। ऐसा प्रतीत होता है कि भोली-भाली एल्गोरिथ्म का प्रदर्शन करते हुए, हम अच्छी व्यापकता प्राप्त करते हैं, लेकिन यह स्पष्ट है कि हमें भाषा अनुवाद में अनुक्रमों के साथ काम करके, अंतर करने की आवश्यकता है, लेकिन सब कुछ सरल हो जाता है, हम थोड़ी सरलता दिखाते हैं।

जैविक न्यूरॉन्स और के बारे में क्या $$$y = $ (W \ गुना x + b)$ ? इस सूत्र के बारे में कुछ खास नहीं है; यह एक अत्यधिक पैरामीट्रिक गैर-रैखिक फ़ंक्शन का एक सरल और लचीला उदाहरण है। वास्तव में, यह ज्यादातर मामलों में सबसे खराब विशेषता है। तंत्रिका नेटवर्क की एक परत, सिद्धांत रूप में, बिल्लियों की छवियों को वर्गीकृत कर सकती है, लेकिन केवल अपेक्षाकृत निर्बाध चाल का उपयोग करके। यह निर्दोष रूप से काम करता है! - लेकिन छोटा प्रिंट चेतावनी देता है कि आपको ब्रह्मांड में परमाणुओं की तुलना में अधिक मापदंडों की आवश्यकता हो सकती है। वास्तव में इस काम को करने के लिए, आपको मॉडल में समस्याग्रस्त संरचना को कोड करने की आवश्यकता है - यह वह जगह है जहां यह पारंपरिक प्रोग्रामिंग की तरह अधिक दिखना शुरू होता है।

उदाहरण के लिए, कन्वर्नेट को पर्सेप्ट्रॉन पर एक बड़ा फायदा होता है, क्योंकि वे छवि कर्नेल के साथ काम करते हैं, जो अनुवाद इनवेरियन का उपयोग करने के लिए जाने जाते हैं। चेहरा - यह चेहरा है, चाहे वह छवि के ऊपरी बाएं कोने में या केंद्र में प्रदर्शित किया गया हो, लेकिन जहां परसेप्ट्रॉन को प्रत्येक मामले में इस मामले का अध्ययन करना चाहिए, कर्नेल तुरंत छवि के किसी भी हिस्से पर प्रतिक्रिया कर सकता है। सांख्यिकीय संदर्भों में दृढ़ नेटवर्क का विश्लेषण करना मुश्किल है, लेकिन छवि प्रसंस्करण विशेषज्ञों ने हाथ से जो लिखा है, उसका स्वत: संस्करण के रूप में विचार करना बहुत आसान है। छवि का कर्नेल पहला और सबसे आसान विभेदी कार्यक्रम है।

एन्कोडिंग संरचना, Redux

एमएल टूलकिट एल्गोरिदमिक भेदभाव (AD) का तेजी से समर्थन कर रहे हैं, जो हमें लूप, शाखाओं, और पुनरावर्तन का उपयोग करके मॉडल को अलग करने की अनुमति देता है - या विभिन्न गणितीय प्राइमेटिव के सेट पर निर्मित किसी भी कार्यक्रम। इसने अधिक जटिल वास्तुकला का नेतृत्व किया: एनएलपी मॉडल स्टैक-संवर्धित मॉडल के साथ क्लासिक व्याकरण पार्सर की तरह अधिक से अधिक हैं, और आप एक ट्यूरिंग मशीन या प्रोग्रामिंग भाषा दुभाषिया के एनालॉग को भी अलग कर सकते हैं ।

विभेदित प्रोग्रामिंग द्वारा उठाया गया अंतिम चरण अब मैट्रिक्स गुणन, दृढ़ संकल्प और आरएनएन को गहन शिक्षण के मौलिक निर्माण खंड के रूप में नहीं, बल्कि केवल विशेष मामलों के रूप में माना जाता है। हम किसी भी मानकीकृत विभेदी कार्य के लिए गहन शिक्षण विधियाँ लागू कर सकते हैं $$$च (x)$ । फिजिकल सिमुलेटर या किरण ट्रेसर के रूप में जटिल कार्य को भी विभेदित और अनुकूलित किया जा सकता है। यहां तक ​​कि क्वांटम कंप्यूटिंग भी इस संरचना में फिट हो सकती है।

वैज्ञानिकों ने लंबे समय तक यंत्रवत मॉडल का उपयोग किया है जो स्पष्ट प्रोग्रामिंग और मशीन सीखने के बीच स्थित है। भौतिकी, महामारी विज्ञान या फार्माकोडायनामिक्स में उपयोग किए जाने वाले मुक्त मापदंडों के साथ विभेदक समीकरण शब्दावली को छोड़कर हर चीज में तंत्रिका नेटवर्क के बराबर हैं। वे बस अधिक संकीर्ण कार्यक्षमता प्रदान करने का लक्ष्य रखते हैं, क्योंकि यह बहुत सरल है।

वास्तव में शक्तिशाली प्रगति यह है: व्यापक भिन्नता का अर्थ है कि ये सभी विधियां लेगो ईंटों की तरह एक साथ जुड़ती हैं।
हमेशा एमएल के लिए नए प्रोग्राम लिखने के बजाय, हम मौजूदा कार्यक्रमों का पुन: उपयोग कर सकते हैं, जो कि डीप लर्निंग रोबोटिक्स मॉडल में भौतिक इंजनों का उपयोग करते हैं । जहां आधुनिक सुदृढीकरण सीखने के एल्गोरिदम को केवल बाहरी दुनिया के एक विस्तृत मॉडल का निर्माण करने की आवश्यकता होती है, केवल इस आधार पर कि उन्हें ( ब्रूट फ़ोर्स जैसी आवाज़) के लिए पुरस्कृत किया जाएगा, हम इसके बजाय सीखने शुरू होने से पहले भौतिक प्रणालियों के विस्तृत, सटीक ज्ञान को लागू कर सकते हैं।

यहां तक ​​कि गहरी सीखने के सबसे परिपक्व क्षेत्र अलग नहीं खड़े होते हैं; दृढ़ संकल्प कर्नेल के बाद, छवि मॉडल के लिए अगला अगला चरण एक अलग-अलग किरण अनुरेखक है । 3 डी रेंडरिंग में पिक्सेल में दृश्यों को कैसे प्रदर्शित किया जाता है, इसके बारे में बहुत अधिक संरचनात्मक ज्ञान है, जो अभी भी हमारी रसोई में एक भूमिका निभाएगा। मान लीजिए कि एक मॉडल पिक्सेल के रूप में प्रदर्शित एक नकली वातावरण में निर्णय लेता है, जिसे मॉडल इनपुट के रूप में उपयोग करता है। सिद्धांत रूप में, अब हम पूरे चक्र को अलग-अलग बना सकते हैं, जो हमें सीधे मॉडल के निर्णयों पर पर्यावरण के प्रभाव को देखने की अनुमति देगा और इसके विपरीत। यह प्रशिक्षण मॉडल के लिए एक यथार्थवादी नकली वातावरण की शक्ति को काफी बढ़ा सकता है, जैसे कि स्वचालित ड्राइविंग वाली कारें।

जैसा कि विज्ञान में, हाइब्रिड मॉडल अधिक कुशल हो सकते हैं और गहन सीखने और स्पष्ट प्रोग्रामिंग के बीच कुछ ट्रेडऑफ़ को हल करते हैं। उदाहरण के लिए, एक ड्रोन उड़ान पथ योजनाकार में एक तंत्रिका नेटवर्क घटक हो सकता है जो केवल एक विश्वसनीय स्पष्ट कार्यक्रम में थोड़ा सुधारात्मक परिवर्तन कर सकता है, जिससे इसके समग्र व्यवहार का विश्लेषण किया जा सकता है, जबकि अनुभवजन्य डेटा के लिए अनुकूल है। यह व्याख्या करने के लिए भी अच्छा है: यंत्रवत मॉडल और सिमुलेशन के मापदंडों में आमतौर पर स्पष्ट भौतिक व्याख्याएं होती हैं, इसलिए यदि मॉडल अंदर के मापदंडों का मूल्यांकन करता है, तो यह इस बारे में स्पष्ट बयान देता है कि इसकी राय में, बाहर क्या होता है।

यदि यह सब इतना अद्भुत है, तो हर किसी ने अंतर करने के लिए सीखने को क्यों नहीं छोड़ा? दुर्भाग्य से, मौजूदा रूपरेखाओं की सीमाएं इस तरह की जटिलता के मॉडल का निर्माण करना मुश्किल बनाती हैं, और मौजूदा वैज्ञानिक कोड में एम्बेडेड ज्ञान के धन का पुन: उपयोग करना असंभव है। बहुत सीमित मॉडलिंग भाषा में स्क्रैच से भौतिक इंजनों को फिर से लागू करने की आवश्यकता एक दस-वर्षीय स्क्रिप्ट को एक बहु-वर्षीय अनुसंधान परियोजना में बदल देती है। लेकिन भाषा और संकलन प्रौद्योगिकी में प्रगति, विशेष रूप से स्वचालित भेदभाव , हमें पवित्र कंघी बनानेवाले की रेती के करीब लाती है: "कृपया मेरे गेम इंजन को अलग करें, कृपया।"

तो विभेदित प्रोग्रामिंग क्या है?

विभेदित प्रोग्रामिंग आपको जटिल मौजूदा कार्यक्रमों के लिए गहन सीखने के तरीकों को लागू करने की अनुमति देता है, उनके साथ पुन: उपयोग कर उनमें भारी मात्रा में ज्ञान अंतर्निहित होता है। डीप लर्निंग, स्टैटिस्टिक्स, प्रोग्रामिंग और साइंस - वह सब कुछ जो हमारे चारों ओर की दुनिया में मॉडलिंग में अपनी बात कहने की कोशिश करता है - इसे गठबंधन करने का समय है, एक हैड्रोन कोलाइडर में कणों की तरह एक साथ धकेलता है। यह दोनों वर्तमान मॉडल में सुधार करेगा और एमएल को उन क्षेत्रों में लागू करने की अनुमति देगा जहां इसकी वर्तमान सीमाएं - या तो व्याख्यात्मकता या कम्प्यूटेशनल और डेटा आवश्यकताएं हैं - उन्हें व्यक्तिगत रूप से लागू नहीं करें।

विभिन्न प्रबंधन मुद्दे

अगला, हम दिखाते हैं कि भिन्नता कुछ सरल लेकिन क्लासिक प्रबंधन कार्यों को ला सकती है, जिसमें हम आमतौर पर ब्लैक बॉक्स के रूप में सुदृढीकरण सीखना (आरएल) का उपयोग करते हैं। विभिन्न मॉडल (modelsP मॉडल) न केवल बहुत अधिक प्रभावी नियंत्रण रणनीतियों को प्रकट करते हैं, बल्कि तीव्रता के कई आदेश भी सीखते हैं। कोड अध्ययन के लिए उपलब्ध है - ज्यादातर मामलों में, यह किसी भी लैपटॉप पर कुछ सेकंड में सीखता है।

ढाल का पालन करें

भेदभाव वह है जो गहन सीखने के लगभग हर चरण में प्रेरक शक्ति है; इस समारोह के लिए $$$य = च (x)$ हम ढाल का उपयोग करते हैं $$$\ frac {डाई} {dx}$ यह जानने के लिए कि x में परिवर्तन y को कैसे प्रभावित करेगा। गणितीय प्रकृति के बावजूद, ग्रेडिएंट वास्तव में एक बहुत ही सामान्य और सहज अवधारणा है। उन सूत्रों को भूल जाइए जिन्हें आपको स्कूल में देखना था; चलो कुछ और मज़ेदार करते हैं, जैसे कि किसी परवलयिक पथ के साथ कुछ फेंकना।

जब हम तीन-शॉट की मदद से प्रोजेक्टाइल फेंकते हैं, तो हमारा x (इनपुट) सेटिंग (प्रतिरूप का आकार या अस्वीकृति का कोण) का प्रतिनिधित्व करता है, और y दूरी है जो लैंडिंग से पहले प्रक्षेप्य यात्रा करता है। यदि आप लक्ष्य बनाने की कोशिश कर रहे हैं, तो ढाल आपको कुछ उपयोगी बताता है - एक निश्चित पैरामीटर को बढ़ाता या घटाता है। दूरी को अधिकतम करने के लिए, बस ढाल का पालन करें।

ठीक है, लेकिन हमें सही पैरामीटर कैसे मिलता है? लेकिन एल्गोरिथम भेदभाव नामक एक मुश्किल चीज की मदद से, जो आपको न केवल सरल सूत्रों को अलग करने की अनुमति देता है जो आपने स्कूल में सीखे थे, बल्कि किसी भी जटिलता के कार्यक्रम - उदाहरण के लिए, हमारे ट्रेबुचेट सिम्युलेटर । नतीजतन, हम जूलिया में लिखा एक सरल सिम्युलेटर ले सकते हैं और गहन अध्ययन के बिना एक अलग पैकेज डिफेक को अलग कर सकते हैं, और एक फ़ंक्शन कॉल में इसके लिए ग्रेडिएंट प्राप्त कर सकते हैं।

 # what you did in school gradient(x -> 3x^2 + 2x + 1, 5) # (32,) # something a little more advanced gradient((wind, angle, weight) -> Trebuchet.shoot(wind, angle, weight), -2, 45, 200) # (4.02, -0.99, 0.051) 

सामान फेंकना

हमें लक्ष्य पर trebuchet को लक्षित करने की आवश्यकता है, ग्रेडिएंट का उपयोग करके इजेक्शन कोण को ठीक करने के लिए; इसे पैरामीटर अनुमान कहा जाता है, और हमने पहले ही समान उदाहरणों पर गौर किया है । हम मेटा-मेथड पर जाकर कार्य को और अधिक रोचक बना सकते हैं: एक लक्ष्य पर ट्रेब्यूचेट को लक्षित करने के बजाय, हम तंत्रिका नेटवर्क को अनुकूलित करते हैं, जो इसे किसी भी लक्ष्य पर लक्षित कर सकता है। यहां बताया गया है कि यह कैसे काम करता है: एक तंत्रिका नेटवर्क दो इनपुट, मीटर में एक लक्ष्य दूरी और एक वर्तमान हवा की गति को स्वीकार करता है। नेटवर्क में, ट्रेब्यूच के लिए सेटिंग्स रखी गई हैं (काउंटरवेट और ट्रिपिंग कोण का द्रव्यमान), जो एक सिम्युलेटर को खिलाया जाता है जो यात्रा की गई दूरी की गणना करता है। फिर हम अपने लक्ष्य के साथ तुलना करते हैं और नेटवर्क के वजन को समायोजित करने के लिए पूरी श्रृंखला के साथ आगे बढ़ते हैं। हमारा "डाटासेट" लक्ष्य और हवा की गति का एक बेतरतीब ढंग से चयनित सेट है।

इस सरल मॉडल की एक अच्छी विशेषता यह है कि सीखना तेज है क्योंकि हमने बिल्कुल वैसा ही व्यक्त किया जैसा हम मॉडल से पूरी तरह से अलग तरीके से चाहते हैं। प्रारंभ में, यह इस तरह दिखता है:

लगभग पाँच मिनट के प्रशिक्षण के बाद (मेरे लैपटॉप के उसी प्रोसेसर कोर पर) ऐसा दिखता है:

यदि आप प्रक्षेपवक्र को प्रभावित करना चाहते हैं, तो हवा की गति बढ़ाएं:

16 सेमी, या लगभग 0.3% द्वारा विचलन। ट्रेबचेट पर सीधे निशाना लगाने के बारे में क्या? यह ग्रेडिएंट डिसेंट के साथ करना आसान है, यह देखते हुए कि हमारे पास ग्रेडिएंट हैं। हालाँकि, यह एक धीमी चलने वाली प्रक्रिया है जिसमें हर बार लगभग 100 ms लगते हैं। इसके विपरीत, एक तंत्रिका नेटवर्क का संचालन सटीकता के मामूली नुकसान के साथ 5 μs (बीस हजार गुना तेज) लेता है। "चालन के माध्यम से अनुमानित फ़ंक्शन व्युत्क्रम" नामक यह ट्रिक बहुत आम है और इसका उपयोग न केवल डायनेमिक सिस्टम के साथ किया जा सकता है, बल्कि एक फास्ट स्टाइल ट्रांसफर एल्गोरिदम के साथ भी किया जा सकता है ।

यह सबसे सरल संभव प्रबंधन समस्या है जिसका उपयोग हम मुख्य रूप से निदर्शी उद्देश्यों के लिए करते हैं। लेकिन हम क्लासिक आरएल समस्याओं के अधिक उन्नत तरीकों में समान तरीके लागू कर सकते हैं।

गाड़ी, मिलो पोल

एक अधिक पहचानने योग्य प्रबंधन चुनौती कार्टपोल है , सुदृढीकरण सीखने के लिए "हैलो दुनिया"। चुनौती यह सीखना है कि अपने आधार को बाएँ या दाएँ धकेल कर ऊर्ध्वाधर स्तंभ को कैसे संतुलित किया जाए। हमारा सेटअप आमतौर पर ट्रेबुचेट के मामले के समान है: जूलिया के कार्यान्वयन से हमें पर्यावरण द्वारा प्राप्त पुरस्कारों को सीधे नुकसान के रूप में माना जा सकता है। ∂P हमें एक सरल मॉडल से आरएल मॉडल में मूल रूप से स्विच करने की अनुमति देता है।

एक अचरज पाठक को झपकी लग सकती है। फ़्लोरबोर्ड के लिए एक्शन एरिया - बाईं या दाईं ओर एक ऑफसेट - असतत है और इसलिए अलग नहीं है। हम इस समस्या को अलग-अलग विवेकपूर्ण रूप से प्रस्तुत करके हल करते हैं, जो निम्नानुसार है :

$$

$$f (x) = \ left \ {\ _ शुरू {मैट्रिक्स} \, 1, \, x \ geqslant0 \\ -1, \, x <0 \ end {मैट्रिक्स} \ सही।$$

$$

$$\ frac {df} {dx} = 1$$

दूसरे शब्दों में, हम ढाल को ऐसे व्यवहार करते हैं जैसे कि $$$च$ एक समान कार्य था। यह देखते हुए कि भिन्नता का गणितीय विचार पहले से ही एमएल में कितना उपयोग किया जाता है, यह शायद आश्चर्य की बात नहीं है कि हम यहां बस छल कर सकते हैं; प्रशिक्षण के लिए, हम सभी को पैरामीटर स्थान के आसपास हमारे छद्म यादृच्छिक चलने की सूचना देने के लिए एक संकेत है, और बाकी विवरण है। परिणाम खुद के लिए बोलते हैं। ऐसे मामलों में जहां समस्या को हल करने से पहले आरएल विधियों को सैकड़ों एपिसोड में प्रशिक्षित करने की आवश्यकता होती है, RP मॉडल को अंत में जीतने के लिए लगभग 5 एपिसोड की आवश्यकता होती है।

समय के माध्यम से पेंडुलम और बैकप्रॉप

आरएल (सुदृढीकरण सीखने) के लिए एक महत्वपूर्ण लक्ष्य स्थगित पारिश्रमिक को संभालना है जब एक कार्रवाई हमें कई चरणों के परिणामों में सुधार करने में मदद नहीं करती है। जब पर्यावरण अलग होता है, तो ∂P आपको एक पुनरावर्ती नेटवर्क के रूप में, समय में वापस प्रचार में एजेंट को प्रशिक्षित करने की अनुमति देता है! इस मामले में, पर्यावरण की स्थिति एक "छिपी हुई स्थिति" बन जाती है जो समय के चरणों के बीच बदल जाती है।

इस तकनीक को प्रदर्शित करने के लिए, हम एक पेंडुलम मॉडल पर विचार करते हैं, जहां कार्य पेंडुलम को स्विंग करना है जब तक कि यह सीधा खड़ा न हो और इसे अस्थिर संतुलन में न रखें। यह आरएल मॉडल के लिए मुश्किल है; प्रशिक्षण के लगभग 20 एपिसोड के बाद, समस्या हल हो गई है, लेकिन अक्सर समाधान का रास्ता स्पष्ट रूप से इष्टतम नहीं है। इसके विपरीत, बीपीटीटी प्रशिक्षण के एक एपिसोड में आरएल नेताओं की रैंकिंग को हरा सकता है। यह देखना आवश्यक है कि यह प्रकरण कैसे सामने आता है; रिकॉर्डिंग की शुरुआत में, रणनीति यादृच्छिक है, और समय के साथ मॉडल में सुधार होता है। सीखने की गति लगभग चिंताजनक है।

मॉडल मशीनिंग के लिए किसी भी प्रारंभिक कोण के लिए अच्छी तरह से अनुकूल है और इसमें इष्टतम रणनीति के करीब कुछ है। पुनरारंभ करते समय, मॉडल कुछ इस तरह दिखता है।

यह केवल शुरुआत है; हम डीपी को उन वातावरणों पर लागू करके वास्तविक सफलता प्राप्त करेंगे जिनके साथ काम करना आम तौर पर आरएल के लिए बहुत मुश्किल है, जहां समृद्ध सिमुलेशन और मॉडल पहले से मौजूद हैं (जैसा कि अधिकांश इंजीनियरिंग और प्राकृतिक विज्ञानों में), और जहां व्याख्या एक महत्वपूर्ण कारक है (दवा के रूप में)।

नक्शा क्षेत्र नहीं है

इन खिलौना मॉडल की एक सीमा यह है कि वे परीक्षण वातावरण के साथ सिम्युलेटेड सीखने के माहौल की बराबरी करते हैं; बेशक, वास्तविक दुनिया अलग नहीं है। अधिक यथार्थवादी मॉडल में, सिमुलेशन हमें व्यवहार का एक मोटा पैटर्न देता है, जो डेटा द्वारा परिष्कृत किया जाता है। ये डेटा हवा के सिम्युलेटेड प्रभावों की जानकारी देते हैं, कहते हैं, जो बदले में, सिमुलेटर से गुजरने वाले ग्रेडिएंट्स की गुणवत्ता में सुधार करता है। मॉडल नियंत्रक के प्रत्यक्ष पास का भी हिस्सा बन सकते हैं, जिससे इसे खरोंच से सिस्टम की गतिशीलता का अध्ययन किए बिना अपने पूर्वानुमान को परिष्कृत करने की अनुमति मिलती है। इन नए आर्किटेक्चर को सीखना भविष्य में रोमांचक काम करेगा।

कोडा

मूल विचार यह है कि अलग-अलग प्रोग्रामिंग, जिसमें हम केवल एक मनमाना संख्यात्मक कार्यक्रम लिखते हैं और ग्रेडिएंट का उपयोग करके इसे अनुकूलित करते हैं, बेहतर मॉडल और आर्किटेक्चर बनाने का एक शक्तिशाली तरीका है जो गहरी शिक्षा के समान है, खासकर जब हमारे पास अलग-अलग कार्यक्रमों का एक बड़ा पुस्तकालय है। । वर्णित मॉडल सिर्फ पूर्वावलोकन हैं, लेकिन हम आशा करते हैं कि वे यह विचार देंगे कि इन विचारों को अधिक यथार्थवादी तरीके से कैसे लागू किया जा सकता है।

जिस तरह कार्यात्मक प्रोग्रामिंग में कार्यात्मक पैटर्न का उपयोग करके एल्गोरिदम को तर्क और व्यक्त करना शामिल है, विभिन्न प्रकार की प्रोग्रामिंग में अलग-अलग पैटर्न का उपयोग करके एल्गोरिदम को व्यक्त करना शामिल है। गहन शिक्षण समुदाय ने पहले से ही कई ऐसे डिजाइन पैटर्न विकसित किए हैं, उदाहरण के लिए, प्रबंधन के मुद्दों या एक सुसंगत और पेड़ जैसी डेटा संरचना को संभालने के लिए। जैसे-जैसे क्षेत्र बढ़ता है, बहुत अधिक का आविष्कार किया जाएगा, और इन कार्यक्रमों के परिणामस्वरूप, शायद सबसे उन्नत गहरे सीखने वाले आर्किटेक्चर भी असभ्य और पिछड़े दिखेंगे।

संदर्भ

• सूत्र प्रथम , द्वितीय
• विकिपीडिया
• ऑटो भेदभाव; हब्र पर लेख
• ऑटो भेदभाव; तैयार पैकेज
• ऑटो भेदभाव; खुद करो