क्या मशीन सीखने का बुलबुला फट गया, या एक नई सुबह की शुरुआत हुई

हाल ही में, एक लेख जारी किया गया है जो हाल के वर्षों में मशीन सीखने में एक अच्छा रुझान दिखाता है। संक्षेप में: पिछले दो वर्षों में मशीन लर्निंग के क्षेत्र में स्टार्टअप की संख्या तेजी से गिरी है।


खैर क्या। चलो "क्या बुलबुला फट", "कैसे रहने के लिए जारी रखने के लिए" का विश्लेषण करें और इस बारे में बात करें कि इस तरह के एक परिवर्तन कहां से आता है।

सबसे पहले, आइए बात करते हैं कि इस वक्र का बूस्टर क्या था। वह कहां से आई है शायद सभी को इमेजनेट प्रतियोगिता में 2012 में मशीन सीखने की जीत याद होगी। आखिरकार, यह पहली वैश्विक घटना है! लेकिन वास्तव में ऐसा नहीं है। और वक्र का विकास थोड़ा पहले शुरू होता है। मैं इसे कई बिंदुओं में तोड़ूंगा।

1. 2008 "बड़े डेटा" शब्द का उद्भव है। असली उत्पाद 2010 में दिखाई देने लगे। बड़ा डेटा सीधे मशीन लर्निंग से संबंधित है। बड़े डेटा के बिना, उस समय मौजूद एल्गोरिदम का स्थिर संचालन असंभव है। और ये तंत्रिका नेटवर्क नहीं हैं। 2012 तक, तंत्रिका नेटवर्क एक सीमांत अल्पसंख्यक के बहुत सारे हैं। लेकिन फिर पूरी तरह से अलग-अलग एल्गोरिदम काम करना शुरू कर दिया, जो वर्षों तक, या यहां तक ​​कि दशकों से मौजूद थे: एसवीएम (1963, 1993), रैंडम फॉरेस्ट (1995), एडाबोस्ट (2003), ... उन वर्षों के स्टार्टअप मुख्य रूप से संरचित डेटा के स्वचालित प्रसंस्करण से जुड़े हैं। : टिकट कार्यालय, उपयोगकर्ता, विज्ञापन, बहुत कुछ।
   
   इस पहली लहर के व्युत्पन्न XGBoost, CatBoost, LightGBM, आदि जैसे रूपरेखा का एक सेट है।
   
2. 2011-2012 में, कॉन्फिडेंशियल न्यूरल नेटवर्क ने छवि पहचान प्रतियोगिता की एक श्रृंखला जीती। उनके वास्तविक उपयोग में कुछ देरी हुई। मैं कहूंगा कि 2014 में बड़े पैमाने पर सार्थक स्टार्टअप और समाधान दिखाई देने लगे। दो साल लग गए कि न्यूरॉन्स अभी भी काम करते हैं, सुविधाजनक फ्रेमवर्क बनाने के लिए जो उचित समय में स्थापित और लॉन्च किए जा सकते हैं, उन तरीकों को विकसित करने के लिए जो अभिसरण समय को स्थिर और तेज करेंगे।
   
   संवादात्मक नेटवर्क ने मशीन दृष्टि की समस्याओं को हल करना संभव बना दिया: एक छवि में चित्रों और वस्तुओं का वर्गीकरण, वस्तुओं का पता लगाना, वस्तुओं और लोगों की पहचान, छवि वृद्धि, आदि।
3. 2015-2017 वर्ष। आवर्ती नेटवर्क या उनके एनालॉग्स (LSTM, GRU, TransformerNet, आदि) से बंधे एल्गोरिदम और प्रोजेक्ट्स का उछाल। अच्छी तरह से काम करने वाले भाषण-से-पाठ एल्गोरिदम और मशीन अनुवाद सिस्टम दिखाई दिए हैं। भाग में, वे बुनियादी सुविधाओं को उजागर करने के लिए दृढ़ नेटवर्क पर आधारित हैं। आंशिक रूप से इस तथ्य पर कि उन्होंने वास्तव में बड़े और अच्छे डेटासेट एकत्र करना सीखा।

"क्या बुलबुला फट गया?" क्या हाईप ओवरहीटिंग है? क्या वे एक ब्लॉकचेन की तरह मर गए? ”
तो ठीक है! कल सिरी आपके फोन पर काम करना बंद कर देगा, और उसके अगले दिन के बाद टेस्ला कंगारू की बारी को अलग नहीं करेगा।

तंत्रिका नेटवर्क पहले से ही काम कर रहे हैं। वे दर्जनों उपकरणों में हैं। वे वास्तव में आपको कमाने की अनुमति देते हैं, आपके आसपास के बाजार और दुनिया को बदलते हैं। प्रचार थोड़ा अलग दिखता है:



यह सिर्फ इतना है कि तंत्रिका नेटवर्क कुछ नया होना बंद हो गया है। हां, बहुत से लोगों को उच्च उम्मीदें हैं। लेकिन बड़ी संख्या में कंपनियों ने अपने न्यूरॉन्स का उपयोग करना और उन पर आधारित उत्पाद बनाना सीखा है। न्यूरॉन्स नई कार्यक्षमता देते हैं, नौकरियों को कम कर सकते हैं, सेवाओं की कीमत कम कर सकते हैं:

• विनिर्माण कंपनियां कन्वेयर पर अस्वीकार के विश्लेषण के लिए एल्गोरिदम को एकीकृत करती हैं।
• गायों को नियंत्रित करने के लिए पशुधन फार्म सिस्टम खरीद रहे हैं।
• स्वचालित हार्वेस्टर।
• स्वचालित कॉल सेंटर।
• स्नैपचैट में फिल्टर। ( ठीक है, कम से कम कुछ समझदार! )

लेकिन मुख्य बात, और सबसे स्पष्ट नहीं: "कोई और नए विचार नहीं हैं, या वे तत्काल पूंजी नहीं लाएंगे।" तंत्रिका नेटवर्क ने दर्जनों समस्याओं का समाधान किया है। और वे और भी तय करेंगे। सभी स्पष्ट विचार जो थे - बहुत सारे स्टार्टअप शुरू किए। लेकिन जो कुछ सतह पर था वह पहले ही एकत्र किया जा चुका है। पिछले दो वर्षों में, मुझे तंत्रिका नेटवर्क के उपयोग के लिए एक भी नया विचार नहीं मिला है। एक भी नया दृष्टिकोण नहीं है (ठीक है, ठीक है, GANs के साथ कुछ समस्याएं हैं)।

और हर अगला स्टार्टअप अधिक से अधिक जटिल है। यह अब दो लोगों की आवश्यकता है जो खुले डेटा पर एक न्यूरॉन को प्रशिक्षित करते हैं। इसके लिए प्रोग्रामर, एक सर्वर, स्क्राइबर्स की एक टीम, जटिल समर्थन, आदि की आवश्यकता होती है।

नतीजतन, कम स्टार्टअप हैं। लेकिन उत्पादन अधिक है। लाइसेंस प्लेट मान्यता संलग्न करने की आवश्यकता है? बाजार पर प्रासंगिक अनुभव के साथ सैकड़ों पेशेवर हैं। आप काम कर सकते हैं और कुछ महीनों में आपका कर्मचारी एक सिस्टम बना देगा। या एक तैयार एक खरीदें। लेकिन एक नया स्टार्टअप कर रहे हैं? पागलपन!

हमें आगंतुकों पर नज़र रखने के लिए एक प्रणाली बनाने की आवश्यकता है - लाइसेंस के एक समूह के लिए भुगतान क्यों करें, जब आप 3-4 महीनों के लिए अपना खुद का कर सकते हैं, तो इसे अपने व्यवसाय के लिए तेज करें।

अब तंत्रिका नेटवर्क दर्जनों अन्य तकनीकों के समान हैं।

याद रखें कि 1995 से "साइट डेवलपर" की अवधारणा कैसे बदल गई है? जबकि बाजार विशेषज्ञों से संतृप्त नहीं है। बहुत कम पेशेवर हैं। लेकिन मैं शर्त लगा सकता हूं कि 5-10 वर्षों में एक जावा प्रोग्रामर और एक तंत्रिका नेटवर्क डेवलपर के बीच बहुत अंतर नहीं होगा। और वे और वे विशेषज्ञ बाजार में पर्याप्त होंगे।

बस कार्यों का एक वर्ग होगा जिसके लिए यह न्यूरॉन्स द्वारा हल किया जाता है। एक कार्य था - एक विशेषज्ञ किराया।

“और फिर क्या? वादा किया कृत्रिम बुद्धि कहाँ है? ”

और यहाँ एक छोटा लेकिन दिलचस्प नेपोनैचका है :)

प्रौद्योगिकी स्टैक जो आज भी मौजूद है, जाहिरा तौर पर, अभी भी हमें कृत्रिम बुद्धिमत्ता की ओर नहीं ले जाएगा। विचार, उनकी नवीनता, काफी हद तक खुद को समाप्त कर चुके हैं। आइए बात करते हैं कि विकास का वर्तमान स्तर क्या है।

प्रतिबंध

आइए ऑटो-ड्रोन से शुरुआत करें। यह समझा जाता है कि आज की प्रौद्योगिकियों के साथ पूरी तरह से स्वायत्त कार बनाना संभव है। लेकिन यह कितने साल बाद होगा यह स्पष्ट नहीं है। टेस्ला का मानना ​​है कि यह कुछ वर्षों में होगा -


कई अन्य विशेषज्ञ हैं जो इसे 5-10 वर्ष की आयु के रूप में रेट करते हैं।

सबसे अधिक संभावना है, मेरी राय में, 15 वर्षों के बाद, शहरों का बुनियादी ढांचा खुद बदल जाएगा ताकि स्वायत्त कारों का उदय अपरिहार्य हो जाएगा, इसकी निरंतरता होगी। लेकिन इसे बुद्धिमत्ता नहीं माना जा सकता। आधुनिक टेस्ला डेटा को छानने, उन्हें खोजने और पीछे हटने के लिए एक बहुत ही जटिल पाइपलाइन है। ये नियम, नियम, नियम, डेटा संग्रह और उनके ऊपर फ़िल्टर हैं ( यहां मैंने इसके बारे में थोड़ा और लिखा है, या इस बिंदु से देखें)।

पहली समस्या

और यह यहां है कि हम पहली मौलिक समस्या देखते हैं। बड़ा डेटा। यह वही है जो तंत्रिका नेटवर्क और मशीन सीखने की वर्तमान लहर उत्पन्न करता है। अब, कुछ जटिल और स्वचालित करने के लिए, आपको बहुत अधिक डेटा की आवश्यकता है। न सिर्फ बहुत, बल्कि बहुत, बहुत। हमें उनके संग्रह, मार्कअप, उपयोग के लिए स्वचालित एल्गोरिदम की आवश्यकता है। हम कार को सूरज के खिलाफ ट्रक देखना चाहते हैं - हमें पहले उनमें से पर्याप्त संख्या में इकट्ठा करना होगा। हम चाहते हैं कि कार ट्रंक से खराब साइकिल के साथ पागल न हो - अधिक नमूने।

इसके अलावा, एक उदाहरण पर्याप्त नहीं है। सैकड़ों? हजारों?

दूसरी समस्या

दूसरी समस्या यह है कि हमारे तंत्रिका नेटवर्क ने क्या समझा है। यह बहुत ही गैर-तुच्छ कार्य है। अब तक, कुछ लोग समझते हैं कि यह कैसे कल्पना करना है। ये लेख बहुत हाल के हैं, ये केवल कुछ उदाहरण हैं, यहां तक ​​कि दूरस्थ भी:
बनावट पर निर्धारण का दृश्य । यह अच्छी तरह से दिखाता है कि न्यूरॉन चक्रों में जाने के लिए क्या करता है + वह प्रारंभिक जानकारी के रूप में क्या मानता है।


अनुवाद के दौरान क्षीणन का दृश्य । वास्तव में, क्षीणन का उपयोग अक्सर दिखाने के लिए किया जा सकता है कि इस तरह की नेटवर्क प्रतिक्रिया का कारण क्या है। मैं डिबग और उत्पाद समाधान के लिए ऐसी चीजों से मिला। इस विषय पर बहुत सारे लेख हैं। लेकिन डेटा जितना अधिक जटिल होगा, यह समझना उतना ही कठिन होगा कि स्थायी दृश्य कैसे प्राप्त किया जाए।



अच्छी तरह से और हाँ, का अच्छा पुराना सेट " फ़िल्टर में ग्रिड के अंदर क्या है इसे देखें।" ये चित्र लगभग 3-4 साल पहले लोकप्रिय थे, लेकिन सभी को जल्दी से एहसास हुआ कि चित्र सुंदर हैं, लेकिन उनमें बहुत अधिक समझ नहीं है।



मैंने दर्जनों अन्य लोशन, विधियों, हैक्स, नेटवर्क के इनसाइड को कैसे प्रदर्शित किया जाए, इस पर अध्ययन का नाम नहीं दिया। क्या ये उपकरण काम करते हैं? क्या वे आपको जल्दी से समझने में मदद करते हैं कि समस्या क्या है और नेटवर्क को डीबग करें? .. अंतिम प्रतिशत बाहर खींचो? खैर, कुछ इस तरह से:



आप कागल में किसी भी प्रतियोगिता को देख सकते हैं। और एक विवरण कि लोग कैसे अंतिम निर्णय लेते हैं। हम 100-500-800 mulenov मॉडल पहुंचे और यह काम किया!

बेशक, मैं अतिशयोक्ति करता हूं। लेकिन ये दृष्टिकोण त्वरित और प्रत्यक्ष उत्तर नहीं देते हैं।

पर्याप्त अनुभव होने के बाद, विभिन्न विकल्पों को रखने से, आप इस बारे में एक निर्णय जारी कर सकते हैं कि आपके सिस्टम ने ऐसा निर्णय क्यों लिया। लेकिन सिस्टम के व्यवहार को सही करना मुश्किल होगा। एक बैसाखी रखो, दहलीज को स्थानांतरित करें, एक डाटासेट जोड़ें, एक और बैकएंड नेटवर्क लें।

तीसरी समस्या

तीसरी मूलभूत समस्या यह है कि ग्रिड तर्क नहीं सिखाते, बल्कि आँकड़े भी देते हैं। सांख्यिकीय रूप से यह व्यक्ति :



तार्किक रूप से - बहुत समान नहीं। तंत्रिका नेटवर्क कुछ जटिल नहीं सीखते हैं यदि उन्हें मजबूर नहीं किया जाता है। वे हमेशा सबसे सरल लक्षण सीखते हैं। आँखें, नाक, सिर है? तो यह चेहरा! या एक उदाहरण दें जहां आंखों का मतलब चेहरे नहीं होगा। और फिर, लाखों उदाहरण हैं।

तल पर भरपूर जगह है

मैं कहूंगा कि यह तीन वैश्विक समस्याएं हैं जो आज तंत्रिका नेटवर्क और मशीन सीखने के विकास को सीमित करती हैं। और जहां ये समस्याएं सीमित नहीं थीं, वहां पहले से ही सक्रिय रूप से इसका उपयोग किया जाता है।

क्या यह अंत है? तंत्रिका नेटवर्क उठ गए?

अज्ञात। लेकिन, निश्चित रूप से, सभी को उम्मीद नहीं है।

उन मूलभूत समस्याओं को हल करने के लिए कई दृष्टिकोण और निर्देश हैं जिन्हें मैंने ऊपर कवर किया है। लेकिन अभी तक, इनमें से किसी भी दृष्टिकोण ने हमें मौलिक रूप से कुछ नया करने की अनुमति नहीं दी है, कुछ ऐसा करने के लिए जो अभी तक हल नहीं हुआ है। अब तक, सभी मूलभूत परियोजनाओं को स्थिर दृष्टिकोण (टेस्ला) के आधार पर किया जाता है, या संस्थानों या निगमों (Google ब्रेन, ओपनएआई) की परीक्षण परियोजनाएं बनी रहती हैं।

मोटे तौर पर, मुख्य दिशा इनपुट डेटा के कुछ उच्च-स्तरीय प्रतिनिधित्व का निर्माण है। एक मायने में, "स्मृति।" स्मृति का सबसे सरल उदाहरण छवियों का विभिन्न "एंबेडिंग" प्रतिनिधित्व है। उदाहरण के लिए, सभी चेहरा पहचान प्रणाली। नेटवर्क चेहरे से एक निश्चित स्थिर विचार प्राप्त करना सीखता है जो रोटेशन, प्रकाश व्यवस्था, संकल्प पर निर्भर नहीं करता है। वास्तव में, नेटवर्क "विभिन्न चेहरों - दूर दूर" और "समान - पास" के मीट्रिक को कम करता है।



इस तरह के प्रशिक्षण के लिए दसियों और सैकड़ों हजारों उदाहरणों की आवश्यकता होती है। लेकिन परिणाम "वन-शॉट लर्निंग" की कुछ अशिष्टता लाता है। अब हमें किसी व्यक्ति को याद करने के लिए सैकड़ों चेहरों की आवश्यकता नहीं है। बस एक चेहरा, और वह यह है - हम पता लगाएंगे!
केवल यहाँ समस्या है ... ग्रिड केवल काफी सरल वस्तुओं को सीख सकता है। जब चेहरों को अलग करने की कोशिश नहीं की जाती है, लेकिन, उदाहरण के लिए, "कपड़े से लोग" ( पुन: इंडेंटिफिकेशन कार्य ), गुणवत्ता परिमाण के कई आदेशों से विफल हो जाती है। और नेटवर्क अब पर्याप्त स्पष्ट कोण परिवर्तन नहीं सीख सकता है।

और लाखों उदाहरणों से सीखना भी किसी तरह इतना मनोरंजन है।

चुनाव को काफी कम करने के लिए काम है। उदाहरण के लिए, आप तुरंत पहले Google OneShot Learning कार्यों में से एक को याद कर सकते हैं:



ऐसे कई काम हैं, उदाहरण के लिए 1 या 2 या 3 ।

एक माइनस है - आमतौर पर प्रशिक्षण कुछ सरल, "MNIST'ovskie उदाहरण" पर अच्छी तरह से काम करता है। और जटिल कार्यों के लिए संक्रमण में - आपको एक बड़े आधार, वस्तुओं का एक मॉडल, या किसी प्रकार का जादू चाहिए।
सामान्य तौर पर, वन-शॉट प्रशिक्षण पर काम एक बहुत ही दिलचस्प विषय है। आपको बहुत सारे विचार मिलते हैं। लेकिन अधिकांश भाग के लिए, मैंने जिन दो समस्याओं को सूचीबद्ध किया है (एक विशाल डेटासेट पर पूर्व-प्रशिक्षण (जटिल डेटा पर अस्थिरता)) सीखने में बहुत बाधा डालते हैं।

दूसरी ओर, GAN - उदारतापूर्वक प्रतिस्पर्धी नेटवर्क - एंबेडिंग दृष्टिकोण। आप शायद इस विषय पर हैबे पर लेखों का एक समूह पढ़ते हैं। ( 1 , 2 , 3 )
GAN की एक विशेषता कुछ आंतरिक राज्य स्थान (अनिवार्य रूप से समान एंबेडिंग) का गठन है, जो आपको एक छवि बनाने की अनुमति देता है। यह व्यक्ति हो सकते हैं, कार्य हो सकते हैं।



GAN समस्या यह है कि उत्पन्न वस्तु जितनी अधिक जटिल होती है, उतना ही मुश्किल होता है कि इसका वर्णन "जनरेटर-डिस्क्रिमिनेटर" तर्क में किया जाता है। परिणामस्वरूप, GAN के वास्तविक अनुप्रयोगों से, जिन्हें केवल DeepFake सुना जाता है, जो, फिर से, व्यक्तियों के अभ्यावेदन में हेरफेर करता है (जिसके लिए एक बड़ा आधार है)।

मुझे बहुत कम अन्य उपयोगी अनुप्रयोगों का सामना करना पड़ा है। चित्र बनाने के साथ आमतौर पर किसी तरह की सीटी-नकली।

और फिर से। किसी को इस बात की समझ नहीं है कि यह हमें कैसे उज्जवल भविष्य की ओर ले जाएगा। तंत्रिका नेटवर्क में तर्क / स्थान का प्रतिनिधित्व करना अच्छा है। लेकिन हमें बड़ी संख्या में उदाहरणों की आवश्यकता है, हम यह नहीं समझते हैं कि यह न्यूरॉन अपने आप में कैसे दर्शाता है, हम यह नहीं समझते हैं कि न्यूरॉन को वास्तव में जटिल विचार कैसे याद रखें।

सुदृढीकरण सीखना एक पूरी तरह से अलग दृष्टिकोण है। निश्चित रूप से आपको याद होगा कि कैसे Google ने गो में सभी को हराया था। हाल ही में Starcraft और Dota में जीत। लेकिन यहां सब कुछ इतना रसपूर्ण और होनहार होने से दूर है। आरएल और इसकी जटिलता के बारे में सबसे अच्छी बात यह लेख है ।

संक्षेप में लेखक ने क्या लिखा है:

• अधिकांश मामलों में बॉक्स से बाहर के मॉडल खराब नहीं होते हैं
• व्यावहारिक कार्यों को अन्य तरीकों से हल करना आसान है। बोस्टन डायनेमिक्स अपनी जटिलता / अप्रत्याशितता / कम्प्यूटेशनल जटिलता के कारण आरएल का उपयोग नहीं करता है
• आरएल को काम करने के लिए, आपको एक जटिल फ़ंक्शन की आवश्यकता है। इसे बनाना / लिखना अक्सर मुश्किल होता है।
• मॉडलों को प्रशिक्षित करना कठिन है। हमें स्थानीय ऑप्टिमा से झूलने और बाहर निकलने के लिए बहुत समय बिताना होगा
• नतीजतन, मॉडल को दोहराना मुश्किल है, थोड़े से बदलाव पर मॉडल की अस्थिरता
• यह अक्सर यादृच्छिक संख्या जनरेटर तक कुछ बाएं पैटर्न पर ओवरफिल करता है

मुख्य बिंदु यह है कि आरएल अभी तक उत्पादन में काम नहीं करता है। Google के पास कुछ प्रकार के प्रयोग ( 1 , 2 ) हैं। लेकिन मैंने एक भी किराने की व्यवस्था नहीं देखी है।

मेमोरी। ऊपर वर्णित सभी का नकारात्मक पक्ष असंरचित है। यह सब कुछ ठीक करने की कोशिश करने के लिए एक दृष्टिकोण तंत्रिका नेटवर्क को एक अलग मेमोरी तक पहुंच प्रदान करना है। ताकि वह वहां अपने कदमों के परिणामों को रिकॉर्ड कर सके और फिर से लिख सके। फिर तंत्रिका नेटवर्क को स्मृति की वर्तमान स्थिति से निर्धारित किया जा सकता है। यह क्लासिक प्रोसेसर और कंप्यूटर के समान है।

सबसे प्रसिद्ध और लोकप्रिय लेख DeepMind से है:



ऐसा लगता है कि यहाँ यह, बुद्धि को समझने की कुंजी है? बल्कि, नहीं। प्रशिक्षण के लिए सिस्टम को अभी भी बड़ी मात्रा में डेटा की आवश्यकता है। और यह मुख्य रूप से संरचित सारणीबद्ध डेटा के साथ काम करता है। उसी समय, जब फेसबुक ने इसी तरह की समस्या को हल किया , तो वे सड़क पर चले गए "स्मृति को देखें, बस न्यूरॉन को अधिक जटिल बनाएं, लेकिन अधिक उदाहरण - और यह खुद ही सीख जाएगा।"

असहमति । अर्थपूर्ण मेमोरी बनाने का एक और तरीका समान एम्बेडिंग लेना है, लेकिन जब अतिरिक्त मानदंड शुरू करना सीखते हैं जो उन्हें "अर्थ" को उजागर करने की अनुमति देगा। उदाहरण के लिए, हम किसी स्टोर में किसी व्यक्ति के व्यवहार के बीच अंतर करने के लिए एक तंत्रिका नेटवर्क को प्रशिक्षित करना चाहते हैं। यदि हम मानक पथ का पालन करते हैं, तो हमें एक दर्जन नेटवर्क बनाने होंगे। एक व्यक्ति की तलाश कर रहा है, दूसरा निर्धारित करता है कि वह क्या कर रहा है, तीसरा उसकी उम्र है, चौथा लिंग है। अलग तर्क स्टोर के उस हिस्से को देखता है जहां वह करता है / इसके लिए सीखता है। तीसरा अपने प्रक्षेपवक्र आदि का निर्धारण करता है।

या, यदि असीम रूप से बहुत सारे डेटा थे, तो सभी प्रकार के परिणामों के लिए एक नेटवर्क को प्रशिक्षित करना संभव होगा (यह स्पष्ट है कि इस तरह के डेटा को टाइप नहीं किया जा सकता है)।

अव्यवस्था दृष्टिकोण हमें बताता है - और हमें नेटवर्क को प्रशिक्षित करने दें ताकि यह अवधारणाओं के बीच अंतर कर सके। वीडियो में एक एम्बेडिंग बनाने के लिए, जहां एक क्षेत्र कार्रवाई का निर्धारण करेगा, एक - समय पर फर्श पर स्थिति, एक - व्यक्ति की ऊंचाई, और दूसरा - उसका लिंग। उसी समय, प्रशिक्षण के दौरान, मैं नेटवर्क को ऐसी प्रमुख अवधारणाओं के बारे में कभी भी सुझाव नहीं देना चाहूंगा, लेकिन इतना है कि यह स्वयं क्षेत्रों की पहचान करता है और समूह बनाता है। ऐसे कुछ लेख हैं (उनमें से कुछ 1 , 2 , 3 हैं ) और सामान्य तौर पर वे काफी सैद्धांतिक हैं।

लेकिन यह दिशा, कम से कम सैद्धांतिक रूप से, शुरुआत में सूचीबद्ध समस्याओं को कवर करना चाहिए।



मापदंडों के अनुसार छवि का अपघटन "दीवार का रंग / फर्श का रंग / वस्तु का आकार / वस्तु का रंग / आदि"



मापदंडों के अनुसार चेहरे का अपघटन "आकार, भौहें, अभिविन्यास, त्वचा का रंग, आदि"

अन्य

कई अन्य वैश्विक दिशाएं नहीं हैं जो हमें आधार को कम करने की अनुमति देती हैं, अधिक विषम डेटा के साथ काम करती हैं, आदि।

ध्यान देना । संभवतः इसे अलग विधि के रूप में अलग करने का कोई मतलब नहीं है। बस एक दृष्टिकोण जो दूसरों को पुष्ट करता है। कई लेख उन्हें ( 1 , 2 , 3 ) समर्पित किए गए हैं। ध्यान देने का अर्थ प्रशिक्षण के दौरान महत्वपूर्ण वस्तुओं के लिए नेटवर्क की प्रतिक्रिया को मजबूत करना है। अक्सर कुछ बाहरी लक्ष्य पदनाम या एक छोटे बाहरी नेटवर्क द्वारा।

3 डी सिमुलेशन । यदि आप एक अच्छा 3 डी इंजन बनाते हैं, तो आप अक्सर इसके साथ 90% प्रशिक्षण डेटा बंद कर सकते हैं (मैंने एक उदाहरण भी देखा जहां लगभग 99% डेटा एक अच्छे इंजन के साथ बंद हुआ था)। असली डेटा (ठीक ट्यूनिंग, स्टाइल ट्रांसफर, आदि) पर 3 डी इंजन के काम पर प्रशिक्षित नेटवर्क बनाने के लिए कई विचार और हैक हैं। लेकिन अक्सर एक अच्छा इंजन बनाना परिमाण के कई आदेश हैं जो डेटा एकत्र करने से अधिक कठिन हैं। इंजन बनाते समय उदाहरण:
रोबोट प्रशिक्षण ( google , braingarden )
एक स्टोर में माल को पहचानना सीखना (लेकिन दो परियोजनाओं में जो हमने किया, हमने शांति से इस से दूर कर दिया)।
टेस्ला में प्रशिक्षण (फिर, वीडियो जो ऊपर था)।

निष्कर्ष

पूरा लेख एक अर्थ निष्कर्ष में है। संभवतः मुख्य संदेश जो मैं करना चाहता था, "फ्रीबी खत्म हो गया है, न्यूरॉन्स अधिक सरल समाधान नहीं देते हैं।" अब हमें जटिल समाधान बनाने के लिए कड़ी मेहनत करनी होगी। या जटिल वैज्ञानिक रिपोर्ट बनाने में कड़ी मेहनत करते हैं।

सामान्य तौर पर, विषय बहस का विषय है। शायद पाठकों के पास और भी दिलचस्प उदाहरण हैं?