लर्निंग रिप्रेजेंटेशन (ICLR) 2019 पर अंतर्राष्ट्रीय सम्मेलन के 8 सर्वश्रेष्ठ रुझान

डेटा विश्लेषण और डेटा साइंस का विषय इन दिनों आश्चर्यजनक रूप से विकसित हो रहा है। उनके तरीकों और दृष्टिकोणों की प्रासंगिकता को समझने के लिए, सहकर्मियों के काम के बराबर में रखना आवश्यक है, और यह सम्मेलनों में है कि आधुनिक रुझानों के बारे में जानकारी प्राप्त करना संभव है। दुर्भाग्य से, सभी घटनाओं का दौरा नहीं किया जा सकता है, इसलिए पिछले सम्मेलनों के लेख उन विशेषज्ञों के लिए रुचि रखते हैं जिन्होंने व्यक्तिगत उपस्थिति के लिए समय और अवसर नहीं पाया है। हम आपको डेटा साइंस के क्षेत्र में अत्याधुनिक रुझानों और दृष्टिकोणों पर ICLR 2019 सम्मेलन में चिप हुयेन के लेख का अनुवाद प्रस्तुत करने की कृपा कर रहे हैं।


लर्निंग रिप्रेजेंटेशन विधियों, तकनीकों और दृष्टिकोणों का एक समूह है जो कच्चे डेटा से सुविधाओं की पहचान करने के लिए आवश्यक अभ्यावेदन का स्वतः पता लगाता है। लर्निंग सबमिशन सुविधाओं के मैनुअल आविष्कार की जगह लेता है और आपको दोनों को उनके गुणों के आधार पर वस्तुओं के प्रमुख गुणों का अध्ययन करने और विशिष्ट समस्याओं को हल करने के लिए उपयोग करने की अनुमति देता है।

लेख उद्योग की कई समस्याओं पर एक व्यक्तिपरक रूप देता है। हालांकि, एक उम्मीद करता है कि एक व्यक्तिपरक समीक्षा भी इच्छुक विशेषज्ञ को विचार के लिए पर्याप्त भोजन प्रदान करेगी। आगे, हम निम्नलिखित पर चर्चा करेंगे:

• सम्मेलन की सामाजिक-जनसांख्यिकीय संरचना को सही करने के लिए कृत्रिम तरीकों ने समुदाय में भावनाओं की एक श्रृंखला को जन्म दिया: आक्रामक आक्रोश से कायर अज्ञानता तक। इस तरह के वातावरण में इष्टतम व्यवहार को चुनना खेल सिद्धांत के विशेषज्ञ के लिए एक दिलचस्प काम होगा।
• प्रतिनिधित्व सीखने और हस्तांतरण सीखने के क्षेत्र में काम करता है लोकप्रियता में वृद्धि और समुदाय से सक्रिय रुचि पैदा करता है।
• पुनरावर्ती तंत्रिका नेटवर्क शोधकर्ताओं के बीच लोकप्रियता खोना जारी रखते हैं, लेकिन व्यवहार में उन्हें जल्द ही खारिज नहीं किया जाएगा।
• GAN का क्षेत्र तेजी से विकसित हो रहा है, हालांकि सभी शोधकर्ता इस तथ्य को पसंद नहीं करते हैं। GAN की क्षमता केवल प्रकट की जा रही है और निकट भविष्य में इस दिशा में कई दिलचस्प काम किए जा सकते हैं।
• सम्मेलन में सबसे लोकप्रिय विषय शेष, शोधकर्ताओं के दिमाग को उत्साहित करने के लिए प्रबलित शिक्षा जारी है। विशेषज्ञ आरएल तरीकों को वास्तविक कार्यों में लागू करने की संभावना के करीब हो रहे हैं, जो इस क्षेत्र में अनुयायियों के लिए बहुत कमी है।
• हैरानी की बात है कि हाल ही में मशीन सीखने के जैविक और आनुवंशिक उपयोगों में बहुत कम रुचि रही है। आगे की वृद्धि के लिए एक विषय की तलाश कर रहे शोधकर्ताओं के लिए एक अच्छा अवसर खुल रहा है।
• रेट्रो तरीकों पर आम तौर पर स्वीकार किए गए लेख और लेख अभी भी सम्मेलन में पहुंचने का प्रबंधन करते हैं, हालांकि, उनके बीच प्रतिस्पर्धा अधिक है और शोधकर्ताओं को अधिक फैशनेबल और लोकप्रिय दिशाओं की तुलना में दिलचस्प परिणाम प्राप्त करने के लिए अधिक प्रयास करना पड़ता है। उस समय, इस तथ्य के बारे में सोचें कि शास्त्रीय मशीन सीखने के आवेदन के लिए सामग्री समाप्त हो गई है।

चिप ह्यून से सम्मेलन की एक विस्तृत समीक्षा नीचे पाई जा सकती है।

1. समावेश

आयोजकों के 2019 के अंतर्राष्ट्रीय सम्मेलन - एड। के आयोजकों ने कृत्रिम बुद्धिमत्ता के क्षेत्र में समावेश के महत्व पर जोर दिया। पहले दो मुख्य भाषण - अलेक्जेंडर रश और अतिथि वक्ता सिंथिया ड्वॉर्क द्वारा एक उद्घाटन भाषण - न्याय और समानता के लिए समर्पित थे।

ICLR 2019 के कुछ परेशान करने वाले आँकड़े:

• महिलाओं में केवल 8.6% वक्ता और 15% प्रतिभागी हैं,
• सभी LGBTQ के 2/3 + शोधकर्ता काम पर अपने स्वयं के अभिविन्यास को प्रकट नहीं करते हैं,
• सभी 8 आमंत्रित वक्ता कोकेशियान जाति के प्रतिनिधि हैं।

दुर्भाग्य से [महिला लेखक की], कृत्रिम बुद्धिमत्ता शोधकर्ताओं के थोक समानता के मुद्दे पर बिल्कुल भी दिलचस्पी नहीं रखते हैं। यदि अन्य विषयों पर संगोष्ठियों में भीड़ होती थी, तो योशुआ बेंजियो के प्रकट होने तक सामाजिक भलाई के लिए एआई कार्यशाला काफी खाली थी । ICLR में कई वार्तालापों के दौरान, किसी ने भी "विविधता" का उल्लेख नहीं किया। एक मामला अपवाद था: मुझे एक अनुपयुक्त तकनीकी घटना के लिए आमंत्रित किया गया था, जिस पर मुझे जोर से आश्चर्य हुआ था, और मेरे अच्छे दोस्त ने जवाब दिया: "थोड़ा अपमानजनक जवाब: आपको इसलिए आमंत्रित किया गया क्योंकि आप एक महिला हैं।"

अवलोकन किए गए मामलों का कारण यह है कि विविधता का विषय "तकनीकी" नहीं है, और इसलिए यह एक वैज्ञानिक कैरियर को बढ़ावा देने में मदद नहीं करेगा। एक और कारण यह है कि सामाजिक और सार्वजनिक प्रचार की अस्वीकृति है। मेरे एक दोस्त ने एक बार मुझे सलाह दी थी कि दोस्त पर ध्यान न दें, जो मुझे एक समूह चैट में ट्रोल करता है, क्योंकि "वह उन लोगों का मजाक बनाना पसंद करता है जो समानता और विविधता के बारे में बात करते हैं।" मेरे पास ऐसे दोस्त हैं जो इंटरनेट पर विविधता पर चर्चा करना पसंद नहीं करते हैं क्योंकि वे "इस विषय से जुड़े" नहीं होना चाहते हैं।

2. सीखने और हस्तांतरण सीखने का प्रतिनिधित्व

अनसुप्राइज़्ड रिप्रेजेंटेशन लर्निंग का मुख्य उद्देश्य असंबद्ध डेटा में उन लक्षणों का पता लगाना है जो बाद के कार्यों में उपयोग के लिए उपयोगी हैं। प्राकृतिक भाषा प्रसंस्करण क्षेत्र में, प्रदर्शन प्रशिक्षण अक्सर भाषा मॉडलिंग के माध्यम से किया जाता है। परिणामी अभ्यावेदन तब भावना विश्लेषण, नाम इकाई मान्यता और मशीन अनुवाद जैसे कार्यों के लिए उपयोग किए जाते हैं।

पिछले साल की कुछ सबसे दिलचस्प गैर-शिक्षक प्रस्तुतियां ELMo (पीटर्स एट अल।) , ULMFiT (हावर्ड एट अल।) , GPT OpenAI (रेडफोर्ड एट अल।) , BERT के साथ शुरू हुईं । (देवलिन एट अल।) और, ज़ाहिर है, अत्यधिक खतरनाक GPT-2 (रेडफोर्ड एट अल।) ।

पूर्ण GPT-2 को ICLR में प्रदर्शित किया गया था, और यह आश्चर्यजनक है। आप पाठ की शुरुआत के एक मनमाने ढंग से स्केच दर्ज कर सकते हैं, और मॉडल बाकी लेख लिखेंगे। एक मॉडल समाचार लेख, प्रशंसक कथा, वैज्ञानिक लेख, यहां तक ​​कि काल्पनिक शब्दों की परिभाषा भी लिख सकता है। अब तक, परिणाम अभी भी मानव नहीं दिखता है, लेकिन टीम GPT-3 पर कड़ी मेहनत कर रही है। मैं नए मॉडल की क्षमताओं को देखने के लिए उत्सुक हूं।

ट्रांसफर लर्निंग अप्रोच को मुख्य रूप से कंप्यूटर विज़न विशेषज्ञों के समुदाय ने अपनाया था। हालाँकि, ImageNet छवि वर्गीकरण मॉडल प्रशिक्षण अभी भी शिक्षक प्रशिक्षण मोड में हो रहा है। यह प्रश्न जो दोनों समुदायों के प्रतिनिधियों से लगातार सुना जा सकता है: "हम छवियों के साथ काम करने में गैर-शिक्षक प्रस्तुति प्रशिक्षण का उपयोग कैसे करेंगे?"

हालांकि अधिकांश प्रसिद्ध शोध प्रयोगशालाएं पहले से ही इस कार्य पर काम कर रही हैं, केवल एक लेख, "टीचिंग नॉन-टीचर सबमिशन के लिए मेटा-लर्निंग नियम अपडेट करना " आईसीएलआर (मेट्ज़ एट अल।) में प्रस्तुत किया गया था । वजन अपडेट करने के बजाय, एल्गोरिदम सीखने के नियम को अपडेट करता है। सीखने के नियम से प्राप्त विचारों को छवि वर्गीकरण मोड में टैग किए गए डेटा के एक छोटे नमूने पर लाया जाता है। शोधकर्ता सीखने के नियमों को खोजने में सक्षम थे जो उन्हें MNIST और फैशन MNIST पर 70% से अधिक सटीकता प्राप्त करने की अनुमति देते थे।

लेखकों ने कोड का हिस्सा खोजा, लेकिन सभी नहीं, क्योंकि "यह कंप्यूटिंग से जुड़ा हुआ है।" बाहरी चक्र में लगभग 100 हजार प्रशिक्षण चरणों और 200 घंटों के लिए 256 प्रोसेसर की आवश्यकता होती है।


मुझे लग रहा है कि निकट भविष्य में हम ऐसे कई और काम देखेंगे। एक शिक्षक के बिना शिक्षण का उपयोग करना संभव है जैसे कि ऑटो कोडिंग, छवि रोटेशन भविष्यवाणी ( दस्तावेज़ गिडारिस एट अल। आईसीएलआर 2018 पर एक हिट थी), एक वीडियो में अगले फ्रेम का पूर्वानुमान करते हुए, आदि।

3. रेट्रो एमएल

मशीन लर्निंग में विचार फैशन की तरह हैं: वे चक्रीय हैं। अब एक पोस्टर सत्र देखना एक ऐतिहासिक संग्रहालय में सैर करने जैसा है। यहां तक ​​कि ICLR पर लंबे समय से प्रतीक्षित बहस "पुजारियों बनाम संरचना" के मुद्दे पर एक बहस के साथ समाप्त हो गई, जो पिछले साल यान लंकुन और क्रिस्टोफर मैनिंग की चर्चा पर लौटती है और सेसियन सिद्धांत के अधिवक्ताओं और फ्रीवेसी (आवृत्ति) दृष्टिकोणों के बीच सदियों पुरानी बहस जैसा दिखता है।

एमआईटी मीडिया लैब में प्रोजेक्ट "ग्राउंडेड लैंग्वेज लर्निंग एंड अंडरस्टैंडिंग" को 2001 में बंद कर दिया गया था, लेकिन इस साल ग्राउंडेड लैंग्वेज लर्निंग ने "सुदृढीकरण सीखने" के आवरण में लिपटे दो कार्यों को प्रस्तुत किया।

• DOM-Q-NET: संरचित भाषा पर आधारित आरएल (जिया एट अल।) - लिंक पर क्लिक करके और खेतों में भरने के लिए वेब पृष्ठों को नेविगेट करने के लिए आरएल एल्गोरिथ्म, जबकि नेविगेशन का उद्देश्य एक प्राकृतिक भाषा में व्यक्त किया गया है।
• बेबीएआई: ग्राउंडेड लैंग्वेज लर्निंग ( शेवलियर-बोइसवर्ट एट अल।) के नमूना क्षमता का अध्ययन करने के लिए एक प्लेटफ़ॉर्म एक ओपनएआई जिम-संगत प्लेटफॉर्म है जो मानव निर्मित बॉट एजेंट के साथ है जो एक मानव शिक्षक की मदद करता है जो एक सिंथेटिक भाषा सीखता है।

इन दो लेखों के बारे में मेरे विचार AnonReviewer4 द्वारा पूरी तरह संक्षेप में प्रस्तुत किए गए थे:

“, यहाँ प्रस्तावित विधियाँ उन विधियों के समान हैं जो लंबे समय से साहित्यिक शब्द-विन्यास पर साहित्य में मानी जाती रही हैं। केवल यह काम गहन आरएल पर लेखों का हवाला देता है। मुझे लगता है कि लेखकों के लिए इस साहित्य से खुद को परिचित करना बहुत उपयोगी होगा। मुझे लगता है कि सिमेंटिक एनालिसिस समुदाय को भी इससे फायदा होगा ... लेकिन इन दोनों समुदायों का, जाहिरा तौर पर, एक दूसरे के साथ बहुत कम संपर्क है, हालांकि कुछ मामलों में वे बहुत ही समान समस्याओं पर काम कर रहे हैं। "

डीएफए (निर्धारक परिमित ऑटोमेटा) ने दो लेखों में इस वर्ष गहन सीखने की दुनिया में भी अपना स्थान पाया:

• औपचारिक भाषाओं का प्रतिनिधित्व: परिमित ऑटोमेटा और आवर्तक तंत्रिका नेटवर्क (मिखालेंको एट अल।) के बीच एक तुलना।
• सीखना समवर्ती नीति नेटवर्क के राज्य प्रतिनिधि (Koul एट अल।) ।

दोनों कार्यों के लिए मुख्य प्रेरणा निम्नानुसार है: आरएनएन में छिपे हुए राज्यों के विशाल स्थान के संबंध में, क्या राज्यों की संख्या को अंतिम रूप से कम करना संभव है? मुझे संदेह है कि डीएफए भाषा की समस्याओं में प्रभावी रूप से आरएनएन का प्रतिनिधित्व करने में सक्षम होगा, लेकिन मुझे प्रशिक्षण के दौरान आरएनएन को पढ़ाने का विचार पसंद है और फिर इसे तार्किक निष्कर्ष के लिए डीएफए में परिवर्तित करना, जैसा कि कौल और अल द्वारा एक लेख में प्रस्तुत किया गया है। अंतिम अंतिम अभ्यावेदन के लिए पोंग खेलने के लिए केवल तीन असतत मेमोरी स्टेट्स और 10 अवलोकनों की आवश्यकता होती है। DFA RNN की व्याख्या करने में भी मदद करता है।

4. RNN शोधकर्ताओं के बीच लोकप्रियता खो रहा है

2018 के सापेक्ष 2019 में विभिन्न विषयों पर लेखों की वृद्धि अनुसूची पर विचार करते समय, यह स्पष्ट हो जाता है कि आरएनएन सबसे बड़ी गिरावट की विशेषता है। यह आश्चर्य की बात नहीं है, क्योंकि भले ही आरएनएन का उपयोग धारावाहिक डेटा प्रकारों के लिए सहज है, वे एक गंभीर दोष से पीड़ित हैं: उन्हें समानांतर नहीं किया जा सकता है। नतीजतन, 2012 से अनुसंधान में प्रगति को उत्तेजित करने वाले सबसे महत्वपूर्ण कारक का लाभ उठाना असंभव है: कंप्यूटिंग शक्ति। आरएनएन कभी भी सीवी या आरएल में लोकप्रिय नहीं रहे हैं, और एनएलपी के लिए उन्हें ध्यान-आधारित आर्किटेक्चर द्वारा प्रतिस्थापित किया गया है।


क्या इसका मतलब यह है कि आरएनएन मर चुका है? वास्तव में, नहीं। अनुच्छेद "आदेशित न्यूरॉन्स: आवर्तक तंत्रिका नेटवर्क में वृक्ष संरचनाओं को एकीकृत करना" (शेन एट अल।)। इस वर्ष के सर्वोच्च पुरस्कारों में से एक प्राप्त हुआ। इसके अलावा और ऊपर उल्लिखित ऑटोमेटा के बारे में दो लेखों में, इस साल नौ और आरएनएन पत्रों की समीक्षा की गई, जिनमें से अधिकांश नई संभावनाओं को खोलने के बजाय गणितीय नींव में गहरे जाते हैं।

RNN जीवन से भरा हुआ है और उद्योग में चालक हैं, विशेष रूप से ट्रेडिंग फर्मों जैसी समय श्रृंखला से निपटने वाली कंपनियों के लिए। दुर्भाग्य से, ट्रेडिंग फर्म आमतौर पर अपने काम का विवरण प्रकाशित नहीं करते हैं। यहां तक ​​कि अगर आरएनएन वर्तमान में शोधकर्ताओं को आकर्षित नहीं कर रहे हैं, तो वे भविष्य में अपनी लोकप्रियता हासिल कर सकते हैं।

5. गण अभी भी शीर्ष पर हैं

इस तथ्य के बावजूद कि पिछले वर्ष की तुलना में सापेक्ष पैमाने में GAN विषय एक नकारात्मक वृद्धि दर्शाता है, पूर्ण पैमाने पर कार्यों की संख्या ~ 70 से ~ 100 तक बढ़ गई। इयान गुडफेलो ने GAN के बारे में बात की और लगातार प्रशंसकों से घिरे रहे। आखिरी दिन, उसे अपना बैज बदलना पड़ा ताकि लोग उसका नाम न देख सकें।

पूरा पहला पोस्टर सत्र GAN को समर्पित था। नए GAN आर्किटेक्चर हैं, पुराने GAN आर्किटेक्चर में सुधार, GAN एनालिसिस, GAN एप्लीकेशन से इमेज जनरेशन से लेकर टेक्स्ट जनरेशन और ऑडियो सिंथेसिस। PATE-GAN, GANSynth, ProbGAN, InstaGAN, RelGAN, MisGAN, SPIGAN, LayoutGAN, KnockoffGAN, आदि हैं और मुझे नहीं पता कि इसका क्या मतलब है। दुर्भाग्य से, एंड्रयू ब्रॉक ने अपने विशाल मॉडल बिगगन को बुलाया, न कि जिगनेटिक :)


पोस्टर सत्र में दिखाया गया कि जब GAN की बात होती है तो समुदाय कितना पक्षपाती होता है। जीएएन के विरोधियों से सुनी गई कुछ टिप्पणियां इस तरह दिखीं: "मैं जीएएन के साथ इस सब प्रचार के लिए इंतजार कर सकता हूं," जब कोई "प्रतिकूल" शब्द का उल्लेख करता है, तो मेरा मस्तिष्क बस नीचे गिर जाता है। मेरी राय में, वे सरल हैं।

6. गहराई से अध्ययन में जैविक विषयों की कमी

डीएनए में जीनों के अनुक्रम को निर्धारित करने के साथ-साथ CRISPR तकनीक का उपयोग करते हुए संशोधित बच्चों की उपस्थिति का निर्धारण करके जनता के द्वारा होने वाले महान उत्साह को देखते हुए, [यह मेरे लिए आश्चर्यजनक था कि ICLR पर जीव विज्ञान में गहन सीखने के उपयोग पर काम में कोई वृद्धि नहीं हुई। विषय पर छह लेख थे।

जीव विज्ञान से उधार ली गई वास्तुकला के मुद्दों पर दो:

• जैविक रूप से प्रशंसनीय शिक्षण एल्गोरिदम बड़े डेटासेट (जिओ एट अल।) को स्केल कर सकता है।
• एनाटॉमिकली कॉन्स्ट्रेस्ड डीप CNNs (लिंडसे एट अल।) के माध्यम से रेटिना से कोर्टेक्स के प्रारंभिक दृश्य प्रतिनिधियों का एक एकीकृत सिद्धांत।

आरएनए के लिए डिजाइन प्रशिक्षण पर एक काम (रन एट अल।) ।

तीन प्रोटीन हेरफेर नौकरियां:

• मानव-स्तरीय प्रोटीन स्थानीयकरण तंत्रिका संबंधी नेटवर्क (Rumetshofer एट अल।) के साथ।
• एक अलग सिम्युलेटर के साथ प्रोटीन संरचना सीखना (इंग्राहम एट अल।)।
• संरचना (बीलर एट अल।) से जानकारी का उपयोग करके प्रोटीन अनुक्रम सीखना।

जीनोम के विषय पर कोई लेख नहीं था, और कोई सेमिनार आयोजित नहीं किया गया था। कोई फर्क नहीं पड़ता कि यह कितना दुखद लग सकता है, हालांकि, गहरी शिक्षा में जीव विज्ञान और जीव विज्ञान में गहरी शिक्षा शोधकर्ताओं के लिए महान अवसर खुल रहे हैं।

एक तथ्य: फिंगरप्रिंट पर उपरोक्त लेख के पहले लेखक जैक लिंडसे ने अभी तक स्टैनफोर्ड कॉलेज से स्नातक नहीं किया है।

7. प्रबलित शिक्षण सबसे लोकप्रिय विषय बना हुआ है।

सम्मेलन में प्रस्तुत किए गए कागजात बताते हैं कि आरएल समुदाय मॉडल-मुक्त तरीकों से कुशल नमूनाकरण और मेटा-लर्निंग आधारित एल्गोरिदम के साथ मॉडल-आधारित एल्गोरिदम की ओर बढ़ रहा है। टीडी 3 (फुजिमोटो एट अल, 2018) और एसएसी (हारनोजा एट अल।, 2018) द्वारा निर्धारित मुजोको बेंचमार्क पर अत्यधिक उच्च परिणामों के कारण यह बदलाव संभवत: R2D2 (Kapturowski et al) द्वारा अटारी में असतत संचालन स्थान पर किया गया था । , आईसीएलआर 2019) ।

प्रशिक्षण की प्रक्रिया में, मॉडल-आधारित एल्गोरिदम एक पर्यावरणीय मॉडल प्राप्त करने के लिए उपलब्ध डेटा का उपयोग करते हैं और इसका उपयोग इस वातावरण में एजेंटों की रणनीतियों की योजना बनाने या नए डेटा उत्पन्न करने के लिए करते हैं। मॉडल-आधारित एल्गोरिदम ने अंततः 10-100 गुना कम डेटा (एमबी-एमपीओ (रोथफस एट अल।) ) का उपयोग करके अपने मॉडल-मुक्त समकक्षों की असममित सटीकता प्राप्त की है। नया लाभ मॉडल-आधारित तरीकों को वास्तविक स्तर की जटिलता के कार्यों के लिए उपयुक्त बनाता है। यदि प्रशिक्षण के बाद पर्यावरण के सिम्युलेटर में खामियां होंगी, जो बहुत संभावना है, तो इसकी कमी को अधिक जटिल मॉडल का उपयोग करके ऑफसेट किया जा सकता है, जैसे कि सिमुलेटर (राजेश्वरन एट अल।) । जटिलता के वास्तविक स्तर की समस्याओं को हल करने में आरएल का उपयोग करने का एक अन्य तरीका सिम्युलेटर को जटिल यादृच्छिकरण योजनाओं का समर्थन करने की अनुमति देना है। विभिन्न पर्यावरणीय सिमुलेटरों पर प्राप्त रणनीति वास्तविक दुनिया को "एक और यादृच्छिककरण" के रूप में मान सकती है और वास्तविक स्तर की जटिलता (ओपनएआई) के कार्यों में सफल हो सकती है।

मेटा-लर्निंग एल्गोरिदम जो आपको नए कार्यों में तेजी से सीखने के हस्तांतरण को प्राप्त करने की अनुमति देता है, प्रदर्शन के मामले में और नमूना दक्षता ( ProMP (Rothfuss et al।) , PEARL (Rakelly et al।) ) के संदर्भ में भी बेहतर हुए हैं। इन सुधारों ने हमें "आरएल पल के लिए इमेजनेट" के करीब ला दिया, जिसमें हम उन्हें खरोंच से प्रशिक्षण देने के बजाय अन्य कार्यों से सीखी गई निर्णय रणनीतियों का उपयोग कर सकते हैं (जो जटिल कार्यों के लिए असंभव है)।


स्वीकृत कार्य का एक प्रभावशाली हिस्सा, संरचना पर एक संगोष्ठी और आरएल में एक प्राथमिकता के साथ, सीखने के एल्गोरिदम में पर्यावरणीय ज्ञान के एकीकरण के लिए समर्पित था। यदि प्रारंभिक गहन आरएल एल्गोरिदम की मुख्य ताकत में से एक सामान्यीकरण था (उदाहरण के लिए, DQN सभी अटारी गेम के लिए एक ही वास्तुकला का उपयोग करता है, किसी विशेष गेम के बारे में कुछ भी नहीं जानता है), अब नए एल्गोरिदम अधिक जटिल को हल करने के लिए एक प्राथमिक ज्ञान के एकीकरण का उपयोग करते हैं कार्य। उदाहरण के लिए, ट्रांसपोर्टर नेटवर्क (जैकब एट अल।) में, एक एजेंट अधिक जानकारीपूर्ण अन्वेषण कार्य करने के लिए एक प्राथमिक ज्ञान का उपयोग करता है।

संक्षेप में, हम कह सकते हैं कि पिछले 5 वर्षों में, आरएल समुदाय ने मॉडल-मुक्त मोड में सुदृढीकरण प्रशिक्षण की समस्याओं को हल करने के लिए कई प्रभावी उपकरण विकसित किए हैं। अब यह वास्तविक दुनिया के कार्यों के लिए आरएल को लागू करने के लिए अधिक परिवहनीय और नमूना-कुशल एल्गोरिदम के साथ आने का समय है।

तथ्यों में से एक: सर्गेई लेविन शायद इस साल आईसीएलआर पर सबसे अधिक काम करने वाले व्यक्ति हैं, विशेष रूप से, उनके 15 लेख प्रकाशन के लिए स्वीकार किए गए हैं।

8. आम लेख जल्दी से पृष्ठभूमि में फीका

जब मैंने प्रसिद्ध शोधकर्ता से पूछा कि वह इस साल स्वीकृत कार्य के बारे में क्या सोचते हैं, तो उन्होंने कहा: "सम्मेलन समाप्त होते ही उनमें से अधिकांश को भुला दिया जाएगा।" मशीन लर्निंग जैसे तेज़ गति वाले क्षेत्र में, परिणाम सप्ताह में नहीं तो कई दिनों में ख़राब हो जाते हैं। आश्चर्य की बात नहीं, प्रस्तुत किए गए अधिकांश कागजात पहले से ही पुराने हो चुके हैं। उदाहरण के लिए, ICLR 2018 के लिए बोरेलिस एआई के अनुसार, “ प्रतिकूल हमलों के खिलाफ बचाव के आठ लेखों में से सात आईसीएलआर के शुरू होने से पहले ही असुरक्षित थे । इससे पता चलता है कि बिना किसी सैद्धांतिक आधार के हेयुरिस्टिक तरीके उतने ही विश्वसनीय हैं जितना वे लग सकते हैं। "

मैंने अक्सर सम्मेलन के दौरान टिप्पणियों को सुना, काम को स्वीकार / अस्वीकार करने के निर्णय के लिए अवसर के मूर्त योगदान को ध्यान में रखते हुए। मैं विशिष्ट लेखों का नाम नहीं लूंगा, हालांकि, पिछले कुछ वर्षों में सबसे चर्चित और सर्वाधिक उद्धृत पत्रों को पहली पोस्ट पर सम्मेलनों द्वारा खारिज कर दिया गया था। हालांकि, स्वीकार किए गए कई कागजात वर्षों तक प्रासंगिक रहेंगे, बिना उद्धृत किए भी।

इस क्षेत्र में शोध करने वाले व्यक्ति के रूप में, मैं अक्सर अस्तित्व में आता हूं। जो भी विचार मेरे पास आता है, ऐसा लगता है कि कोई और इसे पहले से ही महसूस कर रहा है, और बेहतर और तेज। यदि किसी को कभी इसकी आवश्यकता न हो तो एक लेख प्रकाशित करने की क्या बात है?

निष्कर्ष

बेशक, अभी भी रुझान हैं जो मैं कवर करना चाहूंगा।

• अनुकूलन और नियमितीकरण: एडम के खिलाफ SGD की बहस जारी है। कई नए तरीके प्रस्तावित किए गए हैं, और उनमें से कुछ काफी रोमांचक हैं। ऐसा लगता है कि आजकल प्रत्येक प्रयोगशाला अपना स्वयं का ऑप्टिमाइज़र विकसित कर रही है - यहां तक ​​कि हमारी टीम एक नए ऑप्टिमाइज़र पर काम कर रही है, जिसे निकट भविष्य में जारी किया जाना चाहिए।
• : , - . , , . , , GAN , .

, . , (55 ) . ICLR 2019 , , .




ICLR. , , , . . NeurIPS , : « , , ».

, , — , . , , . , . 10 10, [ICLR — .].

- , , , , . « » (Oleksii Hrinchuk)

---

यह मूल लेख को समाप्त करता है। हमारे क्लेवरडैटा कर्मचारियों की ओर से, मैं लेखक के साथ सहमत होना चाहता हूं कि मशीन लर्निंग कॉन्फ्रेंस वास्तव में आगे के काम के लिए प्रेरणा प्रदान करते हैं, जिससे आप अपने परिणामों की तुलना कर सकते हैं और सहकर्मियों से पेशेवर प्रतिक्रिया प्राप्त कर सकते हैं। पेशेवर विकास के लिए ऐसे आयोजनों में भागीदारी आवश्यक है। डेटा साइंस के विकास की दर बढ़ रही है, सम्मेलन में उनकी प्रस्तुति के क्षण से पहले ही काम पुराना है, और सम्मेलन के अंत के बाद अधिकांश काम भूल गए हैं। आपको केवल स्थान पर रहने के लिए उतनी ही तेजी से दौड़ने की आवश्यकता है, लेकिन कहीं जाने के लिए, आपको कम से कम दो बार तेज चलना चाहिए!