तोता उतरा है। पुस्तक की घोषणा "जेनेरिक डीप लर्निंग"

नमस्कार साथियों!

हमें यह घोषणा करते हुए प्रसन्नता हो रही है कि अगले वर्ष की शुरुआत के लिए हमारी प्रकाशन योजनाओं में डेविड फोस्टर की एक उत्कृष्ट नई जनरेटिव डीप लर्निंग पुस्तक शामिल है



लेखक ने चंद्रमा पर अपोलो के उतरने के साथ इस काम की तुलना नहीं की, मध्यम पर अपनी कृति की एक विस्तृत समीक्षा प्रकाशित की, जिसे हम वास्तविकता के करीब एक टीज़र पर विचार करने का प्रस्ताव देते हैं।

पढ़ने का आनंद लें, घोषणा का पालन करें!

ब्लॉग से किताब और वापस मेरी 459 दिन की यात्रा

20:17 यूटीसी, 20 जुलाई 2019

50 साल पहले, प्रति मिनट मिनट - ईगल मॉड्यूल को पायलट किया गया था, जिसे नील आर्मस्ट्रांग और बज़ एल्ड्रिन द्वारा संचालित किया गया था। यह इंजीनियरिंग, साहस और वास्तविक दृढ़ संकल्प की सर्वोच्च अभिव्यक्ति थी।

तेजी से 50 साल आगे - और पाते हैं कि अपोलो अंतरिक्ष यान ऑनबोर्ड कंट्रोल कंप्यूटर (AGC) की पूरी प्रसंस्करण शक्ति, जिसने इन लोगों को चंद्रमा तक पहुंचाया, अब आपकी जेब में कई बार फिट बैठता है। वास्तव में, आईफोन 6 की कंप्यूटिंग शक्ति एक साथ चंद्रमा पर अपोलो 11 के रूप में 120 मिलियन स्पेसशिप लाएगी।

यह तथ्य किसी भी तरह से एजीसी की महानता से अलग नहीं है। मूर के नियम को देखते हुए, आप किसी भी कंप्यूटर डिवाइस को ले सकते हैं और गलत नहीं है, यह कहते हुए कि 50 वर्षों में एक मशीन होगी जो 2 that गुना तेजी से काम कर सकती है।

मार्गरेट हैमिल्टन, एजीसी के लिए कोड लिखने वाले प्रोग्रामरों की टीम के प्रमुख ने उस समय के कंप्यूटरों की हार्डवेयर सीमाओं को एक बाधा के रूप में नहीं, बल्कि एक चुनौती के रूप में माना। अकल्पनीय को पूरा करने के लिए उसने अपने निपटान में सभी संसाधनों का उपयोग किया।



मार्गरेट हैमिल्टन और AGC के लिए कोड (स्रोत: विज्ञान इतिहास छवियाँ)

और अब, मैं आपको इसके बारे में बताना चाहता हूं ...

पुस्तक "जेनेरिक डीप लर्निंग"

459 दिन पहले, मुझे ओ'रेली मीडिया से एक पत्र मिला, जिसमें मुझसे पूछा गया कि पुस्तक लिखना कितना दिलचस्प होगा। मुझे यह विचार पसंद आया, इसलिए मैंने सहमति व्यक्त की और जेनेरिक मॉडलिंग के लिए सबसे अद्यतित मार्गदर्शिका लिखने का फैसला किया, या यूँ कहें कि एक व्यावहारिक पुस्तक जो आपको बताएगी कि कैसे समय-समय पर गहन शिक्षण मॉडल तैयार किए जा सकते हैं जो ग्रंथों को आकर्षित कर सकते हैं, संगीत लिख सकते हैं और खेल सकते हैं। ।

सबसे महत्वपूर्ण बात, मैं चाहूंगा कि इस पुस्तक को पढ़ने के बाद, पाठक विस्तार से जनरेटिव डीप लर्निंग को समझें और ऐसे मॉडल बनाने की कोशिश करें जो वास्तव में आश्चर्यजनक चीजें हों; इसके अलावा, इन मॉडलों को विशाल और महंगे कंप्यूटिंग संसाधनों की आवश्यकता नहीं होती है, जो अभी भी काफी धीमी गति से काम करते हैं।
मैं गहराई से आश्वस्त हूं: किसी भी तकनीकी विषय को सीखने के लिए, आपको उस पर छोटी-छोटी समस्याओं को हल करने की शुरुआत करने की जरूरत है, लेकिन उन्हें ऐसे विस्तार से समझें कि आप कोड की सभी पंक्तियों को एक ही बार में समझ लें।
यदि आप विशाल डेटा सेट और ऐसे मॉडल के साथ शुरू करते हैं, जिनमें से प्रत्येक को पूरा दिन लगता है और चलाने में एक घंटा नहीं लगता है, तो न्यूनतम से परे कुछ भी नहीं सीखें - प्रशिक्षण पर सिर्फ 24 गुना अधिक समय खर्च करें।

सबसे महत्वपूर्ण बात यह है कि अपोलो के चंद्रमा पर उतरने से हमें सिखाया गया है कि आप बेहद मामूली कंप्यूटिंग संसाधनों के साथ बिल्कुल आश्चर्यजनक परिणाम प्राप्त कर सकते हैं। बिल्कुल वैसी ही छाप, जैसा कि मेरी किताब पढ़ने के बाद आपको जेनेरेटिंग मॉडलिंग के बारे में होगी।

तोते से क्या बात है?

ओ'रेली के लिए लेखन सभी अधिक सुखद है क्योंकि वे आपकी पुस्तक के कवर के लिए पशुवत चित्र का चयन करते हैं। मुझे एक नीली सिर वाली लाल पूंछ वाला तोता मिला, जिसे मैंने नील विंगस्ट्रॉन्ग को भावनाओं के अनुकूल बनाया।



नील विंगस्ट्रॉन्ग तोता परिवार से है।

तो, तोता उतरा है। पुस्तक से क्या उम्मीद की जानी चाहिए?

यह किताब किस बारे में है?

यह पुस्तक जेनरेटिव मॉडलिंग के लिए एक अनुप्रयुक्त मार्गदर्शिका है।

यह उन सभी बुनियादी चीजों को निर्धारित करता है जो सबसे सरल जेनेरेटिव मॉडल बनाने में मदद करती हैं। फिर सामग्री धीरे-धीरे अधिक उन्नत मॉडल के लिए और अधिक जटिल हो जाती है, कदम से कदम। सभी अनुभाग व्यावहारिक उदाहरणों, वास्तु आरेखों और कोड के साथ हैं।
यह पुस्तक उन सभी के लिए है जो पीढ़ीगत मॉडलिंग के बारे में आगामी प्रचार को बेहतर ढंग से समझना चाहते हैं। पुस्तक पढ़ने के लिए गहन ज्ञान की आवश्यकता नहीं होती है, सभी कोड उदाहरण पायथन में दिए गए हैं।

पुस्तक में क्या माना गया है?

मैंने पिछले 5 वर्षों में जेनेरिक मॉडलिंग के क्षेत्र की सभी प्रमुख घटनाओं को पुस्तक में शामिल करने का प्रयास किया। यह ऐसे पैमाने पर निकलता है।



पुस्तक को दो भागों में विभाजित किया गया है, अध्याय का संक्षिप्त विवरण नीचे दिया गया है:

भाग 1: जनन दीप अधिगम का परिचय

पुस्तक के पहले चार अध्यायों का उद्देश्य आपको प्रमुख तकनीकों से परिचित कराना है, जिन्हें आपको गहन सीखने के सामान्य मॉडल के निर्माण के लिए शुरू करना होगा।

1. जनरेटिव मॉडलिंग

एक व्यापक संदर्भ में, हम जनरेटिव मॉडलिंग के अनुशासन और उन कार्यों के प्रकार पर विचार करेंगे, जिन्हें हम संभाव्य दृष्टिकोण का उपयोग करके हल करने की कोशिश कर रहे हैं। तब हम सबसे सरल संभावित संभाव्य जेनरेटर मॉडल के हमारे पहले उदाहरण की जांच करते हैं और विश्लेषण करते हैं कि जेनेरिक कार्य की जटिलता के कारण गहन शिक्षण विधियों का सहारा लेना क्यों आवश्यक हो सकता है।

2. गहरी सीख

यह अध्याय आपको गहन शिक्षण उपकरण और तकनीकों को नेविगेट करने में मदद करेगा, जिन्हें आपको और अधिक जटिल जेनरेटर मॉडल बनाने की आवश्यकता है। यहाँ आप केरस से मिलेंगे, तंत्रिका नेटवर्क के निर्माण के लिए एक रूपरेखा जो साहित्य में चर्चा किए गए कुछ अति-आधुनिक गहरे तंत्रिका नेटवर्क आर्किटेक्चर के निर्माण और प्रशिक्षण के लिए उपयोगी हो सकती है।

3. विविधता ऑटो एनकोडर

इस अध्याय में, हम जेनेरिक डीप लर्निंग के लिए अपने पहले मॉडल को देखेंगे - वैरिएबल ऑटो एनकोडर। यह शक्तिशाली दृष्टिकोण हमें वास्तविक चेहरों को खरोंच से उत्पन्न करने और मौजूदा छवियों को बदलने में मदद करेगा - उदाहरण के लिए, हमारे चेहरे पर मुस्कान जोड़ें या हमारे बालों का रंग बदल दें।

4. जनरेटिव कंसंट्रेशन नेटवर्क (GAN)

इस अध्याय में जेनेरिक मॉडलिंग की सबसे सफल किस्मों में से एक की चर्चा की गई है जो हाल के वर्षों में उभर कर आई है - जेनेरिक-प्रतिस्पर्धी नेटवर्क। जनरेटिव मॉडलिंग के कार्यों को संरचित करने के लिए इस खूबसूरत ढांचे के आधार पर, कई सबसे उन्नत जनरेटिव मॉडल बनाए गए हैं। हम इस बात पर विचार करेंगे कि यह कैसे ठीक हो सकता है और क्यों यह हमें उदार मॉडलिंग के माध्यम से लगातार प्राप्त होने वाली सीमाओं का विस्तार करने की अनुमति देता है।

भाग 2: हम मशीनों को संगीत बनाना और लिखना, लिखना और खेलना सिखाते हैं

भाग 2 ऐसे मामलों को प्रस्तुत करता है जो आपको यह समझने में मदद करते हैं कि विशिष्ट समस्याओं को हल करने के लिए जनरेटिव मॉडलिंग तकनीकों का उपयोग कैसे किया जा सकता है।

5. ड्राइंग

इस अध्याय में मशीन ड्राइंग से संबंधित दो तकनीकों पर चर्चा की गई है। सबसे पहले, हम तंत्रिका नेटवर्क CycleGAN के बारे में चर्चा करेंगे, जिसका नाम है, जैसा कि नाम से पता चलता है, GAN वास्तुकला का एक अनुकूलन है, जो मॉडल को एक निश्चित शैली (या इसके विपरीत) में लिखी गई पेंटिंग में फोटो को परिवर्तित करने के लिए सीखने की अनुमति देता है। हम कई मोबाइल फोटो एडिटिंग एप्लिकेशन में निर्मित न्यूरल ट्रांसफर तकनीक के बारे में भी बात करेंगे, जो इस धारणा को बनाने के लिए तस्वीर की शैली को फोटो में स्थानांतरित करने में मदद करता है कि यह फोटो उसी कलाकार की तस्वीरों में से एक और है।

6. ग्रंथ लिखना

इस अध्याय में, हम मशीन-लिखित ग्रंथों की ओर मुड़ते हैं; इस विषय क्षेत्र में, किसी को छवियों को बनाते समय अन्य चुनौतियों का सामना करना पड़ता है। यहां आप आवर्तक तंत्रिका नेटवर्क (आरएनएन) के बारे में जानेंगे - एक वास्तुकला जो धारावाहिक डेटा से जुड़ी समस्याओं को हल करने के लिए सुविधाजनक है। हम यह भी चर्चा करेंगे कि एनकोडर-डिकोडर की वास्तुकला कैसे काम करती है और प्रश्न और उत्तर जनरेटर स्वयं लिखती है।

7. संगीत की रचना

यह अध्याय संगीत पीढ़ी के लिए समर्पित है, और यह कार्य धारावाहिक डेटा पीढ़ी से भी संबंधित है। लेकिन, ग्रंथ लिखने के विपरीत, इस मामले में अतिरिक्त कठिनाइयाँ हैं - उदाहरण के लिए, संगीतमय ताल और ताल का मॉडलिंग। हम यह सुनिश्चित करेंगे कि पाठ को उत्पन्न करने के लिए उपयोग की जाने वाली तकनीकों में से कई इस विषय क्षेत्र में लागू हों, साथ ही साथ म्यूजेन नामक गहरी शिक्षण वास्तुकला का भी पता लगाएं, जो अध्याय 4 (GAN के बारे में) से लेकर संगीत डेटा तक के विचारों को अपनाता है।

8. खेल

इस अध्याय में वर्णन किया गया है कि कैसे जेनरेटिंग मॉडल मशीन लर्निंग के अन्य क्षेत्रों के साथ संगत हैं, जिसमें प्रबलित शिक्षण भी शामिल है। हम हाल ही में प्रकाशित सबसे दिलचस्प वैज्ञानिक लेखों में से एक पर चर्चा करेंगे, जिसे 'वर्ल्ड मॉडल' (दुनिया के मॉडल) कहा जाता है। इस लेख के लेखक दिखाते हैं कि कैसे जेनेरेटिव मॉडल को एक ऐसे वातावरण के रूप में इस्तेमाल किया जा सकता है जिसमें एजेंट को प्रशिक्षित किया जाता है, वास्तव में एजेंट को भविष्य के संभावित परिदृश्यों को "सोचने" की अनुमति देता है और कल्पना करता है कि अगर कुछ कार्रवाई की जाती है तो क्या होगा, और यह सब पूरी तरह से हमारे वैचारिक के संदर्भ में है। पर्यावरण मॉडल।

9. जेनेरिक मॉडलिंग का भविष्य

यहाँ हम पीढ़ीगत मॉडलिंग के वर्तमान तकनीकी परिदृश्य का सारांश देते हैं और इस पुस्तक में प्रस्तुत कुछ तकनीकों को याद करते हुए पीछे मुड़कर देखते हैं। हम इस बारे में भी बात करेंगे कि सबसे आधुनिक तंत्रिका नेटवर्क आर्किटेक्चर आज कैसे उपलब्ध हैं, उदाहरण के लिए, GPT-2 और BigGAN, रचनात्मक गतिविधि के बारे में हमारे विचारों को बदल सकते हैं। मुझे आश्चर्य है कि क्या कभी ऐसा कृत्रिम सिस्टम बनाना संभव होगा जो मानव दृश्य कला, साहित्य और संगीत के नमूनों से अविभाज्य कार्य उत्पन्न कर सके।

10. निष्कर्ष

अंतिम विचार क्यों जनरेटिव डीप लर्निंग अगले 5-10 वर्षों में गहन शिक्षण में सबसे महत्वपूर्ण प्रौद्योगिकी क्षेत्रों में से एक हो सकता है।

परिणाम

एक ऐसी दुनिया में जहाँ कल्पना से वास्तविकता को भेद पाना मुश्किल होता जा रहा है, इंजीनियरों के काम जो विस्तार से जनरेटिव मॉडल के काम के सिद्धांतों को समझते हैं और संभावित तकनीकी सीमाओं से डरते नहीं हैं, महत्वपूर्ण हो जाते हैं।

मुझे उम्मीद है कि मेरी पुस्तक आपको इन नवीनतम तकनीकों को समझने की दिशा में पहला कदम उठाने में मदद करेगी, और आपके लिए एक दिलचस्प और सुखद रीडिंग भी बन जाएगी।