एक शिक्षक के बिना सीखना: एक जिज्ञासु छात्र

पिछले एक दशक में, मशीन लर्निंग ने अभूतपूर्व रूप से विविध क्षेत्रों में पैटर्न मान्यता, रोबोमेबाइल, और जटिल गेम जैसे कि गो के रूप में उन्नत किया है। इन सफलताओं को मुख्य रूप से दो प्रतिमानों में से एक के साथ गहरे तंत्रिका नेटवर्क के प्रशिक्षण के माध्यम से प्राप्त किया गया था - एक शिक्षक के साथ सीखना और सुदृढीकरण के साथ सीखना । दोनों प्रतिमानों को मानव प्रशिक्षण संकेतों के विकास की आवश्यकता होती है, जो तब कंप्यूटर पर प्रसारित होते हैं। एक शिक्षक के साथ प्रशिक्षण के मामले में, ये "लक्ष्य" हैं (उदाहरण के लिए, छवि के नीचे सही हस्ताक्षर); सुदृढीकरण के मामले में, ये सफल व्यवहार के लिए "पुरस्कार" हैं (अटारी से खेल में उच्च स्कोर)। इसलिए, लोगों द्वारा सीखने की सीमा निर्धारित की जाती है।

और अगर कुछ वैज्ञानिकों का मानना ​​है कि पर्याप्त रूप से व्यापक प्रशिक्षण कार्यक्रम - उदाहरण के लिए, कार्य की एक विस्तृत श्रृंखला को सफलतापूर्वक पूरा करने की क्षमता - सामान्य-उद्देश्य वाली बुद्धिमत्ता उत्पन्न करने के लिए पर्याप्त होना चाहिए, तो दूसरों का मानना ​​है कि सच्ची बुद्धि को अधिक स्वतंत्र सीखने की रणनीतियों की आवश्यकता होगी। उदाहरण के लिए, एक बच्चे को पढ़ाने की प्रक्रिया पर विचार करें। उनकी दादी उनके साथ बैठ सकती हैं और धैर्यपूर्वक उन्हें बतखों का उदाहरण दिखा सकती हैं (शिक्षक के साथ सीखने पर एक शिक्षण संकेत के रूप में काम करना) या क्यूब्स के साथ एक पहेली को सुलझाने के लिए तालियों से उन्हें पुरस्कृत करना (जैसा कि प्रबलित शिक्षा में)। हालांकि, ज्यादातर समय बच्चे भोलेपन से दुनिया की खोज करते हैं, और जिज्ञासा, खेल और अवलोकन के माध्यम से पर्यावरण को समझते हैं। शिक्षक के बिना सीखना एक प्रतिमान है जिसे किसी भी विशिष्ट कार्यों की परवाह किए बिना डेटा का अध्ययन करने के लिए पुरस्कृत एजेंटों (कंप्यूटर प्रोग्राम) द्वारा स्वायत्त खुफिया बनाने के लिए डिज़ाइन किया गया है। दूसरे शब्दों में, एजेंट को सीखने के लिए प्रशिक्षित किया जाता है।

एक शिक्षक के बिना सीखने में मुख्य प्रेरणा यह है कि यदि डेटा को एल्गोरिदम सीखने के लिए प्रेषित किया गया है, तो एक अत्यंत समृद्ध आंतरिक संरचना (चित्र, वीडियो, पाठ) है, तो प्रशिक्षण में लक्ष्य और पुरस्कार आमतौर पर बहुत शुष्क होते हैं (इस प्रजाति के लिए "कुत्ते" लेबल, या) इकाई / शून्य, खेल में सफलता या विफलता का संकेत)। इससे पता चलता है कि एल्गोरिथ्म जो अध्ययन कर रहा है, उसमें से अधिकांश डेटा की समझ से युक्त होना चाहिए, और इस समझ को कुछ समस्याओं के समाधान के लिए लागू नहीं करना चाहिए।

दृष्टि के तत्वों का डिकोडिंग

2012 गहन सीखने के लिए एक ऐतिहासिक वर्ष था जब एलेक्ज़नेट (प्रमुख वास्तुकार एलेक्स क्रिज़ेव्स्की के नाम पर) ने इमेजनेट वर्गीकरण प्रतियोगिता में प्रतियोगियों की हिम्मत बढ़ाई । छवियों को पहचानने की उसकी क्षमता में कोई समानता नहीं थी, लेकिन इससे भी अधिक आश्चर्य की बात यह थी कि हुड के नीचे क्या हो रहा था। एलेक्सनेट के कार्यों का विश्लेषण करने के बाद, वैज्ञानिकों ने पाया कि यह इनपुट डेटा के तेजी से जटिल आंतरिक अभ्यावेदन के निर्माण के माध्यम से छवियों की व्याख्या करता है। निम्न-स्तर की विशेषताएं, उदाहरण के लिए, बनावट और चेहरे, निचली परतों द्वारा दर्शाए जाते हैं, और फिर उनसे उच्चतर परतों पर, उच्च स्तर की अवधारणाएं संयुक्त होती हैं, जैसे कि पहिए या कुत्ते।

यह आश्चर्यजनक रूप से समान है कि हमारा मस्तिष्क कैसे सूचनाओं को संसाधित करता है - इंद्रियों से संबंधित मुख्य क्षेत्रों में सरल चेहरे और बनावट मस्तिष्क के उच्च क्षेत्रों में चेहरे जैसी जटिल वस्तुओं में इकट्ठे होते हैं। इस प्रकार, एक जटिल दृश्य को विज़ुअल प्राइमेटिक्स से इकट्ठा किया जा सकता है, उसी तरह से जो अर्थ व्यक्तिगत शब्दों से उत्पन्न होता है जो एक वाक्य बनाते हैं। प्रत्यक्ष स्थापना के बिना, एलेक्सनेट की परतों ने एक मौलिक दृश्य "शब्दकोश" का खुलासा किया जो समस्या को हल करने के लिए उपयुक्त है। एक तरह से, नेटवर्क ने लुडविग विट्गेन्स्टाइन ने " भाषा का खेल " कहा, जिसे प्ले पिक्स से लेकर इमेज लेबल तक के चरणबद्ध तरीके से जाना जाता है।


दृश्य-संबंधी तंत्रिका नेटवर्क का शब्दकोश। प्रत्येक परत के लिए, छवियां बनाई जाती हैं जो कुछ न्यूरॉन्स की सक्रियता को अधिकतम करती हैं। फिर अन्य छवियों के लिए इन न्यूरॉन्स की प्रतिक्रिया को दृश्य "शब्दों" की उपस्थिति या अनुपस्थिति के रूप में व्याख्या की जा सकती है: बनावट, बुकशेल्फ़, कुत्तों, पक्षियों के चेहरे।

स्थानांतरण प्रशिक्षण

सामान्य-प्रयोजन की बुद्धिमत्ता के दृष्टिकोण से, एलेक्सनेट शब्दकोश में सबसे दिलचस्प बात यह है कि इसे पुन: उपयोग किया जा सकता है, या अन्य दृश्य कार्यों में स्थानांतरित किया जा सकता है, उदाहरण के लिए, न केवल व्यक्तिगत वस्तुओं को पहचानने के लिए, बल्कि पूरे दृश्यों को भी। एक कभी-बदलती दुनिया में स्थानांतरण बिल्कुल आवश्यक है, और लोग इसे बहुत अच्छी तरह से करते हैं: हम किसी भी मौजूदा स्थिति में अनुभव (विश्व मॉडल) से प्राप्त कौशल और समझ को जल्दी से अनुकूलित करने में सक्षम हैं। उदाहरण के लिए, एक शास्त्रीय शिक्षा के साथ एक पियानोवादक आसानी से जैज़ खेलना सीख जाएगा। दुनिया के सही आंतरिक चित्र बनाने वाले कृत्रिम एजेंटों में संभवतः समान क्षमताएं होनी चाहिए।

हालांकि, क्लासिफायर जैसे कि एलेक्सनेट द्वारा प्राप्त प्रतिनिधित्व की अपनी सीमाएं हैं। विशेष रूप से, चूंकि नेटवर्क को एक वर्ग (कुत्ता, बिल्ली, कार, ज्वालामुखी) को लेबल करने के लिए प्रशिक्षित किया जाता है, बाकी जानकारी - कोई फर्क नहीं पड़ता कि यह अन्य कार्यों के लिए कितना उपयोगी हो सकता है - यह अनदेखी करेगा। उदाहरण के लिए, प्रतिनिधित्व छवियों की पृष्ठभूमि पर कब्जा नहीं कर सकते हैं यदि लेबल केवल अग्रभूमि में वस्तुओं को संदर्भित करते हैं। एक संभावित समाधान अधिक व्यापक प्रशिक्षण संकेत देना है, उदाहरण के लिए, छवियों का विस्तृत विवरण : न केवल एक "कुत्ता", लेकिन "कॉर्गी एक धूप पार्क में फ्रिसबी पकड़ता है"। हालांकि, इस तरह के लेबल को विशेष रूप से बड़े पैमाने पर प्रत्यय करना मुश्किल है, और वे अभी भी कार्य को पूरा करने के लिए आवश्यक सभी जानकारी को समझने के लिए पर्याप्त नहीं हो सकते हैं। शिक्षक के बिना सीखने का मूल आधार यह है कि आसानी से पोर्टेबल अभ्यावेदन सीखने का सबसे अच्छा तरीका यह है कि डेटा के बारे में जो कुछ भी संभव है उसे सीखने की कोशिश करें।

यदि अभ्यावेदन के प्रशिक्षण के माध्यम से संक्रमण की अवधारणा आपको बहुत सारगर्भित लगती है, तो एक ऐसे बच्चे की कल्पना करें जिसने "छड़ी, छड़ी, ककड़ी" की शैली में लोगों को आकर्षित करना सीखा है। उन्हें एक व्यक्ति की उपस्थिति का प्रतिनिधित्व मिला, जो बहुत कॉम्पैक्ट और अच्छी तरह से अनुकूलित दोनों है। प्रत्येक आकृति को कुछ विशेषताओं के साथ लागू करते हुए, वह सभी सहपाठियों के चित्र बना सकता है: अपने सबसे अच्छे दोस्त के लिए चश्मा, अपने स्कूल के साथी को एक प्यारी लाल टी-शर्ट। और उसने इस कौशल को एक विशिष्ट कार्य को पूरा करने या इनाम प्राप्त करने के लिए नहीं, बल्कि अपने आसपास की दुनिया को प्रतिबिंबित करने की एक बुनियादी आवश्यकता के जवाब में विकसित किया।

रचनात्मकता के माध्यम से सीखना: जेनेरिक मॉडल

शायद शिक्षक के बिना सीखने का सबसे सरल लक्ष्य एल्गोरिदम को प्रशिक्षित करने के लिए अपने स्वयं के डेटा उदाहरण बनाने के लिए है। तथाकथित जेनरिक मॉडल को न केवल उस डेटा को पुन: उत्पन्न करना चाहिए जिस पर उन्हें प्रशिक्षित किया गया था (यह सिर्फ एक "याद" है), लेकिन उस वर्ग का एक मॉडल बनाएं जिसमें से डेटा लिया गया था। घोड़े या इंद्रधनुष की विशिष्ट तस्वीर नहीं, बल्कि घोड़े और इंद्रधनुष की तस्वीरों का एक सेट; किसी विशेष वक्ता का विशिष्ट कथन नहीं, बल्कि मौखिक कथनों का सामान्य वितरण। जेनेरेटिव मॉडल का मूल सिद्धांत यह है कि डेटा का एक ठोस उदाहरण बनाने की संभावना सबसे मजबूत सबूत है जो उन्हें समझा गया था: जैसा कि रिचर्ड फेनमैन ने कहा, "जो मैं नहीं बना सकता, मुझे समझ में नहीं आता है।"

अब तक, छवियों के लिए सबसे सफल जेनेरिक मॉडल जेनेरिक-कॉम्पिटिटिव नेटवर्क (GSS) बना हुआ है, जिसमें दो नेटवर्क - जनरेटर और डिस्क्रिमिनेटर - एक नकली विशेषज्ञ और एक जासूस की प्रतियोगिता के समान, मान्यता प्रतियोगिता में प्रवेश करते हैं। जनरेटर छवियों का निर्माण करता है, भेदभाव करने वाले को उनकी वास्तविकता में विश्वास करने की कोशिश करता है; विवेकशील को फेक का पता लगाने के लिए पुरस्कृत किया जाता है। उत्पन्न छवियों को पहले यादृच्छिक और मैला किया जाता है, फिर कई दृष्टिकोणों में सुधार किया जाता है, और नेटवर्क के गतिशील इंटरैक्शन में तेजी से यथार्थवादी छवियों की उपस्थिति होती है, जो कई मामलों में वास्तविक तस्वीरों से अलग नहीं हो सकती है । जीएसएस उपयोगकर्ताओं के किसी न किसी स्केच के आधार पर विस्तृत परिदृश्य प्रदान कर सकता है।

नीचे दी गई छवियों पर एक नज़र यह सुनिश्चित करने के लिए पर्याप्त होगी कि नेटवर्क ने तस्वीरों की कई प्रमुख विशेषताओं को चित्रित करना सीखा है, जिस पर यह प्रशिक्षित किया गया था - जानवरों के शरीर की संरचना, घास की बनावट और प्रकाश और छाया के खेलने का विवरण (यहां तक ​​कि एक साबुन के बुलबुले के प्रतिबिंब में)। एक सावधानीपूर्वक अध्ययन से छोटी विसंगतियों का पता चलता है, जैसे कि एक सफेद कुत्ते में एक अतिरिक्त पैर और एक फव्वारे के जेट में एक अजीब समकोण। हालांकि जेनरिक मॉडल के निर्माता इस तरह की खामियों से छुटकारा पाने की कोशिश कर रहे हैं, इस तथ्य को कि हम उन्हें इस तरह के परिचित डेटा को छवियों के रूप में फिर से संगठित करने के फायदों में से एक के बोल सकते हैं: नमूनों का अध्ययन करके, शोधकर्ता समझ सकते हैं कि मॉडल ने क्या सीखा है और अभी तक क्या नहीं है।

भविष्यवाणी के माध्यम से निर्माण

एक शिक्षकविहीन वर्ग में नेटवर्क का एक और उल्लेखनीय परिवार ऑटोरोग्रेसिव मॉडल है, जिसमें डेटा को छोटे टुकड़ों में तोड़ दिया जाता है, जिनमें से प्रत्येक मॉडल बारी-बारी से भविष्यवाणी करता है। इस तरह के मॉडल का उपयोग निम्नानुसार डेटा उत्पन्न करने के लिए किया जा सकता है: पहले, नेटवर्क अनुमान लगाता है कि क्या चल रहा है, वे इस अनुमान को इसके इनपुट को खिलाते हैं, और यह फिर से अनुमान लगाता है। सबसे प्रसिद्ध उदाहरण भाषा मॉडल होगा, जहां प्रत्येक अगले शब्द की भविष्यवाणी पिछले लोगों के आधार पर की जाती है: ये मॉडल पाठ भविष्यवाणियों के साथ काम करते हैं जो विभिन्न अनुप्रयोगों में और ईमेल भेजते समय दिखाई देते हैं। भाषा मॉडलिंग में हाल के घटनाक्रम आपको आश्चर्यजनक रूप से उचित मार्ग बनाने की अनुमति देते हैं - उदाहरण के लिए, OpenAI GPT-2 से लिया गया:

सिस्टम को संकेत (आदमी द्वारा लिखित)

वैज्ञानिकों ने सुदूर और पहले से मौजूद अनीस वैली में रहने वाले गेंडा के झुंड की खोज करके एक चौंकाने वाली खोज की। शोधकर्ताओं के लिए इससे भी अधिक आश्चर्य की बात यह थी कि गेंडा उत्कृष्ट अंग्रेजी बोलते थे।

मॉडल-पूर्ण पाठ (10 प्रयासों के बाद)

वैज्ञानिकों ने अपने विशिष्ट सींगों के कारण जनसंख्या को "ओवीड यूनिकॉर्न" कहा है। ये चार सींग वाले चांदी-सफेद गेंदे पहले विज्ञान के लिए अज्ञात थे। और आखिरकार, दो शताब्दियों के बाद, इस अजीब घटना को जन्म देने वाले रहस्य को सुलझाया गया है।

डॉ। जोर्ज पेरेज़, लापाज़ विश्वविद्यालय के एक विकासवादी जीवविज्ञानी और उनके कई सहयोगियों ने एंडीज का अध्ययन किया जब उन्होंने एक छोटी घाटी की खोज की जहां कोई अन्य जानवर और लोग नहीं थे। पेरेस ने घाटी में कुछ देखा जो एक प्राकृतिक फव्वारे की तरह लग रहा था, दो चट्टानी चोटियों और चांदी की बर्फ से घिरा हुआ था।

फिर पेरेज और बाकी लोग इस घाटी में आगे बढ़ गए। "जब हम चोटियों में से एक के पास गए, तो पानी नीला लग रहा था, और इसकी सतह पर कुछ क्रिस्टल थे," पेरेस ने कहा।

पेरेस और उसके दोस्त गेंडा का झुंड देखकर चकित रह गए। इन प्राणियों को हवा से देखा जा सकता था, उन्हें देखने के लिए उनके बहुत करीब नहीं - वे इतने करीब थे कि वे अपने सींगों को छू सकते थे।

एक दिलचस्प विसंगति "चार सींग वाले" के रूप में इकसिंगों का वर्णन है: यह नेटवर्क को समझने की सीमाओं का अध्ययन करने के लिए मजेदार है।

फ़ाइन-ट्यून भविष्यवाणियों के लिए उपयोग किए जाने वाले इनपुट अनुक्रम को नियंत्रित करके, आप एक अनुक्रम को दूसरे में अनुवाद करने के लिए ऑटोरेग्रेसिव मॉडल का उपयोग कर सकते हैं। यह प्रदर्शन पाठ को वास्तविक रूप से हस्तलिखित रूप में अनुवाद करने के लिए एक सशर्त स्वायत्त मॉडल का उपयोग करता है। वेवनेट पाठ को प्राकृतिक भाषण में परिवर्तित करता है, और अब इसका उपयोग Google सहायक के लिए आवाज उत्पन्न करने के लिए किया जाता है। ट्यूनिंग और ऑटोरिएरेटिव पीढ़ी में समान प्रगति का उपयोग एक भाषा से दूसरी भाषा में अनुवाद के लिए किया जा सकता है।

ऑटोरोग्रेसिव मॉडल एक निश्चित क्रम में प्रत्येक भाग की भविष्यवाणी करने की कोशिश करते हुए, डेटा का अध्ययन करते हैं। आप एक शिक्षक के बिना सीखने के साथ नेटवर्क का एक अधिक सामान्यीकृत वर्ग बना सकते हैं, किसी अन्य के आधार पर डेटा के किसी भी हिस्से के बारे में भविष्यवाणियां कर सकते हैं। उदाहरण के लिए, इसका मतलब यह हो सकता है कि हम एक शब्द को वाक्य से हटा दें और बाकी पाठ के आधार पर इसकी भविष्यवाणी करने की कोशिश करें । स्थानीय भविष्यवाणियों की एक भीड़ से एक क्वेरी के माध्यम से एक प्रणाली को पढ़ाने के द्वारा, हम इसे संपूर्ण रूप से सभी डेटा का अध्ययन करने के लिए मजबूर करते हैं।

जेनेरिक मॉडल की समस्याओं में से एक उनके दुर्भावनापूर्ण उपयोग की संभावना है। तस्वीरों, वीडियो और ऑडियो रिकॉर्डिंग के रूप में सबूतों का हेरफेर लंबे समय से संभव है, लेकिन जनरेटिव मॉडल दुर्भावनापूर्ण इरादे से इन सामग्रियों के संपादन की सुविधा प्रदान कर सकते हैं। हमने पहले ही तथाकथित का एक प्रदर्शन देखा है deepfake - उदाहरण के लिए, ओबामा के साथ एक नकली वीडियो । यह देखना संतुष्टिदायक है कि इन चुनौतियों का जवाब देने के लिए गंभीर प्रयास हैं - उदाहरण के लिए, सिंथेटिक सामग्रियों का पता लगाने और प्रामाणिक लोगों की पुष्टि करने के लिए सांख्यिकीय तकनीकों का उपयोग, जो हो रहा है , उससे जनता को परिचित करना और प्रशिक्षित जेनरिक मॉडल की उपलब्धता को सीमित करने के बारे में चर्चा करना। इसके अलावा, जेनरेट किए गए मॉडल का उपयोग खुद को मनगढ़ंत सामग्री और असामान्य डेटा का पता लगाने के लिए किया जा सकता है - उदाहरण के लिए, फर्जी भाषण का पता लगाने या उपयोगकर्ताओं को धोखेबाजों से बचाने के लिए असामान्य भुगतान का पता लगाने के लिए। शोधकर्ताओं को उन्हें बेहतर ढंग से समझने और भविष्य में जोखिम कम करने के लिए जेनरेटर मॉडल पर काम करने की जरूरत है।

इंटेलिजेंस को फिर से बनाना

जेनरेटिव मॉडल खुद बहुत दिलचस्प होते हैं, लेकिन दीपमाइंड में हम उन्हें सामान्य-प्रयोजन की बुद्धिमत्ता के पथ के एक चरण के रूप में मानते हैं। एक एजेंट को डेटा देने की क्षमता प्रदान करना उसके बारे में कल्पना करना है, और परिणामस्वरूप, भविष्य के बारे में योजना और कारण की क्षमता। हमारे अध्ययन बताते हैं कि डेटा बनाने के लिए एक विशेष कार्य के बिना भी पर्यावरण के विभिन्न पहलुओं की भविष्यवाणी करने में प्रशिक्षण , एजेंट के विश्व मॉडल को समृद्ध करता है और इसलिए, समस्याओं को हल करने की उनकी क्षमता में सुधार करता है।

ये परिणाम मानव मन की हमारी सहज समझ के साथ ओवरलैप करते हैं। विशेष पर्यवेक्षण के बिना दुनिया का अध्ययन करने की हमारी क्षमता बुद्धि के मौलिक गुणों में से एक है। एक प्रशिक्षण यात्रा पर, हम अनिश्चित रूप से खिड़की से बाहर देख सकते हैं, सीटों में मखमली को छू सकते हैं, हमारे साथ यात्रा करने वाले यात्रियों पर विचार कर सकते हैं। इन अध्ययनों में, हमारे पास कोई लक्ष्य नहीं है: हम अपने दिमाग को जानकारी इकट्ठा करने से लगभग नहीं हटा सकते हैं, और हमारा मस्तिष्क अथक रूप से हमारे चारों ओर की दुनिया और उसमें हमारे स्थान को समझने का काम करता है।