एंड्रयू एनजी की मशीन लर्निंग ईयरिंग के पहले अध्यायों के प्रकाशन को तीन साल बीत चुके हैं। यदि आप हब "मशीन लर्निंग" के सदस्य हैं, तो आपको इसके लेखक से परिचय कराने की कोई आवश्यकता नहीं है, और सबसे अधिक संभावना है कि आप मूल स्रोत की भाषा में बहुत पहले ही किताब पढ़ चुके होंगे। रूसी में किताब की पहली छमाही का अनुवाद अलेक्सी_निचनिकोव द्वारा किया गया था, इस क्षण तक यह एक लेख की एक श्रृंखला में हैबे्र पर प्रकाशित किया गया था।


मैं आपके लिए पुस्तक के दूसरे भाग के अनुवाद का अपना संस्करण प्रस्तुत करता हूँ, जिसका नाम है अध्याय 36-58। प्रकाशन की सुविधा के लिए इसे दो लेखों में तोड़ने की योजना है। इसके अलावा, आप इन अध्यायों का पूरी तरह से तैयार अनुवाद डाउनलोड कर सकते हैं, पीडीएफ में संकलित , शायद किसी को यह प्रारूप पढ़ने के लिए अधिक सुविधाजनक लगेगा।

पहला लेख विभिन्न वितरणों पर प्रशिक्षण और परीक्षण के साथ-साथ आउटपुट एल्गोरिदम डिबगिंग पर केंद्रित होगा।

विभिन्न वितरणों पर प्रशिक्षण और परीक्षण

---

अध्याय 36. जब आपको अलग-अलग वितरण पर प्रशिक्षित और परीक्षण करना चाहिए

---

आपके कैट फोटो ऐप के उपयोगकर्ताओं ने 10,000 छवियां अपलोड कीं, जिन्हें आपने स्वयं बिल्लियों के साथ लेबल किया है या नहीं। आपके पास 200,000 चित्रों का एक बड़ा सेट है जिसे आपने इंटरनेट से डाउनलोड किया है। प्रशिक्षण (ट्रेन सेट), सत्यापन (देव सेट) और परीक्षण चयन (टेस्ट सेट) कैसे परिभाषित करें?

चूंकि उपयोगकर्ताओं की 10,000 छवियां उस डेटा की वास्तविक संभाव्यता वितरण को बारीकी से दर्शाती हैं जिसे आप भविष्य में सफलतापूर्वक काम करना चाहते हैं, इसलिए आप इसे अपने सत्यापन और परीक्षण नमूनों के लिए उपयोग कर सकते हैं। यदि आप एक गहन शिक्षण एल्गोरिदम को प्रशिक्षित करते हैं जो प्रशिक्षण उदाहरणों की संख्या पर मांग कर रहा है, तो आप इसे प्रशिक्षण के लिए इंटरनेट से डाउनलोड की गई अतिरिक्त 200,000 छवियां दे सकते हैं। इस प्रकार, सत्यापन और परीक्षण के नमूनों में डेटा के अलग-अलग संभावना वितरण होंगे। यह आपके काम के परिणाम को कैसे प्रभावित करेगा?

अपने डेटा को प्रशिक्षण, सत्यापन और परीक्षण नमूनों में तोड़ने के बजाय, हम उपलब्ध सभी 210,000 छवियों को ले सकते हैं और उन्हें प्रशिक्षण, सत्यापन और परीक्षण नमूनों में बेतरतीब ढंग से फेरबदल कर सकते हैं। इस मामले में, सभी डेटा समान वितरण के साथ आते हैं। लेकिन मैं इस पद्धति का उपयोग करने की अनुशंसा नहीं करता, क्योंकि आपकी मान्यता और परीक्षण के नमूनों में से लगभग 97.6% (205,000 / 210,000) में इंटरनेट से डाउनलोड की गई छवियां शामिल होंगी जो उस वास्तविक वितरण को प्रतिबिंबित नहीं करती हैं जिस पर आप सफल होना चाहते हैं।

सत्यापन और परीक्षण नमूनों की परिभाषा के लिए सिफारिश:

• भविष्य में आपको प्राप्त होने वाले डेटा को प्रतिबिंबित करने के लिए सत्यापन और परीक्षण के नमूने का चयन करें और जिसे आप सफलतापूर्वक काम करना चाहते हैं।

अधिकांश शैक्षणिक मशीन लर्निंग साहित्य से पता चलता है कि प्रशिक्षण, सत्यापन और परीक्षण नमूने सभी का समान वितरण है। ¹ मशीन सीखने की सुबह, डेटा दुर्लभ थे। आमतौर पर हमारे पास कुछ संभावना वितरण के साथ केवल एक डेटा सेट था। इसलिए, हमने यादृच्छिक रूप से पूरे सेट को प्रशिक्षण, सत्यापन और परीक्षण नमूनों में विभाजित किया, यह मानते हुए कि सभी डेटा एक ही स्रोत से आए हैं, जो आमतौर पर वास्तविकता के अनुरूप होते हैं।

¹ विभिन्न वितरणों पर मॉडल के प्रशिक्षण और परीक्षण पर कई वैज्ञानिक अध्ययन हैं। उदाहरणों में डोमेन अनुकूलन, स्थानांतरण सीखना और मल्टीटास्क लर्निंग शामिल हैं। लेकिन अभी भी सिद्धांत और व्यवहार के बीच एक बड़ा अंतर है। यदि आप डेटासेट A पर एक मॉडल को प्रशिक्षित करते हैं और डेटासेट B पर परीक्षण करते हैं, जो बहुत अलग है, तो भाग्य आपके एल्गोरिदम के प्रदर्शन पर भारी प्रभाव डाल सकता है। (यहां, "भाग्य" में एक विशिष्ट कार्य के लिए एक शोधकर्ता द्वारा विशेषताओं का मैनुअल चयन शामिल है, साथ ही अन्य कारक जिन्हें हम अभी तक नहीं समझ पाए हैं।) इससे विभिन्न वितरणों पर प्रशिक्षण और परीक्षण का एक व्यवस्थित शैक्षणिक अध्ययन करना मुश्किल हो जाता है।

लेकिन बड़े डेटा के युग में, अब हमारे पास विशाल प्रशिक्षण सेटों तक पहुंच है, जैसे कि इंटरनेट से बिल्लियों के साथ छवियां। भले ही प्रशिक्षण के नमूने में सत्यापन और परीक्षण के नमूनों के वितरण से भिन्न वितरण है, फिर भी हम इसे प्रशिक्षण के लिए उपयोग करना चाहते हैं, क्योंकि यह बहुत सी अतिरिक्त जानकारी प्रदान कर सकता है।

एक बिल्ली डिटेक्टर के साथ उदाहरण में, सत्यापन और परीक्षण नमूनों में उपयोगकर्ताओं द्वारा अपलोड की गई सभी 10,000 छवियों को डालने के बजाय, हम उनमें केवल 5,000 छवियों को रख सकते हैं। और शेष 5,000 उदाहरण हम प्रशिक्षण सेट में डाल सकते हैं। इस प्रकार, प्रशिक्षण के नमूने में 205,000 उदाहरण शामिल होंगे, और सत्यापन और परीक्षण के नमूने, 200,000 इंटरनेट छवियों के समान वितरण वाले डेटा शामिल होंगे। अगले अध्याय में, हम चर्चा करेंगे कि यह तरीका क्यों उपयोगी है।

आइए एक दूसरा उदाहरण देखें। मान लीजिए कि आप नेविगेटर वॉयस एप्लिकेशन के पते को ट्रांसक्रिप्ट करने के लिए स्पीच रिकग्निशन सिस्टम बना रहे हैं। आपके पास 20,000 उदाहरण हैं, जिनमें से प्रत्येक में उपयोगकर्ता कुछ नाम बताता है। लेकिन आपके पास 500,000 अन्य ऑडियो रिकॉर्डिंग भी हैं जिसमें उपयोगकर्ता मुफ्त विषयों पर बात करते हैं। आप सत्यापन के लिए पतों के साथ 10,000 उदाहरण ले सकते हैं और नमूनों का परीक्षण कर सकते हैं, और शेष 10,000 उदाहरणों को प्रशिक्षण सेट में शामिल करने के लिए अतिरिक्त 500,000 उदाहरण दिए जाएंगे।

हम यह मानते रहेंगे कि हमारे सत्यापन और परीक्षण नमूना डेटा का समान वितरण है। लेकिन यह समझना और याद रखना महत्वपूर्ण है कि प्रशिक्षण और सत्यापन / परीक्षण के नमूनों में विभिन्न वितरणों से विशेष समस्याएं पैदा होंगी।

---

अध्याय 37. कैसे तय करें कि अपने सभी डेटा या केवल भाग का उपयोग करें

---

मान लीजिए कि आपके कैट डिटेक्टर के प्रशिक्षण नमूने में 10,000 उपयोगकर्ता-अपलोड की गई छवियां शामिल हैं। इस डेटा को सत्यापन और परीक्षण नमूनों के समान वितरण होने दें, और यह ऐसे वितरण के लिए है जिसे आप अधिकतम परिणाम प्राप्त करना चाहते हैं। आपके पास इंटरनेट से डाउनलोड की गई अतिरिक्त 20,000 छवियां भी हैं। क्या प्रशिक्षण सेट में सभी 20,000 + 10,000 = 30,000 छवियों को शामिल करना आवश्यक है, या अपने सीखने के एल्गोरिथ्म में त्रुटियों को पेश करने के डर से 20,000 इंटरनेट छवियों को छोड़ना बेहतर है?

सीखने की एल्गोरिदम की पिछली पीढ़ियों का उपयोग करना (जैसे कि मैन्युअल रूप से डिज़ाइन किया गया कंप्यूटर विज़न एल्गोरिथ्म, उसके बाद एक सरल रैखिक क्लासिफायरियर), एक वास्तविक जोखिम था कि दोनों स्रोतों से डेटा का संयोजन परिणामों को नीचा दिखा सकता है। इस प्रकार, कुछ इंजीनियर आपको 20,000 ऑनलाइन चित्रों सहित चेतावनी देंगे।

लेकिन बड़े तंत्रिका नेटवर्क जैसे शक्तिशाली, लचीले शिक्षण एल्गोरिदम के आधुनिक युग में, यह जोखिम काफी कम हो गया है। यदि आप एक बड़ी संख्या में छिपी हुई परतों के साथ एक तंत्रिका नेटवर्क बनाने का जोखिम उठा सकते हैं, तो आप सुरक्षित रूप से अपने प्रशिक्षण सेट में 20,000 इंटरनेट छवियां जोड़ सकते हैं। छवियों को जोड़ने से आपके नीचे की रेखा को बढ़ाने की संभावना है।

यह अवलोकन इस तथ्य पर आधारित है कि कुछ पत्राचार x → y है जो दोनों प्रकार के डेटा के लिए अच्छी तरह से काम करता है। दूसरे शब्दों में, कुछ प्रकार की प्रणाली है, जो या तो एक इंटरनेट छवि या एक मोबाइल एप्लिकेशन से छवि प्राप्त करती है, मज़बूती से एक लेबल की भविष्यवाणी करती है, यहां तक ​​कि छवि के स्रोत को भी जाने बिना।

20,000 अतिरिक्त इंटरनेट छवियों को जोड़ने के निम्नलिखित प्रभाव होंगे:

1. यह आपके तंत्रिका नेटवर्क को और उदाहरण देगा कि बिल्लियाँ कैसी दिखती हैं / नहीं दिखतीं। यह उपयोगी है क्योंकि मोबाइल एप्लिकेशन के उपयोगकर्ताओं द्वारा अपलोड की गई वेब छवियां और चित्र में कुछ समानताएं हैं। आपका तंत्रिका नेटवर्क ऑनलाइन छवियों से प्राप्त कुछ ज्ञान को मोबाइल एप्लिकेशन से छवियों पर लागू कर सकता है।
2. यह तंत्रिका नेटवर्क को इंटरनेट छवियों (उदाहरण के लिए, उच्च रिज़ॉल्यूशन, विभिन्न डिज़ाइन विधियों, आदि) के लिए विशिष्ट गुणों को पहचानने पर अपने संसाधनों का हिस्सा खर्च करने का कारण बनता है। यदि ये गुण एक मोबाइल एप्लिकेशन से छवियों से काफी अलग हैं, तो यह "नाली" होगा। तंत्रिका नेटवर्क की प्रतिनिधि क्षमताओं का हिस्सा। इस प्रकार, एक मोबाइल एप्लिकेशन से प्राप्त डेटा को पहचानने के लिए कम अवसर होंगे, और यही वह है जो आपको वास्तव में चिंतित होना चाहिए। सैद्धांतिक रूप से, यह आपके एल्गोरिथ्म के प्रदर्शन को ख़राब कर सकता है।

दूसरे शब्दों में दूसरे प्रभाव की व्याख्या करने के लिए, हम एक काल्पनिक चरित्र, शर्लक होम्स की ओर रुख कर सकते हैं, जो कहता है कि आपका मस्तिष्क एक अटारी की तरह दिखता है जिसमें सीमित स्थान होता है। वह कहता है कि “हर ज्ञान के साथ आप वह भूल जाते हैं जो आप पहले जानते थे। इसलिए, उपयोगी तथ्यों को बेकार करने की अनुमति न देना बेहद महत्वपूर्ण है। ” ²

² "एटलेट इन स्कारलेट", आर्थर कॉनन डॉयल, 1887

सौभाग्य से, यदि आपके पास पर्याप्त बड़े न्यूरल नेटवर्क, यानी "पर्याप्त रूप से बड़े अटारी" का निर्माण करने के लिए आवश्यक कंप्यूटिंग शक्ति है, तो ऊपर वर्णित यह "भीड़ बाहर" एक गंभीर समस्या नहीं है। आपके पास इंटरनेट एप्लिकेशन और मोबाइल एप्लिकेशन से चित्रों पर पर्याप्त प्रशिक्षण के अवसर हैं, जबकि दोनों प्रकार के डेटा मान्यता क्षमता के लिए प्रतिस्पर्धा नहीं करते हैं। आपके एल्गोरिथ्म का "मस्तिष्क" इतना बड़ा है कि आपको चिंता करने की ज़रूरत नहीं है कि आपके पास अचानक "अटारी में पर्याप्त स्थान" नहीं है।

लेकिन अगर आपके पास पर्याप्त रूप से बड़े तंत्रिका नेटवर्क (या एक और बहुत लचीला लर्निंग एल्गोरिदम) नहीं है, तो आपको अपने प्रशिक्षण डेटा पर अधिक ध्यान देना चाहिए जो आपके सत्यापन और परीक्षण नमूने से मेल खाता है।

यदि आपको लगता है कि आपके पास डेटा है जो कोई लाभ नहीं लाता है, तो आपको गणनाओं में तेजी लाने के लिए उन्हें बाहर करना चाहिए। उदाहरण के लिए, मान लें कि आपके सत्यापन और परीक्षण के नमूनों में मुख्य रूप से लोगों, स्थानों, संकेतों और बिंदुओं, साथ ही जानवरों की यादृच्छिक तस्वीरें हैं। मान लीजिए कि आपके पास स्कैन किए गए ऐतिहासिक दस्तावेजों का एक बड़ा संग्रह है:



इन दस्तावेजों में बिल्ली की तरह कुछ भी नहीं है। वे आपके सत्यापन और परीक्षण नमूनों से डेटा से पूरी तरह से अलग दिखते हैं। इस डेटा को नकारात्मक उदाहरणों के रूप में शामिल करने का कोई मतलब नहीं है, क्योंकि इस मामले में पहले प्रभाव में वर्णित लाभ नगण्य होंगे। इन आंकड़ों के आधार पर, आपके तंत्रिका नेटवर्क को लगभग कुछ भी पता नहीं चल पाएगा, जो आपके सत्यापन और परीक्षण नमूने पर लागू हो सकता है। इन उदाहरणों को शामिल करने से कंप्यूटिंग संसाधनों का नुकसान होगा और तंत्रिका नेटवर्क की प्रतिनिधि क्षमता में कमी होगी।

---

अध्याय 38. कैसे तय करना है कि परस्पर विरोधी डेटा शामिल करें

---

मान लीजिए कि आप सीखना चाहते हैं कि न्यूयॉर्क में आवास की कीमतों का पूर्वानुमान कैसे लगाया जाए। घर के आकार (इनपुट x ) को देखते हुए, आप मूल्य (लक्ष्य लेबल y ) की भविष्यवाणी करना चाहते हैं।

न्यूयॉर्क में आवास की कीमतें बहुत अधिक हैं। मान लीजिए कि आपके पास डेट्रोइट, मिशिगन में एक दूसरा डेटा सेट है - आवास की कीमतें, जहां आवास की कीमतें बहुत कम हैं। क्या मुझे अपने प्रशिक्षण सेट में इस डेटा को शामिल करना चाहिए?

एक ही आकार x को देखते हुए, एक y घर की कीमत बहुत अलग है, चाहे वह न्यूयॉर्क में हो या डेट्रायट में। यदि आप केवल न्यूयॉर्क में आवास की कीमतों के पूर्वानुमान के बारे में परवाह करते हैं, तो दो डेटासेट के संयोजन से आपकी उत्पादकता को नुकसान होगा। इस मामले में, डेट्रोइट सेट से परस्पर विरोधी डेटा का उपयोग नहीं करना बेहतर होगा। ³

³ न्यू यॉर्क डेटा के साथ डेट्रोइट डेटा की असंगति की समस्या को हल करने का एक तरीका है, अर्थात् प्रत्येक प्रशिक्षण उदाहरण के लिए एक अतिरिक्त सुविधा, अर्थात्। शहर का संकेत। X के इनपुट मूल्य को देखते हुए, जो अब शहर को इंगित करता है, y का लक्ष्य मान अब विशिष्ट रूप से निर्धारित किया गया है। हालाँकि, व्यवहार में, मैं अभी भी इसे अक्सर नहीं देख रहा हूँ।

न्यू यॉर्क और डेट्रायट में आवास के साथ यह उदाहरण हमारे उदाहरण से मोबाइल एप्लिकेशन से बिल्लियों और चित्रों की इंटरनेट छवियों के साथ कैसे भिन्न है?

बिल्लियों की छवियों के साथ उदाहरण उस में भिन्न होता है, इनपुट छवि x को देखते हुए, आप मज़बूती से लेबल y का अनुमान लगा सकते हैं, यह दर्शाता है कि इस पर एक बिल्ली है, यहां तक ​​कि यह जानने के बिना कि क्या हमें इंटरनेट से या मोबाइल एप्लिकेशन से छवि प्राप्त हुई है। यानी एक फ़ंक्शन f (x) है जो मज़बूती से इनपुट x के पत्राचार को लक्ष्य आउटपुट y को दर्शाता है, यहां तक ​​कि x की उत्पत्ति के स्रोत को भी जाने बिना। इस प्रकार, मोबाइल एप्लिकेशन से छवियों को पहचानने के कार्य के लिए इंटरनेट छवियों को "मेल खाती है" पहचानने का कार्य। इसका मतलब है कि सभी डेटा और कुछ संभावित महत्वपूर्ण प्लस से एक छोटा सा ऋण (कम्प्यूटेशनल लागत को छोड़कर) था। न्यूयॉर्क और डेट्रायट के परस्पर विरोधी आंकड़ों के उदाहरण के विपरीत, जिसमें एक ही इनपुट वैल्यू x (घर का आकार) के लिए, उस शहर के आधार पर कीमत बहुत अलग है जिसमें यह घर स्थित है।

---

अध्याय 39. डेटा का वजन

---

मान लें कि आपके पास अपने मोबाइल एप्लिकेशन के उपयोगकर्ताओं से 200,000 ऑनलाइन छवियां और 5,000 छवियां हैं। इन डेटा सेट के आकार के बीच 40: 1 अनुपात है। सैद्धांतिक रूप से, जब तक आप एक विशाल तंत्रिका नेटवर्क का निर्माण करते हैं और सभी उपलब्ध 205,000 उदाहरणों के साथ इसे लंबे समय तक प्रशिक्षित करते हैं, तब तक इंटरनेट छवियों और मोबाइल छवियों दोनों पर एल्गोरिदम को अच्छी तरह से काम करने में कुछ भी गलत नहीं है।

लेकिन व्यवहार में, मोबाइल एप्लिकेशन से छवियों की तुलना में 40 गुना अधिक इंटरनेट छवियां होने पर, आपको केवल 5,000 छवियों के लिए नेटवर्क को प्रशिक्षित करने की तुलना में 40 गुना अधिक कंप्यूटिंग संसाधनों को खर्च करने की आवश्यकता हो सकती है।

यदि आपके पास विशाल कंप्यूटिंग संसाधन नहीं हैं, तो आप एक समझौता के रूप में इंटरनेट छवियों को बहुत कम वजन दे सकते हैं।

उदाहरण के लिए, मान लें कि आपका अनुकूलन लक्ष्य चुकता त्रुटि है (यह वर्गीकरण समस्या के लिए एक अच्छा विकल्प नहीं है, लेकिन यह आपके स्पष्टीकरण को सरल करेगा)। इस प्रकार, आपका सीखने का एल्गोरिथ्म अनुकूलन करने की कोशिश कर रहा है:

$$$ $ प्रदर्शन $ $ \ min_θ \ _ _ _ {(x, y) mgMobileImg} (h_-(x) -y) ^ 2 + \ योग _ {(x, y) etInternetImg} (h_θ (x) -y) ^ 2 $ $ प्रदर्शन $ $

ऊपर की पहली राशि 5,000 मोबाइल छवियों के लिए कुल त्रुटि है, और दूसरी राशि 200,000 इंटरनेट छवियों के लिए कुल त्रुटि है। इसके बजाय, आप एक अतिरिक्त पैरामीटर के साथ अनुकूलन कर सकते हैं $$$\ बीटा$ :

$$$$ प्रदर्शन $ $ \ min_θ \ _ _ _ {{(x, y) IMobileImg} (h_-(x) -y) ^ 2 + \ बीटा \ योग _ {(x, y) ternInternetImg} (h_θ (x) -y) ^ 2 $ $ $ $ प्रदर्शित

यदि आप स्थापित करते हैं $$$\ बीटा$ = 1/40, एल्गोरिथ्म 5,000 मोबाइल छवियों और 200,000 इंटरनेट छवियों के बराबर वजन देगा। आप पैरामीटर भी सेट कर सकते हैं $$$\ बीटा$ अन्य मान, संभवतः इसे सत्यापन नमूने में समायोजित कर रहे हैं।

इंटरनेट छवियों के लिए कम वजन असाइन करते हुए, आपको यह सुनिश्चित करने के लिए एक विशाल तंत्रिका नेटवर्क बनाने की आवश्यकता नहीं है कि एल्गोरिथ्म दोनों प्रकार के कार्यों के साथ अच्छी तरह से मुकाबला करता है। "पुनरावृत्ति" की यह विधि केवल तभी आवश्यक है जब आपको संदेह हो कि अतिरिक्त डेटा (इंटरनेट छवियों) के सत्यापन और परीक्षण नमूनों में डेटा से बहुत अलग वितरण है, या यदि समान वितरण के साथ प्राप्त डेटा की तुलना में बहुत अधिक अतिरिक्त डेटा है सत्यापन और परीक्षण नमूनों (मोबाइल छवियों) के रूप में।

---

अध्याय 40. प्रशिक्षण नमूने का सत्यापन सत्यापन के लिए नमूनाकरण

---

मान लीजिए कि आप एमएल को ऐसी स्थिति में लागू करते हैं जहां प्रशिक्षण का नमूना सत्यापन / परीक्षण से अलग है। कहते हैं, एक प्रशिक्षण नमूने में इंटरनेट छवियां + मोबाइल छवियां होती हैं, और सत्यापन / परीक्षण नमूनों में केवल मोबाइल छवियां होती हैं। हालाँकि, एल्गोरिथ्म बहुत अच्छी तरह से काम नहीं करता है: यह सत्यापन / परीक्षण के नमूने पर बहुत अधिक त्रुटि है जो हम चाहते हैं। यहाँ कुछ कारण हैं कि ऐसा क्यों नहीं हो सकता है:

1. प्रशिक्षण सेट पर एल्गोरिथ्म बहुत अच्छी तरह से काम नहीं करता है। यह प्रशिक्षण नमूने के वितरण के उच्च (परिहार्य) पूर्वाग्रह की समस्या है।
2. एल्गोरिथ्म प्रशिक्षण सेट पर अच्छी तरह से काम करता है, लेकिन खराब रूप से समान वितरण के साथ नए (पहले नहीं दिखाए गए) डेटा को सामान्यीकृत करता है जैसे कि प्रशिक्षण सेट में। यह एक उच्च विचरण है।
3. एल्गोरिथ्म नए वितरण के लिए अच्छी तरह से सामान्यीकृत है (पहले दिखाया नहीं गया) प्रशिक्षण नमूने में समान वितरण के साथ लिया गया डेटा, लेकिन सत्यापन / परीक्षण नमूने से डेटा के लिए नहीं। हम इस समस्या को डेटा बेमेल कहते हैं, इस तथ्य के कारण कि प्रशिक्षण नमूने के डेटा को सत्यापन / परीक्षण नमूनों से डेटा के साथ खराब रूप से सहसंबद्ध किया जाता है।

उदाहरण के लिए, मान लीजिए कि लोग बिल्लियों की पहचान करने के कार्य में लगभग पूर्ण परिणाम प्राप्त करते हैं। और आपका एल्गोरिथ्म पहुँच गया है:

• प्रशिक्षण नमूने में त्रुटियों का 1%
• प्रशिक्षण नमूने के समान वितरण वाले नए (पहले एल्गोरिथम को नहीं दिखाया गया) डेटा पर 1.5% त्रुटियां
• सत्यापन नमूने में त्रुटियों का 10%

इस मामले में, आपको निश्चित रूप से डेटा बेमेल समस्या है। इसे सक्षम करने के लिए, आप प्रशिक्षण नमूने को सत्यापन / परीक्षण के समान बनाने का प्रयास कर सकते हैं। हम इस तकनीक की कुछ तकनीकों पर बाद में चर्चा करेंगे।

ऊपर वर्णित 1-3 में से प्रत्येक समस्या से एल्गोरिथ्म किस हद तक ग्रस्त है, इसका निदान करने के लिए, एक अलग डेटा सेट होना उपयोगी होगा। विशेष रूप से, एल्गोरिथ्म को प्रशिक्षण के लिए सभी उपलब्ध डेटा देने के बजाय, आप इसे दो भागों में विभाजित कर सकते हैं: वास्तविक प्रशिक्षण नमूना जिस पर एल्गोरिथम को प्रशिक्षित किया जाएगा, और एक अलग सेट, जिसे हम प्रशिक्षण-सत्यापन ("ट्रेनग देव") कहेंगे ), जिसे हम प्रशिक्षण में उपयोग नहीं करेंगे।

इस प्रकार, आपके पास 4 डेटा सेट हैं:

• प्रशिक्षण सेट (प्रशिक्षण सेट)। यह वह डेटा है जिस पर एल्गोरिदम को प्रशिक्षित किया जाएगा (उदाहरण के लिए, मोबाइल एप्लिकेशन से इंटरनेट छवियां + छवियां)। इस डेटा को समान वितरण के साथ नहीं लिया जाना चाहिए, जिसके परिणामस्वरूप हम अंततः (सत्यापन / परीक्षण नमूने) पर ध्यान केंद्रित करते हैं।
• प्रशिक्षण और सत्यापन नमूना ("प्रशिक्षण देव" सेट)। यह डेटा उसी नमूने के साथ लिया जाता है जैसे प्रशिक्षण नमूने में (उदाहरण के लिए, इंटरनेट छवियां + मोबाइल एप्लिकेशन की छवियां)। यह सेट आमतौर पर प्रशिक्षण सेट से छोटा होता है, और यह हमारे प्रशिक्षण एल्गोरिथ्म की प्रगति का मूल्यांकन और ट्रैक करने के लिए पर्याप्त बड़ा होना चाहिए।
• सत्यापन नमूना (देव सेट)। यह डेटा परीक्षण के नमूने के समान वितरण के साथ लिया जाता है और उस डेटा के वितरण को पूरी तरह से प्रतिबिंबित करना चाहिए, जिस पर हम अधिकतम सुधार प्राप्त करने का प्रयास करते हैं (उदाहरण के लिए, मोबाइल एप्लिकेशन से चित्र)।
• परीक्षण सेट यह डेटा सत्यापन नमूने के समान वितरण के साथ लिया जाता है (उदाहरण के लिए, मोबाइल एप्लिकेशन से चित्र)।

इन चार अलग-अलग डेटा सेटों के साथ, आप मूल्यांकन कर सकते हैं:

• प्रशिक्षण के नमूने का मूल्यांकन करके प्रशिक्षण की त्रुटि (प्रशिक्षण त्रुटि)।
• एल्गोरिथ्म की क्षमता नए डेटा को सामान्य बनाने के लिए, प्रशिक्षण-सत्यापन सेट का मूल्यांकन करके प्रशिक्षण सेट के समान वितरण के साथ।
• एक सत्यापन और (या) परीक्षण नमूने पर मूल्यांकन करके समस्या को हल करने के लिए एल्गोरिथ्म की संपूर्ण क्षमता।

सत्यापन नमूने का आकार चुनने के लिए इस पुस्तक के अध्याय 5-7 में दी गई अधिकांश सिफारिशें प्रशिक्षण और सत्यापन नमूने पर भी लागू होती हैं।

---

अध्याय 41. पूर्वाग्रह, विचरण और डेटा बेमेल त्रुटि का निर्धारण

---

मान लीजिए कि लोग बिल्लियों का पता लगाने के कार्यों में लगभग पूर्ण दक्षता (त्रुटि )0%) प्राप्त करते हैं, और इस प्रकार इष्टतम त्रुटि दर लगभग 0% है।

मान लीजिए आपके पास:

• प्रशिक्षण नमूने में त्रुटियों का 1%
• प्रशिक्षण और सत्यापन के नमूने में 5% त्रुटियां
• सत्यापन नमूने में 5% त्रुटियां

यह हमें क्या बताता है? आप जानते हैं कि आपके पास एक उच्च विचरण है। पहले बताए गए फैलाव में कमी के तरीकों से आपको कुछ प्रगति करने की अनुमति मिलनी चाहिए।

अब मान लीजिए कि आपका एल्गोरिथ्म पहुँच गया है:

• प्रशिक्षण नमूने में त्रुटियों का 10%
• प्रशिक्षण और सत्यापन के नमूने में 11% त्रुटियां
• सत्यापन नमूने में 12% त्रुटियां

यह बताता है कि आपके पास प्रशिक्षण सेट में एक उच्च परिहार्य पूर्वाग्रह है। यानीएल्गोरिथ्म प्रशिक्षण सेट पर खराब परिणाम पैदा करता है, लेकिन ऑफसेट कमी के तरीकों में मदद करनी चाहिए।

उपरोक्त दो उदाहरणों में, एल्गोरिथ्म केवल एक उच्च पूर्वाग्रह (परिहार्य पूर्वाग्रह) या केवल एक उच्च फैलाव (विचरण) से ग्रस्त है। इसके अलावा, एल्गोरिथ्म उच्च पूर्वाग्रह, उच्च फैलाव, और डेटा असंगतता के किसी भी संयोजन से पीड़ित हो सकता है। उदाहरण के लिए:

• प्रशिक्षण नमूने में त्रुटियों का 10%
• प्रशिक्षण और सत्यापन के नमूने में 11% त्रुटियां
• सत्यापन नमूना में 20% त्रुटियां

यह एल्गोरिथ्म उच्च पूर्वाग्रह (परिहार्य पूर्वाग्रह) और डेटा बेमेल से ग्रस्त है, और साथ ही प्रशिक्षण नमूने में उच्च फैलाव के साथ समस्याओं का अनुभव नहीं करता है।

यह समझना आसान हो सकता है कि विभिन्न प्रकार की त्रुटियां निम्नलिखित तालिका में लिखकर एक दूसरे से कैसे संबंधित हैं:


कैट इमेज डिटेक्टर उदाहरण के साथ जारी रखते हुए, आप देख सकते हैं कि एक्स अक्ष के साथ दो अलग-अलग डेटा वितरण (वितरण ए और वितरण बी) हैं। Y अक्ष पर, हमारे पास तीन प्रकार की त्रुटियां हैं: मानव त्रुटि, उदाहरण पर त्रुटि जिसमें से एल्गोरिथ्म प्रशिक्षित किया गया था, और उदाहरण पर त्रुटि, जिस पर एल्गोरिथ्म प्रशिक्षित नहीं था। हम विभिन्न प्रकार की त्रुटियों के साथ तालिका कोशिकाओं को आबाद कर सकते हैं जिन्हें हमने पिछले अध्याय में पहचाना था।

यदि आप चाहें, तो आप इस तालिका में शेष दो कक्षों को भी भर सकते हैं: आप ऊपरी दाएं कोने में फ़ील्ड भर सकते हैं ("दक्षता मोबाइल एप्लिकेशन से छवियों में मनुष्यों के लिए सुलभ है"), किसी को मोबाइल एप्लिकेशन से बिल्लियों की छवियों को चिह्नित करने और फिर उसकी त्रुटि को मापने के लिए कह सकते हैं। । आप मोबाइल एप्लिकेशन (वितरण बी) से बिल्लियों की तस्वीरें लेकर और प्रशिक्षण सेट में उनमें से एक छोटा सा हिस्सा रखकर अगले क्षेत्र को भर सकते हैं ताकि तंत्रिका नेटवर्क भी इससे सीख ले। फिर आप डेटा के इस सबसेट पर प्रशिक्षित मॉडल की त्रुटि को मापते हैं। इन दो अतिरिक्त क्षेत्रों को भरने से कभी-कभी एक अतिरिक्त समझ मिल सकती है कि एल्गोरिथ्म डेटा के दो अलग-अलग वितरण (वितरण ए और बी) पर कैसे काम करता है।

यह समझने में कि एल्गोरिथ्म किस प्रकार की त्रुटियों से सबसे अधिक ग्रस्त है, आप बेहतर ढंग से यह निर्धारित कर सकते हैं कि पूर्वाग्रह को कम करने, विचरण को कम करने या डेटा असंगतियों को कम करने पर ध्यान दें।

---

अध्याय 42. डेटा बेमेल त्रुटि का समाधान

---

मान लीजिए आपने एक भाषण मान्यता प्रणाली विकसित की है जो प्रशिक्षण नमूने पर और प्रशिक्षण-सत्यापन नमूने पर बहुत अच्छी तरह से काम करती है। हालाँकि, एल्गोरिथ्म आपके सत्यापन नमूने पर अच्छी तरह से काम नहीं करता है: आपके पास डेटा बेमेल समस्या है। आप क्या कर सकते हैं?

मेरा सुझाव है कि आप: (i) यह समझने की कोशिश करें कि प्रशिक्षण और सत्यापन नमूनों से डेटा में क्या गुण हैं; (ii) अधिक प्रशिक्षण डेटा को खोजने का प्रयास करें जो सत्यापन नमूने से उन उदाहरणों से बेहतर मेल खाता हो जिनसे आपके एल्गोरिदम को समस्या है। ⁴

⁴ « » (domain adaptation) — . , , .

उदाहरण के लिए, मान लें कि आप एक वाक् पहचान प्रणाली के लिए एक सत्यापन त्रुटि विश्लेषण कर रहे हैं: आप मैन्युअल रूप से 100 उदाहरणों से गुजरते हैं और यह समझने की कोशिश करते हैं कि एल्गोरिथ्म कहां गलतियां करता है। आप पाएंगे कि आपका सिस्टम अच्छी तरह से काम नहीं करता है, क्योंकि सत्यापन नमूना से अधिकांश ऑडियो रिकॉर्डिंग कार के अंदर रहते हुए बनाई गई थीं, जबकि प्रशिक्षण नमूने के अधिकांश उदाहरण मौन की पृष्ठभूमि के खिलाफ दर्ज किए गए थे। इंजन और सड़क का शोर नाटकीय रूप से आपके भाषण मान्यता प्रणाली के प्रदर्शन को कम करता है। इस मामले में, आप कार में किए गए ऑडियो रिकॉर्डिंग वाले अधिक प्रशिक्षण उदाहरण प्राप्त करने का प्रयास कर सकते हैं। त्रुटि विश्लेषण का उद्देश्य प्रशिक्षण और सत्यापन नमूनों के बीच महत्वपूर्ण अंतर को समझना है, जिससे डेटा बेमेल हो जाता है।

यदि आपके प्रशिक्षण और प्रशिक्षण-सत्यापन के नमूने में कार में दर्ज ध्वनि शामिल है, तो आपको इस डेटा सेट पर अपने सिस्टम की प्रभावशीलता की दोहरी जांच करनी चाहिए। यदि यह एक प्रशिक्षण नमूने से "ऑटोमोटिव" उदाहरणों पर अच्छी तरह से काम करता है, लेकिन प्रशिक्षण-सत्यापन नमूने से "ऑटोमोटिव" उदाहरणों पर नहीं, तो यह एक बार फिर परिकल्पना की पुष्टि करता है कि अधिक "ऑटोमोटिव" उदाहरणों से मदद मिलेगी। यही कारण है कि पिछले अध्याय में हमने आपके प्रशिक्षण में शामिल होने की संभावना पर चर्चा की थी जिसमें कुछ डेटा का एक सेट था जो कि वैधीकरण / परीक्षण नमूनों में समान वितरण था। यह आपको सत्यापन / परीक्षण नमूनों के समान सेट बनाम प्रशिक्षण सेट में "ऑटोमोटिव" उदाहरणों के साथ सिस्टम की प्रभावशीलता की तुलना करने की अनुमति देता है।

दुर्भाग्य से, इस मामले में कोई गारंटी नहीं है। उदाहरण के लिए, यदि आपके पास अधिक प्रशिक्षण डेटा प्राप्त करने का अवसर नहीं है जो सत्यापन नमूना डेटा से बेहतर रूप से मेल खाएगा, तो आपके पास दक्षता में सुधार के लिए एक स्पष्ट रास्ता नहीं हो सकता है।

---

अध्याय 43. कृत्रिम डेटा का संश्लेषण

---

आपकी वाक् पहचान प्रणाली को अधिक डेटा की आवश्यकता होती है, जो लगता है कि इन उदाहरणों की ऑडियो रिकॉर्डिंग एक कार में बनाई गई है। सवारी करते समय बहुत अधिक डेटा एकत्र करने के बजाय, उस डेटा को प्राप्त करने का एक आसान तरीका हो सकता है: कृत्रिम रूप से इसे उत्पन्न करके।

मान लीजिए कि आपको सड़क / कार के शोर के साथ बड़ी संख्या में ऑडियो रिकॉर्डिंग प्राप्त होती हैं। आप इस डेटा को कई साइटों से डाउनलोड कर सकते हैं। मान लीजिए कि आपके पास एक बड़ा प्रशिक्षण सेट है, जिसके उदाहरण में लोग शांत कमरे में बात करते हैं। यदि आप किसी बात करने वाले व्यक्ति की ऑडियो रिकॉर्डिंग लेते हैं और उसमें कार / सड़क के शोर की आवाज़ जोड़ते हैं, तो आपको एक ऑडियो रिकॉर्डिंग मिलेगी, जैसे कि यह व्यक्ति एक शोर वाली कार में बात कर रहा था। इस प्रक्रिया का उपयोग करके, आप भारी मात्रा में डेटा को संश्लेषित कर सकते हैं जो लगता है जैसे कि वे एक कार के अंदर एकत्र किए गए थे।

सामान्य तौर पर, कई परिस्थितियां होती हैं जहां कृत्रिम डेटा की पीढ़ी आपको एक विशाल डेटा सेट बनाने की अनुमति देती है जो सत्यापन नमूने से उचित रूप से मेल खाती है। चलो एक दूसरे उदाहरण के रूप में एक बिल्ली छवि डिटेक्टर लेते हैं। आपने देखा कि सत्यापन के नमूने में छवियों को चलते समय बहुत अधिक धुंधला हो जाता है, क्योंकि वे आमतौर पर मोबाइल फोन के उपयोगकर्ताओं से प्राप्त होते हैं जो शूटिंग के दौरान फोन को थोड़ा हिलाते हैं। आप प्रशिक्षण सेट से तेज इंटरनेट छवियां ले सकते हैं और उनमें गति धुंधला की नकल जोड़ सकते हैं, जिससे वे सत्यापन सेट में छवियों के समान हो जाते हैं।

ध्यान रखें कि कृत्रिम डेटा के संश्लेषण की अपनी समस्याएं हैं: कभी-कभी सिंथेटिक डेटा बनाना आसान होता है जो किसी व्यक्ति को यथार्थवादी लगता है जो कंप्यूटर को यथार्थवादी लगता है। उदाहरण के लिए, मान लें कि आपके पास एक प्रशिक्षण सेट में 1000 घंटे की भाषण रिकॉर्डिंग है, लेकिन केवल 1 घंटे की कार का शोर है। यदि आप बार-बार प्रशिक्षण सेट के मूल 1000 घंटों के अलावा अन्य हिस्सों के साथ कार के शोर का एक ही बार उपयोग करते हैं, तो आपको एक सिंथेटिक डेटासेट मिलेगा जिसमें एक ही कार का शोर बार-बार दोहराया जाता है। यद्यपि इस ध्वनि को सुनने वाला व्यक्ति शायद इसकी विशेषताओं का नाम नहीं दे सकता है - हम में से अधिकांश के लिए सभी कार शोर समान हैं, यह संभव है कि कार के शोर के 1 घंटे के लिए लर्निंग एल्गोरिदम को फिर से लिया जाएगा। इस तरह सेयह खराब रूप से नई ऑडियो रिकॉर्डिंग के लिए सामान्यीकृत हो सकता है जिसमें कार का शोर अलग लगता है।

वैकल्पिक रूप से, मान लीजिए कि आपके पास 1000 घंटे के कार शोर हैं, लेकिन उन्हें रिकॉर्ड करने के लिए केवल 10 अलग-अलग कारों का उपयोग किया गया था। इस मामले में, एल्गोरिदम इन 10 कारों के रिकॉर्ड पर पीछे हट सकता है और किसी अन्य कार से रिकॉर्ड का परीक्षण करते समय खराब प्रदर्शन दिखा सकता है। दुर्भाग्य से, इन समस्याओं का पता लगाना मुश्किल है।


एक और उदाहरण लीजिए, मान लीजिए कि आप कारों को पहचानने के लिए कंप्यूटर विज़न सिस्टम बनाते हैं। मान लीजिए कि आप एक वीडियो गेम कंपनी के साथ सहयोग कर रहे हैं जिसमें कंप्यूटर ग्राफिक्स का उपयोग करके कई कार मॉडल हैं। अपने एल्गोरिथ्म को प्रशिक्षित करने के लिए, आप सिंथेटिक कार छवियों को उत्पन्न करने के लिए इन मॉडलों का उपयोग करते हैं। भले ही संश्लेषित छवियां बहुत यथार्थवादी लगती हैं, यह दृष्टिकोण (जिसे कई लोगों द्वारा स्वतंत्र रूप से सुझाया गया था) शायद अच्छी तरह से काम नहीं करेगा। एक वीडियो गेम में लगभग 20 कार मॉडल हो सकते हैं। कार का उच्च-गुणवत्ता वाला 3D मॉडल बनाना बहुत महंगा है, यदि आप कोई गेम खेल रहे हैं, तो आप शायद यह नहीं देखेंगे कि आप एक ही कार को बार-बार देखते हैं, शायद केवल अलग-अलग रंगों में। यानीयह डेटा आपको बहुत यथार्थवादी लगता है। लेकिन सड़क पर सभी कारों की विविधता के साथ तुलना की जाती है, और इसलिए इस सेट के साथ कि आप शायद सत्यापन / परीक्षण के नमूने में देखेंगे, 20 संश्लेषित मॉडल का यह सेट पूरी वैश्विक विभिन्न प्रकार की कारों का केवल एक छोटा सा हिस्सा कैप्चर करता है। इस प्रकार, यदि आपके 100,000 प्रशिक्षण के उदाहरण पूरी तरह से इन 20 कारों पर आधारित हैं, तो आपका सिस्टम इन विशिष्ट मॉडलों से मुकर जाएगा और यह सत्यापन / परीक्षण के नमूने को अच्छी तरह से सामान्य करने में सक्षम नहीं होगा जिसमें अन्य कार मॉडल शामिल हैं।

डेटा को संश्लेषित करते समय, विचार करें कि क्या आप वास्तव में उदाहरणों का प्रतिनिधि सेट बना रहे हैं। संश्लेषित डेटा गुणों को न देने का प्रयास करें
सीखने के एल्गोरिथ्म को एक गैर-संश्लेषित एक से एक संश्लेषित उदाहरण को अलग करने की अनुमति दें, जैसा कि उन मामलों में जब 20 कार मॉडल में से एक के आधार पर सभी संश्लेषित डेटा प्राप्त किया जाता है, या सभी संश्लेषित ध्वनियों को कार के शोर के केवल 1 घंटे से प्राप्त किया जाता है। इस सलाह का पालन करना बहुत मुश्किल हो सकता है।

डेटा सिंथेसिस पर काम करते समय, हमारी टीम को कभी-कभी उन विवरणों के साथ डेटा बनाने में हफ्तों लग जाते हैं, जो संश्लेषित डेटा के वास्तविक वितरण के काफी करीब होते थे। लेकिन अगर आप सही विवरण प्राप्त कर सकते हैं, तो यह आपको पहले से कहीं अधिक बड़े प्रशिक्षण सेट तक पहुंच प्रदान करेगा।

डीबगिंग आउटपुट एल्गोरिदम

---

अध्याय 44. अनुकूलन बेंचमार्क

---

कल्पना कीजिए कि आप एक भाषण मान्यता प्रणाली विकसित कर रहे हैं। आपका सिस्टम इनपुट के रूप में ऑडियो ए लेकर काम करता है और प्रत्येक संभावित आउटपुट वाक्य एस के लिए कुछ स्कोर _ए (एस) की गणना करता है । उदाहरण के लिए, आप स्कोर _ए (एस) = पी (एस | ए) का मूल्यांकन करने की कोशिश कर सकते हैं , अर्थात। संभावना है कि वाक्य एस सही आउटपुट ट्रांसक्रिप्शन है, यह देखते हुए कि ऑडियो इनपुट ए

को भेजा गया था, स्कोर _ए (एस) की गणना करने की विधि को देखते हुए , आपको अंग्रेजी में एक वाक्य खोजने की आवश्यकता है जिसमें अधिकतम रेटिंग होगी:

$$

$$Output = arg \max_S Score_{A}(S)$$

ऊपर दिए गए उदाहरण से "arg max" की गणना कैसे करें? अंग्रेजी में 50,000 शब्द हैं, इस मामले में लंबाई के (50,000) ^N संभावित वाक्य हैं। यह सूची के लिए बहुत अधिक है।

तो, आप एस का मूल्य है, जो अनुकूलन करती है (अधिकतम) स्कोर के आकलन खोजने की कोशिश करने के लिए अनुमानित खोज के एल्गोरिथ्म लागू करने की आवश्यकता _एक (एस)। इस तरह के एल्गोरिथ्म का एक उदाहरण बीम खोज है, जो खोज प्रक्रिया में केवल K सर्वश्रेष्ठ उम्मीदवारों को बचाता है। (इस अध्याय के प्रयोजनों के लिए, आप विकिरण अनुसंधान के काम के विवरण को समझने की जरूरत नहीं है।) इन एल्गोरिदम, जो दर स्कोर अधिकतम एस के मूल्य खोजने गारंटी नहीं है _एक (एस)।

कल्पना कीजिए कि किसी ऑडियो टेप पर किसी ने कहा "मुझे मशीन लर्निंग से प्यार है।" लेकिन सही प्रतिलेखन के बजाय, आपका सिस्टम गलत "मैं रोबोट से प्यार करता हूं" का उत्पादन करता है। क्या गलत हो सकता है इसके दो संभावित कारण हैं:

1. खोज एल्गोरिथ्म में समस्याएं । बीम खोज एल्गोरिथ्म ने गलत तरीके से एस का मूल्य पाया, जो स्कोर _ए (एस) को अधिकतम करता है ।
2. मूल्यांकन समारोह के साथ एक उद्देश्य समस्या । स्कोर _ए (एस) = पी (एस | ए) का हमारा अनुमान सही नहीं था। विशेष रूप से, चयनित स्कोर _ए (एस) ने सही प्रतिलेखन "आई लव मशीन लर्निंग" को सही ढंग से पहचानने की अनुमति नहीं दी।

सिस्टम त्रुटि के कारण इनमें से किस पर निर्भर करता है, आपको आगे के प्रयासों के लिए अलग से प्राथमिकता देनी चाहिए। पहले मामले में, आपको खोज एल्गोरिथ्म में सुधार करने पर काम करना चाहिए, दूसरे मामले में, आपको एक सीखने के एल्गोरिथ्म पर काम करना चाहिए जो स्कोर _ए (एस) स्कोर की गणना करता है ।

इसी तरह की स्थिति का सामना करते हुए, कुछ शोधकर्ता यादृच्छिक रूप से एक खोज एल्गोरिदम पर काम करने का निर्णय लेते हैं, जबकि अन्य यादृच्छिक रूप से स्कोर _ए (एस) रेटिंग फ़ंक्शन में सीखने के सुधार पर काम करते हैं । लेकिन जब तक आपको सिस्टम त्रुटि के सही कारणों का पता नहीं चल जाता है, तब तक आपके सभी प्रयास बर्बाद हो सकते हैं। कैसे काम करने लायक है, इस बारे में अधिक व्यवस्थित निर्णय कैसे लें? _बाहर

जाने दोआउटपुट ट्रांसक्रिप्शन ("आई लव रोबोट्स") होगा। चलो S * सही प्रतिलेखन है ("मुझे मशीन सीखना पसंद है")। ऊपर सूचीबद्ध दो समस्याओं में से कौन सी समस्या हमारे सामने है, यह समझने के लिए, आप एक अनुकूलन सत्यापन परीक्षण कर सकते हैं: पहले स्कोर _ए (एस *) और स्कोर _ए (एस _आउट ) के स्कोर की गणना करें । फिर जांचें कि दोनों में से कौन सी रेटिंग अधिक मायने रखती है। इसकी दो संभावनाएँ हैं:

1. Score _A (S*) > Score _A (S _out ), .. ().
   
   S*. S _out . , S, Score _A (S). , . , (beam search).
2. Score _A (S*) ≤ Score _A (S _out ), .. ().
   
   , Score _A (.): S _out . . Score _A (S) S.

हमारी चर्चा एक उदाहरण पर छपी। अनुकूलन नियंत्रण परीक्षण को व्यवहार में लाने के लिए, आपको अपने सत्यापन नमूने की त्रुटियों की जाँच करनी चाहिए। प्रत्येक त्रुटि के लिए, आपको यह सत्यापित करना होगा कि अपेक्षित (सही) प्रतिलेखन के लिए अनुमान आउटपुट (गलत) प्रतिलेखन के अनुमान से अधिक है, अर्थात। स्कोर _ए (एस *)> स्कोर _ए (एस _आउट )। सत्यापन नमूना से प्रत्येक उदाहरण जिसके लिए ऐसी असमानता बनी रहती है, अनुकूलन एल्गोरिथम की वजह से एक त्रुटि के रूप में चिह्नित की जाएगी। प्रत्येक उदाहरण जिसके लिए यह असमानता बनी नहीं रहती है, उसे स्कोर _ए (।) की गणना के गलत तरीके के कारण त्रुटि माना जाएगा ।

उदाहरण के लिए, आप पाते हैं कि स्कोर _{A की} गणना करते समय 95% त्रुटियां मूल्यांकन कार्य के कारण होती हैं(।), और अनुकूलन एल्गोरिथ्म के कारण केवल 5% त्रुटियां होती हैं। अब आप जानते हैं कि आप अपने अनुकूलन फ़ंक्शन को कितना भी सुधार लें, वास्तव में यह 5% से अधिक त्रुटियों को खत्म करने में मदद करेगा। इसलिए, आपको स्कोर _ए (।) की गणना पद्धति में सुधार करने पर ध्यान केंद्रित करना चाहिए ।

---

अध्याय 45. सामान्य अनुकूलन नियंत्रण परीक्षण प्रक्रिया

---

आप इनपुट के रूप में कुछ x प्राप्त करते समय ऑप्टिमाइज़ेशन कंट्रोल टेस्ट लागू कर सकते हैं, आप जानते हैं कि स्कोर _X (y) की गणना कैसे की जाती है, जो यह दर्शाता है कि इनपुट पर दिए गए x से आउटपुट y कितनी अच्छी तरह से मेल खाता है। इसके अलावा, आप arg max _Y Score _X (y) को खोजने के लिए अनुमानित खोज एल्गोरिथ्म का उपयोग करते हैं, लेकिन आपको संदेह है कि अधिकतम खोजने पर खोज एल्गोरिथ्म गलत है। पिछले उदाहरण में, एक भाषण मान्यता प्रणाली के साथ, x = A एक ऑडियो रिकॉर्डिंग था, और y = S एक आउटपुट ट्रांसक्रिप्शन था।

मान लीजिए कि y * सही आउटपुट वैल्यू है, लेकिन एल्गोरिथ्म इसके बजाय yout देता है। फिर मुख्य बात यह है कि स्कोर _एक्स (y *) और स्कोर _एक्स (वाई _आउट ) कैसे संबंधित हैं। यदि पहला अनुमान दूसरे से बड़ा है, तो त्रुटि का कारण अनुकूलन एल्गोरिथ्म में है, अन्यथा गलती स्कोर स्कोर _एक्स (y) की गणना फ़ंक्शन के साथ है।

आइए एक और उदाहरण देखें। मान लीजिए आप चीनी से अंग्रेजी में मशीन अनुवाद प्रणाली बना रहे हैं। आपका सिस्टम इनपुट के रूप में एक वाक्य C प्राप्त करके काम करता है, अनुवाद के प्रत्येक संभावित संस्करण के लिए स्कोर _C (E) की गणना करता है। उदाहरण के लिए, आप स्कोर _C (E) = P (E | C), अर्थात का उपयोग कर सकते हैं। ट्रांसफर E की संभावना है, यह देखते हुए कि वाक्य C प्रस्तुत किया गया है।

आपका मशीन अनुवाद इंजन गणना करने की कोशिश कर रहा है:

$$

$$आउटपुट = arg \ max_E Score_ {C} (E)$$

हालांकि, अंग्रेजी में सभी संभावित ई वाक्यों का सेट इतना बड़ा है कि आपको एक अनुमानी खोज एल्गोरिथ्म पर भरोसा करना होगा।

मान लीजिए कि आपका एल्गोरिथ्म कुछ सही अनुवाद ई * की तुलना में अधिक बार गलत अनुवाद ई का उत्पादन करता है। तब अनुकूलन नियंत्रण परीक्षण असमानता स्कोर _सी (ई *)> स्कोर _सी (ई _आउट ) की गणना करने की अनुमति देगा। यदि यह सहेजा जाता है, तो स्कोर _सी (।) सही ढंग से ई * को सर्वश्रेष्ठ आउटपुट ई _{आउट के} रूप में पहचानता _है , इसलिए आप इस त्रुटि को अनुमानित खोज एल्गोरिथ्म के शेयर में बदल देंगे, अन्यथा, गणना फ़ंक्शन _सी (।) के लिए।

एआई में यह एक बहुत ही सामान्य पैटर्न है: सबसे पहले, हम अनुमानित अनुमानित फ़ंक्शन स्कोर _x (।) को प्रशिक्षित करते हैं, फिर हम अनुमानित अधिकतम एल्गोरिथ्म का उपयोग करते हैं। यदि आपको यह पैटर्न याद है, तो आप त्रुटियों के स्रोत का पता लगाने के लिए अनुकूलन नियंत्रण परीक्षण का उपयोग कर सकते हैं।

---

अध्याय 46. सुदृढीकरण सीखना उदाहरण

---

मान लीजिए आप जटिल युद्धाभ्यास करने के लिए हेलीकॉप्टर सिखाने के लिए मशीन लर्निंग का उपयोग करते हैं। ऊपर एक कंप्यूटर द्वारा नियंत्रित हेलीकॉप्टर की टाइम-लैप छवि है जो इंजन के साथ लैंड करता है।

इस पैंतरेबाज़ी को ऑटोरोटेशन पर लैंडिंग कहा जाता है। यह हेलीकॉप्टर को उतरने की अनुमति देता है, भले ही इंजन अचानक दुर्घटनाग्रस्त हो जाए। मानव पायलट अपने प्रशिक्षण के हिस्से के रूप में इस युद्धाभ्यास का अभ्यास करते हैं। आपका लक्ष्य मशीन लर्निंग एल्गोरिदम का उपयोग करना है ताकि हेलीकॉप्टर कुछ प्रक्षेपवक्र टी के साथ उड़ान भर सके और अंत में सुरक्षित रूप से लैंड कर सके।

सुदृढीकरण प्रशिक्षण लागू करने के लिए, आपको एक "रिवॉर्ड फंक्शन" आर (।) विकसित करना होगा, जो यह अनुमान लगाता है कि टी का प्रत्येक संभावित प्रक्षेपवक्र कितना अच्छा है, उदाहरण के लिए, यदि प्रक्षेपवक्र टी एक हेलीकॉप्टर दुर्घटना का कारण बना, तो इनाम आर (टी) = दें। 1000, अर्थात्। एक महान नकारात्मक मूल्य है। प्रक्षेपवक्र टी, जो एक सफल लैंडिंग के साथ समाप्त हो गया, में आर (टी) का एक सकारात्मक अनुमान होगा, जो सही ढंग से लैंडिंग की निर्भरता को दर्शाता है। रिवॉर्ड फंक्शन R (।) आमतौर पर मैन्युअल रूप से यह निर्धारित करने के लिए चुना जाता है कि टी के विभिन्न प्रक्षेपवक्र कितने वांछनीय हैं। इसे विभिन्न कारकों के लिए क्षतिपूर्ति करनी चाहिए: लैंडिंग के दौरान यह कितना हिल गया, क्या हेलीकॉप्टर बिल्कुल सही जगह पर उतरा, यात्रियों के लिए वंश कितना कठिन है, और इसी तरह। अच्छी इनाम सुविधाओं को विकसित करना आसान नहीं है।

रिवार्ड फंक्शन R (T) को देखते हुए, सुदृढीकरण लर्निंग एल्गोरिदम का कार्य हेलीकॉप्टर को नियंत्रित करना है ताकि अधिकतम _T R (T) तक पहुंच सके। हालांकि, सुदृढीकरण सीखने के एल्गोरिदम कई अनुमान लगाते हैं और इस अधिकतमकरण को प्राप्त करने में सफल नहीं हो सकते हैं।

मान लीजिए कि आप एक R (।) को परिभाषित करते हैं और अपने लर्निंग एल्गोरिदम को चलाते हैं। हालांकि, इसकी प्रभावशीलता मानव पायलट की तुलना में बहुत खराब है - यह लैंडिंग के दौरान बहुत हिलाता है और यह कम सुरक्षित लगता है। यह निर्धारित करने के लिए कि क्या त्रुटि सुदृढीकरण सीखने के एल्गोरिथ्म से संबंधित है जो अधिकतम _टी आर (टी) पथ का पालन करने की कोशिश कर रहा है, या त्रुटि इनाम समारोह से संबंधित है जो लैंडिंग के दौरान स्वीकार्य झटका और लैंडिंग साइट की सटीकता के बीच आदर्श संबंध को मापने और निर्धारित करने की कोशिश कर रहा है?

हम अनुकूलन नियंत्रण परीक्षण लागू करते हैं। बता दें कि T _मानव पायलट द्वारा अनुसरण किया जाने वाला मार्ग है, और T एल्गोरिथम द्वारा चुना गया मार्ग है। उपरोक्त विवरण के बाद, हम इस बात से सहमत हैं कि टी _{मानव का} प्रक्षेपवक्र टी _आउट से बेहतर है, तो मुख्य परीक्षण प्रश्न यह होगा कि क्या आर (टी _मानव )> आर (टी _आउट ) वास्तविकता से मेल खाता है।

विकल्प 1: यदि यह असमानता बनी रहती है, तो इनाम समारोह आर (।) सही ढंग से टी _मानव के प्रक्षेपवक्र का अनुमान लगाता है। लेकिन सुदृढीकरण सीखने के एल्गोरिथ्म ने खराब-रेटेड प्रक्षेपवक्र टी _{आउट को चुना} । इसका मतलब है कि यह हमारे सुदृढीकरण सीखने के एल्गोरिथ्म को बेहतर बनाने के लिए काम कर रहा है।

विकल्प 2: यह असमानता संरक्षित नहीं है, अर्थात आर (टी _मानव ) (आर (टी _आउट )। इसका मतलब है कि इनाम समारोह आर (।) ने टी _{मानव के} लिए सबसे खराब परिणाम दिया, हालांकि यह अब तक का सबसे अच्छा प्रक्षेपवक्र है। आपको एक अच्छे फिट के अनुरूप कारकों के सर्वोत्तम अनुपात का पता लगाने के लिए R (।) को बेहतर बनाने के लिए काम करना चाहिए।

कई मशीन लर्निंग एप्लिकेशन में अनुमानित खोज एल्गोरिथ्म का उपयोग करके स्कोर _x (।) फ़ंक्शन को अनुकूलित करने के लिए यह "टेम्पलेट" है। कभी-कभी हमारे पास बिल्कुल दिए गए इनपुट x नहीं होते हैं, इसलिए अनुकूलन केवल मूल्यांकन फ़ंक्शन स्कोर (।) तक ही सीमित होता है। ऊपर दिए गए उदाहरण में, रिवॉर्ड फंक्शन रिवॉर्ड फंक्शन स्कोर (T) = R (T) था, और ऑप्टिमाइज़ेशन एल्गोरिदम एक अच्छा प्रक्षेपवक्र टी की गणना करने के लिए सुदृढीकरण सीखने का एल्गोरिथ्म था।

इस उदाहरण और पहले वाले के बीच एकमात्र अंतर यह है कि "इष्टतम" आउटपुट के साथ तुलना करने के बजाय, हम इसे टी _{मानव के} लिए मानव दक्षता के साथ तुलना करते _हैं । हम मानते हैं कि टी _मानव प्रक्षेपवक्र, भले ही इष्टतम नहीं है। सामान्य तौर पर, जब तक आपके पास कुछ y * (इस उदाहरण में T _मानव ) है, जो आपके वर्तमान लर्निंग एल्गोरिदम के लिए दक्षता के मामले में सबसे अच्छा आउटपुट है (भले ही यह "इष्टतम" नहीं है), तो अनुकूलन नियंत्रण परीक्षण दिखा सकता है कि क्या अधिक होगा अनुकूलन एल्गोरिथ्म या मूल्यांकन समारोह में सुधार करने का वादा।


[ जारी ]