पुस्तक "मशीन लर्निंग और TensorFlow"

मशीन सीखने और TensorFlow पुस्तकालय के साथ परिचित एक ड्राइविंग स्कूल में पहले सबक के समान है, जब आप समानांतर पार्किंग से पीड़ित होते हैं, तो सही समय पर गियर शिफ्ट करने की कोशिश करें और दर्पणों को न मिलाएं, कार्रवाई के अनुक्रम को याद करते हुए, जबकि आपका पैर गैस पेडल पर कांपता है। यह एक कठिन लेकिन आवश्यक व्यायाम है। मशीन लर्निंग में: आधुनिक फेस रिकग्निशन सिस्टम या शेयर बाजार में एल्गोरिदम का पूर्वानुमान लगाने से पहले, आपको बिना किसी समस्या के अपने सिस्टम को बनाने के लिए उपयुक्त उपकरणों और निर्देशों के सेट से निपटना होगा।

मशीन लर्निंग में शुरुआती इस पुस्तक के लागू अभिविन्यास की सराहना करेंगे, क्योंकि इसका उद्देश्य मूल बातें पेश करना है, फिर वास्तविक समस्याओं को हल करने के लिए जल्दी से नीचे उतरें। TensorFlow के साथ काम करने की मशीन सीखने की अवधारणाओं और सिद्धांतों की समीक्षा से, आप बुनियादी एल्गोरिदम पर जाएंगे, तंत्रिका नेटवर्क का अध्ययन करेंगे और वर्गीकरण, क्लस्टरिंग, प्रतिगमन और पूर्वानुमान की समस्याओं को स्वतंत्र रूप से हल करने में सक्षम होंगे।

अंश। संवादी तंत्रिका नेटवर्क

एक भीषण दिन के बाद दुकानों में खरीदारी एक बहुत ही महत्वपूर्ण कार्य है। मेरी आँखों पर बहुत अधिक जानकारी से हमला किया जाता है। बिक्री, कूपन, विभिन्न प्रकार के रंग, छोटे बच्चे, टिमटिमाती रोशनी और लोगों से भरी गलियां - ये सभी संकेतों के कुछ उदाहरण हैं जो मस्तिष्क के दृश्य प्रांतस्था में भेजे जाते हैं, चाहे मैं उस पर ध्यान देना चाहता हूं या नहीं। दृश्य प्रणाली जानकारी की एक बहुतायत को अवशोषित करती है।

निश्चित रूप से आप वाक्यांश जानते हैं "सौ बार सुनने की तुलना में एक बार देखना बेहतर है।" यह आपके लिए और मेरे लिए (यानी लोगों के लिए) सही हो सकता है, लेकिन क्या मशीन छवियों में अर्थ पा सकती है? हमारे दृश्य फोटोरिसेप्टर प्रकाश की तरंग दैर्ध्य का चयन करते हैं, लेकिन यह जानकारी, जाहिर है, हमारी चेतना तक नहीं फैलती है। अंत में, मैं बिल्कुल नहीं कह सकता कि प्रकाश की तरंग दैर्ध्य मैं क्या देख रहा हूँ। उसी तरह, कैमरा छवि पिक्सेल प्राप्त करता है। लेकिन हम इसके बजाय कुछ उच्च स्तर प्राप्त करना चाहते हैं, उदाहरण के लिए वस्तुओं का नाम या स्थिति। हमें पिक्सेल से मानव स्तर पर कथित जानकारी कैसे मिलती है?

स्रोत डेटा से एक निश्चित अर्थ प्राप्त करने के लिए, तंत्रिका नेटवर्क मॉडल को डिजाइन करना आवश्यक होगा। पिछले अध्यायों में, कई प्रकार के तंत्रिका नेटवर्क मॉडल पेश किए गए थे, जैसे पूरी तरह से जुड़े मॉडल (अध्याय 8) और ऑटो-एनकोडर (अध्याय 7)। इस अध्याय में, हम एक अन्य प्रकार के मॉडल का परिचय देंगे, जिसे कन्वेन्शनल न्यूरल नेटवर्क (CNN) कहा जाता है। यह मॉडल छवियों और ध्वनि जैसे अन्य संवेदी डेटा के साथ बहुत अच्छा काम करता है। उदाहरण के लिए, सीएनएन मॉडल मज़बूती से वर्गीकृत कर सकता है कि किस वस्तु को छवि में प्रदर्शित किया गया है।

सीएनएन मॉडल, जिसे इस अध्याय में चर्चा की जाएगी, को 10 संभावित श्रेणियों में से एक में छवियों को वर्गीकृत करने के लिए प्रशिक्षित किया जाएगा। इस मामले में, "एक तस्वीर सिर्फ एक शब्द से बेहतर है," क्योंकि हमारे पास केवल 10 संभावित विकल्प हैं। यह मानवीय स्तर पर धारणा की दिशा में एक छोटा कदम है, लेकिन हमें कुछ सही से शुरू करना है?

9.1। तंत्रिका नेटवर्क का नुकसान

मशीन लर्निंग एक मॉडल के विकास के लिए एक शाश्वत संघर्ष है जिसमें डेटा को प्रस्तुत करने के लिए पर्याप्त अभिव्यक्ति होगी, लेकिन साथ ही यह इतना सार्वभौमिक नहीं होगा कि यह पैटर्न को फिर से देखना और याद रखना आता है। तंत्रिका नेटवर्क को अभिव्यक्ति बढ़ाने के तरीके के रूप में पेश किया जाता है; हालांकि, जैसा कि आप अनुमान लगा सकते हैं, वे मुकरने के जाल से बहुत पीड़ित हैं।

नोट पुनर्प्रशिक्षण तब होता है जब एक प्रशिक्षित मॉडल एक प्रशिक्षण डेटासेट पर असाधारण रूप से सटीक होता है और एक सत्यापन डेटासेट पर खराब होता है। यह मॉडल संभवतः उपलब्ध डेटा की छोटी राशि के लिए अत्यधिक सार्वभौमिक है, और अंत में यह सिर्फ प्रशिक्षण डेटा को याद करता है।

दो मशीन लर्निंग मॉडल की बहुमुखी प्रतिभा की तुलना करने के लिए, आप एक तेज और क्रूड हेयोरिस्टिक एल्गोरिदम का उपयोग कर सकते हैं, ताकि प्रशिक्षण के परिणामस्वरूप निर्धारित किए जाने वाले मापदंडों की संख्या की गणना की जा सके। जैसा कि अंजीर में दिखाया गया है। 9.1, एक पूरी तरह से जुड़ा हुआ तंत्रिका नेटवर्क है जो 256 × 256 छवि लेता है और इसे 10 न्यूरॉन्स की परत पर मैप करता है जिसमें 256 × 256 × 10 = 655,360 पैरामीटर होंगे! इसकी तुलना केवल पाँच मापदंडों वाले मॉडल से करें। यह माना जा सकता है कि पूरी तरह से जुड़ा हुआ तंत्रिका नेटवर्क पांच-पैरामीटर मॉडल की तुलना में अधिक जटिल डेटा पेश कर सकता है।


अगला खंड दृढ़ नेटवर्क तंत्रिका नेटवर्क पर चर्चा करता है, जो मापदंडों की संख्या को कम करने का एक उचित तरीका है। सीएनएन पूरी तरह से जुड़े नेटवर्क से निपटने के बजाय, एक ही पैरामीटर को बार-बार पुन: उपयोग करता है।

9.2। संवादी तंत्रिका नेटवर्क

कंफ्यूज़नल न्यूरल नेटवर्क का मुख्य विचार यह है कि छवि की स्थानीय समझ पर्याप्त है। दृढ़ तंत्रिका तंत्रिका नेटवर्क का व्यावहारिक लाभ यह है कि, कई पैरामीटर होने से, प्रशिक्षण समय को काफी कम करना संभव है, साथ ही साथ मॉडल को प्रशिक्षित करने के लिए आवश्यक डेटा की मात्रा भी।

प्रत्येक पिक्सेल से वजन के साथ पूरी तरह से जुड़े नेटवर्क के बजाय, सीएनएन में छवि का एक छोटा टुकड़ा देखने के लिए पर्याप्त मात्रा में वजन की आवश्यकता होती है। यह एक आवर्धक कांच के साथ एक किताब को पढ़ने की तरह है: अंत में, आप पूरे पृष्ठ को पढ़ते हैं, लेकिन किसी भी समय, केवल इसके छोटे टुकड़े को देखें।

एक 256 × 256 छवि की कल्पना करें। एक बार में पूरी छवि को संसाधित करने वाले TensorFlow कोड का उपयोग करने के बजाय, आप टुकड़े से छवि के टुकड़े को स्कैन कर सकते हैं, कह सकते हैं, 5 × 5 विंडो। छवि पर 5 × 5 विंडो स्लाइड (आमतौर पर बाईं ओर दाईं ओर और ऊपर से नीचे)। अंजीर में दिखाया गया है। 9.2। कैसे "तेज" यह स्लाइड स्ट्राइड लंबाई कहा जाता है। उदाहरण के लिए, 2 की एक चरण लंबाई का मतलब है कि 5 × 5 स्लाइडिंग विंडो एक समय में 2 पिक्सेल चलती है जब तक कि पूरी छवि नहीं गुजरती। TensorFlow में, जैसा कि जल्द ही दिखाया जाएगा, आप कार्यों की अंतर्निहित लाइब्रेरी का उपयोग करके चरण की लंबाई और खिड़की के आकार को समायोजित कर सकते हैं।


इस 5 × 5 विंडो में 5 × 5 वेट मैट्रिक्स है जो इसके साथ जुड़ा हुआ है।

परिभाषा एक कनवल्शन एक छवि में पिक्सेल के तीव्रता मूल्यों का एक भारित योग है क्योंकि खिड़की पूरी छवि से गुजरती है। यह पता चलता है कि वेट के मैट्रिक्स के साथ छवि के दृढ़ीकरण की यह प्रक्रिया एक और छवि बनाती है (उसी आकार की, जो तह पर निर्भर करती है)। जमावट काफिला लगाने की प्रक्रिया है।

स्लाइडिंग विंडो के सभी जोड़तोड़ तंत्रिका नेटवर्क के दोषपूर्ण परत में होते हैं। एक विशिष्ट दृढ़ तंत्रिका तंत्रिका नेटवर्क में कई दृढ़ परतें होती हैं। प्रत्येक दृढ़ परत आमतौर पर कई अतिरिक्त संकल्प बनाता है, इसलिए भार मैट्रिक्स 5 × 5 × n प्रति टन है, जहां n में संकल्पों की संख्या है।

एक उदाहरण के रूप में, छवि को 5 × 5 × 64 आयामों के वजन मैट्रिक्स के साथ एक दृढ़ परत के माध्यम से जाने दें। यह 5 × 5 स्लाइडिंग विंडो के साथ 64 कॉन्फोल्यूशन बनाता है। इसलिए, संबंधित मॉडल में 5 × 5 × 64 = 1600 पैरामीटर हैं, जो पूरी तरह से जुड़े नेटवर्क के मापदंडों की संख्या से काफी कम है। : 256 × 256 = 65,536।

दृढ़ तंत्रिका नेटवर्क (CNN) का आकर्षण यह है कि मॉडल द्वारा उपयोग किए जाने वाले मापदंडों की संख्या मूल छवि के आकार पर निर्भर नहीं करती है। आप 300 × 300 छवियों पर एक ही दृढ़ तंत्रिका नेटवर्क को चला सकते हैं, और दोषपूर्ण परत में मापदंडों की संख्या नहीं बदलेगी!

9.3। छवि तैयार करना

TensorFlow के साथ CNN मॉडल का उपयोग शुरू करने से पहले, कुछ चित्र तैयार करें। इस खंड में लिस्टिंग से आपको शेष अध्याय के लिए एक प्रशिक्षण डेटासेट स्थापित करने में मदद मिलेगी।

सबसे पहले, CIFAR-10 डेटासेट को www.cs.toronto.edu/~kriz/cifar-10- python.tar.gz से डाउनलोड करें। इस सेट में 10 श्रेणियों में समान रूप से वितरित 60,000 छवियां हैं, जो वर्गीकरण कार्यों के लिए एक काफी बड़ा संसाधन है। फिर छवि फ़ाइल को कार्यशील निर्देशिका में रखा जाना चाहिए। अंजीर में। चित्र 9.3 इस डेटासेट से छवियों के उदाहरण दिखाता है।

हमने पहले ही ऑटो-एनकोडर पर पिछले अध्याय में CIFAR-10 डेटासेट का उपयोग किया था, और अब इस कोड को फिर से देखें। निम्नलिखित सूची को सीधे www.cs.toronto.edu/~kriz/cifar.html पर स्थित CIFAR-10 प्रलेखन से लिया गया है । कोड को cifar_tools.py फ़ाइल में रखें।


लिस्टिंग 9.1। अजगर में एक CIFAR-10 फ़ाइल से लोड हो रहा है छवियाँ

import pickle def unpickle(file): fo = open(file, 'rb') dict = pickle.load(fo, encoding='latin1') fo.close() return dict 

तंत्रिका नेटवर्क के पीछे हटने का खतरा है, इसलिए इस त्रुटि को कम करने के लिए हर संभव प्रयास करना महत्वपूर्ण है। ऐसा करने के लिए, इसे संसाधित करने से पहले डेटा को साफ करना न भूलें।

डाटा क्लीनिंग मशीन लर्निंग पाइप लाइन की मुख्य प्रक्रिया है। Listing 9.2 में कोड एक छवि सेट को साफ करने के लिए निम्नलिखित तीन चरणों का उपयोग करता है:

1. यदि आपकी रंग में छवि है, तो इनपुट डेटा की गतिशीलता को कम करने के लिए इसे ग्रे के रंगों में परिवर्तित करने का प्रयास करें और इसलिए, मापदंडों की संख्या को कम करें।

2. केंद्र में छवि को क्रॉप करने के बारे में सोचें, क्योंकि छवि के किनारे कोई उपयोगी जानकारी प्रदान नहीं करते हैं।

3. औसत को घटाकर और प्रत्येक डेटा नमूने के मानक विचलन द्वारा विभाजित करके इनपुट को सामान्य करें ताकि वापस प्रसार के दौरान ढ़ाल बहुत तेजी से न बदलें।

निम्न सूची से पता चलता है कि इन विधियों का उपयोग करके डेटासेट कैसे साफ़ करें।


CIFAR-10 डेटासेट से सभी छवियों को सहेजें और क्लीनअप फ़ंक्शन चलाएं। निम्नलिखित सूची TensorFlow में उपयोग के लिए डेटा को पढ़ने, सफाई और संरचित करने के लिए एक सुविधाजनक विधि को परिभाषित करती है। वहां, आपको cifar_tools.py फ़ाइल से कोड शामिल करना चाहिए।

सूचि 9.3। सभी CIFAR-10 फाइलों को प्रीप्रोसेस करना

 def read_data(directory): names = unpickle('{}/batches.meta'.format(directory))['label_names'] print('names', names) data, labels = [], [] for i in range(1, 6): filename = '{}/data_batch_{}'.format(directory, i) batch_data = unpickle(filename) if len(data) > 0: data = np.vstack((data, batch_data['data'])) labels = np.hstack((labels, batch_data['labels'])) else: data = batch_data['data'] labels = batch_data['labels'] print(np.shape(data), np.shape(labels)) data = clean(data) data = data.astype(np.float32) return names, data, labels 

Using_cifar.py फ़ाइल में, आप इसके लिए cifar_tools आयात करके विधि का उपयोग कर सकते हैं। लिस्टिंग 9.4 और 9.5 दिखाते हैं कि एक डेटासेट से कई छवियों को कैसे प्राप्त करें और उन्हें कल्पना करें।

लिस्टिंग 9.4। Cifar_tools हेल्पर फ़ंक्शन का उपयोग करना

 import cifar_tools names, data, labels = \ cifar_tools.read_data('your/location/to/cifar-10-batches-py') 

आप मनमाने ढंग से कई छवियों का चयन कर सकते हैं और उन्हें लेबल के अनुसार आकर्षित कर सकते हैं। निम्नलिखित सूची बस यही करती है, जिससे आप बेहतर तरीके से समझ सकते हैं कि आप किस प्रकार के डेटा के साथ काम करेंगे।


इस कोड को चलाकर, आप cifar_examples.png फ़ाइल बनाएंगे, जो अंजीर की तरह दिखाई देगी। 9.3।

»पुस्तक की अधिक जानकारी प्रकाशक की वेबसाइट पर पाई जा सकती है
» सामग्री
» अंश

फेरीवालों के लिए 20% की छूट - मशीन लर्निंग