😖 🚶🏿 🧖🏾 पिज्जा अला-सेमी-सुपरवाइज्ड 👩🏻‍💼 🧑🏽‍🤝‍🧑🏼 💵

इस लेख में, मैं एक मॉडल को प्रशिक्षित करते समय डेटा के साथ काम करने के लिए कुछ तकनीकों के बारे में बात करना चाहूंगा। विशेष रूप से, बक्से पर वस्तुओं के विभाजन को कैसे खींचना है, साथ ही मॉडल को कैसे प्रशिक्षित करना है और डेटासेट का मार्कअप प्राप्त करना है, बस कुछ नमूनों को चिह्नित करना है।

कार्य

पिज्जा और तस्वीरें बनाने की एक निश्चित प्रक्रिया है इसके विभिन्न चरणों (केवल पिज्जा नहीं) सहित। यह ज्ञात है कि यदि आटा नुस्खा खराब हो जाता है, तो क्रस्ट पर सफेद pimples होंगे। विशेषज्ञों द्वारा किए गए पिज्जा के प्रत्येक उदाहरण के लिए परीक्षण की गुणवत्ता का एक द्विआधारी अंकन भी है। एक एल्गोरिथ्म विकसित करना आवश्यक है जो फोटोग्राफ के अनुसार परीक्षण की गुणवत्ता निर्धारित करेगा।

डेटासेट में अलग-अलग स्थितियों में, अलग-अलग कोणों पर अलग-अलग फोन से ली गई तस्वीरें होती हैं। पिज्जा उदाहरण - 17k। कुल तस्वीरें - 60k

मेरी राय में, डेटा हैंडलिंग के विभिन्न तरीकों को दिखाने के लिए कार्य काफी सामान्य है और अच्छी तरह से अनुकूल है। इसे हल करने के लिए, आपको चाहिए:

1. उन तस्वीरों को चुनें जहां एक पिज्जा क्रस्ट है;
2. चयनित तस्वीरों पर, केक को उजागर करें;
3. चयनित क्षेत्रों में तंत्रिका नेटवर्क को प्रशिक्षित करें।

तस्वीरें छानना

पहली नज़र में ऐसा लगता है कि सबसे आसान तरीका यह होगा कि इस कार्य को स्क्राइबर्स को दिया जाए, और फिर साफ डेटा पर डेटासेट को प्रशिक्षित किया जाए। हालांकि, मैंने फैसला किया कि मेरे लिए एक छोटे से हिस्से को चिह्नित करना आसान था, जो एक मुंशी के साथ समझाने की तुलना में सही था। इसके अलावा, मेरे पास सही कोण के लिए एक कठिन मानदंड नहीं था।

तो यहाँ है कि मैंने क्या किया:

1. चिह्नित 100 किनारे तस्वीरें;

2. मैंने इमेजनेट 11k_places365 से भार के साथ रेसनेट -152 ग्रिड से वैश्विक खींचने के बाद सुविधाओं की गणना की;

3. दो एंकरों को प्राप्त करने, प्रत्येक वर्ग की सुविधाओं का औसत लिया;

4. मैंने प्रत्येक एंकर से शेष 50k तस्वीरों की सभी विशेषताओं की दूरी की गणना की;

5. एक एंकर के निकट शीर्ष 300 सकारात्मक वर्ग के लिए प्रासंगिक हैं, अन्य एंकर के निकटतम 500 शीर्ष नकारात्मक है;

6. मैंने इन नमूनों पर लाइट जीबीएम को एक ही सुविधाओं के साथ प्रशिक्षित किया है (XGboost को चित्र में इंगित किया गया है, क्योंकि इसमें एक लोगो है और अधिक पहचानने योग्य है, लेकिन लाइट जीबीएम में लोगो नहीं है);

7. इस मॉडल का उपयोग करते हुए, मुझे संपूर्ण डेटासेट का मार्कअप मिला।

मैंने बेस लाइन के रूप में कागल प्रतियोगिताओं में लगभग समान दृष्टिकोण का उपयोग किया।

उंगलियों पर एक स्पष्टीकरण क्यों यह दृष्टिकोण भी काम करता है

एक तंत्रिका नेटवर्क को एक तस्वीर के जोरदार गैर-रैखिक परिवर्तन के रूप में माना जा सकता है। वर्गीकरण के मामले में, चित्र उन वर्गों की संभावनाओं में परिवर्तित हो जाता है जो प्रशिक्षण सेट में थे। और इन संभावनाओं को अनिवार्य रूप से लाइट जीबीएम के लिए सुविधाओं के रूप में इस्तेमाल किया जा सकता है। हालांकि, यह एक बहुत ही खराब विवरण है, और पिज्जा के मामले में हम इस प्रकार कहेंगे कि केक की श्रेणी सशर्त रूप से 0.3 बिल्लियाँ और 0.7 कुत्ते हैं, और बाकी कचरा है। इसके बजाय, आप ग्लोबल औसत पूलिंग के बाद कम विरल सुविधाओं का उपयोग कर सकते हैं। उनके पास एक ऐसी संपत्ति है जो प्रशिक्षण नमूने के नमूनों से उत्पन्न होती है, जिसे एक रैखिक परिवर्तन (सॉफ्टमैक्स के साथ पूरी तरह से जुड़ा हुआ परत) द्वारा अलग किया जाना चाहिए। हालांकि, इस तथ्य के कारण कि कल्पना ट्रेन में कोई स्पष्ट पिज्जा नहीं था, नए प्रशिक्षण सेट की कक्षाओं को अलग करने के लिए पेड़ों के रूप में एक गैर-रैखिक परिवर्तन लेना बेहतर है। सिद्धांत रूप में, आप आगे भी जा सकते हैं और तंत्रिका नेटवर्क के कुछ मध्यवर्ती परतों से विशेषताएं ले सकते हैं। वे इसमें बेहतर होंगे कि उन्होंने अभी तक वस्तुओं के इलाके को नहीं खोया है। लेकिन वे फीचर वेक्टर के आकार के कारण बहुत खराब हैं। और इसके अलावा, वे पूरी तरह से जुड़े परत के सामने की तुलना में कम रैखिक हैं।

थोड़ा सा विषयांतर

ओडीएस ने हाल ही में शिकायत की है कि कोई भी अपनी विफलताओं के बारे में नहीं लिखता है। स्थिति को ठीक करना। लगभग एक साल पहले, मैंने यूजीन निज़िबित्सकी के साथ कागल सी लायंस प्रतियोगिता में भाग लिया था। कार्य ड्रोन से छवियों में फर जवानों की गिनती करना था। मार्कअप बस शव निर्देशकों के रूप में दिया गया था, लेकिन कुछ बिंदु पर व्लादिमीर इग्लोविकोव ने उन्हें बक्से के साथ चिह्नित किया और उदारतापूर्वक समुदाय के साथ साझा किया। उस समय, मैं खुद को सिमेंटिक सेगमेंटेशन ( कागले Dstl के बाद) का एक डैड मानता था और यह तय करता था कि अगर मैं शास्त्रीय रूप से बिल्लियों को अलग करना सीखता हूं तो Unet को काउंटिंग के काम में बहुत आसानी होगी।

शब्दार्थ विभाजन की व्याख्या

सिमेंटिक विभाजन अनिवार्य रूप से एक तस्वीर के पिक्सेल-बाय-पिक्सेल वर्गीकरण है। यही है, चित्र के प्रत्येक स्रोत पिक्सेल को एक वर्ग के साथ जुड़ा होना चाहिए। बाइनरी सेगमेंटेशन (लेख का मामला) के मामले में, यह या तो एक सकारात्मक या नकारात्मक वर्ग होगा। मल्टीक्लास विभाजन के मामले में, प्रत्येक पिक्सेल को प्रशिक्षण सेट (पृष्ठभूमि, घास, बिल्ली, आदमी, आदि) से एक वर्ग सौंपा जाएगा। बाइनरी सेगमेंटेशन के मामले में, यू-नेट न्यूरल नेटवर्क आर्किटेक्चर ने उस समय अच्छा काम किया। यह तंत्रिका नेटवर्क एक पारंपरिक एनकोडर-डिकोडर की संरचना में समान है, लेकिन उचित आकार के चरणों में एनकोडर-पार्ट से डिकोडर तक की सुविधा के साथ।

हालांकि, वेनिला के रूप में, कोई भी इसका उपयोग नहीं करता है, लेकिन कम से कम वे बैच नॉर्म जोड़ते हैं। खैर, एक नियम के रूप में, वे एक वसा एनकोडर लेते हैं और डिकोडर को फुलाते हैं। यू-नेट जैसे आर्किटेक्चर को नए एफपीएन सेगमेंट ग्रिड द्वारा बदल दिया गया है, जो कुछ कार्यों पर अच्छा प्रदर्शन दिखाते हैं। हालांकि, यूनेट जैसे आर्किटेक्चर ने आज तक अपनी प्रासंगिकता नहीं खोई है। वे आधार रेखा के रूप में अच्छी तरह से काम करते हैं, वे प्रशिक्षित करने में आसान होते हैं, और अलग-अलग सनकियों को बदलकर तंत्रिका विज्ञान की गहराई / आकार को अलग करना बहुत सरल है।

तदनुसार, मैंने विभाजन को सिखाना शुरू कर दिया, पहले चरण में केवल मुक्केबाजी बिल्लियों पर एक लक्ष्य के रूप में। प्रशिक्षण के पहले चरण के बाद, मैंने ट्रेन की भविष्यवाणी की और देखा कि भविष्यवाणियां कैसे दिखती हैं। उत्तराधिकारियों की मदद से, एक मुखौटा से अमूर्त आत्मविश्वास का चयन कर सकता है और भविष्यवाणियों को दो समूहों में विभाजित कर सकता है: जहां सब कुछ अच्छा है और जहां सब कुछ बुरा है।

भविष्यवाणियों जहां सभी अच्छी तरह से मॉडल के अगले पुनरावृत्ति को प्रशिक्षित करने के लिए इस्तेमाल किया जा सकता है। भविष्यवाणियाँ, जहाँ सब कुछ बुरा है, बड़े क्षेत्रों के साथ बिना सील, हाथों के मुखौटे के साथ चुना जा सकता है, और ट्रेन में भी फेंक दिया जाता है। और इसलिए पुनरावृत्ति, यूजीन और मैंने एक मॉडल को प्रशिक्षित किया जो बड़े व्यक्तियों के लिए फर सील पंखों को खंडित करने के लिए भी सीखा।

लेकिन यह एक भयंकर असफलता थी: हमने बहुत समय बिताया यह जानने के लिए कि कैसे शांत बिल्लियों को विभाजित किया जाए और ... यह उनकी गणना में लगभग मदद नहीं करता है। यह धारणा कि जवानों का घनत्व (मुखौटा की प्रति इकाई क्षेत्र की संख्या) लगातार काम नहीं करता है, क्योंकि ड्रोन ने अलग-अलग ऊंचाइयों पर उड़ान भरी, और चित्रों में अलग-अलग पैमाने थे। और एक ही समय में, विभाजन अभी भी व्यक्तिगत व्यक्तियों को बाहर नहीं निकालता है यदि वे तंग करते हैं - जो कि अक्सर होता है। और DSB2018 में टोकोडर टीम की वस्तुओं के पृथक्करण के अभिनव दृष्टिकोण से पहले, एक और वर्ष अभी भी था। नतीजतन, हम 600 टीमों में से 40 वें स्थान पर रहने के साथ कुछ भी नहीं रहे।

हालाँकि, मैंने दो निष्कर्ष निकाले: सिमेंटिक सेगमेंट एल्गोरिथ्म के संचालन की कल्पना और विश्लेषण के लिए एक सुविधाजनक दृष्टिकोण है, और कुछ प्रयासों से मास्क को बक्से से वेल्डेड किया जा सकता है।

लेकिन वापस पिज्जा के लिए। चयनित और फ़िल्टर किए गए फ़ोटो पर केक को हाइलाइट करने के लिए, सबसे सही विकल्प होता है कि टास्क करने वाले को टास्क दिया जाए। उस समय, हमने पहले से ही उनके लिए बक्से और सर्वसम्मति एल्गोरिथ्म को लागू किया था। इसलिए मैंने सिर्फ कुछ उदाहरणों को फेंक दिया और इसे मार्कअप में दे दिया। नतीजतन, मुझे क्रस्ट के ठीक चुने हुए क्षेत्र के साथ 500 नमूने मिले।

तब मैंने सील से अपना कोड खोदा और वर्तमान प्रक्रिया के लिए औपचारिक रूप से संपर्क किया। प्रशिक्षण के पहले पुनरावृत्ति के बाद, यह भी स्पष्ट रूप से दिखाई दे रहा था जहां मॉडल गलत था। और भविष्यवाणियों के विश्वास को निम्नानुसार परिभाषित किया जा सकता है:
1 - (ग्रे क्षेत्र) / (मुखौटा क्षेत्र) # एक सूत्र होगा, मैं वादा करता हूं

अब, मास्क पर बक्से खींचने के अगले पुनरावृत्ति को बनाने के लिए, एक छोटा पहनावा TTA ट्रेन की भविष्यवाणी करेगा। इसे कुछ हद तक WAAAAGH ज्ञान आसवन माना जा सकता है, लेकिन इसे छद्म लेबलिंग कहना अधिक सही है।

अगला, आपको अपनी आँखों को आत्मविश्वास की एक निश्चित सीमा के साथ चुनना होगा, जिससे हम एक नई ट्रेन बनाते हैं। और वैकल्पिक रूप से आप सबसे जटिल नमूनों को चिह्नित कर सकते हैं जिन्हें पहनावा संभाल नहीं सकता था। मैंने फैसला किया कि यह उपयोगी होगा, और दोपहर के भोजन को पचाने के दौरान लगभग 20 चित्रों को चित्रित किया जाएगा।

और अब पाइपलाइन का अंतिम भाग: मॉडल प्रशिक्षण। नमूने तैयार करने के लिए, मैंने केक का मुखौटा क्षेत्र निकाला। मैंने थकावट के साथ मास्क को थोड़ा उकसाया और पृष्ठभूमि को हटाने के लिए इसे तस्वीर पर लागू किया, क्योंकि परीक्षण की गुणवत्ता के बारे में जानकारी नहीं होनी चाहिए। और फिर मैंने अभी कई मॉडल Imagenet चिड़ियाघर से दायर किए हैं। कुल में, मैं लगभग 12k आश्वस्त नमूने एकत्र करने में सक्षम था। इसलिए, मैंने पूरे तंत्रिका नेटवर्क को नहीं पढ़ाया, लेकिन केवल दृढ़ संकल्पों का अंतिम समूह, ताकि मॉडल को वापस न लिया जाए।

आपको परतों को फ्रीज करने की आवश्यकता क्यों है

इससे दो लाभ हैं: 1. नेटवर्क तेजी से सीखता है, क्योंकि आपको जमी परतों के लिए ग्रेडिएंट्स पढ़ने की आवश्यकता नहीं है। 2. नेटवर्क का पुन: उपयोग नहीं किया जाता है, क्योंकि इसमें अब कम मुक्त पैरामीटर हैं। यह तर्क दिया जाता है कि Imagenet पर प्रशिक्षण के दौरान दृढ़ संकल्प के पहले कुछ समूह तीव्र रंग संक्रमण और बनावट जैसे सामान्य संकेत उत्पन्न करते हैं जो फोटोग्राफी में वस्तुओं के बहुत व्यापक वर्ग के लिए उपयुक्त हैं। इसका मतलब है कि आप उन्हें ट्रान्स लर्निंग के दौरान प्रशिक्षित नहीं कर सकते।

सबसे अच्छा एकल मॉडल इंसेप्शन-रेसनेट-वी 2 था, और उसके लिए, एक तह पर आरओसी-एयूसी 0.700 था। यदि आप कुछ भी नहीं चुनते हैं और जैसा है वैसा ही कच्चा चित्र सबमिट करते हैं, तो ROC-AUC 0.58 है। जब मैं समाधान विकसित कर रहा था, डेटा का अगला बैच डोडो पिज्जा में पकाया गया था, और एक ईमानदार होल्डआउट पर पूरी पाइपलाइन का परीक्षण करना संभव था। हमने इस पर पूरी पाइपलाइन की जाँच की और आरओसी-एयूसी 0.83 प्राप्त किया।

आइए अब त्रुटियों को देखें:

शीर्ष गलत नकारात्मक

यहां देखा जा सकता है कि वे केक को चिह्नित करने में त्रुटि से जुड़े हैं, क्योंकि खराब परीक्षण के स्पष्ट संकेत हैं।

शीर्ष झूठी सकारात्मक

यहां त्रुटियां इस तथ्य से संबंधित हैं कि पहले मॉडल को बहुत अच्छा कोण नहीं चुना गया था, जिसके अनुसार परीक्षण गुणवत्ता के प्रमुख संकेतों को खोजना मुश्किल है।

निष्कर्ष

सहकर्मी कभी-कभी मुझे चिढ़ाते हैं कि मैं यूनेट का उपयोग करके विभाजन से कई समस्याओं को हल करता हूं। हालांकि, मेरी राय में, यह एक काफी शक्तिशाली और सुविधाजनक तरीका है। यह आपको मॉडल त्रुटियों और इसकी भविष्यवाणियों के विश्वास की कल्पना करने की अनुमति देता है। इसके अलावा, पूरी पेलाइन बहुत सरल लगती है और अब किसी भी ढांचे के लिए रिपॉजिटरी का एक समूह है।

पिज्जा अला-सेमी-सुपरवाइज्ड

कार्य

तस्वीरें छानना

थोड़ा सा विषयांतर

निष्कर्ष

More articles: