• संख्या की मान्यता। प्रैक्टिकल गाइड। भाग 1

हम उन लोगों के लिए लाइसेंस प्लेटों की पहचान कैसे करें की कहानी जारी रखते हैं, जो अजगर में हैलो वर्ल्ड एप्लीकेशन लिख सकते हैं! इस भाग में, हम सीखेंगे कि उन मॉडल को कैसे प्रशिक्षित किया जाए जो किसी दिए गए ऑब्जेक्ट के क्षेत्र की तलाश कर रहे हैं, और यह भी सीखें कि एक सरल आरएनएन नेटवर्क कैसे लिखें जो कुछ वाणिज्यिक समकक्षों की तुलना में बेहतर पढ़ने वाली संख्याओं का सामना करेंगे।
इस भाग में मैं आपको बताऊंगा कि अपने डेटा के लिए नोमेरॉफ नेट को कैसे प्रशिक्षित किया जाए, उच्च पहचान की गुणवत्ता कैसे प्राप्त की जाए, जीपीयू समर्थन को कैसे कॉन्फ़िगर किया जाए और परिमाण के एक क्रम से सब कुछ गति प्रदान की जाए ...

हम नंबर के साथ क्षेत्र का पता लगाने के लिए मास्क RCNN को प्रशिक्षित करते हैं

बेशक, आप न केवल एक संख्या पा सकते हैं, बल्कि कोई अन्य वस्तु जिसे आपको ढूंढना है। उदाहरण के लिए, आप सादृश्य द्वारा, क्रेडिट कार्ड देख सकते हैं और इसके विवरण पढ़ सकते हैं। सामान्य तौर पर, जिस मास्क को छवि में अंकित किया जाता है उसे "इंस्टेंस सेगमेंटेशन" कार्य कहा जाता है (मैंने पहले भाग में इसके बारे में पहले ही लिखा था)।

अब हम यह पता लगाएंगे कि इस समस्या को हल करने के लिए नेटवर्क को कैसे प्रशिक्षित किया जाए। वास्तव में, यहां बहुत कम प्रोग्रामिंग है, यह सब एक नीरस, थकाऊ, समान डेटा मार्कअप के लिए आता है। हां, हां, अपने पहले सौ को चिह्नित करने के बाद आप समझ जाएंगे कि मेरा क्या मतलब है :)

तो, डेटा तैयारी एल्गोरिथ्म इस प्रकार है:

• हम आकार में कम से कम 300x300 की छवियां लेते हैं, सब कुछ एक फ़ोल्डर में डंप करते हैं
• वीजीजी इमेज एनोटेटर (वीआईए) मार्कअप टूल डाउनलोड करें, आप इसे ऑनलाइन चिह्नित कर सकते हैं, आउटपुट एक तस्वीर के साथ एक निर्देशिका और आपके द्वारा मार्कअप के साथ बनाई गई जसन फ़ाइल होगी। दो ऐसे फ़ोल्डर हैं, जिन्हें एक ट्रेन में उदाहरणों के मुख्य भाग में रखा गया है, दूसरी घाटी में पहले पैक के उदाहरणों की संख्या का लगभग 20-30% (बेशक, इन फ़ोल्डरों में समान फ़ोटो नहीं होना चाहिए)। आप Nomeroff नेट परियोजना के लिए टैग किए गए डेटा का एक उदाहरण देख सकते हैं। मात्रा से - अधिक बेहतर है। कुछ विशेषज्ञ 5,000 उदाहरणों की सलाह देते हैं, हम आलसी हैं, 1,000 से थोड़ा अधिक टाइप कर रहे हैं क्योंकि परिणाम हमारे साथ काफी ठीक था।
  
  
• प्रशिक्षण शुरू करने के लिए, आपको Github से Nomeroff नेट परियोजना को डाउनलोड करने, सभी निर्भरता के साथ मास्क RCNN स्थापित करने की आवश्यकता है, और आप हमारे डेटा पर ट्रेन / mrcnn.ipynb प्रशिक्षण स्क्रिप्ट चलाने का प्रयास कर सकते हैं।
• मैं तुरंत आपको चेतावनी देता हूं, यह तेजी से काम नहीं करता है। यदि आपके पास GPU नहीं है, तो इसमें कुछ दिन लग सकते हैं। सीखने की प्रक्रिया में काफी तेजी लाने के लिए, GPU समर्थन के साथ टेंसरफ़्लो स्थापित करना उचित है।
• यदि हमारे डेटासेट पर प्रशिक्षण सफल रहा, तो अब आप सुरक्षित रूप से अपने आप बदल सकते हैं।
  

• कृपया ध्यान दें - हम सब कुछ खरोंच से प्रशिक्षित नहीं करते हैं, हम COCO डेटासेट डेटा पर प्रशिक्षित मॉडल को प्रशिक्षित करते हैं, जिसे आरसीएनएन हर रन पर ले जाता है

  
  
• आप कोको को प्रशिक्षित नहीं कर सकते हैं, लेकिन हमारे मॉडल मास्क_ आर्कन_नंबरप्लेट_0700.h5 , और WEIGHTS कॉन्फ़िगरेशन पैरामीटर (डिफ़ॉल्ट रूप से, "वजन": "कोको") में इस मॉडल का पथ निर्दिष्ट करें
• जिन मापदंडों को बढ़ाया जा सकता है, वे हैं: ©, STEPS_PER_EPOCH
• प्रत्येक युग के बाद के परिणाम को फ़ोल्डर में डंप कर दिया जाएगा । लॉन्च का /logs/numberplate<date> /

परियोजना के उदाहरणों में, अभ्यास में प्रशिक्षित मॉडल का परीक्षण करने के लिए, अपने मॉडल के पथ के साथ MASK_RCNN_MODEL_PATH को बदलें।

अपनी आवश्यकताओं के लिए लाइसेंस प्लेट क्लासिफायर में सुधार

लाइसेंस प्लेट वाले क्षेत्रों के पाए जाने के बाद, आपको यह निर्धारित करने की कोशिश करनी होगी कि हम किस राज्य / प्रकार की संख्या को पहचानते हैं। यहां सार्वभौमिकता मान्यता की गुणवत्ता के खिलाफ काम करती है। इसलिए, आदर्श रूप से, आपको एक क्लासिफायरियर ट्रेन करने की ज़रूरत है जो न केवल यह निर्धारित करती है कि किस देश की संख्या कितनी है, बल्कि इस नंबर के डिज़ाइन का प्रकार (वर्णों का स्थान, किसी दिए गए प्रकार के लिए प्रतीक विकल्प) भी है।

हमारी परियोजना में, हमने यूक्रेन की संख्या, रूसी संघ और यूरोपीय संख्या को सामान्य रूप से पहचानने के लिए समर्थन लागू किया। यूरोपीय नंबरों की मान्यता की गुणवत्ता थोड़ी खराब है, क्योंकि विभिन्न डिजाइनों के साथ संख्याएं हैं और बढ़ी हुई संख्या में वर्ण पाए जाते हैं। शायद, समय के साथ, "यूरोप-ई", "यूरोप-पीएल", "यूरोप-एलयू", के लिए अलग-अलग मान्यता मॉड्यूल होंगे ...

लाइसेंस प्लेट को वर्गीकृत करने से पहले, आपको इसे छवि से "कट" करने और इसे सामान्य करने की आवश्यकता है, दूसरे शब्दों में, सभी विकृतियों को अधिकतम तक हटा दें और एक स्वच्छ आयत प्राप्त करें जिसे आगे के विश्लेषण के अधीन किया जाएगा। यह कार्य काफी गैर-तुच्छ हो गया, मुझे यहां तक ​​कि स्कूल के गणित को याद करना और k- साधनों का एक विशेष कार्यान्वयन लिखना था: कलस्टर एल्गोरिथ्म :)। मॉड्यूल जो इसे संसाधित करता है उसे रेक्टेटेक्टर कहा जाता है, यह सामान्यीकृत संख्याओं को देखता है, जिसे हम आगे वर्गीकृत करेंगे और पहचानेंगे।



किसी तरह से संख्याओं को वर्गीकृत करने के लिए डेटासेट बनाने की प्रक्रिया को स्वचालित करने के लिए, हमने नोडज पर एक छोटा व्यवस्थापक पैनल विकसित किया। इस व्यवस्थापक पैनल का उपयोग करके, आप लाइसेंस प्लेट और जिस वर्ग से संबंधित हैं, उस शिलालेख को चिह्नित कर सकते हैं।

कई क्लासिफायर हो सकते हैं। हमारे मामले में, संख्या के आधार पर और क्या यह स्केच किया गया है / फोटो में चित्रित किया गया है।



डेटासेट को चिह्नित करने के बाद, हम इसे प्रशिक्षण, सत्यापन और परीक्षण नमूनों में विभाजित करते हैं। एक उदाहरण के रूप में, हमारे ऑटोरिएनरीप्लेटऑफिसिएशंस 3 डाटसेट 2017-05-20.zip को डाउनलोड करें ताकि यह देखने के लिए कि सब कुछ वहां कैसे काम करता है।

चूंकि चयन पहले से ही चिह्नित (मॉडरेट) किया गया है, तो आपको यादृच्छिक जोंस फ़ाइलों में "isModerated": 1 से "isModerated" को बदलने की आवश्यकता है: 0 और फिर व्यवस्थापक पैनल शुरू करें ।

हम क्लासिफायर ट्रेन करते हैं:

प्रशिक्षण स्क्रिप्ट ट्रेन / options.ipynb आपको मॉडल का अपना संस्करण प्राप्त करने में मदद करेगा। हमारे उदाहरण से पता चलता है कि क्षेत्रों / प्रकार की लाइसेंस प्लेटों के वर्गीकरण के लिए, "क्या संख्या अधिक चित्रित है?" के वर्गीकरण के लिए हमें 98.8% की सटीकता प्राप्त हुई। हमारे डेटासेट पर 99.4% । सहमत, यह अच्छी तरह से निकला।

अपने OCR (पाठ पहचान) को प्रशिक्षित करें

खैर, हमने क्षेत्र को संख्या के साथ पाया और इसे एक आयत में सामान्य कर दिया जिसमें संख्या के साथ शिलालेख है। हम पाठ कैसे पढ़ते हैं? सबसे आसान तरीका है कि इसे फाइनरडर या टेसेरैक्ट के माध्यम से चलाएं। गुणवत्ता "बहुत अधिक नहीं" होगी, लेकिन संख्या के साथ क्षेत्र के एक अच्छे समाधान के साथ आप 80% की सटीकता प्राप्त कर सकते हैं। वास्तव में, यह खराब सटीकता नहीं है, लेकिन अगर मैं आपसे कहूं कि आप 97% प्राप्त कर सकते हैं और एक ही समय में कंप्यूटर के संसाधनों को काफी कम खर्च करते हैं? अच्छा लगता है - चलो कोशिश करते हैं। इन उद्देश्यों के लिए थोड़ी असामान्य वास्तुकला उपयुक्त है, जिसमें दोनों कंटेस्टेंट और आवर्तक परतों का उपयोग किया जाता है। इस नेटवर्क की वास्तुकला कुछ इस तरह दिखती है:



कार्यान्वयन साइट https://supervise.ly/ से लिया गया था, हमने इसे वास्तविक तस्वीरों पर प्रशिक्षण के लिए थोड़ा संशोधित किया (पर्यवेक्षी वेबसाइट पर, सिंथेटिक नमूने के लिए एक विकल्प बनाया गया था)

अब मज़ेदार भाग शुरू होता है, कम से कम 5,000 नंबरों को चिह्नित करें :)। हमने "पुराने" डिजाइन , ~ 6,500 यूरोपीय , ~ 10,000 आरएफ के साथ ~ 100,000 यूक्रेनी , ~ 50,000 यूक्रेनी के बारे में बताया । यह विकास का सबसे कठिन हिस्सा था। आप कल्पना भी नहीं कर सकते हैं कि संख्याओं के अगले भाग के लिए दिन में कई घंटे मॉडरेट करने वाली कंप्यूटर कुर्सी पर मैं कितनी बार सो गया। लेकिन मार्कअप का असली हीरो डिमांडेन्डेरा है - उसने सभी सामग्री के 2/3 को चिह्नित किया, (उसे एक प्लस दें यदि आप समझते हैं कि यह सब काम करना कितना उबाऊ था :))

आप किसी भी तरह इस प्रक्रिया को स्वचालित करने की कोशिश कर सकते हैं, उदाहरण के लिए, पहले प्रत्येक छवि को टेसेरैक्ट के साथ मान्यता प्राप्त है, और फिर अपने व्यवस्थापक पैनल का उपयोग करके त्रुटियों को ठीक करें।

कृपया ध्यान दें: नंबर पर क्लासिफायरियर और ओसीआर अंकित करने के लिए एक ही एडमिन पैनल का उपयोग किया जाता है। आप स्केटेड नंबरों को छोड़कर, वहां और वहां दोनों समान डेटा लोड कर सकते हैं।

यदि आप कम से कम 5000 नंबरों को चिह्नित करते हैं और अपने ओसीआर को प्रशिक्षित कर सकते हैं - अपने वरिष्ठों के साथ खुद के लिए एक पुरस्कार की व्यवस्था करने के लिए स्वतंत्र महसूस करें, मुझे यकीन है कि यह परीक्षा wimps के लिए नहीं है!

प्रशिक्षण प्राप्त करना शुरू किया

ट्रेन / ocr-ru.ipynb स्क्रिप्ट रूसी नंबर के लिए मॉडल को प्रशिक्षित करती है, यूक्रेन और यूरोप के लिए उदाहरण हैं।

कृपया ध्यान दें कि प्रशिक्षण सेटिंग्स में केवल एक युग (एक पास) है।

इस तरह के डेटासेट की एक विशेषता प्रत्येक प्रयास के लिए एक अलग परिणाम होगी, प्रत्येक प्रशिक्षण सत्र से पहले, डेटा यादृच्छिक क्रम में मिलाया जाता है, कभी-कभी यह प्रशिक्षण के लिए "बहुत अच्छा नहीं" होता है। मेरा सुझाव है कि आप परीक्षण डेटा पर सटीकता को नियंत्रित करते हुए कम से कम 5 बार प्रयास करें। विभिन्न लॉन्च प्रयासों के साथ, हमारी सटीकता 87% से 97% तक "कूद" सकती है।

कुछ सिफारिशें :

• जब तक हमें अपेक्षित परिणाम नहीं मिल जाता है, तब तक सब कुछ एक नए तरीके से शुरू करने की आवश्यकता नहीं है, बस लाइन मॉडल = ocrTextDetector.train (मोड = मोड) को पुनरारंभ करें।
• खराब सटीकता का एक कारण अपर्याप्त डेटा है। यदि आप इसे पसंद नहीं करते हैं, तो हम इसे बार-बार चिह्नित करते हैं, कुछ बिंदु पर गुणवत्ता बढ़ रही है, प्रत्येक डेटासेट के लिए यह भिन्न है, आप 10,000 लेबल वाले उदाहरणों की संख्या पर ध्यान केंद्रित कर सकते हैं
• यदि आपके पास NVIDIA CuDNN ड्राइवर स्थापित है, तो प्रशिक्षण तेज हो जाएगा, प्रशिक्षण स्क्रिप्ट में MODE = "gpu" मान बदलें और GRDN परत के बजाय CuDNNGRU जुड़ा होगा, जिससे तीन गुना त्वरण होगा।

NVIDIA GPU के लिए टेंसरफ़्लो स्थापित करने के बारे में थोड़ा सा

यदि आप NVIDIA से GPU के एक खुश मालिक हैं, तो आप कई बार चीजों को गति दे सकते हैं: मॉडल प्रशिक्षण और प्रवेश (मान्यता मोड) दोनों संख्याएं। समस्या सब कुछ सही तरीके से स्थापित और संकलित करने की है।

हम अपने एमएल सर्वर पर फेडोरा लिनक्स का उपयोग करते हैं (यह ऐतिहासिक रूप से हुआ)।

इस OS का उपयोग करने वालों के लिए कार्यों का अनुमानित क्रम निम्नानुसार है:

• हमने आपके OS संस्करण के लिए GPU ड्राइवर को यहां फेडोरा के लिए रखा है
• हम NVIDIA रिपॉजिटरी से कनेक्ट करते हैं और वहां से CUDA पैकेज स्थापित करते हैं, यहाँ CentOS / फेडोरा के लिए
• हम बज़ेल डालते हैं, और हम इस डॉक पर स्रोतों से टेंसोफ़्लो इकट्ठा करते हैं
• यह भी संकलक के पुराने संस्करण को स्थापित करने के लिए सलाह दी जाती है, जिसे cuda-gcc कहा जाता है, cuda-gcc 6.4 पर मेरे लिए सब कुछ ठीक चल रहा था। असेंबली को कॉन्फ़िगर करते समय, cuda-gcc के लिए पथ निर्दिष्ट करें

यदि आप gpu समर्थन के साथ टेंसरफ़्लो का निर्माण नहीं कर सकते हैं, तो आप docker के माध्यम से सब कुछ चला सकते हैं, और docker के अलावा, आपको nvidia-docker2 पैकेज को स्थापित करने की आवश्यकता है। डॉकटर कंटेनर के अंदर, आप ज्यूपिटर नोटबुक चला सकते हैं, और फिर वहां सब कुछ चला सकते हैं।

jupyter notebook --ip=0.0.0.0 --port=8888 --allow-root 

उपयोगी लिंक

• Nomeroff नेट होमपेज
• गीथहब पर नोमोर्फ नेट
• Nomeroff नेट का ऑनलाइन डेमो

मैं 2expres, glassofkvass हैब्रयूसर्स को संख्याओं के साथ तस्वीरें प्रदान करने और अधिकांश कोड लिखने और नोमेरॉफ़ नेट परियोजना से अधिकांश डेटा को चिह्नित करने के लिए डायम्बेन्डेरा को धन्यवाद देना चाहता हूं।

UPD1: चूंकि मुझे और दमित्री को संख्याओं की मान्यता पर पीएम मानक प्रश्नों के लिए भेजा जाता है, इसलिए gpu आदि के साथ टेंसोफ़्लो का संयोजन। और दिमित्री और मैं एक ही जवाब देते हैं, मैं किसी भी तरह इस प्रक्रिया का अनुकूलन करना चाहता हूं।
हम सुझाव देते हैं कि इस विषय में विभाजित की गई टिप्पणियों में पत्राचार किया जाए। इसके लिए GitHub पर सुविधाजनक कार्यक्षमता है। भविष्य में, कृपया टिप्पणियों में सवाल न पूछें, लेकिन गीथब नोमेरॉफ़ नेट पर विषयगत मुद्दे में

UPD2: समय के साथ, डेटासेट भी दिखाई दिए: कज़ाख संख्या , जॉर्जियाई संख्या