क्षतिग्रस्त दस्तावेजों को डिजिटल करने के लिए सॉफ्टवेयर मॉड्यूल

ऑप्टिकल कैरेक्टर रिकॉग्निशन (OCR) डिजिटाइज्ड फॉर्मेट में प्रिंटेड टेक्स्ट प्राप्त करने की प्रक्रिया है। यदि आप एक डिजिटल डिवाइस पर एक क्लासिक उपन्यास पढ़ते हैं या अस्पताल के कंप्यूटर सिस्टम के माध्यम से एक डॉक्टर से पुराने मेडिकल रिकॉर्ड लेने के लिए कहते हैं, तो आपने संभवतः ओसीआर का उपयोग किया है।

OCR पहले स्थिर सामग्री को संपादन योग्य, खोज योग्य और साझा करने योग्य बनाता है। लेकिन कई दस्तावेजों को डिजिटाइज़ करने की आवश्यकता होती है जिनमें कॉफी के दाग, कर्ल वाले कोनों वाले पृष्ठ और कई झुर्रियाँ होती हैं जो कुछ मुद्रित दस्तावेजों को बिना डिजिटाइज़ किए रखते हैं।

हर कोई लंबे समय से जानता है कि लाखों पुरानी किताबें हैं जो भंडारण में संग्रहीत हैं। इन पुस्तकों का उपयोग उनके जीर्ण होने और खराब होने के कारण निषिद्ध है, और इसलिए इन पुस्तकों का डिजिटलीकरण इतना महत्वपूर्ण है।

कागज शोर से पाठ को साफ करने, एक छवि में पाठ को पहचानने और इसे पाठ प्रारूप में परिवर्तित करने के कार्य पर विचार करता है।

प्रशिक्षण के लिए, 144 चित्रों का उपयोग किया गया था। आकार भिन्न हो सकता है, लेकिन अधिमानतः कारण के भीतर होना चाहिए। छवियाँ PNG प्रारूप में होनी चाहिए। छवि को पढ़ने के बाद, बिनाराइजेशन का उपयोग किया जाता है - एक रंग छवि को काले और सफेद में बदलने की प्रक्रिया, अर्थात, प्रत्येक पिक्सेल को 0 से 255 तक की सीमा तक सामान्यीकृत किया जाता है, जहां 0 काला है, 255 सफेद है।

एक दृढ़ नेटवर्क को प्रशिक्षित करने के लिए, आपको वहां से अधिक छवियों की आवश्यकता है। छवियों को भागों में विभाजित करने का निर्णय लिया गया। चूंकि प्रशिक्षण के नमूने में विभिन्न आकारों की छवियां होती हैं, इसलिए प्रत्येक छवि को 448x448 पिक्सेल तक संकुचित किया गया था। परिणाम 448x448 पिक्सल के एक संकल्प में 144 छवियां थीं। फिर उन सभी को गैर-अतिव्यापी विंडोज़ 112x112 पिक्सेल आकार में काट दिया गया।

इस प्रकार, 144 प्रारंभिक छवियों में से, प्रशिक्षण सेट में लगभग 2304 चित्र प्राप्त किए गए थे। लेकिन यह पर्याप्त नहीं था। अच्छे कॉन्फिडेंशियल नेटवर्क प्रशिक्षण के लिए अधिक प्रशिक्षण की आवश्यकता है। इसके परिणामस्वरूप, सबसे अच्छा विकल्प चित्रों को 90 डिग्री, फिर 180 और 270 डिग्री तक घुमाया गया। नतीजतन, आकार [16,112,112,1] के साथ एक सरणी नेटवर्क इनपुट को आपूर्ति की जाती है। जहां 16 छवियों की संख्या है, 112 प्रत्येक छवि की चौड़ाई और ऊंचाई है, 1 रंग चैनल है। यह प्रशिक्षण के लिए 9216 उदाहरण हैं। यह एक दृढ़ नेटवर्क को प्रशिक्षित करने के लिए पर्याप्त है।

प्रत्येक छवि का आकार 112x112 पिक्सेल है। यदि आकार बहुत बड़ा है, तो कम्प्यूटेशनल जटिलता बढ़ जाएगी, क्रमशः, प्रतिक्रिया की गति पर प्रतिबंधों का उल्लंघन किया जाएगा, इस समस्या में आकार का निर्धारण चयन विधि द्वारा हल किया जाता है। यदि आप बहुत छोटे आकार का चयन करते हैं, तो नेटवर्क प्रमुख संकेतों की पहचान करने में सक्षम नहीं होगा। प्रत्येक छवि में एक काले और सफेद प्रारूप होते हैं, इसलिए इसे 1 चैनल में विभाजित किया जाता है। रंग छवियों को 3 चैनलों में विभाजित किया गया है: लाल, नीला, हरा। चूंकि हमारे पास काली और सफेद छवियां हैं, प्रत्येक छवि का आकार 112x122x1 पिक्सेल है।

सबसे पहले, तैयार, संसाधित छवियों पर एक दृढ़ तंत्रिका नेटवर्क को प्रशिक्षित करना आवश्यक है। इस कार्य के लिए, यू-नेट वास्तुकला का चयन किया गया था।

आर्किटेक्चर का एक कम संस्करण चुना गया था, जिसमें केवल दो ब्लॉक (चार का मूल संस्करण) शामिल थे। एक महत्वपूर्ण विचार यह तथ्य था कि जाने-माने बिनाराइजेशन एल्गोरिदम का एक बड़ा वर्ग स्पष्ट रूप से इस तरह की वास्तुकला या इसी तरह की वास्तुकला में व्यक्त किया गया है (उदाहरण के लिए, हम मीन विचलन द्वारा मानक विचलन को बदलने के साथ निलेक एल्गोरिथ्म को संशोधित कर सकते हैं, जिस स्थिति में नेटवर्क विशेष रूप से बस बनाया जाता है)।

इस वास्तुकला का लाभ यह है कि नेटवर्क के प्रशिक्षण के लिए, आप कम संख्या में स्रोत चित्रों से पर्याप्त मात्रा में प्रशिक्षण डेटा बना सकते हैं। इसके अलावा, नेटवर्क में इसकी विस्मयकारी वास्तुकला के कारण अपेक्षाकृत कम वजन है। लेकिन कुछ बारीकियां हैं। विशेष रूप से, कृत्रिम तंत्रिका नेटवर्क का उपयोग किया जाता है, सख्ती से बोलना, बाइनरीकरण समस्या को हल नहीं करता है: स्रोत छवि के प्रत्येक पिक्सेल के लिए, यह 0 से 1 तक की एक संख्या को जोड़ता है, जो उस डिग्री की विशेषता है जो इस पिक्सेल में से एक वर्ग (सार्थक भरने या पृष्ठभूमि) से संबंधित है और जो आवश्यक है अभी भी अंतिम द्विआधारी उत्तर में परिवर्तित। [1]

यू-नेट में एक संपीड़न और विघटन पथ होता है और उनके बीच "आगे" होता है। इस वास्तुकला में संपीड़न पथ, दो ब्लॉक (चार के मूल संस्करण में) शामिल हैं। प्रत्येक ब्लॉक में 3x3 फ़िल्टर (कनवल्शन के बाद तन्ह सक्रियण फ़ंक्शन का उपयोग करके) और 2 चरणों में 2x2 फ़िल्टर आकार के साथ एक पूलिंग के साथ दो कनवल्शन हैं। प्रत्येक चरण पर चैनलों की संख्या दोगुनी हो जाती है।

निचोड़ पथ में दो ब्लॉक भी होते हैं। उनमें से प्रत्येक में 2x2 के एक फिल्टर आकार के साथ "स्वीप" होता है, चैनलों की संख्या को आधा कर देता है, संपीड़न पथ ("अग्रेषण") से संबंधित क्लिप्ड फ़ीचर मैप के साथ संयोजन और 3x3 फ़िल्टर (कनवल्शन के बाद तान सक्रियण फ़ंक्शन का उपयोग करके) के साथ दो कनवल्शंस। अगला, अंतिम परत पर, आउटपुट, फ्लैट इमेज प्राप्त करने के लिए 1x1 कनवल्शन (सिग्मॉइड एक्टिवेशन फंक्शन का उपयोग करके)। ध्यान दें कि प्रत्येक कन्वेंशन के लिए सीमा पिक्सल के नुकसान के कारण कॉन्टेक्टेशन के दौरान फीचर मैप को ट्रिम करना आवश्यक है। एडम को स्टोकेस्टिक अनुकूलन की विधि के रूप में चुना गया था।

सामान्य तौर पर, आर्किटेक्चर, कनवल्शन + पूलिंग लेयर्स का एक सिक्वेंस होता है, जो इमेज के स्थानिक रिज़ॉल्यूशन को कम करता है, फिर इसे इमेज डेटा के साथ एडवांस में जोड़कर बढ़ाते हैं और दूसरी कन्वेक्शन लेयर्स से गुजरते हैं। इस प्रकार, नेटवर्क एक प्रकार के फिल्टर के रूप में कार्य करता है। [2]

परीक्षण के नमूने में समान चित्र शामिल थे, अंतर केवल शोर बनावट और पाठ में थे। इस छवि पर नेटवर्क परीक्षण हुआ।

दृढ़ तंत्रिका नेटवर्क के उत्पादन में, [16,112,112,1] के आकार के साथ संख्याओं का एक सरणी प्राप्त होता है। प्रत्येक संख्या नेटवर्क द्वारा संसाधित एक अलग पिक्सेल है। छवियों में 112x112 पिक्सेल का एक प्रारूप है, पहले की तरह, इसे टुकड़ों में काट दिया गया था। उसे मूल स्वरूप को धोखा देने की जरूरत है। हम प्राप्त छवियों को एक हिस्से में जोड़ते हैं, परिणामस्वरूप चित्र में 448x448 का प्रारूप है। इसके बाद, हम 0 से 255 की सीमा प्राप्त करने के लिए सरणी में प्रत्येक संख्या को 255 से गुणा करते हैं, जहां 0 काला है, 255 सफेद है। हम छवि को उसके मूल आकार में लौटाते हैं, पहले की तरह, यह संकुचित था। परिणाम चित्र में नीचे चित्र है।

इस उदाहरण में, यह देखा गया है कि दृढ़ नेटवर्क सबसे अधिक शोर से मुकाबला करता है और कुशल साबित होता है। लेकिन यह स्पष्ट रूप से दिखाई दे रहा है कि तस्वीर बादल बन गई और याद किए गए शोर दिखाई दे रहे हैं। भविष्य में, यह पाठ मान्यता की सटीकता को प्रभावित कर सकता है।

इस तथ्य के आधार पर, एक अन्य तंत्रिका नेटवर्क - एक बहुपरत अवधारणात्मक का उपयोग करने का निर्णय लिया गया था। अपेक्षित परिणाम में, नेटवर्क को छवि को स्पष्ट करने के लिए पाठ बनाना चाहिए और उस शोर को दूर करना चाहिए जो कनवसनल न्यूरल नेटवर्क से गायब है।

कन्वेक्शन नेटवर्क द्वारा पहले से संसाधित की गई छवि को मल्टीलेयर परसेप्ट्रान के इनपुट पर भेजा जाता है। इस मामले में, इस नेटवर्क के लिए प्रशिक्षण का नमूना दीक्षांत नेटवर्क के लिए नमूना से अलग होगा, क्योंकि नेटवर्क छवि को अलग तरह से संसाधित करता है। दृढ़ नेटवर्क को मुख्य नेटवर्क माना जाता है और छवि के अधिकांश शोर को हटा देता है, जबकि बहुपरत परसेप्ट्रॉन प्रक्रिया करता है जो कि दोषपूर्ण विफल हो गया है।
यहां एक बहुपरत अवधारणात्मक के लिए निर्धारित प्रशिक्षण से कुछ उदाहरण दिए गए हैं।

मल्टीलेयर परसेप्ट्रॉन के साथ कन्वेन्शनल नेटवर्क के लिए प्रशिक्षण नमूने को संसाधित करके छवि डेटा प्राप्त किया गया था। उसी समय, परसेप्ट्रॉन को एक ही नमूने पर प्रशिक्षित किया गया था, लेकिन उदाहरणों की एक छोटी संख्या और युगों की एक छोटी संख्या पर।

परसेप्ट्रॉन प्रशिक्षण के लिए, 36 छवियों को संसाधित किया गया था। नेटवर्क को पिक्सेल द्वारा पिक्सेल प्रशिक्षित किया जाता है, अर्थात्, छवि से एक पिक्सेल नेटवर्क इनपुट पर भेजा जाता है। नेटवर्क के आउटपुट में, हमें एक आउटपुट न्यूरॉन भी मिलता है - एक पिक्सेल, यानी नेटवर्क प्रतिक्रिया। प्रसंस्करण की सटीकता बढ़ाने के लिए, 29 इनपुट न्यूरॉन्स बनाए गए थे। और कनवल्शन नेटवर्क द्वारा प्रसंस्करण के बाद प्राप्त की गई छवि पर, 28 फ़िल्टर सुपरइम्पोज़ किए जाते हैं। परिणाम विभिन्न फिल्टर के साथ 29 छवियां हैं। हम नेटवर्क इनपुट के लिए प्रत्येक 29 छवि से एक पिक्सेल भेजते हैं और नेटवर्क आउटपुट पर केवल एक पिक्सेल प्राप्त होता है, अर्थात नेटवर्क प्रतिक्रिया।

यह बेहतर प्रशिक्षण और नेटवर्किंग के लिए किया गया था। उसके बाद, नेटवर्क ने छवि की सटीकता और इसके विपरीत को बढ़ाना शुरू कर दिया। यह उन छोटी-छोटी त्रुटियों को भी साफ करता है, जो जटिल नेटवर्क को साफ नहीं कर सकती हैं।

नतीजतन, तंत्रिका नेटवर्क में 29 इनपुट न्यूरॉन्स होते हैं, प्रत्येक छवि से एक पिक्सेल। प्रयोगों के बाद, यह पाया गया कि केवल एक छिपी हुई परत की आवश्यकता थी, जिसमें 500 न्यूरॉन्स थे। नेटवर्क से केवल एक ही रास्ता है। चूंकि प्रशिक्षण पिक्सेल द्वारा पिक्सेल लिया गया था, इसलिए नेटवर्क को n * m बार एक्सेस किया गया था, जहां n छवि की चौड़ाई है और m क्रमशः ऊंचाई है।

दो तंत्रिका नेटवर्क द्वारा क्रमिक रूप से छवि को संसाधित करने के बाद, मुख्य बात यह है कि पाठ को पहचानना है। इसके लिए, एक तैयार समाधान लिया गया, जिसका नाम पाइथन लाइब्रेरी पाइटेसरैक्ट था। Pytesseract सही पायथन बाइंडिंग प्रदान नहीं करता है। बल्कि, यह टेसरैक्ट बाइनरी के लिए एक सरल आवरण है। इस मामले में, कंप्यूटर पर अलग से टेसरैक्ट स्थापित किया गया है। Pytesseract छवि को डिस्क पर एक अस्थायी फ़ाइल में सहेजता है, और फिर tesseract बाइनरी फ़ाइल को कॉल करता है और एक फ़ाइल के लिए परिणाम लिखता है।

यह आवरण Google द्वारा विकसित किया गया था और यह मुफ्त और उपयोग करने के लिए स्वतंत्र है। इसका उपयोग अपने स्वयं के और व्यावसायिक उद्देश्यों के लिए दोनों किया जा सकता है। पुस्तकालय इंटरनेट कनेक्शन के बिना काम करता है, मान्यता के लिए कई भाषाओं का समर्थन करता है और इसकी गति के साथ प्रभावित करता है। इसका आवेदन विभिन्न लोकप्रिय अनुप्रयोगों में पाया जा सकता है।

अंतिम आइटम बाईं ओर से मान्यता प्राप्त पाठ को एक फाइल में लिखना है जो इसे संसाधित करने के लिए उपयुक्त है। हम इसके लिए एक नियमित नोटबुक का उपयोग करते हैं, जो कार्यक्रम समाप्त होने के बाद खुलता है। इसके अलावा, परीक्षण इंटरफ़ेस पर पाठ प्रदर्शित किया जाता है। एक इंटरफ़ेस का एक अच्छा उदाहरण।

संदर्भ:

1. SmartEngines टीम [इलेक्ट्रॉनिक संसाधन] के अंतरराष्ट्रीय दस्तावेज़ मान्यता प्रतियोगिता में जीत की कहानी। एक्सेस मोड: https://habr.com/company/smartengines/blog/344550/
2. एक तंत्रिका नेटवर्क का उपयोग करके छवि विभाजन: यू-नेट [इलेक्ट्रॉनिक संसाधन]। एक्सेस मोड: http://robocraft.ru/blog/machinelearning/3671.html

> जीथुब भंडार