कोरियाई के लिए सूत्र, या जल्लाद को जल्दी, आसानी से और त्रुटियों के बिना पहचान सकते हैं।

आज तक, कोई भी छात्र जिसने तंत्रिका नेटवर्क पर एक कोर्स किया है, वह कोरियाई पात्रों को मान्यता दे सकता है। उसे वीडियो कार्ड के साथ एक नमूना और एक कंप्यूटर दें, और थोड़ी देर बाद वह आपको एक नेटवर्क लाएगा जो लगभग कोई त्रुटियों के साथ कोरियाई वर्णों को पहचान लेगा।

लेकिन इस तरह के समाधान के कई नुकसान होंगे:

सबसे पहले , बड़ी संख्या में आवश्यक गणना, जो ऑपरेटिंग समय या आवश्यक ऊर्जा (जो मोबाइल उपकरणों के लिए बहुत महत्वपूर्ण है) को प्रभावित करती है। दरअसल, यदि हम कम से कम 3000 अक्षरों को पहचानना चाहते हैं, तो यह नेटवर्क की अंतिम परत का आकार होगा। और अगर इस परत का इनपुट कम से कम 512 है, तो हमें 512 * 3000 गुणा मिलते हैं। बहुत ज्यादा।

दूसरे , आकार। पिछले उदाहरण से एक ही अंतिम परत का वजन 512 * 3001 * 4 बाइट होगा, यानी लगभग 6 मेगाबाइट। यह केवल एक परत है, पूरे नेटवर्क में दसियों मेगाबाइट का वजन होगा। जाहिर है, डेस्कटॉप कंप्यूटर के लिए यह एक छोटी समस्या है, लेकिन हर कोई एक भाषा को पहचानने के लिए स्मार्टफोन पर इतना डेटा स्टोर करने के लिए तैयार नहीं होगा।

तीसरा , ऐसा नेटवर्क उन छवियों पर अप्रत्याशित परिणाम देगा जो कोरियाई वर्ण नहीं हैं, लेकिन फिर भी कोरियाई ग्रंथों में उपयोग किए जाते हैं। प्रयोगशाला स्थितियों में, यह मुश्किल नहीं है, लेकिन प्रौद्योगिकी के व्यावहारिक अनुप्रयोग के लिए, इस मुद्दे को किसी तरह हल करना होगा।

और चौथा , समस्या पात्रों की संख्या है: 3000 सबसे अधिक संभावना है, उदाहरण के लिए, रेस्तरां के मेनू में एक तली हुई समुद्री ककड़ी से एक स्टेक को अलग करना, लेकिन कभी-कभी अधिक जटिल ग्रंथ होते हैं। बड़ी संख्या में पात्रों के लिए नेटवर्क को प्रशिक्षित करना मुश्किल होगा: यह न केवल धीमा होगा, बल्कि प्रशिक्षण नमूने के संग्रह के साथ एक समस्या भी होगी, क्योंकि वर्णों की आवृत्ति लगभग तेज़ी से घट जाती है। बेशक, आप फोंट से चित्र प्राप्त कर सकते हैं और उन्हें संवर्धित कर सकते हैं, लेकिन एक अच्छे नेटवर्क को प्रशिक्षित करने के लिए यह पर्याप्त नहीं है।

और आज मैं आपको बताऊंगा कि कैसे हम इन समस्याओं को हल करने में कामयाब रहे।

कोरियाई लेखन कैसे काम करता है?

कोरियाई लेखन, हंगुल, चीनी और यूरोपीय लेखन के बीच का अंतर है। बाह्य रूप से, ये वर्ग वर्ण चित्रलिपि से मिलते जुलते हैं, और पाठ के एक पृष्ठ पर आप एक सौ से अधिक अद्वितीय गणना कर सकते हैं। दूसरी ओर, यह ध्वन्यात्मक लेखन है, अर्थात् ध्वनियों की रिकॉर्डिंग पर आधारित है। 24 वर्णों वाला एक वर्णमाला है (इसके अलावा आप अंतर और डिप्थॉन्ग भी गिन सकते हैं)। लेकिन, लैटिन या सिरिलिक वर्णमाला के विपरीत, ध्वनियां एक पंक्ति में नहीं लिखी जाती हैं, लेकिन ब्लॉकों में संयुक्त होती हैं। उदाहरण के लिए, यदि हम उसी तरह से लिखते हैं, तो वाक्यांश "हैलो, हैबर" इस ​​तरह से तीन ब्लॉकों में लिखा जा सकता है:


प्रत्येक ब्लॉक में दो, तीन या चार अक्षर हो सकते हैं। इस मामले में, व्यंजन हमेशा पहले आता है, फिर एक या दो स्वर, और अंत में एक और व्यंजन हो सकता है। अक्षरों को ब्लॉकों में संयोजित करने के कई अलग-अलग तरीके हैं, अर्थात्, अलग-अलग ब्लॉकों में दूसरा पत्र, उदाहरण के लिए, अलग-अलग स्थानों पर खड़ा होगा।

नीचे दी गई तस्वीर दो ब्लॉक दिखाती है जो एक साथ "हंगुल" शब्द बनाते हैं। प्रत्येक ब्लॉक के पहले अक्षर को लाल रंग में दर्शाया गया है, स्वर को नीले रंग में और अंतिम व्यंजन को हरे रंग में हाइलाइट किया गया है।


चित्र स्रोत: विकिपीडिया

हंगुल ब्लॉक को संशोधित करें

यही है, यह पता चला है कि एक हंगुल ब्लॉक को सूत्र द्वारा वर्णित किया जा सकता है: सीआई वी [वी] [सीएफ], जहां सीआई प्रारंभिक व्यंजन है (संभवतः डबल), वी स्वर है, और सीएफ अंतिम व्यंजन है (डबल भी हो सकता है)। ऐसा प्रतिनिधित्व मान्यता के लिए असुविधाजनक है, इसलिए हम इसे बदलते हैं।

सबसे पहले, दोनों स्वरों को मिलाएं। हमें सूत्र वी वी [[सीएफ] मिलता है, जहां वी '- अक्षरों के संयोजन के लिए सभी संभव विकल्प, दूसरे पत्र की अनुपस्थिति को देखते हुए। चूंकि भाषा में 10 स्वर हैं, इसलिए कोई भी उम्मीद करेगा कि परिणामस्वरूप हमें 10 * (10 + 1) विकल्प मिलेंगे, लेकिन व्यवहार में ये सभी संभव नहीं हैं, केवल 21 प्राप्त किए जाते हैं।

इसके अलावा, अंतिम पत्र नहीं हो सकता है। एक खाली एक के अंत में कई अपेक्षित पत्रों में जोड़ें। तब हम सूत्र V V Cf * प्राप्त करते हैं। इस प्रकार, यह पता चला है कि अब कोरियाई प्रतीक में हमेशा तीन "अक्षर" होते हैं। आप ग्रिड सीख सकते हैं।

हम एक नेटवर्क का निर्माण करते हैं

विचार यह है कि हम पूरे चरित्र को पहचानने के बजाय, उनमें व्यक्तिगत अक्षरों को पहचानेंगे। इस प्रकार, अंत में एक विशाल सॉफ्टमैक्स के बजाय, हमें तीन छोटे वाले मिलते हैं, प्रत्येक आकार में कुछ दसियों के बारे में। वे शब्दांश में पहले, दूसरे और तीसरे "अक्षर" के अनुरूप हैं। परिणामस्वरूप, हमें निम्नलिखित वास्तुकला मिली:

क्लिक करने योग्य चित्र


हम प्रशिक्षित करते हैं, एक अलग नमूने पर चलते हैं। गुणवत्ता अच्छी है, ग्रिड तेज है, और इसका वजन बहुत कम है। आइए इसे प्रयोगशाला से वास्तविक दुनिया में ले जाने का प्रयास करें।

हम समस्याओं का समाधान करते हैं

हमें पहली समस्या तुरंत मिल जाएगी: कभी-कभी ऐसी छवियां जो कि कोरियाई वर्ण नहीं हैं, इनपुट में आती हैं, और उन पर नेटवर्क बहुत अप्रत्याशित रूप से व्यवहार करता है। आप निश्चित रूप से, एक अन्य नेटवर्क को प्रशिक्षित कर सकते हैं जो कोरियाई ब्लॉक को हर चीज से अलग करेगा, लेकिन हम इसे आसान बना देंगे।

चलो वही काम करते हैं जो हमने पत्रों के तीसरे समूह के साथ किया था: पत्र की अनुपस्थिति के लिए एक आउटपुट जोड़ें। तब प्रतीक सूत्र इस तरह दिखाई देगा: Ci * V '* Cf *। और प्रशिक्षण सेट में, हम सभी प्रकार के कचरे को जोड़ देंगे - चीनी अक्षर, गलत तरीके से कटे हुए अक्षर, यूरोपीय अक्षर, और हम नेटवर्क को इस पर तीन खाली अक्षरों को चिह्नित करना सिखाएंगे।

हम प्रशिक्षण देते हैं, परीक्षण करते हैं। यह काम करता है, लेकिन समस्याएं बनी हुई हैं। यह पता चला है कि अक्सर, उदाहरण के लिए, ऐसी छवियां ग्रिड में आती हैं:


यह सही कोरियाई ब्लॉक है जिसमें एक एकल उद्धरण अटक गया है। और यह स्पष्ट है कि उन पर नेटवर्क पूरी तरह से उन सभी तीन अक्षरों को पाता है जिनमें ब्लॉक शामिल हैं। यह सिर्फ छवि सही नहीं है, और हमें इसके बारे में संकेत देने की आवश्यकता है। यहां खाली अक्षरों को वापस करना गलत है, क्योंकि वे छवि में हैं। आइए लागू करने का प्रयास करें जो पहले से ही अच्छा साबित हुआ है: ऐसे चिपचिपा पंक्चुएटर्स को पहचानने के लिए दो और आउटपुट जोड़ें। उनमें से प्रत्येक के पास उस स्थिति के लिए एक अतिरिक्त आउटपुट होगा जब छवि में कुछ भी अधिक नहीं होता है, लेकिन इसके अलावा स्थिति के लिए एक और आउटपुट जोड़ना आवश्यक है "एक पंक्चुएटर है, लेकिन यह मान्यता प्राप्त नहीं है, शायद कचरा।"

प्रशिक्षित। पंचर लगाने वालों को पहचानने के लिए इस तरह के एक ग्रिड में यह खराब है: यह एक कोमा को ब्रैकेट से अलग करता है, लेकिन यह एक बिंदु से पहले से ही मुश्किल है। आप ग्रिड की जटिलता को बढ़ा सकते हैं, लेकिन करना नहीं चाहते हैं। हम बाद में पंक्चुएटर्स की मान्यता से निपटेंगे, लेकिन अभी के लिए हम केवल यह बताएंगे कि वहां कुछ है या नहीं। यह ग्रिड अच्छी तरह से सीखा।

हम सरेस से जोड़ा हुआ पंचर लगाते हैं, लेकिन क्या होगा, इसके विपरीत, कुंजी का हिस्सा छवि में गायब है? ऐसा दो-वर्ण शब्द था, लेकिन हमने इसे गलत तरीके से वर्णों में काट दिया:


बिना किसी समस्या के यहां नेटवर्क केंद्रीय पत्र को निर्धारित करता है। यह एक बहुत ही उपयोगी गुण होगा यदि हमारा काम केवल पात्रों के चयन को पहचानना था, लेकिन वास्तविक दुनिया में यह हानिकारक होगा: जब हम गलत तरीके से स्ट्रिंग को पात्रों में काटते हैं, तो हमें यह जानकारी ऊपर से पास करनी होगी, क्योंकि अन्यथा शेष टुकड़े को तब किसी प्रकार से मान्यता दी जाती है विराम चिह्न, और परिणामी पाठ में एक अतिरिक्त चरित्र होगा।

इस समस्या को हल करने के लिए, हम कई साल पहले के कुछ पुराने प्रयोगों के अवशेषों का उपयोग करेंगे। पत्रों द्वारा कोरियाई पात्रों को पहचानने का विचार बहुत पहले आया था, और तंत्रिका नेटवर्क के युग से पहले भी पहले प्रयास किए गए थे, लेकिन उन्हें व्यावहारिक अनुप्रयोग नहीं मिला। लेकिन तब से, दिलचस्प चीजें बनी हुई हैं:

1. यह चिह्नित करना कि प्रत्येक ब्लॉक में एक पत्र कहां है।
2. उच्च-गुणवत्ता, त्वरित रूप से, प्रतीकों से इन पत्रों को काटकर।

धूल से ब्रश करने के बाद, इस अच्छे की मदद से हम बिना किसी पत्र के पर्याप्त संख्या में ऐसी समस्याग्रस्त छवियां उत्पन्न करेंगे और हम नेटवर्क को विशेष रूप से जवाब देने के लिए सिखाएंगे कि वे एक खाली पत्र हैं।

यह सब है, कोरियाई पात्रों को पहचानने में कोई अधिक समस्या नहीं है, लेकिन जीवन फिर से पहियों में चिपक जाता है।

तथ्य यह है कि हेंजुल वर्णों के अलावा, कोरियाई ग्रंथों में बड़ी संख्या में अन्य वर्ण भी शामिल हैं: पंक्चुएटर्स, यूरोपीय वर्ण (कम से कम संख्या) और चीनी वर्ण। लेकिन वे स्वाभाविक रूप से बहुत कम बार होते हैं। हम उन्हें दो समूहों में विभाजित करेंगे: चित्रलिपि और बाकी सब कुछ, और हम उनमें से प्रत्येक के लिए अपने ग्रिड को प्रशिक्षित करेंगे। और हम एक सरल क्लासिफायर करेंगे, जो कि कोरियाई वर्णों को पहचानने के लिए नेटवर्क के परिणामों के अनुसार और कुछ अन्य संकेतों (ज्यामितीय, पहले स्थान पर) में उत्तर देगा कि क्या उनमें से कम से कम एक को लॉन्च करने की आवश्यकता है, और यदि ऐसा है, तो कौन सा। आपको यूरोपीय वर्णों को थोड़ा पहचानने की आवश्यकता है, इसलिए ग्रिड छोटा होगा, लेकिन चित्रलिपि के लिए ... यह बचाता है कि वे शायद ही कभी ग्रंथों में पाए जाते हैं, इसलिए चलो हमारे क्लासिफायर को मोड़ दें ताकि यह बहुत मुश्किल से उन्हें पहचानने का सुझाव दे।

सामान्य तौर पर, इन दो ग्रिडों के साथ, उन छवियों में पर्याप्त उत्तर की समस्या उत्पन्न होती है, जो उन प्रतीकों पर नहीं हैं जिन पर उसे प्रशिक्षित किया गया था, लेकिन हम इस बारे में बात करेंगे कि इस समस्या को दूसरी बार कैसे हल किया जाए।

प्रयोगों को अंजाम दें

पहले वाला । दो छवि आधार हैं, चलो उन्हें रियल और सिंथेटिक कहते हैं। वास्तविक में वास्तविक छवियां होती हैं जो स्कैन किए गए दस्तावेजों से प्राप्त होती हैं, और सिंथेटिक - फोंट से प्राप्त छवियां। पहले बेस में 2374 ब्लॉक (बाकी बहुत दुर्लभ) के लिए छवियां हैं, और फोंट से हमें सभी संभावित 11172 अक्षर मिले हैं। आइए रियल में हैं ब्लॉकों पर नेटवर्क को प्रशिक्षित करने का प्रयास करें (हम दोनों आधारों से चित्र लेंगे), और उन पर परीक्षण करें जो केवल सिंथेटिक में हैं। परिणाम:



यही है, लगभग 60% मामलों में, नेटवर्क उन ब्लॉकों को पहचानने में सक्षम है, जिनके उदाहरण प्रशिक्षण के दौरान बिल्कुल नहीं दिखे। यदि कोई समस्या नहीं है तो गुणवत्ता अधिक हो सकती है: अंतिम पत्रों में बहुत दुर्लभ हैं, और प्रशिक्षण के दौरान नेटवर्क ने उनमें बहुत कम छवियां देखीं। यह अंतिम कॉलम में निम्न गुणवत्ता की व्याख्या करता है। यदि हम 2374 ब्लॉकों को चुनना संभव था, जिस पर हम एक अलग तरीके से अध्ययन करते हैं, तो गुणवत्ता सबसे अधिक संभावना होगी।

दूसरा वाला । हमारे नेटवर्क की तुलना "सामान्य" नेटवर्क से करें, जिसमें अंत में सॉफ्टमैक्स होता है। मैं इसे आकार में १११ in२ बनाना चाहूंगा, लेकिन हम दुर्लभ ब्लॉकों के लिए पर्याप्त संख्या में वास्तविक चित्र नहीं खोज सकते हैं, इसलिए हम खुद को २३ restrict४ तक सीमित रखते हैं। इस नेटवर्क की गुणवत्ता और गति छिपी हुई परतों के आकार पर निर्भर करती है। हम केवल रियल पर सिखाएंगे, उस पर परीक्षण करेंगे (दूसरे भाग पर, निश्चित रूप से)।



यही है, भले ही हम केवल 2374 ब्लॉकों को पहचानने के लिए खुद को प्रतिबंधित करते हैं, लेकिन हमारा नेटवर्क तेजी से और गुणवत्ता में समान स्तर पर है।

तीसरा । मान लीजिए कि हम सभी 11172 कोरियाई ब्लॉकों का एक बड़ा आधार पाने में सक्षम थे। यदि हम इस पर सॉफ्टमैक्स के साथ एक नेटवर्क को प्रशिक्षित करते हैं, तो यह समय पर कब तक काम करेगा? सभी प्रयोगों को करना महंगा है, इसलिए हम केवल 256 छिपे हुए परत आकार वाले नेटवर्क पर विचार करेंगे:

हमें परिणाम मिलते हैं

उनके बिना, कुछ भी नहीं होता

मैं विचार के मूल लेखक, मेरे सहयोगी जुरा चुलिनिन के प्रति आभार व्यक्त करता हूं। यह रूस में पेटेंट किया गया है, और, इसके अलावा, अमेरिकी पेटेंट कार्यालय (यूएसपीटीओ) के साथ एक समान आवेदन दायर किया गया है। डेवलपर मिशा ज़त्सेपिन के लिए बहुत धन्यवाद, जिन्होंने यह सब लागू किया और सभी प्रयोगों का संचालन किया।

यूरी वैटलिन,
जटिल लिपियों के समूह के प्रमुख