परीक्षा - अत्याधुनिक पाठ वर्गीकरण विधि

पाठ वर्गीकरण एनएलपी और शिक्षक प्रशिक्षण में सबसे आम कार्यों में से एक है, जब डेटासेट में पाठ दस्तावेज़ होते हैं और पाठ क्लासिफायरियर को प्रशिक्षित करने के लिए लेबल का उपयोग किया जाता है।

एनएलपी के दृष्टिकोण से, पाठ के वर्गीकरण का कार्य शब्द एम्बेडिंग का उपयोग करके शब्दों के स्तर पर प्रतिनिधित्व सिखाकर पूरा किया जाता है और फिर वर्गीकरण के लिए एक फ़ंक्शन के रूप में उपयोग किए गए पाठ के स्तर पर प्रशिक्षण प्रतिनिधित्व होता है।

कोडिंग-आधारित विधियों का प्रकार वर्गीकरण के लिए छोटे विवरण और कुंजियों को अनदेखा करता है (चूंकि पाठ स्तर पर सामान्य प्रतिनिधित्व शब्द स्तर पर अभ्यावेदन को संपीड़ित करके अध्ययन किया जाता है)।


पाठ-स्तरीय मिलान के साथ पाठ को वर्गीकृत करने के लिए एन्कोडिंग-आधारित विधियाँ

परीक्षा - नई पाठ वर्गीकरण विधि

शेडोंग विश्वविद्यालय और सिंगापुर के राष्ट्रीय विश्वविद्यालय के शोधकर्ताओं ने एक नया पाठ वर्गीकरण मॉडल प्रस्तावित किया है जिसमें पाठ वर्गीकरण कार्य में शब्द-स्तरीय मिलान संकेत शामिल हैं। उनकी प्रक्रिया वर्गीकरण प्रक्रिया में शब्द स्तर पर विस्तृत संकेत देने के लिए एक बातचीत तंत्र का उपयोग करती है।

अधिक सटीक शब्द-स्तरीय मिलान संकेतों सहित समस्या को हल करने के लिए, शोधकर्ताओं ने शब्दों और वर्गों के बीच पत्राचार के अनुमानों की स्पष्ट रूप से गणना करने का प्रस्ताव दिया।

मुख्य विचार एक शब्द-स्तरीय प्रतिनिधित्व से इंटरैक्शन मैट्रिक्स की गणना करना है जो शब्द स्तर पर संबंधित कुंजियों को ले जाएगा। इस मैट्रिक्स में प्रत्येक प्रविष्टि एक शब्द और एक विशिष्ट वर्ग के बीच पत्राचार का आकलन है।

EXAM - एक्सक्लूसिव इंटरएक्शन मॉडल ( GitHub ) नामक प्रस्तावित पाठ वर्गीकरण संरचना में तीन मुख्य घटक शामिल हैं:

• शब्द स्तर एनकोडर,
• बातचीत परत और
• एकत्रीकरण परत।

यह त्रि-स्तरीय वास्तुकला आपको छोटे और सामान्यीकृत संकेतों और संकेतों का उपयोग करके पाठ को एन्कोड और वर्गीकृत करने की अनुमति देता है। पूरी वास्तुकला नीचे की छवि में दिखाई गई है।


परीक्षा वास्तुकला

अतीत में, एनएलपी समुदाय में शब्द-स्तरीय एनकोडर पर बड़े पैमाने पर शोध किया गया है, और बहुत शक्तिशाली एनकोडर दिखाई दिए हैं। लेखक शब्द-स्तर के एनकोडर के रूप में सॉवरमनी पद्धति का उपयोग करते हैं, और अपने काम में वे अपनी वास्तुकला के दो अन्य घटकों का विस्तार से वर्णन करते हैं: बातचीत और एकत्रीकरण का स्तर।

सहभागिता परत, मुख्य योगदान और प्रस्तावित विधि में नवीनता प्रसिद्ध बातचीत तंत्र पर आधारित है। शोधकर्ता प्रत्येक वर्ग को एन्कोड करने के लिए एक प्रशिक्षित प्रस्तुति मैट्रिक्स का उपयोग करते हैं ताकि वे बाद में कक्षाओं के बीच बातचीत के अनुमानों की गणना कर सकें। अंतिम अंक एक बिंदु उत्पाद का उपयोग करके लक्षित शब्द और प्रत्येक वर्ग के बीच बातचीत के एक समारोह के रूप में चिपकाए जाते हैं। गणना की बढ़ी हुई जटिलता के कारण अधिक जटिल कार्यों पर विचार नहीं किया गया था।


परत दृश्य

अंत में, वे एकत्रीकरण परत के रूप में एक सरल, पूरी तरह से जुड़े, दो-परत एमएलपी का उपयोग करते हैं। उन्होंने यह भी उल्लेख किया है कि सीएनएन या एलएसटीएम सहित एकत्रीकरण का एक और अधिक जटिल स्तर, यहां इस्तेमाल किया जा सकता है। MLP का उपयोग अंतःक्रियात्मक मैट्रिक्स और वर्ड स्तर के एन्कोडिंग का उपयोग करके अंतिम वर्गीकरण लॉग की गणना के लिए किया जाता है। अनुकूलन के लिए नुकसान के एक समारोह के रूप में क्रॉस एन्ट्रॉपी का उपयोग किया जाता है।

मूल्यांकन

पाठ वर्गीकरण के लिए प्रस्तावित रूपरेखा का मूल्यांकन करने के लिए, शोधकर्ताओं ने मल्टी-क्लास और मल्टी-टैग दोनों स्थितियों में व्यापक प्रयोग किए। वे दिखाते हैं कि उनका तरीका आधुनिक प्रासंगिक आधुनिक तरीकों से कहीं बेहतर है।


मूल्यांकन के लिए प्रयुक्त डेटासेट के आँकड़े

मूल्यांकन के लिए, वे तीन अलग-अलग बुनियादी प्रकार के मॉडल स्थापित करते हैं:

1. विशेषताओं के विकास पर आधारित मॉडल;
2. गहरे चरित्र-आधारित मॉडल
3. गहन शब्द-आधारित मॉडल।

लेखकों ने प्रस्तावित पद्धति का मूल्यांकन करने के लिए सार्वजनिक रूप से उपलब्ध संदर्भ डेटासेट (झांग, झाओ, और लेकून 2015) का इस्तेमाल किया। कुल में, वर्गीकरण पाठ डेटा के छह सेट हैं जो क्रमशः मूड का विश्लेषण करने, समाचारों, प्रश्नों और उत्तरों को वर्गीकृत करने और ऑन्कोलॉजी निकालने के कार्यों के अनुरूप हैं। लेख में, वे बताते हैं कि एक्जाम तीन डेटा सेटों में से सबसे अच्छा प्रदर्शन हासिल करता है: एजी, याह। ए और डीबीपी। मूल्यांकन और अन्य तरीकों के साथ तुलना नीचे दी गई तालिकाओं में देखी जा सकती है।

निष्कर्ष

यह काम प्राकृतिक भाषा प्रसंस्करण (एनएलपी) के क्षेत्र में एक महत्वपूर्ण योगदान है। यह पहला काम है जो गहरे तंत्रिका नेटवर्क मॉडल में पाठ वर्गीकरण में अधिक सटीक शब्द-स्तरीय मिलान संकेतों का परिचय देता है। प्रस्तावित मॉडल कई डेटा सेट के लिए अत्याधुनिक संकेतक प्रदान करता है।

अनुवाद - स्टानिस्लाव लिट्विनोव