Tele2 हैकाथन रिपोर्ट

18-19 अगस्त को, Tele2 ने एक डेटा साइंस हैकथॉन की मेजबानी की। यह हैकाथन सामाजिक नेटवर्क में तकनीकी सहायता संवादों के विश्लेषण, ग्राहक संबंधों को तेज और सरल बनाने पर केंद्रित है।

कार्य के पास एक विशिष्ट मीट्रिक नहीं थी जिसे अनुकूलित करने की आवश्यकता थी, कार्य का आविष्कार खुद के लिए किया जा सकता है। सेवा में सुधार करना मुख्य बात है। प्रतियोगिता का निर्णायक मंडल Tele2 के विभिन्न क्षेत्रों के निदेशक थे, साथ ही पावेल प्लास्कोकोव, जो कागले ग्रैंडमास्टर के डेटा साइंस समुदाय में प्रसिद्ध थे।

कट के तहत, टीम की कहानी जो 1 स्थान पर रही।

जब एक सहकर्मी ने मुझे इस हैकथॉन में भाग लेने के लिए आमंत्रित किया, तो मैं बहुत जल्दी सहमत हो गया।
मुझे एनएलपी के विषय में दिलचस्पी थी, और कुछ तंत्रिका नेटवर्क के विकास भी थे जिन्हें मैं अभ्यास में परीक्षण करना चाहता था।

हैकाथॉन के आयोजकों ने पहले से डेटासेट के छोटे टुकड़े भेजे, जिससे यह अंदाजा लगा कि घटना में किस तरह का डेटा उपलब्ध होगा।
डेटा बल्कि गंदा हो गया, बाहरी ट्रोल संवादों में आ गए, यह हमेशा स्पष्ट नहीं था कि ऑपरेटर किस तरह के सवाल का जवाब देता है।

यह स्पष्ट हो गया कि आवंटित 24 घंटे में विचार को लागू करना आसान नहीं होगा, इसलिए मैंने काम से 1 दिन की छुट्टी ली और इसे उस तंत्रिका नेटवर्क को तैयार करने में खर्च किया जिसे मैं कोशिश करना चाहता था। इसने हमें हैकथॉन समय बर्बाद करने की अनुमति नहीं दी, बल्कि आवेदन और व्यावसायिक मामलों पर ध्यान केंद्रित करने के लिए।

Tele2 कार्यालय बिजनेस पार्क Rumyantsevo में न्यू मास्को के क्षेत्र पर स्थित है। जैसा कि मेरे लिए, काफी समय से वहां हो रहा है, लेकिन बिजनेस पार्क एक अच्छा प्रभाव डालता है (बिजली लाइनों के अपवाद के साथ)।


एक व्यापार केंद्र की पृष्ठभूमि के खिलाफ बिजली की लाइनें

मेट्रो स्टेशन पर ही, आयोजकों ने हमसे मुलाकात की, हमें दिखाया कि ऑफिस कैसे जाना है। व्यवसाय केंद्र के भवन पर कई कंपनियों का कब्जा है, Tele2 कार्यालय 5 वीं मंजिल पर स्थित है। हैकाथॉन प्रतिभागियों को कार्यालय के अंदर एक विशेष क्षेत्र सौंपा गया था, एक रसोईघर था, एक प्लेस्टेशन और ओटोमैन के साथ एक विश्राम क्षेत्र था। वाई-फाई की गति से विशेष रूप से प्रसन्न, बड़े पैमाने पर घटनाओं में निहित कोई समस्या नहीं देखी गई।


नाश्ता

Tele2 द्वारा प्रदान किए गए असली डेटासेट में तकनीकी सहायता संवादों के साथ 3 बड़ी CSV फाइलें शामिल थीं: सामाजिक नेटवर्क, टेलीग्राम और ईमेल पर संवाद। कुल में, 4 मिलियन से अधिक हिट हैं जिन्हें आपको एक तंत्रिका नेटवर्क को प्रशिक्षित करने की आवश्यकता है।

एक तंत्रिका नेटवर्क क्या था?

नेटवर्क आर्किटेक्चर

डेटासेट में कोई अतिरिक्त मार्कअप नहीं था जो कि भविष्यवाणी करना दिलचस्प होगा, लेकिन मैं एक पर्यवेक्षित समस्या को हल करना चाहता था। इसलिए, हमने सवालों के जवाब की भविष्यवाणी करने की कोशिश करने का फैसला किया है, इसलिए इस तरह के मॉडल से कम से कम एक सरल बॉट बनाया जा सकता है। इसके लिए, हमने सीडीएसएसएम आर्किटेक्चर (कन्वेंशन डीप सेमेटिक समानता मॉडल) को चुना। यह अर्थों द्वारा ग्रंथों की तुलना करने के लिए सरल तंत्रिका नेटवर्क मॉडल में से एक है, जिसे मूल रूप से Microsoft द्वारा बिंग खोज परिणामों की रैंकिंग के लिए प्रस्तावित किया गया था।

इसका सार इस प्रकार है: पहले, प्रत्येक पाठ को वेक्टर के रूप में परिवर्तित किया जाता है, जो संलक्षण और पूलिंग परतों के अनुक्रम का उपयोग करता है।

फिर परिणामी वैक्टर की तुलना किसी तरह से की जाती है। हमारी समस्या में, एक सक्रिय गतिविधि के रूप में सिग्मॉइड के साथ दोनों वैक्टर को जोड़ने वाली एक अतिरिक्त रैखिक परत ने एक अच्छा परिणाम दिया। वैक्टर में नेटवर्क एन्कोडिंग वाकों का भार ग्रंथों की एक जोड़ी के लिए एक ही हो सकता है (ऐसे नेटवर्क को सियामिस कहा जाता है), और भिन्न हो सकते हैं।

हमारे मामले में, अलग-अलग वज़न वाले वेरिएंट ने सबसे अच्छा परिणाम दिया, क्योंकि प्रश्न और उत्तर के पाठ काफी भिन्न थे।


एक स्याम देश के नेटवर्क को प्रशिक्षित करने की कोशिश कर रहा है

RusVectōrēs के साथ FastText का उपयोग पूर्व-प्रशिक्षित एम्बेडिंग के रूप में किया गया था, यह टाइपोस के लिए प्रतिरोधी है, जो अक्सर उपयोगकर्ता प्रश्नों में पाए जाते हैं।

इस तरह के एक मॉडल को प्रशिक्षित करने के लिए, इसे न केवल सकारात्मक पर, बल्कि नकारात्मक उदाहरणों पर भी प्रशिक्षित करने की आवश्यकता है। ऐसा करने के लिए, हमने प्रशिक्षण सेट के लिए 1 से 10 के अनुपात में प्रश्नों और उत्तरों के यादृच्छिक जोड़े जोड़े।

ऐसे असंतुलित नमूने पर गुणवत्ता का मूल्यांकन करने के लिए, आरओसी-एयूसी मीट्रिक का उपयोग किया गया था। GPU पर 3 घंटे के प्रशिक्षण के बाद, हम इस मीट्रिक में 0.92 का मान प्राप्त करने में सफल रहे।

इस मॉडल का उपयोग करते हुए, न केवल प्रत्यक्ष समस्या को हल करना संभव है - सवाल का उचित जवाब चुनने के लिए, बल्कि इसके विपरीत - ऑपरेटर त्रुटियों, कम गुणवत्ता वाले और उपयोगकर्ता के सवालों के अजीब जवाब खोजने के लिए।

हम हैकाथॉन में इनमें से कुछ जवाबों को खोजने में सफल रहे और उन्हें अंतिम प्रस्तुति में शामिल किया। यह मुझे लगता है कि इसने जूरी पर सबसे बड़ी छाप छोड़ी।

एक दिलचस्प एप्लिकेशन को उन ग्रंथों के वेक्टर प्रतिनिधित्व में भी पाया जा सकता है जो नेटवर्क अपने काम की प्रक्रिया में उत्पन्न करता है।

इसका उपयोग करके, आप विभिन्न अनिश्चित तरीकों से प्रश्नों और उत्तरों में विसंगतियों की खोज कर सकते हैं।

परिणामस्वरूप, हमारा निर्णय तकनीकी दृष्टि से और व्यापारिक दृष्टिकोण से, दोनों ही तरह से तय किया गया था। बाकी टीमों ने, मूल रूप से, प्रमुख विश्लेषण और विषयगत मॉडलिंग की समस्या को हल करने की कोशिश की, इसलिए हमारा समाधान अनुकूल रूप से भिन्न था। परिणामस्वरूप, हमने 1 स्थान लिया, संतुष्ट और थका हुआ।


फोटो में (बाएं से दाएं): अलेक्जेंडर अब्रामोव, कोन्स्टनिन इवानोव, एंड्रे वासनेत्सोव (लेखक) और श्वेत्सोव एगोर

और क्या पढ़ें:

• Microsoft अनुसंधान से CDSSM के बारे में मूल लेख
• हैकाथॉन समाधान कोड के साथ भंडार
• रिपॉजिटरी जहां मैं ग्रंथों की तुलना करने के लिए विभिन्न नेटवर्क के साथ प्रयोग करता हूं