Mail.ru मेल में मशीन सीखने का संचालन

Highload ++ और डेटाफेस्ट मिन्स्क 2019 में मेरे प्रदर्शन के आधार पर

कई लोगों के लिए, मेल आज ऑनलाइन जीवन का एक अभिन्न हिस्सा है। इसकी मदद से, हम व्यापार पत्राचार करते हैं, वित्त से संबंधित सभी प्रकार की महत्वपूर्ण जानकारी, होटल आरक्षण, चेकआउट और बहुत कुछ संग्रहीत करते हैं। 2018 के मध्य में, हमने मेल विकास उत्पाद रणनीति तैयार की। आधुनिक मेल क्या होना चाहिए?

मेल स्मार्ट होना चाहिए, यानी उपयोगकर्ताओं को जानकारी की बढ़ती मात्रा को नेविगेट करने में मदद करें: फ़िल्टर, संरचना और इसे सबसे सुविधाजनक तरीके से प्रदान करें। यह उपयोगी होना चाहिए, मेलबॉक्स में सीधे विभिन्न समस्याओं को हल करने की अनुमति देता है, उदाहरण के लिए, जुर्माना (एक फ़ंक्शन जिसे मैं, दुर्भाग्य से, उपयोग करता हूं)। और एक ही समय में, मेल को स्पैम को काटकर और हैक के खिलाफ सुरक्षा के द्वारा सूचना सुरक्षा प्रदान करनी चाहिए, अर्थात सुरक्षित रहें।

ये क्षेत्र कई प्रमुख कार्यों को निर्धारित करते हैं, जिनमें से कई को मशीन लर्निंग का उपयोग करके प्रभावी ढंग से हल किया जा सकता है। यहां रणनीति के हिस्से के रूप में विकसित मौजूदा विशेषताओं के उदाहरण हैं - प्रत्येक दिशा के लिए एक।

• स्मार्ट जवाब । मेल में एक स्मार्ट उत्तर फ़ंक्शन है। तंत्रिका नेटवर्क पत्र के पाठ का विश्लेषण करता है, इसके अर्थ और उद्देश्य को समझता है, और परिणामस्वरूप तीन सबसे उपयुक्त उत्तर विकल्प प्रदान करता है: सकारात्मक, नकारात्मक और तटस्थ। यह पत्रों का उत्तर देते समय समय की बचत करने में काफी मदद करता है, और अक्सर अपने लिए गैर-मानक और मजेदार प्रतिक्रिया भी देता है।
  
• ऑनलाइन स्टोर्स में ऑर्डर से संबंधित पत्रों का समूहन । हम अक्सर इंटरनेट पर खरीदारी करते हैं, और, एक नियम के रूप में, स्टोर प्रत्येक आदेश के लिए कई पत्र भेज सकते हैं। उदाहरण के लिए, AliExpress, सबसे बड़ी सेवा से, एक आदेश के लिए बहुत सारे पत्र हैं, और हमें लगा कि टर्मिनल मामले में उनकी संख्या 29 तक पहुंच सकती है। इसलिए, नामांकित पहचान मान्यता मॉडल का उपयोग करते हुए, हम आदेश संख्या और पाठ और समूह से अन्य जानकारी का चयन करते हैं। एक धागे में सभी पत्र। हम एक अलग बॉक्स में आदेश के बारे में बुनियादी जानकारी भी दिखाते हैं, जो इस प्रकार के पत्रों के साथ काम को सुविधाजनक बनाता है।
  
  
  
• एंटीफिशिंग । फ़िशिंग एक विशेष रूप से खतरनाक धोखाधड़ी प्रकार का ईमेल है जिसकी सहायता से हमलावर वित्तीय जानकारी (उपयोगकर्ता बैंक कार्ड सहित) और लॉगिन प्राप्त करने का प्रयास करते हैं। ऐसे पत्र सेवा द्वारा भेजे गए वास्तविक लोगों की नकल करते हैं, जिसमें नेत्रहीन भी शामिल हैं। इसलिए, कंप्यूटर विज़न की मदद से, हम बड़ी कंपनियों (उदाहरण के लिए, Mail.ru, Sberbank, Alpha) के अक्षरों के लोगो और शैली को पहचानते हैं और इसे हमारे स्पैम और फ़िशिंग क्लासीफायर में पाठ और अन्य संकेतों के साथ खाते में लेते हैं।
  

मशीन सीखने

सामान्य तौर पर मेल में मशीन सीखने के बारे में थोड़ा। मेल एक अत्यधिक भरी हुई प्रणाली है: हमारे सर्वरों पर, प्रति दिन औसतन 1.5 बिलियन पत्र 30 मिलियन DAU उपयोगकर्ताओं को दिए जाते हैं। लगभग 30 मशीन लर्निंग सिस्टम के सभी आवश्यक कार्यों और सुविधाओं की सेवा करें।

प्रत्येक अक्षर पूरे वर्गीकरण कन्वेयर के माध्यम से जाता है। पहले हम स्पैम को काट देते हैं और अच्छे ईमेल छोड़ देते हैं। उपयोगकर्ता अक्सर एंटी-स्पैम के संचालन पर ध्यान नहीं देते हैं, क्योंकि 95-99% स्पैम संबंधित फ़ोल्डर में भी नहीं मिलता है। स्पैम मान्यता हमारी प्रणाली का एक बहुत ही महत्वपूर्ण हिस्सा है, और सबसे कठिन, विरोधी स्पैम क्षेत्र में रक्षा और हमले प्रणालियों के बीच एक निरंतर अनुकूलन है, जो हमारी टीम के लिए एक सतत इंजीनियरिंग चुनौती प्रदान करता है।

अगला, हम लोगों और रोबोटों से पत्रों को अलग करते हैं। लोगों के पत्र सबसे महत्वपूर्ण हैं, इसलिए उनके लिए हम स्मार्ट उत्तर जैसे कार्य प्रदान करते हैं। रोबोट से पत्र दो भागों में विभाजित हैं: लेन-देन - ये सेवाओं से महत्वपूर्ण पत्र हैं, उदाहरण के लिए, खरीद की पुष्टि या होटल आरक्षण, वित्त और जानकारी - ये व्यवसाय विज्ञापन, छूट हैं।

हमारा मानना ​​है कि व्यक्तिगत पत्राचार के लिए लेन-देन पत्र समान हैं। उन्हें हाथ में होना चाहिए, क्योंकि अक्सर आदेश की जानकारी या टिकट बुक करने के बारे में जल्दी पता लगाना आवश्यक होता है, और हम इन पत्रों को खोजने में समय बिताते हैं। इसलिए, सुविधा के लिए, हम स्वचालित रूप से उन्हें छह मुख्य श्रेणियों में विभाजित करते हैं: यात्रा, बुकिंग, वित्त, टिकट, पंजीकरण और अंत में जुर्माना।

न्यूज़लेटर्स सबसे बड़े और शायद कम महत्वपूर्ण समूह हैं जिन्हें तुरंत प्रतिक्रिया की आवश्यकता नहीं होती है, क्योंकि उपयोगकर्ता के जीवन में कुछ भी महत्वपूर्ण नहीं बदलेगा यदि वह ऐसा पत्र नहीं पढ़ता है। हमारे नए इंटरफ़ेस में, हम उन्हें दो थ्रेड्स में विभाजित करते हैं: सामाजिक नेटवर्क और समाचार पत्र, इस प्रकार नेत्रहीन मेलबॉक्स को साफ़ करना और दृष्टि में केवल महत्वपूर्ण पत्र छोड़ना।

शोषण

बड़ी संख्या में सिस्टम संचालन में कई कठिनाइयों का कारण बनते हैं। आखिरकार, मॉडल किसी भी सॉफ़्टवेयर की तरह समय के साथ खराब हो जाते हैं: संकेत टूट जाते हैं, मशीनें विफल हो जाती हैं, एक कोड चारों ओर लुढ़कता है। इसके अलावा, डेटा लगातार बदल रहा है: नए जोड़े जाते हैं, उपयोगकर्ता के व्यवहार का पैटर्न बदल जाता है, आदि, इसलिए, उचित समर्थन के बिना मॉडल समय के साथ बदतर और बदतर काम करेगा।

हमें यह नहीं भूलना चाहिए कि गहरी मशीन लर्निंग उपयोगकर्ताओं के जीवन में प्रवेश करती है, उनका पारिस्थितिकी तंत्र पर जितना अधिक प्रभाव पड़ता है, और परिणामस्वरूप, बाजार के खिलाड़ियों को अधिक वित्तीय नुकसान या लाभ मिल सकता है। इसलिए, क्षेत्रों की बढ़ती संख्या में, खिलाड़ी एमएल-एल्गोरिदम के काम के लिए अनुकूल हैं (क्लासिक उदाहरण विज्ञापन, खोज और पहले से उल्लेख किए गए एंटी-स्पैम हैं)।

इसके अलावा, मशीन सीखने के कार्यों में एक विशेषता है: कोई भी, यद्यपि नगण्य, सिस्टम में बदलाव मॉडल के साथ बहुत सारे काम को जन्म दे सकता है: डेटा, रिट्रेनिंग, तैनाती के साथ काम करना, जो हफ्तों या महीनों तक खींच सकते हैं। इसलिए, जिस तेज़ी से आपके मॉडल संचालित होते हैं, उतनी ही तेजी से उनके समर्थन की आवश्यकता होती है। एक टीम कई सिस्टम बना सकती है और इसका आनंद ले सकती है, और फिर कुछ नया करने की क्षमता के बिना, लगभग सभी संसाधनों को उनके समर्थन पर खर्च करती है। हमें एक बार एक विरोधी स्पैम टीम में एक बार ऐसी स्थिति का सामना करना पड़ा था। और उन्होंने स्पष्ट निष्कर्ष दिया कि रखरखाव स्वचालित होना चाहिए।

स्वचालन

स्वचालित क्या हो सकता है? वास्तव में, लगभग सब कुछ। मैंने चार क्षेत्रों की पहचान की है जो मशीन लर्निंग के बुनियादी ढांचे को परिभाषित करते हैं:

• डेटा संग्रह;
  
• सतत शिक्षा;
  
• तैनात;
  
• परीक्षण और निगरानी।
  

यदि पर्यावरण अस्थिर है और लगातार बदल रहा है, तो मॉडल के चारों ओर संपूर्ण बुनियादी ढांचा मॉडल की तुलना में बहुत अधिक महत्वपूर्ण है। यह अच्छा पुराना रैखिक क्लासिफायरियर हो सकता है, लेकिन यदि आप सही तरीके से संकेतों को लागू करते हैं और उपयोगकर्ताओं से अच्छी प्रतिक्रिया स्थापित करते हैं, तो यह सभी घंटियों और सीटी के साथ स्टेट-ऑफ-द-आर्ट-मॉडल की तुलना में बहुत बेहतर काम करेगा।

प्रतिक्रिया पाश

यह चक्र डेटा संग्रह, आगे के प्रशिक्षण और तैनाती को जोड़ती है - वास्तव में, मॉडल को अपडेट करने का पूरा चक्र। यह महत्वपूर्ण क्यों है? मेल में पंजीकरण अनुसूची देखें:



मशीन लर्निंग डेवलपर ने एक एंटीबॉडी मॉडल पेश किया है जो बॉट्स को मेल में रजिस्टर करने से रोकता है। ग्राफ़ एक ऐसे मान पर गिरता है जहाँ केवल वास्तविक उपयोगकर्ता ही रहते हैं। सब कुछ बहुत अच्छा है! लेकिन चार घंटे बीत जाते हैं, बोटवूड अपनी स्क्रिप्ट को कसते हैं, और सब कुछ एक वर्ग में लौटता है। इस कार्यान्वयन में, डेवलपर ने सुविधाओं और प्रशिक्षण मॉडल को जोड़ने के लिए एक महीने का समय बिताया, लेकिन स्पैमर चार घंटों में अनुकूलन करने में सक्षम था।

इतना दर्दनाक रूप से दर्दनाक नहीं होने के लिए और बाद में सब कुछ फिर से करने की ज़रूरत नहीं है, हमें शुरू में सोचना चाहिए कि प्रतिक्रिया पाश कैसे दिखेगा और पर्यावरण में बदलाव होने पर हम क्या करेंगे। चलो डेटा एकत्र करके शुरू करते हैं - यह हमारे एल्गोरिदम के लिए ईंधन है।

डेटा संग्रह

यह स्पष्ट है कि आधुनिक तंत्रिका नेटवर्क, अधिक डेटा, बेहतर, और वे, वास्तव में, उत्पाद के उपयोगकर्ताओं को उत्पन्न करते हैं। उपयोगकर्ता डेटा को चिह्नित करके हमारी मदद कर सकते हैं, लेकिन आप इसका दुरुपयोग नहीं कर सकते, क्योंकि कुछ बिंदु पर उपयोगकर्ता आपके मॉडल को पूरा करने से थक गए होंगे और वे किसी अन्य उत्पाद पर स्विच करेंगे।

सबसे आम गलतियों में से एक (यहां मैं एंड्रयू एनजी पर एक संदर्भ बनाता हूं) यह है कि परीक्षण डेटासेट पर मैट्रिक्स के लिए अभिविन्यास बहुत मजबूत है, और उपयोगकर्ता से प्रतिक्रिया नहीं है, जो वास्तव में काम की गुणवत्ता का मुख्य उपाय है, क्योंकि हम उपयोगकर्ता के लिए एक उत्पाद बनाते हैं। यदि उपयोगकर्ता मॉडल के काम को समझता या नापसंद नहीं करता है, तो सब कुछ खराब हो सकता है।

इसलिए, उपयोगकर्ता को हमेशा वोट करने में सक्षम होना चाहिए, उसे प्रतिक्रिया के लिए एक उपकरण देना चाहिए। अगर हमें लगता है कि वित्त से संबंधित एक पत्र बॉक्स में आ गया है, तो हमें इसे "वित्त" चिह्नित करना होगा और एक बटन तैयार करना होगा, जिस पर उपयोगकर्ता क्लिक कर सकता है और कह सकता है कि यह वित्त नहीं है।

प्रतिक्रिया की गुणवत्ता

चलो उपयोगकर्ता प्रतिक्रिया की गुणवत्ता के बारे में बात करते हैं। सबसे पहले, आप और उपयोगकर्ता एक अवधारणा में विभिन्न अर्थ रख सकते हैं। उदाहरण के लिए, आप और उत्पाद प्रबंधक सोचते हैं कि "वित्त" बैंक से पत्र हैं, और उपयोगकर्ता का मानना ​​है कि सेवानिवृत्ति के बारे में मेरी दादी से पत्र भी वित्त को संदर्भित करता है। दूसरे, ऐसे उपयोगकर्ता हैं जो बिना किसी तर्क के बटन दबाने के लिए बिना सोचे समझे प्यार करते हैं। तीसरा, उपयोगकर्ता अपने निष्कर्षों में गहराई से गलत हो सकता है। हमारे अभ्यास का एक ज्वलंत उदाहरण नाइजीरियाई स्पैम क्लासिफायरियर का परिचय है, बहुत ही अजीब प्रकार का स्पैम है, जब उपयोगकर्ता को अफ्रीका में अचानक पाए गए दूर के रिश्तेदार से कई मिलियन डॉलर इकट्ठा करने के लिए कहा जाता है। इस वर्गीकरण को शुरू करने के बाद, हमने इन अक्षरों पर "नो स्पैम" क्लिक की जाँच की, और यह पता चला कि उनमें से 80% रसदार नाइजीरियाई स्पैम हैं, जो बताते हैं कि उपयोगकर्ता बेहद भरोसेमंद हो सकते हैं।

और यह मत भूलो कि न केवल लोग बटन को दबा सकते हैं, बल्कि सभी प्रकार के बॉट जो ब्राउज़र होने का दिखावा करते हैं। इसलिए कच्ची प्रतिक्रिया सीखने के लिए अच्छी नहीं है। इस जानकारी के साथ क्या किया जा सकता है?

हम दो तरीकों का उपयोग करते हैं:

• संबंधित एमएल से प्रतिक्रिया । उदाहरण के लिए, हमारे पास एक ऑनलाइन एंटीबॉडी सिस्टम है, जैसा कि मैंने उल्लेख किया है, सीमित संख्या में संकेतों के आधार पर त्वरित निर्णय लेता है। और एक दूसरा, धीमा सिस्टम है जो एक्स पोस्ट का काम करता है। उसके पास उपयोगकर्ता के बारे में, उसके व्यवहार आदि के बारे में अधिक आंकड़े हैं। नतीजतन, सबसे संतुलित निर्णय क्रमशः किया जाता है, इसमें उच्च सटीकता और पूर्णता होती है। आप प्रशिक्षण के लिए पहले डेटा के रूप में इन प्रणालियों के काम में अंतर को निर्देशित कर सकते हैं। इस प्रकार, एक सरल प्रणाली हमेशा अधिक जटिल प्रदर्शन के करीब आने की कोशिश करेगी।
  
• क्लिक्स का वर्गीकरण । आप बस उपयोगकर्ता के प्रत्येक क्लिक को वर्गीकृत कर सकते हैं, इसकी वैधता और उपयोग करने की क्षमता का मूल्यांकन कर सकते हैं। हम उपयोगकर्ता की विशेषताओं, उसके इतिहास, प्रेषक की विशेषताओं, स्वयं पाठ और क्लासिफायर्स के परिणाम का उपयोग करके एंटी-स्पैम मेल में ऐसा करते हैं। नतीजतन, हमें एक स्वचालित प्रणाली मिलती है जो उपयोगकर्ता की प्रतिक्रिया को मान्य करती है। और चूंकि इसे बहुत कम बार प्रशिक्षित करना आवश्यक है, इसलिए इसका काम अन्य सभी प्रणालियों के लिए मुख्य बन सकता है। इस मॉडल में परिशुद्धता मुख्य प्राथमिकता है, क्योंकि गलत आंकड़ों पर एक मॉडल को प्रशिक्षित करना परिणामों से भरा होता है।
  

जब हम डेटा को साफ कर रहे हैं और अपने एमएल-सिस्टम को वापस ला रहे हैं, तो हमें उपयोगकर्ताओं के बारे में नहीं भूलना चाहिए, क्योंकि हमारे लिए हजारों, एक ग्राफ पर लाखों त्रुटियां आंकड़े हैं, और एक उपयोगकर्ता के लिए, प्रत्येक बग एक त्रासदी है। इस तथ्य के अलावा कि उपयोगकर्ता को किसी तरह उत्पाद में अपनी गलती के साथ रहने की जरूरत है, वह, प्रतिक्रिया के बाद, भविष्य में इसी तरह की स्थिति के बहिष्कार की उम्मीद करता है। इसलिए, आपको हमेशा उपयोगकर्ताओं को न केवल वोट करने का अवसर देना चाहिए, बल्कि प्रतिक्रिया के प्रत्येक क्लिक के लिए, उदाहरण के लिए, व्यक्तिगत सिस्टम को बनाने, एमएल सिस्टम के व्यवहार को भी सही करना चाहिए, मेल के मामले में, इस उपयोगकर्ता के लिए प्रेषक और हेडर द्वारा ऐसे संदेशों को फ़िल्टर करना संभव हो सकता है।

आपको अर्ध-स्वचालित या मैन्युअल मोड में समर्थन करने के लिए कुछ रिपोर्टों या कॉल के आधार पर मॉडल को क्रैक करने की भी आवश्यकता है, ताकि अन्य उपयोगकर्ता भी समान समस्याओं से पीड़ित न हों।

सीखने के लिए आंकड़े

इन उत्तराधिकारियों और बैसाखी के साथ दो समस्याएं हैं। पहला यह है कि बैसाखी की बढ़ती संख्या को बनाए रखना मुश्किल है, न कि उनकी गुणवत्ता और लंबी दूरी के प्रदर्शन का उल्लेख करना। दूसरी समस्या यह है कि त्रुटि आवृत्ति नहीं हो सकती है, और मॉडल को पुनः प्राप्त करने के लिए कुछ क्लिक पर्याप्त नहीं होंगे। ऐसा लगता है कि इन दोनों असंबंधित प्रभावों को काफी हद तक समतल किया जा सकता है यदि निम्नलिखित दृष्टिकोण को लागू किया जाता है।

1. एक अस्थायी बैसाखी बनाएँ।
   
2. हम इसे मॉडल से डेटा को निर्देशित करते हैं, इसे प्राप्त डेटा सहित नियमित रूप से पुनर्प्राप्त किया जाता है। यहां, ज़ाहिर है, यह महत्वपूर्ण है कि प्रशिक्षण सेट में डेटा की गुणवत्ता को कम न करने के लिए अनुमानी की उच्च सटीकता है।
   
3. फिर हम बैसाखी के संचालन के लिए निगरानी को लटका देते हैं, और अगर कुछ समय बाद बैसाखी काम नहीं करता है और पूरी तरह से मॉडल द्वारा कवर किया जाता है, तो आप इसे सुरक्षित रूप से निकाल सकते हैं। अब इस समस्या की पुनरावृत्ति होने की संभावना नहीं है।
   

तो बैसाखी की सेना बहुत उपयोगी है। मुख्य बात यह है कि उनकी सेवा तत्काल है, स्थायी नहीं है।

आगे की शिक्षा

रिट्रेनिंग उपयोगकर्ताओं या अन्य प्रणालियों से प्रतिक्रिया के परिणामस्वरूप प्राप्त नए डेटा को जोड़ने और उन पर मौजूदा मॉडल को प्रशिक्षित करने की प्रक्रिया है। मुंहतोड़ जवाब देने के साथ कई समस्याएं हो सकती हैं:

1. एक मॉडल केवल आगे की शिक्षा का समर्थन नहीं कर सकता है, और केवल खरोंच से सीख सकता है।
   
2. प्रकृति की पुस्तक में कहीं नहीं लिखा है कि निरंतर शिक्षा निश्चित रूप से उत्पादन में काम की गुणवत्ता में सुधार करेगी। अक्सर यह ठीक इसके विपरीत होता है, यानी केवल गिरावट संभव है।
   
3. परिवर्तन अप्रत्याशित हो सकते हैं। यह एक सूक्ष्म बिंदु है जिसे हमने अपने लिए पहचाना है। भले ही ए / बी टेस्ट में नया मॉडल वर्तमान की तुलना में समान परिणाम दिखाता है, इसका मतलब यह बिल्कुल नहीं है कि यह पहचान के रूप में काम करेगा। उनका काम किसी भी एक प्रतिशत में भिन्न हो सकता है, जो नई त्रुटियां ला सकता है या पहले से ठीक किए गए पुराने को वापस कर सकता है। हम और उपयोगकर्ता दोनों पहले से ही जानते हैं कि वर्तमान त्रुटियों के साथ कैसे रहना है, और जब बड़ी संख्या में नई त्रुटियां होती हैं, तो उपयोगकर्ता यह भी नहीं समझ सकता है कि क्या हो रहा है, क्योंकि वह अनुमानित व्यवहार की अपेक्षा करता है।
   

इसलिए, रिट्रेनिंग में सबसे महत्वपूर्ण बात यह है कि मॉडल को बेहतर बनाने की गारंटी दी जाए, या कम से कम इसे खराब न करें।

जब हम निरंतर शिक्षा के बारे में बात करते हैं, तो सबसे पहली बात यह है कि सक्रिय शिक्षण दृष्टिकोण। इसका क्या मतलब है? उदाहरण के लिए, वर्गीकरणकर्ता यह निर्धारित करता है कि क्या पत्र वित्त से संबंधित है, और निर्णय लेने की अपनी सीमा के आसपास, हम चिह्नित उदाहरणों का एक चयन जोड़ते हैं। यह अच्छी तरह से काम करता है, उदाहरण के लिए, विज्ञापन में, जहां बहुत अधिक प्रतिक्रिया है और आप ऑनलाइन मॉडल को प्रशिक्षित कर सकते हैं। और अगर कोई प्रतिक्रिया नहीं है, तो हमें डेटा वितरण के उत्पादन के सापेक्ष एक दृढ़ता से पक्षपाती नमूना मिलता है, जिसके आधार पर ऑपरेशन के दौरान मॉडल के व्यवहार का मूल्यांकन करना असंभव है।



वास्तव में, हमारा लक्ष्य पुराने पैटर्न को संरक्षित करना है, जो पहले से ही ज्ञात मॉडल हैं, और नए लोगों का अधिग्रहण करते हैं। यहां, निरंतरता महत्वपूर्ण है। मॉडल, जिसे हमने अक्सर बड़ी कठिनाई के साथ रोल किया था, पहले से ही काम करता है, इसलिए हम इसके प्रदर्शन पर ध्यान केंद्रित कर सकते हैं।

मेल में, विभिन्न मॉडलों का उपयोग किया जाता है: पेड़, रैखिक, तंत्रिका नेटवर्क। प्रत्येक के लिए, हम अपना स्वयं का पुनः संलेखन एल्गोरिथ्म बनाते हैं। रिट्रेनिंग की प्रक्रिया में, हमें न केवल नए डेटा मिलते हैं, बल्कि अक्सर नई सुविधाएँ जो हम नीचे सभी एल्गोरिदम को ध्यान में रखेंगे।

रैखिक मॉडल

मान लीजिए कि हमारे पास लॉजिस्टिक रिग्रेशन है। हम निम्नलिखित घटकों से हानि मॉडल बनाते हैं:

• नए डेटा पर LogLoss;
  
• हम नए संकेतों के वजन को नियमित करते हैं (हम पुराने को नहीं छूते हैं);
  
• पुराने पैटर्न को बनाए रखने के लिए हम पुराने डेटा से सीखते हैं;
  
• और, शायद, सबसे महत्वपूर्ण: हम हार्मोनिक नियमितीकरण संलग्न करते हैं, जो आदर्श के अनुसार पुराने मॉडल के सापेक्ष वजन में मामूली बदलाव की गारंटी देता है।
  

चूंकि प्रत्येक हानि घटक में गुणांक होते हैं, इसलिए हम क्रॉस-मान्यता के लिए या उत्पाद आवश्यकताओं के आधार पर अपने कार्य के लिए इष्टतम मान चुन सकते हैं।

पेड़

चलो पेड़ों पर निर्णय लेते हैं। हमने निम्नलिखित पेड़ को कलन विधि एल्गोरिथ्म में फिल्माया है:

1. 100-300 पेड़ों का एक जंगल ठेस पर काम करता है, जिसे पुराने डेटा सेट पर प्रशिक्षित किया गया था।
   
2. अंत में, हम M = 5 टुकड़े हटाते हैं और पूरे डेटा सेट पर प्रशिक्षित 2M = 10 नए जोड़ते हैं, लेकिन नए डेटा से उच्च भार के साथ, जो स्वाभाविक रूप से मॉडल में एक वृद्धिशील परिवर्तन की गारंटी देता है।
   

जाहिर है, समय के साथ, पेड़ों की संख्या में काफी वृद्धि होती है, और समय-समय पर फिट होने के लिए उन्हें समय-समय पर कम किया जाना चाहिए। ऐसा करने के लिए, हम अब सर्वव्यापी ज्ञान आसवन (केडी) का उपयोग करते हैं। संक्षेप में इसके काम के सिद्धांत के बारे में।

1. हमारे पास "जटिल" मॉडल है। हम इसे प्रशिक्षण डेटा सेट पर शुरू करते हैं और आउटपुट पर कक्षाओं की संभाव्यता वितरण प्राप्त करते हैं।
   
2. अगला, हम छात्र मॉडल (इस मामले में कम पेड़ों वाला एक मॉडल) को एक लक्ष्य चर के रूप में कक्षाओं के वितरण का उपयोग करते हुए, मॉडल के परिणामों को दोहराने के लिए सिखाते हैं।
   
3. यहां यह नोट करना महत्वपूर्ण है कि हम किसी भी तरह से डेटा सेट मार्कअप का उपयोग नहीं करते हैं, और इसलिए हम मनमाने डेटा का उपयोग कर सकते हैं। बेशक, हम छात्र मॉडल के प्रशिक्षण नमूने के रूप में मुकाबला स्ट्रीम से डेटा का एक नमूना का उपयोग करते हैं। इस प्रकार, प्रशिक्षण सेट हमें मॉडल की सटीकता सुनिश्चित करने की अनुमति देता है, और नमूना प्रवाह उत्पादन वितरण पर एक समान प्रदर्शन सुनिश्चित करता है, प्रशिक्षण नमूने के पूर्वाग्रह के लिए क्षतिपूर्ति करता है।
   

इन दोनों तकनीकों का संयोजन (पेड़ों को जोड़ना और समय-समय पर ज्ञान आसवन का उपयोग करके उनकी संख्या को कम करना) नए पैटर्न और पूर्ण निरंतरता का परिचय सुनिश्चित करता है।

केडी की मदद से, हम एक मॉडल की विशेषताओं के साथ संचालन का गौरव भी करते हैं, उदाहरण के लिए, विशेषताओं को हटाने और पास पर काम करते हैं। हमारे मामले में, हमारे पास कई महत्वपूर्ण सांख्यिकीय विशेषताएं हैं (प्रेषक, टेक्स्ट हैश, यूआरएल, आदि), जो एक डेटाबेस में संग्रहीत हैं जिसमें इनकार करने की संपत्ति है। बेशक, मॉडल घटनाओं के ऐसे विकास के लिए तैयार नहीं है, क्योंकि प्रशिक्षण सेट में कोई विफलता की स्थिति नहीं है। ऐसे मामलों में, हम केडी और वृद्धि तकनीकों को जोड़ते हैं: डेटा के एक हिस्से के लिए प्रशिक्षण करते समय, हम आवश्यक संकेतों को हटाते हैं या शून्य करते हैं, और हम लेबल (वर्तमान मॉडल के आउटपुट) को प्रारंभिक के रूप में लेते हैं, छात्र मॉडल हमें इस वितरण को दोहराना सिखाता है।



हमने देखा कि मॉडल का अधिक गंभीर हेरफेर होता है, नमूना प्रवाह के प्रतिशत में अधिक से अधिक की आवश्यकता होती है।

सुविधाओं को हटाने के लिए, सबसे सरल ऑपरेशन, प्रवाह का केवल एक छोटा सा हिस्सा आवश्यक है, क्योंकि केवल कुछ ही विशेषताएं बदलती हैं, और एक ही सेट पर अध्ययन किए गए वर्तमान मॉडल - अंतर न्यूनतम है। मॉडल को सरल बनाने के लिए (कई बार पेड़ों की संख्या को कम करते हुए), 50 से 50 पहले से ही आवश्यक है। और महत्वपूर्ण सांख्यिकीय विशेषताओं को छोड़ना जो मॉडल के प्रदर्शन को गंभीरता से प्रभावित करते हैं, नए मॉडल के काम को और भी अधिक प्रवाह की आवश्यकता होती है, जो सभी प्रकार के पत्रों पर प्रतिरोधी है।

FastText

चलो FastText पर चलते हैं। आपको याद दिला दूं कि किसी शब्द का प्रतिनिधित्व (एंबेडिंग) में शब्द और उसके सभी अक्षर एन-ग्राम के एम्बेडिंग का योग होता है, जो आमतौर पर ट्रिगर होता है। चूंकि ट्रिग्राम काफी हो सकते हैं, बकेट हैशिंग का उपयोग किया जाता है, अर्थात्, पूरे स्थान को एक निश्चित निश्चित हैशमैप में परिवर्तित करना। नतीजतन, भार मैट्रिक्स को शब्द + बाल्टी की संख्या से आंतरिक परत के आयाम द्वारा प्राप्त किया जाता है।

आगे की शिक्षा के दौरान, नए संकेत दिखाई देते हैं: शब्द और ट्रिगर। फेसबुक से प्रशिक्षण के बाद मानक में, कुछ भी महत्वपूर्ण नहीं होता है। नए डेटा पर क्रॉस-एन्ट्रॉपी वाले केवल पुराने वज़न को फिर से लिया गया है। , , , , . FastText. ( ), - , .

CNN

. CNN , , , . , , . Triplet Loss ( ).

Triplet Loss

Triplet Loss. , . , , .



, , . , . , .

- . (Finetuning): , . , — . , v1 v2. .

, , . , , CNN Fast Text . , ( , , ). . , .



. CNN Fast Text , — . Knowledge Distillation.

, . , , .

तैनाती

, .

/B-

, , , , - . , , , A/B-. . 5 %, 30 %, 50 % 100 % , . - , , , . 50 % , , .

A/B- . , A/B- ( 6 24 ), . , /B- ( ), A/B- . , , .

, A/B-. , Precision, Recall , . , , (Complexity) . , -, , , A/B-.



A/B-.

&

, , , , , . , — , .

, — . , . , — - , .

, . ( ). - . , , «» . , , . .



. , , . KL- A/B- , .

, . , NER- -, , . !

परिणाम

.

• . : , . , — , ML-. , , , .
  
• . — , -. , .
• . . , .
  

, , ML-, , .