मशीन सीखने का उपयोग करके सेवा अनुरोधों का विश्लेषण

उत्पाद समर्थन के भाग के रूप में, हम लगातार उपयोगकर्ता अनुरोधों की सेवा करते हैं। यह एक मानक प्रक्रिया है। और किसी भी प्रक्रिया की तरह, इसे नियमित रूप से गंभीर रूप से मूल्यांकन और सुधार करने की आवश्यकता है।

हम कुछ व्यवस्थित समस्याओं के बारे में जानते हैं जो अतिरिक्त संसाधनों को आकर्षित किए बिना हल करना और यदि संभव हो तो अच्छा होगा:

• प्रेषण अनुप्रयोगों में त्रुटियां: हमें कुछ "विदेशी" मिलते हैं, अन्य टीमों को कभी-कभी कुछ "हमारा" मिलता है।
• आवेदन की "जटिलता" का आकलन करना मुश्किल है। यदि आवेदन जटिल है, तो इसे एक मजबूत विश्लेषक पर पारित किया जा सकता है, और एक साधारण के साथ, शुरुआती सामना करेगा।

इनमें से किसी भी समस्या का समाधान प्रसंस्करण अनुप्रयोगों की गति को सकारात्मक रूप से प्रभावित करेगा।

मशीन शिक्षण का अनुप्रयोग, जैसा कि अनुप्रयोग सामग्री के विश्लेषण पर लागू होता है, प्रेषण प्रक्रिया में सुधार करने के लिए एक वास्तविक अवसर की तरह दिखता है।

हमारे मामले में, समस्या को निम्नलिखित वर्गीकरण समस्याओं द्वारा तैयार किया जा सकता है:

1. सुनिश्चित करें कि अनुरोध सही तरीके से सौंपा गया है:
   
   • कॉन्फ़िगरेशन इकाई (अनुप्रयोग या "अन्य" में से एक 5)
   • सेवा श्रेणियां (घटना, सूचना अनुरोध, सेवा अनुरोध)
2. अनुरोध को बंद करने के लिए अपेक्षित समय का अनुमान लगाएं ("जटिलता" के उच्च-स्तरीय संकेतक के रूप में)।

हम क्या और कैसे काम करेंगे

एल्गोरिथ्म बनाने के लिए, हम "मानक सेट" का उपयोग करेंगे: स्किटिट-लर्न लाइब्रेरी के साथ पायथन।

एक वास्तविक आवेदन के लिए, 2 परिदृश्यों को लागू किया जाएगा:
शिक्षा:

• एप्लिकेशन ट्रैकर से "प्रशिक्षण" डेटा प्राप्त करना
• एक मॉडल को प्रशिक्षित करने के लिए एक एल्गोरिथ्म चलाना, एक मॉडल को सहेजना

का उपयोग करें:

• वर्गीकरण के लिए एप्लिकेशन ट्रैकर से डेटा प्राप्त करना
• मॉडल लोड हो रहा है, आवेदन वर्गीकरण, परिणाम की बचत
• वर्गीकरण के आधार पर ट्रैकर में एप्लिकेशन अपडेट करना

पाइपलाइन से जुड़ी हर चीज (ट्रैकर के साथ बातचीत) को किसी भी चीज पर लागू किया जा सकता है। इस मामले में, पॉवरशेल स्क्रिप्ट लिखी गई थीं, हालांकि अजगर में इसे जारी रखना संभव था।

मशीन लर्निंग एल्गोरिथ्म एक .csv फ़ाइल के रूप में वर्गीकरण / प्रशिक्षण डेटा प्राप्त करेगा। संसाधित परिणाम भी .csv फ़ाइल में आउटपुट होंगे।

इनपुट डेटा

सेवा टीमों की राय से एल्गोरिथ्म को यथासंभव स्वतंत्र बनाने के लिए, हम केवल आवेदन के निर्माता से प्राप्त डेटा को मॉडल के इनपुट मापदंडों के रूप में ध्यान में रखेंगे:

1. संक्षिप्त विवरण / शीर्षक (पाठ)
2. समस्या का विस्तृत विवरण, यदि कोई हो (पाठ)। यह एप्लिकेशन संचार प्रवाह में पहला संदेश है।
3. ग्राहक का नाम (कर्मचारी, श्रेणी)
4. अनुरोध पर कर्मचारियों की सूची में शामिल अन्य कर्मचारियों के नाम (कर्मचारियों की सूची)
5. आवेदन भरने का समय (तारीख / समय)।

प्रशिक्षण प्राप्त करने वाले

एल्गोरिदम के प्रशिक्षण के लिए, पिछले 3 वर्षों में बंद कॉल पर डेटा का उपयोग किया गया था - ~ 3,500 रिकॉर्ड।
इसके अतिरिक्त, क्लासिफायर को "अन्य" कॉन्फ़िगरेशन इकाइयों की मान्यता सिखाने के लिए, अन्य कॉन्फ़िगरेशन इकाइयों के लिए अन्य विभागों द्वारा संसाधित बंद अनुप्रयोगों को प्रशिक्षण सेट में जोड़ा गया था। कुल अतिरिक्त रिकॉर्ड - लगभग 17,000।
ऐसे सभी अतिरिक्त अनुरोधों के लिए, कॉन्फ़िगरेशन इकाई "अन्य" पर सेट की जाएगी

पूर्व उपचार

टेक्स्ट

टेक्स्ट प्रीप्रोसेसिंग बेहद सरल है:

1. हम लोअरकेस में सब कुछ अनुवाद करते हैं
2. केवल संख्या और अक्षर छोड़ दें - बाकी को रिक्त स्थान से बदलें

अधिसूचना सूची (घड़ी सूची)

सूची एक स्ट्रिंग के रूप में विश्लेषण के लिए उपलब्ध है जिसमें नामों को अंतिम नाम, प्रथम नाम के रूप में प्रस्तुत किया जाता है, और एक अर्धविराम द्वारा अलग किया जाता है। विश्लेषण के लिए, हम इसे स्ट्रिंग्स की सूची में बदल देंगे।
सूचियों के संयोजन से हमें प्रशिक्षण सेट के सभी अनुप्रयोगों के आधार पर विशिष्ट नामों का एक सेट मिलता है। यह सामान्य सूची नामों के एक वेक्टर का निर्माण करेगी।

आवेदन प्रसंस्करण अवधि

हमारे उद्देश्यों (प्राथमिकता प्रबंधन, रिहाई की योजना) के लिए, सेवा की अवधि तक एक निश्चित वर्ग के लिए आवेदन को निर्दिष्ट करना पर्याप्त है। यह आपको कम संख्या में कक्षाओं के साथ प्रतिगमन से वर्गीकरण तक के कार्य को स्थानांतरित करने की अनुमति देता है।

हम संकेत बनाते हैं

टेक्स्ट

1. "शीर्षक" और "समस्या का वर्णन" को मिलाएं।
2. शब्द वेक्टर बनाने के लिए TfidfVectoriser पास करें

आवश्यकता का नाम

चूँकि यह उम्मीद की जाती है कि जिस व्यक्ति ने एप्लिकेशन बनाया है, वह आगे के वर्गीकरण का एक महत्वपूर्ण गुण होगा - हम इसे डिवलेक्टराइज़र का उपयोग करके व्यक्तिगत रूप से एन्कोडिंग के एक में अनुवाद करेंगे।

अधिसूचना सूची में शामिल लोगों के नाम

वॉचलिस्ट एप्लिकेशन में शामिल लोगों की सूची पहले तैयार किए गए सभी नामों के आधार पर एक वेक्टर में बदल जाएगी: यदि व्यक्ति सूची में था, तो संबंधित घटक 1 पर सेट किया जाएगा, अन्यथा - 0. से एक आवेदन में वॉचलिस्ट में कई लोग हो सकते हैं - क्रमशः, कई घटक का एकल मान होगा।

निर्माण की तारीख

निर्माण की तारीख को संख्यात्मक विशेषताओं के एक सेट के रूप में प्रस्तुत किया जाएगा - वर्ष, महीने, महीने का दिन, सप्ताह का दिन।

यह इस धारणा के तहत किया जाता है कि:

• एप्लिकेशन प्रोसेसिंग गति समय के साथ बदलती रहती है
• प्रसंस्करण गति में एक मौसमी कारक होता है
• सप्ताह का दिन (विशेष रूप से सप्ताहांत अनुप्रयोग) कॉन्फ़िगरेशन इकाई और सेवा की श्रेणी की पहचान करने में मदद कर सकता है

प्रशिक्षण मॉडल

वर्गीकरण एल्गोरिथ्म

सभी तीन वर्गीकरण कार्यों के लिए, लॉजिस्टिक प्रतिगमन का उपयोग किया गया था। यह मल्टीकासल वर्गीकरण (एक-बनाम-सभी मॉडल में) का समर्थन करता है, बहुत जल्दी सीखता है।

उन मॉडलों को प्रशिक्षित करने के लिए जो सेवा की श्रेणी और प्रसंस्करण अनुप्रयोगों की अवधि को परिभाषित करते हैं, हम केवल उन अनुप्रयोगों का उपयोग करेंगे जो स्पष्ट रूप से हमारी कॉन्फ़िगरेशन इकाइयों से संबंधित हैं।

सीखने के परिणाम

कॉन्फ़िगरेशन इकाइयों को परिभाषित करना
कॉन्फ़िगरेशन इकाइयों को एप्लिकेशन असाइन करते समय मॉडल पूर्णता और सटीकता के उच्च संकेतक प्रदर्शित करता है। इसके अलावा, मॉडल अच्छी तरह से घटनाओं को परिभाषित करता है जब अनुप्रयोग विदेशी कॉन्फ़िगरेशन इकाइयों को संदर्भित करते हैं।

CI-2 वर्ग के लिए अपेक्षाकृत कम पूर्णता आंशिक रूप से डेटा में वास्तविक वर्गीकरण त्रुटियों के कारण है। इसके अलावा, CI-2s अन्य CI के लिए निष्पादित "तकनीकी" अनुप्रयोगों को प्रस्तुत करता है। इसलिए, वर्णन और इसमें शामिल उपयोगकर्ताओं के संदर्भ में, ऐसे अनुप्रयोग अन्य वर्गों के अनुप्रयोगों के समान हो सकते हैं।

CI- के रूप में अनुप्रयोगों को वर्गीकृत करने के लिए सबसे महत्वपूर्ण गुण? अपेक्षित रूप से अनुप्रयोगों और अलर्ट शीट में शामिल लोगों के ग्राहकों के नाम थे। लेकिन कुछ ऐसे कीवर्ड थे जो पहले 30-के महत्व में थे। आवेदन के निर्माण की तारीख मायने नहीं रखती है।

आवेदन श्रेणी परिभाषा
श्रेणियों के आधार पर वर्गीकरण की गुणवत्ता कुछ कम हो गई है।

स्रोत डेटा में अनुमानित श्रेणियों और श्रेणियों के बेमेल के लिए एक बहुत ही गंभीर कारण स्रोत डेटा में वास्तविक त्रुटियां हैं। कई संगठनात्मक कारणों से, वर्गीकरण गलत हो सकता है। उदाहरण के लिए, एक "घटना" (सिस्टम में एक दोष, सिस्टम का अप्रत्याशित व्यवहार) के बजाय, एप्लिकेशन को "सूचना" ("यह एक बग नहीं है - यह एक विशेषता है" या "सेवा" के रूप में चिह्नित किया जा सकता है) ("हाँ", यह टूट गया है, लेकिन हम इसे फिर से शुरू करते हैं - और) सब ठीक हो जाएगा ”)।
इस तरह की विसंगतियों की पहचान क्लासिफायरियर के कार्यों में से एक है।

श्रेणियों के मामले में वर्गीकरण के लिए महत्वपूर्ण गुण अनुप्रयोगों की सामग्री से शब्द हैं। घटनाओं के लिए, ये "त्रुटि", "ठीक", "जब" शब्द हैं। सिस्टम के कुछ मॉड्यूल को दर्शाते हुए शब्द भी हैं - ये ऐसे मॉड्यूल हैं जिनके साथ उपयोगकर्ता सीधे काम करते हैं और प्रत्यक्ष या अप्रत्यक्ष त्रुटियों की उपस्थिति का निरीक्षण करते हैं।

दिलचस्प है, उन अनुप्रयोगों के लिए जिन्हें "सेवा" के रूप में परिभाषित किया गया है - शीर्ष शब्द सिस्टम के कुछ मॉड्यूल को भी परिभाषित करते हैं। सोचने, जांचने और अंत में उनकी मरम्मत करने का अवसर।

आवेदन के प्रसंस्करण समय का निर्धारण
सबसे कमजोर अनुप्रयोगों के प्रसंस्करण की अवधि की भविष्यवाणी करना था।

सामान्य तौर पर, एक निश्चित समय के लिए बंद होने वाले अनुप्रयोगों की संख्या की निर्भरता आदर्श रूप से प्रतिपादक के व्युत्क्रम की तरह दिखनी चाहिए। लेकिन इस तथ्य को ध्यान में रखते हुए कि कुछ घटनाओं को सिस्टम में सुधार की आवश्यकता होती है, और यह नियमित रिलीज के हिस्से के रूप में किया जाता है, कुछ अनुप्रयोगों के निष्पादन की अवधि कृत्रिम रूप से बढ़ जाती है।

इसलिए, शायद क्लासिफायर ने कुछ "लंबे" अनुप्रयोगों को "तेज" के रूप में वर्गीकृत किया है - वह योजनाबद्ध रिलीज के समय के बारे में नहीं जानता है, और मानता है कि आवेदन को तेजी से बंद करने की आवश्यकता है।
यह भी सोचने का एक अच्छा कारण है ...

एक वर्ग के रूप में मॉडल का कार्यान्वयन

मॉडल को एक मानक के रूप में लागू किया गया है जो सभी मानक स्किकिट-लर्न क्लासेस का उपयोग करता है - स्केलिंग, वेक्टराइज़ेशन, क्लासिफायरियर और महत्वपूर्ण सेटिंग्स।
मॉडल की तैयारी, प्रशिक्षण और बाद के उपयोग को सहायक वस्तुओं के आधार पर, क्लास के तरीकों के रूप में लागू किया जाता है।

ऑब्जेक्ट कार्यान्वयन आपको मॉडल के व्युत्पन्न संस्करणों को आसानी से उत्पन्न करने की अनुमति देता है जो अन्य कक्षाओं के क्लासरूम का उपयोग करते हैं और / या मूल डेटा सेट की अन्य विशेषताओं के मूल्यों की भविष्यवाणी करते हैं। यह सब वर्चुअल तरीकों को ओवरराइड करके किया जाता है।
हालाँकि, सभी डेटा तैयार करने की प्रक्रिया सभी विकल्पों के लिए सामान्य रह सकती है।

इसके अलावा, एक वस्तु के रूप में मॉडल के कार्यान्वयन ने स्वाभाविक रूप से उपयोग किए गए सत्रों के बीच प्रशिक्षित मॉडल के मध्यवर्ती भंडारण की समस्या को हल करना संभव बना दिया - धारावाहिकीकरण / deserialization के माध्यम से।

मॉडल को क्रमबद्ध करने के लिए, मानक पायथन तंत्र, अचार / अनपिकेल का उपयोग किया गया था।
चूंकि यह आपको कई वस्तुओं को एक ही फ़ाइल में क्रमबद्ध करने की अनुमति देता है, इससे सामान्य प्रसंस्करण प्रवाह में शामिल कई मॉडलों की वसूली को लगातार बचाने में मदद मिलेगी।

निष्कर्ष

परिणामी मॉडल, यहां तक ​​कि अपेक्षाकृत सरल होने के नाते, बहुत दिलचस्प परिणाम देते हैं:

• श्रेणी के आधार पर वर्गीकरण में व्यवस्थित "चूक" की पहचान की
• यह स्पष्ट हो गया कि सिस्टम के कौन से भाग समस्याओं से जुड़े हैं (स्पष्ट रूप से - बिना कारण के)
• आवेदन प्रसंस्करण समय स्पष्ट रूप से बाहरी कारकों पर निर्भर करता है जिन्हें अलग से सुधारने की आवश्यकता होती है।

हमें प्राप्त "संकेत" के आधार पर आंतरिक प्रक्रियाओं का पुनर्निर्माण करना बाकी है। लेकिन इस छोटे से प्रयोग ने भी मशीन सीखने की विधियों की शक्ति का मूल्यांकन करना संभव बना दिया। और यह भी, अपनी खुद की प्रक्रिया और इसके सुधार के विश्लेषण में टीम की अतिरिक्त रुचि को प्रेरित किया।