VotingClassifier in sсikit-learn: वर्गीकरण मॉडल का एक संयोजन का निर्माण और अनुकूलन

सेंटीमेंट एनालिसिस (समीक्षाओं का विश्लेषण) के बड़े कार्य के कार्यान्वयन के हिस्से के रूप में, मैंने कुछ समय इसके अलग-अलग तत्व के अतिरिक्त अध्ययन के लिए समर्पित करने का फैसला किया - वर्गीकरण मॉडल के कलाकारों की टुकड़ी के निर्माण के लिए एक उपकरण के रूप में sklearn.ensemble मॉड्यूल से VotingClassifier का उपयोग करना और भविष्यवाणियों की अंतिम गुणवत्ता में सुधार करना। यह महत्वपूर्ण क्यों है और बारीकियों क्या हैं?



अक्सर ऐसा होता है कि डेटा विश्लेषण की लागू समस्या को हल करने के दौरान, यह तुरंत स्पष्ट नहीं है (या बिल्कुल स्पष्ट नहीं) जो प्रशिक्षण मॉडल सबसे उपयुक्त है। उपलब्ध डेटा की प्रकृति के आधार पर सबसे लोकप्रिय और / या सहज ज्ञान युक्त उपयुक्त मॉडल का चयन करने के लिए एक समाधान हो सकता है। इस मामले में, चयनित मॉडल के मापदंडों को अनुकूलित किया जाता है (उदाहरण के लिए, ग्रिडसर्चसीवी के माध्यम से) और इसका उपयोग कार्य में किया जाता है। एक अन्य दृष्टिकोण मॉडल के एक संयोजन का उपयोग करने के लिए हो सकता है जब उनमें से कई के परिणाम एक साथ अंतिम परिणाम के गठन में शामिल होते हैं। मैं अभी यह कहना चाहूंगा कि लेख का उद्देश्य मॉडल या इसके निर्माण के सिद्धांतों (यह यहां पाया जा सकता है ) के कलाकारों की टुकड़ी का उपयोग करने के लाभों का वर्णन नहीं है, बल्कि एक विशिष्ट उदाहरण का उपयोग करके समस्या को हल करने और इस तरह के समाधान के दौरान उत्पन्न होने वाली बारीकियों का विश्लेषण करने के लिए अलग से लागू दृष्टिकोण में है।

वैश्विक समस्या का विवरण निम्नानुसार है : परीक्षण नमूने के रूप में मोबाइल फोन पर केवल 100 समीक्षाएँ दी गई थीं, और हमें एक पूर्व-प्रशिक्षित मॉडल की आवश्यकता है जो इन 100 समीक्षाओं पर सबसे अच्छा परिणाम दिखाएगा - अर्थात्, यह निर्धारित करेगा कि समीक्षा सकारात्मक है या नकारात्मक। एक अतिरिक्त कठिनाई, समस्या की स्थितियों से निम्नानुसार है, एक प्रशिक्षण नमूने की कमी है। ब्यूटीफुल सूप लाइब्रेरी की मदद से इस कठिनाई को दूर करने के लिए, रूसी साइटों में से एक से मोबाइल फोन और उनके बारे में 10,000 समीक्षाओं को सफलतापूर्वक पार्स किया गया।

पार्सिंग, डेटा प्रीप्रोसेसिंग के चरणों को छोड़ना और उनकी प्रारंभिक संरचना का अध्ययन करना , हम उस क्षण में आगे बढ़ते हैं जब वे होते हैं:

• प्रशिक्षण नमूना, 10,000 फोन समीक्षाओं से युक्त, प्रत्येक समीक्षा को बाइनरी (सकारात्मक या नकारात्मक) चिह्नित किया गया है। रेटिंग्स की परिभाषा के लिए मार्कअप 1-3 के रूप में नकारात्मक और रेटिंग 4-5 के रूप में सकारात्मक है।
• काउंट वेक्टराइज़र का उपयोग करते हुए, डेटा को एक ऐसे रूप में प्रस्तुत किया जाता है, जो क्लासिफायरिफायर मॉडल के प्रशिक्षण के लिए उपयुक्त है

कैसे तय करें कि कौन सा मॉडल आपके लिए सबसे अच्छा है? हमारे पास मैन्युअल रूप से मॉडल की गणना करने की क्षमता नहीं है, क्योंकि केवल 100 समीक्षाओं का एक परीक्षण नमूना एक बड़ा जोखिम पैदा करता है कि कुछ मॉडल बस इस परीक्षण नमूने के लिए बेहतर है, लेकिन अगर आप इसे हमसे या "लड़ाई" में छिपे हुए अतिरिक्त नमूने पर उपयोग करते हैं, तो परिणाम औसत से नीचे होगा।

इस समस्या को हल करने के लिए , स्किट-लर्न लाइब्रेरी में एक वोटिंगक्लासीफायर मॉड्यूल है , जो कई का उपयोग करने, एक दूसरे से अलग, मशीन लर्निंग मॉडल और उन्हें एक क्लासिफायर में संयोजित करने के लिए एक उत्कृष्ट उपकरण है। इससे रिट्रेनिंग का जोखिम कम होता है, साथ ही किसी एक विशेष मॉडल के परिणामों की गलत व्याख्या भी होती है। VotingClassifier मॉड्यूल को निम्न कमांड के साथ आयात किया जाता है :
from sklearn.ensemble import VotingClassifier

इस मॉड्यूल के साथ काम करते समय व्यावहारिक विवरण:

1) पहली और सबसे महत्वपूर्ण बात यह है कि इसमें शामिल प्रत्येक मॉडल से भविष्यवाणियां प्राप्त करने के बाद संयुक्त क्लासिफायरियर की एकल लिया गई भविष्यवाणी कैसे प्राप्त करें। वोटिंगक्लासीफायर मापदंडों के बीच दो संभावित मूल्यों के साथ एक वोटिंग पैरामीटर है: 'हार्ड' और 'सॉफ्ट'।

१.१) पहले मामले में, संयुक्त क्लासिफायर का अंतिम उत्तर इसके अधिकांश सदस्यों की "राय" के अनुरूप होगा। उदाहरण के लिए, आपका संयुक्त क्लासिफायर तीन अलग-अलग मॉडलों के डेटा का उपयोग करता है। विशिष्ट अवलोकन पर उनमें से दो प्रतिक्रिया "सकारात्मक प्रतिक्रिया" की भविष्यवाणी करते हैं, तीसरा - "नकारात्मक प्रतिक्रिया।" इस प्रकार, इस अवलोकन के लिए, अंतिम भविष्यवाणी "सकारात्मक प्रतिक्रिया" होगी, क्योंकि हमारे पास 2 - "फॉर" और 1 "विरुद्ध" है।

१.२) दूसरे मामले में, मतदान पैरामीटर के 'नरम' मूल्य का उपयोग करते समय, प्रत्येक वर्ग के लिए मॉडल भविष्यवाणियों का पूर्ण "वोटिंग" और भार होता है, इसलिए संयुक्त क्लासिफायर का अंतिम उत्तर अनुमानित संभावनाओं के योग का औसत होता है। महत्वपूर्ण! इस तरह के "मतदान" पद्धति का उपयोग करने में सक्षम होने के लिए, आपके पहनावा में शामिल लोगों में से प्रत्येक क्लासिफायरियर को प्रत्येक कक्षा में घटना की संभावना का एक मात्रात्मक अनुमान प्राप्त करने के लिए predict_proba () विधि का समर्थन करना चाहिए। कृपया ध्यान दें कि सभी क्लासिफायर मॉडल इस पद्धति का समर्थन नहीं करते हैं और तदनुसार, भारित संभावनाओं (सॉफ्ट वोटिंग) की विधि का उपयोग करते समय वोटिंगक्लासीफायर के ढांचे के भीतर इस्तेमाल किया जा सकता है।

आइए एक उदाहरण देखें : तीन क्लासीफायर हैं और समीक्षाओं के दो वर्ग हैं: सकारात्मक और नकारात्मक। प्रत्येक क्लासिफायरियर, predict_proba पद्धति के माध्यम से, एक निश्चित संभाव्यता मान (p) देगा, जिसके साथ एक विशेष अवलोकन कक्षा 1 को सौंपा गया है और तदनुसार, प्रायिकता (1-p) से कक्षा दो तक। प्रत्येक मॉडल से उत्तर प्राप्त करने के बाद, संयुक्त क्लासिफायर, प्राप्त अनुमानों का भार उठाता है और प्राप्त अंतिम परिणाम देता है।

$$$ $ प्रदर्शन $ $ अधिकतम (w1 * p1 + w2 * p1 + w3 * p1, w1 * P2 + w2 * P2 + w3 * p3) $$ प्रदर्शन $$

, जहाँ w1, w2, w3 आपके क्लासिफायर के वेट हैं, जो पहनावा में शामिल हैं, डिफ़ॉल्ट रूप से बराबर वेट कर रहे हैं, और p1, P2 उनमें से प्रत्येक के क्लास 1 या क्लास 2 से संबंधित है। कृपया यह भी ध्यान दें कि सॉफ्ट वोट का उपयोग करते समय क्लासिफायर के वज़न को वेट पैरामीटर का उपयोग करके बदला जा सकता है, इसलिए मॉड्यूल कॉल को इस तरह से देखा जाना चाहिए:
... = VotingClassifier(estimators=[('..', clf1), ('..', clf2), ('...', clf3)], voting='soft', weights=[*,*,*]) , जहां तारांकन प्रत्येक मॉडल के लिए आवश्यक भार का संकेत दे सकता है।

2) पहनावा में शामिल प्रत्येक क्लासिफायर के हाइपरपैरमीटर को अनुकूलित करने के लिए मॉड्यूल VotingClassifier और GridSearch का एक साथ उपयोग करने की क्षमता।

जब आप एक कलाकारों की टुकड़ी का उपयोग करने की योजना बनाते हैं और चाहते हैं कि इसमें शामिल किए गए मॉडल को अनुकूलित किया जाए, तो आप पहले से ही एकीकृत क्लासिफायर पर ग्रिडसर्च का उपयोग कर सकते हैं। और नीचे दिए गए कोड से पता चलता है कि आप इसमें शामिल मॉडल के साथ कैसे काम कर सकते हैं (लॉजिस्टिक रिग्रेशन, भोले बे, स्टोचैस्टिक ग्रेडिएंट डिसेंट) जबकि एकीकृत क्लासिफायर (वोटिंगक्लासीफायर) के ढांचे के भीतर शेष:

 clf1 = LogisticRegression() clf2 = MultinomialNB() clf3 = SGDClassifier(max_iter=1000, loss='log') eclf = VotingClassifier(estimators=[ ('lr', clf1), ('nb', clf2),('sgd', clf3)], voting='hard') #      (hard voting), . . 1.1 <b>params = {'lr__C' : [0.5,1,1.5], 'lr__class_weight': [None,'balanced'], 'nb__alpha' : [0.1,1,2], 'sgd__penalty' : ['l2', 'l1'], 'sgd__alpha': [0.0001,0.001,0.01]} </b> #       ,  ,     grid = GridSearchCV(estimator=eclf, param_grid=params, cv=5, scoring='accuracy', n_jobs=-1) grid = grid.fit(data_messages_vectorized, df_texts['Binary_Rate']) #    ,      5      

इस प्रकार, params डिक्शनरी को सेट किया जाना चाहिए ताकि इसे GridSearch के माध्यम से एक्सेस करते समय, आप यह निर्धारित कर सकें कि मॉडल के कलाकारों की टुकड़ी में कौन सा पैरामीटर एक पैरामीटर को संदर्भित करता है जिसका मूल्य आप अनुकूलित करना चाहते हैं।

यह सब आपको मॉडल के कलाकारों की टुकड़ी के निर्माण और इसे अनुकूलित करने के तरीके के रूप में वोटिंगक्लासीफायर टूल का पूरी तरह से उपयोग करने के लिए जानना आवश्यक है। आइए परिणाम देखें:

  print grid.best_params_ {'lr__class_weight': 'balanced', 'sgd__penalty': 'l1', 'nb__alpha': 1, 'lr__C': 1, 'sgd__alpha': 0.001} 

मापदंडों के इष्टतम मूल्य पाए जाते हैं, यह इष्टतम मापदंडों के साथ क्लासिफायर्स (वोटिंगक्लासीफायर) के कलाकारों की टुकड़ी के लिए काम के परिणामों की तुलना करने के लिए रहता है, हम प्रशिक्षण नमूने पर क्रॉस-सत्यापन का संचालन करेंगे और इष्टतम मापदंडों के साथ मॉडल की तुलना करेंगे और उनमें से पहनावा शामिल होगा:

 for clf, label in zip([clf1, clf2, clf3, eclf], ['Logistic Regression', 'Naive Bayes', 'SGD', 'Ensemble_HardVoting']): scores = cross_val_score(clf, data_messages_vectorized, df_texts['Binary_Rate'], cv=3, scoring='accuracy') print("Accuracy: %0.2f (+/- %0.2f) [%s]" % (scores.mean(), scores.std(), label)) 

अंतिम परिणाम:

सटीकता: 0.75 (± 0.02) [तार्किक प्रतिगमन]
सटीकता: 0.79 ((0.02) [Naive Bayes]
सटीकता: 0.79 (± 0.02) [SGD]
सटीकता: 0.79 ((0.02) [एनसेंबल_हार्डवोटिंग]

जैसा कि आप देख सकते हैं, मॉडल ने खुद को प्रशिक्षण के नमूने में कुछ अलग दिखाया (मानक मापदंडों के साथ, यह अंतर अधिक ध्यान देने योग्य था)। इसके अलावा, कलाकारों की टुकड़ी का कुल मूल्य (सटीकता मीट्रिक के अनुसार) इसमें शामिल मॉडलों से सर्वोत्तम मूल्य से अधिक नहीं है, क्योंकि पहनावा बल्कि एक अधिक स्थिर मॉडल है, जो टेस्ट सेट में और "लड़ाई" में एक समान परिणाम दिखाने में सक्षम है, जिसका अर्थ है कि रिट्रीटिंग के जोखिम को कम करना, प्रशिक्षण सेट के लिए फिटिंग, और प्रशिक्षण से संबंधित अन्य समस्याओं को वर्गीकृत करना। लागू समस्याओं को हल करने में गुड लक और आपके ध्यान के लिए धन्यवाद!

PS सैंडबॉक्स में प्रकाशन की बारीकियों और नियमों को देखते हुए, मैं इस आलेख में दिए गए विश्लेषण के लिए गिटहब और स्रोत कोड का लिंक प्रदान नहीं कर सकता, साथ ही इनक्लास प्रतियोगिता के ढांचे में कैगले से लिंक भी कर सकता हूं, जिसने इस पर मॉडल की जांच के लिए एक परीक्षण सेट और उपकरण प्रदान किए। मैं केवल यह कह सकता हूं कि यह पहनावा काफी हद तक बेस लाइन को हरा देता है और टेस्ट सेट की जाँच के बाद लीडरबोर्ड पर अपना सही स्थान ले लेता है। मुझे उम्मीद है कि निम्नलिखित प्रकाशनों में मैं साझा कर सकता हूं।