इंटरप्रिटेड मशीन लर्निंग मॉडल। भाग २

सभी को नमस्कार। मशीन लर्निंग कोर्स शुरू होने तक कुछ दिन शेष हैं। कक्षाओं की शुरुआत की प्रत्याशा में, हमने एक उपयोगी अनुवाद तैयार किया है जो हमारे छात्रों और सभी ब्लॉग पाठकों दोनों के लिए दिलचस्पी का होगा। और आज हम आपके साथ इस अनुवाद का अंतिम भाग साझा कर रहे हैं।

---

आंशिक निर्भरता वाले भूखंड

आंशिक निर्भरता भूखंड (आंशिक निर्भरता भूखंड या पीडीपी, पीडी भूखंड) मशीन लर्निंग मॉडल ( जेएच फ्रीडमैन 2001 ) के अनुमानित परिणाम पर एक या दो सुविधाओं का नगण्य प्रभाव दिखाते हैं। पीडीपी 1 डी या 2 डी ग्राफ़ का उपयोग करके लक्ष्य और चयनित सुविधाओं के बीच संबंध दिखा सकता है।

यह कैसे काम करता है?

मॉडल के प्रशिक्षण के बाद पीडीपी की गणना भी की जाती है। उपरोक्त जिस फुटबॉल समस्या पर हमने चर्चा की, उसमें कई संकेत थे, जैसे कि हस्तांतरित किए गए स्थानांतरण, लक्ष्य पर गोल करने के प्रयास, गोल किए गए गोल आदि। आइए एक पंक्ति को देखकर शुरू करें। मान लीजिए कि लाइन एक ऐसी टीम है जिसके पास गेंद का 50% समय था, जिसने 100 सहायता की, स्कोर करने के 10 प्रयास और 1 गोल किया।

हम अपने मॉडल को प्रशिक्षित करके और इस संभावना की गणना करके कार्य करते हैं कि टीम में एक खिलाड़ी है जिसे "मैन ऑफ द गेम" प्राप्त हुआ है, जो हमारा लक्ष्य चर है। फिर हम चर का चयन करते हैं और लगातार इसके मूल्य को बदलते हैं। उदाहरण के लिए, हम परिणाम की गणना करेंगे, बशर्ते कि टीम ने 1 गोल, 2 गोल, 3 गोल, आदि किए। इन सभी मूल्यों को ग्राफ में परिलक्षित किया जाता है, अंत में हमें प्राप्त किए गए लक्ष्यों पर अनुमानित परिणामों की निर्भरता का ग्राफ मिलता है।

पीडीपी के निर्माण के लिए पायथन में उपयोग की जाने वाली लाइब्रेरी को अजगर आंशिक निर्भरता प्लॉट टूलबॉक्स या बस पीडीपीबॉक्स कहा जाता है।

from matplotlib import pyplot as plt from pdpbox import pdp, get_dataset, info_plots # Create the data that we will plot pdp_goals = pdp.pdp_isolate(model=my_model, dataset=val_X, model_features=feature_names, feature='Goal Scored') # plot it pdp.pdp_plot(pdp_goals, 'Goal Scored') plt.show() 

व्याख्या

• मूल या बाईं ओर के मूल्य में जो भविष्यवाणी की गई थी, उसके कारण वाई अक्ष पूर्वानुमान में परिवर्तन का प्रतिनिधित्व करता है।
• नीला क्षेत्र आत्मविश्वास अंतराल को इंगित करता है।
• गोल स्कोर ग्राफ के लिए, हम देखते हैं कि एक गोल ने 'मैन ऑफ द गेम' पुरस्कार प्राप्त करने की संभावना बढ़ जाती है, लेकिन कुछ समय बाद, संतृप्ति होती है।

हम 2 डी ग्राफिक्स का उपयोग करके एक ही समय में दो विशेषताओं की आंशिक निर्भरता की कल्पना भी कर सकते हैं।



अभ्यास

SHAP मान

SHAP का अर्थ है SHapley एडिटिव स्पष्टीकरण। यह विधि प्रत्येक विशेषता के महत्व को प्रकट करने के लिए पूर्वानुमान को भागों में विभाजित करने में मदद करती है। यह वेक्टर शेप्ले पर आधारित है, गेम थ्योरी में इस्तेमाल किया जाने वाला एक सिद्धांत यह निर्धारित करने के लिए कि प्रत्येक खिलाड़ी एक संयुक्त गेम में इसके सफल परिणाम में कितना योगदान देता है (https://medium.com/civis-analytics/demystifying-black-box-mitels-with-shap- मूल्य-विश्लेषण-3e20b536fc80)। सटीकता और व्याख्या के बीच एक समझौता खोजना अक्सर एक मुश्किल संतुलन हो सकता है, लेकिन SHAP मान दोनों प्रदान कर सकते हैं।

यह कैसे काम करता है?

और फिर, आइए फुटबॉल के उदाहरण पर वापस जाएं, जहां हम इस संभावना की भविष्यवाणी करना चाहते थे कि एक टीम में एक खिलाड़ी है जिसने "मैन ऑफ द गेम" पुरस्कार जीता है। SHAP - मान पूर्वानुमान के साथ तुलना में एक विशेषता के एक निश्चित मूल्य के प्रभाव की व्याख्या करते हैं जो हमने बनाया होता अगर यह विशेषता एक मूल मान लेती।

SHAP - मानों की गणना Shap लाइब्रेरी के उपयोग से की जाती है, जिसे PyPI या conda से आसानी से स्थापित किया जा सकता है।

SHAP - मान दिखाते हैं कि इस विशेष गुण ने हमारी भविष्यवाणी को कितना बदल दिया (इसकी तुलना में हमने इस विशेषता के कुछ मूल मूल्य के साथ यह भविष्यवाणी कैसे की होगी)। मान लीजिए कि हम यह जानना चाहते हैं कि यदि एक निश्चित आधार राशि के बजाय टीम ने 3 गोल किए तो पूर्वानुमान क्या होगा। यदि हम इस प्रश्न का उत्तर दे सकते हैं, तो हम अन्य संकेतों के लिए निम्न चरणों का पालन कर सकते हैं:

 sum(SHAP values for all features) = pred_for_team - pred_for_baseline_values 

इसलिए, पूर्वानुमान को निम्नलिखित ग्राफ के रूप में प्रस्तुत किया जा सकता है:


यहाँ बड़ी तस्वीर के लिए लिंक है।

व्याख्या

ऊपर का उदाहरण संकेत दिखाता है, जिनमें से प्रत्येक बेस वैल्यू पर मॉडल आउटपुट के आंदोलन में योगदान देता है (मॉडल के औसत सांख्यिकीय आउटपुट प्रशिक्षण डेटासेट के अनुसार जो हमने इसे पहले पारित किया था) मॉडल के अंतिम आउटपुट के लिए। ऊपर दिए गए पूर्वानुमान को आगे बढ़ाने वाले संकेत लाल रंग में दिखाए गए हैं, और जो इसकी सटीकता कम करते हैं, उन्हें नीचे दिखाया गया है।

• यहां आधार मूल्य 0.4979 है, जबकि पूर्वानुमान 0.7 है।
• Goal Scores = 2 के साथ, पूर्वानुमान को बेहतर बनाने पर विशेषता का सबसे अधिक प्रभाव पड़ता है, जबकि
• अंतिम ball possession को कम करने का उच्चतम प्रभाव ball possession विशेषता पर पड़ता है।

अभ्यास

SHAP - मूल्यों का बहुत गहरा सैद्धांतिक औचित्य है जो मैंने यहां उल्लेख किया है। मुद्दे की बेहतर समझ के लिए, लिंक का अनुसरण करें ।

SHAP मूल्यों का उन्नत उपयोग

कई SHAP मूल्यों को एकत्रित करने से मॉडल का अधिक विस्तृत दृश्य बनाने में मदद मिलेगी।

• SHAP सारांश चार्ट

यह पता लगाने के लिए कि मॉडल के लिए कौन सी सुविधाएँ सबसे महत्वपूर्ण हैं, हम प्रत्येक सुविधा के लिए और प्रत्येक नमूने के लिए SHAP मान बना सकते हैं। सारांश ग्राफ़ दिखाता है कि कौन सी सुविधाएँ सबसे महत्वपूर्ण हैं, साथ ही साथ डेटासेट पर उनके प्रभाव की सीमा भी है।



प्रत्येक बिंदु के लिए:

• ऊर्ध्वाधर व्यवस्था यह दर्शाती है कि यह किस चिन्ह को दर्शाता है;
• रंग इंगित करता है कि क्या यह ऑब्जेक्ट इस डेटासेट स्ट्रिंग के लिए अत्यधिक महत्वपूर्ण या कमजोर है;
• क्षैतिज व्यवस्था से पता चलता है कि इस सुविधा के मूल्य का प्रभाव अधिक सटीक पूर्वानुमान है या नहीं।

ऊपरी बाएं कोने में स्थित डॉट का मतलब उस टीम से है जिसने कई गोल किए, लेकिन एक सफल पूर्वानुमान की संभावना 0.25 कम कर दी।

• SHAP योगदान चार्ट

जबकि SHAP सारांश ग्राफ प्रत्येक विशेषता का एक सामान्य अवलोकन प्रदान करता है, SHAP निर्भरता ग्राफ दिखाता है कि मॉडल आउटपुट विशेषता मूल्य पर कैसे निर्भर करता है। SHAP योगदान निर्भरता ग्राफ एक समान पीडीपी अंतर्दृष्टि प्रदान करता है, लेकिन अधिक विवरण जोड़ता है।


जमा निर्भरता चार्ट

ऊपर प्रस्तुत किए गए रेखांकन से संकेत मिलता है कि तलवार की उपस्थिति से टीम की संभावना बढ़ जाती है कि यह उनका खिलाड़ी है जिसे इनाम मिलेगा। लेकिन अगर कोई टीम केवल एक गोल करती है, तो यह प्रवृत्ति बदल रही है, क्योंकि रेफरी तय कर सकते हैं कि टीम के खिलाड़ी गेंद को बहुत लंबे समय तक रखते हैं और बहुत कम गोल करते हैं।

अभ्यास

निष्कर्ष

मशीन लर्निंग को अब ब्लैक बॉक्स नहीं होना चाहिए। यदि हम दूसरों को उसके काम के परिणामों की व्याख्या नहीं कर सकते हैं तो एक अच्छे मॉडल का उपयोग क्या है? मॉडल की गुणवत्ता के रूप में व्याख्या करना महत्वपूर्ण हो गया है। स्वीकृति प्राप्त करने के लिए, यह आवश्यक है कि मशीन लर्निंग सिस्टम उनके निर्णयों की स्पष्ट व्याख्या प्रदान कर सके। जैसा कि अल्बर्ट आइंस्टीन ने कहा: "यदि आप सरल भाषा में कुछ नहीं समझा सकते हैं, तो आप इसे समझ नहीं पाएंगे।"

सूत्रों का कहना है:

• "इंटरप्रेटेबल मशीन लर्निंग: ए गाइड फॉर ब्लैक बॉक्स मॉडल्स एक्सपेंडेबल।" क्रिस्टोफ मोलनार
• कागले में मशीन लर्निंग एक्सप्लनेबिलिटी माइक्रो कोर्स

पहला भाग पढ़ें