डेटा साइंस में रिग्रेशन एनालिसिस के तरीके

पाठ्यक्रम की शुरुआत की पूर्व संध्या पर "गणित के लिए डेटा विज्ञान। उन्नत पाठ्यक्रम " हमने" विज्ञान विज्ञान में प्रतिगमन विश्लेषण के तरीके "विषय पर एक खुला वेबिनार आयोजित किया। इस पर हम रैखिक प्रतिगमन की अवधारणा से परिचित हो गए, अध्ययन किया कि वे कहाँ और कैसे व्यवहार में लागू किए जा सकते हैं, और यह भी सीखा कि इस क्षेत्र में गणितीय विश्लेषण, रैखिक बीजगणित और संभाव्यता सिद्धांत के कौन से विषयों और वर्गों का उपयोग किया जाता है। लेक्चरर - पीटर ल्यूकेन्चेंको , हायर स्कूल ऑफ इकोनॉमिक्स में लेक्चरर, टेक्नोलॉजी प्रोजेक्ट्स के प्रमुख।

---

यदि हम डेटा साइंस के संदर्भ में गणित के बारे में बात करते हैं, तो हम तीन सबसे अधिक बार हल की गई समस्याओं को हल कर सकते हैं (हालांकि, निश्चित रूप से, अधिक समस्याएं हैं):



आइए इन कार्यों के बारे में अधिक विस्तार से बात करते हैं:

1. प्रतिगमन विश्लेषण या पहचान निर्भरता का कार्य (जब हमारे पास निश्चित अवलोकन है)। ऊपर दिए गए ग्राफ़ में, आप देख सकते हैं कि एक निश्चित चर x और एक निश्चित चर y है, और हम एक विशिष्ट x के लिए y के मूल्यों का निरीक्षण करते हैं। हम इन बिंदुओं को जानते हैं और उनके निर्देशांक जानते हैं, और हम यह भी जानते हैं कि x किसी तरह y को प्रभावित करता है, अर्थात ये दो चर एक दूसरे पर निर्भर हैं। स्वाभाविक रूप से, हम उनकी निर्भरता के समीकरण की गणना करना चाहते हैं - इसके लिए हम शास्त्रीय जोड़ी रैखिक प्रतिगमन के मॉडल का उपयोग करते हैं, जब यह माना जाता है कि उनकी निर्भरता एक निश्चित सीधी रेखा द्वारा वर्णित की जा सकती है। तदनुसार, फिर डेटा के विवरण में त्रुटि को कम करने के लिए सीधी रेखा गुणांक को चुना जाता है। और बस किस तरह की त्रुटि (गुणवत्ता मीट्रिक) का चयन किया जाएगा, एक रैखिक प्रतिगमन के निर्माण का वास्तविक परिणाम निर्भर करता है।
2. डेटा विश्लेषण से एक और काम की सिफारिश करने वाला सिस्टम है । यह तब है जब हम कहते हैं कि उदाहरण के लिए, ऑनलाइन स्टोर हैं, उनके पास सामान का एक निश्चित सेट है, और एक व्यक्ति खरीदारी करता है। इस जानकारी के आधार पर, वेक्टर स्थान में इस व्यक्ति का विवरण प्रदान करना संभव है, और, इस वेक्टर स्थान का निर्माण, संभावना की गणितीय निर्भरता का निर्माण करता है जिसके साथ यह व्यक्ति इस या उस उत्पाद को खरीदेगा, जो उसकी पिछली खरीद को जानता है। तदनुसार, हम वर्गीकरण के बारे में बात कर रहे हैं, जब हम संभावित खरीदारों को सिद्धांतों के अनुसार वर्गीकृत करते हैं: "खरीद-न खरीद", "दिलचस्प-निर्बाध", आदि विभिन्न दृष्टिकोण हैं: उपयोगकर्ता-आधारित और आइटम-आधारित।
3. तीसरा क्षेत्र कंप्यूटर दृष्टि है । इस कार्य के दौरान, हम यह निर्धारित करने की कोशिश कर रहे हैं कि हमारे लिए ब्याज की वस्तु कहाँ स्थित है। यह वास्तव में ऑब्जेक्ट की छवि बनाने वाले विशिष्ट पिक्सेल का चयन करके त्रुटियों को कम करने की समस्या का समाधान है।

तीनों समस्याओं में, अनुकूलन, त्रुटि को कम करना, और एक या दूसरे मॉडल की उपस्थिति है जो चर की निर्भरता का वर्णन करता है। उसी समय, प्रत्येक के अंदर डेटा का एक प्रतिनिधित्व निहित होता है जो एक वेक्टर विवरण में विघटित होता है। हमारे लेख में, हम प्रतिगमन मॉडल को प्रभावित करने वाले अनुभाग पर विशेष ध्यान देंगे।

हमने पहले ही उल्लेख किया है कि डेटा जोड़े का एक निश्चित सेट है: एक्स और वाई। हमें पता है कि वाई के संबंध में वाई के साथ क्या मूल्य हैं। यदि एक्स समय है, तो हमें एक समय श्रृंखला मॉडल मिलता है जिसमें वाई, कहते हैं, तेल की कीमत और एक ही समय में, डॉलर विनिमय दर के लिए रूबल, और एक्स 2014 से 2018 तक समय की एक निश्चित अवधि है:



यदि आप रेखांकन का निर्माण करते हैं, तो यह स्पष्ट है कि ये दो समय श्रृंखला अन्योन्याश्रित हैं। सहसंबंध की अवधारणा को परिभाषित करने के बाद, आप उनकी निर्भरता की डिग्री की गणना कर सकते हैं, और फिर, यदि आप जानते हैं कि कुछ मान पूरी तरह से सहसंबद्ध हैं (सहसंबंध 1 या -1 है), तो आप इसका उपयोग पूर्वानुमान कार्यों के लिए या विवरण कार्यों के लिए कर सकते हैं।

निम्नलिखित दृष्टांत पर विचार करें:



प्रतिगमन मॉडल के निर्माण में सबसे कठिन हिस्सा शुरू में अपनी स्मृति में कुछ विशिष्ट कार्य करना है । उदाहरण के लिए, चित्र A के लिए यह Y = kX + b है, B के लिए यह Y = -kX + b है, चित्र C में "गेम" कुछ संख्या के बराबर है, आकृति D में ग्राफ सबसे अधिक संभावना है जो "से रूट पर आधारित है" X ”, D के आधार पर, संभवतः एक पेराबोला, और E के आधार पर - एक हाइपरबोले।

यह पता चला है कि हम डेटा निर्भरता के कुछ मॉडल चुनते हैं , और यादृच्छिक चर के बीच निर्भरता के प्रकार अलग हैं। सब कुछ इतना स्पष्ट नहीं है, क्योंकि इन सरल रेखाचित्रों में भी हम विभिन्न निर्भरताएँ देखते हैं। एक विशिष्ट संबंध का चयन करके, हम मॉडल को जांचने के लिए प्रतिगमन विधियों का उपयोग कर सकते हैं।

आपके पूर्वानुमान की गुणवत्ता इस बात पर निर्भर करेगी कि आप किस मॉडल को चुनते हैं । यदि हम रैखिक प्रतिगमन मॉडल पर ध्यान केंद्रित करते हैं, तो हम मानते हैं कि वास्तविक मूल्यों का एक निश्चित समूह है:



यह आंकड़ा X1, X2, X2, X4 के 4 देखे गए मूल्यों को दर्शाता है। एक्स के प्रत्येक के लिए, वाई मान ज्ञात है (हमारे मामले में, ये बिंदु हैं: पी 1, पी 2, पी 3, पी 4)। ये वे बिंदु हैं जो हम वास्तव में डेटा पर निरीक्षण करते हैं। इस प्रकार, हमें एक निश्चित डेटासेट प्राप्त हुआ। और किसी कारण से, हमने फैसला किया कि रैखिक प्रतिगमन एक्स और खिलाड़ी के बीच संबंधों का सबसे अच्छा वर्णन करता है। इसके अलावा, पूरा सवाल यह है कि एक सीधी रेखा Y = b ₁ + b ₂ X के समीकरण का निर्माण कैसे किया जाए, जहां b ₂ ढलान गुणांक है, b ₁ प्रतिच्छेदन गुणांक है। पूरा सवाल यह है कि बी ₂ और बी ₁ सबसे अच्छा सेट हैं ताकि यह सीधी रेखा इन चरों के बीच के संबंधों को यथासंभव सटीक रूप से वर्णित करे।

अंक आर ₁ , आर ₂ , आर ₃ , आर ₄ वे मान हैं जो हमारे मॉडल एक्स के मूल्यों पर देते हैं। क्या होता है? अंक पी ऐसे बिंदु हैं जो हम वास्तव में निरीक्षण करते हैं (वास्तव में एकत्र किए गए), और अंक आर ऐसे बिंदु हैं जो हम अपने मॉडल (जो इसे पैदा करते हैं) में देखते हैं। निम्नानुसार मानव सरल तर्क है: एक मॉडल गुणात्मक माना जाएगा यदि और केवल अंक आर संभव अंक के करीब हैं ।

यदि हम एक ही "X" (P ₁ - R ₁ , P ₂ - R ₂ , आदि) के लिए इन बिंदुओं के बीच की दूरी का निर्माण करते हैं, तो हमें वह मिलता है जिसे रैखिक प्रतिगमन त्रुटियाँ कहा जाता है। हम रैखिक प्रतिगमन में विचलन प्राप्त करते हैं, और इन विचलन को यू ₁ , यू ₂ , यू ₃ ... यू _{एन कहा जाता है} । और ये त्रुटियां प्लस या माइनस में हो सकती हैं (हम कम या ज्यादा कर सकते हैं)। इन विचलन की तुलना करने के लिए, उनका विश्लेषण करने की आवश्यकता है। यहां एक बहुत बड़ी और सुंदर विधि का उपयोग किया जाता है - स्क्वेरिंग (स्क्वैरिंग "साइन को मारता है")। और गणितीय आंकड़ों में सभी विचलन के वर्गों के योग को आरएसएस (अवशिष्ट वर्गों का अवशेष) कहा जाता है। आरएसएस को बी ₁ से कम करके और बी को ₂ से कम करके, हम इष्टतम गुणांक प्राप्त करते हैं जो वास्तव में कम से कम स्क्वीज़ विधि से प्राप्त होते हैं।

हमने प्रतिगमन का निर्माण करने के बाद, इष्टतम गुणांक b ₁ और b _{2 का} निर्धारण किया, और हमारे पास प्रतिगमन समीकरण है, समस्याएं समाप्त नहीं होती हैं और समस्या विकसित होती रहती है। तथ्य यह है कि यदि प्रतिगमन स्वयं एक ग्राफ पर चिह्नित किया जाता है, तो हमारे पास मौजूद सभी मूल्य, साथ ही साथ "गेम" के औसत मूल्य, फिर चुकता त्रुटियों का योग स्पष्ट किया जा सकता है।



उसी समय, इसे चर एक्स के संबंध में प्रतिगमन भविष्यवाणी की त्रुटियों को प्रदर्शित करने के लिए उपयोगी माना जाता है। नीचे दिए गए आंकड़े देखें:



हमने किसी तरह का प्रतिगमन प्राप्त किया और वास्तविक डेटा को आकर्षित किया। हमने प्रत्येक वास्तविक मूल्य से प्रतिगमन तक की दूरी प्राप्त की। और हमने इसे एक्स के संगत मूल्यों के लिए शून्य मूल्य के सापेक्ष आकर्षित किया। और ऊपर की आकृति में हम एक बहुत खराब तस्वीर देखते हैं: त्रुटियां एक्स पर निर्भर करती हैं। कुछ सहसंबंध पर निर्भरता स्पष्ट रूप से व्यक्त की जाती है: "एक्स" के साथ हम आगे बढ़ते हैं, त्रुटियों का महत्व अधिक होता है । यह बहुत बुरा है। इस मामले में सहसंबंध की उपस्थिति इंगित करती है कि हमने गलती से प्रतिगमन मॉडल लिया था, और कुछ पैरामीटर थे जो हमने "सोचा नहीं था" या बस अनदेखी की थी। आखिरकार, यदि सभी चर को मॉडल के अंदर रखा जाता है, तो त्रुटियों को पूरी तरह से यादृच्छिक होना चाहिए और इस बात पर निर्भर नहीं होना चाहिए कि आपके कारक क्या हैं। त्रुटियां समान संभावना वितरण के साथ होनी चाहिए , अन्यथा आपकी भविष्यवाणियां त्रुटिपूर्ण होंगी। यदि आपने अपने मॉडल की त्रुटियों को विमान पर खींचा है और एक गोताखोर त्रिकोण से मुलाकात की है, तो सभी को खरोंच से शुरू करना और मॉडल को पूरी तरह से पुनरावृत्ति करना बेहतर है।

त्रुटियों का विश्लेषण करके, आप तुरंत यह भी समझ सकते हैं कि उन्होंने कहां चूक की है, उन्होंने किस प्रकार की त्रुटि की है। और यहाँ हम गॉस-मार्कोव प्रमेय का उल्लेख करने में असफल नहीं हो सकते हैं:



प्रमेय उन परिस्थितियों को निर्धारित करता है जिनके तहत कम से कम वर्गों की विधि द्वारा प्राप्त अनुमान रैखिक निष्पक्ष अनुमानों की कक्षा में सबसे अच्छा, सुसंगत, प्रभावी हैं।

निष्कर्ष निम्नानुसार निकाला जा सकता है: अब हम समझते हैं कि एक प्रतिगमन मॉडल के निर्माण का क्षेत्र, एक अर्थ में, गणित के दृष्टिकोण से परिणति है , क्योंकि यह एक ही बार में सभी संभावित वर्गों को मिला देता है, जो डेटा विश्लेषण में उपयोगी हो सकता है, उदाहरण के लिए:

• डेटा प्रतिनिधित्व विधियों के साथ रैखिक बीजगणित;
• अनुकूलन सिद्धांत और कार्यों के विश्लेषण के साधन के साथ गणितीय विश्लेषण;
• यादृच्छिक घटनाओं और मात्राओं का वर्णन करने और चर के बीच संबंधों को मॉडलिंग करने के माध्यम से संभाव्यता सिद्धांत।

---

सहकर्मी, मैं सभी को समान सुझाव देता हूं, पूरे वेबिनार को पढ़ने और देखने तक सीमित नहीं। लेख में लीनियर प्रोग्रामिंग, प्रतिगमन मॉडल में अनुकूलन और अन्य विवरण शामिल नहीं थे, जो आपके लिए उपयोगी हो सकते हैं।