मशीन लर्निंग एल्गोरिदम होना चाहिए

हबर, नमस्ते।

यह पोस्ट सामान्य मशीन लर्निंग एल्गोरिदम का एक संक्षिप्त अवलोकन है। प्रत्येक एक संक्षिप्त विवरण, गाइड और उपयोगी लिंक के साथ है।

प्रधान घटक विधि (पीसीए) / एसवीडी

यह बुनियादी मशीन लर्निंग एल्गोरिदम में से एक है। आपको कम से कम जानकारी को खोते हुए, डेटा की गतिशीलता को कम करने की अनुमति देता है। इसका उपयोग कई क्षेत्रों में किया जाता है, जैसे कि ऑब्जेक्ट रिकॉग्निशन, कंप्यूटर विज़न, डेटा कम्प्रेशन, इत्यादि मुख्य घटकों की गणना स्रोत डेटा के कोविरियन मैट्रिक्स के आइगेनवेक्टर और ईजेनवेल्यूज़ की गणना करने के लिए या डेटा मैट्रिक्स के एकवचन विघटन के लिए कम कर देता है।



एसवीडी आदेशित घटकों की गणना करने का एक तरीका है।

उपयोगी लिंक:

• scipy.linalg.svd
• sklearn.decomposition.pca

परिचयात्मक गाइड:

• बुनियादी घटक विश्लेषण ट्यूटोरियल

कम से कम वर्ग विधि

वांछित वर्गों से कुछ कार्यों के विचलन के वर्गों के योग को न्यूनतम करने के आधार पर विभिन्न वर्गों को हल करने के लिए कम से कम वर्गों की विधि एक गणितीय विधि है। इसका उपयोग समीकरणों की अधिकता वाली प्रणालियों के "हल" करने के लिए किया जा सकता है (जब समीकरणों की संख्या अज्ञात की संख्या से अधिक हो जाती है), समीकरणों के सामान्य (पुनर्निर्धारित नहीं) nonlinear प्रणालियों के मामले में एक समाधान खोजने के लिए, और एक फ़ंक्शन के बिंदु मानों को अनुमानित करने के लिए भी।



सरल घटता / प्रतिगमन फिट करने के लिए इस एल्गोरिथ्म का उपयोग करें।

उपयोगी लिंक:

• numpy.linalg.lstsq
• Numpy
• numpy.polyfit

परिचयात्मक गाइड:

• स्टैनफोर्ड रैखिक प्रतिगमन (पीडीएफ)

सीमित रेखीय प्रतिगमन

कम से कम वर्गों की विधि आउटलेर्स, झूठे क्षेत्रों आदि को भ्रमित कर सकती है। डेटा सेट में हमने जो लाइन डाली है, उसके विचरण को कम करने के लिए बाधाओं की आवश्यकता होती है। सही समाधान एक रैखिक प्रतिगमन मॉडल को फिट करना है जो सुनिश्चित करता है कि भार "बुरी तरह से" व्यवहार नहीं करता है। मॉडल में मानक L1 (LASSO) या L2 (रिज रिग्रेशन) या दोनों (लोचदार प्रतिगमन) हो सकते हैं।



ओवरराइडिंग से बचने के लिए विवश प्रतिगमन लाइनों से मेल खाने के लिए इस एल्गोरिथ्म का उपयोग करें।

उपयोगी लिंक:

• सामान्यीकृत रैखिक मॉडल

परिचयात्मक मार्गदर्शिकाएँ:

• रिज रिग्रेशन
• LASSO प्रतिगमन

K- साधन विधि

हर किसी का पसंदीदा अनियंत्रित क्लस्टरिंग एल्गोरिदम। वैक्टर के रूप में एक डेटासेट को देखते हुए, हम उनके बीच की दूरी के आधार पर बिंदुओं के समूह बना सकते हैं। यह मशीन लर्निंग एल्गोरिदम में से एक है जो क्रमिक रूप से समूहों के केंद्रों को स्थानांतरित करता है और फिर क्लस्टर के प्रत्येक केंद्र के साथ बिंदुओं को समूहित करता है। इनपुट समूहों के निर्माण की संख्या और पुनरावृत्तियों की संख्या है।



उपयोगी लिंक:

• sklearn.cluster.KMeans

परिचयात्मक मार्गदर्शिकाएँ:

• क्लस्टरिंग वीडियो
• क्लस्टरिंग का परिचय

लॉजिस्टिक रिग्रेशन

लॉजिस्टिक रिग्रेशन गैर-लीनियरिटी (मुख्य रूप से सिग्मॉइड फ़ंक्शन या टैन्ह का उपयोग करके) वजन घटाने के बाद रैखिक प्रतिगमन द्वारा सीमित है, इसलिए, आउटपुट सीमा +/- वर्गों (जो एक सिग्मॉयड के मामले में 1 और 0 है) के करीब है। क्रॉस-एन्ट्रापी लॉस फ़ंक्शंस को ढाल डिसेंट विधि का उपयोग करके अनुकूलित किया जाता है।

शुरुआती के लिए ध्यान दें: लॉजिस्टिक प्रतिगमन का उपयोग वर्गीकरण के लिए किया जाता है, प्रतिगमन के लिए नहीं। सामान्य तौर पर, यह एकल-परत तंत्रिका नेटवर्क के समान है। ढाल वंश या L-BFGS जैसे अनुकूलन तकनीकों का उपयोग करके प्रशिक्षित। एनएलपी डेवलपर्स अक्सर इसका उपयोग करते हैं, इसे "अधिकतम एन्ट्रापी वर्गीकरण" कहते हैं।



सरल लेकिन बहुत "मजबूत" क्लासिफायर ट्रेन करने के लिए LR का उपयोग करें।

उपयोगी लिंक:

• sklearn.linear_model.LogisticRegression

परिचयात्मक गाइड:

• लॉजिस्टिक रिग्रेशन | वर्गीकरण

एसवीएम (समर्थन वेक्टर विधि)

एसवीएम एक रैखिक मॉडल है जैसे रैखिक / लॉजिस्टिक प्रतिगमन। अंतर यह है कि इसमें मार्जिन-आधारित हानि फ़ंक्शन है। आप L-BFGS या SGD जैसे अनुकूलन तरीकों का उपयोग करके नुकसान फ़ंक्शन का अनुकूलन कर सकते हैं।



एक अनोखी बात जो SVM कर सकता है वह है क्लास क्लासिफायरियर्स।

एसवीएम का उपयोग क्लासीफायर (यहां तक ​​कि regressors) को प्रशिक्षित करने के लिए किया जा सकता है।

उपयोगी लिंक:

• sklearn.svm.SVC

परिचयात्मक मार्गदर्शिकाएँ:

• वेक्टर मशीन का समर्थन करें
• sklearn.linear_model.SGDClassifier

प्रत्यक्ष वितरण तंत्रिका नेटवर्क

मूल रूप से, ये लॉजिस्टिक रिग्रेशन के बहुस्तरीय क्लासीफायर हैं। वज़न की कई परतें गैर-रैखिकता (सिग्मॉइड, टैन्ह, रीलु + सॉफ्टमैक्स और कूल न्यू सेलु) द्वारा अलग की जाती हैं। उन्हें बहुपरत पर्सेप्ट्रोन्स भी कहा जाता है। एफएफएनएन का उपयोग ऑटो-एनकोडर के रूप में वर्गीकरण और "शिक्षक रहित प्रशिक्षण" के लिए किया जा सकता है।



एफएफएनएन का उपयोग क्लासिफायर को प्रशिक्षित करने या ऑटो-एनकोडर के रूप में निकालने के लिए किया जा सकता है।

उपयोगी लिंक:

• sklearn.neural_network.MLPClassifier
• sklearn.neural_network.MLPRegressor

परिचयात्मक मार्गदर्शिकाएँ:

• FFNN
• ऑटो एनकोडर

संवादी तंत्रिका नेटवर्क

मशीन लर्निंग के क्षेत्र में लगभग सभी आधुनिक उपलब्धियां, दृढ़ तंत्रिका नेटवर्क का उपयोग करके हासिल की गईं। उनका उपयोग छवियों को वर्गीकृत करने, वस्तुओं का पता लगाने, या यहां तक ​​कि खंड छवियों के लिए किया जाता है। 90 के दशक की शुरुआत में जान लेकुं द्वारा आविष्कार किए गए, नेटवर्कों में ऐसी अवशिष्ट परतें होती हैं जो वस्तुओं के पदानुक्रमित अर्क के रूप में कार्य करती हैं। आप उन्हें पाठ के साथ काम करने के लिए उपयोग कर सकते हैं (और ग्राफिक्स के साथ काम करने के लिए भी)।



उपयोगी लिंक:

• डीप लर्निंग के साथ GPU इंटरएक्टिव लर्निंग सिस्टम
• टॉर्चवी: पाइरॉच विजन लाइब्रेरी चैंकरसीवी की नकल करता है
• ChainerCV: गहरी सीखने और कंप्यूटर दृष्टि के लिए पुस्तकालय
• करेस डॉक्यूमेंटेशन

परिचयात्मक मार्गदर्शिकाएँ:

• दृश्य मान्यता के लिए सी.एन.एन.
• सीएनएन बिगिनर गाइड

आवर्तक तंत्रिका नेटवर्क (RNN)

आरएनएन मॉडल सीक्वेंस को उसी समय के वजन पर लागू करता है जो एग्रीगेटर की स्थिति पर समय टी और समय टी पर इनपुट करता है। शुद्ध आरएनएन अब शायद ही कभी उपयोग किए जाते हैं, लेकिन इसके समकक्षों, जैसे एलएसटीएम और जीआरयू, अधिकांश अनुक्रम मॉडलिंग कार्यों में सबसे उन्नत हैं। LSTM, जिसका उपयोग शुद्ध RNN में एक साधारण घने परत के बजाय किया जाता है।



पाठ वर्गीकरण, मशीन अनुवाद, भाषा मॉडलिंग के किसी भी कार्य के लिए RNN का उपयोग करें।

उपयोगी लिंक:

• मॉडल और उदाहरण TensorFlow के साथ बनाया गया
• PyTorch में पाठ वर्गीकरण बेंचमार्क
• ओपन सोर्स ट्रांसलेशन सिस्टम

परिचयात्मक मार्गदर्शिकाएँ:

• स्टैनफोर्ड से लैंग्वेज प्रोसेसिंग के लिए डीप लर्निंग
• आरएनएन लेख
• LSTM को समझना

सशर्त यादृच्छिक फ़ील्ड (CRF)

वे RNN की तरह अनुक्रम मॉडलिंग के लिए उपयोग किए जाते हैं, और RNN के साथ संयोजन में उपयोग किया जा सकता है। उनका उपयोग अन्य संरचित पूर्वानुमान कार्यों में भी किया जा सकता है, उदाहरण के लिए, छवि विभाजन में। CRF अनुक्रम के प्रत्येक तत्व को कहते हैं (कहते हैं, एक वाक्य) ताकि पड़ोसी अनुक्रम में घटक के लेबल को प्रभावित करें, और सभी लेबल जो एक दूसरे से स्वतंत्र न हों।

अनुक्रम जोड़ने के लिए CRF का उपयोग करें (पाठ, छवि, समय श्रृंखला, डीएनए, आदि में)।

उपयोगी लिंक:

• sklearn-crfsuite

परिचयात्मक मार्गदर्शिकाएँ:

• सशर्त यादृच्छिक फ़ील्ड्स का परिचय
• सशर्त यादृच्छिक क्षेत्रों के लिए YouTube प्लेलिस्ट

निर्णय पेड़ और यादृच्छिक वन

सबसे आम मशीन लर्निंग एल्गोरिदम में से एक। पूर्वानुमान मॉडल के लिए सांख्यिकी और डेटा विश्लेषण में उपयोग किया जाता है। संरचना "पत्तियां" और "शाखाएं" हैं। जिन विशेषताओं पर उद्देश्य फ़ंक्शन निर्भर करता है वे निर्णय ट्री की "शाखाओं" पर दर्ज किए जाते हैं, उद्देश्य फ़ंक्शन के मान "पत्तियों" में लिखे जाते हैं, और जो मामले अलग-अलग नोड्स में दर्ज किए जाते हैं, वे विशेषताएँ दर्ज की जाती हैं।

एक नए मामले को वर्गीकृत करने के लिए, आपको पेड़ को पत्ती के नीचे जाना होगा और संबंधित मूल्य जारी करना होगा। लक्ष्य एक ऐसा मॉडल बनाना है जो कई इनपुट चर के आधार पर लक्ष्य चर के मूल्य की भविष्यवाणी करता है।

उपयोगी लिंक:

• sklearn.ensemble.RandomForestClassifier
• sklearn.ensemble.GradientBoostingClassifier
• XGBoost प्रलेखन
• कैटबॉस्ट प्रलेखन

परिचयात्मक मार्गदर्शिकाएँ:

• निर्णय पेड़ों का परिचय
• यादृच्छिक जंगलों को समझना: सिद्धांत से अभ्यास तक
• पायथन में XGBoost

आप Habré और Telegram चैनल Neuron पर मेरे खाते की सदस्यता लेकर मशीन सीखने और डेटा विज्ञान के बारे में अधिक जानकारी प्राप्त करेंगे। भविष्य के लेखों को न छोड़ें।

सभी ज्ञान!