मशीन लर्निंग के लिए गणितीय अनुशासन का रोडमैप, भाग 1

इसके बजाय अग्रदूत

मान लीजिए, शाम को एक गर्म कुर्सी पर बैठे, एक पागल विचार आपके साथ हुआ: "हम्म, मुझे यह क्यों नहीं पता है कि मॉडल के हाइपरपरमेटर्स को यादृच्छिक रूप से क्यों चुना गया है और यह सब क्यों काम करता है?"

यह एक फिसलन ढलान है - आपको लगता है कि शाम के एक जोड़े को "डीप लर्निंग" अध्याय के इत्मीनान से पढ़ना या विभिन्न MOOC से 5 मिनट की यूट्यूब क्लिप पर्याप्त हैं; वास्तव में, समझ बनाने के लिए, और इसके भ्रम के लिए, समय की एक सभ्य राशि की आवश्यकता होती है (ठीक है, निश्चित रूप से सबसे कट्टर के लिए छह महीने से कम नहीं); लेकिन सबसे दुखद बात यह है कि इस घटना से लाभ स्पष्ट नहीं है - सौभाग्य से (या दुर्भाग्य से), दुनिया को गणित के नियमों के अनुसार व्यवस्थित नहीं किया गया है, और यदि आप तीन बार भौतिकी के डॉक्टर हैं, तो कुछ मॉडल अभी भी बेहतर काम करेंगे केवल अगर आप इसे फेंक दें उनके पास अधिक पूर्व-संसाधित डेटा हैं या एक विशाल पहनावा का निर्माण करते हैं।

मैं आपको यह चेतावनी देना मेरा कर्तव्य मानता हूं कि यह एक वक्र मार्ग है, और यह संभव है कि गणित में निवेश हम जैसे ही भुगतान करेंगे, वैसे ही भुगतान न करें। लेकिन गणित अपने आप में दिलचस्प है, जो भी अनुप्रयोग। इसके अलावा, यदि आप रुचि रखते हैं, और हाइपरपरमेटर्स के साथ इस ब्लैक बॉक्स में क्या होता है, तो इसका मतलब है कि गणित सबसे अधिक आपके प्रति उदासीन नहीं है।

मेरी सिफारिशों के बारे में कुछ और: मुझे गणितीय साहित्य पसंद नहीं है, जो सूचकांकों, "तीन अण्डर के साथ a_ijk और एक संयुग्म टोपी" के साथ मोती है। मेरा मानना ​​है कि कठोर निष्कर्षों की तुलना में विचार अधिक महत्वपूर्ण हैं। उसी समय, विचारों को "हाथों" में नहीं खिसकना चाहिए, सब कुछ काफी सख्त होना चाहिए। मुझे बॉर्बकी और नॉट जैसी किताबें पसंद नहीं हैं। मेरी राय में, इन पुस्तकों का उद्देश्य किसी भी चीज़ के लिए है, लेकिन पढ़ने के लिए नहीं और विषय का अध्ययन करने के लिए नहीं। वे लिंक के रूप में और विश्वकोश के रूप में अच्छे हैं।

अंत में, मैं बर्ट्रेंड रसेल से कुछ उद्धृत करूंगा:

यूक्लिड ने प्लेटो द्वारा पेश की गई व्यावहारिक उपयोगिता का तिरस्कार किया। वे कहते हैं कि एक छात्र ने सबूतों को सुनने के बाद पूछा कि उसने ज्यामिति का अध्ययन करके क्या जीता है; तब यूक्लिड ने एक दास को बुलाया और कहा: "युवक को एक पैसा दे दो, क्योंकि वह जो भी पढ़ता है उससे उसे अवश्य लाभ होना चाहिए।"

अब मैं मुख्य भाग की ओर बढ़ूंगा।

आवश्यक शर्तें

1. मैं यह मानता हूं कि आप गणित में एक स्कूल पाठ्यक्रम में कम या ज्यादा उन्मुख हैं।
2. मुझे लगता है कि आप पूरी तरह से "आप" के साथ अंग्रेजी में नहीं हैं, क्योंकि बहुत सारे अच्छे साहित्य और पाठ्यक्रम उस भाषा में लिखे और सुनाए गए हैं। गणितीय अंग्रेजी सामान्य रूप से अंग्रेजी जितनी डरावनी नहीं है; यह मानक रूप से निर्मित वाक्यों के साथ एक सीमित शब्दावली है, समय के मिश्म के बिना, रंगों के दंगे के बिना, आदि।
3. मैं मानता हूं कि आपके पास एक रस्सी है जिसके साथ आप खुद को एक कुर्सी से बांध सकते हैं।

कठिनाई स्तर

यह कोई रहस्य नहीं है कि प्रत्येक गणितीय अनुशासन पर बहुत सारा साहित्य लिखा गया है, और कभी-कभी सही पुस्तक का सरल विकल्प भी एक समस्या बन जाता है। मैं साहित्य में जटिलता के कई स्तरों को उजागर करूँगा जो आप जानते थे कि कहाँ पर ध्यान लगाना है और कहाँ पर चढ़ना है (अभी तक) आवश्यक नहीं था (या आप और अधिक पूरी जानकारी के लिए क्या मोड़ सकते हैं)।

1. इसे लाएं - मुख्य वर्कहॉर्स; ये वे पुस्तकें हैं जिन्हें "होना चाहिए" कहा जाता है।
2. मुझे बहुत चोट लगी है - एक उच्च स्तर, आपको एक पक्षी की दृष्टि से स्तर 1 को देखने की अनुमति देता है, ज्ञान को व्यवस्थित करता है, ज्ञान के विभिन्न क्षेत्रों को जोड़ता है।
3. दुःस्वप्न - आत्मा में मजबूत, गणित और हाथी दांत के प्रेमियों के लिए मेहमत का स्तर।

रोड मैप

मैं वास्तव में विशिष्ट पाठ्यक्रमों को पास करूंगा।

विश्लेषण, वह पथरी है

उन्हें रूसी विश्वविद्यालयों में काफी दिलचस्प तरीके से पढ़ाया जाता है: उनमें से अधिकांश, पाठ्यक्रम के अंत के कई साल बाद, अस्पष्ट रूप से केवल कुछ अभिन्न अंग याद करते हैं, और कुछ और लगता है। और यह इस तथ्य के बावजूद कि विश्लेषण एक अनुशासन है, वास्तव में, सामान्य रूप से गणित में मौलिक में से एक है। एक नियम के रूप में, सिद्धांत से अभ्यास करने के लिए कोई पुल नहीं हैं, और यह कोर्स, एक उड़ान द्वीप की तरह, सिर में कहीं भी घूमता है, वास्तविक जीवन से पूरी तरह से तलाकशुदा है। न केवल गणित के क्षेत्र से, बल्कि, समस्याओं को हल करके इसे दूर करना आवश्यक है, लेकिन "वास्तविक जीवन" से कुछ भी वांछनीय है।

विश्लेषण से आपको क्या जानने की आवश्यकता है?

हमें जिन मुख्य चीजों की आवश्यकता होगी, वे हैं सीमा, निरंतरता, व्युत्पन्न, कई चरों के कार्य, ग्रेडिएंट, इंटीग्रल, वेरिएबल अपर लिमिट के साथ इंटीग्रल, मल्टीमेडिअल इंटीग्रल *।

साहित्य

इसे लाएँ : यहाँ सब कुछ कमोबेश मानक है - पिस्कुनोव / फिकेनथोल्ट्ज़ ।
मुझे बहुत चोट लगी है : ज़ोरिच, खंड 1 । मुझे यह किताब बहुत पसंद है, बहुत पसंद है; यह एक पाठ्यपुस्तक नहीं है, बल्कि सूत्रों में एक उपन्यास है, यूजीन वनगिन जैसा कुछ। दुर्भाग्य से, यह मानक विश्लेषण पाठ्यक्रमों की तुलना में अधिक जटिल है इस तथ्य के कारण कि इसमें कई चीजें अधिक आम तौर पर दी जाती हैं, और आपको इसकी आदत डालने की आवश्यकता है; लेकिन इस समानता के कारण कई असमान चीजें एक साथ जुड़ी हुई हैं (आधार पर समान सीमा देखें)।
दुःस्वप्न : ज़ोरिच वॉल्यूम 1 + वॉल्यूम 2, रुडिन "गणितीय विश्लेषण के मूल तत्व", लविवि "गणितीय विश्लेषण पर व्याख्यान", रामनान "ग्लोबल कैलकुलस"।

सामान्य तौर पर, यहां सारांश यह है: विश्लेषण साहित्य, यहां तक ​​कि रूसी में, पूर्ण है; पाठ्यपुस्तकें विशुद्ध रूप से गणितीय होती हैं। 2-3 पाठ्यपुस्तकों के स्तर के अतिरिक्त, मैं कई पाठ्यक्रमों की सलाह दे सकता हूं:

• stepik.org/course/716
• stepik.org/course/711

मैंने विश्लेषण पर एमआईपीटी व्याख्यान कक्ष से पाठ्यक्रमों को नहीं देखा, लेकिन पूर्णता के लिए मैं भी दे दूंगा:

• lectoriy.mipt.ru/course/Maths-Basic_Analysis
• lectoriy.mipt.ru/course/Maths-Basic_Analysis-2sem

अभ्यास

अभ्यास और अर्जित ज्ञान को लागू करना न केवल "वैकल्पिक" है, बल्कि कड़ाई से अनिवार्य है, अन्यथा पूरे सिद्धांत आपको एक मृत वजन के साथ लटकाएंगे, और आप इसे महसूस किए बिना भी जल्दी से नीचे डूब जाएंगे।

मैं निम्नलिखित विकल्पों पर विचार करने का प्रस्ताव करता हूं: डीमिडोविच, एमआईटी पाठ्यक्रमों से समस्या सेट (https://ocw.mit.edu/courses/mathematics/18-01sc-single-variable-calculus-fall-2010-index.htm)

रैखिक बीजगणित

डेटा विज्ञान के लिए और सामान्य रूप से विज्ञान के लिए दैनिक रोटी। दुर्भाग्य से, लोगों ने केवल रैखिक समीकरणों और उनकी प्रणालियों को हल करना सीख लिया है; डिग्री 2 और उससे अधिक के समीकरणों के लिए, सभी प्रकार के बहुत ही गैर-तुच्छ सिद्धांत (कम्यूटेटिव बीजगणित, बीजीय ज्यामिति और उनके जैसे अन्य) हैं। इसलिए, डेटा के विश्लेषण में, रैखिक मॉडल का मुख्य रूप से उपयोग किया जाता है (या सामान्यीकृत रैखिक मॉडल, जैसे कि लॉजिस्टिक रिग्रेशन, पेसेप्ट्रॉन आदि)।

रूसी में रैखिक बीजगणित पर कई पुस्तकें हैं। समस्या यह है कि वे या तो गणितज्ञों के लिए लिखे गए हैं, या उनमें बहुत से सूचकांक हैं (और पेड़ों के पीछे कोई जंगल नहीं है)। अक्सर विश्वविद्यालय के पाठ्यक्रमों में जोर जॉर्डन फॉर्म पर होता है; अन्य मानक रूपों का उल्लेख अक्सर नहीं किया जाता है; गॉस और बेवकूफ क्रेमर है, लेकिन शायद ही कभी एलयू के बारे में, एसवीडी के बारे में क्या होता है।

रैखिक बीजगणित से आपको क्या जानने की आवश्यकता है?

वेक्टर और वेक्टर अंतरिक्ष की अवधारणा; एक रैखिक ऑपरेटर की अवधारणा; ऑपरेटरों और मेट्रिसेस का संचार; मैट्रिक्स डिकम्पोजिशन (एलयू, एसवीडी कम से कम); eigenvectors और eigenvalues; ऑर्थोगोनल, एकात्मक ऑपरेटर; सममित और हेर्मिटियन ऑपरेटरों; द्विघात रूपों, मुख्य अक्षों में कमी।

साहित्य

इसे लाएं : रेखीय बीजगणित + उनकी पुस्तक पर गिल्बर्ट स्ट्रैंग का ओसीडब्ल्यू-एमआईटी पाठ्यक्रम ।
ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm

इस कोर्स के बारे में सबसे अच्छी बात "जटिल" और रैखिक बीजगणित के बेवकूफ प्रमेयों की कमी है, सभी प्रकार के दोहरे स्थान, पुस्तक में बड़ी संख्या में समस्याएं, एक अभ्यास-उन्मुख दृष्टिकोण ("यह क्या है," लेकिन "इसकी गणना कैसे करें")। रैखिक बीजगणित में अधिक व्याख्यात्मक पाठ्यक्रम मुझे अभी तक नहीं मिले हैं।

मुझे बहुत चोट लगी है : एक्सलर "रैखिक बीजगणित सही किया"; गेलफैंड "रैखिक बीजगणित पर व्याख्यान "; MIPT पाठ्यक्रम lectoriy.mipt.ru/course/LinearAlgebra ; Kostrikin "बीजगणित, भाग 2 का परिचय", Tyrtyshnikov "मैट्रिक्स विश्लेषण और रैखिक बीजगणित"।

इस स्तर की जटिलता से पुस्तकों और पाठ्यक्रमों के साथ समस्या यह है कि वे सैद्धांतिक रूप से उन्मुख हैं। लीनियर फ़ंक्शंस और ड्यूल स्पेस हैं, लेकिन सबजेंस पर कोई प्रोजेक्शन मैट्रिक्स नहीं है और आइजनवेल्यूज़ की गणना के लिए व्यावहारिक तरीके हैं। सबसे अधिक संभावना है, इस स्तर के पाठ्यक्रमों को मजबूत अभ्यास के साथ पूरक होना होगा; उदाहरण के लिए, रैखिक बीजगणित के संख्यात्मक तरीकों से।

अंतिम पुस्तक के बारे में अलग से। मेरी राय में, यह इस मायने में रैखिक बीजगणित पर सबसे सफल रूसी भाषा की पुस्तकों में से एक है कि यह अभ्यास के साथ बहुत तलाकशुदा नहीं है; एक ही समय में, इसमें "उन्नत" विषयों के सभी प्रकार शामिल हैं। कुछ हद तक, यह स्ट्रेंग के व्याख्यानों को पूरी तरह से बदल सकता है, लेकिन इसे "अपने हाथ भरने" के लिए सरल कार्यों के साथ पूरक होने की आवश्यकता है। इस पुस्तक में समस्याएं हैं, लेकिन वे काफी गंभीर हैं।

दुःस्वप्न : कोस्ट्रिंकिन-मैनिन "रैखिक बीजगणित और ज्यामिति", शैफ़ेविच-रेमीज़ोव "रैखिक बीजगणित और ज्यामिति"।

सामान्य तौर पर, रूसी में बहुत अच्छा साहित्य है, खासकर अंतिम स्तर पर, लेकिन यह अत्यधिक जटिलता से ग्रस्त है।

अभ्यास

पहले मामले में, अभ्यास की आवश्यकता है। एसवीडी जाओ - छवि संपीड़न जानें। मैट्रिक्स गुणन के माध्यम से जाओ - तेजी से फूरियर रूपांतरण, स्ट्रैस एल्गोरिथ्म सीखो; कई समस्याओं को हल करें (उदाहरण के लिए, कोस्ट्रिंक या प्रोस्क्युरकोव की समस्या पुस्तकों से ); अपने एलयू अपघटन, गाऊस लिखें। सबसे लगातार के लिए, मैं रैखिक बीजगणित के संख्यात्मक तरीकों पर अद्भुत पुस्तकें पेश कर सकता हूं, जैसे कि ट्रेफेथेन, बाऊ "NUMERICAL LINEAR ALGEBRA"; हॉर्न, जॉनसन "मैट्रिक्स विश्लेषण" । ये पुस्तकें आपके हाथों में "भराई" के लिए सबसे पहले उपयोगी होंगी; दूसरे, यह तुरंत स्पष्ट हो जाएगा कि जीवन के गद्य (मशीन सटीकता, विधियों की अस्थिरता, विरल मैट्रिस के साथ काम) के बारे में कई सैद्धांतिक तरीके चिप्स में टूट गए हैं।

असतत गणित

आधुनिक सीएस की एक और व्हेल। यहां हम मुख्य रूप से कॉम्बिनेटरिक्स और ग्राफ सिद्धांत की मूल बातें में रुचि रखते हैं।

आपको कॉम्बिनेटरिक्स और ग्राफ सिद्धांत से क्या जानने की आवश्यकता है?

द्विपद गुणांक, उनके स्पर्शोन्मुख; रेखांकन; पेड़; गहराई और चौड़ाई खोज; पुनरावृत्ति संबंध और उनके समाधान;

साहित्य

इसे लाएँ : एंडरसन जे। "असतत गणित और संयोजक"; Haggarti, Schlipf J., Whitesides S. "प्रोग्रामर्स के लिए गणित को असतत करें", Ore O. "रेखांकन और उनका अनुप्रयोग । "

पहले दो पुस्तकें - असतत गणित में उत्कृष्ट तालमेल, लगभग सभी सवालों को कवर करें जिन्हें आपको जानना आवश्यक है।

मुझे बहुत हर्ट करें : ग्राहम, नट, पटाशनिक "ठोस गणित", हरारी "ग्राफ थ्योरी", ओरे "ग्राफ थ्योरी"।

दुःस्वप्न : सचकोव "असतत गणित के संयोजन के तरीकों का परिचय", ओमेलेंको "ग्राफ थ्योरी"।

अभ्यास

एक नियम के रूप में, कॉम्बीनेटरिक्स पर पाठ्यपुस्तकों में बड़ी संख्या में समस्याएं शामिल हैं; उन्हें हल किया जाना चाहिए। वास्तव में, सभी कॉम्बिनेटरिक्स कुछ एकल सिद्धांत के बजाय विभिन्न समस्याओं को हल करने की कला है।