DataScienceGame 2018 के क्वालीफाइंग चरण में तीसरा स्थान

DataScienceGame2018 का क्वालीफाइंग चरण , जो कि कागल इनक्लास प्रारूप में हुआ था, हाल ही में समाप्त हुआ है। DataScienceGame एक वार्षिक आधार पर आयोजित एक अंतरराष्ट्रीय छात्र प्रतियोगिता है। हमारी टीम 100 से अधिक टीमों के बीच तीसरे स्थान पर रही और एक ही समय में अंतिम चरण में नहीं गई।

टीम बातचीत

बड़े कागज़ प्रतियोगिताओं में, लीडरबोर्ड ( टीम का एक विशिष्ट उदाहरण ) पर निकट नेतृत्व वाले लोगों के साथ आमतौर पर टीमों का गठन किया जाता है, और इसलिए विभिन्न शहरों और, अक्सर, विभिन्न देशों का प्रतिनिधित्व करते हैं। प्रतियोगिता की शर्तों के अनुसार, प्रत्येक टीम को एक शैक्षणिक संस्थान (हम MIPT का प्रतिनिधित्व करते हैं) से 4 लोगों को शामिल करना चाहिए। और इसका मतलब है कि अधिकांश प्रतिभागियों, यह मुझे लगता है, सभी चर्चाएं ऑफ़लाइन हुईं। उदाहरण के लिए, हमारे पास पूरी टीम हॉस्टल के एक तल पर रहती थी, इसलिए हम सिर्फ कमरे में किसी के साथ शाम को इकट्ठा होते थे।

हमारे पास कार्यों, योजना या टीम निर्माण का कोई अलगाव नहीं था। प्रतियोगिता की शुरुआत में, हम सिर्फ एक सर्कल में बैठे, चर्चा की कि हम भविष्य में क्या कर सकते हैं और क्या नहीं। कोड एक व्यक्ति द्वारा लिखा गया था, और उस समय बाकी लोगों ने बस देखा और सलाह दी। मुझे वास्तव में कोड लिखना पसंद नहीं है, इसलिए मुझे यह बातचीत पसंद आई, इस तथ्य के बावजूद कि यह स्पष्ट रूप से सर्वश्रेष्ठ नहीं था। लेकिन चूंकि योग्यता चरण विश्वविद्यालय में सत्र पर पूरी तरह से गिर गया, इसलिए टीम का हिस्सा काफी समय नहीं दे सका और मुझे अभी भी कोड खुद लिखना था।

कार्य विवरण

बीएनपी द्वारा प्रदान किए गए इतिहास के अनुसार, यह भविष्यवाणी करना आवश्यक था कि उपयोगकर्ता अगले सप्ताह कुछ सुरक्षा (इसिन) में रुचि रखेगा या नहीं। उसी समय, "ब्याज" को ट्रेडस्टैटस कॉलम द्वारा निर्धारित किया गया था, जिसमें लेनदेन की स्थिति का वर्णन किया गया था और इसमें निम्नलिखित विशिष्ट मूल्य थे:

1. लेन-देन पूरा हो गया (यानी, उपयोगकर्ता ने कागज खरीदा / बेचा)
2. उपयोगकर्ता ने कागज को देखा, लेकिन एक लेनदेन पूरा नहीं किया
3. उपयोगकर्ता भविष्य की खरीद / बिक्री के लिए अलग पेपर सेट करता है
4. तकनीकी कारणों से लेन-देन पूरा नहीं हुआ था।
5. पकड़े

इसलिए, यदि ट्रेडस्टैटस 1) -4 को मान लेता है, तो यह माना जाता है कि उपयोगकर्ता इस पेपर में रुचि रखता था और अन्य सभी मामलों में दिलचस्पी नहीं रखता था। उसी समय, पैराग्राफ 4) ने संकेत दिया कि इस लेन-देन वाली रेखा काल्पनिक थी, और सुविधाजनक रिपोर्टिंग के लिए बनाई गई थी। अर्थात्, प्रत्येक महीने के अंत में, प्रत्येक उपयोगकर्ता के पोर्टफोलियो की स्थिति की तुलना एक महीने पहले अपने राज्य से की जाती थी, और यदि, उदाहरण के लिए, उपयोगकर्ता किसी भी तरह पोर्टफोलियो में, एक निश्चित सुरक्षा की राशि 10k तक बढ़ जाती है, तो यह बहुत ही "खरीद" चिह्नित लाइन है। "और 10k के अंकित मूल्य के साथ। चिह्नित "होल्डिंग" में 0 का एक लक्ष्य चर था (उपयोगकर्ता को दिलचस्पी नहीं थी)।

यदि आप इसके बारे में सोचते हैं, तो आप समझ सकते हैं कि डेटासेट निम्नानुसार चल रहा था: उपयोगकर्ता बैंक की वेबसाइट पर सक्रिय थे - उन्होंने कागजात देखे / खरीदे, और ये सभी क्रियाएं डेटाबेस में दर्ज की गईं। उदाहरण के लिए, आईडी = 15 वाले उपयोगकर्ता ने भविष्य की खरीद के लिए आईडी = 7 के साथ पेपर स्थगित करने का फैसला किया। डेटाबेस में तुरंत लक्ष्य 1 के साथ संगत रेखा दिखाई दी (उपयोगकर्ता दिलचस्पी लेता है)

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	डील की स्थिति	अतिरिक्त क्षेत्र	लक्ष्य
15	7	क्रय	भविष्य के लिए अलग सेट करें	...	1

इसके अलावा, होल्डिंग और लक्ष्य 0 की स्थिति के साथ मासिक रिकॉर्ड इसमें जोड़े गए थे। उदाहरण के लिए, उपयोगकर्ता 15 ने किसी कारण से शेयरों की संख्या 93 बढ़ा दी (हो सकता है कि उसने इसे किसी अन्य साइट पर खरीदा हो), जबकि वह खुद बीएनपी वेबसाइट पर इस पेपर का उपयोग नहीं करता था बातचीत की (रुचि नहीं)।

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	डील की स्थिति	अतिरिक्त क्षेत्र	लक्ष्य
15	93	क्रय	पकड़े	...	0

लेकिन, जाहिर है, बीएनपी के लिए, इन समान होल्डिंग्स की भविष्यवाणी करने का कोई मतलब नहीं है, क्योंकि उन्हें आधार से स्पष्ट रूप से बहाल किया जा सकता है। इसका मतलब यह है कि एक अन्य प्रकार के टोकन हैं जो प्रशिक्षण तालिका में नहीं हैं, अर्थात्, किसी भी ट्रिपल "उपयोगकर्ता - कागज - लेनदेन का प्रकार" जो डेटाबेस में प्रकट नहीं हुआ था। अर्थात्, उपयोगकर्ता को एक निश्चित कार्रवाई में कोई दिलचस्पी नहीं थी, इसका मतलब है कि उसने बीएनपी सिस्टम में इसके साथ बातचीत नहीं की थी, इसलिए डेटाबेस में संबंधित लाइन दिखाई नहीं देती थी, जिसका अर्थ है कि इसका लक्ष्य 0. होना चाहिए और इसका मतलब है कि आपको खुद को प्रशिक्षित करने के लिए ऐसी लाइनें उत्पन्न करने की आवश्यकता है ( अनुभाग देखें "एक प्रशिक्षण नमूना संकलन")। यह सब कुछ भ्रम पैदा कर सकता है, क्योंकि कई प्रतिभागियों ने शायद सोचा था - एक डेटासेट है, शून्य हैं और जो हैं - आप भविष्यवाणी कर सकते हैं। लेकिन इतना सरल नहीं है।

तो, ट्रेन में लेन-देन के इतिहास के साथ एक तालिका है (यानी, "उपयोगकर्ता - कागज - लेनदेन प्रकार" बातचीत और उन पर कुछ अतिरिक्त जानकारी) और उपयोगकर्ता, स्टॉक, वैश्विक बाजार स्थितियों की विशेषताओं के साथ अन्य प्लेटों का एक गुच्छा। परीक्षण में केवल त्रैमासिक "उपयोगकर्ता - कागज - लेनदेन का प्रकार" हैं और प्रत्येक ऐसे ट्रिपल के लिए आपको यह अनुमान लगाने की आवश्यकता है कि क्या यह हर सप्ताह दिखाई देगा। उदाहरण के लिए, आपको यह अनुमान लगाने की आवश्यकता है कि क्या उपयोगकर्ता आईडी = 8 को लेनदेन आईडी "बिक्री" के साथ कार्रवाई आईडी = 46 में रुचि होगी?

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	लक्ष्य
8	46	बिक्री के लिए	?

डेटासेट बनाने की सुविधाएँ

चूंकि, जैसा कि मैंने पहले ही कहा था, असली बीएनपी डेटाबेस में "नॉन-होल्डिंग" जीरो के साथ कोई रेखा नहीं थी, आयोजकों ने किसी तरह खुद परीक्षण के लिए ऐसी लाइनें बनाईं। और जहां कृत्रिम डेटा पीढ़ी है, वहां अक्सर चेहरे और अन्य अंतर्निहित जानकारी होती है जो मॉडल / सुविधाओं को बदलने के बिना परिणाम में काफी सुधार कर सकती हैं। इस खंड में एक डेटासेट के निर्माण की कुछ विशेषताओं का वर्णन किया गया है, जिसे हम समझने में कामयाब रहे, लेकिन दुर्भाग्य से, किसी भी तरह से हमारी मदद नहीं की।

यदि आप परीक्षण तालिका से "उपयोगकर्ता - कागज - लेन-देन प्रकार" त्रिभुज को देखते हैं, तो यह नोटिस करना आसान है कि "खरीद" और "बिक्री" प्रकार के साथ लेन-देन की संख्या बिल्कुल समान है, और तालिका इस विशेषता से कड़ाई से हल होती है: पहले सभी खरीद, फिर सभी बिक्री। जाहिर है, यह एक दुर्घटना नहीं है और सवाल उठता है: यह कैसे हो सकता है? उदाहरण के लिए, इस तरह से: आयोजकों ने सप्ताह के लिए अपने डेटाबेस से सभी वास्तविक रिकॉर्ड ले लिए, जिनके लिए हमें एक भविष्यवाणी करने की आवश्यकता है (ऐसी रेखाओं का लक्ष्य 1 है), किसी तरह नई लाइनें उत्पन्न होती हैं (उनका लक्ष्य 0 है), जो ऊपर वर्णित लोगों के लिए मेल नहीं खाते हैं। इसलिए इसने एक तालिका निकाली जिसमें लेनदेन के प्रकार (खरीद / बिक्री) को यादृच्छिक क्रम में व्यवस्थित किया गया है:

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	लक्ष्य
8	46	बिक्री के लिए	1
2	6	क्रय	1
158	73	क्रय	1
3	29	बिक्री के लिए	0
67	9	क्रय	0
17	465	बिक्री के लिए	0

अब लेन-देन प्रकार "बिक्री" के साथ सभी प्रकारों के लिए खरीद प्रकार सेट करना संभव है, और यदि लक्ष्य एक था, तो यह शून्य हो जाएगा (ज्यादातर मामलों में, उपयोगकर्ता केवल एक स्थिति के साथ कुछ पेपर में रुचि रखता था: या तो खरीद या बिक्री)। इसका परिणाम निम्न तालिका में होगा:

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	लक्ष्य
8	46	क्रय	0
2	6	क्रय	1
158	73	क्रय	1
3	29	क्रय	0
67	9	क्रय	0
17	465	क्रय	0

अंतिम चरण बना हुआ है: ऐसा ही करने के लिए, लेकिन "बिक्री के लिए खरीद" की जगह और सही लक्ष्यों की व्यवस्था करें:

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	लक्ष्य
8	46	बिक्री के लिए	1
2	6	बिक्री के लिए	0
158	73	बिक्री के लिए	0
3	29	बिक्री के लिए	0
67	9	बिक्री के लिए	0
17	465	बिक्री के लिए	0

"खरीद" के साथ तालिका और "बिक्री" के साथ तालिका को बदलते हुए (यदि हम आयोजक थे) एक मेज जैसा कि हमें परीक्षण में दिया गया है। यह समझना आसान है कि इस तरह से निर्मित तालिकाओं के पहले और दूसरे पड़ाव में उपयोगकर्ता-पेपर जोड़े का एक ही क्रम है, जो वास्तव में परीक्षण तालिका में ऐसा हुआ था।

एक और विशेषता यह थी कि प्रशिक्षण डाटासेट में बहुत सारी लाइनें थीं जिसमें उपयोगकर्ता सूचकांक को कई बार दोहराया गया था, इस तथ्य के बावजूद कि डेटासेट किसी भी संकेत द्वारा सॉर्ट नहीं किया गया था:

उपयोगकर्ता आईडी	सुरक्षा आईडी	लेन-देन का प्रकार	लक्ष्य
8	46	बिक्री के लिए	?
8	152	बिक्री के लिए	?
8	73	क्रय	?

टीम के साथी ने इसे सामान्य माना, और उपयोगकर्ता के आईडी द्वारा डेटासेट को शुरुआत में सॉर्ट किया गया था, और आयोजकों ने इसे बुरी तरह से गड़बड़ कर दिया था (उदाहरण के लिए, अगर फेरबदल यादृच्छिक क्रमपरिवर्तन पर व्यवस्थित किया गया था और इस तरह के क्रमपरिवर्तन नहीं थे)। यह सुनिश्चित करने की कोशिश करते हुए, वह अलग-अलग पुस्तकालयों से चार फेरबदल के माध्यम से चला गया, लेकिन कहीं भी इस तरह के लगातार पुनरावृत्ति नहीं हुई। परीक्षण में यह सुविधा भी थी। एक विचार था कि आयोजकों ने शून्य उत्पन्न नहीं किया था, लेकिन बस पुराने जोड़े को ट्रेन से ले गए। जाँच करने के लिए, मैंने निम्न करने का फैसला किया: परीक्षण से प्रत्येक जोड़ी "उपयोगकर्ता - कागज" के लिए, ट्रेन से लाइन नंबर की तुलना करें जब यह जोड़ी पहली बार पहली बार मिली थी और इससे एक भूखंड बनाया था। अर्थात्, उदाहरण के लिए, हम परीक्षण में पहली पंक्ति को देखते हैं, इसके पास एक यूजर आईडी = 8 और आईडी = पेपर = 15. है। अब हम ऊपर से नीचे तक प्रशिक्षण तालिका से गुजरते हैं और देखते हैं कि यह जोड़ी पहली बार दिखाई दी है, उदाहरण के लिए, इसे रहने दें। 51 वीं पंक्ति। हमें एक तुलना मिली: परीक्षण में पहली पंक्ति 51 वीं ट्रेन में थी, इसलिए हम चार्ट पर निर्देशांक (1, 51) के साथ बिंदु की साजिश करते हैं। हम इसे पूरे परीक्षण के लिए करते हैं और निम्नलिखित ग्राफ प्राप्त करते हैं:



यह इस बात से देखा जा सकता है कि, मूल रूप से, अगर कोई युगल ट्रेन में पहले मिला था, तो परीक्षण तालिका में इसकी स्थिति अधिक होगी। लेकिन एक ही समय में, ग्राफ़ पर कुछ वृद्धि होती है (वास्तव में उनमें से बहुत सारे नहीं हैं, लेकिन स्क्रीन के रिज़ॉल्यूशन के कारण ऐसा लगता है कि एक ठोस त्रिकोण है)। इसके अलावा, उत्सर्जन की संख्या परीक्षण में इकाइयों की अपेक्षित संख्या के साथ मेल खाती है। बेशक, हमने उत्सर्जन को इकाइयों के रूप में चिह्नित करने और लीडरबोर्ड को भेजने की कोशिश की, लेकिन, दुर्भाग्य से, यह काम नहीं किया। लेकिन यह अभी भी मुझे लग रहा था कि किसी तरह का चेहरा हो सकता है (), और, टीम के कप्तान के रूप में, मैंने यह समझने में अधिक समय व्यतीत करने का सुझाव दिया कि यह कैसे हो सकता है, और हमारे पास अभी भी मॉडल को प्रशिक्षित करने और संकेत उत्पन्न करने का समय है। अस्वीकरण: हमने इस पर बहुत समय बिताया, लेकिन प्रतियोगिता के अंत से एक सप्ताह पहले आयोजकों ने मंच पर लिखा कि पिछले 6 महीनों के लिए केवल त्रिकोणीय को परीक्षण डेटासेट में लिया गया था, और सभी नहीं। ठीक है, अगर आप ऊपर वर्णित ऑपरेशन करते हैं, लेकिन पिछले 6 महीनों से, और सिर्फ डाटासेट के लिए नहीं, तो आपको एक फ्लैट नीरसता मिलती है:

और इसका मतलब है कि यहाँ कोई चेहरा नहीं है और न ही हो सकता है।

प्रशिक्षण की स्थापना की

चूंकि परीक्षण में आपको एक सप्ताह के लिए त्रिकोणीय के लिए एक भविष्यवाणी करने की आवश्यकता होती है, इसलिए हम प्रशिक्षण डेटासेट को सप्ताह में विभाजित करेंगे (उसी समय, प्रत्येक सप्ताह औसतन 20k त्रिकोणीय "उपयोगकर्ता - कागज - लेनदेन का प्रकार" होता है)। अब किसी भी तीन के लिए, हम कह सकते हैं कि वह किसी विशेष सप्ताह में मिली या नहीं। उसी समय, हमारे पास पहले से ही सकारात्मक त्रिकोणीय हैं (ट्रेन की तालिका में इस सप्ताह से सभी प्रविष्टियां हैं), और नकारात्मक लोगों को किसी तरह उत्पन्न करने की आवश्यकता है। ऐसा करने के लिए कई विकल्प हैं। उदाहरण के लिए, आप उन सभी त्रिभुजों को छाँट सकते हैं जो प्रशिक्षण डाटासेट में एक विशेष सप्ताह के लिए नहीं थे। यह स्पष्ट है कि तब नमूना अत्यधिक असंतुलित होगा, और यह खराब है। आप पहले उपयोगकर्ताओं को डेटासेट में उनके होने की आवृत्ति के अनुपात में उत्पन्न कर सकते हैं, और फिर किसी तरह उनके लिए प्रचार जोड़ सकते हैं। लेकिन इस दृष्टिकोण के साथ, लाइनों का एक गुच्छा होगा, जिसके लिए उचित आँकड़ों की गणना नहीं की जा सकती है, जो खराब भी है। जैसा कि हमने किया था: हमने सभी प्रकार के त्रिभुजों को लिया, जो पहले ट्रेन में सामना कर चुके थे, इसे कॉपी किया, इसके विपरीत खरीदने / बेचने की जगह ली, और इन दो तालिकाओं को मिलाया। यह स्पष्ट है कि डुप्लिकेट इस तरह से हो सकता था (उदाहरण के लिए, यदि उपयोगकर्ता ने कभी स्टॉक खरीदा था और बेचा था), लेकिन उनमें से कुछ थे, और हटाए जाने के बाद 500k अद्वितीय त्रिकोणीय की एक तालिका प्राप्त की गई थी। बस इतना ही, अब प्रत्येक सप्ताह के लिए प्रत्येक ऐसे ट्रिपल के लिए आप कह सकते हैं कि वह मिले या नहीं (और कितनी बार?)।

चूंकि सार में हम समय श्रृंखला के साथ काम कर रहे हैं - एक उपयोगकर्ता प्रत्येक सप्ताह कई बार एक विशिष्ट विज्ञापन को देखता है, हम समय श्रृंखला के लिए शास्त्रीय तरीके से क्लासिफायर के प्रशिक्षण के लिए एक तालिका का निर्माण करेंगे। अर्थात्, हम ट्रेन से अंतिम उपलब्ध सप्ताह लेंगे, देखें कि इस सप्ताह हर तीन "ग्राहक - आईएनएन - खरीदे या बेचे" गए। यह एक लक्ष्य होगा। और हम पिछले 6 हफ्तों (उदाहरण के लिए "संकेत" अनुभाग में) के बारे में विभिन्न आंकड़ों को सुविधाओं के रूप में गिनेंगे। अब चलो पिछले सप्ताह के अस्तित्व के बारे में भूल जाते हैं और ऐसा ही करते हैं, लेकिन तपस्या सप्ताह के लिए और तालिकाओं को संक्षिप्त करते हैं। यह कई बार किया जा सकता है, जिससे "ऊँचाई" ट्रेन बढ़ जाती है, लेकिन साथ ही, जिस अंतराल पर हम आँकड़ों पर विचार करते हैं वह स्वाभाविक रूप से कम हो जाता है। हमने इस ऑपरेशन को 10 बार दोहराया, क्योंकि अगर हमने अधिक किया, तो नए साल की छुट्टी और संबंधित समस्याओं को लक्षित किया जाएगा, जो मॉडल की अंतिम गुणवत्ता को खराब करेगा। व्याख्यात्मक तस्वीर:



समय श्रृंखला और समय श्रृंखला पर मान्यता के बारे में अधिक जानकारी यहां पाई जा सकती है ।

सबूत

जैसा कि मैंने कहा, कई सारणियां थीं जो किसी भी तरह उपयोगकर्ता, स्टॉक या वैश्विक बाजार की स्थितियों (प्रमुख मुद्राओं और कुछ संकेतक) की विशेषता थीं। लेकिन उन सभी ने लगभग गुणवत्ता में सुधार नहीं किया, और मुख्य संकेत जोड़े के लिए गणना किए गए आंकड़े थे "ग्राहक - आईएनएन" और ट्रिपल "ग्राहक - आइसिन - खरीदें या बेचें", उदाहरण के लिए, जैसे:

• पिछले 1, 2, 5, 20, 100 सप्ताह में एक जोड़े / तीन को कितनी बार मिले?
• डेटासेट में जोड़े / त्रिगुणों की बैठकों के बीच समय अंतराल पर आंकड़े (मतलब, एसटीडी, अधिकतम, न्यूनतम)
• पहले / अंतिम समय में दूरी एक जोड़े / तीन से मुलाकात की
• एक जोड़ी / ट्रिपल के लिए प्रत्येक ट्रेडस्टैटस मान का अनुपात
• सप्ताह में कितनी बार युगल / ट्रिपल होता है (मीन, एसटीडी, अधिकतम, न्यूनतम)

इसके अलावा, प्रतियोगिता के अंतिम दिन मैंने फॉर्म पर पढ़ा कि स्टॉक बेचने के लिए, आपको पहले इसे खरीदना होगा। यह ज्ञान आपको कई और उपयोगी संकेतों के साथ आने की अनुमति देता है, लेकिन, किसी कारण से, मेरे लिए यह स्पष्ट नहीं था।

कोड में, यह सब लंबाई में 200 लाइनों के एक समारोह द्वारा व्यक्त किया गया था, जिसने ट्रेन के दस टुकड़ों में से प्रत्येक के लिए समान संकेत उत्पन्न किए थे (उस भाग के लिए जहां लक्ष्य, उदाहरण के लिए, सप्ताह 7, हमें 8 वीं और 9 वीं के लिए जानकारी का उपयोग नहीं करना चाहिए)। अतिरिक्त तालिकाओं को ध्यान में रखते हुए, लगभग 300 संकेत भर्ती किए गए थे। जैसा कि मैंने पहले ही कहा था, हमने 500k अनूठे त्रिभुज बनाए और पिछले 10 हफ्तों को लक्ष्य के रूप में लिया, इसलिए "उच्च" प्रशिक्षण तालिका 500k * 10 = 5kk थी।

दूसरे स्थान के निर्णय में कुछ और बयानों का वर्णन किया गया था । लोगों ने एक उपयोगकर्ता / कागज तालिका का निर्माण किया, जहां प्रत्येक कक्ष में एक इकाई थी यदि उपयोगकर्ता कभी भी इस कागज और शून्य में रुचि रखता था। इस तालिका में उपयोगकर्ताओं के बीच कॉशन दूरी की गणना करके, आप उपयोगकर्ताओं के बीच अभिसरण प्राप्त कर सकते हैं। यदि आप पीसीए को परिणामी समानता तालिका पर लागू करते हैं, तो आपको उन सुविधाओं का एक सेट मिलता है जो उपयोगकर्ता को किसी तरह से चिह्नित करते हैं।

मॉडल या हज़ारों के लिए लड़ाई

यह ध्यान देने योग्य है कि लगभग तीन हफ्तों तक कोई भी बीएनपी से बेसलाइन को नहीं हरा सकता था, जिसकी लीडरबोर्ड पर 0.794 (आरओसी एयूसी) की गति थी, और इस तथ्य के बावजूद कि "बस पहले से मिले जोड़े की संख्या गिनने का निर्णय" लीडरबोर्ड पर 0.71 दिया गया था, और कुछ मशीन लर्निंग के उपयोग के बिना प्रतिभागियों को सभी 0.74 मिले।

लेकिन हमने प्रतियोगिता के अंतिम दिन (जिसमें सत्र के अंत में संयोगवश संयोग आया) मशीन लर्निंग का इस्तेमाल किया, हमने तय किया कि अगर आप जानते हैं कि मेरा क्या मतलब है और विभिन्न मॉडलों के एक बड़े मिश्रण को विभिन्न हफ्तों के विभिन्न संकेतों के साथ प्रशिक्षित किया जाता है। ट्रेन। जैसा कि मैंने पहले ही कहा था, हमारे प्रशिक्षण नमूने में 1.5k लाइनें शामिल थीं, जिनमें से एक लक्ष्य 150k के बारे में था। परीक्षण का आकार 400k था, जबकि इकाइयों की अनुमानित संख्या 20k थी (औसतन, वास्तव में, बहुत सारे अद्वितीय परीक्षण हैं)। यही है, परीक्षण में इकाइयों का अनुपात ट्रेन की तुलना में काफी अधिक था। इसलिए, हमारे सभी मॉडलों में, हमने scale_pos_weight पैरामीटर को समायोजित किया, जो कक्षाओं पर भार डालता है। इस पैरामीटर के बारे में अधिक जानकारी पिछले साल के DataScienceGame के सर्वश्रेष्ठ समाधान के विश्लेषण में पाई जा सकती है। हमारे मॉडल की भविष्यवाणियों का सहसंबंध मैट्रिक्स में दिखाया गया है:



जैसा कि आप देख सकते हैं, हमारे पास काफी अलग मॉडल थे, जिसने हमें लीडरबोर्ड पर 0.80204 की गति प्राप्त करने की अनुमति दी।

हम अंतिम चरण के लिए फ्रांस क्यों नहीं जाते हैं

परिणामस्वरूप, हमने एक अच्छा परिणाम दिखाया और लीडरबोर्ड कीलक पर तीसरा स्थान लिया। लेकिन आयोजकों ने अंतिम रूप से चयन के लिए निम्नलिखित नियम निर्धारित किए:

1. 20 से अधिक सर्वश्रेष्ठ टीमें नहीं
2. देश की 5 सर्वश्रेष्ठ टीमों से अधिक नहीं
3. एक शैक्षिक संस्थान से 1 से अधिक टीम नहीं

और सब कुछ ठीक होगा अगर 0.80272 की गति के साथ मास्को इंस्टीट्यूट ऑफ फिजिक्स एंड टेक्नोलॉजी की एक अन्य टीम दूसरे स्थान पर नहीं होगी। यानी हम केवल 0.00068 से पीछे हैं। यह शर्म की बात है, लेकिन कुछ भी नहीं किया जाना है। सबसे अधिक संभावना है, आयोजकों ने ऐसे नियम बनाए ताकि एक विश्वविद्यालय के लोग किसी भी तरह से एक-दूसरे की मदद न करें, लेकिन हमारे मामले में, हमें पड़ोसी टीम के बारे में कुछ भी पता नहीं था और किसी भी तरह से संपर्क नहीं किया।

परिणाम

इस साल सितंबर में पेरिस में, रूस की 5 टीमें, यूक्रेन की एक और जर्मनी और फ़िनलैंड की दो टीमें, जिनमें रूसी-भाषी छात्र शामिल हैं, पहले स्थान के लिए प्रतिस्पर्धा करेंगे। रुब-समुदाय की कुल 8 टीमें, जो एक बार फिर से डेटाटेन्स के खंड-खंड के प्रभुत्व को साबित करती हैं। और मुझे शारगा में स्थानांतरित किया जा रहा है , मैं खुद को प्रशिक्षित करता हूं और काम करता हूं, ताकि अगले साल मैं अभी भी योग्यता चरण को पार कर सकूं।