🎴 🏫 ♐️ iMaterialist फर्नीचर चैलेंज या कुर्सियों के 50 रंगों 🚈 👩🏽‍⚕️ 🏂🏾

हाल ही में, iMaterialist चैलेंज (फर्नीचर) प्रतियोगिता कागल में समाप्त हुई, जिसमें कार्य 128 प्रकार के फर्नीचर और घरेलू सामान (तथाकथित ठीक-ठीक वर्गीकरण, जहां कक्षाएं एक-दूसरे के बहुत करीब हैं) में छवियों को वर्गीकृत करना था।

इस लेख में मैं उस दृष्टिकोण का वर्णन करूंगा , जिसने हमें m0rtido के साथ तीसरा स्थान दिलाया , लेकिन इस बिंदु पर जाने से पहले, मैंने इस समस्या को हल करने के लिए अपने सिर में प्राकृतिक तंत्रिका नेटवर्क का उपयोग करने का प्रस्ताव रखा और नीचे की तस्वीरों को कुर्सियों को तीन वर्गों में विभाजित किया।

वास्तविक कक्षाएं

क्या आपने सही अनुमान लगाया है? मैं भी नहीं।

लेकिन रुकिए, पहले चीजें पहले।

समस्या का बयान

प्रतियोगिता में, हमें एक डेटा सेट दिया गया जिसमें 128 घरेलू साधारण वस्तुओं को प्रस्तुत किया गया, जैसे कि कुर्सियों, टीवी, पैन और तकिए को एनीमे पात्रों के रूप में।
डेटासेट के प्रशिक्षण भाग में ~ 190 हजार छवियां शामिल थीं (सटीक संख्या बताना मुश्किल है क्योंकि प्रतिभागियों को केवल डाउनलोड URL का एक सेट प्रदान किया गया था, जिनमें से कुछ, निश्चित रूप से, काम नहीं किया था), और कक्षाओं का वितरण वर्दी से बहुत दूर था (नीचे क्लिक करने योग्य छवि देखें) ।

परीक्षण डेटासेट को 12800 चित्रों द्वारा दर्शाया गया था, और यह पूरी तरह से संतुलित था: प्रत्येक वर्ग के लिए 100 चित्र थे। एक सत्यापन डेटासेट भी जारी किया गया था, जिसमें कक्षाओं का एक संतुलित वितरण भी था और परीक्षण एक के आकार का आधा था।

कार्य मूल्यांकन मीट्रिक था

त ् र ु ट ि_{r} a t e = 1 - स ट ी क त ा

$त्रुटि \ _rate = 1 - सटीकता$ ।

हमने कैसे तय किया?

सबसे पहले, हमने डेटा डाउनलोड किया और अपनी आँखों से एक छोटे से हिस्से को देखा। कई चित्रों के बजाय, 1x1 छवि या त्रुटि वाले प्लेसहोल्डर को डाउनलोड किया गया था। हमने तुरंत स्क्रिप्ट के साथ ऐसी छवियां हटा दीं।

सीखने का स्थानांतरण

यह स्पष्ट था कि उपलब्ध छवियों और समय सीमाओं के साथ, इस डेटासेट पर खरोंच से तंत्रिका नेटवर्क को प्रशिक्षित करना एक अच्छा विचार नहीं है। इसके बजाय, हमने ट्रांसफर लर्निंग दृष्टिकोण का उपयोग किया, जिसका विचार इस प्रकार है: एक कार्य पर प्रशिक्षित नेटवर्क के वजन का उपयोग पूरी तरह से अलग डेटा सेट के लिए किया जा सकता है और सभ्य गुणवत्ता प्राप्त कर सकता है, या यहां तक कि खरोंच से सीखने की तुलना में सटीकता में वृद्धि भी हो सकती है।

यह कैसे काम करता है? गहरी तंत्रिका नेटवर्क में छिपी हुई परतें फीचर एक्सट्रैक्टर्स के रूप में कार्य करती हैं, वे विशेषताएं जो वर्गीकरण के लिए सीधे ऊपरी परतों द्वारा उपयोग की जाती हैं।

हमने इसका फायदा उठाया कि पहले ImageNet पर प्रशिक्षित गहन सीएनएन की एक श्रृंखला को पूरा करके। इन उद्देश्यों के लिए, हमने केरस और इसके चिड़ियाघर के मॉडल का उपयोग किया, जहां निम्न कोड तैयार वास्तुकला को लोड करने के लिए पर्याप्त था:

base_model = densenet.DenseNet201(weights='imagenet', include_top=False, input_shape=(img_width, img_height, 3), pooling='avg')

उसके बाद, हमने नेटवर्क से तथाकथित अड़चन संकेत (अंतिम कंफेशनल लेयर से बाहर निकलने की विशेषताएं) निकाले और उनमें से शीर्ष पर ड्रॉपआउट के साथ सॉफ्टमैक्स को प्रशिक्षित किया।

फिर, हमने नेटवर्क के दृढ़ भाग को प्रशिक्षित "टॉप" वज़न से जोड़ा और एक ही बार में पूरे नेटवर्क को प्रशिक्षित किया।

कोड देखें।

 for layer in base_model.layers: layer.trainable = True top_model = Sequential() top_model.add(Dropout(0.5, name='top_dropout', input_shape=base_model.output_shape[1:])) top_model.add(Dense(128, activation='softmax', name='top_softmax')) top_model.load_weights('top-weights-densenet.hdf5', by_name=True) model = Model(inputs=base_model.input, outputs=top_model(base_model.output)) initial_lrate = 0.0005 model.compile(optimizer=Adam(lr=initial_lrate), loss='categorical_crossentropy', metrics=['accuracy'])

इस तरह के नेटवर्क को ठीक करने के साथ, हम निम्नलिखित हैक की कोशिश करने में कामयाब रहे:

डेटा ऑगमेंटेशन । ओवरफिटिंग से निपटने के लिए, हमने बहुत सख्त वृद्धि का उपयोग किया: क्षैतिज प्रतिबिंब, ज़ूम, पारियां, घुमाव, झुकाव, रंग शोर जोड़ना, रंग चैनल शिफ्ट, पांच फसल लाइनों पर प्रशिक्षण (कोण और छवि का केंद्र)। हम भी फैंसीपीसीए की कोशिश करना चाहते थे, लेकिन कंप्यूटिंग संसाधनों की कमी के कारण विफल रहे।
TTA। सत्यापन और परीक्षण पर कक्षाओं की भविष्यवाणी करने के लिए, हमने प्रशिक्षण के दौरान वृद्धि की तुलना में थोड़ा कम आक्रामक उपयोग किया, और सटीकता बढ़ाने के लिए पूर्वानुमानों के परिणामों को औसत किया।
साइकिल चलाना सीखने की दर । प्रशिक्षण की गति में चक्रीय वृद्धि और कमी ने मॉडल को स्थानीय चढ़ाव में नहीं फंसने में मदद की।
कक्षाओं के एक सबसेट पर मॉडल प्रशिक्षण । जैसा कि आप कट के ऊपर की तस्वीर से देख सकते हैं, डेटासेट में कक्षाएं एक-दूसरे के बहुत करीब हैं। इतना करीब कि वस्तुओं के कुछ समूहों पर (उदाहरण के लिए, कुर्सियों और आर्मचेयर पर, जिन्हें 8 वर्गों के रूप में दर्शाया गया था), हमारे मॉडल अन्य प्रकार की वस्तुओं की तुलना में बहुत अधिक गलत थे। हमने केवल कुर्सियों को पहचानने के लिए एक अलग सीएनएन को प्रशिक्षित करने की कोशिश की, उम्मीद है कि इस तरह के नेटवर्क से सामान्य-उद्देश्य वाले नेटवर्क की तुलना में बेहतर तरीके से कुर्सियों को भेद करना सीख जाएगा, लेकिन इस दृष्टिकोण ने सटीकता में वृद्धि नहीं दी।

क्यों? इस प्रश्न के उत्तर का एक हिस्सा कट से पहले तस्वीर में प्रस्तुत किया गया है - कक्षाएं इतनी समान थीं कि डेटा के प्रारंभिक मार्कअप के साथ भी, जो लोग क्लास लेबल नीचे रखते थे, वे उन्हें भेद नहीं कर सकते थे, इसलिए इस डेटा के डेटा को निचोड़ना अभी भी असंभव होगा।
स्थानिक ट्रांसफार्मर नेटवर्क । इस तथ्य के बावजूद कि हमने इसके साथ एक नेटवर्क को प्रशिक्षित किया और बहुत अच्छी सटीकता प्राप्त की, यह दुर्भाग्य से, अंतिम सबमिशन में शामिल नहीं था।
वजन घटाने समारोह । वर्गों के असंतुलित वितरण की क्षतिपूर्ति करने के लिए, हमने भारित हानि का उपयोग किया। इससे सॉफ्टमैक्स "टॉप्स" और पूरे नेटवर्क के आगे के प्रशिक्षण में मदद मिली। वजन की गणना फंक्शन से सीखते हुए की जाती है और फिर इसे मॉडल के फिट करने के तरीके से किया जाता है:

 train_labels = utils.to_categorical(train_generator.classes) y_integers = np.argmax(train_labels, axis=1) class_weights = compute_class_weight('balanced', np.unique(y_integers), y_integers)

नेटवर्क ने इस तरह प्रशिक्षित किया कि हमारे अंतिम पहनावा का 90% हिस्सा हो।

स्टैकिंग टोंटी टैग

अस्वीकरण: वास्तविक जीवन में बाद में वर्णित तकनीक को कभी न दोहराएं।

इसलिए, जैसा कि हमने पिछले अनुभाग में निर्धारित किया है, इमेजनेट पर प्रशिक्षित नेटवर्क से टोंटी की विशेषताओं का उपयोग अन्य कार्यों पर वर्गीकरण के लिए किया जा सकता है। m0rtido ने आगे जाने का फैसला किया और निम्नलिखित रणनीति प्रस्तावित की:

हमारे पास उपलब्ध सभी पूर्व प्रशिक्षित आर्किटेक्चर (विशेष रूप से, NasNet लार्ज, इनसेप्शन वी 4, वेजी 19, वेजी 16, इंसेप्शन वी 3, इन्सेप्शनइनेटनेट 2, रेसनेट -50, रेसनेट -01, रेसनेट-152, एक्ससेप्शन, डेंसनेट-169, डेंसनेट -121, डेंसनेट-201) को लेते हैं। ) और उनसे अड़चन संकेत निकालें। हम चित्रों के प्रतिबिंबित संस्करणों (जैसे न्यूनतर वृद्धि) के लिए भी संकेत गिनेंगे।
एसएआर की मदद से प्रत्येक मॉडल की सुविधाओं के आयाम को तीन गुना कम करें ताकि वे हमारे लिए उपलब्ध 16 जीबी रैम में सामान्य रूप से फिट हो सकें।
इन सुविधाओं को एक बड़ी सुविधा वेक्टर में समेटें।
हम इस सब के शीर्ष पर एक बहुपरत अवधारणात्मक सिखाएँगे और भविष्यवाणियाँ उत्पन्न करेंगे। हम सिलवटों को तोड़ने के साथ प्रशिक्षित भी करेंगे और इन सभी भविष्यवाणियों को औसत करेंगे।

परिणामस्वरूप राक्षसी स्टैकिंग ने समग्र कलाकारों की टुकड़ी की सटीकता में भारी वृद्धि दी।

मॉडल का पहनावा

उपर्युक्त सभी के बाद, हमारे पास लगभग दो दर्जन अस्पष्ट दृढ़ नेटवर्क थे, साथ ही टोंटी के संकेतों के शीर्ष पर दो अवधारणात्मक भी थे। सवाल था: इस सब से एक ही भविष्यवाणी कैसे प्राप्त करें?

एक अच्छे तरीके से, सबसे अच्छी कागले परंपरा में, हमें इस सब के ऊपर ढेर होना था, लेकिन ओओएफ स्टैकिंग करने के लिए, हमारे पास न तो समय था और न ही जीपीयू, और सत्यापन होल्डआउट पर एक शीर्ष-स्तरीय मॉडल को प्रशिक्षित करने से बहुत बड़ा ओवरफिट हुआ। इसलिए, हमने लालची पहनावा निर्माण के लिए एक सरल एल्गोरिथम लागू करने का निर्णय लिया:

एक खाली पहनावा शुरू करें।
हम बदले में प्रत्येक मॉडल को जोड़ने और स्कोर पर विचार करने का प्रयास करते हैं। हम उस मॉडल का चयन करते हैं जो मीट्रिक को सबसे अधिक बढ़ाता है और इसे पहनावा से जोड़ता है। कलाकारों की टुकड़ी में मॉडल की भविष्यवाणी के परिणाम केवल औसत हैं।
यदि कोई भी मॉडल प्रदर्शन में सुधार नहीं करता है, तो हम कलाकारों की टुकड़ी के माध्यम से जाते हैं और इससे मॉडल निकालने की कोशिश करते हैं। यदि यह कुछ मॉडल को हटाने के लिए निकलता है ताकि स्कोर में सुधार हो, तो हम ऐसा करते हैं और चरण 2 पर लौटते हैं।

एक मीट्रिक के रूप में चुना गया था

स ् क ो र = 0.5 * स ट ी क त ा - ल ॉ ग ल ॉ स

$स्कोर = 0.5 * सटीकता - लॉगलॉस$ । इस फॉर्मूले को आनुभविक रूप से इस तरह से चुना गया था कि

स ट ी क त ा

$सटीकता$ और

l o g l o s s

$logloss$ उसी पैमाने के बारे में पता चला। इस तरह के एक अभिन्न मीट्रिक के साथ अच्छी तरह से जुड़ा हुआ है

स ट ी क त ा

$सटीकता$ दोनों सत्यापन पर और एक सार्वजनिक लीडरबोर्ड पर।

इसके अलावा, तथ्य यह है कि प्रत्येक पुनरावृत्ति में हमने एक मॉडल को जोड़ा या हटा दिया (यानी, मॉडल वजन हमेशा पूर्णांक बने रहे), एक तरह के नियमितीकरण की भूमिका निभाई, सत्यापन डेटा सेट के तहत पहनावा को ओवरफिट की अनुमति नहीं दी।

परिणामस्वरूप, पहनावा में निम्नलिखित मॉडल शामिल थे:

परिणाम

प्रतियोगिता के परिणामों के अनुसार, हमने तीसरा स्थान लिया। सफलता की कुंजी, यह मुझे लगता है, पहनावा एल्गोरिथ्म का सफल विकल्प था और उस समय की बड़ी मात्रा में m0rtido और मैंने बड़ी संख्या में मॉडलों को प्रशिक्षित करने में निवेश किया था।