ब्लैक बॉक्स में एक झलक - MIT के एक नए सिस्टम से पता चलेगा कि मशीन लर्निंग एल्गोरिदम कैसे काम करता है

MIT ने एक संवादात्मक उपकरण पेश किया जो यह स्पष्ट करता है कि एक बुद्धिमान प्रणाली एक निर्णय या दूसरा क्यों करती है। यह लेख इस बारे में है कि यह कैसे काम करता है।


/ अनप्लैश / रैंडी फथ

ब्लैक बॉक्स की समस्या

स्वचालित मशीन लर्निंग सिस्टम (ऑटोएमएल) एल्गोरिदम और उनके मापदंडों को बार-बार परीक्षण और संशोधित करता है। सुदृढीकरण सीखने की पद्धति का उपयोग करते हुए, ऐसी प्रणालियाँ एआई मॉडल का चयन करती हैं जो किसी दिए गए समस्या को हल करने के लिए दूसरों की तुलना में अधिक उपयुक्त हैं। उदाहरण के लिए, तकनीकी सहायता को स्वचालित करने के लिए। लेकिन ऑटोएमएल सिस्टम ब्लैक बॉक्स की तरह काम करते हैं, अर्थात्, उनके तरीके उपयोगकर्ताओं से छिपे हुए हैं।

यह सुविधा मशीन लर्निंग एल्गोरिदम के डिबगिंग को बहुत जटिल करती है। और, उदाहरण के लिए, ऑटोपायलट सिस्टम के मामले में, परिणाम घातक हो सकते हैं। 2016 में, ऑटोपिलॉट पर टेस्ला पहली बार एक बड़े ट्रक से टकराकर एक घातक दुर्घटना में भागीदार बन गया । दुर्घटना का कारण मज़बूती से अज्ञात है। विशेषज्ञों की केवल एक धारणा है - एल्गोरिथ्म फ्लाईओवर के निचले किनारे पर स्थापित सड़क के संकेत के साथ एक उच्च ट्रक को मिलाता है। और त्रुटि अभी तक समाप्त नहीं हुई है - मार्च की शुरुआत में, संयुक्त राज्य अमेरिका ने फिर से एक समान दुर्घटना का अनुभव किया ।

यह समझाने के लिए कि एक मशीन एल्गोरिदम एक निष्कर्ष पर या किसी अन्य पर कैसे पहुंच गया, इंजीनियर निर्णय वृक्षों की तरह पिछली तकनीकों या व्याख्या किए गए मॉडल का उपयोग करते हैं । पहले मामले में, इनपुट और आउटपुट डेटा का उपयोग एल्गोरिथम की "विचार प्रक्रिया" को अनुमानित करने के लिए किया जाता है। ऐसी तकनीकों की सटीकता खराब है।

निर्णय के पेड़ एक अधिक सटीक दृष्टिकोण हैं, लेकिन केवल वर्गीकृत डेटा के साथ काम करते हैं। इसलिए, जटिल समस्याओं के लिए, कंप्यूटर दृष्टि असुविधाजनक है।

एमआईटी, हांगकांग विज्ञान और प्रौद्योगिकी विश्वविद्यालय और झेजियांग विश्वविद्यालय के इंजीनियरों ने स्थिति को सुधारने का फैसला किया। उन्होंने एक ब्लैक बॉक्स के अंदर होने वाली प्रक्रियाओं को देखने के लिए एक उपकरण प्रस्तुत किया । उन्हें ATMSeer कहा जाता था।

सिस्टम कैसे काम करता है

ATMSeer ऑटो- ट्यून्ड मॉडल (एटीएम) पर आधारित है। यह एक स्वचालित मशीन लर्निंग सिस्टम है जो विशिष्ट समस्याओं को हल करने के लिए सबसे प्रभावी मॉडल की खोज करता है (उदाहरण के लिए, वस्तुओं की खोज)। प्रणाली मनमाने ढंग से एल्गोरिथ्म के प्रकार का चयन करती है - एक तंत्रिका नेटवर्क, निर्णय पेड़, एक " यादृच्छिक वन " या लॉजिस्टिक प्रतिगमन। उसी तरह यह मॉडल के हाइपरपैरमीटर को निर्धारित करता है - पेड़ का आकार या तंत्रिका नेटवर्क की परतों की संख्या।

एटीएम परीक्षण डेटा के साथ प्रयोगों की एक श्रृंखला आयोजित करता है, स्वचालित रूप से हाइपरपैरमीटर ट्यूनिंग और प्रदर्शन का मूल्यांकन करता है। इस जानकारी के आधार पर, वह निम्नलिखित मॉडल चुनती है, जो सर्वोत्तम परिणाम दिखा सकती है।

प्रत्येक मॉडल को चर के साथ "सूचना की इकाई" के रूप में प्रस्तुत किया जाता है: एल्गोरिथ्म, हाइपरपरमेटर्स, प्रदर्शन। चर इसी ग्राफ और आरेख पर प्रदर्शित होते हैं। इसके अलावा, इंजीनियर इन मापदंडों को मैन्युअल रूप से संपादित कर सकते हैं और वास्तविक समय में बुद्धिमान प्रणाली में परिवर्तन की निगरानी कर सकते हैं।

MIT इंजीनियरों ने निम्न वीडियो में टूल का इंटरफ़ेस दिखाया। इसमें, उन्होंने कई उपयोगकर्ता मामलों को हल किया।


ATMSeer नियंत्रण कक्ष आपको सीखने की प्रक्रिया का प्रबंधन करने और नए डेटा सेट डाउनलोड करने की अनुमति देता है । यह शून्य से दस के पैमाने पर सभी मॉडलों के प्रदर्शन संकेतक भी प्रदर्शित करता है।

संभावनाओं

इंजीनियरों का कहना है कि नया उपकरण मशीन लर्निंग के क्षेत्र के विकास में योगदान देगा, जो बुद्धिमान एल्गोरिदम के साथ काम को अधिक पारदर्शी बनाता है। कई एमओ विशेषज्ञों ने पहले ही नोट किया है कि एटीएमएसईयर के साथ वे अपने ऑटोएमएल-जनरेट किए गए मॉडल की शुद्धता में अधिक विश्वास करते हैं।

नई प्रणाली कंपनियों को जीडीपीआर की आवश्यकताओं को पूरा करने में भी मदद करेगी। सामान्य डेटा संरक्षण नियमों में पारदर्शिता के लिए मशीन लर्निंग एल्गोरिदम की आवश्यकता होती है । इंटेलिजेंट सिस्टम डेवलपर्स को एल्गोरिदम द्वारा किए गए निर्णयों की व्याख्या करने में सक्षम होना चाहिए। यह आवश्यक है ताकि उपयोगकर्ता पूरी तरह से समझ सकें कि सिस्टम उनके व्यक्तिगत डेटा को कैसे संसाधित करता है।

/ अनप्लैश / एस्तेर जिआओ

भविष्य में, आप ब्लैक बॉक्स में देखने के लिए और अधिक टूल की उम्मीद कर सकते हैं। उदाहरण के लिए, एमआईटी के इंजीनियर पहले से ही एक और समाधान पर काम कर रहे हैं। यह मेडिकल छात्रों को इतिहास लेखन कौशल को प्रशिक्षित करने में मदद करेगा।

एमआईटी के अलावा, आईबीएम इस क्षेत्र में काम करता है। हार्वर्ड के सहयोगियों के साथ मिलकर, उन्होंने Seq2Seq-Vis उपकरण पेश किया। यह मशीनी अनुवाद में एक भाषा से दूसरी भाषा में निर्णय लेने की प्रक्रिया की कल्पना करता है। सिस्टम दिखाता है कि स्रोत और अंतिम पाठ में प्रत्येक शब्द उन उदाहरणों से जुड़ा है जिन पर तंत्रिका नेटवर्क को प्रशिक्षित किया गया था। इसलिए, यह निर्धारित करना आसान है कि गलत इनपुट डेटा या खोज एल्गोरिथ्म के कारण कोई त्रुटि हुई है।

सेवा डेस्क को लागू करते समय मशीन लर्निंग एल्गोरिदम को अधिक पारदर्शी बनाने वाले उपकरण भी ITSM में आवेदन पाएंगे। सिस्टम बुद्धिमान चैट बॉट्स के प्रशिक्षण में मदद करेगा, और उन परिस्थितियों से बचने में मदद करेगा जब वे इच्छित व्यवहार नहीं करते हैं ।

---

हमारे कॉर्पोरेट ब्लॉग से सामग्री:

• आईटी परियोजना प्रबंधन - 5 चुनौतियां और चुनौतियां
• आर्टिफिशियल इंटेलिजेंस ServiceNow में अनुरोधों को वर्गीकृत करता है
• आईटी ऑपरेशंस मैनेजमेंट: आईटी इन्फ्रास्ट्रक्चर का प्रबंधन कैसे करें

और हैबे पर एक ब्लॉग:

• ServiceNow से एजेंट इंटेलिजेंस - तकनीकी सहायता की सेवा में तंत्रिका नेटवर्क
• ITSM के साथ परिचित: विषय में "विसर्जन" के लिए 10 हेब्रोटोपिक और विशेषज्ञ सामग्री