मशीन लर्निंग: एक कमरे के हाथी के साथ हाथापाई

एक मानव मस्तिष्क के पक्ष में शून्य है। एक नए अध्ययन में , कंप्यूटर वैज्ञानिकों ने पाया कि आर्टिफिशियल इंटेलिजेंस सिस्टम उन वस्तुओं की दृश्य मान्यता के लिए परीक्षण पास करने में विफल होते हैं जिन्हें कोई भी बच्चा आसानी से संभाल सकता है।

"गुणात्मक और महत्वपूर्ण अध्ययन हमें याद दिलाता है कि" डीप लर्निंग "स्वयं को उस गहराई का दावा नहीं कर सकती है, जिसके लिए इसे जिम्मेदार ठहराया गया है," न्यूयॉर्क विश्वविद्यालय के एक न्यूरोसाइंटिस्ट गैरी मार्कस कहते हैं, जो इस काम से जुड़े नहीं हैं।

अध्ययन के परिणाम कंप्यूटर विज़न के क्षेत्र से संबंधित हैं, जब आर्टिफिशियल इंटेलिजेंस सिस्टम वस्तुओं का पता लगाने और उन्हें वर्गीकृत करने की कोशिश करते हैं। उदाहरण के लिए, उन्हें सड़क दृश्य में सभी पैदल चलने वालों को खोजने या बस एक साइकिल से एक पक्षी को भेद करने के लिए कहा जा सकता है - एक ऐसा काम जो पहले से ही अपनी जटिलता के लिए प्रसिद्ध हो गया है।

दांव उच्च हैं: कंप्यूटर धीरे-धीरे लोगों के लिए महत्वपूर्ण संचालन करना शुरू कर रहे हैं, जैसे कि स्वचालित वीडियो निगरानी और स्वायत्त ड्राइविंग। और सफल काम के लिए, यह आवश्यक है कि एआई की दृश्य प्रसंस्करण की क्षमता कम से कम मानव से नीच न हो।

कार्य आसान नहीं है। नया अध्ययन मानव दृष्टि के परिष्कार और नकल प्रणाली बनाने में कठिनाइयों पर केंद्रित है। वैज्ञानिकों ने एक लिविंग रूम के उदाहरण का उपयोग करके कंप्यूटर विज़न सिस्टम की सटीकता का परीक्षण किया। ऐ ने अच्छा किया, सही ढंग से कुर्सी, व्यक्ति और शेल्फ पर पुस्तकों की पहचान की। लेकिन जब वैज्ञानिकों ने दृश्य में एक असामान्य वस्तु को जोड़ा - एक हाथी की छवि - इसकी उपस्थिति के बहुत तथ्य ने सिस्टम को पिछले सभी परिणामों को भुला दिया। अचानक, वह कुर्सी को सोफा, हाथी को कुर्सी कहने लगी और अन्य सभी वस्तुओं को नजरअंदाज करने लगी।

"कई प्रकार की विषमताएँ थीं जो आधुनिक वस्तु पहचान प्रणालियों की नाजुकता को दर्शाती हैं," टोरंटो विश्वविद्यालय में यॉर्क विश्वविद्यालय के वैज्ञानिक और एक अध्ययन के सह-लेखक आमिर रोसेनफेल्ड कहते हैं कि वह और उनके साथी जॉन टॉट्सटोस , यॉर्क से भी थे, और टोरंटो विश्वविद्यालय से रिचर्ड ज़ेमेल ।

शोधकर्ता अभी भी उन कारणों को स्पष्ट करने की कोशिश कर रहे हैं, जिनके कारण कंप्यूटर विज़न सिस्टम इतनी आसानी से चकरा जाता है, और उनके पास पहले से ही एक अच्छा अनुमान है। मानव कौशल में वह बिंदु, जो एआई के पास नहीं है, यह महसूस करने की क्षमता है कि दृश्य समझ से बाहर है, और हमें इसे और अधिक बारीकी से विचार करने की आवश्यकता है।

कमरे में हाथी

दुनिया को देखते हुए, हम दृश्य जानकारी की एक चौंका देने वाली मात्रा का अनुभव करते हैं। मानव मस्तिष्क इसे चलते-फिरते बनाता है। "हम अपनी आँखें खोलते हैं, और सब कुछ अपने आप होता है," टॉट्सोटोस कहते हैं।

इसके विपरीत आर्टिफिशियल इंटेलिजेंस, दृश्य धारणा को श्रमसाध्य बनाता है, जैसे कि ब्रेल में वर्णन पढ़ रहा हो। वह पिक्सेल के माध्यम से अपनी एल्गोरिथ्म उंगलियों से चलता है, धीरे-धीरे उनसे अधिक से अधिक जटिल प्रतिनिधित्व करता है। विभिन्न प्रकार के एआई सिस्टम जो समान प्रक्रिया करते हैं, तंत्रिका नेटवर्क हैं। वे "परतों" की एक श्रृंखला के माध्यम से एक छवि पारित करते हैं। जैसा कि प्रत्येक परत गुजरती है, व्यक्तिगत छवि विवरण, जैसे कि व्यक्तिगत पिक्सेल के रंग और चमक को संसाधित किया जाता है, और इस विश्लेषण के आधार पर ऑब्जेक्ट का तेजी से अमूर्त विवरण बनता है।

Totsotsos बताते हैं, "पिछली परत को संसाधित करने के परिणाम अगले, और एक कन्वेयर पर स्थानांतरित किए जाते हैं,"।


द्वारा पोस्ट किया गया: लुसी रीडिंग-इक्कंडा / क्वांटा पत्रिका

तंत्रिका नेटवर्क दृश्य प्रसंस्करण के क्षेत्र में विशिष्ट नियमित कार्यों के विशेषज्ञ हैं। वे अत्यधिक विशिष्ट कार्यों से निपटने के लिए लोगों की तुलना में बेहतर हैं जैसे कि कुत्तों की नस्ल और वस्तुओं की अन्य छंटाई श्रेणियों में निर्धारित करना। इन सफल उदाहरणों ने इस उम्मीद को जन्म दिया है कि कंप्यूटर विज़न सिस्टम जल्द ही इतने स्मार्ट हो जाएंगे कि वे भीड़-भाड़ वाली शहर की सड़कों पर कार चला पाएंगे।

इसने विशेषज्ञों को अपनी कमजोरियों का पता लगाने के लिए भी प्रेरित किया। पिछले कुछ वर्षों में, शोधकर्ताओं ने शत्रुतापूर्ण हमलों का अनुकरण करने के लिए कई प्रयास किए हैं - वे ऐसे परिदृश्यों के साथ आए जो तंत्रिका नेटवर्क को गलती करने के लिए मजबूर करते हैं। एक प्रयोग में, कंप्यूटर वैज्ञानिकों ने नेटवर्क को धोखा दिया , यह एक बंदूक के लिए कछुए को लेने के लिए मजबूर किया। सफल धोखा की एक और कहानी यह थी कि, केले जैसी सामान्य वस्तुओं के बगल में, शोधकर्ताओं ने छवि पर साइकेडेलिक रंगों में चित्रित एक टोस्टर रखा ।

नए काम में, वैज्ञानिकों ने एक ही दृष्टिकोण चुना है। तीन शोधकर्ताओं ने एक लिविंग रूम के तंत्रिका नेटवर्क की तस्वीर दिखाई। यह एक व्यक्ति को पकड़ता है जो एक वीडियो गेम खेलता है, एक पुरानी कुर्सी के किनारे पर बैठा है और आगे झुक रहा है। इस दृश्य को "खोदना", एआई ने कई वस्तुओं को जल्दी से पहचान लिया: एक व्यक्ति, एक सोफा, एक टीवी, एक कुर्सी और कुछ किताबें।

फिर शोधकर्ताओं ने इसी तरह के दृश्यों के लिए एक असामान्य वस्तु को जोड़ा: एक अर्ध-प्रोफ़ाइल में एक हाथी की छवि। और तंत्रिका नेटवर्क भ्रमित है। कुछ मामलों में, एक हाथी की उपस्थिति ने उसे सोफे के लिए एक कुर्सी लेने के लिए मजबूर किया, और कभी-कभी कुछ वस्तुओं को देखने के लिए सिस्टम बंद हो गया, जिसकी मान्यता से पहले कोई समस्या नहीं थी। यह, उदाहरण के लिए, एक पुस्तक श्रृंखला है। इसके अलावा, हाथी से दूर स्थित वस्तुओं के साथ भी चूक हुई।


बाईं ओर मूल पर, तंत्रिका नेटवर्क सही ढंग से और उच्च आत्मविश्वास के साथ रहने वाले कमरे में स्थित कई वस्तुओं को विभिन्न चीजों से भरा हुआ है। लेकिन जैसे ही हाथी को जोड़ा गया (दाईं ओर की छवि), कार्यक्रम क्रैश होना शुरू हो गया। निचले बाएं कोने में कुर्सी सोफे में बदल गई, बगल में खड़ा कप गायब हो गया और हाथी एक कुर्सी बन गया।

समान स्वायत्त ड्राइविंग के लिए समान सिस्टम त्रुटियां पूरी तरह से अस्वीकार्य हैं। कंप्यूटर कार को ड्राइव करने में सक्षम नहीं होगा यदि वह पैदल चलने वालों को सिर्फ इसलिए नहीं देखता क्योंकि कुछ सेकंड पहले उसने सड़क के किनारे एक टर्की देखा था।

हाथी के लिए ही, इसकी मान्यता के परिणाम भी प्रयास से प्रयास तक भिन्न थे। प्रणाली ने इसे सही ढंग से निर्धारित किया, कभी-कभी भेड़ कहा जाता है, फिर इसे बिल्कुल भी ध्यान नहीं दिया।

रोसेनफेल्ड कहते हैं, "अगर कोई हाथी वास्तव में कमरे में दिखाई देता है, तो कोई भी इसे नोटिस करेगा।" "और सिस्टम ने अपनी उपस्थिति भी दर्ज नहीं की।"

घनिष्ठ संबंध

जब लोग कुछ अप्रत्याशित देखते हैं, तो वे इसे बेहतर तरीके से देखते हैं। कोई फर्क नहीं पड़ता कि यह कितना सरल लगता है, "एक करीब से देखो", इसके वास्तविक संज्ञानात्मक परिणाम हैं और बताते हैं कि जब कुछ असामान्य दिखाई देता है तो एआई से गलती क्यों होती है।

वस्तुओं को संसाधित करने और पहचानने के दौरान, सर्वश्रेष्ठ आधुनिक तंत्रिका नेटवर्क स्वयं के माध्यम से केवल आगे की दिशा में जानकारी पारित करते हैं। वे इनपुट पर पिक्सेल का चयन करके, घटता, आकार, और दृश्यों पर आगे बढ़ते हैं, और प्रत्येक चरण में सबसे अधिक संभावना अनुमान लगाते हैं। प्रक्रिया के शुरुआती चरणों में कोई भी गलतफहमी अंत में त्रुटियों को जन्म देती है जब तंत्रिका नेटवर्क अपने "विचारों" को एक साथ इकट्ठा करता है यह अनुमान लगाने के लिए कि वह क्या देख रहा है।

"तंत्रिका नेटवर्क में, सभी प्रक्रियाएं एक-दूसरे के साथ निकटता से जुड़ी हुई हैं, इसलिए हमेशा संभावना है कि कहीं भी कोई भी सुविधा किसी भी संभावित परिणाम को प्रभावित कर सकती है," टॉटोसोस कहते हैं।

मानवीय दृष्टिकोण बेहतर है। कल्पना करें कि आपको एक छवि पर एक त्वरित नज़र दी गई थी जिसमें एक चक्र और एक वर्ग, एक लाल, दूसरा नीला है। उसके बाद, आपको वर्ग का रंग नाम देने के लिए कहा गया था। रंगों को सही ढंग से याद करने के लिए एक संक्षिप्त झलक पर्याप्त नहीं हो सकती है। तुरंत समझ आती है कि आप निश्चित नहीं हैं, और आपको फिर से देखने की जरूरत है। और, जो बहुत महत्वपूर्ण है, दूसरे देखने के दौरान आपको पहले से ही पता चल जाएगा कि आपको किस पर ध्यान केंद्रित करने की आवश्यकता है।

" चयनात्मक दृष्टिकोण" के एक सिद्धांत को विकसित करने वाले थॉट्सटोस कहते हैं, "दृश्य धारणा" की एक विशेषता को विकसित करने वाले "टोट्सटोस" बताते हैं: "मानव दृश्य प्रणाली कहती है:" मैं अभी भी सही उत्तर नहीं दे सकता, इसलिए मैं वापस जाऊंगा और त्रुटि कहां हो सकती है।

अधिकांश तंत्रिका नेटवर्क में वापस जाने की क्षमता का अभाव होता है। यह फीचर डिजाइन करना बहुत मुश्किल है। यूनिडायरेक्शनल नेटवर्क के फायदों में से एक यह है कि वे प्रशिक्षित करने के लिए अपेक्षाकृत आसान हैं - बस उल्लेखित छह परतों के माध्यम से छवियों को "पास" करें और परिणाम प्राप्त करें। लेकिन अगर तंत्रिका नेटवर्क को "बारीकी से देखना चाहिए", तो उन्हें एक ठीक रेखा के बीच अंतर करने की भी आवश्यकता होती है, जब वापस जाना बेहतर होता है, और जब काम करना जारी रखना होता है। मानव मस्तिष्क आसानी से और स्वाभाविक रूप से ऐसी विभिन्न प्रक्रियाओं के बीच स्विच करता है। और तंत्रिका नेटवर्क को एक नया सैद्धांतिक आधार चाहिए ताकि वे भी ऐसा कर सकें।

दुनिया भर के अग्रणी शोधकर्ता इस दिशा में काम कर रहे हैं, लेकिन उन्हें भी मदद की ज़रूरत है। हाल ही में, Google AI प्रोजेक्ट ने क्राउडसोर्सिंग इमेज क्लासिफायर के लिए एक प्रतियोगिता की घोषणा की जो जानबूझकर छवि विरूपण के मामलों के बीच अंतर कर सकती है। समाधान जो स्पष्ट रूप से साइकिल की छवि से पक्षी की छवि को अलग कर सकता है वह जीत जाएगा। यह एक मामूली लेकिन बहुत महत्वपूर्ण पहला कदम होगा।