जहाँ कोई व्यक्ति आकृतियाँ देखता है, AI बनावट देखता है

हैरानी की बात है, गहरी सीखने वाले कंप्यूटर दृष्टि एल्गोरिदम वाले शोधकर्ता अक्सर छवियों को वर्गीकृत करने में विफल होते हैं क्योंकि वे मुख्य रूप से आकार के बजाय बनावट पर ध्यान केंद्रित करते हैं।



यदि आप एक बिल्ली की तस्वीर को देखते हैं, तो उच्च संभावना के साथ आप इस जानवर को पहचान पाएंगे, चाहे वह लाल या धारीदार हो या - भले ही वह तस्वीर काली और सफेद हो, दागदार, पस्त या धूमिल हो। आप शायद एक बिल्ली को नोटिस कर पाएंगे जब वह एक तकिया के पीछे कर्ल करती है या एक मेज पर कूदती है, केवल एक धुंधली आकृति का प्रतिनिधित्व करती है। आपने स्वाभाविक रूप से बिल्लियों को लगभग किसी भी स्थिति में पहचानना सीखा है। लेकिन गहरी तंत्रिका नेटवर्क पर आधारित मशीन विजन सिस्टम, हालांकि वे कभी-कभी निश्चित परिस्थितियों में बिल्लियों के मान्यता कार्यों के साथ लोगों को प्रस्तुत कर सकते हैं, उन छवियों के साथ भ्रमित हो सकते हैं जो कम से कम थोड़ा अलग हैं जो वे जानते हैं, या जिसमें शोर या बहुत अधिक है मजबूत धैर्य।

और अब जर्मन शोधकर्ताओं ने इसके लिए एक अप्रत्याशित कारण की खोज की है: यदि लोग चित्रित वस्तुओं की आकृतियों पर ध्यान देते हैं, तो वस्तुओं की बनावट के लिए गहन सीखने के साथ कंप्यूटर दृष्टि।

सीखने की अभ्यावेदन के एक अंतरराष्ट्रीय सम्मेलन में मई में प्रस्तुत यह खोज , लोगों और मशीनों की "सोच" के बीच तीव्र विपरीत पर जोर देती है, और यह बताती है कि एआई कैसे काम करता है यह समझने में हम कितने गलत हो सकते हैं। और यह भी हमें बता सकता है कि विकास के परिणामस्वरूप हमारी दृष्टि क्यों बन गई।

आइवरी बिल्लियों और घड़ी हवाई जहाज

डीप लर्निंग एल्गोरिदम एक न्यूरल नेटवर्क के माध्यम से हजारों छवियों को चलाकर काम करता है जिसमें या तो एक बिल्ली होती है या नहीं। सिस्टम इस डेटा में पैटर्न की तलाश करता है, जो तब उस छवि पर सबसे अच्छा निशान लगाने के लिए उपयोग करता है जिसे उसने पहले सामना नहीं किया है। नेटवर्क आर्किटेक्चर मानव दृश्य प्रणाली की संरचना की तरह एक सा है, क्योंकि इसमें जुड़ी हुई परतें हैं जो इसे छवि से अधिक से अधिक अमूर्त विशेषताओं को निकालने की अनुमति देती हैं। हालांकि, सही उत्तर के लिए संघों की एक प्रणाली के निर्माण की प्रक्रिया एक ब्लैक बॉक्स है जिसे लोग केवल तथ्य के बाद व्याख्या करने की कोशिश कर सकते हैं। "हम यह समझने की कोशिश करते हैं कि इन गहन-सीखने वाले कंप्यूटर विज़न एल्गोरिदम की सफलता की ओर क्या होता है, और वे इतने कमजोर क्यों हैं," ओरेगन विश्वविद्यालय के एक आईटी विशेषज्ञ थॉमस डिटरिच ने कहा, जो इस अध्ययन से संबद्ध नहीं है।

कुछ शोधकर्ता अध्ययन करना पसंद करते हैं कि क्या होता है जब वे छवि को थोड़ा बदलकर नेटवर्क को धोखा देने की कोशिश करते हैं। उन्होंने पाया कि छोटे परिवर्तन भी सिस्टम को छवि को गलत तरीके से चिह्नित करने का कारण बन सकते हैं - और बड़े परिवर्तन लेबल को बदलने का कारण नहीं हो सकते हैं। इस बीच, अन्य विशेषज्ञ सिस्टम में होने वाले परिवर्तनों का विश्लेषण करते हैं कि व्यक्तिगत न्यूरॉन्स छवि पर कैसे प्रतिक्रिया करते हैं, और सिस्टम ने जो सीखा है, उसके आधार पर एक " सक्रियण एटलस " की रचना करता है।

लेकिन जर्मनी में ट्युबिंगन विश्वविद्यालय के कम्प्यूटेशनल न्यूरोबायोलॉजिस्ट मतिस बेटगे और साइकोफिज़ियोलॉजिस्ट फेलिक्स विचमैन की प्रयोगशालाओं के वैज्ञानिकों के एक समूह ने एक गुणात्मक दृष्टिकोण चुना। पिछले साल, टीम ने बताया कि जब प्रशिक्षण छवियों को एक निश्चित प्रकार के शोर से बदल दिया गया था, तो नेटवर्क ने उन लोगों की तुलना में बेहतर चित्रों को पहचानना शुरू कर दिया, जिन्होंने समान शोर चित्रों को बनाने की कोशिश की। हालांकि, एक ही चित्र, थोड़ा अलग ढंग से संशोधित, पूरी तरह से नेटवर्क को भ्रमित करता है, हालांकि लोगों के लिए नई विकृति लगभग पुरानी समान दिखती थी।


रॉबर्ट गीयरोस, ट्युबिंगन विश्वविद्यालय से कम्प्यूटेशनल न्यूरोबायोलॉजी में स्नातकोत्तर छात्र

इस परिणाम की व्याख्या करने के लिए, शोधकर्ताओं ने सोचा कि थोड़ा शोर के अलावा भी कौन सी छवि गुणवत्ता सबसे अधिक बदलती है। स्पष्ट पसंद बनावट है। अध्ययन के प्रमुख लेखक, बेटेज और विचमैन की प्रयोगशालाओं में स्नातक छात्र रॉबर्ट गीरोस ने कहा, "यदि आप लंबे समय तक बहुत अधिक शोर करते हैं, तो एक वस्तु का आकार कम या ज्यादा अनसुलझा रहता है।" लेकिन "स्थानीय छवि संरचना बहुत जल्दी विकृत हो जाती है जब थोड़ी मात्रा में शोर जोड़ा जाता है।" इसलिए वे परीक्षण करने के लिए एक ट्रिकी तरीके से आए कि मशीनों और लोगों की दृश्य प्रणाली कैसे छवियों को संसाधित करती है।

गीरोस, बेटगे और उनके सहयोगियों ने दो परस्पर विरोधी विशेषताओं के साथ चित्र बनाए, एक वस्तु से आकृति और दूसरे से बनावट: उदाहरण के लिए, ग्रे हाथी की त्वचा की बनावट में चित्रित एक बिल्ली सिल्हूट, या एल्यूमीनियम के डिब्बे से बना एक भालू, या एक हवाई जहाज सिल्हूट ओवरलैपिंग से भरा हुआ। एक दूसरे को डायल की छवियों के साथ। लोगों ने अपनी आकृतियों के आधार पर सैकड़ों ऐसी छवियों को लेबल किया - बिल्ली, भालू, विमान - लगभग हर बार, जैसा कि इरादा था। हालांकि, चार अलग-अलग वर्गीकरण एल्गोरिदम विपरीत दिशा में झुकाव कर रहे थे, जिससे वस्तुओं के बनावट को दर्शाते हुए लेबल दिए गए: हाथी, डिब्बे, घड़ियां।

कोलंबिया विश्वविद्यालय में एक कम्प्यूटेशनल न्यूरोसाइंटिस्ट निकोलस क्रिएसेकोर्ट ने कहा, "यह सामान्य वितरण के बिना अतिरिक्त सेटिंग्स के साथ - प्रत्यक्ष वितरण के साथ गहरे नेटवर्क के बारे में हमारी समझ को बदल देता है", जो अध्ययन में शामिल नहीं था।

पहली नज़र में, आकार पर एआई बनावट की प्राथमिकता अजीब लग सकती है, लेकिन यह समझ में आता है। "बनावट एक उच्च संकल्प आकार का एक सा है," Kriegscorte ने कहा। और इस तरह के पैमाने पर चिपके रहने की प्रणाली के लिए यह आसान है: बनावट जानकारी के साथ पिक्सेल की संख्या ऑब्जेक्ट की सीमा बनाने वाले पिक्सेल की संख्या से काफी अधिक है, और नेटवर्क के पहले चरण स्थानीय विशेषताओं, जैसे कि रेखाओं और चेहरों की मान्यता से जुड़े हैं। "यह बिल्कुल बनावट है," टोरंटो में यॉर्क विश्वविद्यालय में एक कंप्यूटर विज़न विशेषज्ञ जॉन त्त्सोस ने कहा, जो इस अध्ययन से जुड़े नहीं हैं। "उदाहरण के लिए, एक ही तरह से अस्तर वाले खंडों का समूह।"

गीरोस और उनके सहयोगियों ने दिखाया कि ये स्थानीय संकेत नेटवर्क के वर्गीकरण को पूरा करने के लिए पर्याप्त हैं। यह बेट्ज और अध्ययन के लेखकों में से एक का प्रमाण है, पोस्टडॉक विलैंड ब्रेंडेल , जिसे काम में एक पूर्ण रूप में लाया गया था, जिसे मई सम्मेलन में भी प्रस्तुत किया गया था। उस काम में, उन्होंने एक गहरी सीखने की प्रणाली का निर्माण किया, जो कि उसी तरह से काम करती थी जैसे कि वर्गीकरण एल्गोरिदम ने "सीखने की विशेषताओं" सिद्धांत के आधार पर - गहरी सीखने के प्रसार से पहले काम किया था। एल्गोरिदम तस्वीर को छोटे टुकड़ों में तोड़ता है, जैसे मौजूदा मॉडल (जैसे कि उनके प्रयोग में इस्तेमाल किया गया गीज़र), लेकिन फिर, धीरे-धीरे इस जानकारी को एकीकृत करने के बजाय उच्च स्तर के अमूर्त के संकेत निकालने के लिए, एल्गोरिथ्म तुरंत प्रत्येक टुकड़े की सामग्री के बारे में एक धारणा बनाता है ( "इस टुकड़े में एक साइकिल का सबूत है, इसमें - एक पक्षी का सबूत")। उन्होंने केवल वस्तु को निर्धारित करने के लिए सभी निर्णयों को मोड़ दिया ("यदि अधिक टुकड़ों में एक साइकिल के संकेत शामिल हैं, तो यह एक साइकिल है"), टुकड़ों के स्थानिक संबंधों पर ध्यान नहीं दे रहा है। और फिर भी वह अप्रत्याशित रूप से उच्च सटीकता के साथ वस्तुओं को पहचानने में सक्षम था।

"यह काम इस धारणा को चुनौती देता है कि पिछले मॉडल से गहन शिक्षा कुछ अलग करती है," ब्रेंडेल ने कहा। “जाहिर है, एक बड़ी छलांग लगाई गई है। मैं सिर्फ यह कह रहा हूं कि यह कुछ उतनी बड़ी नहीं थी जितनी कि कुछ उम्मीद की गई थी।

यॉर्क यूनिवर्सिटी और टोरंटो विश्वविद्यालय के पोस्टडॉक आमिर रोसेनफेल्ड के अनुसार, जिन्होंने अध्ययन में भाग नहीं लिया, "हम जो सोचते हैं कि तंत्रिका नेटवर्क को क्या करना चाहिए और वे क्या करते हैं, के बीच एक बड़ा अंतर है, जिसमें वे कितनी अच्छी तरह से प्रबंधन करते हैं" मानव व्यवहार को पुन: पेश करें।

प्रेट्ज़ेल उसी नस में बोला। उन्होंने कहा कि यह मानना ​​आसान है कि तंत्रिका नेटवर्क उसी तरह से समस्याओं को हल करेंगे जैसे उन्होंने कहा। "हालांकि, हम लगातार अन्य तरीकों के अस्तित्व के बारे में भूल जाते हैं।"

अधिक मानवीय दृष्टिकोण की ओर एक बदलाव

आधुनिक गहन सीखने के तरीके स्थानीय विशेषताओं, जैसे कि बनावट, अधिक वैश्विक पैटर्न, जैसे कि रूपों को एकीकृत कर सकते हैं। "इन कार्यों में अप्रत्याशित रूप से और बहुत आश्वस्त रूप से दिखाया गया है - हालांकि आर्किटेक्चर आपको मानक छवियों को वर्गीकृत करने की अनुमति देता है, यह स्वचालित रूप से नहीं होता है यदि आप इस बारे में नेटवर्क को प्रशिक्षित करते हैं," क्रिजसकोर्टे ने कहा।

गीयरोस देखना चाहते थे कि क्या होता है अगर टीम मॉडलों को बनावट की अनदेखी करने के लिए मजबूर करती है। टीम ने परंपरागत रूप से प्रशिक्षण एल्गोरिदम के लिए उपयोग की जाने वाली छवियों को लिया और उन्हें विभिन्न शैलियों में चित्रित किया, जिससे उन्हें उपयोगी बनावट की जानकारी से वंचित किया गया। जब उन्होंने प्रत्येक मॉडल को नई छवियों में बदल दिया, तो सिस्टम ने बड़े, वैश्विक पैटर्न पर भरोसा करना शुरू कर दिया, और पैटर्न मान्यता के प्रति अधिक झुकाव दिखाया, जो लोगों को अधिक पसंद आया।


Wieland Brendel, कम्प्यूटेशनल न्यूरोसाइंटिस्ट जर्मनी में Tübingen विश्वविद्यालय में

और उसके बाद, एल्गोरिदम ने शोर की छवियों को बेहतर रूप से वर्गीकृत करना शुरू कर दिया, तब भी जब उन्हें ऐसी विकृतियों से निपटने के लिए प्रशिक्षित नहीं किया गया था। "आकार-मान्यता नेटवर्क पूरी तरह से मुक्त के लिए अधिक विश्वसनीय हो गया है," गीरोस ने कहा। "इससे पता चलता है कि कुछ कार्यों को करने के लिए सही पूर्वाग्रह, हमारे मामले में, रूपों का उपयोग करने की प्रवृत्ति, नई स्थितियों को सामान्य बनाने में मदद करता है।"

इससे यह भी पता चलता है कि मनुष्यों में इस तरह की प्रवृत्ति स्वाभाविक रूप से बन सकती है, क्योंकि रूपों का उपयोग नए या शोर की स्थिति में हम जो देखते हैं उसे पहचानने के लिए एक अधिक विश्वसनीय तरीका है। लोग एक त्रि-आयामी दुनिया में रहते हैं, जहां कई अलग-अलग परिस्थितियों में वस्तुएं कई कोणों से दिखाई देती हैं, और जहां हमारी अन्य भावनाएं, जैसे स्पर्श, वैकल्पिक रूप से वस्तुओं की मान्यता को पूरक कर सकती हैं। इसलिए, हमारी दृष्टि के लिए, यह एक प्राथमिकता बनावट को रूप देने के लिए समझ में आता है। इसके अलावा, कुछ मनोवैज्ञानिकों ने भाषा, सीखने और रूपों का उपयोग करने की प्रवृत्ति के बीच संबंध दिखाया है: जब बच्चों को कुछ श्रेणियों के शब्दों का अध्ययन करते समय रूपों पर अधिक ध्यान देने के लिए सिखाया गया था, तो बाद में वे दूसरों की तुलना में संज्ञाओं की अधिक व्यापक शब्दावली विकसित करने में सक्षम थे।

विचमैन ने कहा कि यह काम एक अनुस्मारक के रूप में कार्य करता है कि "डेटा हमारे विचार से मॉडल के पूर्वाग्रह और पूर्वाग्रह पर अधिक प्रभाव डालता है।" यह पहली बार नहीं है जब शोधकर्ताओं ने इस समस्या का सामना किया है: यह पहले ही दिखाया जा चुका है कि चेहरे की पहचान कार्यक्रम, स्वचालित फिर से शुरू होने वाली खोज, और अन्य तंत्रिका नेटवर्क अप्रत्याशित संकेतों को बहुत अधिक महत्व देते हैं क्योंकि पूर्वाग्रहों के कारण डेटा में गहराई से निहित होता है जिस पर उन्हें प्रशिक्षित किया जाता है। निर्णय लेने की प्रक्रिया से अवांछित पूर्वाग्रहों को खत्म करना एक मुश्किल काम साबित हुआ, लेकिन विचमैन ने कहा कि नया काम दर्शाता है कि यह सिद्धांत रूप में संभव है, और उत्साहजनक है।

हालांकि, यहां तक ​​कि गीरोस के मॉडल जो रूपों पर ध्यान केंद्रित करते हैं, उन्हें छवियों में बहुत अधिक शोर जोड़कर या कुछ पिक्सेल बदलकर मूर्ख बनाया जा सकता है, जिसका अर्थ है कि उनके पास मानव दृष्टि के बराबर गुणवत्ता प्राप्त करने के लिए अभी भी एक लंबा रास्ता तय करना है। एक ही नस में, रॉटसेफेल्ड, त्सोटोस और मार्कस सोलबैच के एक नए काम, त्सोटोस प्रयोगशाला के एक स्नातक छात्र, दर्शाते हैं कि मशीन लर्निंग एल्गोरिदम विभिन्न छवियों की समानता को कैप्चर करने में सक्षम नहीं हैं जैसा कि लोग करते हैं। फिर भी, ऐसे कार्य "यह इंगित करने में सहायता करते हैं कि ये मॉडल किन पहलुओं पर अभी तक मानव मस्तिष्क के महत्वपूर्ण पहलुओं को पुन: पेश नहीं करते हैं," क्रायसकोर्टे ने कहा। और विचमैन ने कहा कि "कुछ मामलों में, डेटा सेट की जांच करना अधिक महत्वपूर्ण हो सकता है।"

सान्या फिडलर, टोरंटो विश्वविद्यालय में एक आईटी विशेषज्ञ जिन्होंने अध्ययन में भाग नहीं लिया, इससे सहमत हैं। "स्मार्ट डेटा विकसित करना हमारा काम है," उसने कहा। वह और उसकी सहकर्मी तलाश कर रही हैं कि कैसे सहायक कार्य तंत्रिका नेटवर्क को उनके मूल कार्यों की गुणवत्ता में सुधार करने में मदद कर सकते हैं। गीरोस की खोजों से प्रेरित होकर, उन्होंने हाल ही में छवि वर्गीकरण एल्गोरिदम को न केवल वस्तुओं को स्वयं पहचानने के लिए प्रशिक्षित किया, बल्कि यह भी निर्धारित किया कि कौन से पिक्सेल उनके आकृति के हैं। और नेटवर्क स्वचालित रूप से वस्तुओं को पहचानने में बेहतर हो गया। "यदि आपको केवल एक कार्य दिया जाता है, तो परिणाम कई अन्य चीजों के संबंध में चयनात्मक ध्यान और अंधापन है," फिडलर ने कहा। "अगर मैं आपको कई कार्य देता हूं, तो आप विभिन्न चीजों के बारे में जानेंगे, और ऐसा नहीं हो सकता है।" इन एल्गोरिदम के साथ भी ऐसा ही है। " विभिन्न समस्याओं का समाधान करने से उन्हें "विभिन्न सूचनाओं के लिए एक प्रवृत्ति विकसित करने में" मदद मिलती है, जो कि आकार और बनावट के साथ गीरो के प्रयोग में समान है।

डाइटरिच ने कहा कि ये सभी अध्ययन "गहरी शिक्षा के साथ क्या हो रहा है, हमारी समझ को गहरा करने की दिशा में एक बहुत ही दिलचस्प कदम है, और शायद यह हमें उन सीमाओं को पार करने में मदद करेगा जो हम सामना करते हैं," डिट्रिच ने कहा। "यही कारण है कि मुझे काम की यह श्रृंखला पसंद है।"