क्या तंत्रिका नेटवर्क इलेक्ट्रिक लीड का सपना देखते हैं?

यदि आप इंटरनेट का उपयोग करते हैं, तो आपने तंत्रिका नेटवर्क के साथ बातचीत की होगी। यह भाषा के अनुवाद से लेकर वित्तीय मॉडलिंग तक कई क्षेत्रों में प्रयुक्त मशीन लर्निंग एल्गोरिदम का एक रूप है। इस दृष्टिकोण की एक विशेषता छवि मान्यता है। Google, Microsoft, IBM और Facebook सहित कई कंपनियों ने अपने फोटो लेआउट एल्गोरिदम विकसित किए हैं। लेकिन जबकि ये एल्गोरिदम बहुत अजीब त्रुटियां कर सकते हैं।


कंप्यूटर विज़न के लिए Microsoft Azure API ने इस चित्र के साथ निम्नलिखित शीर्षक को जोड़ा: "रसीला वनस्पति के साथ एक पहाड़ी पर भेड़ चराने का झुंड," और टैग: "चरवाहा, भेड़, पहाड़, मवेशी, घोड़ा।" लेकिन फोटो में भेड़ नहीं हैं। आम तौर पर। मैंने हर मौके का अध्ययन किया।


टैग: घास, मैदान, भेड़, खड़े, इंद्रधनुष, आदमी

इस तस्वीर में, कंप्यूटर ने भेड़ों को भी देखा। संयोग से, मुझे पता है कि कुछ भेड़ें वास्तव में इस जगह के पास चरती थीं। लेकिन फोटो में वे दिखाई नहीं दे रहे हैं।


टैग: पहाड़ी, चरखा, भेड़, जिराफ, झुंड

यहाँ एक और उदाहरण है। तंत्रिका नेटवर्क ने आम तौर पर भेड़ की कल्पना की थी हर बार जब उसने ऐसी छवियां देखीं। क्या चल रहा है?

कई उदाहरणों को संसाधित करके तंत्रिका नेटवर्क को प्रशिक्षित किया जाता है। इस मामले में, उसे हाथ से लोगों द्वारा चिह्नित कई छवियों को खिलाया गया था - और उनमें से कई में भेड़ें थीं। आपने जो भी देखा है, उसके बारे में ज्ञान की पूरी कमी के साथ शुरुआत करते हुए, तंत्रिका नेटवर्क को नियम बनाने की आवश्यकता होती है जिसके अनुसार छवियों को "भेड़" लेबल किया जाना चाहिए। जाहिर है, वह यह नहीं समझती थी कि शब्द "भेड़" का अर्थ एक जानवर है, और पेड़ों के बिना सिर्फ घास नहीं। दूसरी तस्वीर के समान तरीके से उसने "इंद्रधनुष" लेबल दिया, क्योंकि यह परिदृश्य गीला और बरसात का है, यह एहसास नहीं है कि इंद्रधनुष को एक बहु-रंग की पट्टी की आवश्यकता है।

शायद तंत्रिका नेटवर्क अत्यधिक संवेदनशील होते हैं, और वे हर जगह भेड़ देखते हैं? यह पता चला, नहीं। वे भेड़ें तभी देखते हैं जब वे उन्हें देखने की उम्मीद करते हैं। वे आसानी से खेतों में और पहाड़ों की ढलान पर भेड़ें ढूंढते हैं, लेकिन जैसे ही भेड़ अप्रत्याशित स्थानों पर दिखाई देने लगती हैं, यह स्पष्ट हो जाता है कि ये एल्गोरिदम अनुमान लगाने और संभावनाओं पर कितना भरोसा करते हैं।

भेड़ को कमरे में ले जाएं, और उसे एक बिल्ली के रूप में नामित किया जाएगा। एक भेड़ या बकरी को अपनी बाहों में उठाएं और वे इसे एक कुत्ते के रूप में चिह्नित करेंगे।


“वाम: एक आदमी अपने हाथ में एक कुत्ता रखता है। सही: एक महिला अपने हाथ में एक कुत्ता रखती है। "

उन्हें नारंगी रंग दें और वे फूल बन जाएंगे।


"मैदान में कुछ नारंगी फूल"

भेड़ को एक पट्टा पर रखो और वे इसे एक कुत्ते के रूप में नामित करेंगे। उसे कार में रखो और यह एक कुत्ता या बिल्ली होगा। यदि वे पानी में प्रवेश करते हैं, तो उन्हें पक्षियों या ध्रुवीय भालू के रूप में भी देखा जा सकता है।

और अगर बकरियां एक पेड़ पर चढ़ जाती हैं, तो वे पक्षियों में बदल जाएंगे। या जिराफ (यह पता चला कि जिराफ की अत्यधिक बहुतायत के कारण Microsoft Azure हर जगह देखने के लिए कुख्यात है जो कि प्रारंभिक डेटा सेट में होने की अफवाह थी)।


NeuralTalk2: पक्षियों का एक झुंड हवा में उड़ता है
Microsoft Azure: कई जिराफ़ एक पेड़ के बगल में खड़े हैं

तंत्रिका नेटवर्क पैटर्न को सहसंबंधित करते हैं। वे फर, हरे रंग के पैच के समान बनावट के टुकड़े देखते हैं, और तय करते हैं कि तस्वीर में भेड़ें हैं। यदि वे रसोई से मिलते-जुलते फर और आकृतियों को देखते हैं, तो वे यह तय कर सकते हैं कि वे बिल्लियों को देखते हैं।

यदि जीवन नियमों का पालन करता है, तो छवि मान्यता उसी तरह काम करती है जैसे उसे करना चाहिए। लेकिन जैसे ही लोग या भेड़ कुछ अप्रत्याशित करते हैं, एल्गोरिदम तुरंत कमजोरी दिखाते हैं।

यदि आप तंत्रिका नेटवर्क के अतीत पर किसी का ध्यान नहीं लाना चाहते हैं, तो आपको अतियथार्थवाद द्वारा लगभग साइबरपंक शैली में मदद की जाएगी। शायद भविष्य में, गुप्त एजेंट गायों की तरह गाड़ी चलाएंगे या गायों की तरह गाड़ी चलाएंगे।

ट्विटर थ्रेड में बहुत ही अजीब गलतियों के कई उदाहरण हैं जो एक साधारण प्रश्न से शुरू हुए थे:


और आप स्वयं Microsoft Azure से पैटर्न मान्यता के लिए API के संचालन का परीक्षण कर सकते हैं और यह सुनिश्चित कर सकते हैं कि यहां तक ​​कि सबसे उन्नत एल्गोरिदम भी भाग्य और संभाव्यता पर भरोसा करते हैं। एक और एल्गोरिथ्म, NeuralTalk2, मैं ज्यादातर ट्विटर पर इस टिप्पणी धागे से छवियों को संसाधित करने के लिए उपयोग करता था।