कृत्रिम बुद्धिमत्ता समझ के अवरोध में भाग गई

मशीन सीखने के एल्गोरिदम अभी तक वास्तविकता को नहीं समझते हैं जिस तरह से लोग करते हैं - कभी-कभी विनाशकारी परिणामों के साथ

लेखक के बारे में: मेलानी मिशेल पोर्टलैंड स्टेट यूनिवर्सिटी में कंप्यूटर विज्ञान के प्रोफेसर और सांता फ़े इंस्टीट्यूट में विजिटिंग प्रोफेसर हैं। उनकी पुस्तक, आर्टिफिशियल इंटेलिजेंस: ए गाइड फॉर थिंकिंग पीपल, 2019 में फर्रार, स्ट्रैस और गिरीक्स द्वारा प्रकाशित की जाएगी।


दक्षिण अफ्रीका में आर्टिफिशियल इंटेलिजेंस एक्सपो के आगंतुक, सितंबर 2018। फोटो: शटरस्टॉक के जरिए निक बोथमा / ईपीए

आपने शायद सुना है कि हम एक एआई क्रांति के बीच में हैं। हमें बताया गया है कि मशीन इंटेलिजेंस तेज गति से आगे बढ़ रहा है, "गहन शिक्षण" एल्गोरिदम पर निर्भर है जो "तंत्रिका नेटवर्क" के रूप में जाने जाने वाले जटिल कार्यक्रमों को प्रशिक्षित करने के लिए बड़ी मात्रा में डेटा का उपयोग करता है।

आज के कार्यक्रम चेहरे और रिकॉर्ड भाषण को पहचान सकते हैं। हमारे पास सूक्ष्म वित्तीय धोखाधड़ी का पता लगाने के लिए कार्यक्रम हैं, अस्पष्ट अनुरोधों के जवाब में प्रासंगिक वेब पेज खोजने के लिए, लगभग कहीं भी इष्टतम मार्ग बिछाने के लिए, ये कार्यक्रम शतरंज और गो में दादी को हराते हैं और सैकड़ों भाषाओं के बीच अनुवाद करते हैं। इसके अलावा, मानव रहित वाहन, स्वचालित कैंसर निदान, घर की सफाई करने वाले रोबोट और यहां तक ​​कि स्वचालित वैज्ञानिक खोजों का वादा किया जाता है।

फेसबुक के संस्थापक मार्क जुकरबर्ग ने हाल ही में कहा कि अगले पांच से दस वर्षों में, कंपनी एआई को "सभी बुनियादी इंद्रियों में एक व्यक्ति के स्तर से अधिक: दृष्टि, सुनवाई, भाषा, सामान्य समझ" विकसित करेगी। Google के डीपमाइंड के मुख्य शोधकर्ता शेन लेग ने भविष्यवाणी की है कि "AI 2020 के दशक के मध्य में मानव स्तर को पार कर जाएगा।"

कई दशकों तक एआई के क्षेत्र में काम करने वाले व्यक्ति के रूप में, मैंने ऐसी कई भविष्यवाणियों की विफलता देखी। और मुझे यकीन है कि नवीनतम पूर्वानुमान या तो सच नहीं होंगे। मशीनों में मानव बुद्धि बनाने की समस्या को बहुत कम आंका जाता है। आज के एआई सिस्टम में मानव बुद्धि के सार में कमी है: जिन स्थितियों का हम अनुभव कर रहे हैं, उनके अर्थ को समझने की क्षमता। गणितज्ञ और दार्शनिक जियान-कार्लो रोटा ने प्रसिद्ध प्रश्न पूछा: "मुझे आश्चर्य है कि क्या एआई कभी भी समझ की बाधा को दूर करने में सक्षम होगा।" मेरे लिए, यह अभी भी सबसे महत्वपूर्ण मुद्दा है।

मशीनों में मानवीय समझ की कमी उन समस्याओं पर जोर देती है जो हाल ही में आधुनिक एआई की नींव में दिखाई दी हैं। यद्यपि आधुनिक कार्यक्रम 20-30 साल पहले की प्रणालियों की तुलना में बहुत अधिक प्रभावशाली हैं, कई अध्ययनों से पता चलता है कि गहन शिक्षण प्रणालियां पूरी तरह से अमानवीय तरीकों से असुरक्षा का प्रदर्शन करती हैं।

मैं कुछ उदाहरण दूंगा।

"नंगे सिर वाले व्यक्ति को एक टोपी की ज़रूरत होती है" [नंगे सिर वाले व्यक्ति को टोपी की ज़रूरत होती है] - फोन पर भाषण पहचान कार्यक्रम इस वाक्यांश को पहचानता है कि "भालू के सिर वाले व्यक्ति को टोपी की ज़रूरत है"। वाक्यांश "मैंने सुअर को कलम में डाल दिया" [मैंने सुअर को कलम में रखा] Google अनुवाद का अनुवाद "मैं कलम में सुअर डाल देता हूं" [जेई ले लेचोन डन्स ले स्टाइलो]।

प्रोग्राम जो "पढ़ते हैं" दस्तावेज़ और उनके बारे में सवालों के जवाब आसानी से दिए गए हैं यदि लघु, अप्रासंगिक पाठ टुकड़े दस्तावेज़ में जोड़े जाते हैं। इसी तरह, ऐसे प्रोग्राम जो चेहरे और वस्तुओं को पहचानते हैं (गहरी सीखने की प्रसिद्ध विजय) विफल हो जाते हैं यदि आप इनपुट डेटा को कुछ प्रकार के प्रकाश, छवि फ़िल्टरिंग और अन्य परिवर्तनों के साथ थोड़ा बदल देते हैं जो कम से कम वस्तुओं की मानव मान्यता की दक्षता को प्रभावित नहीं करते हैं। ।

हाल के एक अध्ययन से पता चला है कि चेहरे की छवि के लिए "शोर" की एक छोटी राशि को जोड़ने से आधुनिक चेहरे की पहचान कार्यक्रमों में गंभीरता से हस्तक्षेप होता है। एक अन्य अध्ययन , जिसे विनोदी रूप से "एलीफेंट इन ए रूम" कहा जाता है, एक विचित्र वस्तु की एक छोटी छवि, जैसे कि हाथी, लिविंग रूम की छवि के कोने में एक अजीब तरीके से मशीन विज़न सिस्टम को गहरी शिक्षा में गलत तरीके से अपनी वस्तुओं को वर्गीकृत करता है।

इसके अलावा , "सुपरह्यूमन" स्तर पर विशिष्ट वीडियो गेम या बोर्ड गेम खेलने में महारत हासिल करने वाले कार्यक्रम पूरी तरह से परिस्थितियों में थोड़े बदलाव (स्क्रीन पर पृष्ठभूमि को बदलने या वर्चुअल "प्लेटफॉर्म" की स्थिति को बदलने के लिए खो जाते हैं "गेंद")।

ये केवल कुछ उदाहरण हैं जो सर्वश्रेष्ठ एआई कार्यक्रमों की अविश्वसनीयता को प्रदर्शित करते हैं यदि स्थिति उन लोगों से थोड़ा अलग है जो उन्होंने प्रशिक्षित किया था। इन प्रणालियों में त्रुटियां हास्यास्पद और हानिरहित से लेकर संभावित आपदा तक होती हैं। उदाहरण के लिए, एक हवाई अड्डे की सुरक्षा प्रणाली की कल्पना करें जो आपको उड़ान भरने की अनुमति नहीं देगा क्योंकि आपका चेहरा एक अपराधी, या मानव रहित वाहन के चेहरे के साथ भ्रमित हो गया है, जो कि असामान्य प्रकाश व्यवस्था की स्थिति के कारण, आपने देखा नहीं है कि आप एक चौराहे पर जा रहे हैं।

यहां तक ​​कि अधिक खतरनाक हाल ही में तथाकथित "शत्रुतापूर्ण" उदाहरणों के लिए एआई भेद्यता के प्रदर्शन हैं। उनमें, एक दुर्भावनापूर्ण हैकर छवियों, ध्वनि या पाठ के लिए कुछ परिवर्तन कर सकता है जो मानव के लिए अदृश्य या महत्वहीन हैं, लेकिन संभावित रूप से विनाशकारी एआई त्रुटियों को जन्म दे सकता है।

इस तरह के हमलों की संभावना एआई के लगभग सभी क्षेत्रों में दिखाई देती है, जिसमें कंप्यूटर दृष्टि, चिकित्सा छवि प्रसंस्करण, भाषण मान्यता और प्रसंस्करण शामिल है। कई अध्ययनों में यह आसानी से दिखाया गया है कि हैकर्स चेहरे की पहचान प्रणाली या वस्तुओं को कैसे बदल सकते हैं । स्टॉप रोड साइन पर अदृश्य स्टिकर मशीन विजन सिस्टम को "लो रोड" लेने के लिए मानवरहित वाहन में ले जाता है, और ध्वनि संकेत का संशोधन जो किसी व्यक्ति के लिए पृष्ठभूमि संगीत की तरह लगता है, सिरी या एलेक्सा प्रणाली को गुप्त रूप से एक निश्चित कमांड को निष्पादित करने के लिए कहता है।

ये संभावित कमजोरियाँ बताती हैं कि वर्तमान एआई प्रगति समझने की बाधा पर क्यों टिकी हुई है। जो कोई एआई सिस्टम के साथ काम करता है, वह जानता है कि मानव दृष्टि, भाषण और खेल कौशल के समान एक अग्रभाग के पीछे, ये कार्यक्रम बिल्कुल समझ में नहीं आते हैं - किसी भी मानवीय तरीके से - इनपुट डेटा जो वे प्रसंस्करण के लिए प्राप्त करते हैं और जो परिणाम उत्पन्न करते हैं। इस तरह की समझ की कमी इन कार्यक्रमों को अप्रत्याशित त्रुटियों और अदृश्य हमलों के लिए अतिसंवेदनशील बनाती है।

इस बाधा को दूर करने के लिए क्या आवश्यक होगा ताकि मशीनें छोटे-छोटे हिस्सों पर निर्भर रहने के बजाय उन परिस्थितियों को बेहतर ढंग से समझ सकें जो वे झेल रही हैं? उत्तर खोजने के लिए, आपको मानव ज्ञान के अध्ययन की ओर मुड़ने की आवश्यकता है।

हमारे द्वारा सामना की जाने वाली स्थितियों के बारे में हमारी अपनी समझ व्यापक, सहज "सामान्य ज्ञान अवधारणाओं" पर आधारित है कि दुनिया कैसे काम करती है और अन्य जीवित चीजों, विशेष रूप से अन्य लोगों के लक्ष्यों, उद्देश्यों और संभावित व्यवहार के बारे में कैसे। इसके अलावा, दुनिया की हमारी समझ हमारी मूलभूत क्षमताओं पर आधारित है जो हम जानते हैं कि अमूर्त अवधारणाओं को बनाने और सादृश्य को आकर्षित करने के लिए - संक्षेप में, लचीले ढंग से हमारी अवधारणाओं को नई परिस्थितियों के अनुकूल बनाते हैं। दशकों से, शोधकर्ताओं ने AI सहज ज्ञान युक्त सामान्य ज्ञान और सामान्य बनाने के लिए स्थायी मानव क्षमताओं को पढ़ाने के लिए प्रयोग किया है, लेकिन इस बहुत मुश्किल मामले में बहुत कम प्रगति हुई है।

सामान्य ज्ञान और मानव समझ के अन्य प्रमुख पहलुओं की कमी वाले एआई कार्यक्रम वास्तविक दुनिया के अनुप्रयोगों में तेजी से तैनात हैं। जबकि कुछ लोग AI के "सुपरिन्टिलेजेंस" के बारे में चिंता करते हैं, AI का सबसे खतरनाक पहलू यह है कि हम बहुत ज्यादा भरोसा करते हैं और अपनी सीमाओं के बारे में पूरी तरह से अवगत हुए बिना ऐसे सिस्टम को बहुत अधिक स्वायत्तता देते हैं। जैसा कि शोधकर्ता पेड्रो डोमिंगोस ने अपनी पुस्तक "द मेन अल्गोरिथम" में उल्लेख किया है: "लोगों को चिंता है कि कंप्यूटर बहुत स्मार्ट हो जाएंगे और दुनिया को संभाल लेंगे, लेकिन असली समस्या यह है कि वे बहुत बेवकूफ हैं और पहले ही इसे ले चुके हैं । "

एआई व्यावसायीकरण दौड़ ने शोधकर्ताओं पर संकीर्ण कार्यों में "उचित रूप से अच्छी तरह" काम करने वाली प्रणाली बनाने के लिए भारी दबाव डाला। लेकिन आखिरकार, एक विश्वसनीय एआई को विकसित करने के लक्ष्य के लिए हमारी खुद की उल्लेखनीय क्षमताओं के गहन अध्ययन और संज्ञानात्मक तंत्र की एक नई समझ की आवश्यकता होती है, जिसका उपयोग हम स्वयं हमारे आसपास की दुनिया को मज़बूती से समझने के लिए करते हैं। एआई को समझने में बाधा पर काबू पाने के लिए एक कदम पीछे ले जाने की संभावना है - कभी-कभी बड़े नेटवर्क और डेटासेट से उद्योग की जड़ों तक अंतःविषय विज्ञान के रूप में जो सबसे जटिल वैज्ञानिक समस्या का अध्ययन करता है: बुद्धि की प्रकृति।