एआई जवाबदेही: व्याख्यात्मक नोट की भूमिका

आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम जोर पकड़ रहा है। इस संबंध में, वकील और कानून निर्माता इस समस्या पर चर्चा करते हैं कि ऐसी प्रणालियों को कैसे विनियमित किया जाना चाहिए, जो उनके कार्यों के लिए जिम्मेदार होंगे। इस मुद्दे को सावधानीपूर्वक अध्ययन और एक संतुलित दृष्टिकोण की आवश्यकता है, क्योंकि एआई सिस्टम भारी मात्रा में डेटा उत्पन्न करने में सक्षम हैं और विभिन्न कार्यक्षमता के अनुप्रयोगों में उपयोग किया जाता है - चिकित्सा प्रणालियों और कारों में ऑटोपिलॉट से लेकर अपराधों की भविष्यवाणी करने और संभावित अपराधियों की गणना करने के लिए। उसी समय, वैज्ञानिक तर्क करने में सक्षम "मजबूत एआई" बनाने के लिए प्रयास कर रहे हैं, और सवाल यह उठता है कि अपने कार्यों में इरादे की उपस्थिति का निर्धारण कैसे करें - या अनजाने में कार्यों को पहचानने के लिए।

एआई प्रणाली को जवाबदेही और जिम्मेदारी में लाने के कई तरीके हैं, इस विषय पर कई अध्ययन प्रकाशित किए गए हैं। एक नए शोध पत्र में , कंप्यूटर विज्ञान, संज्ञानात्मक विज्ञान विशेषज्ञों और हार्वर्ड और कैम्ब्रिज विश्वविद्यालयों (यूएसए) के वकीलों ने भविष्य के एआई जवाबदेही प्रणाली के एक घटक पर चर्चा की, अर्थात् एआई से एक व्याख्यात्मक नोट की भूमिका, अर्थात्, कृत्रिम बुद्धि प्रणाली अपने कार्यों को कैसे समझाती है, इसका आकलन। । वैज्ञानिक इस निष्कर्ष पर पहुंचे कि क्रियाओं को समझाने के लिए मॉड्यूल को सामान्य AI सिस्टम से अलग किया जाना चाहिए।

वैज्ञानिक कार्य के लेखक एआई प्रणाली को उसके कार्यों के स्पष्टीकरण के लिए पूछने की कोशिश करते समय उत्पन्न होने वाली सभी समस्याओं का वर्णन करते हैं।

सबसे पहले, इस तरह के अवसर को सिस्टम डेवलपमेंट के चरण में प्रदान किया जाना चाहिए, अन्यथा एआई मना कर सकता है या अपने कार्यों की व्याख्या करने में सक्षम नहीं होगा।

दूसरे, AI सिस्टम जटिल मालिकाना एल्गोरिदम या विधियों का उपयोग करके डेटा की एक बड़ी सरणी को संसाधित करता है जिसे उसने स्वयं सीखने की प्रक्रिया में विकसित किया है। इस प्रकार, जब वह अपने कार्यों को सबसे पूर्ण तरीके से समझाने की कोशिश कर रहा है, तो वह बहुत अधिक डेटा उत्पन्न कर सकता है जो किसी व्यक्ति के लिए समझ से बाहर है। या - अन्य चरम की तरह - एक बहुत ही सरल मॉडल प्रदान करेगा जो एआई के वास्तविक इरादों और कार्यों के उद्देश्यों को प्रतिबिंबित नहीं करेगा। इसके अलावा, AI सिस्टम का ऑपरेशन एल्गोरिदम विकासशील कंपनी की बौद्धिक संपदा हो सकता है, इसलिए सिस्टम के कार्यों के कारणों को स्थापित करने के लिए एक व्याख्यात्मक नोट को संकलित करने के लिए इस तरह की विधि प्रदान करना आवश्यक है, लेकिन अंतर्निहित नियमों को बाहर करने के लिए नहीं।

शोधकर्ताओं का मानना ​​है कि एआई सिस्टम के कामकाज को रेखांकित करने वाले एल्गोरिदम और नियमों का खुलासा किए बिना एक स्पष्टीकरण संभव है। किसी घटना की स्थिति में, सिस्टम को निम्नलिखित प्रश्नों के उत्तर देने चाहिए:

• निर्णय को प्रभावित करने वाले मुख्य कारक क्या हैं?
• क्या एक निश्चित कारक में बदलाव से निर्णय में बदलाव आएगा?
• दो समान मामलों ने अलग-अलग समाधान क्यों किए?

इस तरह के सवालों के जवाब के लिए जरूरी नहीं है कि मालिकाना रहस्य और आंतरिक प्रणाली के एल्गोरिदम का खुलासा हो, लेकिन साथ ही वे इसके उद्देश्यों की स्पष्ट समझ देंगे।

वैज्ञानिकों का तर्क है कि जिन मामलों में एआई को अपने कार्यों की व्याख्या करने की आवश्यकता होती है, उनके लिए उपयुक्त है। वास्तव में, यह उन मामलों में आवश्यक है जहां स्पष्टीकरण का लाभ इसकी प्राप्ति की कीमत से आगे निकल जाता है: “हम मानते हैं कि उन स्थितियों के लिए तीन शर्तें हैं जहां कंपनी निर्णयकर्ता से स्पष्टीकरण प्राप्त करना आवश्यक समझती है। ये नैतिक, सामाजिक या कानूनी कारण हैं, ”पेपर के प्रमुख लेखक फिनाले दोशी-वेलेज़ बताते हैं।

उसी समय, किसी को हर स्थिति में एआई से स्पष्टीकरण की मांग नहीं करनी चाहिए। जैसा कि ऊपर उल्लेख किया गया है, यह व्यापार रहस्य जारी करने के जोखिम को बढ़ाता है और एआई सिस्टम डेवलपर्स पर एक अतिरिक्त बोझ डालता है। दूसरे शब्दों में, मनुष्यों के लिए AI की निरंतर जवाबदेही इन प्रणालियों के विकास को बाधित करेगी, जिसमें मनुष्यों के लिए महत्वपूर्ण क्षेत्र भी शामिल हैं।

व्यापक विश्वास के विपरीत कि एआई प्रणाली एक ब्लैक बॉक्स है, जिसके कारण मनुष्यों के लिए समझ से बाहर हैं, वैज्ञानिक कार्य के लेखकों को यकीन है कि एआई के कार्यों को समझाने के लिए एक सामान्य रूप से काम करने वाले मॉड्यूल को विकसित किया जा सकता है। इस मॉड्यूल को सिस्टम में एकीकृत किया जाएगा, लेकिन निर्णय लेने वाले एल्गोरिदम के स्वतंत्र रूप से काम करेंगे और उनका पालन नहीं करेंगे।

वैज्ञानिकों का मानना ​​है कि कार्यों की व्याख्या में कुछ बिंदु हैं जो लोगों को मशीनों के लिए निर्धारित करना और कठिन हैं, और इसके विपरीत।

समझाने के लिए मानवीय क्षमताओं और AI की तुलना

	लोग	ऐ
लाभ	पीछे के कार्य को समझा सकते हैं	पुनरुत्पादकता, सामाजिक दबाव की कमी
कमियों	गलत और अविश्वसनीय हो सकता है, सामाजिक दबाव महसूस करता है	स्पष्टीकरण मॉड्यूल की प्रारंभिक प्रोग्रामिंग, अतिरिक्त वर्गीकरण और भंडारण प्रणाली के विस्तार की आवश्यकता है

हालांकि, विशेषज्ञ समूह एआई सिस्टम के लिए पहले मानक निर्धारित करने की सिफारिश करता है, जो कि उनके कार्यों को समझाने के लिए है जो वर्तमान में लोगों के लिए निर्धारित है (यह मानक अमेरिकी कानून में वर्तनी में है: विशेष रूप से, सख्त दायित्व, तलाक और भेदभाव के मामलों में स्पष्टीकरण की आवश्यकता है, प्रशासनिक निर्णय लेने और न्यायाधीशों और जजों से अपने फैसले समझाने के लिए - हालाँकि व्याख्यात्मक नोट के विस्तार का स्तर प्रत्येक मामले में बहुत अलग है)।

लेकिन अगर एआई के कार्यों के कारण मनुष्य की समझ से परे हो जाते हैं, तो भविष्य में एआई के लिए खाते में, उनके व्याख्यात्मक नोटों के लिए एक और मानक विकसित किया जा सकता है, वैज्ञानिकों का कहना है।

वैज्ञानिक लेख 3 नवंबर, 2017 को प्रीप्रिंट साइट arXiv.org (arXiv: 1711.01134v1) पर प्रकाशित किया गया था।