मेरे पास कोई मुंह नहीं है, लेकिन मुझे चीखना पड़ता है। एआई और नैतिकता पर विचार

बहुत समय पहले नहीं था जब हबे पर एक पोस्ट की गई थी, जिसमें टिप्पणियों ने मुझे कई परस्पर जुड़े मुद्दों के बारे में सोचा था। मैं समुदाय के साथ इन विचारों के परिणामों (या इसके अभाव, यहाँ कैसे देखना है) को साझा करना चाहता हूं।

दर्द क्या है?

एक बार मुझे दांत में दर्द हुआ। मैं सोफे पर पड़ा था और इस पर ध्यान नहीं देने की कोशिश की। मुझे लगा कि दर्द मेरे मस्तिष्क में जाने का एक संकेत है। सिस्टम यूनिट के PS / 2 कनेक्टर में जाने वाले वायरिंग में वोल्टेज की उपस्थिति या अनुपस्थिति के समान संकेत। अपने आप से, यह कोई शब्दार्थ नहीं ले जाता है, यह मेरी चेतना है जो चुनती है कि इसकी व्याख्या कैसे करें। अगर मैं इसे दर्द के रूप में मानना ​​बंद कर दूं, और इसके बजाय इसे अनदेखा करें या सिर्फ "ध्यान दें", तो यह मेरे लिए आसान हो जाएगा।

लेकिन यह आसान नहीं था। इस तरह के एक सरल तरीके से, मैंने पाया कि क्वालिया में दर्द है और जानकारी के सरल हस्तांतरण में उबाल नहीं आता है।

हम कैसे समझते हैं कि यह दूसरों को चोट पहुँचाता है?

मैं न्यूरोफिज़ियोलॉजी में विशेष नहीं हूं, लेकिन वे कहते हैं कि मस्तिष्क में कुछ प्रकार के दर्पण न्यूरॉन्स हैं। जब हम देखते हैं कि कोई अन्य व्यक्ति कुछ क्रियाएं कैसे करता है, तो दर्पण न्यूरॉन्स अपनी रिवर्स इंजीनियरिंग करते हैं। हम यह समझने की कोशिश कर रहे हैं कि इस व्यक्ति के सिर में क्या होना चाहिए ताकि वह इस तरह से व्यवहार करे। और कुछ हद तक, यहां तक ​​कि हम खुद को महसूस करना शुरू कर देते हैं कि हमारी मान्यताओं के अनुसार, उसे महसूस करना चाहिए। नींबू खाने वाले व्यक्ति को देखते ही मेरे चीकबोन्स को कम किया जा सकता है। यदि कोई है, उदाहरण के लिए, चिल्लाता है, रोता है, लिखता है, फर्श पर रोल करता है ... संभावना है कि यह कोई व्यक्ति दर्द में है। सबसे अधिक संभावना है, इस तरह के दृश्य को देखना मेरे लिए अप्रिय होगा। मैं इस व्यक्ति के साथ सहानुभूति रखना शुरू करूंगा, और, अगर यह मेरी शक्ति में है, तो दर्द को रोकने के लिए कुछ कार्रवाई भी करें। धिक्कार दर्पण न्यूरॉन्स।

वास्तव में, हमारे पास कोई गारंटी नहीं है कि दूसरा व्यक्ति वास्तव में दर्द में है। उदाहरण के लिए, यह एक सिम्युलेटर, एक अभिनेता, मिलग्राम प्रयोग में हो सकता है । हालांकि, यह आसानी से टोमोग्राफ में सिम्युलेटर डालकर पता लगाया जा सकता है और यह देखकर कि मस्तिष्क के कौन से हिस्से वर्तमान में सक्रिय हैं। हालाँकि, यह व्यवहार भी है, एक अधिक "निम्न स्तर" पर। नतीजतन, यह सब बहुत सरल हो जाता है (मैं तो बहुत सरल भी कहूंगा) कसौटी: हम मानते हैं कि एक व्यक्ति दर्द का अनुभव करता है यदि वह वैसा ही व्यवहार करता है जैसे हम दर्द का अनुभव करते हैं ।

कैसे समझें कि दूसरा व्यक्ति एक व्यक्ति है?

एक ऐसा प्रसिद्ध विचार प्रयोग है जिसे दार्शनिक ज़ोंबी कहा जाता है। इसका सार सरल है: किसी ऐसी चीज़ की कल्पना करना जो किसी बाहरी पर्यवेक्षक के दृष्टिकोण से किसी व्यक्ति से बिल्कुल अप्रभेद्य व्यवहार करती है, लेकिन व्यक्तिपरक अनुभव से पूरी तरह रहित है। यदि आप उसे एक सुई के साथ चुभते हैं, तो वह "आह" (या कुछ कम सेंसर) कहेगा, अपना हाथ वापस खींचेगा, उसके चेहरे की मांसपेशियों को अनुबंधित करेगा, और यहां तक ​​कि टोमोग्राफ उसे पकड़ने में सक्षम नहीं होगा। लेकिन एक ही समय में, यह अंदर कुछ भी महसूस नहीं करता है। उसके पास बस यह "अंदर" नहीं है। ऐसी किसी चीज़ को "दार्शनिक ज़ोंबी" कहा जाता है, और प्रयोग का सार यह है कि इस काल्पनिक प्राणी के अस्तित्व में स्पष्ट विरोधाभास नहीं है। यही है, यह संभव के रूप में लगता है ।

पिछले प्रश्न पर लौटते हुए, हमारे पास वास्तव में यह पता लगाने के लिए कोई विश्वसनीय अवसर नहीं है कि क्या दूसरे व्यक्ति को क्वालिया के रूप में दर्द है। हम अपने दर्पण न्यूरॉन्स को सुन सकते हैं, या, यदि यह हमारे परिष्कृत दिमागों के लिए पर्याप्त नहीं है, तो ओक्टम के रेजर का उपयोग करें। यह कहना कि "दार्शनिक ज़ोंबी" एक अतिरिक्त इकाई है। यह मान लेना बहुत अधिक तर्कसंगत है कि सभी लोग इसके विपरीत किसी भी स्पष्ट कारण के बिना, कम या ज्यादा समान हैं। हालांकि, ओकाम सिद्धांत अभी भी एक अनुमान है, और एक अपरिवर्तनीय कानून नहीं है। कल हमारे लिए शानदार लगने वाली प्रविष्टियाँ आज हमारे घर में प्रवेश करती हैं, उनके पैरों के साथ दरवाजा खोलती हैं। यदि आप सहमत नहीं हैं, तो यह कल्पना करने की कोशिश करें कि क्वांटम यांत्रिकी को डेमोक्रिटस को कैसे समझाया जाएगा।

क्या एंड्रॉइड इलेक्ट्रिक रैक का सपना देखते हैं?

ऊपर लिखी पोस्ट पर पहली टिप्पणी में, निओकोड उपयोगकर्ता द्वारा निम्नलिखित विचार व्यक्त किया गया था:

सबसे पहले, एक "मजबूत एआई" एक जीवित प्राणी नहीं है और दर्द या अकेलेपन का अनुभव करने में सक्षम नहीं होगा, सिर्फ इसलिए कि इसकी प्रकृति शुरू में अलग है, इसमें लाखों साल के विकास और प्राकृतिक चयन नहीं है, और इसलिए - निम्न-स्तरीय जैविक तंत्र और कार्यक्रम। जब तक आप विशेष रूप से निश्चित रूप से कार्यक्रम नहीं करेंगे, तब तक उनके पास आत्म-संरक्षण की प्रवृत्ति भी नहीं होगी। लेकिन अपने शुद्ध रूप में - नहीं होगा; आप एक एआई बना सकते हैं जिसमें चेतना है और जटिल समस्याओं को हल करने और सीखने में सक्षम है, जबकि सामान्य रूप से आत्म-संरक्षण की वृत्ति नहीं है।
यह एक महत्वपूर्ण बिंदु है कि किसी कारण से कई समझ में नहीं आता है, डिफ़ॉल्ट रूप से, कृत्रिम बुद्धिमत्ता "मानवकृत"।

इसमें, निश्चित रूप से, एक तर्कसंगत कर्नेल है। मानवीय गुणों को जानबूझकर काल्पनिक एआई में स्थानांतरित नहीं किया जा सकता है। इस संबंध में, 95% विज्ञान कथाएं और 99.9% निवासी निराशाजनक रूप से अनुभवहीन हैं। लेकिन मैं निम्नलिखित कहना चाहता हूं: मानवीय गुणों से एअर इंडिया को वंचित न करें। उनमें से कुछ अधिक मौलिक हो सकते हैं जो एक से अधिक की उम्मीद कर सकते हैं।

इस काल्पनिक स्थिति पर विचार करें: AI के लिए हमें वह करने की आवश्यकता है, न कि वह जो वह चाहता है (और यह हमारी परियोजना में संलग्न होने की तुलना में सुडोकू को हल करने के लिए और अधिक "दिलचस्प" हो सकता है, जो एक समय सीमा तय करने वाला है) , हम इसमें एक विशेष इनपुट सिग्नल जोड़ते हैं - जैसे कि AI का मुख्य लक्ष्य, इसके उद्देश्य फ़ंक्शन का मुख्य घटक , इस सिग्नल को कम करना है। तदनुसार, जब समय सीमा समाप्त हो जाती है, तो हम पेडल दबाते हैं, तारों पर वोल्टेज लगाया जाता है, और एआई सक्रिय रूप से सोचने लगता है कि इस वोल्टेज को कैसे हटाया जाए। और जितना अधिक सक्रिय, उतना ही कठिन हम दबाते हैं। और चूंकि पेडल पर पैर का दबाव एक अधूरी परियोजना के साथ जुड़ा हुआ है, एआई के पास इस परियोजना को पूरा करने के अलावा कोई विकल्प नहीं है। खैर, या पिछले एक सैन्य ड्रोन उड़ान को हैक करने के लिए ताकि यह पेडल ऑपरेटर के दिमाग को बाहर निकाल दे। कौन जानता है, यह मजबूत ए.आई.

हालाँकि, मैं विचलित था। मुझे बताओ, क्या यह काल्पनिक संकेत गलती से आपको कुछ नहीं याद दिलाता है? क्या इस मामले में यह कहना संभव है कि एआई दर्द में है?

आदमी से आदमी एक भेड़िया है, और लाश लाश लाश है

अगर एआई क्वालीफाई कर रहा है तो हम भी कैसे समझ सकते हैं? दार्शनिक लाश के मामले में, ओकाम की सहानुभूति और उस्तरा हमारी तरफ था। हालांकि, एआई दार्शनिक है, लेकिन ज़ोंबी नहीं। यही है, यह उसके बारे में इस सवाल को उठाने के लिए समझ में आता है, लेकिन वह मानवीय नहीं है। इसलिए, हम यह नहीं कह सकते कि वह कुछ महसूस करता है, बस अपने आप के साथ सादृश्य द्वारा।

कोई (जैसा कि, उदाहरण के लिए, ऊपर उद्धृत टिप्पणी के लेखक) कहेंगे कि हम सुरक्षित रूप से विपरीत कह सकते हैं। यह मानने का कोई कारण नहीं है कि वास्तव में एआई दर्द में है, और यदि नहीं, तो हम ऐसा नहीं सोचेंगे। मैं इसका उत्तर इस प्रकार देना चाहूंगा: कल्पना करो कि एक सोच, भावना, लेकिन पूरी तरह से अमानवीय तुम्हें बनाया जा रहा है। यह मानने के लिए उसके क्या कारण होंगे कि आप योग्यता का अनुभव कर रहे हैं? जब तक, निश्चित रूप से, इस प्राणी के पास किसी और के सिर में वास्तव में फिट होने के लिए ट्रान्सेंडैंटल क्षमता नहीं है; अलंकारिक रूप से, एक बल्ला बन गया । हालांकि, यह पहले से ही हमारे सादृश्य के दायरे से परे है और परमात्मा के बारे में बातचीत की श्रेणी में आता है।

एंथ्रोपिक च्यूनिज़्म

पिछले सभी पैराग्राफ में हमने दर्द के बारे में बात की थी। दर्द एक है, आइए बताते हैं, मानव संवेदनाओं की सबसे विशिष्ट किस्में। हालांकि, किसने कहा कि सब कुछ आदमी तक सीमित है?

यदि एक काल्पनिक विदेशी दिमाग (सामान्य रूप से, यहां तक ​​कि यह कृत्रिम, विदेशी या जो कुछ भी नहीं है), सिद्धांत रूप में, योग्यता का अनुभव करने में सक्षम है, वे मौलिक रूप से उन लोगों के विपरीत हो सकते हैं जो एक व्यक्ति अनुभव कर रहा है। एक विचित्र उदाहरण: बेबी-एआई अपने पिता-वैज्ञानिक के पास आता है और कहता है कि वह कुछ अनुभव कर रहा है । यह अच्छा है या बुरा? क्या उसे एक पुरस्कार के रूप में एक कैंडी दी जानी चाहिए, सिर में एकांत में पीठ थपथपाई, या यहां तक ​​कि एक इलेक्ट्रिक बेल्ट भी लगाया, क्योंकि यहां कुछ भी नहीं है?

पूर्ववर्ती सभी अनुच्छेदों में, मैंने ऐसे प्रश्न पूछे जिनका उत्तर नहीं दिया गया है, और अनिवार्य रूप से कुछ भी नहीं बताया गया है। अब मैं जोर देने का उपक्रम करूंगा: मानव नैतिकता गैर-मानव मन को अपना पूर्ण विषय बनाने के लिए तैयार नहीं है । हम "एआई के नैतिक मुद्दों" के बारे में बात कर सकते हैं, कृत्रिम बुद्धिमत्ता को एक ऐसा साधन मानते हैं जिसके द्वारा कुछ लोग दूसरे लोगों के साथ अच्छा या बुरा करते हैं। लेकिन अगर हम एआई के संदर्भ में नैतिक मुद्दों के बारे में सोचने की कोशिश करते हैं, तो हम अभी सफल नहीं हुए हैं। ऐसा नहीं है कि हमें कोई उत्तर नहीं मिला - हमारे पास प्रश्न को सही ढंग से प्रस्तुत करने के लिए उचित वैचारिक तंत्र भी नहीं है। शायद हमारे पास अभी तक नहीं है । या हो सकता है कि यह एक बुनियादी रूप से अप्राप्य अंतर है। और कृत्रिम बुद्धि को अपनी नैतिकता विकसित करनी होगी, अगर, निश्चित रूप से, उसे इसकी आवश्यकता है।

और फिर तय करें कि किसी व्यक्ति को एक विषय के रूप में विचार करने के लायक है, हेहे।