एअर इंडिया के लिए कार्गो पंथ: सुपरहुमन आर्टिफिशियल इंटेलिजेंस मिथ

मैंने सुना है कि भविष्य में, कंप्यूटर AI हमारे मुकाबले इतना स्मार्ट हो जाएगा कि वे हमारी सारी नौकरियां और संसाधन छीन लेंगे, और लोग मर जाएंगे। क्या ऐसा है?

यह एआई के बारे में मेरे भाषणों में सबसे आम सवाल है। जो लोग उससे पूछते हैं वे ईमानदारी से चिंतित हैं, और उनकी चिंता अन्य लोगों से आती है - विशेषज्ञ जो एक ही सवाल पूछते हैं। उनमें से आप आज रहने वाले सबसे चतुर लोगों से मिल सकते हैं - उदाहरण के लिए, स्टीफन हॉकिंग , एलोन मस्क , मैक्स टेगमार्क , सैम हैरिस और बिल गेट्स - और वे सभी इस तरह के परिदृश्य की संभावना में विश्वास करते हैं। हाल ही में एआई सम्मेलन में, नौ सबसे अधिक जानकार एआई लोगों की एक समिति ने सहमति व्यक्त की कि हम अलौकिक एआई के आगमन से बच नहीं सकते।



लेकिन एआई की दुनिया पर विजय प्राप्त करने के इस परिदृश्य में पांच धारणाएं शामिल हैं, जो कि सावधानीपूर्वक अध्ययन पर निकलती हैं, जो सबूतों पर आधारित नहीं हैं। ये कथन भविष्य में न्यायसंगत हो सकते हैं, लेकिन अब उनमें से किसी के पास भी सबूत नहीं हैं। ये धारणाएं हैं:

1. AI पहले से ही हमसे ज्यादा स्मार्ट होता जा रहा है, और इसकी शक्ति तेजी से बढ़ रही है।
2. हम अपने समान एक सामान्य AI बनाएंगे।
3. हम सिलिकॉन आधारित मानव बुद्धि बनाने में सक्षम हैं।
4. बुद्धि बिना सीमा के बढ़ने में सक्षम है।
5. अधीक्षण के विस्फोट के बाद, वह हमारी सभी समस्याओं को हल करने में हमारी मदद करेगा।

इस रूढ़िवादी कैनन पर एक आपत्ति के रूप में, मैं पांच आनुवांशिक कथन दूंगा, जो मुझे लगता है कि इसके और भी कारण हैं।

1. खुफिया एक आयामी नहीं है, इसलिए "लोगों की तुलना में होशियार" की अवधारणा का कोई मतलब नहीं है।
2. न तो मनुष्य और न ही एआई में सामान्य-उद्देश्य चेतना है।
3. अन्य मीडिया पर मानवीय सोच का अनुकरण उसके निर्माण की लागत से सीमित होगा।
4. बुद्धि के आयाम अनंत नहीं हैं।
5. खुफिया प्रगति के कारकों में से एक है।

यदि अतिमानवीय एआई (एसआईआई) की उपस्थिति की उम्मीद पांच प्रमुख मान्यताओं पर आधारित है, जिसका कोई सबूत नहीं है, तो यह विचार धार्मिक विश्वास या मिथक की तरह है। आगे, मैं अपनी प्रत्येक पाँच प्रति-धारणाओं पर विस्तार करूंगा, और मैं साबित करूंगा कि SII वास्तव में एक मिथक है।

1।

एआई के बारे में सबसे आम गलत धारणा प्राकृतिक बुद्धि के बारे में गलत धारणा के साथ शुरू होती है। इसमें यह तथ्य समाहित है कि बुद्धिमत्ता एक आयामी है। अधिकांश तकनीकें इंटेल को चित्रित करती हैं जैसा कि निक बोस्ट्रोम सुपरिंटिग्नेस में करता है, बढ़ते आयाम के साथ एक आयामी रेखा ग्राफ के रूप में।



एक तरफ कम बुद्धि है, उदाहरण के लिए, एक छोटा जानवर; दूसरी ओर, एक उच्च, कहना, प्रतिभा - जैसे कि बुद्धि को डेसीबल में एक ध्वनि स्तर के रूप में दर्शाया जा सकता है। बेशक, इस मामले में यह कल्पना करना आसान है कि बुद्धि की मात्रा बढ़ती रहती है और परिणामस्वरूप, हमारे उच्च बौद्धिक स्तर से अधिक हो जाती है और एक अति-जोरदार बुद्धि बन जाती है - एक दहाड़! - हमारे लिए और अनुसूची से परे दुर्गम।

यह मॉडल शीर्ष पर एक सीढ़ी के बराबर है जिस पर प्रत्येक बाद की बुद्धि एक कदम पिछले एक से अधिक है। छोटे जानवर निचले चरणों पर हैं, और उच्च-स्तरीय एआई हमें आगे निकल जाएगा और उपरोक्त चरणों पर होगा। इस घटना की समयावधि मायने नहीं रखती, केवल रैंकिंग मायने रखती है - बढ़ती हुई बुद्धि का मीट्रिक।


इस मॉडल के साथ समस्या यह है कि यह विकास की सीढ़ी के रूप में पौराणिक है। डार्विन से पहले, प्राकृतिक दुनिया को एक सीढ़ी के रूप में माना जाता था, जिस पर छोटे जानवर व्यक्ति के नीचे स्थित थे। डार्विन के बाद भी, यह एक "सीढ़ी" के रूप में विकास के बारे में सोचने का प्रथागत था, जिसके अनुसार मछली सरीसृप में बदल गई, फिर स्तनधारियों में, फिर प्राइमेट्स में, मनुष्यों में, और प्रत्येक चरण विकास की थोड़ी "उच्च अवस्था" पर है और इसलिए पिछले लोगों की तुलना में अधिक स्मार्ट माना जाता है। तो बुद्धि की सीढ़ी अस्तित्व की सीढ़ी के अनुरूप है। लेकिन इन मॉडलों में पूरी तरह से अवैज्ञानिक दृष्टिकोण है।



प्रजातियों के प्राकृतिक विकास का एक अधिक सटीक चित्रण एक विस्तार डिस्क है, जैसा कि ऊपर चित्र में है, पहले टेक्सास विश्वविद्यालय के डेविड हिलिस द्वारा प्रस्तावित और डीएनए के आधार पर बनाया गया है। यह वंशावली मंडला जीवन के सबसे आदिम रूपों के साथ केंद्र में शुरू होता है, और फिर समय में बाहर शाखाएं। समय बाहर चला जाता है, इसलिए जीवन के सबसे नए प्रकार जो आज के ग्रह की परिधि के आसपास हैं। यह छवि विकास के तथ्य पर जोर देती है, जिसे स्वीकार करना मुश्किल है: आज जीवित रहने वाली प्रत्येक प्रजाति समान रूप से विकसित है। लोग इस रिंग पर कॉकरोच, मोलस्क, फर्न, लोमड़ी और बैक्टीरिया के साथ मौजूद होते हैं। प्रत्येक प्रजाति तीन अरब वर्षों के सफल प्रजनन की निरंतर श्रृंखला से गुजरी, जिसका अर्थ है कि आज के बैक्टीरिया और कॉकरोच उतने ही विकसित रूप में मनुष्य के रूप में विकसित हैं। कोई सीढ़ी नहीं है।

इसी तरह, बुद्धि के लिए कोई सीढ़ी नहीं है। बुद्धिमत्ता एक आयामी नहीं है। यह कई प्रकार और मान्यता मोड का एक जटिल है, जिनमें से प्रत्येक एक निरंतरता है। पशु बुद्धि को मापने का सबसे सरल कार्य करें। यदि बुद्धि एक-आयामी थी, तो हम बस सही आरोही क्रम में तोते, डॉल्फिन, घोड़े, गिलहरी, ऑक्टोपस, ब्लू व्हेल, बिल्ली और गोरिल्ला की बुद्धि का निर्माण करेंगे। लेकिन आज हमारे पास ऐसी रेखा के अस्तित्व का कोई वैज्ञानिक प्रमाण नहीं है। इसका एक कारण जानवरों में समझदारी के बीच अंतर का अभाव हो सकता है, लेकिन हम यह भी नहीं देखते हैं। जंतु विज्ञान जानवरों की सोच में अंतर के अद्भुत उदाहरणों से भरा है। लेकिन शायद वे सभी एक रिश्तेदार "सामान्य बुद्धि" है? शायद, लेकिन उसके लिए हमारे पास मापने और मैट्रिक्स का कोई तरीका नहीं है। कई तरह के संज्ञान के लिए हमारे पास कई अलग-अलग मीट्रिक हैं।



डेसिबल के साथ एक एकल पंक्ति के बजाय, खुफिया का एक अधिक सटीक मॉडल इसके संभाव्य स्थान का एक ग्राफ होगा, जैसे कि, उदाहरण के लिए, ऊपर की आकृति, संभव रूपों का प्रतिनिधित्व करना। इंटेलिजेंस एक जुझारू निरंतरता है। कई नोड्स, जिनमें से प्रत्येक एक निरंतरता है, उच्च आयामों में जटिल और विविध संरचनाएं बनाते हैं। कुछ बुद्धि बहुत जटिल हो सकती है और सोच के कई उप-नोड हो सकते हैं। दूसरों को सरल हो सकता है, लेकिन अंतरिक्ष में एक कोण लेकर, आगे खिंचाव। इन परिसरों, जिन्हें हम बुद्धि कहते हैं, को कई प्रकार के उपकरणों से युक्त सिम्फनी माना जा सकता है। वे न केवल मात्रा में भिन्न होते हैं, बल्कि स्वर, माधुर्य, रंग, टेम्पो आदि में भी भिन्न होते हैं। उन्हें पारिस्थितिक तंत्र के रूप में दर्शाया जा सकता है। और इस अर्थ में, सोच के विभिन्न नोड्स-घटक एक दूसरे पर निर्भर करते हैं और एक साथ निर्मित होते हैं।

जैसा कि मार्विन मिंस्की ने कहा, मानव मन दिमागों का समुदाय है। हम सोच के पारिस्थितिक तंत्र पर काम करते हैं। हमारे अंदर कई तरह की सोच होती है जो कई तरह की सोच के साथ होती है: कटौती, प्रेरण, प्रतीकात्मक तर्क, भावनात्मक बुद्धिमत्ता, स्थानिक तर्क, अल्पकालिक स्मृति और दीर्घकालिक स्मृति। हमारी आंतों का तंत्रिका तंत्र भी एक निश्चित प्रकार का मस्तिष्क है जिसकी अपनी सोच है। हम सिर्फ एक मस्तिष्क के साथ नहीं सोचते हैं, हम पूरे शरीर के साथ सोचते हैं।

सोच के ये सेट अलग-अलग से अलग-अलग और प्रजातियों से प्रजातियों में भिन्न होते हैं। गिलहरी वर्षों के लिए कई हजार एकोर्न के सटीक स्थान को याद कर सकती है, जो मानव मन को पूरी तरह से प्रभावित करती है। तो इस तरह की सोच में प्रोटीन इंसानों से बेहतर है। यह महाशक्ति अन्य विधाओं के साथ जुड़ी हुई है, हमारी तुलना में लुप्त होती है, और यह संबंध गिलहरी का मन बनाता है। जानवरों के साम्राज्य में अवसरों के कई अन्य उदाहरण हैं जो मानव से बेहतर हैं, और वे विभिन्न प्रणालियों में भी शामिल हैं।



एआई के लिए भी यही सच है। कृत्रिम दिमाग पहले से ही कुछ निश्चित आयामों में मनुष्यों से बेहतर हैं। आपका कैलकुलेटर गणित में एक प्रतिभा है, Google की मेमोरी पहले से ही एक निश्चित आयाम में हमारे से बेहतर है। हम एआई बनाते हैं जो कुछ मोड में बाहर खड़े होते हैं। हम इनमें से कुछ चीजें खुद करने में सक्षम हैं, लेकिन वे इसे बेहतर करते हैं - उदाहरण के लिए, संभावना या गणित के क्षेत्र में। सोचने के अन्य तरीके हमारे लिए उपलब्ध नहीं हैं - केवल एक खोज इंजन छह अरब वेब पृष्ठों पर हर शब्द को याद कर सकता है। भविष्य में हम पूरी तरह से नए प्रकार की सोच के साथ आएंगे जो हमारे पास नहीं है, और वास्तव में जीवित प्रकृति में है। कृत्रिम उड़ान का आविष्कार, हम जैविक उड़ान शासन से प्रेरित थे, मुख्य रूप से पंखों का फड़फड़ाना। लेकिन हमने ऐसी उड़ानों का आविष्कार किया - प्रोपेलर और निश्चित पंखों के साथ - जो कि जैविक दुनिया के लिए अज्ञात थे। यह किसी और की उड़ान है। उसी तरह, हम सोच के नए तरीकों के साथ आएंगे जो प्रकृति में मौजूद नहीं हैं। कई मामलों में, वे एक विशिष्ट नौकरी के लिए डिज़ाइन किए गए नए, विशिष्ट, छोटे मोड होंगे - शायद केवल सांख्यिकी और संभाव्यता सिद्धांत के लिए उपयुक्त एक प्रकार का तर्क।

अन्य मामलों में, नया दिमाग सोच के प्रकारों का एक जटिल समूह होगा जिसका उपयोग हम उन समस्याओं को हल करने के लिए कर सकते हैं जो हमारी बुद्धिमत्ता के लिए उत्तरदायी नहीं हैं। व्यापार और विज्ञान की सबसे जटिल समस्याओं में से कई को दो-चरण समाधान की आवश्यकता हो सकती है। स्टेज एक: सोच की एक नई विधा का आविष्कार करें जो हमारे दिमाग के साथ काम कर सके। दूसरा: समस्या को हल करने के लिए उन्हें संयोजित करें। चूँकि हम उन समस्याओं को हल करते हैं जो पहले हमारे लिए दुर्गम थीं, हम इस नए प्रकार की सोच को "अधिक बुद्धिमान" कहना चाहते हैं, जो हम हैं, लेकिन वास्तव में यह हमसे अलग है। एआई का मुख्य लाभ अलग सोच है। मुझे लगता है कि एआई को विदेशी सोच (या कृत्रिम एलियंस) के रूप में सोचना उपयोगी है। उसकी असामान्यता ही उसका मुख्य गुण होगा।

साथ ही, हम इन विभिन्न तरीकों को दिमाग के अधिक जटिल समुदायों में एकीकृत करेंगे। इनमें से कुछ परिसर हमारे मुकाबले अधिक जटिल होंगे, क्योंकि वे उन समस्याओं को हल कर सकते हैं जो हमारे लिए दुर्गम हैं, और फिर कोई उन्हें अलौकिक कहना चाहता है। लेकिन हम Google SII को नहीं कहते हैं, हालाँकि उसकी याददाश्त हमारे ऊपर है, क्योंकि कई चीजें हैं जो हम उससे बेहतर कर सकते हैं। ये AI कॉम्प्लेक्स हमें कई आयामों में पार करने में सक्षम होंगे, लेकिन कोई भी ऐसा सब कुछ नहीं कर सकता जो हम हमसे बेहतर करते हैं। इसकी तुलना लोगों की शारीरिक क्षमताओं से की जा सकती है। औद्योगिक क्रांति पहले से ही 200 साल पुरानी है, और हालांकि सामान्य मशीनों में किसी व्यक्ति की शारीरिक क्षमताओं (गति, भारोत्तोलन, सटीक कटिंग, आदि) को पार कर जाता है, लेकिन कोई भी मशीन ऐसा नहीं है जो औसत व्यक्ति को हर चीज में पार करने में सक्षम हो।

और जब मन का एआई समुदाय अधिक जटिल होता जा रहा है, यह जटिलता अभी भी वैज्ञानिक रूप से मापना मुश्किल है। हमारे पास जटिलता के लिए अच्छे मैट्रिक्स नहीं हैं जो यह निर्धारित कर सकते हैं कि बोइंग 747 का ककड़ी अधिक कठिन है या यह वर्णन करें कि उनकी कठिनाइयां कैसे भिन्न होती हैं। यह एक कारण है कि हमारे पास दिमाग के लिए अच्छे मेट्रिक्स नहीं हैं। यह निर्धारित करना बहुत मुश्किल होगा कि क्या माइंड A, माइंड B की तुलना में अधिक कठिन है, और इसलिए, यह समझना मुश्किल है कि उनमें से कौन अधिक स्मार्ट है। जल्द ही हमें समझ में आ जाएगा कि मन एक आयामी नहीं है, और वास्तव में हम सभी कई तरीकों से रुचि रखते हैं जिसमें बुद्धि कार्य करने में सक्षम है - उन सभी नोड्स के अनुभूति जिन्हें हमने अभी तक नहीं खोजा है।

2।

मानव बुद्धि से संबंधित दूसरी त्रुटि यह है कि हमारा मन सार्वभौमिक है, यह एक सामान्य उद्देश्य है। इस विश्वास के कारण एआई शोधकर्ताओं का एक सामान्यीकृत एआई, ओआईआई बनाने के लिए अक्सर घोषित लक्ष्य का उदय हुआ है। हालांकि, अगर हम बुद्धिमत्ता को संभावनाओं के एक बड़े स्थान के रूप में मानते हैं, तो इसके पास सामान्यीकृत स्थिति नहीं है। मानव बुद्धि एक केंद्रीय स्थिति में नहीं है जिसके चारों ओर अन्य विशिष्ट बुद्धि घूमती हैं। मानव बुद्धि एक बहुत ही विशेष प्रकार की बुद्धि है जो लाखों वर्षों के विकास के परिणामस्वरूप उभरी है ताकि हमारी प्रजाति इस ग्रह पर जीवित रहे। यदि आप इसे सभी संभावित बुद्धिमानों के स्थान पर रखते हैं, तो यह कोने में कहीं होगा, जैसे हमारी दुनिया एक विशाल आकाशगंगा के किनारे पर है।

हम निश्चित रूप से कल्पना कर सकते हैं और यह सोचकर आविष्कार भी कर सकते हैं कि एक सार्वभौमिक स्विस चाकू जैसा दिखता है। वह कार्यों का एक गुच्छा के साथ एक बहुत अच्छा काम करता है, लेकिन वह उनमें से किसी के साथ बहुत अच्छा नहीं करता है। एआई उसी इंजीनियरिंग अधिकतम का पालन करेगा जो सभी निर्मित या जन्मजात चीजों का पालन करता है: आप हर आयाम को अनुकूलित नहीं कर सकते। केवल समझौता संभव है। यह विशिष्ट लोगों के लिए एक सामान्यीकृत बहुक्रियाशील इकाई बनाने के लिए काम नहीं करेगा। एक बड़ा दिमाग, "कुछ भी करने में सक्षम", यह सब और साथ ही विशेष करने में सक्षम नहीं होगा। चूँकि हम अपने दिमाग के सामान्यीकरण में विश्वास करते हैं, इसलिए हम मानते हैं कि सोच का इंजीनियरिंग के साथ समझौता करना नहीं है, यह सोच के सभी तरीकों को अधिकतम करने वाली बुद्धि बनाने के लिए संभव होगा। लेकिन इसके लिए कोई सबूत नहीं है। हमने अभी तक पूरे अंतरिक्ष को देखने के लिए मन के लिए पर्याप्त विकल्पों का आविष्कार नहीं किया है (और अब तक हम जानवरों के दिमाग को दूर कर रहे हैं, एक आयामी आयाम के साथ उनका मूल्यांकन कर रहे हैं)।

3।

इस विश्वास का एक हिस्सा सार्वभौमिक कंप्यूटिंग की अवधारणा से आता है। औपचारिक रूप से 1950 में चर्च-ट्यूरिंग थीसिस के रूप में वर्णित इस धारणा में कहा गया है कि एक निश्चित सीमा तक पहुँचने वाले सभी अभिकलन समतुल्य हैं। इसलिए, सभी गणनाओं के लिए एक सार्वभौमिक कोर है, और चाहे वे एक ही मशीन में कई तेज भागों, या धीमे भागों, या जैविक मस्तिष्क में होते हैं - यह सब एक और एक ही तार्किक प्रक्रिया है। और इसका मतलब है कि "सार्वभौमिक" कंप्यूटिंग में सक्षम किसी भी मशीन में किसी भी कंप्यूटिंग प्रक्रिया (सोच) का अनुकरण करना संभव है। विलक्षणता के अनुयायी इस सिद्धांत पर आधारित होते हैं, उम्मीद करते हैं कि हम सिलिकॉन दिमाग बना सकते हैं जो मानव मन को समायोजित कर सकते हैं, और हम एक कृत्रिम दिमाग बना सकते हैं जो सोचते हैं कि मनुष्य केवल बहुत चालाक है। यह आशा संदेहपूर्ण होनी चाहिए, क्योंकि यह चर्च-ट्यूरिंग परिकल्पना की गलतफहमी पर आधारित है।

इस परिकल्पना का प्रारंभिक बिंदु इस प्रकार है: "यदि एक अनंत फिल्म (स्मृति) और समय है, तो सभी गणना बराबर हैं।" समस्या यह है कि वास्तव में कंप्यूटर में अनंत स्मृति और समय नहीं है। वास्तविक दुनिया में, वास्तविक समय महत्वपूर्ण होता है, अक्सर जीवन और मृत्यु का भी मामला होता है। हां, समय की अनदेखी होने पर सभी सोच बराबर हो सकती हैं। हां, आप किसी भी मैट्रिक्स पर मानवीय सोच का अनुकरण कर सकते हैं, जब तक कि आप समय या डेटा और मेमोरी स्टोरेज की वास्तविक सीमाओं की अनदेखी करते हैं। हालांकि, समय को शामिल करके, इस सिद्धांत को काफी हद तक फिर से परिभाषित करना संभव होगा: "बहुत अलग प्लेटफार्मों पर चलने वाले दो कंप्यूटिंग सिस्टम समय के बराबर नहीं होंगे।" या: "सोच के समान पैटर्न प्राप्त करने का एकमात्र तरीका उन्हें बराबर प्लेटफार्मों पर चलाना है।" भौतिक द्रव्य जिस पर गणना कार्य करती है - विशेषकर जब वे अधिक जटिल हो जाते हैं - नाटकीय रूप से उस प्रकार की सोच को प्रभावित करते हैं जो वास्तविक समय में सफलतापूर्वक कार्य कर सकते हैं।

मैं इन तर्कों को जारी रखूंगा और कहूंगा कि मानव के करीब सोचने की एक प्रक्रिया प्राप्त करने का एकमात्र तरीका मानव के समान नरम और नम ऊतक पर गणनाओं को चलाना है। इसका मतलब है कि सूखे सिलिकॉन पर काम करने वाले बहुत बड़े और जटिल एआई हमें बड़े, जटिल और अमानवीय प्रकार की सोच देंगे। यदि मानवों के समान विकसित न्यूरॉन्स का उपयोग करके कृत्रिम गीला मस्तिष्क बनाना संभव हो जाता है, तो मैं कहूंगा कि उनके विचार हमारे लिए बहुत समान होंगे। इस तरह के गीले मस्तिष्क के लाभ आनुपातिक हैं कि हम नींव कैसे बना सकते हैं। इस तरह के एक "मानव कंप्यूटर" बनाने की लागत बहुत बड़ी है, और ऊतक मस्तिष्क के ऊतकों के जितना करीब है, उतना ही प्रभावी रूप से एक व्यक्ति बनाने के लिए होगा। अंत में, हम इसे नौ महीने में कर सकते हैं।

इसके अलावा, जैसा कि ऊपर बताया गया है, हम पूरे शरीर की मदद से सोचते हैं, और सिर्फ एक मस्तिष्क के साथ नहीं। हमारे पास यह दिखाने के लिए बहुत सारे डेटा हैं कि आंतों का तंत्रिका तंत्र हमारी "तर्कसंगत" निर्णय लेने की प्रक्रिया को निर्देशित करता है, जिससे यह घटनाओं को जानने और भविष्यवाणी करने में सक्षम है। जितना अधिक हम मानव शरीर प्रणाली का मॉडल बनाते हैं, उतना ही हम इसे पुन: पेश करते हैं। बहुत अलग शरीर (गीले कार्बन के बजाय सूखा सिलिकॉन) पर काम करने वाली इंटेलिजेंस अलग तरीके से सोचेगी।

यह मुझे लगता है कि यह एक बग नहीं है, बल्कि एक विशेषता है। जैसा कि मैंने पैरा 2 में उल्लेख किया है, सोच और मानव के बीच का अंतर AI का मुख्य लाभ है। यह एक और कारण है कि यह कहना गलत है कि वह "लोगों से अधिक चालाक है।"

4।

अलौकिक बुद्धि की अवधारणा के केंद्र में - विशेष रूप से, यह विचार कि इस तरह की बुद्धि में लगातार सुधार होगा - यह विश्वास निहित है कि बुद्धि का पैमाना अनंत है। मुझे इसके सबूत नहीं दिखते। – . . – . . . , , . , . , ? , , «» , , «» . , , ? ? , , ? , – , ?

, . , – . , , - . «» [ The Inevitable ] , - . :

• , , ( ).
• , .
• , .
• , , .
• , , .
• , , - .
• , , .
• , , , .
• , .
• , , , ..
• , , .
• .
• , , .
• , .
• , .
• , , .
• , .
• , , .
• , .
• , .
• , .
• , .
• , .
• -.
• -.
• , , .

, .

, ( - ), , , , . , . , . ? . , , ? , , . . 10 .

, , , . , , , , , . : « , … , , . , 2029 ».

, , , , . . , .

, « », , . , . , , , . , «» .

5.

एक और, किसी के द्वारा मना नहीं किया गया, एफआईएस के आगमन में विश्वास, सबूतों द्वारा समर्थित नहीं है, यह है कि लगभग असीम शक्ति का एक अधीक्षण जल्दी से हमारी सभी मुख्य अनसुलझी समस्याओं को हल करेगा।

खुफिया विस्फोट के कई समर्थकों का मानना ​​है कि इससे प्रगति का विस्फोट होगा। मैं इस पौराणिक विश्वास को "विचारधारा" कहता हूं। यह एक गलत धारणा है कि प्रगति के भविष्य के चरण केवल मानसिक शक्ति, या बुद्धि की कमी के कारण अप्राप्य हैं। मैं इस बात पर ध्यान देता हूं कि हर चीज के लिए सोच एक जादुई रामबाण है, बहुत से लोगों में आम है जो सोचना पसंद करते हैं।

कैंसर का इलाज या जीवन विस्तार लें। आप ऐसी समस्याओं को एक विचार से हल नहीं कर सकते। यह समझने के लिए कोई विचार पर्याप्त नहीं है कि कोशिकाएं कैसे होती हैं या टेलोमेरस कैसे गायब हो जाते हैं। कोई भी सुपर-डुपर बुद्धि यह नहीं समझ सकती है कि मानव शरीर दुनिया के सभी ज्ञात वैज्ञानिक साहित्य को पढ़कर और सोचकर कैसे काम करता है। कोई भी FIC, परमाणु संलयन के साथ सभी प्रयोगों के बारे में नहीं सोच सकता है, एक कार्यशील नाभिकीय संलयन योजना का उत्पादन करता है। यह जानने के लिए कि कुछ कैसे काम करता है, यह समझने के लिए रास्ते से दूर करने के लिए, यह सिर्फ सोचने से कहीं अधिक लेता है। वास्तविक दुनिया में, प्रयोगों के ढेर बनाए जा रहे हैं, जिनमें से प्रत्येक परस्पर विरोधी डेटा के पहाड़ों की उपस्थिति की ओर जाता है जिन्हें एक कार्य परिकल्पना बनाने के लिए आगे के प्रयोगों की आवश्यकता होती है। संभावित डेटा के बारे में सोचने से आपको सही डेटा नहीं मिलेगा।

सोचना केवल विज्ञान का एक हिस्सा है, शायद इसका एक छोटा हिस्सा भी। उदाहरण के लिए, हमारे पास मृत्यु की समस्या को हल करने के लिए पर्याप्त डेटा नहीं है। जीवित जीवों के साथ काम करते समय, लगभग सभी प्रयोगों में समय लगता है। धीमी कोशिका चयापचय को तितर-बितर नहीं किया जा सकता है। परिणाम प्राप्त करने में वर्षों, महीनों, कम से कम दिन लगते हैं। अगर हम जानना चाहते हैं कि उप-परमाणु कणों का क्या होता है, तो हम उनके बारे में सोच भी नहीं सकते। हमें यह पता लगाने के लिए विशाल, जटिल, चालाक भौतिक संरचनाओं का निर्माण करने की आवश्यकता है। भले ही होशियार भौतिक विज्ञानी अब की तुलना में 1000 गुना अधिक चालाक थे, बिना एक कोलाइडर के उन्होंने कुछ भी नया नहीं सीखा होगा।

इसमें कोई संदेह नहीं है कि एसआरआई विज्ञान की प्रगति को तेज कर सकता है। हम परमाणुओं या कोशिकाओं के कंप्यूटर सिमुलेशन कर सकते हैं और उन्हें कई बार गति दे सकते हैं, लेकिन दो समस्याएं सिमुलेशन की उपयोगिता को सीमित करती हैं। पहला यह है कि सिमुलेशन और मॉडल केवल अध्ययन की जा रही प्रक्रियाओं की तुलना में तेजी से आगे बढ़ सकते हैं क्योंकि हम कुछ को ध्यान में नहीं रखते हैं। यह एक मॉडल या सिमुलेशन का सार है। इसके अलावा, इन मॉडलों का परीक्षण, सत्यापन और साबित करना भी समय लेने वाली है और नकली प्रक्रियाओं की गति पर जाने की जरूरत है। सत्य के सत्यापन में तेजी नहीं लाई जा सकती।

ये सरलीकृत संस्करण सबसे होनहार पथ को छानने और प्रगति को गति देने के लिए उपयोगी हैं। लेकिन वास्तव में कोई अति नहीं है; जो कुछ भी वास्तविक है वह कुछ हद तक अपने प्रभाव को बढ़ाता है; यह वास्तविकता की परिभाषाओं में से एक है। यदि आप अधिक से अधिक डेटा के साथ मॉडल और सिमुलेशन पंप करना शुरू करते हैं, तो यह जल्द ही स्पष्ट हो जाता है कि वास्तविकता इसके 100% सिमुलेशन से तेज है। यह वास्तविकता की एक और परिभाषा है: वर्तमान के सभी विवरणों और डिग्री का सबसे तेज़ संभव संस्करण। यदि आप मानव शरीर में सभी अणुओं को कोशिकाओं और सभी कोशिकाओं में मॉडल कर सकते हैं, तो सिमुलेशन मानव शरीर के रूप में तेजी से काम नहीं करेगा। कोई फर्क नहीं पड़ता कि आप इसके बारे में कितना सोचते हैं, आपको प्रयोग के लिए समय की आवश्यकता होगी, यह एक वास्तविक प्रणाली या एक अनुकरण हो।

उपयोगी होने के लिए, AI को वास्तविक दुनिया में घुसपैठ करने की आवश्यकता है, और दुनिया अपने नवाचार की गति निर्धारित करेगी। प्रयोगों का संचालन किए बिना, प्रोटोटाइप का निर्माण, त्रुटियों और वास्तविकता के साथ प्रयोग, खुफिया सोच सकते हैं, लेकिन परिणाम नहीं देते हैं। तथाकथित होने वाली घटना के प्रति मिनट, घंटे, दिन या वर्ष की कोई त्वरित खोज नहीं। "अतिमानवीय ऐ" अपेक्षित नहीं है। बेशक, एआई के विकास में सफलता से प्रति यूनिट खोजों की संख्या में काफी वृद्धि होगी, विशेष रूप से, एआई के बाद से, लोगों के विपरीत, ऐसे सवाल पूछेंगे जो लोग नहीं पूछेंगे, लेकिन हमारे मुकाबले बेहद शक्तिशाली बुद्धिमत्ता, त्वरित प्रगति की गारंटी नहीं देती है। समस्याओं को हल करने के लिए, केवल बुद्धि की तुलना में बहुत अधिक आवश्यक है।

केवल बुद्धिमत्ता न केवल कैंसर और दीर्घायु की समस्याओं को हल करने में सक्षम होगी, बल्कि स्वयं बुद्धि की समस्याओं को भी हल करेगी। विलक्षणता के समर्थकों का एक विशिष्ट मंत्र यह है कि जैसे ही आप एक एआई बनाते हैं जो "एक व्यक्ति की तुलना में अधिक चालाक है", वह अचानक सोचता है और एक एआई का आविष्कार करता है, "अपने आप से अधिक होशियार", जो बदले में, अधिक ठीक से सोचता है और इससे भी अधिक आक्रमण करता है स्मार्ट एआई, और परिणामस्वरूप, सब कुछ लगभग दिव्य स्तर पर बौद्धिक शक्ति के विस्फोट के साथ समाप्त हो जाएगा। हमारे पास कोई सबूत नहीं है कि बस बुद्धि के बारे में सोचने के लिए बुद्धि के नए स्तर बनाने के लिए पर्याप्त है। ऐसी सोच विश्वास है। हमारे पास बहुत सारे सबूत हैं, जो ज्ञान की एक बड़ी मात्रा के अलावा, हमें नए प्रकार के सफलतापूर्वक संचालित दिमागों का आविष्कार करने के लिए प्रयोगों, डेटा, परीक्षणों और त्रुटियों, असामान्य रूप से सामने आए सवालों और सरल सरलता से परे बाकी सब कुछ की आवश्यकता है।

अंत में, मैं कहूंगा कि मेरे बयानों से गलती हो सकती है। हम शुरुआती दौर में हैं। हम बुद्धि के लिए एक सार्वभौमिक मीट्रिक खोज सकते हैं; सभी दिशाओं में इसकी अनंतता की खोज करें। चूंकि हम इस बारे में बहुत कम जानते हैं कि बुद्धिमत्ता क्या है (चेतना का उल्लेख नहीं), किसी प्रकार की एआई विलक्षणता की संभावना शून्य से अधिक है। मुझे ऐसा लगता है कि सभी साक्ष्य ऐसे परिदृश्य की कम संभावना के पक्ष में बोलते हैं, लेकिन यह संभावना गैर-शून्य है।

इसलिए, हालांकि मैं इसकी संभावना से असहमत हूं, मैं ओपनएआई के व्यापक लक्ष्यों और एफडीआई के बारे में चिंतित स्मार्ट लोगों से सहमत हूं - कि हमें मित्रवत एआई बनाने चाहिए और यह सोचना चाहिए कि उन में मूल्यों को कैसे स्थापित किया जाए जो हमारे मेल खाते हैं। और यद्यपि मुझे लगता है कि एफडीआई एक बहुत दूर अस्तित्ववादी खतरा है (जो कि विचार करने लायक है), मुझे लगता है कि इसकी छोटी संभावना (उपलब्ध प्रमाणों के आधार पर) हमारे विज्ञान, राजनीति और विकास को नियंत्रित नहीं करना चाहिए। पृथ्वी के साथ एक क्षुद्रग्रह की टक्कर एक आपदा होगी। इसकी संभावना शून्य से अधिक है (इसलिए हमें B612 फंड का समर्थन करना चाहिए), लेकिन हमें अपने निर्णयों को प्रबंधित करने के लिए एक क्षुद्रग्रह हड़ताल की संभावना नहीं देनी चाहिए, उदाहरण के लिए, जलवायु परिवर्तन के क्षेत्र में, या अंतरिक्ष यात्रा, या शहरी नियोजन में भी।

इसी तरह से, अब तक के सबूत बताते हैं कि AI सबसे अधिक संभावना से अलौकिक नहीं होगा, लेकिन असाधारण, यह सैकड़ों प्रकार की नई सोचें होंगी जो मानव से अलग हैं, जिनमें से कोई भी सामान्य उद्देश्य AI नहीं होगा, और उनमें से एक भगवान नहीं बनेगा, हमारी सभी समस्याओं का तुरंत समाधान। इसके बजाय, हमारे पास सीमित इंटेलिजेंस की एक आकाशगंगा होगी, जो अपरिचित आयामों में काम कर रही है, उनमें से कई में हमारी क्षमताओं से परे जाकर, मौजूदा समस्याओं को हल करने और समय के साथ नए बनाने के लिए हमारे साथ काम कर रही है।

मैं SII- भगवान के आकर्षण और आकर्षण को समझता हूं। यह सुपरमैन की तरह कुछ है। लेकिन, सुपरमैन की तरह, यह एक पौराणिक आंकड़ा है। ब्रह्मांड में, सुपरमैन मौजूद हो सकता है, लेकिन इसके अस्तित्व की संभावना बेहद कम है। लेकिन मिथक उपयोगी हो सकते हैं, और उनके आविष्कार के बाद गायब नहीं होते हैं। सुपरमैन का विचार नहीं मरेगा। अलौकिक एआई विलक्षणता का विचार, एक बार जब यह उछला, तो यह भी नहीं मरेगा। लेकिन हमें यह समझना चाहिए कि अब यह एक धार्मिक विचार है, वैज्ञानिक विचार नहीं है। यदि हम बुद्धिमत्ता, कृत्रिम और प्राकृतिक के बारे में आज हमारे पास मौजूद डेटा का अध्ययन करते हैं, तो हम केवल यह निष्कर्ष निकाल सकते हैं कि पौराणिक SII-god के बारे में हमारी चर्चाएं सिर्फ मिथक हैं।

माइक्रोनेशिया के कई अलग-अलग द्वीप पहले विश्व युद्ध के दौरान बाकी दुनिया के संपर्क में आए। एलियन देवता शोरगुल वाले पक्षियों में अपने आकाश में उड़ गए, अपने द्वीपों पर भोजन और सामान फेंक दिया, और वापस नहीं आए। द्वीपों पर धार्मिक दोष प्रकट हुए, यह प्रार्थना करते हुए कि देवता लौट आएंगे और अधिक माल डंप करेंगे। अब भी, पचास साल बाद, कई अभी भी माल की वापसी की प्रतीक्षा कर रहे हैं। यह संभव है कि SRI कार्गो का एक और पंथ हो सकता है। सौ वर्षों के बाद, लोग हमारे समय में वापस देखने में सक्षम होंगे, जिस समय विश्वासियों ने एफआईसी के उद्भव के लिए इंतजार करना शुरू किया, जो उन्हें अकल्पनीय लाभ लाएगा। दशक बाद, वे एफडीआई के आने का इंतजार कर रहे हैं, उन्हें भरोसा है कि इसके फायदे बहुत जल्द सामने आने चाहिए।

लेकिन गैर-अलौकिक एआई यहां पहले से ही वास्तविक है। हम लगातार इस शब्द को फिर से परिभाषित करते हैं, इसकी जटिलता को बढ़ाते हैं, और परिणामस्वरूप हम इसे भविष्य में पकड़ते हैं, लेकिन विदेशी बुद्धि की परिभाषा के व्यापक अर्थ में - विभिन्न दिमाग, बुद्धि, विचार, तर्कशास्त्र, शिक्षा और चेतना के निरंतर स्पेक्ट्रम में - एआई पहले से ही ग्रह पर मौजूद है, और जारी है फैलाना, गहरा करना, विविधता लाना और तेज करना। कोई भी पिछला आविष्कार दुनिया भर में अपनी शक्ति के साथ तुलना नहीं कर सकता है, और सदी के अंत तक एआई हमारे जीवन के सभी पहलुओं को छूएगा और बदल देगा। लेकिन अलौकिक कृत्रिम बुद्धिमत्ता का मिथक, हमें बहुतायत से समर्थन देने के लिए तैयार है या हमें सुपर-स्लेवरी (या एक ही समय में दोनों) में ड्राइव करता है, जाहिर है, जीना जारी रखेगा - यह अवसर इसे अस्वीकार करने के लिए बहुत पौराणिक है।