एआई के शोधकर्ता इससे जुड़े संभावित खतरों के बारे में क्या सोचते हैं

मुझे 2007 में एआई बैक से जुड़े जोखिमों में दिलचस्पी हो गई। उस समय, इस विषय पर अधिकांश लोगों की प्रतिक्रिया कुछ इस तरह थी: "यह बहुत मज़ेदार है, वापस आ जाओ जब इंटरनेट मोरों के अलावा कोई और इस पर विश्वास करेगा।"

बाद के वर्षों में, बिल गेट्स , स्टीफन हॉकिंग और एलोन मस्क सहित कई बेहद स्मार्ट और प्रभावशाली हस्तियों ने एआई के जोखिमों के बारे में सार्वजनिक रूप से अपनी चिंताओं को साझा किया, जिसके बाद सैकड़ों अन्य बुद्धिजीवियों, ऑक्सफोर्ड के दार्शनिकों से लेकर एमआईटी के कॉस्मोलॉजिस्ट और सिलिकॉन वैली के निवेशक शामिल थे। । और हम वापस आ गए हैं।

तब यह प्रतिक्रिया बदल गई: "ठीक है, कुछ वैज्ञानिक और व्यापारी इस पर विश्वास कर सकते हैं, लेकिन यह संभावना नहीं है कि वे इस क्षेत्र के वास्तविक विशेषज्ञ होंगे जो वास्तव में स्थिति से वाकिफ हैं।"

यहां से लोकप्रिय विज्ञान लेख " बिल गेट्स अफ का डर है, लेकिन एआई शोधकर्ताओं को जानना चाहिए " जैसे बयान आए:

एआई शोधकर्ताओं के साथ बात करने के बाद - वास्तविक शोधकर्ता, जो शायद ही ऐसी प्रणालियों को काम करते हैं, अच्छी तरह से काम करने का उल्लेख नहीं करते हैं, यह स्पष्ट हो जाता है कि वे डरते नहीं हैं कि अधीक्षण अचानक उन पर चुपके जाएगा, न ही अब और न ही भविष्य में । मास्क द्वारा बताई गई सभी भयावह कहानियों के बावजूद, शोधकर्ता एक उलटी गिनती के साथ सुरक्षात्मक कमरे और आत्म-विनाश का निर्माण करने की जल्दी में नहीं हैं।

या, जैसा कि उन्होंने Fusion.net पर लेख में लिखा है " एक व्यक्ति से हत्यारे रोबोट के बारे में आपत्ति जो वास्तव में एआई विकसित कर रहा है ":

एंड्रयू एंजी पेशेवर रूप से एआई सिस्टम विकसित करता है। उन्होंने स्टैनफोर्ड में एआई पाठ्यक्रम पढ़ाया, एआई को गूगल पर विकसित किया, और फिर एआई को वास्तविक दुनिया की समस्याओं पर लागू करने के लिए अपने काम को जारी रखने के लिए चीनी Baidu सर्च इंजन पर चले गए। इसलिए जब वह सुनता है कि कैसे एलोन मस्क या स्टीफन हॉकिंग - लोग आधुनिक तकनीक से सीधे परिचित नहीं हैं - एआई के बारे में बात कर रहे हैं, जो मानवता को संभावित रूप से नष्ट कर सकता है, तो लगभग उसे अपने हाथों से अपना चेहरा ढंकते हुए सुन सकता है।

सीमांत क्रांति के रामेज़ नाम लेख में लगभग एक ही बात दोहराते हैं " शोधकर्ता एआई के जोखिमों के बारे में क्या सोचते हैं? ":

एलोन मस्क, स्टीफन हॉकिंग और बिल गेट्स ने हाल ही में चिंता व्यक्त की है कि एआई का विकास "एआई हत्यारा" परिदृश्य को लागू कर सकता है, और संभवतः मानवता के विलुप्त होने का कारण बन सकता है। वे एआई शोधकर्ता नहीं हैं, और जहां तक ​​मुझे पता है, उन्होंने सीधे एआई के साथ काम नहीं किया है। एआई के जोखिमों के बारे में वास्तविक एआई शोधकर्ता क्या सोचते हैं?

वह विशेष रूप से चयनित एआई शोधकर्ताओं के शब्दों को उद्धृत करता है, जैसे कि अन्य कहानियों के लेखक - और फिर रुक जाता है, इससे अलग कोई राय का उल्लेख नहीं करता है।

लेकिन वे मौजूद हैं। क्षेत्र में नेताओं सहित एआई शोधकर्ताओं ने सक्रिय रूप से एआई के जोखिमों और खुफिया से परे के बारे में और बहुत शुरुआत से ही चिंता व्यक्त की है। मैं नाम की सूची के बावजूद इन लोगों को सूचीबद्ध करके शुरू करूंगा, और फिर इस बात पर आगे बढ़ूंगा कि मैं सितारों की सूची से अपेक्षित शास्त्रीय अर्थ में इस "चर्चा" पर विचार नहीं करता हूं।

मेरी सूची के मानदंड इस प्रकार हैं: मैं केवल सबसे प्रतिष्ठित शोधकर्ताओं का उल्लेख करता हूं, या अच्छे संस्थानों में विज्ञान के प्रोफेसरों के साथ वैज्ञानिक कागजात के कई उद्धरणों या उद्योग के बहुत सम्मानित वैज्ञानिकों का उल्लेख करता हूं जो बड़ी कंपनियों के लिए काम करते हैं और एक अच्छा ट्रैक रिकॉर्ड रखते हैं। वे एआई और मशीन लर्निंग में लगे हुए हैं। निकट भविष्य में एआई से एक विलक्षणता या गंभीर जोखिम की शुरुआत के बारे में एक निश्चित बिंदु के समर्थन में उनके पास कई मजबूत बयान हैं। उनमें से कुछ ने इस विषय पर काम या किताबें लिखी हैं। दूसरों ने बस अपने विचार व्यक्त किए, यह मानते हुए कि यह एक महत्वपूर्ण विषय है।

यदि कोई व्यक्ति इस सूची में किसी व्यक्ति के शामिल होने से सहमत नहीं है या यह मानता है कि मैं कुछ महत्वपूर्ण भूल गया हूं, तो मुझे बताएं।

* * * * * * * * * *

स्टुअर्ट रसेल बर्कले में कंप्यूटर विज्ञान के एक प्रोफेसर हैं, IJCAI कंप्यूटर्स एंड थॉट अवार्ड के विजेता, कंप्यूटर मैकेनाइजेशन एसोसिएशन के शोधकर्ता, अमेरिकन एकेडमी ऑफ एडवांस्ड साइंटिफिक रिसर्च के शोधकर्ता, सेंटर फॉर इंटेलिजेंट सिस्टम्स के निदेशक, ब्लाइस पास्कल पुरस्कार के विजेता, आदि। आदि एआई के सह-लेखक : एक आधुनिक दृष्टिकोण , दुनिया भर के 1,200 विश्वविद्यालयों में एक क्लासिक पाठ्यपुस्तक का उपयोग किया जाता है। अपनी वेबसाइट पर, वह लिखते हैं:

एआई के क्षेत्र में, 50 साल के शोध इस धारणा के बैनर तले चल रहे हैं कि होशियार बेहतर होगा। मानवता के लाभ के लिए चिंता को इसके साथ जोड़ा जाना चाहिए। तर्क सरल है:

1. AI के सफलतापूर्वक बनने की संभावना है।
2. असीमित सफलता महान जोखिम और महान लाभ की ओर ले जाती है।
3. हम लाभ प्राप्त करने और जोखिम से बचने की संभावना बढ़ाने के लिए क्या कर सकते हैं?

कुछ संगठन पहले से ही इन मुद्दों पर काम कर रहे हैं, जिनमें इंस्टीट्यूट फॉर द फ्यूचर ऑफ ह्यूमैनिटी ऑफ ऑक्सफोर्ड, सेंटर फॉर एक्जिस्टिबल रिस्क स्टडीज ऑन कैंब्रिज (सीएसईआर), इंस्टीट्यूट फॉर द स्टडी ऑफ मशीन इंटेलिजेंस इन बर्कले और इंस्टीट्यूट फॉर फ्यूचर लाइफ फॉर हार्वर्ड / एमआईटी (एफएलआई) शामिल हैं। मैं CSER और FLI के साथ सलाहकार बोर्डों में हूं।

जिस तरह परमाणु संलयन में शोधकर्ताओं ने परमाणु प्रतिक्रियाओं को सीमित करने की समस्या को अपने क्षेत्र की सबसे महत्वपूर्ण समस्याओं में से एक माना है, एआई के क्षेत्र का विकास अनिवार्य रूप से नियंत्रण और सुरक्षा के सवाल उठाएंगे। शोधकर्ता पहले से ही मोटे तौर पर दार्शनिकों के लिए विशुद्ध रूप से तकनीकी (तर्कसंगतता और उपयोगिता, आदि की मुख्य समस्याएं) से सवाल उठाना शुरू कर रहे हैं।

Edge.org पर, वह एक समान दृष्टिकोण का वर्णन करता है:

जैसा कि स्टीव ओमोचंद्रो, निक बोसस्ट्रोम और अन्य द्वारा समझाया गया है, निर्णय लेने की प्रणालियों के साथ मूल्यों में विसंगति, जिनमें से संभावनाएं लगातार बढ़ रही हैं, समस्याएं पैदा कर सकती हैं - शायद विलुप्त होने के पैमाने की समस्याएं भी, अगर मशीनें लोगों से अधिक सक्षम हैं। कुछ का मानना ​​है कि आने वाली शताब्दियों में मानवता के लिए कोई जोखिमपूर्ण जोखिम नहीं हैं, शायद यह भूल जाते हैं कि रदरफोर्ड के आश्वस्त कथन के बीच समय का अंतर है कि परमाणु ऊर्जा कभी भी निकाली नहीं जा सकती है और न्यूट्रॉन द्वारा शुरू की गई परमाणु श्रृंखला प्रतिक्रिया के आविष्कार से 24 घंटे से कम हो सकती है। ।

उन्होंने अकादमिक समुदाय में इन विचारों का प्रतिनिधि बनने का भी प्रयास किया, जो दर्शाता है :

मुझे लगता है कि इस उद्योग में मुख्य लोग, जिन्होंने पहले कभी भी आशंका नहीं जताई है, खुद को लगता है कि इस समस्या को बहुत गंभीरता से लिया जाना चाहिए, और जितनी जल्दी हम इसे गंभीरता से लेंगे, उतना ही बेहतर होगा।

डेविड मैकएलेस्टर शिकागो विश्वविद्यालय के साथ संबद्ध टोयोटा इंस्टीट्यूट ऑफ टेक्नोलॉजी में प्रोफेसर और वरिष्ठ साथी हैं, जो पहले एमआईटी और कॉर्नेल इंस्टीट्यूट के संकायों में काम करते थे। वह अमेरिकन एआई एसोसिएशन का कर्मचारी है, मशीन लर्निंग, प्रोग्रामिंग सिद्धांत, स्वचालित निर्णय लेने, एआई प्लानिंग, कम्प्यूटेशनल भाषा विज्ञान के क्षेत्रों में सौ से अधिक कार्यों को प्रकाशित किया है, और प्रसिद्ध डीप ब्लू शतरंज कंप्यूटर के एल्गोरिदम पर एक बड़ा प्रभाव पड़ा है। पिट्सबर्ग ट्रिब्यून समीक्षा में एक लेख के अनुसार:

शिकागो के प्रोफेसर डेविड मैकलिस्टर पूरी तरह से स्वचालित बुद्धिमान मशीनों के डिजाइन और खुद के होशियार संस्करण बनाने की क्षमता के उद्भव को अपरिहार्य मानते हैं, अर्थात्, एक [तकनीकी] विलक्षणता के रूप में ज्ञात एक घटना की शुरुआत। विलक्षणता मशीनों को असीम रूप से बुद्धिमान बनने की अनुमति देगी, जिससे "अविश्वसनीय रूप से खतरनाक परिदृश्य" पैदा होगा।

अपने ब्लॉग, कार पर विचार में , वह लिखते हैं:

अधिकांश कंप्यूटर वैज्ञानिक एआई में वास्तविक सफलताओं के बारे में बात करने से इनकार करते हैं। मुझे लगता है कि यह कहना अधिक उचित होगा कि कोई भी यह अनुमान लगाने में सक्षम नहीं है कि मानव मन में तुलनीय एआई कब प्राप्त होगा। जॉन मैकआर्थी ने एक बार मुझे बताया था कि जब उनसे पूछा जाता है कि मानव-स्तर AI को कितनी जल्दी बनाया जाएगा, तो वह जवाब देते हैं कि यह पाँच-पाँच सौ साल पुराना है। मैकआर्थी होशियार था। इस क्षेत्र में अनिश्चितताओं को देखते हुए, अनुकूल AI की समस्या पर विचार करना उचित है ...

शुरुआती चरणों में, सामान्यीकृत एआई सुरक्षित होगा। हालांकि, ओआईआई के शुरुआती चरण एक नौकर या अन्य अनुकूल एआई विकल्पों के रूप में एआई के लिए एक उत्कृष्ट परीक्षा स्थल होंगे। बेन गोएर्त्ज़ेल अपने ब्लॉग पर एक अच्छी पोस्ट में एक प्रयोगात्मक दृष्टिकोण का विज्ञापन भी करते हैं। यदि सुरक्षित और बहुत स्मार्ट ओआईआई का युग हमें इंतजार नहीं करता है, तो हमारे पास अधिक खतरनाक समय के बारे में सोचने का समय होगा।

वह AAAI पैनल ऑन लॉन्ग-टर्म AI फ्यूचर्स एक्सपर्ट ग्रुप के सदस्य थे, जो AI की लॉन्ग-टर्म संभावनाओं के लिए समर्पित थे, लॉन्ग-टर्म कंट्रोल कमेटी की अध्यक्षता करते थे, और उन्हें निम्नानुसार वर्णित किया जाता है :

मैकलिस्टर ने मुझसे "विलक्षणता" के दृष्टिकोण के बारे में बात की, एक घटना जब कंप्यूटर लोगों की तुलना में अधिक स्मार्ट हो जाता है। उन्होंने इसकी घटना की सटीक तारीख का नाम नहीं दिया, लेकिन कहा कि यह अगले कुछ दशकों में हो सकता है, और अंत में निश्चित रूप से होगा। यहाँ विलक्षणता पर उनके विचार हैं। दो महत्वपूर्ण घटनाएं घटित होंगी: ऑपरेशनल इंटेलिजेंस, जिसमें हम कंप्यूटर से आसानी से बात कर सकते हैं, और AI की एक चेन रिएक्शन, जिसमें कंप्यूटर बिना किसी की मदद के खुद को बेहतर बना सकता है, और फिर उसे फिर से दोहरा सकता है। पहली घटना हम स्वचालित सहायता प्रणालियों में देखेंगे जो वास्तव में हमारी मदद करेंगे। बाद में कंप्यूटर के साथ संवाद करना वास्तव में दिलचस्प हो जाएगा। और कंप्यूटर के लिए सब कुछ करने में सक्षम होने के लिए जो लोग कर सकते हैं, आपको दूसरी घटना के होने की प्रतीक्षा करनी चाहिए।

हंस मोरेव कार्नेगी मेलन विश्वविद्यालय में रोबोटिक्स संस्थान में एक पूर्व प्रोफेसर हैं, जिनका नाम औद्योगिक अनुप्रयोगों के लिए मशीन विज़न सिस्टम, SeeGrid Corporation के संस्थापक, Moravec विरोधाभास के नाम पर रखा गया है । उनका काम, " मोबाइल रोबोटों की निश्चितता में संवेदकों का संश्लेषण ", एक हजार से अधिक बार उद्धृत किया गया है, और उन्हें रोबोटिक्स के ब्रिटिश एनसाइक्लोपीडिया के लिए एक लेख लिखने के लिए आमंत्रित किया गया था, उस समय जब इस क्षेत्र में विश्व विशेषज्ञों द्वारा विश्वकोशों के लेख लिखे गए थे, न कि सैकड़ों अनाम इंटरनेट टिप्पणीकार।

वे रोबोट के लेखक भी हैं : एक साधारण मशीन से एक पारलौकिक मन तक , जिसे अमेज़न इस प्रकार बताता है:

इस रोमांचक पुस्तक में, हंस मोरवेक ने भविष्यवाणी की है कि 2040 तक, मशीनें लोगों के बौद्धिक स्तर तक पहुंचेंगी, और 2050 तक वे हमसे आगे निकल जाएंगे। लेकिन जब मोरवेक मानव प्रभुत्व के एक युग के अंत की भविष्यवाणी करते हैं, तो इस घटना की उनकी दृष्टि इतनी धूमिल नहीं होती है। उसे ऐसे भविष्य से दूर नहीं किया जाता है जिसमें मशीनें दुनिया पर राज करती हैं, लेकिन इसे स्वीकार करती है, और एक अद्भुत दृष्टिकोण का वर्णन करती है जिसके अनुसार बुद्धिमान रोबोट हमारे विकासवादी वंशज बन जाएंगे। मोरेवेक का मानना ​​है कि इस प्रक्रिया के अंत में, "विशाल साइबर स्पेस अमानवीय सुपरमाइंड के साथ एकजुट होगा और मामलों से निपटने के साथ-साथ लोगों से बैक्टीरिया से मानव मामलों तक दूर होगा।"

शेन लेग डीपमाइंड टेक्नोलॉजीज के सह-संस्थापक हैं, 2014 में Google द्वारा $ 500 मिलियन में खरीदा गया एक AI स्टार्टअप है। उन्होंने AI नाम के संस्थान से डॉक्टरेट की उपाधि प्राप्त की स्विट्जरलैंड में डेल मौल, और कम्प्यूटेशनल न्यूरोबायोलॉजी विभाग में भी काम किया। लंदन में गैट्सबी। अपने शोध प्रबंध के अंत में, "मशीन अधीक्षण," वह लिखते हैं :

यदि कभी कुछ ऐसा प्रतीत होता है जो पूर्ण शक्ति तक पहुंच सकता है, तो यह एक सुपर-बुद्धिमान मशीन होगी। परिभाषा के अनुसार, वह कई तरह के वातावरण में बड़ी संख्या में लक्ष्य हासिल कर पाएगी। यदि हम सावधानीपूर्वक इस तरह के अवसर के लिए पहले से तैयारी करते हैं, तो हम न केवल आपदा से बच सकते हैं, बल्कि पहले से मौजूद किसी भी चीज के विपरीत, समृद्धि का युग शुरू कर सकते हैं।

बाद के एक साक्षात्कार में, वे कहते हैं :

एआई अब 1988 में इंटरनेट पर था। विशेष अनुप्रयोगों (Google, हेज फंड और बायोइनफॉरमैटिक्स जैसे खोज इंजन) में मशीन सीखने की आवश्यकता होती है, और हर साल उनकी संख्या बढ़ रही है। मुझे लगता है कि अगले दशक के मध्य के आसपास यह प्रक्रिया बड़े पैमाने पर और ध्यान देने योग्य हो जाएगी। एआई बूम 2020 के आसपास होने वाली है, इसके बाद तेजी से प्रगति के एक दशक के बाद, संभवतः बाजार सुधार के बाद। 2020 के मध्य के आसपास मानव-स्तरीय एआई बनाया जाएगा, हालांकि कई लोग इस घटना की शुरुआत को स्वीकार नहीं करेंगे। उसके बाद, उन्नत एआई से जुड़े जोखिमों को व्यवहार में लाया जाएगा। मैं "विलक्षणता" के बारे में नहीं कहूंगा, लेकिन वे उम्मीद करते हैं कि कुछ बिंदु पर ओआईआई के निर्माण के बाद पागल चीजें होने लगेंगी। यह 2025 और 2040 के बीच कहीं है।

उन्होंने और उनके सह-संस्थापक डेमिस खासाबिस और मुस्तफा सुलेमान ने AI जोखिमों के बारे में इंस्टीट्यूट ऑफ द फ्यूचर ऑफ लाइफ पिटीशन पर हस्ताक्षर किए, और Google से जुड़ने के लिए उनकी शर्तों में से एक यह था कि कंपनी इन मुद्दों का अध्ययन करने के लिए एआई एथिक्स काउंसिल आयोजित करने के लिए सहमत है।

स्टीव ओमोहुंड्रो इलिनोइस विश्वविद्यालय में कंप्यूटर विज्ञान के एक पूर्व प्रोफेसर हैं, जो सेंटर फॉर कॉम्प्लेक्स सिस्टम के अध्ययन के लिए कंप्यूटर विज़न और प्रशिक्षण समूह के संस्थापक और मशीन लर्निंग और कंप्यूटर विज़न में विभिन्न महत्वपूर्ण विकासों के आविष्कारक हैं। उन्होंने होठों को पढ़ने वाले रोबोट, StarLisp समानांतर प्रोग्रामिंग भाषा, ज्यामितीय शिक्षण एल्गोरिदम पर काम किया। वह वर्तमान में सेल्फ-अवेयर सिस्टम्स का नेतृत्व करता है, "वैज्ञानिकों की एक टीम यह सुनिश्चित करने के लिए काम कर रही है कि बुद्धिमान तकनीक मानवता को लाभान्वित करें।" उनका काम, " ए मोटिवेशन की मूल बातें " , ने मशीन नैतिकता के क्षेत्र को बढ़ाने में मदद की, क्योंकि उन्होंने कहा कि सुपर-इंटेलिजेंट सिस्टम को संभावित खतरनाक लक्ष्यों की ओर निर्देशित किया जाएगा। वह लिखते हैं:

हमने दिखाया है कि सभी उन्नत AI सिस्टम में मूल प्रेरणाओं का एक सेट होने की संभावना है। मानवता को सकारात्मक भविष्य सुनिश्चित करने वाली प्रौद्योगिकियां बनाने के लिए इन प्रेरणाओं को समझना अनिवार्य है। युदकोवस्की ने "दोस्ताना एआई" का आह्वान किया। ऐसा करने के लिए, हमें "उपयोगितावादी विकास" के लिए एक वैज्ञानिक दृष्टिकोण विकसित करने की आवश्यकता है, जो हमें सामाजिक रूप से उपयोगी कार्यों को विकसित करने की अनुमति देगा जो कि हमारी इच्छा के अनुक्रमों को जन्म देगा। तकनीकी प्रगति में तेजी से आगे बढ़ने का सुझाव है कि ये समस्याएं जल्द ही गंभीर हो सकती हैं।

आप लिंक पर "आम अच्छा के लिए तर्कसंगत AI" विषय पर उनके लेख पा सकते हैं।

मरे शहनहान ने कैंब्रिज से कंप्यूटर साइंस में पीएचडी की उपाधि प्राप्त की है, और अब इम्पीरियल कॉलेज लंदन में संज्ञानात्मक रोबोटिक्स के प्रोफेसर हैं। उन्होंने रोबोटिक्स, लॉजिक, डायनामिकल सिस्टम, कम्प्यूटेशनल न्यूरोबायोलॉजी और मन के दर्शन जैसे क्षेत्रों में काम किया। वह वर्तमान में टेक्नोलॉजिकल सिंगुलैरिटी नामक पुस्तक पर काम कर रहे हैं, जो अगस्त में प्रकाशित होगी। अमेज़ॅन का प्रचार एनोटेशन निम्नानुसार है:

Shanhan AI में तकनीकी विकास का वर्णन करता है, दोनों जीव विज्ञान से ज्ञान के प्रभाव के तहत किए गए, और खरोंच से विकसित हुए। वह बताते हैं कि जब मानव स्तर का एआई बनाया जाता है - एक सैद्धांतिक रूप से संभव, लेकिन मुश्किल काम - सुपरिंटिडेट एआई को संक्रमण बहुत जल्दी होगा। शहनहान इस बात को दर्शाता है कि व्यक्तित्व, जिम्मेदारी, अधिकार और व्यक्तित्व जैसे क्षेत्रों में अधीक्षण मशीनों का अस्तित्व क्या हो सकता है। मनुष्य के लाभ के लिए अधीक्षक एआई के कुछ प्रतिनिधि बनाए जा सकते हैं, कुछ नियंत्रण से बाहर हो सकते हैं। (अर्थात, सिरी या एचएएल?) विलक्षणता मानव जाति के लिए एक अस्तित्वगत खतरा और अपनी सीमाओं को दूर करने के लिए एक अस्तित्वपूर्ण अवसर दोनों का प्रतिनिधित्व करती है। शहनहान यह स्पष्ट करता है कि यदि हम एक बेहतर परिणाम प्राप्त करना चाहते हैं, तो हमें दोनों संभावनाओं की कल्पना करने की आवश्यकता है।

मार्कस हटर नेशनल ऑस्ट्रेलिया यूनिवर्सिटी में कंप्यूटर विज्ञान अनुसंधान के एक प्रोफेसर हैं। इससे पहले, उन्होंने एआई के नाम पर संस्थान में काम किया स्विट्जरलैंड में डेल मौल और ऑस्ट्रेलिया में नेशनल इंस्टीट्यूट ऑफ इंफॉर्मेटिक्स एंड कम्युनिकेशंस में, और उत्तेजित शिक्षा, बेयसियन निष्कर्ष, कम्प्यूटेशनल जटिलता सिद्धांत, प्रेरक भविष्यवाणियों के सोलोमन सिद्धांत, कंप्यूटर दृष्टि और आनुवंशिक प्रोफाइल पर भी काम किया। उन्होंने विलक्षणता के बारे में भी बहुत कुछ लिखा है। लेख में " क्या बुद्धिमत्ता विस्फोट हो सकती है? " वह लिखते हैं:

यह सदी एक तकनीकी विस्फोट का गवाह बन सकती है, जिसके पैमाने का नाम विलक्षणता है। डिफ़ॉल्ट परिदृश्य आभासी दुनिया में बुद्धिमान व्यक्तियों से बातचीत करने का एक समुदाय है, जो कंप्यूटर पर हाइपरबोलिक रूप से बढ़ते कंप्यूटिंग संसाधनों के साथ सिम्युलेटेड है। यह अनिवार्य रूप से गति के एक विस्फोट के साथ है, भौतिक समय द्वारा मापा जाता है, लेकिन जरूरी नहीं कि बुद्धि के विस्फोट से। यदि आभासी दुनिया मुक्त और परस्पर क्रिया करने वाले व्यक्तियों से आबाद है, तो विकासवादी दबाव बढ़ती हुई बुद्धि वाले व्यक्तियों के उद्भव को बढ़ावा देगा जो कंप्यूटिंग संसाधनों के लिए प्रतिस्पर्धा करेंगे। बुद्धि के इस विकासवादी त्वरण का समापन सबसे बुद्धिमान व्यक्तियों का समुदाय हो सकता है। . , , , , , , .

जुरगेन श्मिधुबर लुगानो विश्वविद्यालय में एआई के प्रोफेसर और म्यूनिख प्रौद्योगिकी विश्वविद्यालय में संज्ञानात्मक रोबोटिक्स के पूर्व प्रोफेसर हैं। वह दुनिया के कुछ सबसे उन्नत तंत्रिका नेटवर्क विकसित करता है, विकासवादी रोबोटिक्स और कम्प्यूटेशनल जटिलता के सिद्धांत पर काम करता है, और यूरोपीय एकेडमी ऑफ साइंसेज एंड आर्ट्स में एक शोध साथी के रूप में कार्य करता है। अपनी पुस्तक में, " विलक्षणताओं की परिकल्पना, " उनका तर्क है कि "मौजूदा रुझानों की निरंतरता के साथ, हम अगले कुछ दशकों में एक बौद्धिक विस्फोट का सामना करेंगे।" एआई से जुड़े जोखिमों के बारे में जब रेडिट एएमए से सीधे पूछा गया तो उन्होंने जवाब दिया :

. - , ? , , : , . - . , , . , . . . , , अस्तित्व के लिए एक जगह मिल जाए । "

रिचर्ड सैटन प्रोफेसर और अल्बर्टा विश्वविद्यालय में iCORE समिति के सदस्य हैं। वह एआई के विकास के लिए एसोसिएशन में एक शोध साथी के रूप में कार्य करता है, उत्तेजित सीखने पर सबसे लोकप्रिय पाठ्यपुस्तक के सह-लेखक , समय के अंतर की विधि के अग्रणी, इस क्षेत्र में सबसे महत्वपूर्ण में से एक है।

उसकी रिपोर्ट मेंइंस्टीट्यूट फॉर द फ्यूचर ऑफ लाइफ द्वारा आयोजित एआई पर एक सम्मेलन में, सैटन ने तर्क दिया कि "एक वास्तविक मौका है कि हमारे जीवन के साथ" एक एआई बनाया जाएगा जो बौद्धिक रूप से मनुष्यों के लिए तुलनीय है, और कहा कि यह एआई "हमें नहीं मानेगा," " हमारे साथ प्रतिस्पर्धा और सहयोग करने के लिए, "और" अगर हम सुपर स्मार्ट गुलाम बनाते हैं, तो हमें सुपर स्मार्ट प्रतिद्वंद्वी मिलते हैं। " अंत में, उन्होंने कहा कि "हमें वांछित परिणाम सुनिश्चित करने के लिए तंत्र (सामाजिक, कानूनी, राजनीतिक, सांस्कृतिक) के माध्यम से सोचने की आवश्यकता है", लेकिन "अनिवार्य रूप से सामान्य लोग कम महत्वपूर्ण हो जाएंगे।" उन्होंने गैडस्बी संस्थान की प्रस्तुति में इसी तरह के मुद्दों का भी उल्लेख किया । ग्लेन बेक की किताब में भीइस तरह की पंक्तियाँ हैं: "रिचर्ड सैटन, एआई के सबसे बड़े विशेषज्ञों में से एक, सदी के मध्य में कहीं न कहीं बुद्धिमत्ता के विस्फोट की भविष्यवाणी करता है।"

एंड्रयू डेविसन इंपीरियल कॉलेज लंदन में मशीन विजन के एक प्रोफेसर, रोबोटिक विजन टीमों और डायसन रोबोटिक्स प्रयोगशाला में एक नेता हैं, और मोनोसेलम कम्प्यूटरीकृत स्थानीयकरण और मार्कअप सिस्टम के आविष्कारक हैं। अपनी वेबसाइट पर, वह लिखते हैं :

, , , , 2006 : , (, 20-30 ). « » ( , ), , , , . , , , , , , .

, , , ( ). , . « » . , , , .

एलन ट्यूरिंग और इरविंग जॉन गोड को पेश करने की आवश्यकता नहीं है। ट्यूरिंग ने कम्प्यूटेशनल विज्ञान की गणितीय नींव का आविष्कार किया और उनके नाम पर एक ट्यूरिंग मशीन, ट्यूरिंग कम्प्लीटनेस एंड ट्यूरिंग टेस्ट। गोडे ने टालचिंग पार्क में ट्यूरिंग के साथ काम किया, पहले कंप्यूटरों में से एक बनाने में मदद की और कई प्रसिद्ध एल्गोरिदम का आविष्कार किया, उदाहरण के लिए, तेजी से असतत फूरियर रूपांतरण, जिसे एफएफटी एल्गोरिथ्म के रूप में जाना जाता है। अपने काम में, क्या डिजिटल कारें सोच सकती हैं? ट्यूरिंग लिखते हैं:

आइए मान लें कि ऐसी मशीनें बनाई जा सकती हैं, और उनके निर्माण के परिणामों पर विचार कर सकते हैं। जब तक हम गैलीलियो के समय से धार्मिक सहिष्णुता में आगे बढ़ेंगे, तब तक निस्संदेह इस तरह के कृत्य को शत्रुता के साथ पूरा किया जाएगा। विपक्ष में बुद्धिजीवियों को अपनी नौकरी खोने का डर होगा। लेकिन यह संभावना है कि बुद्धिजीवियों से गलती हो जाएगी। मशीनों द्वारा निर्धारित मानकों के स्तर पर अपनी बुद्धि को बनाए रखने के प्रयास में कई चीजें करना संभव होगा, क्योंकि मशीन विधि की शुरुआत के बाद, मशीनों को हमारी महत्वहीन क्षमताओं को पार करने में बहुत समय नहीं लगता है। कुछ स्तर पर, हमें यह उम्मीद करनी चाहिए कि मशीनें नियंत्रण करेंगी।

60 के दशक में एटलस कंप्यूटर लैब में काम करते हुए, गोडे ने इस विचार को " रीजनिंग फॉर द फर्स्ट अल्ट्रा-इंटेलिजेंट मशीन " में विकसित किया।

, , . – , . , , « », . , – , .

* * * * * * * * * *

यह मुझे परेशान करता है कि यह सूची इस क्षेत्र में "विश्वासियों" और "संदेह" के बीच एक निश्चित विवाद का आभास दे सकती है, जिसके दौरान वे एक-दूसरे को स्माइटर करने के लिए स्मैश कर रहे हैं। लेकिन मुझे ऐसा नहीं लगा।

जब मैं संदेह के बारे में लेख पढ़ता हूं, तो मुझे हमेशा दो तर्क मिलते हैं। सबसे पहले, हम अभी भी मानव स्तर के एआई से बहुत दूर हैं, न कि अधीक्षण का उल्लेख करने के लिए, और इस तरह की ऊंचाइयों को प्राप्त करने का कोई स्पष्ट तरीका नहीं है। दूसरे, यदि आप एआई अनुसंधान पर प्रतिबंध लगाने की मांग करते हैं, तो आप एक मूर्ख हैं।

मैं पूरी तरह से दोनों बिंदुओं से सहमत हूं। एआई जोखिम आंदोलन के नेताओं की तरह।

एआई शोधकर्ताओं ( मुलर एंड बोस्सोम, 2014 ) के बीच सर्वेक्षण) ने दिखाया कि वे औसतन 50% इस तथ्य के लिए देते हैं कि मानव-स्तर AI 2040 ode द्वारा प्रकट होगा, और 90% - कि यह 2075 तक दिखाई देगा। औसतन, उनमें से 75% मानते हैं कि सुपरिंटीनेस ("मशीन इंटेलिजेंस, क्षमताओं को गंभीरता से लेते हुए) अधिकांश व्यवसायों में प्रत्येक व्यक्ति ") मानव स्तर एआई के आगमन के बाद 30 वर्षों के भीतर दिखाई देगा। और यद्यपि इस सर्वेक्षण की तकनीक कुछ संदेह पैदा करती है, यदि आप इसके परिणामों को स्वीकार करते हैं, तो यह पता चलता है कि अधिकांश एआई शोधकर्ता इस बात से सहमत हैं कि चिंता करने लायक कुछ एक या दो पीढ़ियों में दिखाई देगा।

लेकिन इंस्टीट्यूट फॉर मशीन इंटेलिजेंस के निदेशक ल्यूक म्युएलहॉजर और इंस्टीट्यूट फॉर द फ्यूचर ऑफ ह्यूमैनिटी के निदेशक निक बोस्सरोम ने कहा कि एआई के विकास के लिए उनकी भविष्यवाणी सर्वेक्षण में शामिल वैज्ञानिकों द्वारा की गई भविष्यवाणी की तुलना में बहुत बाद की है। अगर आप पढाई करते हैस्टुअर्ट आर्मस्ट्रांग से एअर इंडिया की भविष्यवाणियों पर डेटा , यह देखा जा सकता है कि, सामान्य रूप से, एआई समर्थकों द्वारा एआई की उपस्थिति के समय तक का अनुमान एआई संदेहियों द्वारा किए गए अनुमानों से अलग नहीं है। इसके अलावा, इस तालिका में दीर्घकालिक भविष्यवाणी खुद आर्मस्ट्रांग की है। हालांकि, आर्मस्ट्रांग वर्तमान में इंस्टिट्यूट फॉर द फ्यूचर ऑफ ह्यूमैनिटी में काम कर रहे हैं, एआई के जोखिमों पर ध्यान आकर्षित कर रहे हैं और अधीक्षण के लक्ष्यों पर शोध करने की आवश्यकता है।

समर्थकों और संशयवादियों के बीच का अंतर उनके आकलन में नहीं है कि हमें मानवीय स्तर पर एआई की उपस्थिति की उम्मीद करनी चाहिए, लेकिन जब हमें इसके लिए तैयारी शुरू करनी होगी।

जो हमें दूसरे बिंदु पर लाता है। संशय की स्थिति, ऐसा लगता है, हालांकि हमें समस्या के प्रारंभिक मूल्यांकन पर काम करने के लिए संभवतः कुछ स्मार्ट लोगों को भेजना चाहिए, एआई के अध्ययन से घबराने या निषेध करने की बिल्कुल आवश्यकता नहीं है।

एआई के प्रशंसक इस बात पर जोर देते हैं कि जब हमें एआई के शोध से घबराने या प्रतिबंध लगाने की आवश्यकता नहीं है, तो संभवतः समस्या के प्रारंभिक मूल्यांकन पर काम करने के लिए कुछ स्मार्ट लोगों को भेजने के लायक है।

जान लेकुन यकीनन एआई जोखिमों का सबसे प्रबल संदेह है। यह बहुतायत से में उद्धृत लोकप्रिय विज्ञान पर लेख एक में, क्रांति सीमांत पर पोस्ट , और अभी तक वह साथ बात की KDNuggets और आईईईई"विलक्षणता के अपरिहार्य मुद्दों" पर, जिसे वह स्वयं "इतनी दूर होने के रूप में वर्णित करता है कि विज्ञान कथा उनके बारे में लिखा जा सकता है।" लेकिन जब उनसे अपनी स्थिति स्पष्ट करने के लिए कहा गया, तो उन्होंने कहा:

एलोन मस्क मानवता के लिए अस्तित्व के खतरों के बारे में बहुत चिंतित हैं (यही कारण है कि वह लोगों को अन्य ग्रहों को उपनिवेश बनाने के लिए भेजने के लिए रॉकेट बनाता है)। और यद्यपि एआई विद्रोह का जोखिम भविष्य के लिए बहुत छोटा और बहुत दूर है, हमें इसके बारे में सोचने, एहतियाती उपाय और नियम विकसित करने की आवश्यकता है। जिस तरह 1970 और 1980 के दशक में बायोएथिक्स समिति दिखाई दी, जेनेटिक्स के व्यापक उपयोग से पहले, हमें एआई नैतिकता समितियों की आवश्यकता है। लेकिन, जैसा कि योशुआ बेंजियो ने लिखा था, हमारे पास अभी भी बहुत समय है।

एरिक होर्विट्ज़ को एक और विशेषज्ञ है जिसे अक्सर संदेह और सीमाओं के मुख्य मुखपत्र के रूप में जाना जाता है। उनकी बातों का वर्णन " Microsoft अनुसंधान के निदेशक का मानना ​​है कि नियंत्रण से बाहर AI हमें नहीं मारेगा, " और " Microsoft के एरिक होर्विट्ज़ का मानना ​​है कि AI को डर नहीं होना चाहिए ।" लेकिन यहाँ NPR के साथ एक लंबे साक्षात्कार में उन्होंने क्या कहा:

कीस्ट: होर्विट्ज़ को संदेह है कि आभासी सचिव कभी भी ऐसी चीज़ में बदल जाएंगे जो दुनिया को जीत लेगी। वह कहता है कि पतंग के लिए बोइंग 747 में विकसित होने की उम्मीद है। क्या इसका मतलब यह है कि यह एक विलक्षणता का मजाक उड़ाता है?

होर्विट्ज़: नहीं। मुझे लगता है कि अवधारणाओं का मिश्रण था, और मैं खुद भी मिश्रित भावनाएं रखता हूं।

कीस्ट: विशेष रूप से, विलक्षणता जैसे विचारों के कारण, होर्विट्ज़ और अन्य एआई विशेषज्ञ तेजी से नैतिक मुद्दों से निपटने की कोशिश कर रहे हैं जो आने वाले वर्षों में संकीर्ण रूप से लक्षित एआई के साथ उत्पन्न हो सकते हैं। वे अधिक भविष्य के प्रश्न भी पूछते हैं। उदाहरण के लिए, मैं एक कंप्यूटर के लिए एक आपातकालीन शट डाउन बटन कैसे बना सकता हूं जो खुद को बदल सकता है?

हॉर्विट्स: मैं वास्तव में मानता हूं कि दांव काफी समय और ऊर्जा खर्च करने के लिए सक्रिय रूप से समाधान खोजने के लिए पर्याप्त हैं, भले ही ऐसी घटनाओं की संभावना छोटी हो।

यह आम तौर पर सबसे उत्साही एआई जोखिम आंदोलनकारियों में से कई की स्थिति के साथ मेल खाता है। ऐसे दोस्तों के साथ, दुश्मनों की जरूरत नहीं है।

स्लेट लेख, " AI का डर नहीं है, " आश्चर्यजनक रूप से चीजों को सही प्रकाश में रखता है:

जैसा कि मस्क खुद कहते हैं, एआई के जोखिम का समाधान वैज्ञानिकों और सांसदों के शांत और तर्कसंगत सहयोग में निहित है। हालांकि, यह समझना बहुत मुश्किल है कि "राक्षसों" के बारे में बात करना इस महान लक्ष्य को प्राप्त करने में कैसे मदद कर सकता है। वह उसे रोक भी सकती है।

सबसे पहले, स्काईनेट स्क्रिप्ट के विचार में बहुत बड़े छेद हैं। यद्यपि कंप्यूटर विज्ञान के क्षेत्र में शोधकर्ताओं का मानना ​​है कि मास्क का तर्क "पूरी तरह से पागल नहीं है", वे अभी भी ऐसी दुनिया से बहुत दूर हैं, जिसमें एआई के बारे में प्रचार थोड़ा कम एआई वास्तविकता को खारिज करता है जो हमारे कंप्यूटर वैज्ञानिकों के साथ सामना कर रहे हैं।

फेसबुक पर एआई लैब के प्रमुख इयान लेकुं ने 2013 में Google+ पर एक पोस्ट में इस विचार को संक्षेप में कहा: प्रचार एआई को नुकसान पहुंचा रहा है। पिछले पांच दशकों में, प्रचार ने एआई को चार बार मार दिया है। उसे रोकने की जरूरत है। "लेकन और अन्य लोग प्रचार से डरते हैं। विज्ञान कथाओं द्वारा लगाए गए उच्च उम्मीदों को पूरा करने में विफलता एआई अनुसंधान के लिए बजट में गंभीर कटौती करती है।

एआई पर काम करने वाले वैज्ञानिक स्मार्ट लोग हैं। वे क्लासिक राजनीतिक जाल में गिरने में दिलचस्पी नहीं रखते हैं, जिसमें उन्हें शिविरों में विभाजित किया जाएगा और एक दूसरे पर घबराहट या शुतुरमुर्गवाद का आरोप लगाया जाएगा। जाहिर है, वे दूरी में कहीं भी उभरते खतरे से संबंधित प्रारंभिक काम शुरू करने की आवश्यकता के बीच एक संतुलन खोजने की कोशिश कर रहे हैं, और इस तरह के एक मजबूत सनसनी पैदा करने का जोखिम जो उन्हें मारा जाएगा।

मैं यह नहीं कहना चाहता कि इस मुद्दे पर जल्द ही आपको कोई विचार करने की जरूरत नहीं है। मूल रूप से यह सब नीचे आता है कि क्या यह कहना संभव है कि "जब हम इसका सामना करेंगे तो हम समस्या का समाधान करेंगे," या इस तरह के अप्रत्याशित उतार-चढ़ाव की उम्मीद करना, जिसके कारण सब कुछ नियंत्रण से बाहर हो जाएगा, और जिसके लिए, इसलिए हमें तैयार करने की आवश्यकता है अग्रिम में। मुझे कम प्रमाण मिलते हैं कि मैं चाहूंगा कि एआई के अधिकांश शोधकर्ता अपनी राय से दूसरी संभावना को समझें। मैं क्या कह सकता हूं, भले ही सीमांत क्रांति पर एक लेख में एक विशेषज्ञ को यह कहते हुए उद्धृत किया गया हो कि अधीक्षण एक बड़ा खतरा पैदा नहीं करता है, क्योंकि "स्मार्ट कंप्यूटर खुद के लिए लक्ष्य निर्धारित नहीं कर सकते हैं", हालांकि जो कोई भी बर्सोम पढ़ता है वह जानता है कि पूरी समस्या है।

अभी भी काम का पहाड़ बनना बाकी है। लेकिन सिर्फ विशेष रूप से उन लेखों का चयन करने के लिए नहीं जिनमें "वास्तविक एआई विशेषज्ञ सुपरिंटीगेशन के बारे में चिंता न करें।