🍫 🏤 👩‍👦 कंप्यूटर के अत्याचार को रोकने के लिए एलोन मस्क और वाई कॉम्बिनेटर ने कैसे योजना बनाई 🌀 🕴🏽 👨‍👨‍👧‍👧

वे एक नए संगठन, OpenAI को वित्तपोषित करने जा रहे हैं, ताकि सबसे उन्नत प्रकार की कृत्रिम बुद्धिमत्ता बनाई जा सके - और फिर समाज को परिणाम दें।

जैसे कि AI विकास क्षेत्र में प्रतिस्पर्धा का अभाव था - Google, Apple, Facebook, Microsoft जैसे दिग्गज और यहां तक कि टोयोटा जैसे ऑटोमेकर पहले से ही शोधकर्ताओं को नियुक्त करने की कोशिश कर रहे हैं - यह एक नए खिलाड़ी का स्वागत कर सकता है, लेकिन एक साधारण नहीं। यह एक गैर-लाभकारी संगठन ओपनएआई है, जिसकी घोषणा दिसंबर 2015 में हुई थी , और जो सार्वजनिक डोमेन को काम के सभी परिणाम देने की प्रतिज्ञा करता है, जिसमें पेटेंट - सभी एक डायस्टोपिया से बचने के लिए हैं जिसमें कंप्यूटर लोगों की बुद्धि में श्रेष्ठ हैं।

तकनीकी हस्तियों के एक समूह द्वारा अनुदान प्रदान किया जाएगा, जिसमें एलोन मस्क, रीड हॉफमैन, पीटर थिएल, जेसिका लिविंगस्टन और अमेज़ॅन वेब सर्विसेज जैसे लोग शामिल हैं। दोनों ने मिलकर लंबे समय में एक अरब डॉलर खर्च करने की योजना बनाई। मस्क और सैम अल्टमैन, वाई कॉम्बिनेटर के निदेशक, जिनकी शोध टीम भी योगदान देगी (और अल्टमैन भी भाग लेंगे), परियोजना का नेतृत्व करेंगे। एआई की आलोचना करने के लिए पहचाने जाने

वाले मास्क को इस श्रृंखला में देखना आश्चर्यजनक नहीं है। लेकिन वाई कॉम्बिनेटर के बारे में क्या? स्टार्टअप इनक्यूबेटर, जो एक ग्रीष्मकालीन परियोजना के रूप में 10 साल पहले खोला गया था, ने छह स्टार्टअप को वित्त पोषित किया था। इनक्यूबेटर ने संस्थापकों को अपने वेतन का भुगतान किया और व्यावसायिक विकास पर मूल्यवान सलाह दी। तब से, वाईसी ने ड्रॉपबॉक्स, एयरबीएनबी और स्ट्राइप सहित लगभग एक हजार कंपनियों की मदद की है, और हाल ही में एक अनुसंधान विभाग खोला है। पिछले दो वर्षों में, इसे Altman द्वारा प्रबंधित किया गया है, जिसकी कंपनी Loopt 2005 में शुरू हुई थी, और 2012 में 43.2 मिलियन डॉलर में बेची गई थी। हालाँकि YC और Altman ने OpenAI की स्थापना की, और Altman इस उद्यम के निदेशक भी हैं, फिर भी यह स्वतंत्र है।

संक्षेप में, ओपनएआई एक शोध प्रयोगशाला है जिसे बड़े निगमों का मुकाबला करने के लिए डिज़ाइन किया गया है ताकि वे अपने निपटान में एआई प्राप्त करके बहुत बड़ा लाभ अर्जित न कर सकें। यह परियोजना उन सरकारों के खिलाफ भी काम करेगी जो एआई का उपयोग अपनी शक्ति को मजबूत करने और नागरिकों पर अत्याचार करने के लिए कर सकती हैं। यह बहुत आदर्शवादी लगता है, लेकिन टीम ने पहले से ही कुछ गंभीर लोगों को काम पर रखा है, जिनमें पूर्व स्ट्राइप के प्रमुख टेक्नोलॉजिस्ट, ग्रेग ब्रॉकमैन (वह ओपेनएआई में प्रौद्योगिकी प्रमुख होंगे), और विश्व स्तरीय शोधकर्ता इल्या सैकवेवर, जो Google में काम करते थे और युवा वैज्ञानिकों के एक प्रसिद्ध समूह से संबंधित थे, टोरंटो में तंत्रिका नेटवर्क के अग्रणी जेफ हिंटन के नेतृत्व में अध्ययन किया गया। वह अनुसंधान विभाग के निदेशक होंगे। अन्य रिक्तियां प्रतिभाशाली युवा लोगों द्वारा ली गई थीं जिनके रिज्यूमे में अनुसंधान परियोजनाओं, फेसबुक एआई और दीपमाइंड में काम शामिल था।कंपनी के पास स्टार सलाहकार भी हैं, जिसमें कंप्यूटर विज्ञान के अग्रदूतों में से एक एलन का भी शामिल है।

परियोजना के नेताओं ने उनके और उनकी आकांक्षाओं के बारे में मुझसे बात की। पहले तो मैंने अल्टमैन से बात की, और फिर उसके साथ मस्क और ब्रॉकमैन की कंपनी में। मैंने उन्हें एक लेख में संयोजित किया।

यह सब कैसे शुरू हुआ?

सैम ऑल्टमैन: हमने डेढ़ महीने पहले वाईसी रिसर्च टीम लॉन्च की थी, लेकिन एली के बारे में विचार इलोना की तरह लंबे समय से मुझे मिलते रहे हैं। यदि आप पूरी दुनिया के भविष्य के लिए सबसे महत्वपूर्ण चीजों के बारे में सोचते हैं, तो, मेरी राय में, एक अच्छा एआई उनमें से सबसे महत्वपूर्ण होगा। इसलिए हम OpenAI बनाते हैं। संगठन लोगों के अनुकूल एआई को विकसित करने का प्रयास करेगा। और चूंकि यह गैर-लाभकारी है, इसलिए पूरी दुनिया इसके मालिक होगी।

एलोन मस्क: जैसा कि आप जानते हैं, कुछ समय के लिए मैं एआई से डरता था। और मैंने सैम और रीड [हॉफमैन], पीटर थिएल और अन्य के साथ बहुत सारी बातें कीं। और हमने सोचा, "क्या यह सुनिश्चित करने का कोई तरीका नहीं है, या कम से कम इस संभावना को बढ़ाएं कि एआई हमें कोई लाभ लाएगा?" वार्तालापों के परिणामस्वरूप, हमने निर्णय लिया कि एक एनपीओ का आयोजन एक अच्छा विचार होगा। और हम बहुत गंभीरता से सुरक्षा पर ध्यान केंद्रित करेंगे।

दार्शनिक दृष्टिकोण से, एक महत्वपूर्ण तत्व है: हम एक व्यापक एआई चाहते हैं। दो राय हैं - क्या हमें AI की बहुत आवश्यकता है, या सिर्फ कुछ AI की? हमें लगता है कि बहुत कुछ बेहतर है। और यह अच्छा है अगर उन्हें मनुष्य की इच्छा के विस्तार के रूप में प्रस्तुत किया जा सकता है।

मनुष्य की इच्छा?

IM: AI अपने आप को एक विस्तार के रूप में, अर्थात्, एक व्यक्ति AI के साथ सहजीवन में रहता है, बजाय AI कुछ प्रकार की केंद्रीय बुद्धि के। आप इंटरनेट पर क्या कहते हैं, एप्लिकेशन के बारे में क्या सोचते हैं - आपके पास ई-मेल, सोशल नेटवर्क, मोबाइल एप्लिकेशन हैं। वे, संक्षेप में, आपको सुपरमैन बनाते हैं, और आप उन्हें कुछ अलग नहीं मानते हैं, आप उन्हें खुद के विस्तार के रूप में सोचते हैं। इसलिए, इस दिशा में हम जिस हद तक एआई का संचालन कर सकते हैं, हम यह करना चाहते हैं। और हमने कई समान दिमाग वाले इंजीनियरों और एआई शोधकर्ताओं को पाया जो ऐसा सोचते हैं।

SA: हमारा मानना है कि अगर AI व्यक्तिगत क्षमताओं को बढ़ाने और लोगों को बेहतर बनाने की दिशा में विकसित होता है, और सभी के लिए सुलभ होगा, और यह एकमात्र इकाई नहीं होगी जो एक व्यक्ति की तुलना में एक लाख गुना अधिक शक्तिशाली है। चूंकि हमारी कंपनी गैर-लाभकारी है, हम शेयरधारकों को समृद्ध करने पर ध्यान केंद्रित नहीं करेंगे, लेकिन मानवता के भविष्य के लिए सबसे अच्छा क्या होगा।

लेकिन क्या Google जनता के साथ विकास साझा नहीं करता, जैसा कि उसने अभी-अभी मशीन से किया है?

SA: वे कई घटनाक्रम साझा करते हैं। लेकिन समय के साथ, जैसे-जैसे हम मानवीय बुद्धिमत्ता को पार करने के करीब आते हैं, सवाल उठता है कि गूगल क्या साझा करना चाहता है।

और आपकी परियोजना मानव बुद्धि को पार नहीं करेगी?

SA: मुझे ऐसा लगता है, लेकिन यह एक ओपन सोर्स प्रोजेक्ट होगा, जो कोई भी नहीं, केवल कह सकता है, Google उपयोग कर सकता है। समूह जो भी विकसित करेगा वह सबको उपलब्ध होगा। यदि आप इस कार्य को लेते हैं और इसे अपनी आवश्यकताओं के अनुसार करते हैं, तो आपको परिणाम साझा नहीं करने होंगे। लेकिन हम जो भी करेंगे वह सबके लिए उपलब्ध होगा।

और अगर मैं डॉ। ईविल हूं, और इसे अपने उद्देश्यों के लिए उपयोग करता हूं? क्या आप इसमें मेरी मदद नहीं करते?

IM: यह एक अद्भुत सवाल है, और हमने इसके बारे में बहुत तर्क दिया।

SA: इस विषय पर कई विचार हैं। जिस तरह लोग मानवता को ईविल डॉक्टरों से इस तथ्य से बचाते हैं कि उनमें से कई हैं, और केवल एक डॉक्टर है, इसलिए हमें लगता है कि हमारी योजना काम करेगी, जिसमें कई एआई दुर्लभ खलनायक के खिलाफ काम करेंगे। यह स्कीम उस एआई से बेहतर है जिसमें एक एआई है, जो किसी भी चीज से ज्यादा शक्तिशाली है। यदि यह एक शक्तिशाली चीज कुंडली से उड़ जाती है, या डॉ। ईविल इसे नियंत्रित करता है, और उसके पास विरोध करने के लिए कुछ भी नहीं है, तो यह एक बड़ी समस्या होगी।

क्या आप नियंत्रित करेंगे कि OpenAI से क्या बढ़ता है?

SA: हम समय के साथ एक नियंत्रण प्रणाली बनाना चाहते हैं। अब तक, यह केवल मैं और इलोन होगा। असली एआई का विकास अभी भी बहुत दूर है। मुझे लगता है कि हमारे पास नियंत्रण कार्य बनाने के लिए पर्याप्त समय होगा।

IM: मैं सप्ताह में एक या दो सप्ताह में कार्यालय की टीम के साथ कुछ समय बिताने जा रहा हूं, अपडेट के बारे में सीख रहा हूं, अपनी राय व्यक्त कर रहा हूं और समझ रहा हूं कि AI कितना आगे बढ़ गया है और हम कितने खतरनाक हो गए हैं। निजी तौर पर, मैं सुरक्षा को लेकर बहुत गंभीर रहूंगा। मैं इस बारे में बहुत चिंतित हूं। और अगर हमें कुछ जोखिम भरे क्षणों का पता चलता है, तो हम निश्चित रूप से इसे सार्वजनिक करेंगे।

क्या आपके पास बुराई एआई के कोई उदाहरण हैं?

SA: विज्ञान कथा का एक बहुत कुछ है, जिसके कार्यान्वयन से पहले अभी भी कई साल पुराना है - टर्मिनेटर और पसंद है। मैं जल्द ही किसी भी समय ऐसी चीजों की घटना के बारे में चिंता नहीं करता हूं। लेकिन किस तरह की समस्या का सामना करना पड़ेगा - हालांकि यह एक बुराई एआई नहीं है - इसलिए यह सामान्य स्वचालन और नौकरियों के लापता होने के साथ है। बुराई एआई का एक और उदाहरण है जब लोग स्मार्ट प्रोग्रामों के बारे में बात करते हैं जो कंप्यूटर को मनुष्यों से बेहतर बनाते हैं। और यह पहले से ही हो रहा है।

क्या आप किसी तरह की तैयार प्रणाली के साथ काम शुरू करते हैं?

SA: नहीं। अध्ययन किसी भी प्रयोगशाला में शुरू होगा, और बहुत लंबे समय तक यह प्रयोगशाला की तरह दिखेगा। अभी तक किसी को नहीं पता कि इसे कैसे बनाया जाए। हमारे पास पहले से ही आठ शोधकर्ता हैं, और कई और कुछ महीनों में इस परियोजना में शामिल हो जाएंगे। अब तक, वे वाईसी कार्यालय में काम करेंगे, और जैसे-जैसे वे बढ़ेंगे, वे अपने दम पर चले जाएंगे। वे विचारों के साथ खेलेंगे और सॉफ्टवेयर को समझेंगे कि क्या वे एआई बनाने की कला की वर्तमान स्थिति को विकसित कर सकते हैं।

क्या इसमें बाहर के लोग भाग लेंगे?

SA: बेशक। एक खुले कार्यक्रम के लाभों में से एक यह है कि प्रयोगशालाएं किसी के साथ भी सहयोग कर सकती हैं क्योंकि वे स्वतंत्र रूप से जानकारी साझा कर सकते हैं। Google कर्मचारियों के साथ काम करना बहुत मुश्किल है, क्योंकि उनके पास गोपनीयता प्रतिबंध हैं।

सैम, अगर OpenAI YC कार्यालय में काम करेगा, तो क्या आपके स्टार्टअप के पास उनके काम के परिणामों तक पहुंच होगी?

SA: यदि OpenAI एक दिलचस्प तकनीक के रूप में विकसित किया गया है और हर कोई इसे मुफ्त में उपयोग कर सकता है, तो यह किसी भी प्रौद्योगिकी कंपनी के लिए एक प्लस होगा। लेकिन इससे ज्यादा नहीं। हालाँकि, हम अपने स्टार्टअप को उतनी ही जानकारी प्रदान करने के लिए कहेंगे, जितना कि वे ओपनएआई के लिए फिट देखते हैं। और इलोन इस बारे में भी सोचेंगे कि टेस्ला और स्पेसएक्स क्या साझा कर सकते हैं।

और क्या, उदाहरण के लिए, वह जानकारी होगी जिसे साझा किया जा सकता है?

SA: बहुत सारी चीजें। उदाहरण के लिए, Reddit के साथ सभी डेटा एक महान प्रशिक्षण सेट हो सकते हैं। टेस्ला रोबोट मोबाइल प्रशिक्षण वीडियो भी बहुत मूल्यवान होगा। विशाल मात्रा में डेटा बहुत महत्वपूर्ण हैं। लोग किताबें पढ़कर होशियार हो जाते हैं। लेकिन एक व्यक्ति केवल पुस्तक को पढ़ने से ही होशियार हो जाता है। और यदि उदाहरण के लिए, टेस्ला मशीनों में से एक, नई स्थिति के बारे में कुछ पता लगाती है, तो सभी टेस्ला मशीनों को स्वचालित रूप से इससे लाभ होगा।

IM: सामान्य तौर पर, हमारे पास बड़ी संख्या में विशिष्ट योजनाएं नहीं हैं, क्योंकि कंपनी केवल अपनी प्रारंभिक अवस्था में है। वह भ्रूण की स्थिति में है। लेकिन टेस्ला के पास वास्तव में वास्तविक दुनिया के बहुत से आंकड़े हैं, जो हमारे बेड़े से हर दिन लाखों मील की दूरी के लिए धन्यवाद करते हैं। टेस्ला के पास दुनिया की किसी भी अन्य कंपनी की तुलना में अधिक वास्तविक दुनिया के डेटा हो सकते हैं।

एआई को गंभीर कंप्यूटिंग शक्ति की आवश्यकता है। आपके पास क्या बुनियादी ढांचा होगा?

CA: हम Amazon Web Services के साथ भागीदार हैं। वे एक बहुत बड़ी क्षमता वाली परियोजना प्रदान करते हैं।

और परियोजना को एक अरब मिलेगा?

IM: हम कह सकते हैं कि और भी अधिक होगा। हम सटीक उद्धरण नहीं देते हैं, लेकिन बड़े राजस्व इन सभी व्यक्तियों से आएंगे।

समय क्या हुआ है?

SA: सिस्टम बनाने के लिए आवश्यक समय के लिए। हम बचाएंगे, लेकिन परियोजना, जाहिरा तौर पर, दशकों के लिए डिज़ाइन की गई है, और बहुत सारे लोगों और उपकरणों की आवश्यकता होगी।

और लाभ आपके लिए अनिवार्य नहीं है?

IM: बिल्कुल। यह निवेश लाभ में नहीं है। यह संभव है कि भविष्य में राजस्व दिखाई देगा, जैसे स्टैनफोर्ड में गैर-लाभकारी अनुसंधान संस्थान इसे प्राप्त करता है। भविष्य में, राजस्व दिखाई दे सकता है, लेकिन सह-मालिकों को समृद्ध करने में कोई लाभ नहीं होगा, कोई स्टॉक और अन्य चीजें नहीं होंगी। हम ऐसा सोचते हैं।

इलोन, आपने पहले दीपमइंड एआई कंपनी में निवेश किया है, जैसा कि मैं इसे समझता हूं, उन्हीं कारणों से - एआई के विकास का पालन करने के लिए। और फिर गूगल ने उन्हें खरीद लिया। क्या यह दूसरा प्रयास है?

IM: मैं वास्तव में सामान्य अर्थों में निवेशक नहीं हूं। मैं वित्तीय लाभ कमाने के उद्देश्य से निवेश नहीं करता हूं। मैं उन कंपनियों में निवेश करता हूं जिन्हें मैं बनाने में मदद करता हूं, और मैं एक दोस्त की मदद कर सकता हूं, या तो कुछ लक्ष्य के लिए जो मैं मानता हूं या जो मुझे उत्तेजित करता है। मैं अपनी कंपनी के बाहर भौतिक अर्थों में विविधता नहीं रखता। लेकिन दीपमाइंड में मेरा "निवेश" एआई और इसकी देखरेख की बेहतर समझ के लिए किया गया था, अगर आप चाहें।

क्या आप सर्वश्रेष्ठ वैज्ञानिकों के साथ प्रतिस्पर्धा करेंगे जो डीपमाइंड या फेसबुक या माइक्रोसॉफ्ट पर काम कर सकते हैं?

SA: अभी तक हायरिंग अच्छी चल रही है। शोधकर्ता स्वतंत्रता, खुलेपन और अपने काम को साझा करने के अवसर से बहुत खुश हैं, जो एक नियमित उत्पादन प्रयोगशाला में नहीं है। हमने ऐसी उच्च-गुणवत्ता वाली प्रारंभिक टीम को इकट्ठा किया है कि बाकी केवल उनके साथ संयुक्त कार्य के लिए शामिल होंगे। और मुझे यह भी लगता है कि हमारा मिशन और दृष्टि और संरचना लोगों के साथ बहुत लोकप्रिय है।

आपको कितने शोधकर्ताओं की आवश्यकता होगी? सैकड़ों?

SA: हो सकता है।

आइए इस विचार पर वापस जाएं कि एआई का सामान्य उपयोग हमें नकारात्मक परिणामों से बचा सकता है। क्या कोई जोखिम है जो इसे अधिक सुलभ बनाता है, आपके संभावित खतरे को बढ़ाएगा?

SA: मैं उन सभी घंटों को गिनना चाहूंगा, जिन्हें मैंने इलोन और अन्य लोगों के साथ बहस करने पर खर्च किया था। और अभी भी 100% मुझे यकीन नहीं है। आप 100% सुनिश्चित नहीं हो सकते? लेकिन विकास के विभिन्न विकल्पों को आज़माएँ। प्रौद्योगिकी के मामले में गोपनीयता के माध्यम से सुरक्षा ने शायद ही कभी काम किया। अगर किसी को यह अकेले मिलता है, तो यह कैसे तय किया जाए कि Google, अमेरिकी सरकार, चीनी सरकार, ISIS [संगठन रूस में प्रतिबंधित है - लगभग अनुवाद।], या कौन? दुनिया में कई खलनायक हैं, लेकिन मानवता संपन्न है। और क्या होता है अगर उनमें से एक दूसरे व्यक्ति की तुलना में एक अरब गुना अधिक शक्तिशाली हो जाता है?

आईएम: मुझे लगता है कि एआई के अनुचित उपयोग के खिलाफ सबसे अच्छा बचाव अधिक से अधिक लोगों को बांटना होगा। यदि सभी के पास AI क्षमताएं हैं, तो ऐसे लोगों का एक छोटा समूह नहीं होगा जिनके पास अपने निपटान में सुपर शक्तियां होंगी।

इलोन, आप दो कंपनियों में निदेशक हैं और तीसरे के निदेशक मंडल में बैठते हैं। ऐसा लगता है कि आपके पास अपने नए प्रोजेक्ट को समर्पित करने के लिए ज्यादा खाली समय नहीं है।

IM: यह सच है। लेकिन एआई की सुरक्षा मेरे दिमाग पर बहुत लंबे समय से दबाव बना रही है, और मुझे लगता है कि मेरे मन की शांति के लिए मैं खुद से एक सौदा करूंगा।

कंप्यूटर के अत्याचार को रोकने के लिए एलोन मस्क और वाई कॉम्बिनेटर ने कैसे योजना बनाई