कृत्रिम बुद्धिमत्ता की वास्तुकला को बदलने की जरूरत है

कृत्रिम बुद्धि वाले अनुप्रयोगों के लिए वॉन न्यूमैन वास्तुकला का उपयोग करना अक्षम है। उसकी जगह क्या लेगा?

मशीन लर्निंग (एमओ) और कृत्रिम बुद्धिमत्ता (एआई) की समस्याओं को हल करने के लिए मौजूदा आर्किटेक्चर का उपयोग करना अव्यावहारिक हो गया है। एआई द्वारा खपत की गई ऊर्जा काफी बढ़ गई है, और सीपीयू, जीपीयू के साथ, तेजी से इस काम के लिए अनुपयुक्त उपकरण प्रतीत होते हैं।

कई संगोष्ठियों में प्रतिभागियों ने सहमति व्यक्त की कि विरासत में मिली विशेषताओं के अभाव में महत्वपूर्ण परिवर्तन के सर्वोत्तम अवसर पैदा होते हैं, जिन्हें साथ खींचा जाना होता है। अधिकांश प्रणालियां समय के साथ धीरे-धीरे विकसित हुईं - और भले ही यह सुरक्षित प्रगति सुनिश्चित करता हो, ऐसी योजना इष्टतम समाधान प्रदान नहीं करती है। जब कुछ नया दिखाई देता है, तो चीजों को नए सिरे से देखना और पारंपरिक तकनीकों की तुलना में बेहतर दिशा चुनना संभव हो जाता है। यह हाल ही में एक सम्मेलन में चर्चा की गई थी जहां इस सवाल का अध्ययन किया गया था कि क्या पूरक धातु-ऑक्साइड-सेमीकंडक्टर ( सीएमओएस ) संरचना सबसे अच्छी बुनियादी तकनीक है जिस पर यह एआई अनुप्रयोगों के निर्माण के लायक है।

एक चेन, जिसे आईबीएम ने नैनोइलेक्ट्रॉनिक रिसर्च इनिशिएटिव (एनआरआई) के कार्यकारी निदेशक के रूप में नियुक्त किया था, चर्चा के लिए मंच तैयार किया। “कई वर्षों से हम नई, आधुनिक तकनीकों पर शोध कर रहे हैं, जिसमें सीएमओएस के विकल्प की खोज भी शामिल है, खासकर इसकी बिजली की खपत और स्केलिंग से संबंधित समस्याओं के कारण। इन सभी वर्षों के बाद, एक राय विकसित हुई है कि हमने तर्क सर्किट बनाने के आधार के रूप में कुछ भी बेहतर नहीं पाया है। आज, कई शोधकर्ता एआई पर ध्यान केंद्रित कर रहे हैं, और यह वास्तव में नई सोच और नए पैटर्न प्रदान करता है, और उनके पास नए तकनीकी उत्पाद हैं। क्या नए AI उपकरणों में CMOS को बदलने की क्षमता होगी? ”

आज ए.आई.

MO और AI के लिए अधिकांश एप्लिकेशन वॉन न्यूमैन आर्किटेक्चर का उपयोग करते हैं। शिन्हुआ नेशनल यूनिवर्सिटी में इलेक्ट्रिकल इंजीनियरिंग के प्रोफेसर मार्विन चेन बताते हैं, "यह डेटा सरणियों को संग्रहीत करने के लिए मेमोरी का उपयोग करता है, और सीपीयू सभी गणना करता है।" “बड़ी संख्या में डेटा बस में घूम रहे हैं। आज, जीपीयू को अक्सर इन-डेप्थ ट्रेनिंग के लिए भी इस्तेमाल किया जाता है, जिसमें कंफर्टेबल [तंत्रिका नेटवर्क] भी शामिल है। मुख्य समस्याओं में से एक है, निष्कर्ष निकालने के लिए आवश्यक मध्यवर्ती डेटा की उपस्थिति। मूविंग डेटा, विशेष रूप से चिप से परे, ऊर्जा हानि और देरी का परिणाम है। यह एक प्रौद्योगिकी अड़चन है। ”


एअर इंडिया के लिए प्रयुक्त आर्किटेक्चर

आज आपको जो चाहिए वह है डाटा प्रोसेसिंग और मेमोरी को मिलाना। "इन-मेमोरी कंप्यूटिंग की अवधारणा कई वर्षों से कंप्यूटर वास्तुकला विशेषज्ञों द्वारा प्रस्तावित की गई है," चेन कहते हैं। - एसआरएएम और गैर-वाष्पशील मेमोरी के लिए कई योजनाएं हैं, जिनके साथ उन्होंने इस तरह की अवधारणा का उपयोग करने और कार्यान्वित करने की कोशिश की। आदर्श रूप से, यदि यह सफल होता है, तो आप सीपीयू और मेमोरी के बीच डेटा की गति को समाप्त करके बड़ी मात्रा में ऊर्जा बचा सकते हैं। लेकिन यह आदर्श है। ”

लेकिन आज के लिए, हमारे मन में कोई गणना नहीं है। "अभी भी हमारे पास वॉन न्यूमैन आर्किटेक्चर का उपयोग करने वाला 1.0 एआई है, क्योंकि सिलिकॉन डिवाइस जो स्मृति में प्रसंस्करण को लागू करते हैं, कभी नहीं दिखाई देते हैं" जोंग। "किसी भी तरह से 3D TSV का उपयोग करने का एकमात्र तरीका बैंडविड्थ की समस्या को हल करने के लिए GPU के साथ उच्च गति मेमोरी का उपयोग करना है।" लेकिन यह अभी भी ऊर्जा और समय के लिए एक अड़चन बनी हुई है। ”

क्या ऊर्जा हानि की समस्या को हल करने के लिए मेमोरी में पर्याप्त डेटा प्रोसेसिंग होगी? ताइवान सेमीकंडक्टर मैन्युफैक्चरिंग कंपनी के सहायक निदेशक सीन ली ने कहा, "मानव मस्तिष्क में एक सौ अरब न्यूरॉन्स और 10 ¹⁵ सिनेप्स होते हैं।" "अब IBM TrueNorth को देखें।" TrueNorth, 2014 में IBM द्वारा विकसित एक मल्टी-कोर प्रोसेसर है। इसमें 4,096 कोर हैं और प्रत्येक में 256 प्रोग्रामेबल आर्टिफ़िशियल्स हैं। “मान लीजिए कि हम इसे मापना चाहते हैं और मस्तिष्क के आकार को पुन: उत्पन्न करना चाहते हैं। अंतर परिमाण के 5 आदेश हैं। लेकिन अगर हम सीधे संख्या बढ़ाते हैं और TrueNorth को गुणा करते हैं, 65 mW की खपत करते हैं, तो हमें 25 वाट का उपभोग करने वाले व्यक्ति के मस्तिष्क के खिलाफ 65 kW की खपत के साथ एक मशीन मिलती है। परिमाण के कई आदेशों से खपत को कम किया जाना चाहिए। "

ली इस अवसर की कल्पना करने का एक और तरीका प्रदान करते हैं। "तिथि करने के लिए सबसे कुशल सुपर कंप्यूटर जापान से ग्रीन 500 है, प्रति वाट 17 Gflops, या 59 पीजे पर 1 फ्लॉप जारी करता है।" ग्रीन 500 वेबसाइट का कहना है कि जापान के एडवांस्ड कंप्यूटिंग एंड कम्युनिकेशंस सेंटर (RIKEN) में स्थापित ZettaScaler-2.2 प्रणाली ने लिनपैक टेस्ट रन के दौरान 18.4 Gflops / W को मापा, जिसके लिए 858 TFlops की आवश्यकता थी। “इसकी तुलना लैंडॉयर सिद्धांत से करते हैं , जिसके अनुसार कमरे के तापमान पर ट्रांजिस्टर की न्यूनतम स्विचिंग ऊर्जा 2.75 zJ [10 ^-21 J] के क्रम की है। फिर, अंतर परिमाण के कई आदेश हैं। 59 पीजे लगभग 10 ^-21 के सैद्धांतिक कम के खिलाफ 10 ^{-11 है} । हमारे पास अनुसंधान के लिए बहुत बड़ा क्षेत्र है। ”

क्या ऐसे कंप्यूटरों की तुलना मस्तिष्क से करना उचित है? "इन-डेप्थ ट्रेनिंग की हालिया सफलताओं की जांच करने के बाद, हम देखेंगे कि ज्यादातर मामलों में लोग और मशीनें लगातार सात वर्षों तक प्रतिस्पर्धा करते हैं," पर्ड्यू विश्वविद्यालय के इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर विज्ञान के एमेरिटस प्रोफेसर कौशिक रॉय कहते हैं। "1997 में, डीप ब्लू ने कास्परोव को हरा दिया, 2011 में आईबीएम वाटसन ने खेल को खतरे में डाल दिया! और 2016 में अल्फा गो ने ली सेडोला को हराया। ये सबसे बड़ी उपलब्धियां हैं। लेकिन किस कीमत पर? इन मशीनों ने 200 से 300 किलोवाट की खपत की। मानव मस्तिष्क लगभग 20 वाट का उपभोग करता है। भारी अंतर। नवाचार कहां से आएगा?

अधिकांश अनुप्रयोगों के दिल में, MO और AI एक विशाल पैमाने पर की गई सरलतम गणनाएँ हैं। "यदि आप सबसे सरल तंत्रिका नेटवर्क लेते हैं, तो यह एक भारित योग करता है, जिसके बाद एक थ्रेशोल्ड ऑपरेशन होता है," रॉय बताते हैं। - यह विभिन्न प्रकार के मेट्रिसेस में किया जा सकता है। यह स्पिन्ट्रोनिक्स या प्रतिरोधक मेमोरी से एक उपकरण हो सकता है। इस मामले में, इनपुट वोल्टेज और परिणामी चालकता प्रत्येक चौराहे बिंदु से जुड़ी होगी। आउटपुट पर, आप चालकता के साथ गुणा किए गए वोल्टेज का योग प्राप्त करते हैं। यह वर्तमान है। फिर आप समान डिवाइस ले सकते हैं जो एक थ्रेशोल्ड ऑपरेशन करते हैं। आर्किटेक्चर की कल्पना इन नोड्स के एक समूह के रूप में की जा सकती है ताकि गणनाओं को पूरा किया जा सके। "


तंत्रिका नेटवर्क के मुख्य घटक

नई प्रकार की मेमोरी

अधिकांश संभावित आर्किटेक्चर उभरते हुए प्रकार की गैर-वाष्पशील मेमोरी से जुड़े हैं। "सबसे महत्वपूर्ण विशेषताएं क्या हैं?" “आईबीफ रिसर्च के एक शोधकर्ता जेफरी बर्र कहते हैं। “मैं गैर-वाष्पशील एनालॉग प्रतिरोधक मेमोरी लगाऊंगा, जैसे कि चरण परिवर्तन के साथ मेमोरी, मेमिस्टर, और इसी तरह। विचार यह है कि ये उपकरण एक ही चक्र में तंत्रिका नेटवर्क की पूरी तरह से जुड़े परतों के लिए सभी गुणा करने में सक्षम हैं। एक प्रोसेसर सेट पर, यह एक लाख घड़ी चक्र ले सकता है, और एक एनालॉग डिवाइस में, यह डेटा स्थान पर काम कर रहे भौतिकी का उपयोग करके किया जा सकता है। इस विचार को कुछ और विकसित करने के लिए समय और ऊर्जा के संदर्भ में पर्याप्त दिलचस्प पहलू हैं। "


नई स्मृति प्रौद्योगिकियों

चेन इससे सहमत हैं। “पीसीएम, एसटीटी को जीतने के लिए गंभीर बोलियां हैं। इन तीन प्रकार की मेमोरी इन-मेमोरी कंप्यूटिंग को लागू करने के लिए अच्छे उम्मीदवार हैं। वे बुनियादी तार्किक संचालन में सक्षम हैं। कुछ प्रजातियों में विश्वसनीयता की समस्या है, और उन्हें प्रशिक्षण के लिए इस्तेमाल नहीं किया जा सकता है, लेकिन निष्कर्ष निकालना संभव है। "

लेकिन यह पता चल सकता है कि इस मेमोरी में स्विच करना आवश्यक नहीं है। "लोग उसी उद्देश्य के लिए SRAM का उपयोग करने के बारे में बात कर रहे हैं," ली कहते हैं। "वे SRAM के साथ एनालॉग कंप्यूटिंग करते हैं।" केवल नकारात्मक यह है कि SRAM बहुत बड़ा है - प्रति बिट 6 या 8 ट्रांजिस्टर। इसलिए, यह एक तथ्य नहीं है कि हम इन नई तकनीकों का उपयोग एनालॉग कंप्यूटिंग में करेंगे। ”

एनालॉग कंप्यूटिंग में परिवर्तन का अर्थ यह भी है कि गणना की सटीकता अब एक आवश्यकता नहीं होगी। "एआई कहते हैं, वर्गीकृत करता है, और भविष्यवाणी करता है," वह कहते हैं। "वह ऐसे निर्णय लेता है जो असभ्य हो सकते हैं।" सटीकता के संदर्भ में, हम कुछ छोड़ सकते हैं। हमें यह निर्धारित करने की आवश्यकता है कि कौन सी गणना त्रुटि प्रतिरोधी है। फिर बिजली की खपत को कम करने या कंप्यूटिंग को गति देने के लिए कुछ तकनीकों को लागू किया जा सकता है। प्रोबेबिलिस्टिक सीएमओएस 2003 से काम कर रहा है। इसमें कई त्रुटियों की उपस्थिति तक वोल्टेज कम करना शामिल है, जिनमें से संख्या सहन करने योग्य बनी हुई है। आज, लोग पहले से ही अनुमानित गणना तकनीकों का उपयोग कर रहे हैं, जैसे कि परिमाणीकरण। 32-बिट फ़्लोटिंग-पॉइंट संख्या के बजाय, आपके पास 8-बिट पूर्णांक होंगे। एनालॉग कंप्यूटर पहले से उल्लेखित एक अन्य विशेषता है। "

लैब से बाहर निकलो

लैब से जनता तक तकनीक को ले जाना चुनौतीपूर्ण हो सकता है। "कभी-कभी आपको विकल्पों की तलाश करनी होती है," बर्र कहते हैं। - जब दो-आयामी फ्लैश मेमोरी बंद नहीं हुई, तो त्रि-आयामी फ्लैश मेमोरी अब ऐसा मुश्किल काम नहीं लग रही थी। यदि हम मौजूदा तकनीकों में सुधार करना जारी रखते हैं, तो यहां विशेषताओं को दोगुना करना, वहां दोहरीकरण करना, तो मेमोरी के अंदर एनालॉग गणना को छोड़ दिया जाएगा। लेकिन अगर निम्नलिखित सुधार महत्वहीन हो जाते हैं, तो एनालॉग मेमोरी अधिक आकर्षक लगेगी। शोधकर्ताओं के रूप में, हमें नए अवसरों के लिए तैयार रहना चाहिए। ”

अर्थव्यवस्था अक्सर विकास को धीमा कर देती है, विशेष रूप से स्मृति के क्षेत्र में, लेकिन बर्र का कहना है कि इस मामले में ऐसा नहीं होगा। “हमारे फायदे में से एक यह है कि यह उत्पाद मेमोरी से संबंधित नहीं होगा। यह मामूली सुधार के साथ कुछ नहीं होगा। यह उपभोक्ता उत्पाद नहीं है। यह GPU के साथ प्रतिस्पर्धा करने वाली चीज़ है। वे 70% कीमत पर बेचे जाते हैं, क्योंकि उनके ऊपर DRAM की लागत होती है, इसलिए यह स्पष्ट रूप से एक गैर-स्मृति उत्पाद है। और उत्पाद की लागत स्मृति से बहुत भिन्न नहीं होगी। यह अच्छा लगता है, लेकिन जब आप अरबों डॉलर के निर्णय लेते हैं, तो सभी लागत और उत्पाद विकास योजना स्पष्ट होनी चाहिए। इस बाधा को दूर करने के लिए, हमें प्रभावशाली प्रोटोटाइप देने की जरूरत है। ”

CMOS रिप्लेसमेंट

इन-मेमरी डेटा प्रोसेसिंग प्रभावशाली लाभ प्रदान कर सकता है, लेकिन प्रौद्योगिकी को लागू करने के लिए अधिक आवश्यक है। क्या CMOS के अलावा कोई अन्य सामग्री इसमें मदद कर सकती है? "कम खपत वाले सीएमओएस से सुरंग एफईटी में संक्रमण को देखते हुए, हम खपत में 1-2 गुना कमी के बारे में बात कर रहे हैं," ली कहते हैं। - एक अन्य संभावना तीन आयामी एकीकृत सर्किट है। वे TSV का उपयोग करके तारों की लंबाई कम करते हैं। यह बिजली की खपत और विलंबता दोनों को कम करता है। डेटा सेंटर देखें, वे सभी धातु की तारों को हटाते हैं और ऑप्टिकल कनेक्ट करते हैं। "


ऊर्ध्वाधर - बिजली की खपत, क्षैतिज - डिवाइस देरी

यद्यपि आप एक अलग तकनीक में जाने पर कुछ लाभ प्राप्त कर सकते हैं, वे इसके लायक नहीं हो सकते हैं। रॉय ने कहा, "सीएमओएस को बदलना बहुत मुश्किल होगा, लेकिन जिन डिवाइसों पर चर्चा की गई है, वे सीएमओएस तकनीक को पूरक कर सकते हैं। - CMOS, एनालॉग रूप में इन-मेमोरी गणना का समर्थन कर सकता है, संभवतः सेल 8T में। क्या सीएमओएस पर स्पष्ट लाभ के साथ आर्किटेक्चर बनाना संभव है? यदि सब कुछ सही ढंग से किया जाता है, तो CMOS मुझे हजारों गुना अधिक ऊर्जा दक्षता देगा। लेकिन इसमें समय लगता है। ”

स्पष्ट रूप से, CMOS प्रतिस्थापित नहीं होगा। "नई तकनीकें पुराने को अस्वीकार नहीं करेंगी, और CMOS के अलावा किसी भी सब्सट्रेट पर नहीं बनाई जाएंगी," बर्र ने निष्कर्ष निकाला।