आर्टिफिशियल इंटेलिजेंस आर्किटेक्चर ऑप्टिमाइजेशन: द रेस शुरू होती है

जैसा कि एआई वास्तुकला में सुधार होता है और लागत में गिरावट आती है, विशेषज्ञों का कहना है कि अधिक से अधिक उद्यम इन प्रौद्योगिकियों में महारत हासिल करेंगे, जो नवाचारों को प्रोत्साहन देगा और दोनों कंपनियों और एआई डेवलपर्स के लिए बड़े लाभांश लाएगा।

एआई एप्लिकेशन अक्सर पारंपरिक उद्यम अनुप्रयोगों की तुलना में पूरी तरह से अलग आर्किटेक्चर के आधार पर काम करते हैं। बदले में, आपूर्तिकर्ता नए घटकों को प्रदान करने के लिए बहुत कुछ करने को तैयार हैं जो मांग में बढ़ रहे हैं।

"कंप्यूटिंग उद्योग बड़े बदलावों के दौर से गुजर रहा है - एआई में उद्यमों की रुचि नवाचारों को प्रोत्साहन देती है जो उन्हें मास्टर और एआई को किसी भी स्तर पर तैनात करने में मदद करेगा," केथ स्टायर, एआई विशेषज्ञ, ईवाई के सलाहकार। निवेशक एआई को अनुकूलित करने वाले स्टार्टअप्स में बहुत पैसा लगा रहे हैं, और बड़े निर्माता न केवल चिप्स और भंडारण की पेशकश करने लगे हैं, बल्कि तैनाती के लिए आवश्यक नेटवर्क और क्लाउड सेवाएं भी शुरू कर रहे हैं। ”

।
उनके अनुसार, अब आईटी निदेशकों का मुख्य कार्य कंपनी की जरूरतों के लिए उपयुक्त कृत्रिम बुद्धिमत्ता वास्तुकला का चयन करना है।

स्ट्रीर कहते हैं कि चूंकि एआई एक अभूतपूर्व पैमाने पर गणित है, इसलिए इस तकनीक के कार्यान्वयन के लिए परिचित कॉर्पोरेट वर्कलोड की तुलना में पूरी तरह से अलग तकनीकी परिस्थितियों और सुरक्षा उपकरणों की आवश्यकता होती है। एआई का पूरा लाभ उठाने के लिए, आपूर्तिकर्ताओं को एआई के लिए आवश्यक तकनीकी अवसंरचना, क्लाउड और अन्य सेवाएं प्रदान करने की आवश्यकता होगी, जिसके बिना ऐसी जटिल गणना असंभव होगी।

लेकिन हम पहले से ही इस के रास्ते पर हैं, और भविष्य में कृत्रिम बुद्धिमत्ता के और भी उन्नत आर्किटेक्चर होंगे। स्ट्रीर का मानना ​​है कि कंप्यूटिंग आर्किटेक्चर की लचीलापन, शक्ति और गति प्रदान करना न केवल उच्च-प्रदर्शन कंप्यूटिंग के विकास के लिए छोटी फर्में होंगी, बल्कि उच्च-प्रदर्शन कंप्यूटिंग उद्योग के अन्य प्रतिनिधि भी शामिल हैं, जिसमें माइक्रोचिप और क्लाउड सेवाएं बनाने के लिए शामिल हैं जो एआई के लिए एक उच्च मानक स्थापित करना चाहते हैं। गणना।

जैसा कि AI के क्षेत्र में अधिक विशेषज्ञ और डेवलपर्स दिखाई देते हैं, यह तकनीक अधिक सुलभ हो जाएगी, जो नवाचारों को एक अच्छा प्रोत्साहन देगी और कंपनियों और आपूर्तिकर्ताओं के लिए ध्यान देने योग्य लाभांश लाएगी।

इस बीच, आईटी निदेशकों को कॉर्पोरेट उपयोग के लिए एक कृत्रिम बुद्धिमत्ता वास्तुकला बनाने से जुड़ी कठिनाइयों से परिचित होना चाहिए ताकि वे उन्हें हल करने के लिए तैयार रहें।

चिप विकास

पारंपरिक कंप्यूटिंग आर्किटेक्चर से AI में संक्रमण के लिए सबसे महत्वपूर्ण शर्त ग्राफिक प्रोसेसर, प्रोग्रामेबल लॉजिक इंटीग्रेटेड सर्किट (FPGAs) और विशेष AI चिप्स का विकास था। GPU और FPGAs पर आधारित आर्किटेक्चर का प्रसार कंप्यूटिंग और भंडारण प्रणालियों की उत्पादकता और लचीलेपन को बढ़ाने में मदद करेगा, जो समाधान प्रदाताओं को AI और मशीन सीखने के अनुप्रयोगों के लिए उन्नत सेवाओं की एक श्रृंखला की पेशकश करने में सक्षम करेगा।

वेक्सटा इंक के संस्थापक और सीटीओ सूर्या वाराणसी ने कहा, "ये चिप आर्किटेक्चर हैं जो लोड से कई उन्नत सुविधाओं को जारी करते हैं [जैसे एआई प्रशिक्षण] और कंप्यूटिंग और भंडारण के लिए एक बेहतर स्टैक को लागू करने में मदद करते हैं।" डेटा प्रबंधन समाधान के प्रदाता।

लेकिन जबकि नए माइक्रोक्रिस्केट्स अधिक जटिल कुछ करने में सक्षम नहीं हैं। एआई वर्कलोड के लिए इष्टतम वास्तुकला का चयन करने के लिए, बड़े पैमाने पर गणना करना आवश्यक है जो उच्च थ्रूपुट की आवश्यकता होती है और देरी के बिना नहीं कर सकते। यहां सफलता की कुंजी हाई-स्पीड नेटवर्क है। लेकिन कई एआई एल्गोरिदम को इंतजार करना होगा जब तक कि डेटा का अगला सेट टाइप न हो जाए, इसलिए आपको देरी की दृष्टि खोना नहीं चाहिए।

इसके अलावा, जब सर्वर की सीमाओं को पार करना या सर्वर से स्टोरेज में स्थानांतरित करना, डेटा कई प्रोटोकॉल से गुजरता है। इन प्रक्रियाओं को सरल बनाने के लिए, डेटा विशेषज्ञ स्थानीय रूप से डेटा का पता लगाने की कोशिश कर सकते हैं ताकि एक सर्वर दूसरों की प्रतीक्षा किए बिना डेटा के बड़े हिस्से को संसाधित कर सके। GPU और भंडारण के बीच बेहतर एकीकरण भी पैसे बचाने में मदद करता है। अन्य विक्रेता संगतता सुनिश्चित करने के लिए एआई सर्वरों के डिजाइन को सरल बनाने के तरीकों की तलाश कर रहे हैं ताकि विभिन्न सर्वरों के लिए एक ही सर्वर का उपयोग किया जा सके।

एआई वर्कलोड के प्रसंस्करण के लिए गैर-वाष्पशील मेमोरी

GPU के आधार पर कई समाधानों के दिल में एक डायरेक्ट-अटैच्ड ड्राइव (DAS) है, जो वितरित सीखने और AI के लिए तार्किक निष्कर्ष के गठन को बहुत जटिल करता है। परिणामस्वरूप, गहरी सीखने के लिए इन डेटा लाइनों को स्थापित और प्रबंधित करना एक जटिल और समय लेने वाला कार्य बन रहा है।

इस समस्या को हल करने के लिए, गैर-वाष्पशील मेमोरी (एनवीएम) उपयुक्त है, जिसे मूल रूप से ठोस-राज्य ड्राइव (एसएसडी) और पारंपरिक कॉर्पोरेट सर्वर के बीच उच्च गुणवत्ता वाली कनेक्टिविटी प्रदान करने के लिए डिज़ाइन किया गया था। अब इस प्रकार की मेमोरी को अक्सर एआई वर्कलोड को अनुकूलित करने के लिए I / O मैट्रिसेस में शामिल किया जाता है।

लब्बोलुआब यह है कि कपड़े पर NVMe (NVMeF) - तथाकथित इन इंटरफेस - नेटवर्क प्रोटोकॉल के बीच परिवर्तित करने की लागत को कम करने और प्रत्येक प्रकार के एसएसडी की विशेषताओं को नियंत्रित करने में मदद करेगा। इससे CIO बड़े डेटा सेट का उपयोग करने वाले AI अनुप्रयोगों की लागत को सही ठहरा सकते हैं।

उन्नत प्रौद्योगिकियों के लिए उच्च लागत की आवश्यकता सहित, NVMeF ने अपने जोखिमों को दर्ज किया। इसके अलावा, इस उद्योग में अभी भी NVMeF विक्रेताओं पर निर्भरता है, इसलिए IT निदेशकों को उत्पाद चुनते समय विक्रेता-विशिष्ट संबंधों से बचने की कोशिश करनी चाहिए।
लेकिन NVMeF को लागू करने से आप कृत्रिम बुद्धिमत्ता के कॉर्पोरेट आर्किटेक्चर के अनुकूलन की दिशा में एक और कदम उठा सकते हैं, वाराणसी का मानना ​​है।

"इस तथ्य के बावजूद कि औद्योगिक पैमाने पर फैब्रिक आर्किटेक्चर पर एनवीएमई के विस्तार में एक और डेढ़ साल लग सकता है, हमारे पास पहले से ही मुख्य घटक हैं, और अग्रणी पहले से ही आशाजनक परिणाम बता रहे हैं," वाराणसी कहते हैं।

CIO जो AI अनुप्रयोगों को विकसित करने के इच्छुक हैं, NVMeF के लिए AI के लिए अनुकूलित एक साझा स्टोरेज पूल बनाने की कोशिश कर सकते हैं यदि यह अल्पावधि में मौजूदा भंडारण नेटवर्क को सफलतापूर्वक बदल सकता है। लेकिन अगर आप प्रतीक्षा करते हैं कि जब तक एनवीएमएफ पिछड़े संगत नहीं है, तब तक आप बहुत कुछ खो सकते हैं।

डेटा आंदोलन को कम करें

एआई तैनाती के विभिन्न चरणों की योजना बनाते समय, आपको बढ़ते डेटा की लागत पर विशेष ध्यान देने की आवश्यकता है। डेटा को संसाधित करने और बदलने के लिए और साथ ही प्रशिक्षण एल्गोरिदम के लिए एआई परियोजनाओं को भारी मात्रा में डेटा की आवश्यकता होती है।

इन कार्यों को पूरा करने के लिए हार्डवेयर और मानव संसाधनों की आवश्यकता होती है, साथ ही डेटा को स्थानांतरित करने में समय लगता है, एआई परियोजनाओं को बहुत महंगा बना सकता है। अगर CIOs चरणों के बीच बढ़ते डेटा से बच सकते हैं, तो यह संभावना है कि वे एक व्यवहार्य AI बुनियादी ढांचे को विकसित करने में सक्षम होंगे जो आईबीएम रिसर्च में भंडारण त्वरण प्रौद्योगिकी विशेषज्ञ, हरिस पॉज़िडिस, पीएचडी, प्रबंधक, ने कहा। निर्माता पहले से ही इस मुद्दे पर काम कर रहे हैं।

उदाहरण के लिए, आईबीएम ज्यूरिख में प्रयोगशालाओं में बड़े पैमाने पर एआई अनुप्रयोगों के लिए डेटा आंदोलन को कम करने के लिए विभिन्न हार्डवेयर और सॉफ्टवेयर अनुकूलन विकल्पों के साथ प्रयोग कर रहा है। इस तरह के अनुकूलन ने लोकप्रिय क्लिक विश्लेषण उपकरण के परीक्षण स्क्रिप्ट के प्रदर्शन को बढ़ाने में 46 बार मदद की है। पॉज़िडिस का कहना है कि वितरित सीखने और GPU त्वरण इस काम के दिल में हैं, जो विरल डेटा संरचनाओं के लिए समर्थन में सुधार करता है।

एआई वर्कलोड को तेज करने में कॉनकरेन्सी एक अन्य महत्वपूर्ण घटक है। वितरित प्रशिक्षण के लिए, हार्डवेयर और सॉफ़्टवेयर स्तरों में परिवर्तन करना आवश्यक है, जो समानांतर ग्राफिक्स प्रोसेसर एल्गोरिदम की प्रसंस्करण दक्षता में सुधार करेगा। आईबीएम शोधकर्ताओं ने डेटा समानता के साथ एक प्रोटोटाइप मंच बनाया है, जो आपको बड़ी मात्रा में डेटा को स्केल करने और सीखने की अनुमति देता है जो एक मशीन पर मेमोरी की मात्रा से अधिक है। बड़े पैमाने पर अनुप्रयोगों के लिए यह बहुत महत्वपूर्ण है। संचार सीखने और डेटा स्थानीयता प्रदान करने के लिए अनुकूलित एक नए प्लेटफॉर्म ने डेटा आंदोलन को कम करने में मदद की है।

हार्डवेयर स्तर पर, आईबीएम शोधकर्ताओं ने NVMeF का उपयोग सर्वर पर GPU, CPU, और मेमोरी घटकों के इंटरकनेक्टिविटी और साथ ही सर्वर और स्टोरेज के बीच सुधार के लिए किया।

“विभिन्न एआई वर्कलोड के प्रदर्शन को नेटवर्क की अड़चनों, मेमोरी बैंडविड्थ और सीपीयू और जीपीयू के बीच बैंडविड्थ द्वारा सीमित किया जा सकता है। यदि आप सिस्टम के सभी हिस्सों में अधिक कुशल कनेक्शन एल्गोरिदम और प्रोटोकॉल लागू करते हैं, तो आप तेजी से एआई अनुप्रयोगों को विकसित करने की दिशा में एक बड़ा कदम उठा सकते हैं।

यौगिक कम्प्यूटिंग

आज, अधिकांश वर्कलोड एक विशेष हार्डवेयर आर्किटेक्चर के लिए अनुकूलित प्रीकोन्फिगर्ड डेटाबेस का उपयोग करते हैं।

टेराडाटा के विश्लेषणात्मक उत्पादों और समाधानों के उपाध्यक्ष चाड माइली का कहना है कि बाजार सॉफ्टवेयर-संचालित हार्डवेयर की ओर बढ़ रहा है, जो संगठनों को वर्तमान कार्य के आधार पर समझदारी से GPU और CPU में प्रसंस्करण वितरित करने की अनुमति देगा।

कठिनाई इस तथ्य में निहित है कि उद्यम विभिन्न भंडारण विकल्पों का उपयोग करने के लिए विभिन्न कंप्यूटिंग इंजनों का उपयोग करते हैं। बड़े निगम मूल्यवान डेटा को संग्रहीत करना पसंद करते हैं जिन्हें नियमित रूप से एक्सेस की आवश्यकता होती है, उदाहरण के लिए, उच्च-प्रदर्शन इनपुट-आउटपुट वातावरण का उपयोग करके ग्राहकों, वित्त, आपूर्ति श्रृंखला, उत्पादों और अन्य घटकों के बारे में जानकारी। बदले में, शायद ही कभी उपयोग किए जाने वाले डेटा सेट, जैसे सेंसर रीडिंग, वेब सामग्री और मल्टीमीडिया, कम लागत वाले क्लाउड स्टोरेज में संग्रहीत किए जाते हैं।

समग्र कंप्यूटिंग के लक्ष्यों में से एक है SQL कंटेनर, ग्राफ़ इंजन, मशीन लर्निंग, और गहरी सीखने के इंजन जैसे इंस्टेंस के प्रदर्शन को अनुकूलित करने के लिए कंटेनरों का उपयोग करना जो विभिन्न रिपॉजिटरी में वितरित डेटा तक पहुंचते हैं। कई विश्लेषणात्मक कंप्यूटिंग इंजनों की तैनाती मल्टीप्रोसेसर मॉडल का उपयोग करने की अनुमति देती है जो विभिन्न इंजनों से डेटा का उपयोग करते हैं और, एक नियम के रूप में, बेहतर परिणाम लाते हैं।

आईटी विक्रेता जैसे डेल टेक्नोलॉजीज, हेवलेट पैकर्ड एंटरप्राइज और लिक्विड धीरे-धीरे पारंपरिक आर्किटेक्चर से दूर जा रहे हैं जो कंप्यूटिंग स्तर पर वर्कलोड असाइन करते हैं। इसके बजाय, वे केंद्रीय प्रसंस्करण इकाइयों, जीपीयू, मेमोरी और स्टोरेज डिवाइसों से युक्त संपूर्ण सिस्टम में एआई वर्कलोड असाइन करना चाहते हैं। इस तरह के एक संक्रमण के लिए, नए नेटवर्क घटकों को मास्टर करना आवश्यक है, जो सिस्टम के विभिन्न घटकों को जोड़ने पर गति को बढ़ाता है और देरी को कम करता है।

उदाहरण के लिए, कई क्लाउड डेटा केंद्र कंप्यूटिंग घटकों और भंडारण को जोड़ने के लिए ईथरनेट का उपयोग करते हैं, जहां देरी लगभग 15 माइक्रोसेकंड है। InfiniBand का हाई-स्पीड स्विच्ड कंप्यूटर नेटवर्क, जिसका उपयोग कई परिवर्तित इन्फ्रास्ट्रक्चर में किया जाता है, विलंबता को 1.5 माइक्रोसेकंड तक कम कर सकता है। तरल ने पीसीआई एक्सप्रेस (पीसीआईई) का उपयोग करके विभिन्न नोड्स को जोड़ने के लिए उपकरणों का एक सेट बनाया है, जो 150 नैनोसेकंड की देरी को कम करता है।

इसके अलावा, कुछ विशेषज्ञों का सुझाव है कि तेजी से कनेक्शन के साथ बड़े भार को संभालने के लिए उपयोग किए जाने वाले जीपीयू के लिए मेमोरी की मात्रा बढ़ाई जाए। उदाहरण के लिए, DDR4 का उपयोग अक्सर RAM के साथ किया जाता है, जो 14 नैनोसेकेंड में देरी को कम करता है। लेकिन यह केवल कुछ इंच के छोटे खंडों के लिए काम करता है।

ClusterOne AI प्रबंधन सेवा के संस्थापक और डेवलपर लिटिल मार्रेक का मानना ​​है कि सॉफ़्टवेयर वातावरण में AI कार्यभार की अनुकूलता सुनिश्चित करने के लिए अधिक कार्य की आवश्यकता है। इस तथ्य के बावजूद कि कुछ उद्यम पहले से ही डॉकर और कुबेरनेट्स के साथ संगतता सुनिश्चित करने की कोशिश कर रहे हैं, जीपीयू के लिए एक ही दृष्टिकोण लागू करना बहुत जल्दी है।

"सामान्य रूप से, GPU वर्कलोड चलाने और उनकी निगरानी करना आसान नहीं है," मार्रेक कहते हैं। "कोई सार्वभौमिक समाधान नहीं है जो सभी प्रणालियों की निगरानी की अनुमति देगा।"

स्टोरेज और जी.पी.यू.

एक अन्य दृष्टिकोण यह है कि किसी विशेष प्रकार के विश्लेषण के लिए आवश्यक राशि को कम करने के लिए एक ग्राफिक्स प्रोसेसर का उपयोग डेटा को पूर्व-संसाधित करने के लिए किया जाए, और डेटा को व्यवस्थित करने और उन्हें लेबल असाइन करने में मदद करें। यह आपको प्रसंस्करण में शामिल कई GPU के लिए एक उपयुक्त डेटा सेट तैयार करने की अनुमति देगा, ताकि एल्गोरिथ्म धीमे नेटवर्क पर स्टोरेज से डेटा स्थानांतरित करने के बजाय मेमोरी के अंदर से काम कर सके।

"हम भंडारण, कंप्यूटिंग और मेमोरी को समाधान के अलग-अलग घटकों के रूप में अनुभव करते हैं, जो ऐतिहासिक रूप से विकसित हुआ है, और इसलिए प्रसंस्करण वॉल्यूम बढ़ाने की कोशिश करता है," एलेक्स सेंट जॉन, सीटीओ और न्यारीड लिमिटेड के संस्थापक, एक भंडारण सॉफ्टवेयर कंपनी, जो इसमें दिखाई दी। दुनिया के सबसे बड़े रेडियो टेलीस्कोप के लिए अनुसंधान का परिणाम - एक दूरबीन वर्ग मीटर (SKA) के एक एंटीना सरणी के साथ।

डेटा की मात्रा जितनी बड़ी होगी, प्रसंस्करण के लिए उन्हें कहीं और स्थानांतरित करना उतना ही मुश्किल होगा।

SKA टेलीस्कोप को 160 टीबी वास्तविक समय रेडियो सिग्नल डेटा को संसाधित करने के लिए बड़ी मात्रा में शक्ति की आवश्यकता थी, जो शोधकर्ताओं के लिए मुख्य बाधा थी। नतीजतन, उन्होंने RAID स्टोरेज को छोड़ने का फैसला किया जो डेटा केंद्रों में सबसे अधिक बार उपयोग किए जाते हैं और बीजीएफएस जैसे समानांतर क्लस्टर फ़ाइल सिस्टम को तैनात करते हैं, जो एआई वर्कलोड के लिए डेटा की तैयारी को सरल करता है।

आईटी निर्देशक जो कृत्रिम बुद्धिमत्ता वास्तुकला के लिए इष्टतम रणनीति पर काम करते हैं, उन्हें प्रयोज्यता पर विशेष ध्यान देना चाहिए। यदि डेवलपर्स, डेटा विशेषज्ञ, और विकास और संचालन एकीकरण दल नई तकनीक में तेजी से महारत हासिल कर सकते हैं, तो वे तैनाती समस्याओं और डेटा लाइनों को हल करने के बजाय सफल व्यावसायिक तर्क बनाने में अपना समय और ऊर्जा निवेश कर सकते हैं।

इसके अलावा, संगठनों को ध्यान से विचार करने की आवश्यकता है कि मौजूदा पारिस्थितिकी तंत्र में एक नए एआई आर्किटेक्चर के निर्माण में कितना प्रयास और समय लगेगा।

इगाज़ियो के संस्थापक और मुख्य कार्यकारी अधिकारी आसफ कुछ कहते हैं, "नए इन्फ्रास्ट्रक्चर को लागू करने और बड़े कार्यभार की योजना बनाने से पहले, सीआईओ को यह मूल्यांकन करने की आवश्यकता है कि कितने थकाऊ संसाधनों की आवश्यकता होगी।"