इंटेल Nervana NNP-T और NNP-I - AI के लिए विशेष चिप्स

कृत्रिम बुद्धिमत्ता के महत्व को समझते हुए, इंटेल उस दिशा में एक और कदम उठा रहा है। एक महीने पहले, हॉट चिप्स 2019 सम्मेलन में, कंपनी ने आधिकारिक तौर पर प्रशिक्षण के लिए डिज़ाइन किए गए दो विशेष चिप्स पेश किए और तंत्रिका नेटवर्क की स्थापना की। चिप्स को क्रमशः इंटेल नर्वाना एनएनपी- टी (न्यूरल नेटवर्क प्रोसेसर) और इंटेल नर्वाना एनएनपी- I नाम दिया गया था। कटौती के तहत आपको नए उत्पादों की विशेषताएं और योजनाएं मिलेंगी।

इंटेल नर्वाना एनएनपी-टी (स्प्रिंग क्रेस्ट)

तंत्रिका नेटवर्क प्रशिक्षण समय, ऊर्जा दक्षता के साथ, एआई प्रणाली के प्रमुख मापदंडों में से एक है, जो इसके आवेदन के दायरे को निर्धारित करता है। सबसे बड़े मॉडल और प्रशिक्षण सेट में उपयोग की जाने वाली कंप्यूटिंग शक्ति हर तीन महीने में दोगुनी हो जाती है। इसी समय, तंत्रिका नेटवर्क में गणना का एक सीमित सेट उपयोग किया जाता है, मुख्य रूप से दृढ़ संकल्प और मैट्रिक्स गुणा, जो अनुकूलन के लिए बहुत गुंजाइश खोलता है। आदर्श रूप से, हमें जिस उपकरण की आवश्यकता होती है, उसका उपभोग, संचार, कंप्यूटिंग शक्ति और मापनीयता के संदर्भ में संतुलित होना चाहिए।



Intel Nervana NNP-T मॉड्यूल PCIe 4.0 x16 या OAM कार्ड के रूप में बनाया गया है। मुख्य एनएनपी-टी कंप्यूटिंग तत्व 24-टुकड़ा टेन्सर प्रोसेसिंग क्लस्टर (टीपीसी) है, जो 119 टीओपीएस प्रदर्शन प्रदान करता है। 4 HBM बंदरगाहों के माध्यम से कुल 32 GB HBM2-2400 मेमोरी कनेक्ट की जाती है। बोर्ड पर 64 लाइनों, एसपीआई, आई 2 सी, जीपीआईओ इंटरफेस पर एक क्रमांकन / डीसेरिएलाइज़ेशन इकाई भी है। चिप पर वितरित मेमोरी की मात्रा 60 एमबी (2.5 एमबी प्रति टीपीसी) है।


टेन्सर प्रोसेसिंग क्लस्टर (TPC) आर्किटेक्चर

अन्य इंटेल Nervana NNP-T प्रदर्शन विनिर्देशों।

जैसा कि आप आरेख से देख सकते हैं, प्रत्येक TPC में BFloat16 समर्थन के साथ दो 32x32 मैट्रिक्स गुणन कोर हैं। अन्य ऑपरेशन BFloat16 या FP32 प्रारूप में किए जाते हैं। कुल में, एक मेजबान पर 8 कार्ड स्थापित किए जा सकते हैं, अधिकतम स्केलेबिलिटी - 1024 नोड तक।

इंटेल नर्वाना एनएनपी- I (स्प्रिंग हिल)

Intel Nervana NNP-I को डिज़ाइन करते समय, इसका उद्देश्य बड़े डेटा केंद्रों के पैमाने पर अधिकतम ऊर्जा दक्षता प्रदान करना था - लगभग 5 TOP / W।



NNP-I एक SoC है, जो 10-एनएम प्रक्रिया प्रौद्योगिकी के अनुसार बनाया गया है और इसमें AVX और VNNI के लिए समर्थन के साथ दो मानक x86 कोर, और साथ ही 12 विशेष आविष्कार कंप्यूट इंजन (ICE) कोर शामिल हैं। अधिकतम प्रदर्शन 92 टोर, टीडीपी - 50 वाट है। आंतरिक मेमोरी की मात्रा 75 एमबी है। संरचनात्मक रूप से, उपकरण को विस्तार कार्ड M.2 के रूप में बनाया गया है।


इन्वेंशन कंप्यूट इंजन (ICE) आर्किटेक्चर

आविष्कार कम्प्यूट इंजन के प्रमुख तत्व:
डीप लर्निंग कंप्यूट ग्रिड

• प्रति चक्र 4k मैक (int8)
• FP16, INT8, INT 4/2/1 के लिए स्केलेबल समर्थन
• बड़ी मात्रा में आंतरिक मेमोरी
• अरेखीय संचालन और पूलिंग

प्रोग्रामेबल वेक्टर प्रोसेसर

• उच्च प्रदर्शन - 5 वीएलआईडब्ल्यू 512 बी
• विस्तारित एनएन समर्थन - एफपी 16/16 बी / 8 बी

Intel Nervana NNP-I के निम्नलिखित प्रदर्शन संकेतक प्राप्त हुए थे: 50-लेयर रेसनेट नेटवर्क पर, 10 W की ऊर्जा खपत के साथ प्रति सेकंड 3600 इंफ़ेक्शन की गति प्राप्त की गई थी, अर्थात वाट के संदर्भ में ऊर्जा दक्षता प्रति सेकंड 360 चित्र है।