🎦 🍓 🖥️ NVIDIA जेटसन नैनो: परीक्षण और पहला इंप्रेशन 👩🏼‍💼 🎌 👩🏻‍🤝‍👨🏽

हाय, हैब्र।

अपेक्षाकृत हाल ही में, 2019 में, NVIDIA ने रासबेरी पाई फॉर्म फैक्टर के साथ संगत एआई और संसाधन-गहन गणना पर ध्यान केंद्रित करते हुए एकल-बोर्ड कंप्यूटर की घोषणा की।

बिक्री पर दिखाई देने के बाद, यह देखना दिलचस्प हो गया कि यह कैसे काम करता है और इस पर क्या किया जा सकता है। मानक मानदंड का उपयोग करना इतना दिलचस्प नहीं है, इसलिए हम अपने स्वयं के साथ आएंगे, सभी परीक्षणों के लिए पाठ में स्रोत कोड दिया गया है। जो हुआ उसमें दिलचस्पी रखने वालों के लिए कट के नीचे जारी रहा।

हार्डवेयर

शुरुआत के लिए, NVIDIA वेबसाइट से विनिर्देशों:

दिलचस्प है, यहाँ कुछ बिंदु हैं।

पहले 128 कोर के साथ एक जीपीयू है, क्रमशः, बोर्ड पर आप जीपीयू-उन्मुख कार्यों को चला सकते हैं, जैसे कि सीयूडीए (समर्थित और बॉक्स से बाहर स्थापित) या टेंसरफ्लो। मुख्य प्रोसेसर 4-कोर है, और, जैसा कि नीचे दिखाया गया है, काफी अच्छा है। सीपीयू और जीपीयू के बीच 4 जीबी मेमोरी साझा की गई है।

दूसरा रास्पबेरी पाई के साथ संगतता है। बोर्ड में विभिन्न इंटरफेस (I2C, SPI, आदि) के साथ एक 40-पिन कनेक्टर है, एक कैमरा कनेक्टर भी है, जो रास्पबेरी पाई के साथ भी संगत है। यह माना जा सकता है कि बड़ी संख्या में मौजूदा सामान (स्क्रीन, मोटर कंट्रोल बोर्ड, आदि) काम करेंगे (आपको एक एक्सटेंशन केबल का उपयोग करना पड़ सकता है, क्योंकि जेटसन नैनो अभी भी आकार में भिन्न है)।

तीसरे, बोर्ड में 2 वीडियो आउटपुट हैं, गिगाबिट-ईथरनेट और यूएसबी 3.0, अर्थात्। जेटसन नैनो एक पूरे के रूप में प्रोटोटाइप की तुलना में थोड़ा अधिक कार्यात्मक है। 5 वी बिजली, माइक्रो यूएसबी के माध्यम से और एक अलग कनेक्टर के माध्यम से ली जा सकती है, जिसे संसाधन-गहन कार्यों के ~~बिटकॉइन के खनन के~~ लिए अनुशंसित किया जाता है। जैसा कि रास्पबेरी पाई में, सॉफ्टवेयर एसडी कार्ड से लोड किया गया है, जिसकी छवि पहले दर्ज की जानी चाहिए। सामान्य तौर पर, वैचारिक रूप से, बोर्ड रास्पबेरी पाई के समान है, जो जाहिरा तौर पर NVIDIA में कल्पना की गई थी। लेकिन बोर्ड पर कोई वाईफाई नहीं है, एक निश्चित माइनस है, जो लोग चाहते हैं उन्हें यूएसबी-वाईफाई मॉड्यूल का उपयोग करना होगा।

यदि आप बारीकी से देखते हैं, तो आप देख सकते हैं कि संरचनात्मक रूप से डिवाइस में दो मॉड्यूल शामिल हैं - जेटसन नैनो मॉड्यूल और कनेक्टर के साथ नीचे बोर्ड, कनेक्शन एक कनेक्टर के माध्यम से है।

यानी बोर्ड को काट दिया जा सकता है और अलग से उपयोग किया जा सकता है, यह एम्बेडेड समाधानों के लिए सुविधाजनक हो सकता है।

कीमत की बात की जाए। संयुक्त राज्य अमेरिका में जेटसन नैनो की मूल कीमत $ 99 है, यूरोप में स्थानीय दुकानों में मार्क-अप के साथ कीमत लगभग 130 यूरो है (यदि आपको छूट मिलती है, तो आप शायद सस्ता पा सकते हैं)। रूस में नैनो की लागत कितनी है अज्ञात।

सॉफ्टवेयर

जैसा कि ऊपर उल्लेख किया गया है, डाउनलोड और स्थापना रास्पबेरी पाई से बहुत अलग नहीं है। हम छवि को SD कार्ड पर Etcher या Win32DiskImager के माध्यम से लोड करते हैं, लिनक्स में प्राप्त करते हैं, आवश्यक लाइब्रेरी डालते हैं। एक उत्कृष्ट चरण-दर-चरण मार्गदर्शिका यहां है , मैंने इसका उपयोग किया। आइए अभी परीक्षणों पर जाएं - नैनो के तहत विभिन्न कार्यक्रमों को चलाने की कोशिश करें, और देखें कि वे कैसे काम करते हैं। तुलना के लिए, मैंने तीन कंप्यूटरों का उपयोग किया - मेरा काम लैपटॉप (कोर I7-6500U 2.5GHz), रास्पबेरी पाई 3 बी + और जेटसन नैनो।

सीपीयू परीक्षण

आरंभ करने के लिए, lscpu कमांड का स्क्रीनशॉट।

रास्पबेरी पाई 3 बी +:

जेटसन नैनो:

गणना के लिए, चलो कुछ सरल से शुरू करते हैं, लेकिन प्रोसेसर समय की आवश्यकता होती है। उदाहरण के लिए, संख्या पाई की गणना करके। मैंने स्टैकओवरफ्लो के साथ एक साधारण पायथन कार्यक्रम लिया।

मुझे नहीं पता कि यह इष्टतम है या नहीं, लेकिन यह हमारे लिए महत्वपूर्ण नहीं है - हम सापेक्ष समय में रुचि रखते हैं।

स्पॉइलर के तहत स्रोत कोड

import time # Source: https://stackoverflow.com/questions/9004789/1000-digits-of-pi-in-python def make_pi(): q, r, t, k, m, x = 1, 0, 1, 1, 3, 3 for j in range(10000): if 4 * q + r - t < m * t: yield m q, r, t, k, m, x = 10*q, 10*(rm*t), t, k, (10*(3*q+r))//t - 10*m, x else: q, r, t, k, m, x = q*k, (2*q+r)*x, t*x, k+1, (q*(7*k+2)+r*x)//(t*x), x+2 t1 = time.time() pi_array = [] for i in make_pi(): pi_array.append(str(i)) pi_array = pi_array[:1] + ['.'] + pi_array[1:] pi_array_str = "".join(pi_array) print("PI:", pi_array_str) print("dT:", time.time() - t1)

जैसा कि अपेक्षित था, कार्यक्रम तेजी से काम नहीं करता है। जेटसन नैनो के लिए परिणाम: 0.8 सी।

रास्पबेरी पाई 3 बी + ने एक उल्लेखनीय समय दिखाया: 3.06 सी। "अनुकरणीय" लैपटॉप ने 0.27 में कार्य पूरा किया। सामान्य तौर पर, यहां तक कि एक GPU का उपयोग किए बिना, नैनो में मुख्य प्रोसेसर अपने फॉर्म फैक्टर के लिए काफी अच्छा है। जो लोग रास्पबेरी पाई 4 पर जांच कर सकते हैं, मेरे पास उपलब्ध नहीं हैं।

निश्चित रूप से ऐसे लोग हैं जो टिप्पणियों में लिखना चाहते हैं कि पायथन ऐसी गणनाओं के लिए सबसे अच्छा विकल्प नहीं है, मैं एक बार फिर से दोहराता हूं कि समय की तुलना करना हमारे लिए महत्वपूर्ण था, इसे कम करने की कोई आवश्यकता नहीं है। यह स्पष्ट है कि ऐसे प्रोग्राम हैं जो बहुत तेजी से पाई संख्या की गणना करते हैं।

PyCUDA

चलो GPU का उपयोग करके अधिक दिलचस्प गणनाओं पर चलते हैं, जिसके लिए बेशक (बोर्ड NVIDIA से है), हम CUDA का उपयोग करेंगे। PyCUDA लाइब्रेरी को इंस्टालेशन के दौरान कुछ छायावाद की आवश्यकता थी, इसमें cuda.h नहीं मिला, कमांड का उपयोग "sudo env" PATH = $ PATH "पाइप इंस्टॉल pycuda" ने मदद की, शायद एक और तरीका है ( devtalk.nvidia.com फोरम पर अधिक विकल्पों पर चर्चा की गई थी )।

परीक्षण के लिए, मैंने PyCUDA के लिए सरल प्रोग्राम SimpleSpeedTest लिया, जो केवल लूप में साइन को गिनता है, यह कुछ भी उपयोगी नहीं है, लेकिन इसका मूल्यांकन करना काफी संभव है, और इसका कोड सरल और स्पष्ट है।

स्पॉइलर के तहत स्रोत कोड

 # SimpleSpeedTest.py # https://wiki.tiker.net/PyCuda/Examples/SimpleSpeedTest import pycuda.driver as drv import pycuda.autoinit from pycuda.compiler import SourceModule import numpy import time blocks = 64 block_size = 128 nbr_values = blocks * block_size n_iter = 100000 print("Calculating %d iterations" % (n_iter)) print() ##################### # SourceModule SECTION # create two timers so we can speed-test each approach start = drv.Event() end = drv.Event() mod = SourceModule("""__global__ void gpusin(float *dest, float *a, int n_iter) { const int i = blockDim.x*blockIdx.x + threadIdx.x; for(int n = 0; n < n_iter; n++) { a[i] = sin(a[i]); } dest[i] = a[i]; }""") gpusin = mod.get_function("gpusin") # create an array of 1s a = numpy.ones(nbr_values).astype(numpy.float32) # create a destination array that will receive the result dest = numpy.zeros_like(a) start.record() # start timing gpusin(drv.Out(dest), drv.In(a), numpy.int32(n_iter), grid=(blocks,1), block=(block_size,1,1) ) end.record() # end timing # calculate the run length end.synchronize() secs = start.time_till(end)*1e-3 print("PyCUDA time and first three results:") print("%fs, %s" % (secs, str(dest[:3]))) print() ############# # CPU SECTION # use numpy the calculate the result on the CPU for reference a = numpy.ones(nbr_values).astype(numpy.float32) t1 = time.time() for i in range(n_iter): a = numpy.sin(a) print("CPU time and first three results:") print("%fs, %s" % (time.time() - t1, str(a[:3])))

जैसा कि आप देख सकते हैं, गणना CUDA के माध्यम से GPU का उपयोग करके और सीपीयू का उपयोग करके खस्ता के माध्यम से किया जाता है।

परिणाम:
जेटसन नैनो - 0.67c GPU, 13.3c CPU।
रास्पबेरी पाई 3 बी + - 41.85 सी सीपीयू, जीपीयू - कोई डेटा नहीं, आरपीआई पर सीयूडीए काम नहीं करता है।
नोटबुक - 0.05s GPU, 3.08c CPU।

सब कुछ काफी अपेक्षित है। GPU पर गणना सीपीयू (अभी भी 128 कोर) पर गणना की तुलना में बहुत तेज है, रास्पबेरी पाई काफी महत्वपूर्ण है। खैर, बेशक, ~~आप भेड़िये को कितना भी खिलाएं, हाथी के पास अभी भी~~ जेटसन नैनो में कार्ड की तुलना में बहुत तेजी से एक लैपटॉप वीडियो कार्ड है - यह संभावना है कि इसमें बहुत अधिक प्रसंस्करण कोर हैं।

निष्कर्ष

जैसा कि आप देख सकते हैं, NVIDIA बोर्ड काफी दिलचस्प और बहुत ही उत्पादक निकला। यह रास्पबेरी पाई की तुलना में थोड़ा बड़ा और महंगा है, लेकिन अगर किसी को कॉम्पैक्ट आकार के साथ अधिक प्रसंस्करण शक्ति की आवश्यकता होती है, तो यह इसके लिए अच्छी तरह से है। बेशक, यह हमेशा आवश्यक नहीं होता है - उदाहरण के लिए, तापमान को narodmon को भेजने के लिए, रास्पबेरी पाई ज़ीरो पर्याप्त है, और कई मार्जिन के साथ। इसलिए जेटसन नैनो रास्पबेरी और क्लोन को बदलने का दावा नहीं करता है, लेकिन संसाधन-गहन कार्यों के लिए यह बहुत दिलचस्प है (यह न केवल ड्रोन या मोबाइल रोबोट हो सकता है, बल्कि उदाहरण के लिए, चेहरे की पहचान के साथ एक डोरबेल के लिए एक कैमरा )।

एक हिस्से में, कल्पना की गई हर चीज फिट नहीं थी। दूसरे भाग में, एआई भाग के परीक्षण होंगे - केरास / टेन्सरफ़्लो के परीक्षण और वर्गीकरण और छवि मान्यता पर कार्य।

NVIDIA जेटसन नैनो: परीक्षण और पहला इंप्रेशन

हार्डवेयर

सॉफ्टवेयर

निष्कर्ष

More articles: