डीप लर्निंग और ओपनविनो टूलकिट। इंटेल विशेषज्ञ जवाब

हम डीप लर्निंग और इंटेल ओपनविनो टूलकिट के लिए समर्पित हैबर शीर्षक के अगले पुनरावृत्ति को पूरा कर रहे हैं, "एक इंटेल विशेषज्ञ से एक प्रश्न पूछें"। उन कारणों के लिए जो हमारे लिए बहुत स्पष्ट नहीं हैं, इस बार हाबरा पाठकों की गतिविधि सामान्य से बहुत कम थी, हालांकि, इंटेल उत्साही लोगों पर कब्जा नहीं करता था - जो प्रश्न पूर्णता के लिए गायब थे, उन्हें ऑफ़लाइन एकत्र किया गया था। और हाँ, हमारे पास सर्वश्रेष्ठ प्रश्न के लिए प्रतियोगिता में एक विजेता भी है - परंपरा के अनुसार, उसके बारे में पोस्ट के अंत में।

सवाल

OpenVINO उपयोगकर्ता क्या लाभ प्रदान करता है और उन्हें इसका उपयोग क्यों करना चाहिए?

यूरी गोर्बाचेव उत्पाद का मुख्य लाभ प्रदर्शन, न्यूनतम आकार और लगभग निर्भरता की शून्य संख्या है। यह इन आवश्यकताओं है कि हम उत्पाद विकास में मुख्य हैं।

उत्पाद उन अनुप्रयोगों को लागू करने के लिए आदर्श है जो समस्याओं को हल करने के लिए डीप लर्निंग और कंप्यूटर विज़न का उपयोग करते हैं। उदाहरण के लिए, हमारे उत्पाद का प्रदर्शन जब इंटेल प्लेटफार्मों पर नेटवर्क की गणना लोकप्रिय फ्रेमवर्क की तुलना में कई गुना अधिक है। हमारे पास उपयोग की गई मेमोरी के लिए काफी कम आवश्यकताएं हैं, जो कई अनुप्रयोगों के लिए प्रासंगिक है। ट्राइट, कुछ प्लेटफार्मों पर मेमोरी की कमी के कारण चौखटे का उपयोग करके नेटवर्क शुरू करना असंभव है।

सवाल

क्या इंटेल प्लेटफार्मों पर OpenVINO का उपयोग करके नेटवर्क को प्रशिक्षित करना संभव है? कहो, यह बहुत दिलचस्प है, क्या नेरवाना प्लेटफार्मों पर प्रशिक्षित करना संभव है?

यूरी गोर्बाचेव नहीं, उत्पाद में प्रशिक्षण सहायता शामिल नहीं है। हमें प्राप्त होने वाले सुधारों का सभ्य हिस्सा इस तथ्य के कारण ठीक है कि हम उत्पाद को प्रशिक्षण में उपयोग करने की उम्मीद नहीं करते हैं (उदाहरण के लिए, स्मृति का पुन: उपयोग करना, फ़्यूज़िंग परतें, आदि)।

सवाल

आप केवल उन चौखटों का उपयोग क्यों नहीं कर सकते जिनमें नेटवर्क को तंत्रिका नेटवर्क चलाने के लिए प्रशिक्षित किया गया था? डीप लर्निंग इन्वेंशन इंजन फ्रेमवर्क की तुलना में क्या प्रदान करता है? मुझे कुछ भी बदलने की आवश्यकता क्यों है?

यूरी गोर्बाचेव उपयोग, ज़ाहिर है, संभव है। लेकिन अगर आपको सबसे अच्छे प्रदर्शन की आवश्यकता है, तो OpenVINO को चुनना काफी आसान है।

डीप लर्निंग इंट्रक्शन इंजन का प्रदर्शन वर्तमान में इंटेल प्लेटफार्मों पर सबसे अच्छा है। हम लोकप्रिय रूपरेखाओं की तुलना में परिणामों को प्रकाशित करते हैं; यहां उन्हें दोहराने का कोई मतलब नहीं है। मैं केवल यह कह सकता हूं कि इंटेल पुस्तकालयों का उपयोग करने वाले फ्रेमवर्क के संस्करण भी हमारे उत्पाद में प्रदर्शन खो देते हैं।
इसके अलावा, डीप लर्निंग इंट्रक्शन इंजन एकमात्र उत्पाद है जो सभी इंटेल प्लेटफार्मों पर लोकप्रिय फ्रेमवर्क के नेटवर्क के लॉन्च और विभिन्न ऑपरेटिंग सिस्टमों को चलाने का समर्थन करता है। मैं निम्नलिखित परिदृश्यों को उदाहरण के रूप में दूंगा:

• FPGA पर नेटवर्क चलाना केवल OpenVINO के माध्यम से संभव है
• इंटेल GPU और Movidius पर Caffe / TensorFlow / MXNet नेटवर्क का शुभारंभ।
• विंडोज ओएस चलाने वाले इंटेल प्लेटफार्मों पर नेटवर्क पर पूर्ण लॉन्च

सामान्य तौर पर, विंडोज चलाना एक अलग कहानी है। सभी चौखटे ऐसे आउट-ऑफ-बॉक्स लॉन्च का समर्थन नहीं करते हैं, उदाहरण के लिए, कैफ को चलाना बहुत सरल नहीं है। TensorFlow विंडोज के लिए बायनेरिज़ की आपूर्ति करता है, लेकिन अगर आपको संशोधन करने और पुनर्निर्माण करने की आवश्यकता है - एक समस्या हो सकती है। उसी समय, हम देखते हैं कि विंडोज पर चलने की मांग अक्सर होती है।

प्रश्न S_o_T

नेटवर्क आर्किटेक्चर के मध्यवर्ती प्रतिनिधित्व के लिए भविष्य का प्रारूप क्या है? क्या OpenVINO NNEF का समर्थन करने की योजना बना रहा है?

यूरी गोर्बाचेव वर्तमान में, ONNX सबसे लोकप्रिय मानक है। बल्कि, यह फेसबुक, माइक्रोसॉफ्ट और अन्य खिलाड़ियों के समर्थन का परिणाम है। विशेष रूप से, WinML निष्पादन के लिए ONNX को स्वीकार करता है और इस प्रारूप के साथ काम करने के लिए अच्छे उपकरण प्रदान करता है। मैं सामान्य रूप से ऐसी चीजों को मानकीकृत करने के बारे में उलझन में हूं। दुर्भाग्य से, अभ्यास से पता चलता है कि जैसे ही बातचीत मानकीकरण समितियों के स्तर पर जाती है, जिसमें विभिन्न कंपनियों के प्रतिनिधि अपने उत्पादों को बेचते हैं, प्रगति गंभीर रूप से बाधित होती है। पहले से ही एक समस्या है कि ONNX मौजूदा नेटवर्क का एक सेट व्यक्त करने के लिए पर्याप्त नहीं है। उदाहरण के लिए, Facebook द्वारा विकसित मास्क-RCNN, ONNX पर समर्थित नहीं है। साथ ही एसएसडी और फास्टर-आरसीएनएन परिवार के नेटवर्क।

हम एनएनईएफ के समर्थन पर विचार नहीं करते हैं - ग्राहकों से कोई अनुरोध नहीं था और, निष्पक्ष रूप से, इस मानक का उपयोग अक्सर नहीं किया जाता है। व्यवहार में, मैंने इस मानक को केवल एक बार उपयोग में देखा है। वैसे, उस कंपनी का क्रोनोस ग्रुप के साथ एक अनुबंध है।

कई नेटवर्क के साथ-साथ इंटेल जीपीयू के प्रदर्शन का विश्लेषण करने के लिए कौन से उपकरण मौजूद हैं?

यूरी गोर्बाचेव मुझे लगता है कि सबसे उपयुक्त उत्पाद इंटेल vTune होगा। हम इसे स्वयं विकास में उपयोग करते हैं, काफी उपयोगी जानकारी दिखाई जाती है, और यदि इस उत्पाद को कम से कम बुनियादी स्तर पर महारत हासिल है, तो यह एक महत्वपूर्ण मदद है। वैसे, डीप लर्निंग इन्वेंशन इंजन खुद को परतों को लागू करने की क्षमता का समर्थन करता है। और इस कार्यान्वयन की प्रक्रिया में, आपको संभवतः सर्वश्रेष्ठ प्रदर्शन प्राप्त करने के लिए प्रोफाइलर का उपयोग करना होगा।

प्रश्न ह्रीं 6३६ 6

शोधकर्ताओं ने 17 अलग-अलग बीमारियों जैसे कि किडनी कैंसर या पार्किंसंस रोग के लिए एक अद्वितीय "श्वसन छाप" की पहचान की है, और एक ऐसा उपकरण विकसित किया है जो 86% की सटीकता के साथ सांस के नमूने प्रदर्शित करता है, जो नैनोस्केल सेंसर की एक सरणी का उपयोग करके और कृत्रिम कृत्रिम तरीकों का उपयोग करके परिणामों का विश्लेषण करता है। और इसके संबंध में, यह सवाल उठता है: "आपकी राय में, AI किस हद तक चिकित्सा में विकसित हो सकता है और क्या इसके साथ मानव मस्तिष्क को कंप्यूटर के साथ जोड़ना संभव होगा?

यूरी गोर्बाचेव चिकित्सा में एआई का विकास पहले से ही हो रहा है, मुख्य रूप से काफी बुनियादी स्तर पर, लेकिन कदम काफी स्पष्ट रूप से पता लगाया गया है। नेटवर्क का उपयोग करके एमआरआई छवियों को विभाजित करने के लिए दृष्टिकोण लोकप्रिय हो रहे हैं, हमारे ग्राहक पहले से ही ऐसे कार्यों के लिए सबसे अधिक उत्पादक प्लेटफार्मों का विश्लेषण कर रहे हैं - सबूत है कि उत्पादों को रिलीज के लिए तैयार किया जा रहा है। यह मेरे लिए महत्वपूर्ण लगता है कि अक्सर नेटवर्क का उपयोग न केवल त्वरण के लक्ष्य का पीछा करता है, बल्कि डायग्नोस्टिक्स की गुणवत्ता में भी सुधार होता है।

मानव मस्तिष्क के साथ एक कंप्यूटर के तालमेल के बारे में, यह अब तक सोचने के लिए डरावना है। कम से कम, ऐसा लगता है कि एआई समस्याओं को हल करने के लिए मौजूदा तरीके मानव मस्तिष्क की तुलना में अनाड़ी हैं।

प्रश्न enginerr_7

मैंने ओपनविनो और आरओएस को एकीकृत करने की कोशिश की, मुझे सफलता नहीं मिली, सवाल यह है कि ओपनविनो को आरओएस में सही तरीके से कैसे एकीकृत किया जाए?

यूरी गोर्बाचेव प्रश्न का उत्तर देना थोड़ा मुश्किल है, यह स्पष्ट नहीं है कि क्या काम नहीं किया। सबसे मूल तरीका OpenVINO के साथ एक विशिष्ट ROS नोड को जोड़ना हो सकता है। हमने खुद इस पद्धति का उपयोग किया, यह काम किया।

मैं हमारे मंच पर अधिक विस्तृत प्रश्न पूछने की सलाह देता हूं, वे वहां आपकी मदद करेंगे, हमारी टीम उत्पाद समर्थन टीम के साथ वहां सवालों के जवाब देती है।

बायोमेडिकल छवियों के प्रसंस्करण में, पांच-आयामी इनपुट डेटा, तीन-आयामी दृढ़ संकल्प और अन्य संचालन अक्सर उपयोग किए जाते हैं। क्या कोई योजना नियोजित / नियोजित है? क्या पैरामीटर के सामान्य सेट के साथ पुनरावर्ती नेटवर्क, नेटवर्क (या अलग-अलग परत) का समर्थन करने की योजना है / है?

यूरी गोर्बाचेव हां, हम त्रि-आयामी संकल्प और पूलिंग के लिए समर्थन की योजना बनाते हैं और लागू करते हैं। मुझे लगता है कि हम वर्ष के अंत तक समर्थन के साथ उत्पाद के एक संस्करण के रिलीज की उम्मीद कर सकते हैं। आवर्तक नेटवर्क (LSTM / RNN) के लिए भी समर्थन होगा।

सवाल

OpenVINO में OpenCV लाइब्रेरी को बाइनरी रूप में क्यों शामिल किया गया है? आखिरकार, कोई भी इसे स्वयं डाउनलोड और निर्माण कर सकता है।

यूरी गोर्बाचेव इसके कारण काफी सामान्य हैं। OpenCV स्रोत रूप में उपलब्ध है और इसका निर्माण, संक्षेप में, एक सरल कार्य है। सबसे कुशल पैकेज बनाने के लिए यह थोड़ा कठिन है। अक्सर यह सवाल उठाता है और हमने बस तैयार पैकेज देने का फैसला किया है। हम किसी विशेष जादू का उपयोग नहीं करते हैं, हम सिर्फ सही तरीके से और सही विकल्पों के साथ निर्माण करते हैं।

बेशक, इसका उपयोग करना वैकल्पिक है, लेकिन मैं इसके साथ और एक कस्टम बिल्ड के साथ आवेदन के प्रदर्शन की तुलना करने की सलाह दूंगा। कुछ मामलों में, ग्राहक अपने अनुप्रयोगों को गति देने में सक्षम थे क्योंकि वे हमारे वितरण में बदल गए थे।

इसके अलावा, OpenVINO की डिलीवरी के मामले में, OpenCV DNN मॉड्यूल नेटवर्क लॉन्च करने के लिए इंजन के रूप में Inference इंजन का उपयोग करता है। ओपनसीवी में कोड की तुलना में औसतन यह कम से कम 2 गुना का त्वरण देता है।

सवाल

OpenVINO में प्रशिक्षित मॉडल शामिल हैं। ऑनलाइन उपलब्ध मॉडल से उनका अंतर क्या है? क्या मैं उन्हें अनुप्रयोगों में उपयोग कर सकता हूं और क्या व्यावसायिक उपयोग पर कोई प्रतिबंध है?

यूरी गोर्बाचेव वास्तव में, OpenVINO में ऐसे मॉडल होते हैं, जिनके उपयोग में कोई प्रतिबंध नहीं होता है (मूल प्रस्तुति प्रारूप से मूल मॉडल के पुनर्निर्माण के प्रयासों को छोड़कर) और लाइसेंस समझौते पर हस्ताक्षर करने की आवश्यकता नहीं होती है।

सार्वजनिक मॉडल से दो अंतर हैं:

• प्रदर्शन और मॉडलों का आकार । सभी आपूर्ति किए गए मॉडल एक संकीर्ण समस्या को हल करते हैं (उदाहरण के लिए, पैदल यात्री का पता लगाना) और यह हमें उनके आकार को कम करने की अनुमति देता है। सार्वजनिक मॉडल के मामले में, अधिक सामान्य समस्या (वस्तुओं के कई वर्गों का पता लगाने) को हल करने का प्रयास किया जाता है और इसके लिए बड़ी संख्या में मापदंडों के साथ अधिक कम्प्यूटेशनल रूप से जटिल मॉडल की आवश्यकता होती है। उपर्युक्त उदाहरण (पैदल यात्री का पता लगाने) में, हमारा मॉडल समस्या से बेहतर गुणवत्ता वाले सार्वजनिक की तुलना में 10+ गुना तेजी से हल कर सकता है।
• विदेशी कार्यों का निर्णय । अक्सर ऐसा होता है कि कार्य अकादमिक समुदाय में बहुत अधिक रुचि नहीं रखता है और सार्वजनिक मॉडल को ढूंढना आसान नहीं है। उदाहरण के लिए, सिर के रोटेशन के कोण का पता लगाना या उम्र और लिंग का विश्लेषण। इस मामले में, हमारा मॉडल आपको डेटासेट खोजने और मॉडल को प्रशिक्षित करने की आवश्यकता से मुक्त करता है।

सवाल

ऐसा लगता है कि कई मॉडल एक ही काम करते हैं, उदाहरण के लिए, चेहरे का पता लगाना। उनमें से कई क्यों हैं?

यूरी गोर्बाचेव दो अंतर हैं:

• गति / गुणवत्ता के लिए मूल्य । गुणवत्ता में मामूली नुकसान के कारण कुछ मॉडल बहुत तेजी से काम कर सकते हैं। आवेदन की आवश्यकताओं के आधार पर, आप एक या दूसरे को चुन सकते हैं।
• समस्या के बयान के लिए अलग-अलग शर्तें । उदाहरण के लिए, किसी व्यक्ति का शूटिंग कोण पहचान की गुणवत्ता को प्रभावित कर सकता है और हम विभिन्न मामलों के लिए 2 मॉडल प्रदान करते हैं।

यह ध्यान दिया जाना चाहिए कि मॉडलों के लिए विवरण के साथ एक फ़ाइल है, वहां आप प्रदर्शन के आंकड़े देख सकते हैं, मॉडल की सटीकता और छवियों के उदाहरण जो इनपुट होने की उम्मीद कर रहे हैं, अर्थात्। परिदृश्य विवरण।

सवाल

पुनरावृत्ति नेटवर्क का समर्थन क्यों नहीं किया जाता है? क्या यह इन आदिमों का उपयोग करके विशिष्ट आदिम और टोपोलॉजी का समर्थन करने की योजना है?

यूरी गोर्बाचेव समर्थन लागू किया जा रहा है, यह समय और प्राथमिकताओं का एक सामान्य प्रश्न है। मुझे लगता है कि वर्ष के अंत तक हमें इस कार्यक्षमता और कई नवाचारों को लागू करना चाहिए।

सवाल

यदि मैं एक मॉडल आयात करने की कोशिश करता हूं और मुझे त्रुटियां मिलती हैं तो मुझे क्या करना चाहिए। क्या इसे स्वयं हल करना संभव है या समर्थन में जाना आवश्यक है? क्या वे भी मेरा समर्थन करेंगे?

यूरी गोर्बाचेव फिलहाल, आप अच्छी तरह से समर्थन मंच की ओर मुड़ सकते हैं, हम काफी संख्या में प्रश्नों का उत्तर देते हैं और समस्याओं को हल करते हैं। यह ध्यान दिया जाना चाहिए कि मॉडल ऑप्टिमाइज़र घटक अजगर लिपियों का एक सेट है। सिद्धांत रूप में, इसका मतलब है कि यदि आप इसमें रुचि रखते हैं, तो आप स्वयं कुछ देख और मरम्मत कर सकते हैं।
हम स्रोत कोड जारी करने की भी योजना बना रहे हैं - इससे हमें बग को ठीक करने की तुलना में अधिक जटिल चीजें करने की अनुमति मिलनी चाहिए।

खैर, NNEF के समर्थन के बारे में एक प्रश्न के साथ प्रतियोगिता का विजेता H_Braiser S_o_T है। बधाई!