डीप लर्निंग फ्रेमवर्क की तुलना: टेन्सरफ्लो, पाइटोर, केरस, एमएक्सनेट, माइक्रोसॉफ्ट कॉग्निटिव टूलकिट, कैफ, आदि।

सभी को नमस्कार। इस शुक्रवार, हम आपके साथ डेटा साइंटिस्ट पाठ्यक्रम के शुभारंभ पर पहला प्रकाशन साझा कर रहे हैं। अच्छी पढाई हो।

एक महान कई संगठनों ने गतिविधियों के दायरे का विस्तार करने या अपने स्टार्ट-अप को विकसित करने के लिए अपने निर्णयों में कृत्रिम बुद्धिमत्ता का उपयोग करने की कोशिश के बारे में निर्धारित किया है, लेकिन एक महत्वपूर्ण बात यह समझने के लिए है: चुने हुए विकास प्रौद्योगिकी को गहन सीखने के लिए एक अच्छी रूपरेखा के साथ जाना चाहिए, खासकर क्योंकि प्रत्येक रूपरेखा कार्य करती है कुछ अलग लक्ष्य। इस मामले में सही अग्रानुक्रम की खोज व्यवसाय के सुचारू और तेजी से विकास और परियोजनाओं की सफल तैनाती के लिए एक शर्त है।



गहरी सीखने के लिए रूपरेखाओं की निम्नलिखित सूची विशिष्ट समस्याओं को हल करने के लिए सही उपकरण चुनने की प्रक्रिया में मदद कर सकती है जो आपको किसी परियोजना पर काम करने की प्रक्रिया में सामना करना पड़ता है। आप विभिन्न समाधानों के पेशेवरों और विपक्षों की तुलना कर सकते हैं, उनकी सीमाओं का मूल्यांकन कर सकते हैं और प्रत्येक समाधान के सर्वोत्तम उपयोग मामलों के बारे में जान सकते हैं!

1. तन्यता

Google द्वारा बनाया गया और पायथन और C ++ में लिखा गया है, TensorFlow संख्यात्मक कंप्यूटिंग के लिए सबसे अच्छा खुला स्रोत पुस्तकालयों में से एक है। इसे बस अच्छा होना चाहिए, क्योंकि डीपमाइंड, उबर, एयरबैन या ड्रॉपबॉक्स जैसी दिग्गज कंपनियों ने भी अपनी जरूरतों के लिए इस ढांचे को चुना है।

TensorFlow मल्टी-लेयर न्यूरल नेटवर्क जैसी जटिल परियोजनाओं के लिए अच्छा है। उदाहरण के लिए, इसका उपयोग वॉयस रिकग्निशन या चित्रों और टेक्स्ट एप्लिकेशन जैसे कि Google Translate के लिए किया जाता है।

बेशक, विशेषज्ञों ने इसके कई फायदे कहे:

• उसके लिए बड़ी संख्या में नियमावली और दस्तावेज लिखे गए हैं;
• यह मॉडल और विज़ुअलाइज़ेशन (टेंसरबोर्ड) की सीखने की प्रक्रिया की निगरानी के लिए शक्तिशाली उपकरण प्रदान करता है;
• यह डेवलपर्स और तकनीकी कंपनियों के एक बड़े समुदाय द्वारा समर्थित है;
• यह सेवा मॉडल प्रदान करता है;
• यह वितरित सीखने का समर्थन करता है;
• TensorFlow Lite मोबाइल उपकरणों के लिए कम विलंबता उपकरणों को आउटपुट प्रदान करता है;

और विपक्ष:

यह उदाहरण के लिए, CNTK और MXNet की तुलना में बेंचमार्क में गति खो देता है;
यह PyTorch या Keras की तुलना में शुरुआती लोगों के लिए एक उच्च प्रवेश सीमा है। नग्न टेन्सरफ़्लो काफी निम्न-स्तर है और इसके लिए बहुत सारे बॉयलरप्लेट कोड की आवश्यकता होती है, और टेन्न्सफ़्लो के लिए "डिटेक्ट एंड रन" मोड डिबगिंग प्रक्रिया को बहुत जटिल करता है।

एक और महत्वपूर्ण सीमा है: एकमात्र पूरी तरह से समर्थित भाषा पायथन है।

2. प्योरटेक

PyTorch लुआ मशाल पुस्तकालय के लिए पायथन का उत्तराधिकारी है, और TensorFlow का एक महान प्रतियोगी है। यह फेसबुक द्वारा विकसित किया गया था और ट्विटर, सेल्सफोर्स, ऑक्सफोर्ड यूनिवर्सिटी और कई अन्य कंपनियों द्वारा उपयोग किया गया था।

PyTorch का उपयोग मुख्य रूप से मॉडल को जल्दी और कुशलता से प्रशिक्षित करने के लिए किया जाता है, इसलिए यह बड़ी संख्या में डेवलपर्स की पसंद है।

इसके कई महत्वपूर्ण लाभ हैं:

• ढांचे की वास्तुकला के लिए धन्यवाद, एक मॉडल बनाने की प्रक्रिया काफी सरल और पारदर्शी है;
• डिफ़ॉल्ट "डिफाइन-बाय-रन" मोड पारंपरिक प्रोग्रामिंग का एक संदर्भ है। फ्रेमवर्क डिबगिंग टूल जैसे pdb, ipdb, या PyCharm डिबगर का समर्थन करता है;
• यह घोषणात्मक डेटा संगामिति का समर्थन करता है ;
• इसमें कई पूर्व-प्रशिक्षित मॉडल और पूर्वनिर्मित मॉड्यूलर हिस्से हैं जो गठबंधन करना आसान है;

वितरित प्रशिक्षण 0.4 संस्करण के बाद से उपलब्ध है।

लेकिन इस ढांचे में कुछ निर्विवाद minuses हैं:

• मॉडल समर्थन का अभाव;
• वह अभी तक उत्पादन में पूरी तरह से रिलीज के लिए तैयार नहीं है, लेकिन संस्करण 1.0 के लिए रोडमैप वास्तव में प्रभावशाली दिखता है;
• TensorBoard की तरह, निगरानी और विज़ुअलाइज़ेशन के लिए पर्याप्त इंटरफेस नहीं हैं - हालाँकि, इसका Tensorboard से बाहरी संबंध है।

3. करेस

Keras एक न्यूनतम पायथन-आधारित लाइब्रेरी है जो TensoFlow, Theano, या CNTK के शीर्ष पर चल सकती है। प्रयोगों को गति देने के लिए इसे एक Google इंजीनियर, फ्रांस्वा शॉलेट द्वारा विकसित किया गया था। केरस तंत्रिका नेटवर्क परतों की एक विस्तृत श्रृंखला का समर्थन करता है, जैसे कि संकरी परतें, आवर्तक या घने।

अनुवाद, छवि पहचान, भाषण आदि के मामलों में यह रूपरेखा अच्छी है।

फायदे:

• प्रोटोटाइपिंग वास्तव में त्वरित और आसान है;
• यह कई परतों के लिए गहन शिक्षण मॉडल बनाने के लिए काफी छोटा है;
• पूरी तरह से विन्यास योग्य मॉड्यूल है;
• इसमें एक सरल और सहज इंटरफ़ेस है, क्रमशः, शुरुआती लोगों के लिए अच्छा है;
• कई GPU पर प्रशिक्षण के लिए अंतर्निहित समर्थन है;
• इसे TensorFlow के मूल्यांकनकर्ताओं के रूप में कॉन्फ़िगर किया जा सकता है और Google क्लाउड प्लेटफ़ॉर्म पर GPU क्लस्टर पर प्रशिक्षित किया जा सकता है;
• स्पार्क पर चलता है;
• NVIDIA GPU, Google TPUs, Open-CL GPU जैसे AMD का समर्थन करता है।

और कुछ कमियां:

• यह बहुत उच्च-स्तरीय हो सकता है और इसे अनुकूलित करना हमेशा आसान नहीं होता है;
• यह Tensorflow, CNTK, और Theano बैकएंड तक सीमित है।

केरस TensorFlow की तरह कार्यात्मक नहीं है और नेटवर्क कनेक्शन के प्रबंधन के लिए कम विकल्प प्रदान करता है, जो एक गंभीर सीमा हो सकती है यदि आप कुछ विशेष गहन शिक्षण मॉडल बनाने का इरादा रखते हैं।

4. एमएक्सनेट


यह अपाचे द्वारा बनाया गया एक गहन शिक्षण ढांचा है जो पायथन, जूलिया, सी ++, आर, या जावास्क्रिप्ट जैसी भाषाओं की बहुतायत का समर्थन करता है। इसका उपयोग Microsoft, Intel और Amazon Web Services द्वारा किया जाता है।

एमएक्सनेट फ्रेमवर्क को इसकी उच्च मापनीयता के लिए जाना जाता है, यही कारण है कि इसका उपयोग बड़ी कंपनियों द्वारा मुख्य रूप से भाषण मान्यता और लिखावट, एनएलपी और पूर्वानुमान के लिए किया जाता है।
इसके कई फायदे हैं:

• यह गहरी सीखने के एल्गोरिदम के साथ काम करने में काफी तेज, लचीला और प्रभावी है;
• यह उन्नत GPU समर्थन प्रदान करता है;
• यह किसी भी उपकरण पर चल सकता है;
• इसमें एक उच्च-प्रदर्शन अनिवार्य एपीआई है;
• यह आसान मॉडल समर्थन प्रदान करता है;
• यह अत्यंत स्केलेबल है;
• यह कई प्रोग्रामिंग भाषाओं के लिए अच्छा समर्थन प्रदान करता है, जैसे कि पायथन, आर, स्काला, जावास्क्रिप्ट और सी ++, और कई अन्य।

अब MXNet के नुकसान के लिए:

• उसके आसपास TensorFlow के आसपास ऐसा कोई समुदाय नहीं है;
• वैज्ञानिक समुदाय में इतना लोकप्रिय नहीं है।

उपरोक्त तर्कों के आधार पर, एमएक्सनेट बड़ी औद्योगिक परियोजनाओं के लिए एक अच्छा ढांचा है, लेकिन यह अभी भी काफी युवा है, इसलिए याद रखें कि आप अपने मुद्दे को जल्द से जल्द हल करने में तकनीकी सहायता प्राप्त नहीं कर सकते हैं।

5. CNTK

इस ढांचे को अब Microsoft संज्ञानात्मक टूलकिट कहा जाता है। यह एक खुली गहरी सीखने की रूपरेखा है जिसे वास्तव में बड़े डेटासेट के साथ पायथन, सी ++, सी # और जावा के समर्थन के साथ काम करने के लिए डिज़ाइन किया गया है।

CNTK आवाज, लिखावट और चित्र पहचान के लिए प्रभावी मॉडल प्रशिक्षण प्रदान करता है, और CNN और RNN का भी समर्थन करता है। इसका उपयोग Skype, Xbox और Cortana पर किया जाता है।

हमेशा की तरह, विशेषज्ञों ने पहले ही इसके लाभों की सराहना की है:

• अच्छा प्रदर्शन और मापनीयता दिखाता है;
• कई अच्छी तरह से अनुकूलित घटक प्रदान करता है;
• अपाचे स्पार्क के लिए समर्थन प्रदान करता है;
• संसाधनों के उपयोग में प्रभावी;
• एज़्योर क्लाउड के साथ आसान एकीकरण है;

और एक ही कमी:

• सीमित सामुदायिक समर्थन।

6. कैफ और कैफ 2

कैफ एक C ++ फ्रेमवर्क है जिसमें बहुत ही उपयोगी पायथन इंटरफ़ेस है। यह सीएनएन और प्रत्यक्ष वितरण नेटवर्क का समर्थन करता है, और प्रशिक्षण मॉडल (कोड की अतिरिक्त लाइनें लिखे बिना), छवियों को संसाधित करने और मौजूदा तंत्रिका नेटवर्क में सुधार के लिए भी अच्छा है। दूसरी ओर, यह इतनी अच्छी तरह से प्रलेखित और संकलन करने में मुश्किल नहीं है। किसी भी बड़ी कंपनियों द्वारा कैफ के इस्तेमाल की कोई जानकारी नहीं है। 2017 में, फेसबुक ने कैफ 2 जारी किया, जो कैफ का वास्तविक उत्तराधिकारी बन गया, और उत्पादन वातावरण में मोबाइल और बड़े पैमाने पर विकास दोनों के लिए बनाया गया था।

उन्हें फेसबुक पर "एक उत्पादन-तैयार मंच (...) के रूप में जाना जाता है , जो 1 बिलियन से अधिक स्मार्टफ़ोन पर चलता है, जिसमें iPhone की 8 पीढ़ियों और एंड्रॉइड प्रोसेसर आर्किटेक्चर की छह पीढ़ियों का विस्तार होता है।"

यह ढांचा कई कारणों से अच्छा है:

• यह डेमो एप्लिकेशन बनाने के लिए पूर्व-प्रशिक्षित मॉडल प्रदान करता है;
• यह तेज़, स्केलेबल है और थोड़ी जगह लेता है;
• यह PyTorch जैसे अन्य फ्रेमवर्क के साथ अच्छी तरह से काम करता है, और अंततः PyTorch 1.0 में एकीकृत किया जाएगा;
• यह सर्वर के साथ अनुकूलित कार्य प्रदान करता है।

और फिर, मुख्य दोष:

• सीमित सामुदायिक समर्थन।

इस तथ्य के बावजूद कि कैफ 2 गति और कब्जे वाली स्मृति के मामले में अच्छी तरह से गुजरता है, यह जटिल नेटवर्क को तैनात करने के मामले में अपेक्षाकृत नया और काफी सीमित है जिसमें डीबगिंग और तकनीकी सहायता के लिए कम से कम सुविधाजनक उपकरण की आवश्यकता होती है।

7. Deeplearning4j

यदि आपकी मुख्य प्रोग्रामिंग भाषा जावा है, तो आपको निश्चित रूप से DL4J पर करीब से नज़र डालनी चाहिए। यह मुख्य रूप से जावा और स्काला के लिए लिखा गया एक वाणिज्यिक ओपन सोर्स प्लेटफॉर्म है जो विभिन्न प्रकार के तंत्रिका नेटवर्क (जैसे सीएनएन, आरएनएन, आरएनटीएन, या एलटीएसएम) के लिए अच्छा समर्थन प्रदान करता है।

यह ढांचा एक अच्छा विकल्प होगा क्योंकि इसमें छवि पहचान, प्राकृतिक भाषा प्रसंस्करण, भेद्यता खोज और पाठ विश्लेषण के क्षेत्रों में काफी संभावनाएं हैं।

पेशेवरों:

• विश्वसनीय, लचीला और कुशल;
• यह गति की हानि के बिना बड़ी मात्रा में डेटा को संसाधित कर सकता है;
• वितरित CPU या GPU पर Apache Hadoop और Spark के साथ काम करता है;
• अच्छा प्रलेखन है;
• एक सामुदायिक और उद्यम संस्करण है।

आश्चर्य की बात यह है कि इस ढांचे के बारे में बोलते हुए, विशेषज्ञ किसी विशिष्ट दोष पर ध्यान केंद्रित नहीं करते हैं, जैसा कि सामान्य तौर पर मशीन सीखने के लिए जावा की उपयुक्तता के बारे में एक सामान्य बहस पर माना जाता है। चूँकि मशीन लर्निंग प्रोजेक्ट्स में जावा का इतनी बार उपयोग नहीं किया जाता है, इसलिए फ्रेमवर्क विशिष्ट समस्याओं को हल करने के लिए तैयार कोड के बढ़ते डेटाबेस पर भरोसा नहीं कर सकता है। परिणामस्वरूप, आपकी परियोजना की लागत बहुत अधिक हो सकती है और एक समस्या को हल करने से परियोजना की समग्र प्रगति में काफी कमी आ सकती है।

8. चेज़र

इंटेल, आईबीएम, एनवीआईडीआईए और एडब्ल्यूएस जैसे दिग्गजों द्वारा समर्थित एक और पायथन डीप लर्निंग फ्रेमवर्क। यह आसानी से कई GPU का उपयोग कर सकता है।

चाइनर का उपयोग मुख्य रूप से आवाज की पहचान, मशीन अनुवाद और मुख्य विश्लेषण के लिए किया जाता है। यह CNN, तेज-फॉरवर्ड, RNN जैसे विभिन्न नेटवर्क आर्किटेक्चर का समर्थन करता है, और इसके प्रतिद्वंद्वियों पर कई महत्वपूर्ण लाभ हैं:

• यह किसी भी अन्य पायथन ढांचे की तुलना में बहुत तेज है;
• यह अविश्वसनीय रूप से लचीला और सहज है;
• मौजूदा नेटवर्क को सीधे रनटाइम पर संशोधित किया जा सकता है;

दूसरी ओर:

• डिबग के मामले में बहुत मुश्किल;
• उसके आसपास एक अपेक्षाकृत छोटा समुदाय है;

चूंकि अन्य पायथन-आधारित फ्रेमवर्क अधिक लोकप्रिय हैं, इसलिए आपको अन्य फ्रेमवर्क जैसे कि टेनसॉरफ्लो या पिएटोर के साथ उतनी तेजी से मदद नहीं मिल सकती है।

संक्षेप में देना

एक गहरी शिक्षण परियोजना के लिए सबसे अच्छा ढांचा चुनना बेहद मुश्किल हो सकता है। आपको निम्नलिखित कारकों पर विचार करने की आवश्यकता है:

• तंत्रिका नेटवर्क का प्रकार जो आप विकसित करेंगे;
• आपके द्वारा उपयोग की जाने वाली प्रोग्रामिंग भाषा;
• उपकरणों की संख्या और अतिरिक्त विकल्प जिनकी आपको आवश्यकता हो सकती है;
• परियोजना बजट;
• प्रकृति और लक्ष्य जो परियोजना का पीछा करते हैं।

मुझे उम्मीद है कि रूपरेखा की तुलना इस समस्या पर कुछ प्रकाश डालेगी और आपको अपनी परियोजना के लिए सबसे उपयुक्त समाधान चुनने में मदद करेगी।

टिप्पणी लिखें और आपको खुले दिन में देखें , जो 19 मार्च को अलेक्जेंडर निकितिन द्वारा आयोजित किया जाएगा।