डेवलपर्स के लिए डीपपावलोव: # 2 सेटअप और तैनाती

चक्र के सभी लेख:

1. डेवलपर्स के लिए डीपपावलोव: # 1 एनएलपी टूल और चैट बॉट बनाएं
2. डेवलपर्स के लिए दीपपावलोव: # 2 सेटअप और तैनाती

सभी को नमस्कार! हमारी श्रृंखला के पहले लेख में, हमने सीखा कि दीपपावलोव क्या है, कौन से पुस्तकालय मॉडल पूर्व प्रशिक्षण के बिना उपयोग के लिए तैयार हैं, और उनके साथ REST सर्वर कैसे चलाएं। मॉडलों का प्रशिक्षण शुरू करने से पहले, हम दीपपावलोव मॉडल और पुस्तकालय सेटिंग्स की कुछ विशेषताओं को तैनात करने की विभिन्न संभावनाओं के बारे में बात करेंगे।

हम सहमत हैं कि लाइब्रेरी चलाने के लिए सभी स्क्रिप्ट्स को दीपपावलोव लाइब्रेरी के साथ पायथन वातावरण में निष्पादित किया जाता है (इंस्टॉलेशन के लिए, वर्चुअलाइजेशन के लिए पहला लेख देखें, यहां पढ़ें)। इस लेख के उदाहरणों में पायथन सिंटैक्स के ज्ञान की आवश्यकता नहीं है।

एनएलपी मॉडल दीपपावलोव के साथ बातचीत के मोड

DeepPavlov वर्तमान में NLP मॉडल (पूर्व-प्रशिक्षित और उपयोगकर्ता-निर्मित दोनों) के साथ बातचीत करने के 4 तरीकों का समर्थन करता है:

• REST सर्वर ( रिसपेई मोड) मॉडल को एकीकृत करने के लिए मुख्य उपकरण है, इसे पिछले लेख (प्रलेखन) में विस्तार से वर्णित किया गया था।
• टीसीपी या यूनिक्स सॉकेट सर्वर ( राइजकेट मोड) - यदि निम्न-स्तरीय एकीकरण (प्रलेखन) आवश्यक है।
• टेलीग्राम ( टेलीग्राम मोड) में बॉट - डेमो मोड, आपको टेलीग्राम (प्रलेखन) के माध्यम से मॉडल के साथ बातचीत करने की अनुमति देता है।
• कमांड लाइन ( इंटरेक्शन मोड) - डेमो और डिबग मोड, आपको कमांड लाइन के माध्यम से मॉडल के साथ बातचीत करने की अनुमति देता है। कमांड लाइन के माध्यम से इंटरैक्शन मोड में मॉडल को निम्न कमांड के साथ आरंभ किया गया है:
  

  python -m deeppavlov interact 

<Config_path> पैरामीटर (सभी चार मोड में आवश्यक) या तो पूरी तरह से मॉडल कॉन्‍फ़िगरेशन फ़ाइल या बिना एक्सटेंशन के कॉन्‍फ़िगर फ़ाइल का नाम ले सकता है। बाद के मामले में, लाइब्रेरी में मॉडल कॉन्फिगर को पंजीकृत होना चाहिए।

दीपपावलोव के साथ आपूर्ति किए गए सभी मॉडलों के कन्फिग्स पुस्तकालय में पंजीकृत हैं। आपूर्ति किए गए मॉडल की सूची को डीपावलोव प्रलेखन के मॉडल अनुभाग में पाया जा सकता है, उनके विन्यास यहां देखे जा सकते हैं ।

GPU उपयोग

उपरोक्त किसी भी मोड में, एनएलपी मॉडल आरंभिक हैं, जो तंत्रिका नेटवर्क पर आधारित हैं। यह उन्हें कंप्यूटिंग संसाधनों पर काफी मांग करता है। आप GPU का उपयोग करके मॉडल के प्रदर्शन में सुधार कर सकते हैं। ऐसा करने के लिए, आपको पर्याप्त वीडियो मेमोरी (आपके द्वारा चलाए जा रहे मॉडल के आधार पर) और CUDA फ्रेमवर्क के समर्थित संस्करण के साथ एक nVidia ग्राफिक्स कार्ड की आवश्यकता होगी। आप यहां दीपावली पर दीपपावलोव मॉडल लॉन्च करने के लिए सभी आवश्यक जानकारी पा सकते हैं।

लाइब्रेरी सेटिंग्स फ़ाइलें

सभी लाइब्रेरी सेटिंग्स तीन फ़ाइलों में निहित हैं:

• server_config.json - REST और सॉकेट सर्वर के लिए सेटिंग्स, साथ ही एक टेलीग्राम कनेक्टर
• Dial_logger_config.json - मॉडलों के अनुरोधों को लॉग करने के लिए सेटिंग्स
• log_config.json - लाइब्रेरी लॉगिंग सेटिंग्स

डिफ़ॉल्ट रूप से, कॉन्फ़िगरेशन फ़ाइलें <deep_pavlov_root> / utils / settings में स्थित हैं , जहां <deep_pavlov_root> DeepPavlov की स्थापना निर्देशिका है (आमतौर पर यह lib / python "XX" / आभासी वातावरण में साइट-संकुल / deeppavlov है)। कमांड का उपयोग करना

 python -m deeppavlov.settings 

आप सेटिंग फ़ाइलों के साथ निर्देशिका के लिए सटीक मार्ग का पता लगा सकते हैं। पर्यावरण चर DP_SETTINGS_PATH में निर्दिष्ट करके आप अपने लिए सुविधाजनक निर्देशिका का मार्ग भी निर्धारित कर सकते हैं। उपरोक्त कमांड के पहले रन (किसी भी प्रशिक्षित दीपपावलोव मॉडल के साथ एक सर्वर) के बाद, डिफ़ॉल्ट निर्देशिका की फ़ाइलों को DP_SETTINGS_PATH से निर्देशिका में कॉपी किया जाएगा। टीम

 python -m deeppavlov.settings -d 

DP_SETTINGS_PATH फ़ाइलों के शीर्ष पर डिफ़ॉल्ट निर्देशिका से सेटिंग फ़ाइलों की प्रतिलिपि बनाकर सेटिंग्स रीसेट करता है।

दीपपावलोव की सेटिंग से आपको निम्न पर ध्यान देना चाहिए:

• server_config.json , पैरामीटर model_args_names:
  पिछले लेख से हमें याद है:
  - REST API DeepPavlov नाम का तर्क;
  - दीपपावलोव में किसी भी मॉडल को उसके विन्यास के नाम से पहचाना जाता है।
  तो, प्रत्येक मॉडल के लिए डिफ़ॉल्ट तर्क नाम उसके विन्यास से लिए गए हैं।
  
  हम निम्नलिखित लेखों में मॉडल विन्यास की संरचना का विस्तार से विश्लेषण करेंगे; अब हम केवल इस बात पर ध्यान देते हैं कि REST API में दिए गए तर्क नामों को निम्नानुसार पुन: परिभाषित किया जा सकता है:
  
  

   model_args_names: [“arg_1_name”, ..., “arg_n_name”] 

  
  तर्क नामों का क्रम उस क्रम से मेल खाता है जिसमें तर्क मॉडल मॉडल में परिभाषित किए गए हैं, जो खाली स्ट्रिंग के रूप में model_args_names पैरामीटर का मान डिफ़ॉल्ट नामों से मेल खाता है।
• log_config.json:
  कृपया ध्यान दें कि यूवीकोर्न लॉग करने के लिए एक लॉगर का उपयोग किया जाता है, जिसे अलग से कॉन्फ़िगर किया गया है। आप यहां लॉगिंग पायथन मॉड्यूल की कॉन्फ़िगरेशन संरचना के बारे में पढ़ सकते हैं।
  

डॉकर में पूर्व प्रशिक्षित मॉडल चलाना

किसी भी पूर्व-प्रशिक्षित डीपपावलोव मॉडल को डस्टर कंटेनर में REST सेवा मोड में लॉन्च किया जा सकता है। विस्तृत निर्देश हमारे रिपॉजिटरी में डॉकरहब पर हैं: सीपीयू के लिए, यहां जीपीयू के लिए। कंटेनर में एपीआई मॉडल पिछले लेख के विवरण के साथ पूरी तरह से संगत हैं।

डेपावलोव बादल

दीपपावलोव से पूर्व प्रशिक्षित एनएलपी मॉडल के साथ काम करना आसान बनाने के लिए, हमने उन्हें सास मोड में प्रदान करना शुरू किया। मॉडल का उपयोग करने के लिए, आपको हमारी सेवा में पंजीकरण करना होगा और अपने व्यक्तिगत खाते के टोकन अनुभाग में एक टोकन प्राप्त करना होगा। API दस्तावेज़ जानकारी अनुभाग में है। एक टोकन के तहत, आप मॉडल को 1000 अनुरोध भेज सकते हैं।

वर्तमान में, सेवा को अल्फा संस्करण में लॉन्च किया गया है और इसका उपयोग मुफ्त है। इसके अलावा, मॉडल के प्रावधान के लिए सेट और प्रारूप को उपयोगकर्ता के अनुरोधों के अनुसार विस्तारित किया जाएगा। अनुरोध प्रपत्र डेमो पेज के नीचे पाया जा सकता है।

निम्नलिखित मॉडल अब दीपपावलोव क्लाउड में उपलब्ध हैं:

• नामित इकाई मान्यता (बहुभाषी) - नामित संस्थाओं की मान्यता;
• वाक्य (आरयू) - पाठ की टॉन्सिलिटी का वर्गीकरण;
• SQuAD (बहुभाषी) - इस पाठ के टुकड़े के रूप में पाठ के लिए एक प्रश्न का उत्तर।

निष्कर्ष

इस लेख में, हम दीपपावलोव मॉडल के विन्यास और परिनियोजन सुविधाओं से परिचित हुए, डॉकर डीपी छवियों के बारे में और सास के रूप में डीपी मॉडल तक मुफ्त पहुंच की संभावना के बारे में सीखा।

अगले लेख में, हम अपने डेटासेट पर एक साधारण दीपपावलोव मॉडल को प्रशिक्षित करेंगे। और यह मत भूलो कि दीपपावलोव के पास एक मंच है - पुस्तकालय और मॉडल के बारे में अपने प्रश्न पूछें। आपका ध्यान के लिए धन्यवाद!