मैं सी + + में कैसर कैसे लॉन्च हुआ

बहुत पहले नहीं, मुझे देशी C++ कोड का उपयोग करके एक प्रशिक्षित Kesas न्यूरल नेटवर्क Kesas लॉन्च करने के उत्पादन कार्य का सामना करना पड़ा। ताज्जुब है, समाधान बिल्कुल तुच्छ नहीं था। नतीजतन, एक निजी पुस्तकालय था, इस तरह का अवसर दे रहा है। यह कैसा है - स्वच्छ क्रॉस पर तंत्रिका नेटवर्क और आज का लघु लेख होगा।

उन लोगों के लिए जो इंतजार नहीं कर सकते हैं - यहाँ उपयोग के विस्तृत विवरण के साथ जीथब रिपॉजिटरी है। खैर, मैं बिल्ली के नीचे हर किसी से पूछता हूं ...

समस्या का बयान।

इस प्रक्रिया में, मुझे C++ एप्लिकेशन (Unreal Engune 4) में एक प्रशिक्षित मॉडल चलाने की आवश्यकता है। लेकिन यहाँ दुर्भाग्य है: आज सी + + में केरस मॉडल को चलाने का कोई तरीका नहीं है।

C++ का Python कॉल विकल्प मुझे अच्छा नहीं लगा। एक अन्य विकल्प केरस मॉडल को टेन्सरफ्लो मॉडल में बदलना और फिर क्रॉस के लिए टेन्सोफ्लो का निर्माण करना और सी ++ कोड से टीएफ एपीआई को कॉल करना था।

कायापलट की इस प्रक्रिया को इस लेख में अच्छी तरह से वर्णित किया गया है। लेकिन इसके साथ मुश्किलें भी पैदा होती हैं। सबसे पहले , TensorFlow Bzzel से गुजर रहा है। और बेजेल खुद एक सनकी चीज है और UE4 के तहत इकट्ठा होने से इनकार कर दिया। दूसरी बात , TF अपने आप में एक बड़ी और भारी चीज है, लेकिन मैं कुछ अधिक हल्का और उत्पादक चाहता था। मैं केवल इतना कह सकता हूं कि गिथब के खुले स्थानों पर एक आधा काम करने वाला प्रोजेक्ट मिला था, जिसकी कार्यक्षमता के लिए मुझे ज़रूरत थी। लेकिन, उन्होंने Python और Keras के मौजूदा संस्करणों का समर्थन नहीं किया। और इसे रीमेक करने का प्रयास असफल रहा: Core Dump त्रुटि के साथ C ++ एप्लिकेशन क्रैश हो गया । यह मेरे स्वयं के कार्यान्वयन लिखने के लिए प्रथागत था ...

हम अपनी लाइब्रेरी लिख रहे हैं!

रॉक को मोड़ना, बोतल फेंकना pivasom ऊर्जा, मैं कोड पर बैठ गया। TensorFlow कोड, कोड पर पाए गए कोड को पुन: व्यवस्थित करने का प्रयास करता है, एल्गोरिदम और डेटा संरचनाओं के बारे में कुछ ज्ञान (इसके पाठ्यक्रमों के लिए ITMO) और मेरे कानों में अच्छे संगीत ने मुझे इस पुस्तकालय को लागू करने में बहुत मदद की। किसी तरह एक रात में पुस्तकालय लिखा गया।

और इसलिए मिलते हैं: Keras2cpp!

लाइब्रेरी का पहला हिस्सा प्रशिक्षित मॉडल को अपने बाइनरी प्रारूप में सहेजने के लिए पायथन मॉड्यूल है।

इस ऑपरेशन में कुछ भी जटिल नहीं है। हम सिर्फ Keras मॉडल को पढ़ते हैं और एक फाइल में बिट द्वारा लिखते हैं: पहले , फिर , फिर float फॉर्मेट में ।

अब चलो सबसे स्वादिष्ट - C ++ कार्यान्वयन पर चलते हैं।

उपयोगकर्ता के पास 2 इकाइयाँ tensor और model ।

Tensor - वह डेटा पुनर्वितरित करता है जिसके साथ तंत्रिका नेटवर्क काम करता है और यह टैंसर का एक कंप्यूटर कार्यान्वयन है। वर्तमान में 4 आयामों में अधिकतम आयाम का समर्थन किया। प्रत्येक आयाम के आयाम को std::vector<int> dims_; में संग्रहीत किया जाता है std::vector<int> dims_; और प्रत्येक टेंसर तत्व का वजन std::vector<int> data_; । उपलब्ध तरीकों में से, void Print() और Tensor Select(int row) को प्रतिष्ठित किया जा सकता है। बाकी संचालन आप स्रोत कोड में देख सकते हैं। दसियों के लिए गणित लिखे जाने के बाद, मैंने मॉडल लागू करना शुरू कर दिया।

मॉडल - प्रत्येक में परतों का एक सेट है जिसमें टेनर्स और एक वजन मैट्रिक्स पर संचालन निर्धारित है। उपयोगकर्ता virtual bool LoadModel(const std::string& filename); लिए 2 कार्य उपलब्ध हैं virtual bool LoadModel(const std::string& filename); और virtual bool Apply(Tensor* in, Tensor* out); ।

यहाँ एक पूर्ण कोड उदाहरण है।

python_model.py:

 import numpy as np from keras import Sequential from keras.layers import Dense #create random data test_x = np.random.rand(10, 10).astype('f') test_y = np.random.rand(10).astype('f') model = Sequential([ Dense(1, input_dim=10) ]) model.compile(loss='mse', optimizer='adam') #train model by 1 iteration model.fit(test_x, test_y, epochs=1, verbose=False) #predict data = np.array([[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]]) prediction = model.predict(data) print(prediction) #save model from keras2cpp import export_model export_model(model, 'example.model') 

cpp_mpdel.cc:

 #include "keras_model.h" int main() { // Initialize model. KerasModel model; model.LoadModel("example.model"); // Create a 1D Tensor on length 10 for input data. Tensor in(10); in.data_ = {{0, 1, 2, 3, 4, 5, 6, 7, 8, 9}}; // Run prediction. Tensor out; model.Apply(&in, &out); out.Print(); return 0; } 

यही सब मुझे लगता है। इसका उपयोग करने का आनंद लें, और मैं अपने प्रिय सी # और पायथन को न्यूरल नेटवर्क को आगे लिखने के लिए जाऊंगा।

पुनश्च

मुझे यह लाइब्रेरी लिखना पसंद था। जब आप खुद को खरोंच से सब कुछ लिखते हैं, तो आप अधिक समझते हैं, लेकिन यह कैसे काम करता है ... हम अन्य आर्किटेक्चर और जीपीआर के लिए समर्थन जोड़ने की योजना बनाते हैं ...

गितुब भंडार
स्रोत