लाइव स्ट्रीम ट्रांसकोडिंग पर एनवीडिया जीपीयू स्ट्रेस टेस्ट

नीचे एक विस्तृत कहानी है कि कैसे हमने एनवीडिया से कार्ड को अपने स्ट्रीमिंग के लिए ट्रांसकोडिंग वीडियो के कार्यों के साथ लोड किया। आइए दिखाते हैं कि हमने कोशिश की कि क्या हुआ, और ऑनलाइन स्ट्रीमिंग के लिए वीडियो कार्ड का उपयोग कैसे करें।
कई वर्षों से, हमारी टीम ऑनलाइन मीडिया सामग्री के प्रसंस्करण और वितरण के लिए उत्पादों का विकास कर रही है। इस लेख ने हाल ही में बताया कि क्यों सामग्री मालिकों को हमारे YouTube युग में ऐसे समाधानों की आवश्यकता हो सकती है।

हमारे उत्पादों में से एक निंबले स्ट्रीमर मीडिया सर्वर है, जो सर्वर सॉफ्टवेयर है जो इनपुट के लिए लाइव स्ट्रीम और फ़ाइलों को लेता है और उन्हें बड़ी संख्या में दर्शकों के लिए सुलभ बनाता है, जबकि एक साथ यह सामग्री को मुद्रीकृत करने की अनुमति देता है। यह C ++ में लिखा गया एक देशी एप्लिकेशन है और इसे सभी लोकप्रिय OS (लिनक्स, विंडोज, मैकओएस) और प्लेटफॉर्म (x64, ARM) पर पोर्ट किया गया है। बहुत शुरुआत से, कम संसाधन खपत और उच्च उत्पादकता मुख्य आवश्यकताएं थीं, और हम इसमें अच्छे परिणाम प्राप्त करने का प्रबंधन करते हैं।

पिछले साल, हम फुर्तीला स्ट्रीमर ऐड-ऑन - लाइव स्ट्रीम ट्रांसकोडर जारी किया । यह एप्लिकेशन आपको विभिन्न प्रारूपों में वीडियो और / या ऑडियो की इनपुट स्ट्रीम लेने और वास्तविक समय में उनके साथ विभिन्न रूपांतरण करने की अनुमति देता है। फ़ंक्शनलिटी में डिकोडिंग (सॉफ़्टवेयर और हार्डवेयर दोनों), वीडियो और ऑडियो रूपांतरण फ़िल्टर (रीसाइज़िंग, ओवरले, आदि) और एन्कोडिंग (एन्कोडिंग) - सॉफ़्टवेयर और हार्डवेयर दोनों शामिल हैं।

ट्रांसकोडर को WMSPanel वेब सेवा के माध्यम से नियंत्रित किया जाता है, ट्रांसकोडिंग स्क्रिप्ट ड्रैग-एन-ड्रॉप इंटरफेस के माध्यम से बनाई जाती है, जो आपको नेत्रहीन प्रक्रिया को देखने की अनुमति देती है। विभिन्न परिदृश्यों को एक साथ चलाया जा सकता है - इस दृष्टिकोण के साथ परीक्षण संयोजनों को चलाने के लिए सुविधाजनक है, सर्वर को किसी भी विविधता में लोड करना।
इन वीडियो में आप उदाहरण देख सकते हैं कि इंटरफ़ेस कैसे काम करता है।

प्रत्येक स्ट्रीम का डिकोडिंग सभी आगे के रूपांतरणों से पहले केवल एक बार किया जाता है ... यह आपको एक महंगी डिकोडिंग ऑपरेशन पर संसाधनों को बचाने की अनुमति देता है, यह स्पष्ट रूप से परीक्षणों के साथ आगे देखा जाएगा।

हमारे ट्रांसकोडर में उपयोग किए जा सकने वाले रूपांतरण तंत्रों में से एक हार्डवेयर डिकोडिंग और एनवीडिया से GPU का उपयोग करके वीडियो एन्कोडिंग है। नवीनतम पीढ़ियों के ग्राफिक कार्ड आपको कुछ विशिष्ट कार्यों को लेने की अनुमति देते हैं, जो सीपीयू से लोड को हटा देता है। हमारे ट्रांसकोडर इस हार्डवेयर के साथ काम करने में सक्षम है, जो हमारे ग्राहकों द्वारा सक्रिय रूप से उपयोग किया जाता है।


एनवीडिया के रूसी कार्यालय के प्रतिनिधियों के साथ संचार के दौरान, हमें यह समझने के लिए हमारे ट्रांसकोडर और एनवीडिया जीपीयू के संयुक्त तनाव परीक्षण की व्यवस्था करने का प्रयास करने के लिए कहा गया था कि इस तरह के अग्रानुक्रम का आर्थिक प्रभाव हार्डवेयर त्वरण के बिना, विशेष रूप से सॉफ्टवेयर टेकोडिंग की तुलना में क्या होगा। इसके अलावा, मैं यह समझना चाहता था कि GPU का उपयोग कैसे करें, और यदि संभव हो तो अच्छे व्यंजनों को दें।

हमें अपने प्रयोगों के चक्र के लिए उपयुक्त लोहा और उस तक पहुंच प्राप्त करने की आवश्यकता है। हमने कुछ हफ़्ते में मिलने की योजना बनाई। यह खोजने के लिए रहता है कि उपकरण कहां से प्राप्त करें। सबसे अच्छा विकल्प उन्हें क्लाउड में ढूंढना और रिमोट एक्सेस प्राप्त करना होगा। विकल्पों की तलाश करने के बाद, यह पता चला कि AWS के पास अभी तक मैक्सवेल पीढ़ी के GPU के साथ VM नहीं है, और एज़ुर क्लाउड में, उन्हें जल्द ही प्रदान करना शुरू करने की योजना है।

1. सॉफ्टलेयर क्लाउड में एनवीडिया से आयरन, निंबले स्ट्रीमर की स्थापना

NVidia की सहायता से, IBM ने हमें इसके क्लाउड, IBM Bluemix Cloud Platform (पूर्व में सॉफ्टलेयर) तक पहुँच प्रदान की। यह दुनिया भर में आधुनिक डेटा सेंटर (प्रकाशन के समय लगभग 50) का एक बड़ा नेटवर्क है, जो एक आम निजी नेटवर्क से जुड़ा है और क्लाउड इंफ्रास्ट्रक्चर सेवाओं का एक बड़ा चयन प्रदान करता है। सभी डेटा सेंटर एकीकृत होते हैं और आपको आवश्यक कॉन्फ़िगरेशन के एक से सैकड़ों वर्चुअल या भौतिक सर्वरों के साथ कई घंटों के लिए किराए पर लेने की अनुमति देते हैं, साथ ही साथ बैलेंसर्स, स्टोरेज सिस्टम, फायरवॉल - सामान्य रूप से, यह सब तैनात आईटी सेवा के लिए एक विश्वसनीय आईटी इन्फ्रास्ट्रक्चर बनाने के लिए आवश्यक है।

आईबीएम के रूसी प्रतिनिधि कार्यालय ने हमें क्लाउड सेवाओं के प्रबंधन और आवश्यक सर्वर कॉन्फ़िगरेशन के लिए स्वयं-सेवा पोर्टल तक पूरी पहुंच प्रदान की, जहां हम विभिन्न इनपुट धाराओं और हमारे ट्रांसकोडर की सेटिंग्स के साथ काम करने में सक्षम थे।

लोहा

सबसे पहले, हमें 128 जीबी रैम और 2xGPU NVidia Tesla M60 के साथ एक फिजिकल सर्वर (नंगे-धातु) दिया गया और OS Ubuntu 14.04 प्रीइंस्टॉल्ड किया गया। सभी सर्वर पैरामीटर, पासवर्ड, फर्मवेयर संस्करण, इसके स्विचिंग, समर्पित आईपी, हार्डवेयर घटकों की स्थिति, सीधे आपके व्यक्तिगत खाते में दिखाई देते थे, जिससे आपको किराए के हार्डवेयर के साथ आवश्यक जोड़तोड़ करने की अनुमति मिली, जिसने आईबीएम समर्थन के साथ बातचीत की आवश्यकता को कम कर दिया। टेस्ट रन के दौरान, यह पता चला कि संदर्भों की पीढ़ी में कई सीमाओं के कारण हम इस कॉन्फ़िगरेशन को बेहतर ढंग से लोड करने में सक्षम नहीं थे।

हम कॉन्फ़िगरेशन को कम करना चाहते थे। चूंकि हमने क्लाउड प्लेटफ़ॉर्म का उपयोग किया था, इसलिए कॉन्फ़िगरेशन परिवर्तन का अनुरोध करने के लिए स्वयं-सेवा पोर्टल के माध्यम से इसकी आवश्यकता थी। अनुमोदन के बाद, इस ऑपरेशन को स्वीकृत सेवा विंडो में लगभग 2 घंटे लगे। इस समय के दौरान, एम्स्टर्डम के डेटा सेंटर में तकनीकी कर्मचारियों ने हमें पहले प्रदान किए गए सर्वर से अतिरिक्त घटकों (रैम स्लॉट और 1xGPU) को हटा दिया और इसे ऑपरेशन में वापस कर दिया। यह ध्यान दिया जाना चाहिए कि डेवलपर्स के लिए यह विकल्प बहुत सुविधाजनक है, क्योंकि हार्डवेयर सेटिंग्स से निपटने, इसे सुधारने या ओएस स्थापित करने में समय बिताने की कोई आवश्यकता नहीं है। आपको याद दिला दूं कि इस मामले में हाइपरवाइजर का उपयोग नहीं किया जाता है क्योंकि हमें हार्डवेयर संसाधनों का अधिकतम उपयोग करने की आवश्यकता होती है।

हमारे शोध के परिणामों के आधार पर, हम निम्नलिखित सर्वर कॉन्फ़िगरेशन पर बसे:

दोहरी इंटेल Xeon E5-2690 v3 (2.60GHz)
24 कोर
64 जीबी रैम
1TB SATA

हमारे पास 12 कोर के साथ 2 प्रोसेसर हैं, और हाइपर थ्रेडिंग के लिए धन्यवाद हमें दोगुना मिलता है, अर्थात। वस्तुतः 48 कोर।

ग्राफिक्स त्वरक के साथ परिदृश्यों में, GM204 चिप पर आधारित एक कार्ड - टेस्ला M60 का उपयोग किया गया था:

NVIDIA Tesla M60
1xGPU: 2 x मैक्सवेल GM204
मेमोरी: 16 जीबी जीडीडीआर 5
क्लॉक स्पीड: 2.5 गीगाहर्ट्ज़
NVIDIA CUDA कोर: 2 x 2048
मेमोरी बैंडविड्थ: 2 x 160GB / सेकंड

मैं इस तथ्य पर आपका ध्यान आकर्षित करता हूं कि कम हार्डवेयर पर कोई आत्मीयता, चिप ट्यूनिंग, ओवरक्लॉकिंग या अन्य जादू नहीं किया गया था - केवल गैर-ओवरक्लॉक किए गए सीपीयू और जीपीयू, और जीपीयू के लिए केवल एनवीआई वेबसाइट से लिया गया आधिकारिक ड्राइवर का उपयोग किया गया था। अगर किसी के पास एक समान अनुभव है - टिप्पणियों में साझा करें।

तो, हम पहुँच गए। नियंत्रण कक्ष के वेब इंटरफ़ेस के साथ एक त्वरित परिचित (वहां सब कुछ सरल और स्पष्ट है), फिर एसएसएच के माध्यम से सर्वर तक पहुंच - और यहां हम सामान्य उबंटू कमांड लाइन में हैं, निंबले स्ट्रीमर डालते हैं, एक ताजा ट्रांसकोडर लाइसेंस रजिस्टर करते हैं और थोड़ा कॉन्फ़िगरेशन सेटअप करते हैं।

फुर्तीला स्ट्रीमर ट्रांसकोडर

Nimble Streamer को GPU संदर्भ कैश बनाने के लिए कॉन्फ़िगर किया गया था। यह इस तथ्य के कारण है कि GPU में अधिकतम निर्मित डिकोडिंग और एन्कोडिंग संदर्भों की अधिकतम सीमा है, और इसके अलावा, मक्खी पर संदर्भों को बनाने में बहुत अधिक समय लग सकता है।
संदर्भ बनाने की समस्या के बारे में अधिक जानकारी नीचे दिए गए अनुभाग में पाई जा सकती है।

परीक्षणों की पहली श्रृंखला के उदाहरण पर निंबल सेटिंग्स:

nvenc_context_cache_enable = true
nvenc_context_create_lock = true
nvenc_context_cache_init = 0: 30: 15.1: 30: 15
nvenc_context_reuse_enable = true

इन सेटिंग्स के बारे में अधिक विवरण हमारे लेख में लिखे गए हैं।

परीक्षणों की प्रत्येक श्रृंखला शुरू करने से पहले, कैश को अलग से कॉन्फ़िगर किया गया था, प्रत्येक कार्य की बारीकियों को ध्यान में रखते हुए।

ट्रांसकोडिंग लिपियों बनाएँ

आगे का काम हमारी WMSPanel सेवा में चला गया, जहां ट्रांसकोडर लिपियों को कॉन्फ़िगर किया गया है।

जैसा कि पहले ही उल्लेख किया गया है, काम वेब इंटरफ़ेस से गुजरता है, सब कुछ बेहद स्पष्ट और सुविधाजनक है। हमने विभिन्न ट्रांसकोडिंग विकल्पों (सीपीयू / जीपीयू), विभिन्न रिज़ॉल्यूशन विकल्पों और विभिन्न एन्कोडिंग मापदंडों (सीपीयू / जीपीयू, प्रोफाइल, बिट दर, आदि) को मिलाकर कई परिदृश्य बनाए।

परिदृश्यों के समूह एक साथ चलाए जा सकते हैं, जिससे परीक्षणों के विभिन्न संयोजनों को पेश करना संभव हो जाता है, एक अलग क्रम में लोड बढ़ जाता है, और स्थिति के आधार पर इसे बदल सकता है। बस आवश्यक परिदृश्यों का चयन करें और उन्हें रोकें या फिर से शुरू करें।

यहाँ परिदृश्यों का एक सेट है:


यहाँ परिदृश्यों में से एक का एक उदाहरण है:


GPU डिकोडर इस तरह दिखता है:


हम चित्र आकार फ़िल्टर लागू करते हैं:


और यहाँ GPU संस्करण के लिए एनकोडर है:



सामान्य तौर पर, इन वीडियो में ट्रांसकोडर इंटरफेस का संचालन देखा जा सकता है ।

2. ट्रांसकोडिंग फुलएचडी 1080p

शुरू करने के लिए, हमने उच्चतम क्षमताओं के साथ परिदृश्य का परीक्षण किया ताकि लोहे की क्षमताओं की सीमा का पता लगाया जा सके। फिलहाल, अभ्यास में उपयोग किए जाने वाले प्रस्तावों का "सबसे भारी" फुलएचडी 1080p है।

मूल लाइव स्ट्रीम उत्पन्न करने के लिए, उच्च प्रोफ़ाइल H.264 में FullHD (1920 * 1080) में एक फ़ाइल ली गई थी। कंटेंट अपने आप में शहर का एक वीडियो टूर है, अर्थात यह एक औसत छवि परिवर्तन दर वाला वीडियो है। कोई स्थिर एकल-रंग फ़्रेम नहीं है जो ट्रांसकोडर के काम को सुविधाजनक बना सकता है, लेकिन प्रकार और रंगों का बहुत तेज़ परिवर्तन नहीं है। एक शब्द में - एक काफी विशिष्ट भार।

36 समान धाराएं निंबले स्ट्रीमर इनपुट को खिलाई गईं, जो तब अलग-अलग परिदृश्यों में ट्रांसकोडर में उपयोग की जाती थीं।

ट्रांसकोडिंग परिदृश्य ठेठ उपयोग किया जाता है - आने वाली धारा 1080p उच्च प्रोफ़ाइल, 720p, 480p, 360p मुख्य प्रोफ़ाइल इससे बनाई गई है , और फिर आधार रेखा प्रोफ़ाइल धाराएं : 240 पी, 160 पी । कुल में, इनपुट पर 1 स्ट्रीम और आउटपुट पर 5 है। आमतौर पर, मूल स्ट्रीम का एक पास-थ्रू (परिवर्तन के बिना स्थानांतरण) भी किया जाता है ताकि देखने के दौरान दर्शक 1080p का चयन कर सके। हमने इसे स्क्रिप्ट में नहीं जोड़ा, क्योंकि यह ट्रांसकोडिंग का उपयोग नहीं करता है - इनपुट से आउटपुट तक डेटा का प्रत्यक्ष हस्तांतरण होता है। यह परिदृश्य निंबले में अनुकूलित है और वास्तविक परिस्थितियों में यह मेमोरी खपत को अपेक्षाकृत कम बढ़ाएगा।
उत्पन्न धाराओं में ऑडियो - नहीं। स्क्रिप्ट में ऑडियो जोड़ने से महत्वपूर्ण सीपीयू लोड नहीं होगा, लेकिन प्रयोग की शुद्धता के लिए, हमने ध्वनि को बाहर रखा।

CPU परीक्षण, कोई GPU नहीं

आरंभ करने के लिए, हमने जीपीयू का उपयोग किए बिना ट्रांसकोडिंग स्क्रिप्ट लॉन्च की, स्क्रिप्ट में सॉफ्टवेयर डिकोडर और एनकोडर निर्दिष्ट किया।

नतीजतन, सभी निकास अनुमतियों के 80 प्रवाह जारी करने के साथ केवल 16 इनपुट प्रवाह को संसाधित करना संभव था।

सीपीयू लोड - 4600%, अर्थात 46 कोर शामिल थे। रैम की खपत - लगभग 15GB।

CPU + GPU परीक्षण

स्टार्टअप पर संदर्भ कैश को 0: 30: 15.1: 30: 15 - i के रूप में कॉन्फ़िगर किया गया है। एन्कोडिंग के लिए 30 संदर्भ, डिकोडिंग के लिए 15, प्रत्येक जीपीयू।

आपको याद दिला दूं कि GPU पर हमारे पास दो कोर हैं, जो हमें कार्यों को समानांतर करने की अनुमति देता है - यह हमारे लिए उपयोगी है।

अधिकतम प्रवाह निम्न प्रवाह विन्यास के साथ प्राप्त किया गया था।

इनपुट डिकोडर GPU0 और GPU1 - 15 स्ट्रीम। इस प्रकार हमें 30 डीकोडेड स्ट्रीम मिलती हैं, जो आगे उपयोग के लिए तैयार हैं। प्रत्येक स्ट्रीम को केवल एक बार डीकोड किया जाता है, चाहे भविष्य में इसका उपयोग कितने परिदृश्य में किया गया हो।

एनकोडर GPU0 और GPU1 को 720p, अर्थात बाहर निकलने पर 720p की 30 धाराएं निकलीं।

इसके अलावा, GPU0 और GPU1 एनकोडर प्रत्येक 480p के लिए 15 स्ट्रीम प्रदान करते हैं - और 480p के 30 स्ट्रीम भी आउटपुट थे।

चूंकि एनकोडर संदर्भ समाप्त हो गए थे, इसलिए शेष अनुमतियों का एन्कोडिंग सीपीयू पर सेट किया गया था। यह निम्नलिखित निकला:

1. 30 धारा 360 पी
2. 30 धाराएं 240 पी
3. 30 धारा 160 पी

लोड 2600% सीपीयू, 75% डिकोडर, 32% एनकोडर निकला। अगला, सीपीयू को डिकोडिंग के लिए 6 धाराओं के साथ लोड किया गया था, प्रत्येक 5 समान प्रस्तावों के लिए कॉन्फ़िगर किया गया था, कुल 30 धागे प्रति आउटपुट।

कुल मिलाकर, 36 धाराएँ इनपुट पर प्राप्त हुईं , 180 आउटपुट पर जारी किए गए । अंतिम लोड निम्नानुसार तय किया गया है: 4400% सीपीयू, 75% कार्ड डिकोडर, 32% कार्ड एनकोडर, 30 जीबी रैम ।

कुछ विवरण

हमने उस विकल्प की जांच करने का फैसला किया जिसमें हम GPU पर सबसे कठिन कार्यों को संसाधित करते हैं - 1080 डिकोडिंग और 720 और 480 को एन्कोडिंग, और बाकी को सीपीयू के माध्यम से संसाधित करने दें।

सबसे पहले, हमने डिकोडर की सीमा की जांच की। 22 थ्रेड्स के साथ, डिकोडिंग को संदर्भों के साथ समस्या से प्रभावित किया गया था, वे बस नहीं बना सके। 21 से कम - संदर्भों का निर्माण किया गया था, लेकिन भार 100% हो गया और कलाकृतियों को धारा में मनाया जाने लगा। हम 20 धाराओं पर रुक गए - हम 20 धाराओं का डिकोडिंग करते हैं, 160 पी पर एन्कोडिंग - सब कुछ ठीक काम करता है।

इसके अलावा, यह आनुभविक रूप से निकला कि बोर्ड पर 16 जीबी रैम वाला यह कार्ड आत्मविश्वास से 47 संदर्भों के साथ काम कर सकता है - और कोई अंतर नहीं है, ये एक एनकोडर या डिकोडर के संदर्भ हैं। मैं दोहराता हूं - यह विशेष रूप से इस टेस्ला एम 60 जीपीयू के बारे में है, अन्य कार्डों पर यह संख्या भिन्न हो सकती है। हमारा मानना ​​है कि अगर कार्ड में 24GB रैम होती है, तो संदर्भों की संख्या अलग हो सकती है, लेकिन इसके परीक्षण की आवश्यकता है।

नतीजतन, हमने कैश क्रिएशन फॉर्मूला "डिकोडर के 15 संदर्भों और एनकोडर के 30 संदर्भों" को चुना - जो इनपुट को 30 स्ट्रीम देता है और प्रत्येक के लिए आपको 2 अनुमतियां बनाने की अनुमति देता है। इसलिए ऊपरी प्रस्तावों - 720 और 480 - को GPU पर लॉन्च किया गया था, और बाकी - 360, 240 और 160 - को सीपीयू में भेजा गया था। और चूंकि सीपीयू उसके बाद भी मुक्त था, इसलिए हमने उपयोगी धागे के लिए 4 कोर छोड़कर, नए थ्रेड्स के साथ "समाप्त" किया।

3. ट्रांसकोडिंग स्ट्रीम एचडी 720p

विशिष्ट लोड परिदृश्य अधिकांश सामग्री अब HD में बनाई गई है। यहां तक ​​कि हाल ही में SuperBowl LI - अमेरिकी बाजार पर सबसे ज्यादा रेटिंग वाला शो - HD में प्रसारित किया गया था, जो भविष्य के लिए FullHD छोड़ रहा है।

स्रोत धाराओं को उत्पन्न करने के लिए, एक हाई प्रोफाइल में HD (1280 * 720) में एक फ़ाइल ली गई थी। सामग्री हमारे इंजीनियर की पसंदीदा "द गुड वाइफ" श्रृंखला है, अर्थात यह एक औसत छवि परिवर्तन दर वाला वीडियो है।

फुर्तीला स्ट्रीमर के प्रवेश द्वार पर, 70 समान धाराएं खिलाई गईं, जो बाद में ट्रांसकोडर में विभिन्न परिदृश्यों में उपयोग की गईं।

निम्नलिखित ट्रांसकोडिंग परिदृश्य का उपयोग किया जाता है - इनकमिंग स्ट्रीम 720p हाई प्रोफाइल, 480p, 360p मुख्य प्रोफ़ाइल और फिर 240p, 160p बेसलाइन प्रोफाइल स्ट्रीम हैं। कुल, इनपुट 1 पर, आउटपुट पर 4. मूल स्ट्रीम के पास-थ्रू, जैसा कि पिछले परिदृश्य में था, प्रदर्शन नहीं किया गया था। उत्पन्न धाराओं में ऑडियो भी नहीं है।

CPU परीक्षण, कोई GPU नहीं

पिछले अनुभाग की तरह, हमने केवल सीपीयू पर ही ट्रांसकोडिंग स्ट्रीम की कोशिश की। नतीजतन, सभी निकास अनुमतियों के 88 प्रवाह जारी करने के साथ केवल 22 इनपुट प्रवाह को संसाधित करना संभव था। सीपीयू लोड - 4700%, अर्थात 47 कोर शामिल थे। रैम की खपत - लगभग 20GB।

CPU + GPU परीक्षण

स्टार्टअप पर संदर्भ कैश 0: 23: 23.1: 23: 23 - i के रूप में कॉन्फ़िगर किया गया है एन्कोडिंग के लिए 23 संदर्भ, प्रत्येक GPU के लिए डिकोडिंग के लिए 23।

GPU का उपयोग करते हुए, 46 720p धाराओं को डिकोड किया गया। वहाँ GPU पर, 480p की 46 धाराएँ एन्कोडेड थीं। अगला, सीपीयू पर 360 पी, 240 पी और 160 पी एन्कोडिंग किया गया था - प्रत्येक 46 धाराएं।
फिक्स्ड लोड 2100% सीपीयू, 61% डिकोडर, 16% एनकोडर।

इसके अलावा, सीपीयू में 24 थ्रेड्स के एन्कोडिंग और डिकोडिंग को लॉन्च किया गया था, प्रत्येक 1 थ्रेड के लिए - 4 आउटपुट, GPU के लिए के रूप में।

कुल मिलाकर, 70 धाराएँ इनपुट थीं, 280 धाराएँ आउटपुट थीं ।
लोड: 4600%, डिकोडर का 61%, एनकोडर का 16%, 30 जीबी रैम ।

पिछले परीक्षण के लिए, शायद एक बड़ा रैम जीपीयू अधिक संदर्भ देगा और हम अधिक थ्रेड संभाल सकते हैं। लेकिन यह केवल सिद्धांत में है, यह जांचना आवश्यक है।

4. एनवीडिया जीपीयू में संदर्भ बनाने की समस्या

समस्या के बारे में कुछ शब्द जो हमें GPU पर अधिक थ्रेड को संसाधित करने की अनुमति नहीं देते हैं।

पिछले साल के अंत में, हमने एनवीडिया की टीम के साथ कई कार्डों के साथ परीक्षण किया। कई GPU के साथ काम करते समय, यह पता चला कि संदर्भ बनाने से सर्वर बहुत धीमा हो जाता है - प्रत्येक नए संदर्भ को बनाने में नक्शे से अधिक से अधिक समय लगता है। यदि पहला संदर्भ 300ms के आदेश पर बनाया गया था, तो प्रत्येक बाद में 200-300ms जोड़े गए और पहले से ही तीसरे दस संदर्भों में, एक नया बनाने में प्रत्येक 3-4 सेकंड का समय लगा। जब कोई उपयोगकर्ता एक ट्रांसकोडिंग स्क्रिप्ट बनाता है, तो यह माना जाता है कि वह तुरंत और देरी के बिना काम करना शुरू कर देता है, और इस नई परिस्थिति ने निंबल की गति में सभी लाभों को नकार दिया और संदर्भ बनाने में देरी कर दी जिससे एन्कोडिंग शुरू करने में देरी हुई।

सबसे पहले, संदेह निंबले पर गिर गया, लेकिन फिर हमने ffmpeg का उपयोग करके परीक्षण किया, जो एनवीडिया स्वयं ग्राहकों को प्रदान करता है और परिणाम बिल्कुल एक जैसा निकला - जीपीयू प्रत्येक नया संदर्भ बनाने में अधिक से अधिक समय खर्च कर रहा है। ऐसी स्थितियों में जब सर्वर पहले से ही ट्रांसकोड हो रहा है और आपको प्रसंस्करण के लिए नए थ्रेड शुरू करने की आवश्यकता है, यह समग्र प्रदर्शन को प्रभावित करता है और सर्वर को अनुपयोगी बनाता है।

एनवीडिया टीम द्वारा समस्या का विस्तार से वर्णन किया गया था, लेकिन अभी तक कोई पूर्णकालिक समाधान प्रदान नहीं किया गया है। इसलिए, हमने अभी तक अपने सर्वर में एक संदर्भ कैशिंग तंत्र को लागू किया है, सर्वर शुरुआत में संदर्भों की प्रारंभिक रचना के साथ। इससे एंड-यूज़र के काम के दृष्टिकोण से समस्या हल हो गई, लेकिन निंबल की शुरुआत में कुछ समय लग सकता है। संदर्भों के साथ प्रभावी काम के लिए निंबल की स्थापना हमारे ब्लॉग में वर्णित है ।

इसके अलावा, संदर्भों को बनाना आसान नहीं है। किसी भी ट्रांसकोडिंग स्क्रिप्ट को शामिल करते समय बड़ी संख्या में संदर्भों के साथ, NVENC एपीआई त्रुटियों को फेंकना शुरू कर देता है: "एपीआई कॉल विफल रही क्योंकि यह अनुरोधित ऑपरेशन करने के लिए पर्याप्त मेमोरी आवंटित करने में असमर्थ था।"

जाहिर है, यह पता चला कि एक जीपीयू 47 संदर्भों के साथ आत्मविश्वास से काम करना शुरू कर सकता है - और कोई अंतर नहीं है, ये एक एनकोडर या डिकोडर के संदर्भ हैं। एक धारणा थी कि यह GPU पर मेमोरी की मात्रा के कारण है। अब 16 जीबी है, यदि आप 24 जीबी के साथ एक कार्ड डालते हैं, तो संभावना है कि अधिक संदर्भ हो सकते हैं। लेकिन यह केवल एक सिद्धांत है, यह जांचना आवश्यक है, जैसा कि पहले उल्लेख किया गया है। प्राप्त डेटा एक विशिष्ट जीपीयू मॉडल के लिए मान्य है, अन्य कार्डों का अलग से परीक्षण किया जाना चाहिए।

यह उन संदर्भों की संख्या पर प्रतिबंध है जो बड़े भार के साथ काम करते समय मुख्य बाधा डालते हैं।

5. निष्कर्ष

इसलिए, परीक्षण का उद्देश्य संकेतित कार्यों के लिए GPU की प्रभावशीलता का अध्ययन करना और इसके उचित उपयोग के लिए व्यंजनों का विकास करना था। परिणाम क्या है?

आर्थिक प्रभाव

ऊपर, हमने देखा कि सीपीयू और सीपीयू + जीपीयू टेंडेम पर संसाधित किए जा सकने वाले धागों की संख्या अलग-अलग है। आइए देखें कि धन के संदर्भ में इसका क्या अर्थ है। एक आधार के रूप में हम सभी सॉफ्टलेयर और उनके उपकरण किराये की कीमतों को लेते हैं।

• बिना GPU के कॉन्फ़िगरेशन पर प्रति माह $ 819 खर्च होंगे। यहां आप एक कार उठा सकते हैं ।
• GPU के साथ कॉन्फ़िगरेशन एम्स्टर्डम में डेटा सेंटर के लिए प्रति माह $ 1729 का खर्च आएगा, यहां कीमतें मिल सकती हैं । GPU का उपयोग करते समय, सर्वर का किराया मूल्य थोड़ा बढ़ जाता है, क्योंकि बड़े 2U केस फॉर्म कारक का उपयोग किया जाता है। उपकरण खरीदते समय आर्थिक प्रभाव संभवतः अधिक होगा (लेकिन इसके लिए टीसीओ के एक गंभीर विश्लेषण की आवश्यकता होती है, एनवीडिया जीपीयू लाइन के निरंतर अद्यतन को ध्यान में रखते हुए)।

अब परीक्षा परिणाम देखते हैं:

FullHD 1080p के लिए

• जीपीयू के बिना सीपीयू: 16 धागे प्रति इनपुट + 80 धागे प्रति आउटपुट
• CPU + GPU: 36 थ्रेड प्रति इनपुट + 180 प्रति आउटपुट

GPU लाभ: 2.25x। GPU का उपयोग करने से

लाभ : $ 819 * 2.25 - $ 1729 = $ 113 प्रति माह जब 1 सर्वर को GPU के साथ किराए पर लिया जाता है।

एचडी 720p के लिए

• GPU के बिना CPU: 22 थ्रेड प्रति इनपुट + 88 थ्रेड प्रति आउटपुट
• CPU + GPU: 70 थ्रेड प्रति इनपुट + 280 प्रति आउटपुट

GPU लाभ: 3.18x। GPU का उपयोग करने से

लाभ : $ 819 * 3.18 - $ 1729 = $ 875 प्रति माह जब एक जीपीयू के साथ 1 सर्वर किराए पर लिया

जाता है, तो किराये के विकल्प के साथ, बचत काफी ध्यान देने योग्य है। यह खाते में छूट नहीं ले रहा है - आईबीएम के रूसी कार्यालय में वे यहां प्रस्तुत कीमतों की तुलना में क्लाउड में संसाधनों को किराए पर देने का वादा करते हैं।

हम खरीद के साथ विकल्पों में नहीं गए, क्योंकि यहाँ TCO दृढ़ता से आपूर्तिकर्ता की पसंद, डेटा सेंटर में सेवा की लागत और अन्य कारकों पर निर्भर करता है जो नंगे धातु से काम करने वालों से परिचित हैं। हालाँकि, प्रारंभिक आंकड़े भी GPU आधारित समाधान के पक्ष में बोलते हैं।

इसके अलावा, यातायात और चैनल की चौड़ाई के बारे में मत भूलना - वे ऊपर प्रस्तुत टैरिफ में एक निश्चित राशि में शामिल हैं, लेकिन आपको थ्रेड्स की संख्या, उपयोगकर्ताओं की अपेक्षित संख्या आदि के आधार पर अपने कार्यों के लिए विकल्पों का चयन करना होगा।

स्केलिंग

, . , GPU , , - . , , , - CPU, . GPU Softlayer, - .

, , .

यदि आपकी परियोजना के लिए इनकमिंग और आउटगोइंग स्ट्रीम की संख्या अपेक्षाकृत कम है - तो कहें, एक दर्जन एचडी कम संख्या में आउटपुट रिज़ॉल्यूशन के साथ, अपेक्षाकृत कम मात्रा में फ़िल्टरिंग के साथ, तो यह एक GPU के बिना एक सर्वर का उपयोग करने के लिए अधिक समीचीन होगा।

यह भी ध्यान देने योग्य है कि धागे को परिवर्तित करने के कार्य के लिए रैम की मात्रा प्रसंस्करण शक्ति जितनी महत्वपूर्ण नहीं है। तो कुछ मामलों में, आप मेमोरी की मात्रा को कम करके भी बचा सकते हैं।

निष्कर्ष

— CPU GPU Tesla M60 — . GPU — , CPU.

- , — .