दृश्य स्टूडियो में सी ++ ओपनएमपी के लिए सिमड एक्सटेंशन

सर्वव्यापी एआई अनुप्रयोगों के युग में मौजूदा हार्डवेयर के लिए अभिकलन-गहन मशीन-लर्निंग कोड को संकलक बनाने की एक उभरती मांग है। ऐसा कोड आमतौर पर मैट्रिक्स रूपांतरण और हेरफेर जैसी गणितीय गणना करता है और यह आमतौर पर लूप के रूप में होता है। OpenMP का SIMD विस्तार उपयोगकर्ताओं को आधुनिक प्रोसेसर की वेक्टर इकाई का स्पष्ट रूप से लाभ उठाने के द्वारा छोरों को गति देने का एक सरल तरीका प्रदान करता है। हमें विजुअल स्टूडियो 2019 में सी / सी ++ ओपनएमपी सिमड वैरिफिकेशन शुरू करने पर गर्व है।

OpenMP C / C ++ एप्लिकेशन प्रोग्राम इंटरफ़ेस को मूल रूप से 1990 के दशक में कई प्रोसेसर पर समानांतर रूप से कोड को प्रभावी ढंग से निष्पादित करने के लिए एप्लिकेशन प्रदर्शन को बेहतर बनाने के लिए डिज़ाइन किया गया था। वर्षों से ओपनएमपी मानक का विस्तार अतिरिक्त अवधारणाओं जैसे कि कार्य-आधारित समानांतरकरण, SIMD वेक्टरकरण, और प्रोसेसर ऑफलोडिंग के लिए किया गया है। 2005 से, विजुअल स्टूडियो ने ओपनएमपी 2.0 मानक का समर्थन किया है जो मल्टीथ्रेडेड समानांतरकरण पर केंद्रित है। जैसे-जैसे दुनिया एक एआई युग में आगे बढ़ रही है, हम विजुअल स्टूडियो में ओपनएमपी मानक के समर्थन का विस्तार करके कोड की गुणवत्ता में सुधार करने का एक बढ़ता अवसर देखते हैं। हम OpenMP SIMD के लिए समर्थन जोड़कर विजुअल स्टूडियो 2019 में अपनी यात्रा जारी रखते हैं।

OpenMP SIMD, जो पहले OpenMP 4.0 मानक में पेश किया गया था, मुख्य रूप से लूप वेक्टराइजेशन को लक्षित करता है। यह अब तक हमारे शोध के अनुसार मशीन लर्निंग में सबसे अधिक इस्तेमाल किया जाने वाला ओपनएमपी फीचर है। OpenMP SIMD निर्देश के साथ एक लूप की घोषणा करके, कंपाइलर वेक्टर निर्भरता को अनदेखा कर सकता है और जितना संभव हो उतना लूप वेक्टर कर सकता है। कंपाइलर उपयोगकर्ताओं के कई लूप पुनरावृत्तियों को एक साथ निष्पादित करने के इरादे का सम्मान करता है।

#pragma omp simd for (i = 0; i < count; i++) { a[i] = b[i] + 1; } 

जैसा कि आप जानते हैं, विजुअल स्टूडियो में C ++ पहले से ही #pragma वेक्टर और #pragma ivdep जैसे नॉन-ओपनMP लूप प्रैग्मस प्रदान करता है। हालाँकि, कंपाइलर OpenMP SIMD के साथ अधिक कर सकता है। उदाहरण के लिए:

1. कंपाइलर को हमेशा मौजूद किसी भी वेक्टर निर्भरता को अनदेखा करने की अनुमति दी जाती है।
2. / fp: फास्ट लूप के भीतर सक्षम है।
3. फ़ंक्शन कॉल के साथ लूप्स वेक्टर करने योग्य हैं।
4. बाहरी छोरों सदिश हैं।
5. नेस्टेड लूप को एक लूप में वर्गीकृत किया जा सकता है और वेक्टरकृत किया जा सकता है।
6. हाइब्रिड त्वरण मोटे तौर पर दानेदार मल्टीथ्रेडिंग और ठीक- दाने वाले वेक्टराइज़ेशन को सक्षम करने के लिए सिम्प्ट के लिए #pragma omp के साथ प्राप्त करने योग्य है।

इसके अलावा, OpenMP SIMD निर्देश निम्नलिखित क्लॉज़ को वैश्वीकरण को बढ़ाने के लिए ले सकता है:

• simdlen ( लंबाई ): वेक्टर लेन की संख्या निर्दिष्ट करें
• safelen ( लंबाई ): वेक्टर निर्भरता दूरी निर्दिष्ट करें
• रैखिक ( सूची [ : रैखिक-कदम] ): लूप प्रेरण चर से सरणी सदस्यता के लिए रेखीय मानचित्रण
• संरेखित करें ( सूची [ : संरेखण] ): डेटा का संरेखण
• निजी ( सूची ): डेटा निजीकरण निर्दिष्ट करें
• लास्टपाइप ( सूची ): अंतिम पुनरावृत्ति से अंतिम मूल्य के साथ डेटा निजीकरण निर्दिष्ट करें
• कमी ( कमी-पहचानकर्ता : सूची ): अनुकूलित कमी संचालन निर्दिष्ट करें
• पतन ( एन ): coalescing पाश घोंसला

नया -openmp: प्रयोगात्मक स्विच

एक OpenMP-SIMD- एनोटेट प्रोग्राम को नए CL स्विच -openmp के साथ संकलित किया जा सकता है : प्रायोगिक। यह नया स्विच अतिरिक्त ओपनएमपी सुविधाओं को सक्षम करता है जो अंडर- जेन नहीं उपलब्ध हैं। जबकि इस स्विच का नाम "प्रायोगिक" है, जो स्वयं स्विच है, और यह जो कार्यक्षमता सक्षम करता है वह पूरी तरह से समर्थित और उत्पादन-तैयार है। नाम दर्शाता है कि यह किसी भी पूर्ण उप-संस्करण या OpenMP मानक के संस्करण को सक्षम नहीं करता है। कंपाइलर के भविष्य के पुनरावृत्तियों इस स्विच का उपयोग अतिरिक्त OpenMP सुविधाओं को सक्षम करने के लिए कर सकते हैं और नए OpenMP- संबंधित स्विच जोड़े जा सकते हैं। -Openmp: प्रायोगिक स्विच -openmp स्विच को सब्सक्राइब करता है जिसका अर्थ है कि यह सभी OpenMP 2.0 सुविधाओं के साथ संगत है। ध्यान दें कि SIMD निर्देश और इसके खंड को -openmp स्विच के साथ संकलित नहीं किया जा सकता है।

उन लूपों के लिए जिन्हें वेक्टर नहीं किया गया है, कंपाइलर उनमें से प्रत्येक के लिए एक संदेश जारी करेगा जैसे नीचे। उदाहरण के लिए,

cl -O2 -openmp: प्रयोगात्मक mycode.cpp

mycode.cpp (84): जानकारी C5002: OMP simd लूप का कारण '1200' के कारण नहीं है

mycode.cpp (90): जानकारी C5002: OMP simd लूप का कारण '1200' के कारण नहीं है

वेक्टर किए गए छोरों के लिए, संकलक तब तक चुप रहता है जब तक कि वेक्टराइज़िंग लॉगिंग स्विच प्रदान नहीं किया जाता है:

cl -O2 -openmp: प्रयोगात्मक -Qvec- रिपोर्ट: 2 mycode.cpp

mycode.cpp (84): जानकारी C5002: OMP simd लूप का कारण '1200' के कारण नहीं है

mycode.cpp (90): जानकारी C5002: OMP simd लूप का कारण '1200' के कारण नहीं है

mycode.cpp (96): जानकारी C5001: OMP simd लूप वेक्टरकृत

OpenMP SIMD का समर्थन करने के पहले चरण के रूप में हमने मूल रूप से नए स्विच के तहत बैकेंड वेक्टर के साथ SIMD pragma को झुका दिया है। हमने वेक्टर और एलियास विश्लेषण में सुधार करके अंतरतम छोरों को वेक्टर करने पर ध्यान केंद्रित किया है। इस लेखन के समय विजुअल स्टूडियो 2019 में कोई भी SIMD क्लॉस प्रभावी नहीं है। उपयोगकर्ता की जागरूकता के लिए जारी चेतावनी के साथ उन्हें संकलित किया जाएगा लेकिन संकलक द्वारा अनदेखा किया जाएगा। उदाहरण के लिए, कंपाइलर जारी करेगा

चेतावनी C4849: OpenMP 'simdlen' खंड 'simd' निर्देश में नजरअंदाज कर दिया

निम्नलिखित कोड के लिए:

 #pragma omp simd simdlen(8) for (i = 1; i < count; i++) { a[i] = a[i-1] + 1; b[i] = *c + 1; bar(i); } 

OpenMP SIMD निर्देश के शब्दार्थ के बारे में अधिक

OpenMP SIMD निर्देश उपयोगकर्ताओं को लूप को वेक्टर करने के लिए कंपाइलर को निर्देशित करने का एक तरीका प्रदान करता है। कंपाइलर को उपयोगकर्ताओं के शुद्धता के वादे को स्वीकार करके ऐसे वैश्वीकरण की स्पष्ट वैधता को अनदेखा करने की अनुमति है। जब वेक्टरकरण के साथ अप्रत्याशित व्यवहार होता है तो यह उपयोगकर्ताओं की जिम्मेदारी है। OpenMP SIMD निर्देश के साथ एक लूप एनोटेट करके, उपयोगकर्ता एक साथ निष्पादित कई लूप पुनरावृत्तियों का इरादा रखते हैं। यह संकलक को मशीन कोड उत्पन्न करने की बहुत अधिक स्वतंत्रता देता है जो लक्ष्य प्रोसेसर पर SIMD या वेक्टर संसाधनों का लाभ उठाता है। हालांकि कंपाइलर ऐसे उपयोगकर्ता-निर्दिष्ट समानता की शुद्धता और लाभ की खोज के लिए जिम्मेदार नहीं है, फिर भी इसे एकल लूप पुनरावृत्ति के अनुक्रमिक व्यवहार को सुनिश्चित करना चाहिए ।

उदाहरण के लिए, निम्न लूप को OpenMP SIMD निर्देश के साथ एनोटेट किया गया है। लूप पुनरावृत्तियों के बीच कोई पूर्ण समानता नहीं है क्योंकि [i] से [i-1] तक एक पिछड़ी निर्भरता है। लेकिन SIMD के निर्देश के कारण कंपाइलर को अभी भी पहले स्टेटमेंट के लगातार पुनरावृत्तियों को एक वेक्टर निर्देश में पैक करने और उन्हें समानांतर में चलाने की अनुमति है।

 #pragma omp simd for (i = 1; i < count; i++) { a[i] = a[i-1] + 1; b[i] = *c + 1; bar(i); } 

इसलिए, लूप के निम्न रूपांतरित वेक्टर रूप कानूनी है क्योंकि कंपाइलर प्रत्येक मूल लूप पुनरावृत्ति के अनुक्रमिक व्यवहार को बनाए रखता है। दूसरे शब्दों में, एक [i] को [-1] के बाद निष्पादित किया जाता है, b [i] एक [i] के बाद होता है और बार में कॉल अंतिम समय पर होता है।

 #pragma omp simd for (i = 1; i < count; i+=4) { a[i:i+3] = a[i-1:i+2] + 1; b[i:i+3] = *c + 1; bar(i); bar(i+1); bar(i+2); bar(i+3); } 

यदि यह एक [i] या b [i] के साथ अन्य नाम हो सकता है, तो मेमोरी रेफरेंस को लूप से बाहर ले जाना गैरकानूनी है। यदि यह अनुक्रमिक निर्भरता को तोड़ता है, तो एक मूल पुनरावृत्ति के अंदर कथनों को पुनः व्यवस्थित करना भी अवैध है। एक उदाहरण के रूप में, निम्न रूपांतरित लूप कानूनी नहीं है ।

 c = b; t = *c; #pragma omp simd for (i = 1; i < count; i+=4) { a[i:i+3] = a[i-1:i+2] + 1; bar(i); // illegal to reorder if bar[i] depends on b[i] b[i:i+3] = t + 1; // illegal to move *c out of the loop bar(i+1); bar(i+2); bar(i+3); } 

भविष्य की योजनाएं और प्रतिक्रिया

हम आपको इस नई सुविधा को आज़माने के लिए प्रोत्साहित करते हैं। हमेशा की तरह, हम आपकी प्रतिक्रिया का स्वागत करते हैं। यदि आपको एक OpenMP SIMD लूप दिखाई देता है, जिसकी आप वेक्टर किए जाने की अपेक्षा करते हैं, लेकिन उत्पन्न कोड इष्टतम नहीं है, तो कृपया हमें बताएं। हम ईमेल ( visualcpp@microsoft.com ), ट्विटर (@visualc), या डेवलपर समुदाय के माध्यम से नीचे टिप्पणी के माध्यम से पहुँचा जा सकता है।

आगे बढ़ते हुए, हम Visual Studio में गुम OpenMP फ़ंक्शंस की आपकी आवश्यकता को सुनना पसंद करेंगे। चूंकि 2.0 मानक के बाद से ओपनएमपी में कई प्रमुख विकास हुए हैं, ओपनएमपी में अब उच्च प्रदर्शन कार्यक्रमों के निर्माण के लिए आपके प्रयास को आसान बनाने की जबरदस्त विशेषताएं हैं। उदाहरण के लिए, कार्य-आधारित संगामिति प्रोग्रामिंग ओपनएमपी 3.0 से शुरू होती है। Heterogenous कंप्यूटिंग (CPU + त्वरक) OpenMP 4.0 में समर्थित है। उन्नत SIMD वैश्वीकरण और DOACROSS लूप समानांतर समर्थन अब नवीनतम OpenMP मानक में भी उपलब्ध हैं। कृपया OpenMP की आधिकारिक वेबसाइट: https://www.openmp.org से संपूर्ण मानक संशोधन और सुविधा सेट देखें । हम उन विशिष्ट ओपनएमपी विशेषताओं पर आपके विचारों के लिए ईमानदारी से पूछते हैं जिन्हें आप देखना चाहते हैं। हम यह भी सुनने में रुचि रखते हैं कि आप अपने कोड को तेज करने के लिए OpenMP का उपयोग कैसे कर रहे हैं। आपकी प्रतिक्रिया महत्वपूर्ण है कि यह Visual Studio में OpenMP समर्थन की दिशा को चलाने में मदद करेगा।

होंगताओ यू