🚵 🏁 ⚠️ IP (TS) स्ट्रीम पर नजर रखने के लिए TSDuck का उपयोग करना 🤰🏾 🏌️ 💷

आज, आईपी (टीएस) धाराओं की निगरानी के लिए तैयार (मालिकाना) समाधान हैं, उदाहरण के लिए, वीबी और आईक्यू , उनके पास कार्यों का काफी समृद्ध सेट है और आमतौर पर टीवी सेवाओं से निपटने वाले बड़े ऑपरेटरों के लिए ऐसे समाधान उपलब्ध हैं। यह लेख ओपन सोर्स प्रोजेक्ट TSDuck पर आधारित एक समाधान का वर्णन करता है, जिसे काउंटर CC (निरंतरता काउंटर) और बिट दर द्वारा IP (TS) धाराओं के नियंत्रण को कम करने के लिए डिज़ाइन किया गया है। एक संभावित एप्लिकेशन एक किराए पर L2 चैनल के माध्यम से पैकेट या संपूर्ण स्ट्रीम के नुकसान को नियंत्रित करना है (जिसे सामान्य रूप से मॉनिटर नहीं किया जा सकता है, उदाहरण के लिए, कतारों में नुकसान काउंटर को पढ़कर)।

TSDuck के बारे में बहुत संक्षिप्त

TSDuck एक ओपन सोर्स (2-क्लाज BSD लाइसेंस) सॉफ्टवेयर (कंसोल यूटिलिटीज का एक सेट और टीएस स्ट्रीमों में हेरफेर करने के लिए अपनी उपयोगिताओं या प्लग-इन को विकसित करने के लिए एक लाइब्रेरी) है। एक इनपुट के रूप में यह आईपी (मल्टीकास्ट / यूनिकैस्ट), http, hls, DVb ट्यूनर, dektec dvb-asi डेमोडुलेटर के साथ काम कर सकता है, एक आंतरिक TS स्ट्रीम जनरेटर है और फाइलों से पढ़ना है। आउटपुट एक फ़ाइल, आईपी (मल्टीकास्ट / यूनिकस्ट), हील्स, डेक्टेक डीवीबी-एएसआई और हायडेस मॉड्यूलेटर, प्लेयर्स (mplayer, vlc, xine) और ड्रॉप हो सकता है। इनपुट और आउटपुट के बीच, आप विभिन्न ट्रैफ़िक प्रोसेसर्स को सक्षम कर सकते हैं, उदाहरण के लिए, पीआईडी रीमैपिंग, स्क्रैचिंग / डीस्क्रेम्बिंग, सीसी-काउंटर्स का विश्लेषण, बिटरेट गणना और टीएस-धाराओं के लिए विशिष्ट अन्य ऑपरेशन।

इस आलेख में, आईपी स्ट्रीम (मल्टीकास्ट) का उपयोग इनपुट के रूप में किया जाएगा, बिट्रेट_मोनिटर प्रोसेसर का उपयोग किया जाता है (नाम से यह स्पष्ट है कि यह क्या है) और निरंतरता (सीसी-काउंटरों का विश्लेषण)। बिना किसी समस्या के, आप IP मल्टीकास्ट को TSDuck द्वारा समर्थित एक अन्य इनपुट प्रकार से बदल सकते हैं।

अधिकांश वर्तमान OS के लिए TSDuck के आधिकारिक बिल्ड / पैकेज हैं । डेबियन के लिए, वे नहीं हैं, लेकिन डेबियन 8 और डेबियन 10 के तहत समस्याओं के बिना इकट्ठा करना संभव था।

अगला, TSDuck संस्करण 3.19-1520 का उपयोग किया जाता है, लिनक्स का उपयोग OS के रूप में किया जाता है (समाधान तैयार करने के लिए डेबियन 10 का उपयोग किया गया था, CentOS 7 का उपयोग वास्तविक उपयोग के लिए किया गया था)

TSDuck और OS तैयार करना

वास्तविक प्रवाह की निगरानी करने से पहले, आपको यह सुनिश्चित करने की ज़रूरत है कि TSDuck सही तरीके से काम कर रहा है और नेटवर्क कार्ड या OS (सॉकेट) स्तर पर कोई बूँदें नहीं हैं। यह बाद में अनुमान लगाने के लिए आवश्यक है कि बूंदें कहां हुईं - नेटवर्क पर या "सर्वर के अंदर"। आप ethtool -S ethX कमांड के साथ नेटवर्क कार्ड स्तर पर ड्रॉप्स की जांच कर सकते हैं, ट्यूनिंग एक ही एथलूल के साथ किया जाता है (आमतौर पर, आपको RX बफर (-G) को बढ़ाने और कभी-कभी कुछ ऑफलोड्स (-K) को अक्षम करने की आवश्यकता होती है)। सामान्य अनुशंसा के रूप में, आप विश्लेषण किए गए ट्रैफ़िक को प्राप्त करने के लिए एक अलग पोर्ट का उपयोग करने की सिफारिश कर सकते हैं, यदि संभव हो तो, यह इस तथ्य से जुड़े गलत सकारात्मक को कम करता है कि ड्रॉप अन्य ट्रैफ़िक की उपस्थिति के कारण एनालाइज़र पोर्ट पर सुसंगत रूप से हुआ। यदि यह संभव नहीं है (एक एकल-पोर्ट के साथ एक मिनी-कंप्यूटर / एनयूसी का उपयोग किया जाता है), तो यह उस उपकरण पर बाकी के सापेक्ष विश्लेषण किए गए ट्रैफ़िक को प्राथमिकता देने के लिए अत्यधिक वांछनीय है जिसमें विश्लेषक जुड़ा हुआ है। आभासी वातावरण के बारे में, यहां आपको सावधान रहने की जरूरत है और भौतिक पोर्ट से शुरू होने वाले पैकेज और वर्चुअल मशीन के अंदर एप्लिकेशन के साथ समाप्त होने में सक्षम होना चाहिए।

मेजबान के अंदर एक धारा का सृजन और स्वागत

TSDuck को तैयार करने के पहले चरण के रूप में, हम नेट्स का उपयोग करके उसी होस्ट के भीतर ट्रैफ़िक उत्पन्न और प्राप्त करेंगे।

खाना पकाने का माहौल:

ip netns add P # netns P,       ip link add type veth # veth- - veth0   netns   (     ) ip link set dev veth1 netns P #veth1 -   netns P (     ) ip netns exec P ifconfig veth1 192.0.2.1/30 up # IP  veth1,      ip netns exec P ip ro add default via 192.0.2.2 #     nents P sysctl net.ipv6.conf.veth0.disable_ipv6=1 # IPv6  veth0 -    ,    TX     ifconfig veth0 up #  veth0 ip route add 239.0.0.1 dev veth0 # ,      239.0.0.1   veth0

पर्यावरण तैयार है। हम ट्रैफ़िक विश्लेषक शुरू करते हैं:

 ip netns exec P tsp --realtime -t \ -I ip 239.0.0.1:1234 \ -P continuity \ -P bitrate_monitor -p 1 -t 1 \ -O drop

जहाँ "-p 1 -t 1" का अर्थ है कि आपको हर सेकंड बिटरेट की गणना करने और हर सेकंड बिटरेट के बारे में जानकारी प्रदर्शित करने की आवश्यकता है
हम 10 एमबीपीएस की गति के साथ यातायात जनरेटर शुरू करते हैं:

 tsp -I craft \ -P regulate -b 10000000 \ -O ip -p 7 -e --local-port 6000 239.0.0.1:1234

जहां "-p 7 -e" का अर्थ है कि आपको 7 टीएस पैकेट को 1 आईपी पैकेट में पैक करने की आवश्यकता है और इसे कठिन (-ई), अर्थात। आईपी पैकेट भेजने से पहले हमेशा आखिरी प्रोसेसर से 7 टीएस पैकेट का इंतजार करें।

विश्लेषक अपेक्षित संदेशों को प्रदर्शित करना शुरू करता है:

 * 2020/01/03 14:55:44 - bitrate_monitor: 2020/01/03 14:55:44, TS bitrate: 9,970,016 bits/s * 2020/01/03 14:55:45 - bitrate_monitor: 2020/01/03 14:55:45, TS bitrate: 10,022,656 bits/s * 2020/01/03 14:55:46 - bitrate_monitor: 2020/01/03 14:55:46, TS bitrate: 9,980,544 bits/s

अब कुछ बूंदें डालें:

 ip netns exec P iptables -I INPUT -d 239.0.0.1 -m statistic --mode random --probability 0.001 -j DROP

और इस तरह के संदेश दिखाई देते हैं:

 * 2020/01/03 14:57:11 - continuity: packet index: 80,745, PID: 0x0000, missing 7 packets * 2020/01/03 14:57:11 - continuity: packet index: 83,342, PID: 0x0000, missing 7 packets

क्या उम्मीद है पैकेट नुकसान को अक्षम करें (आईपी नेट्स पी iptables -F को निष्पादित करें) और जनरेटर की बिटरेट को 100 एमबीपीएस तक बढ़ाने की कोशिश करें। विश्लेषक CC त्रुटियों की एक गुच्छा और 100 के बजाय 75 Mbit / s के बारे में रिपोर्ट करता है। हम यह पता लगाने की कोशिश करते हैं कि दोष किसका है - जनरेटर के पास समय नहीं है या समस्या इसमें नहीं है, इसके लिए हम निश्चित संख्या में पैकेट (700,000 टीएस पैकेट = 100,000 आईपी पैकेट) उत्पन्न करना शुरू करते हैं:

 # ifconfig veth0 | grep TX TX packets 151825460 bytes 205725459268 (191.5 GiB) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0 # tsp -I craft -c 700000 -P regulate -b 100000000 -P count -O ip -p 7 -e --local-port 6000 239.0.0.1:1234 * count: PID 0 (0x0000): 700,000 packets # ifconfig veth0 | grep TX TX packets 151925460 bytes 205861259268 (191.7 GiB) TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0

जैसा कि आप देख सकते हैं, वास्तव में 100,000 आईपी पैकेट (151925460-151825460) उत्पन्न किए गए थे। तो हम समझते हैं कि विश्लेषक के साथ क्या होता है, इसके लिए हम veth1 पर RX काउंटर के साथ जांच करते हैं, यह सख्ती से veth0 पर TX काउंटर के बराबर है, फिर हम देखते हैं कि सॉकेट स्तर पर क्या होता है:

 # ip netns exec P cat /proc/net/udp sl local_address rem_address st tx_queue rx_queue tr tm->when retrnsmt uid timeout inode ref pointer drops 133: 010000EF:04D2 00000000:0000 07 00000000:00000000 00:00000000 00000000 0 0 72338 2 00000000e0a441df 24355

यहां आप ड्रॉप्स की संख्या = 24355 देख सकते हैं। टीएस पैकेटों में यह 170485 या 700000 का 24.36% है, इसलिए हम देखते हैं कि खोई हुई बिटरेट के बहुत 25% udp सॉकेट में बूंदें हैं। एक यूडीपी सॉकेट में ड्रॉप्स आमतौर पर एक बफर की कमी के कारण होते हैं, डिफ़ॉल्ट सॉकेट बफर का आकार और सॉकेट बफर का अधिकतम आकार क्या है:

 # sysctl net.core.rmem_default net.core.rmem_default = 212992 # sysctl net.core.rmem_max net.core.rmem_max = 212992

इस प्रकार, यदि आवेदन स्पष्ट रूप से बफर आकार का अनुरोध नहीं करते हैं, तो सॉकेट्स को 208 KB के बफर आकार के साथ बनाया जाता है, लेकिन यदि वे अधिक अनुरोध करते हैं, तो वे अभी भी प्राप्त नहीं करेंगे जो अनुरोध किया गया है। चूंकि tsp में आप IP इनपुट के लिए बफर आकार (- बफ़र-आकार) सेट कर सकते हैं, हम सॉकेट के आकार को डिफ़ॉल्ट रूप से स्पर्श नहीं करेंगे, हम सिर्फ सॉकेट बफर के अधिकतम आकार को सेट करते हैं और tsp तर्कों के माध्यम से बफर आकार को स्पष्ट रूप से निर्दिष्ट करते हैं:

 sysctl net.core.rmem_max=8388608 ip netns exec P tsp --realtime -t -I ip 239.0.0.1:1234 -b 8388608 -P continuity -P bitrate_monitor -p 1 -t 1 -O drop

सॉकेट बफर के इस ट्यूनिंग के साथ, अब बताई गई बिटरेट लगभग 100 Mbit / s है, कोई CC त्रुटियाँ नहीं हैं।

Tsp अनुप्रयोग द्वारा CPU खपत द्वारा ही। I5-4260U CPU @ 1.40GHz के एक कोर के सापेक्ष, 10Mbit / s स्ट्रीम का विश्लेषण करने के लिए 3-4% CPU, 100Mbit / s 25%, 200Mbit / s 46% की आवश्यकता होती है। % पैकेट हानि सेट करते समय, CPU पर लोड व्यावहारिक रूप से नहीं बढ़ता (लेकिन घट सकता है)।

अधिक उत्पादक हार्डवेयर पर, समस्याओं के बिना 1 जीबी / एस से अधिक के प्रवाह को उत्पन्न करना और विश्लेषण करना संभव था।

वास्तविक नेटवर्क कार्ड पर परीक्षण

एक पशु जोड़ी पर परीक्षण करने के बाद, आपको एक मेजबान के दो मेजबान या दो बंदरगाह लेने की जरूरत है, बंदरगाहों को एक दूसरे से कनेक्ट करें, एक पर जनरेटर चलाएं, और दूसरे विश्लेषक पर। कोई आश्चर्य की बात नहीं थी, लेकिन वास्तव में यह सब लोहे पर निर्भर करता है, उतना ही दिलचस्प होगा।

निगरानी प्रणाली (Zabbix) द्वारा प्राप्त आंकड़ों का उपयोग

Tsp के पास SNMP या पसंद जैसी कोई मशीन-पठनीय API नहीं है। सीसी संदेशों को कम से कम 1 सेकंड (पैकेट नुकसान के उच्च प्रतिशत के साथ, बिटरेट के आधार पर सैकड़ों / हजारों / दसियों प्रति सेकंड, हजारों) हो सकता है।

इस प्रकार, जानकारी को बचाने और सीसी त्रुटियों और बिट दर के ग्राफ को खींचने और किसी प्रकार की दुर्घटना करने के लिए, निम्नलिखित विकल्प आगे हो सकते हैं:

पार्स और कुल (सीसी के अनुसार) टीएसपी का उत्पादन, अर्थात्। इसे वांछित आकार में परिवर्तित करें।
Tsp और / या प्रोसेसर प्लग इन को bitrate_monitor और निरंतरता जोड़ें ताकि परिणाम एक निगरानी प्रणाली के लिए उपयुक्त मशीन-पठनीय रूप में प्रदर्शित हो।
अपना आवेदन tsduck लाइब्रेरी के शीर्ष पर लिखें।

जाहिर है, श्रम लागत के बिंदु से, विकल्प 1 सबसे सरल है, विशेष रूप से यह देखते हुए कि tsduck खुद को निम्न-स्तर (आधुनिक मानकों द्वारा) भाषा (C ++) में लिखा गया है

बैश पर पार्सर + एग्रीगेटर का एक सरल प्रोटोटाइप ने दिखाया कि 10Mbit / s स्ट्रीम और 50% पैकेट लॉस (सबसे खराब स्थिति) पर, bash प्रक्रिया ने tsp प्रक्रिया की तुलना में 3-4 गुना अधिक CPU खपत किया। यह परिदृश्य अस्वीकार्य है। वास्तव में नीचे इस प्रोटोटाइप का एक टुकड़ा

बैश पर नूडल्स

 #!/usr/bin/env bash missingPackets=0 ccErrorSeconds=0 regexMissPackets='^\*\ (.+) - continuity:.*missing ([0-9]+) packets$' missingPacketsTime="" ip netns exec P tsp --realtime -t -I ip -b 8388608 "239.0.0.1:1234" -O drop -P bitrate_monitor -p 1 -t 1 -P continuity 2>&1 | \ while read i do #line example:* 2019/12/28 23:41:14 - continuity: packet index: 6,078, PID: 0x0100, missing 5 packets #line example 2: * 2019/12/28 23:55:11 - bitrate_monitor: 2019/12/28 23:55:11, TS bitrate: 4,272,864 bits/s if [[ "$i" == *continuity:* ]] then if [[ "$i" =~ $regexMissPackets ]] then missingPacketsTimeNew="${BASH_REMATCH[1]}" #timestamp (seconds) if [[ "$missingPacketsTime" != "$missingPacketsTimeNew" ]] #new second with CC error then ((ccErrorSeconds += 1)) fi missingPacketsTime=$missingPacketsTimeNew packets=${BASH_REMATCH[2]} #TS missing packets ((missingPackets += packets)) fi elif [[ "$i" == *bitrate_monitor:* ]] then : #... fi done

इस तथ्य के अलावा कि यह अस्वीकार्य रूप से धीरे-धीरे काम करता है, बैश में कोई सामान्य थ्रेड्स नहीं हैं, बैश जॉब्स स्वतंत्र प्रक्रियाएं हैं, और मुझे एक बार एक बार (जब मुझे बिटरेट संदेश प्राप्त होता है जो एक सेकंड में आता है) साइड इफेक्ट पर लापतापैकिट मूल्य रिकॉर्ड करना था। परिणामस्वरूप, बैश को अकेला छोड़ दिया गया था और गोलंग में एक आवरण (पार्सर + एग्रीगेटर) लिखने का निर्णय लिया गया था। इसी तरह के गोलंग कोड का सीपीयू खपत tsp प्रक्रिया से 4-5 गुना कम है। आवरण को गोलगप्पे के साथ बदलकर लगभग 16 गुना निकला और कुल मिलाकर परिणाम स्वीकार्य है (सबसे खराब स्थिति में सीपीयू पर 25% से अधिक)। गोलंग पर स्रोत फ़ाइल यहाँ है ।

आवरण लॉन्च

आवरण को चलाने के लिए, सिस्टमड के लिए सबसे सरल सेवा टेम्पलेट बनाया गया था ( यहां )। यह माना जाता है कि रैपर खुद को एक बाइनरी फ़ाइल (गो बिल्ड tsduck-stat.go) में संकलित करता है, जो / ऑप्ट / tsduck-stat / में स्थित है। यह माना जाता है कि गोलैंग का उपयोग मोनोटोनिक घड़ी (> = 1.9) के लिए समर्थन के साथ किया जाता है।

सेवा का एक उदाहरण बनाने के लिए, आपको systemctl enable tsduck-stat@239.0.0.1: 1234 कमांड चलाना होगा, फिर systemctl start tsduck-stat@239.0.0.1: 1234 शुरू करना होगा।

Zabbix की खोज

ताकि ज़ैबिक्स रनिंग सेवाओं की खोज कर सके, एक समूह सूची जनरेटर (डिस्कवरी) को बनाया गया है, ज़ैबिक्स डिस्कवरी के लिए आवश्यक प्रारूप में, यह माना जाता है कि यह वहाँ स्थित है - in / opt / tsduck-stat। Zabbix- एजेंट के माध्यम से खोज शुरू करने के लिए, आपको उपयोगकर्ता पैरामीटर को जोड़ने के लिए zabbix- एजेंट कॉन्फ़िगरेशन के साथ निर्देशिका में .conf फ़ाइल को जोड़ना होगा।

Zabbix टेम्पलेट

निर्मित टेम्पलेट (tsduck_stat_template.xml) में ऑटोडिस्कवर नियम, डेटा तत्वों के प्रोटोटाइप, ग्राफ़ और ट्रिगर शामिल हैं।

एक छोटी चेकलिस्ट (अगर कोई इसका इस्तेमाल करना चाहे तो क्या होगा)

सुनिश्चित करें कि "आदर्श" स्थितियों में टीएसपी पैकेट को नहीं गिराता है (जनरेटर और विश्लेषक सीधे जुड़े हुए हैं), यदि ड्रॉप्स हैं, तो इस विषय पर अनुभाग 2 या लेख का पाठ देखें।
अधिकतम सॉकेट बफर (net.core.rmem_max = 8388608) की ट्यूनिंग बनाएं।
संकलन tsduck-stat.go (गो बिल्ड tsduck-stat.go)।
सेवा टेम्पलेट को / lib / systemd / सिस्टम में रखें।
सिस्टमक्टेल का उपयोग करके सेवाएं शुरू करें, जांचें कि काउंटर दिखाई देने लगे (grep "" / dev / shm / tsduck-stat / *)। मल्टिकास्ट धाराओं की संख्या से सेवाओं की संख्या। यहां आपको मल्टीकास्ट समूह के लिए एक मार्ग बनाने की आवश्यकता हो सकती है, शायद rp_filter को बंद करें या स्रोत आईपी के लिए एक मार्ग बनाएं।
डिस्कवरी चलाओ। शश, यह सुनिश्चित करें कि यह जेनसन उत्पन्न करता है।
ज़ैबिक्स एजेंट के विन्यास को संलग्न करें, ज़ेबिक्स एजेंट को फिर से शुरू करें।
टेम्पलेट को ज़ैबिक्स में डाउनलोड करें, इसे उस होस्ट पर लागू करें जिस पर ज़ैबिक्स-एजेंट की निगरानी और स्थापित है, लगभग 5 मिनट प्रतीक्षा करें, देखें कि नए डेटा तत्व, ग्राफ़ और ट्रिगर्स दिखाई दिए हैं।

परिणाम

बिटरेट और सीसी त्रुटियों के साथ चार्ट

पैकेट नुकसान का पता लगाने के कार्य के लिए लगभग पर्याप्त है, कम से कम यह निगरानी की कमी से बेहतर है।

वास्तव में, CC- "नुकसान" तब हो सकता है जब gluing वीडियो क्लिप (जहां तक मुझे पता है, रूसी संघ में स्थानीय टेलीसेंट पर आवेषण किया जाता है, यानी सीसी काउंटर की गिनती के बिना), यह याद रखना चाहिए। मालिकाना समाधानों में, इस समस्या को आंशिक रूप से SCTE-35 टैग लेबल (यदि वे स्ट्रीम जनरेटर द्वारा जोड़ा जाता है) का पता लगाकर बाईपास किया जाता है।
UPD: रैपर और zabbix टेम्पलेट के लिए SCTE-35 टैग के लिए समर्थन जोड़ा गया

परिवहन की गुणवत्ता की निगरानी के दृष्टिकोण से, पर्याप्त निगरानी घबराना (IAT) नहीं है, क्योंकि इस पैरामीटर के लिए टीवी उपकरण (चाहे मॉड्यूलेटर या एंड डिवाइस) की आवश्यकता है और अनंत को जिटबफ़र को फुलाया जाना संभव नहीं है। और घबराहट तब तैर सकती है जब बड़े बफ़र्स वाले उपकरण को पारगमन में उपयोग किया जाता है और क्यूओएस को कॉन्फ़िगर नहीं किया जाता है या ऐसे रियलटाइम ट्रैफ़िक को संचारित करने के लिए अच्छी तरह से कॉन्फ़िगर नहीं किया जाता है।

IP (TS) स्ट्रीम पर नजर रखने के लिए TSDuck का उपयोग करना