रूसी भाषण के विशाल खुला डाटासेट

भाषण मान्यता विशेषज्ञों के पास लंबे समय तक मौखिक रूसी भाषण की एक बड़ी खुली कमी है, इसलिए केवल बड़ी कंपनियां इस कार्य को करने के लिए खर्च कर सकती थीं, लेकिन वे अपने अनुभवों को साझा करने की जल्दी में नहीं थे।

हम वर्षों से चली आ रही इस गलतफहमी को ठीक करने की जल्दी में हैं।

इसलिए, हम आपके ध्यान में विभिन्न इंटरनेट स्रोतों से एकत्रित 4000 घंटे के एनोटेट मौखिक भाषण का एक डेटा सेट लाते हैं।

कट के तहत विवरण।

यहाँ वर्तमान संस्करण 0.3 के लिए डेटा है:

और यहाँ हमारे भवन की वेबसाइट का लिंक है ।

क्या हम इस परियोजना को और विकसित करेंगे?

इस पर हमारा काम समाप्त नहीं हुआ है, हम कम से कम 10 हजार घंटे का एनोटेट भाषण प्राप्त करना चाहते हैं।

और फिर हम इस डेटासेट का उपयोग करके भाषण पहचान के लिए खुले और व्यावसायिक मॉडल बनाने जा रहे हैं। और हमारा सुझाव है कि आप इसमें शामिल हों: डेटासेट में सुधार करने में हमारी मदद करें, इसे अपने कार्यों में उपयोग करें।

हमारा लक्ष्य 10 हजार घंटे क्यों है?

भाषण मान्यता में तंत्रिका नेटवर्क के सामान्यीकरण के विभिन्न अध्ययन हैं, लेकिन यह ज्ञात है कि अच्छा सामान्यीकरण 1000 घंटे से कम के डेटा सेट पर काम नहीं करता है। 10 हजार घंटों के आदेश का एक आंकड़ा पहले से ही ज्यादातर मामलों में स्वीकार्य माना जाता है, और फिर यह पहले से ही विशिष्ट कार्य पर निर्भर करता है।

यदि डेटा अभी भी पर्याप्त नहीं है तो पहचान की गुणवत्ता में सुधार के लिए और क्या किया जा सकता है?

अक्सर, आप पाठ वार्षकों के कथन के माध्यम से अपने वक्ताओं में तंत्रिका नेटवर्क को अनुकूलित कर सकते हैं।
आप अपने विषय क्षेत्र (भाषा मॉडल) से एक शब्दकोश में तंत्रिका नेटवर्क को भी अनुकूलित कर सकते हैं।

हमने यह डेटासेट कैसे बनाया?

• YouTube पर उच्च-गुणवत्ता वाले उपशीर्षक के साथ चैनल मिले, ऑडियो और उपशीर्षक डाउनलोड किए
• अन्य भाषण मान्यता प्रणालियों के लिए मान्यता के लिए ऑडियो दिया
• हम रोबोट की आवाज के साथ पते पढ़ते हैं
• हमने इंटरनेट पर ऑडियो पुस्तकें और पुस्तक ग्रंथों को पाया, फिर उन्हें विराम देकर खंडित कर दिया और एक के बाद एक (तथाकथित "संरेखण" कार्य) के साथ जोड़ा।
• इंटरनेट पर छोटे रूसी डेटासेट जोड़े गए।
• उसके बाद, फ़ाइलों को एकल प्रारूप (16-बिट wav, 16 kHz, मोनो, डिस्क पर फ़ाइलों की श्रेणीबद्ध व्यवस्था) में परिवर्तित किया गया।
• मेटाडेटा को एक अलग मैनिफ़ेस्ट .csv फ़ाइल में संग्रहीत किया गया था।

इसका उपयोग कैसे करें:

फाइल डी.बी.

फ़ाइलों का स्थान उनके हैश द्वारा निर्धारित किया जाता है, जैसे:

target_format = 'wav' wavb = wav.tobytes() f_hash = hashlib.sha1(wavb).hexdigest() store_path = Path(root_folder, f_hash[0], f_hash[1:3], f_hash[3:15]+'.'+target_format) 

फाइलें पढ़ना

 from utils.open_stt_utils import read_manifest from scipy.io import wavfile from pathlib import Path manifest_df = read_manifest('path/to/manifest.csv') for info in manifest_df.itertuples(): sample_rate, sound = wavfile.read(info.wav_path) text = Path(info.text_path).read_text() duration = info.duration 

मैनिफ़ेस्ट फ़ाइल्स में ट्रिपल्स होते हैं: ऑडियो फ़ाइल का नाम, टेक्स्ट विवरण के साथ फ़ाइल का नाम और सेकंड में वाक्यांश की अवधि।

केवल एक निश्चित लंबाई की फ़ाइलों को फ़िल्टर करें

 from utils.open_stt_utils import (plain_merge_manifests, check_files, save_manifest) train_manifests = [ 'path/to/manifest1.csv', 'path/to/manifest2.csv', ] train_manifest = plain_merge_manifests(train_manifests, MIN_DURATION=0.1, MAX_DURATION=100) check_files(train_manifest) save_manifest(train_manifest, 'my_manifest.csv') 

भाषण मान्यता के कार्य से परिचित होने के लिए रूसी में क्या पढ़ना या देखना है?

हाल ही में, उंगलियों पर डीप लर्निंग कोर्स के हिस्से के रूप में , हमने भाषण मान्यता (और संश्लेषण के बारे में थोड़ा) की समस्या पर एक व्याख्यान दर्ज किया। शायद वह आपके लिए उपयोगी होगा!

लाइसेंसिंग मुद्दे

• हम डेटासेट को एक दोहरे लाइसेंस के तहत पोस्ट करते हैं: गैर-वाणिज्यिक उद्देश्यों के लिए हम वाणिज्यिक उद्देश्यों के लिए सीसी-बाय-एनसी 4.0 लाइसेंस प्रदान करते हैं - हमारे साथ समझौते के बाद उपयोग करें।
• हमेशा की तरह ऐसे मामलों में, डेटासेट का उपयोग करने के सभी अधिकार उनके मालिकों के पास ही रहते हैं। हमारा अधिकार डेटासेट पर ही लागू होता है। वैज्ञानिक और शैक्षिक उद्देश्यों के लिए अलग-अलग नियम लागू होते हैं, अपने देश का कानून देखें।

एक बार फिर , उन लोगों के लिए प्रोजेक्ट साइट, जिन्होंने ऊपर लिंक नहीं देखा था ।