डिजिटल सहायक आज्ञाओं का पालन करते हैं जो मनुष्यों के लिए अक्षम्य हैं

आजकल, प्रौद्योगिकी जिसे किसी व्यक्ति का "डिजिटल सहायक" कहा जा सकता है, बहुत लोकप्रिय हो गया है। हम दोनों सिरी, कोरटाना और स्मार्ट स्पीकर के बारे में बात कर रहे हैं - विशेष रूप से, अमेज़ॅन से। हम में से बहुत से लोग इस तथ्य के लिए उपयोग किए जाते हैं कि सिर्फ एक वॉइस कमांड सहायक अधिनियम बना सकती है - उदाहरण के लिए, कल के लिए मौसम बताएं, पाठ पढ़ें या एक गीत गाएं।

सूचना सुरक्षा विशेषज्ञों के लिए, ऐसे सहायकों के काम के कुछ पहलू कई सवाल खड़े करते हैं। इसमें कोई संदेह नहीं है, सेवाएं काफी सुविधाजनक हैं, लेकिन वे बाहरी हस्तक्षेप के लिए कमजोर हैं। सबसे सरल उदाहरण - सैन डिएगो से टीवी अमेज़ॅन इको सिस्टम पर रिपोर्ट करने के बाद, जिसने स्थानीय सीडब्ल्यू 6 चैनल को "सुना", गुड़िया घरों का ऑर्डर करना शुरू कर दिया।

समस्या यह थी कि टीवी पर उन्होंने गुड़िया घर के बारे में कुछ कहा, उस लड़की के बारे में चर्चा की जिसने एलेक्सा से ऐसे घर का आदेश दिया। और कॉलम ने और कुछ नहीं करने का आदेश दिया। रिपोर्टर ने टीवी पर निम्नलिखित कहा: "मुझे वह लड़की पसंद है जिसने कहा" एलेक्सा, मुझे एक गुड़ियाघर का आदेश दें। " और अन्य वक्ताओं ने तुरंत गुड़िया घरों का आदेश देना शुरू कर दिया।


कुछ समय पहले इसी स्तंभ पर ध्यान दिया गया था कि यह बिना किसी कारण के बहुत हंसने लगा था। सबसे अधिक संभावना है, एक कारण था, और यह कॉलम में ही हैक था (कुछ प्रकार के बग शायद ही इसी तरह के परिणाम पैदा कर सकते हैं)।

अनधिकृत आदेशों के लिए, "असफलता" का कारण इस तथ्य में निहित है कि एलेक्सा एक मित्र-या-दुश्मन मान्यता प्रणाली से सुसज्जित नहीं है, ताकि यह अन्य लोगों के वॉयस कमांड को सुन सके, न कि केवल इसके उपयोगकर्ता को। सिरी, कोरटाना, एक Google सहायक के साथ स्थिति समान है। जैसा कि यह निकला, "सहायकों" आज्ञाओं का पालन करते हैं जो मानव कान के लिए अविवेच्य हैं।

चीन और संयुक्त राज्य अमेरिका के शोधकर्ताओं की एक संयुक्त टीम स्मार्टफ़ोन और स्मार्ट स्पीकर में कृत्रिम बुद्धिमत्ता प्रणालियों के गुप्त सक्रियण को प्राप्त करने में सक्षम थी। अयोग्य आदमी टीमों ने डिजिटल सहायकों को अलग-अलग संख्याओं और खुली साइटों को डायल करने के लिए मजबूर किया। लेकिन संभावनाएं बहुत व्यापक हैं - हमलावर पैसे के हस्तांतरण या ऑर्डर माल (केवल गुड़िया घर नहीं) बनाने के लिए कॉलम के "भोलेपन" का उपयोग कर सकते हैं।

ऊपर वर्णित टीमों को किसी भी लंबाई या संवादी भाषण के गीतों की रिकॉर्डिंग में एम्बेड किया जा सकता है। कुछ हमलावर एक संगीत रिकॉर्ड खेलना शुरू कर सकते हैं, जो किसी व्यक्ति के लिए काफी सामान्य लगेगा, लेकिन डिजिटल सहायक कमांड को सुनेंगे और आदेश को निष्पादित करना शुरू कर देंगे। शोधकर्ताओं, जिन्होंने पहले से ही अपने काम के परिणाम प्रकाशित किए हैं, का मानना ​​है कि उनकी तकनीक जल्द या बाद में सार्वजनिक की जाएगी। यह विचार अद्वितीय नहीं है, इसलिए कोई भी इसके पास आ सकता है। या शायद यह पहले से ही काम करता है, किसी हमलावर द्वारा उपयोग किया जा रहा है।


सूचना सुरक्षा शोधकर्ता प्रौद्योगिकी के विवरण का खुलासा नहीं करते हैं, लेकिन किसी को यह सोचना चाहिए कि खतरा वास्तविक है। आवाज सहायकों की भेद्यता के बारे में जानकारी के प्रकाशन के कुछ समय बाद, अन्य देशों के ऐसी सेवाओं के डेवलपर्स ने समस्या के लिए जल्द ठीक करने की बात शुरू की। अमेज़न ने कहा कि समस्या पहले ही हल हो गई है।

हो सकता है कि जैसा भी हो, लेकिन वही सिरी अब ऐसे आदेशों को सुनता है। इसके अलावा, उनके पास डिजिटल सहायक के लिए चुप रहने की आवश्यकता के निर्देश हैं। आखिरकार, "फोन उठता है" और एक आवाज में वह सब कुछ दोहराना शुरू हो जाता है, जो एक अयोग्य आदेश में छिपा हुआ है, तो कमांड देने की क्या बात है? और इसलिए - कमांड जाता है, फोन सक्रिय हो जाता है, लेकिन साइलेंट मोड में चला जाता है और प्रतिक्रिया में कुछ भी 2 नहीं कहता है।

शोधकर्ताओं ने डॉल्फिनएटैक तकनीक को बुलाया है। अब डिजिटल सहायक सॉफ्टवेयर डेवलपर्स ने समस्या को हल करने के लिए वैज्ञानिकों द्वारा दी गई जानकारी का अध्ययन करना शुरू कर दिया है। यह करना मुश्किल है, लेकिन शायद संभव है। यदि कुछ भी नहीं किया जाता है, तो एक विचार जो वास्तव में संभावित खतरे पैदा करता है, सभी प्रकार के हमलावरों के बीच समझ को खोजने लगेगा। और वे, बदले में, कानून के साथ असंगत अपने स्वयं के किसी भी लक्ष्य को महसूस करने के लिए इसका उपयोग करेंगे। अब तक, संभावित "ध्वनि भेद्यता" का अध्ययन जारी है।