في الوقت الحاضر ، أصبحت التكنولوجيا التي يمكن أن تسمى "مساعد رقمي" لشخص ما تحظى بشعبية كبيرة. نحن نتحدث عن كل من Siri و Cortana والسماعات الذكية - على وجه الخصوص ، من Amazon. اعتاد العديد منا على حقيقة أن أمرًا صوتيًا واحدًا فقط يمكن أن يجعل المساعد يعمل - على سبيل المثال ، أخبر الطقس للغد ، أو اقرأ النص أو غن أغنية.
بالنسبة لخبراء أمن المعلومات ، تطرح بعض جوانب عمل هؤلاء المساعدين عددًا من الأسئلة. لا شك أن الخدمات مريحة للغاية ، لكنها عرضة للتدخل الخارجي. أبسط مثال - بعد الإبلاغ عن أنظمة Amazon Amazon Echo من سان دييغو ، التي "استمعت" إلى قناة CW6 المحلية ، بدأت في طلب منازل الدمى.
كانت المشكلة أنهم قالوا في التلفزيون شيئًا عن منازل الدمى ، وناقشوا الفتاة التي طلبت مثل هذا المنزل من اليكسا. ولم يطلب العمود شيئاً أكثر. قال المراسل ما يلي على شاشة التلفزيون: "أحببت الفتاة التي قالت" أليكسا ، اطلب لي دمية. " وبدأ متحدثون آخرون على وجه السرعة في طلب منازل الدمى.
لوحظ نفس العمود منذ بعض الوقت في حقيقة أنه بدأ
يضحك بشكل رهيب دون سبب. على الأرجح ، كان هناك سبب ، وكان هذا اختراقًا في العمود نفسه (نوعًا ما من الأخطاء يمكن أن يؤدي إلى عواقب مماثلة).
أما بالنسبة للأوامر غير المصرح بها ، فإن سبب "الفشل" يكمن في حقيقة أن أليكسا ليست مجهزة بنظام التعرف على الأصدقاء أو الأعداء ، بحيث يمكنها الاستماع إلى الأوامر الصوتية لأشخاص آخرين ، وليس فقط مستخدمها. الوضع مشابه لـ Siri ، Cortana ، مساعد Google. كما اتضح ، فإن "المساعدين" يطيعون الأوامر التي لا يمكن تمييزها عن الأذن البشرية.
تمكن فريق مشترك من الباحثين من الصين والولايات المتحدة من تحقيق التنشيط السري لأنظمة الذكاء الاصطناعي على الهواتف الذكية ومكبرات الصوت الذكية. أجبرت فرق رجل غير مسموع المساعدين الرقميين على طلب أرقام مختلفة وفتح مواقع. لكن الاحتمالات أوسع بكثير - يمكن للمهاجمين استخدام "سذاجة" الأعمدة من أجل تحويل الأموال أو طلب السلع (وليس فقط منازل الدمى).
يمكن تضمين الفرق الموضحة أعلاه في تسجيلات الأغاني من أي طول أو كلام محادثة. يمكن لبعض المهاجمين بدء تشغيل تسجيل موسيقي ، والذي يبدو عاديًا تمامًا بالنسبة لشخص ما ، لكن المساعد الرقمي سيسمع الأمر ويبدأ في تنفيذ الأمر. يعتقد الباحثون ، الذين نشروا بالفعل نتائج عملهم ، أن التكنولوجيا الخاصة بهم ستنشر عاجلاً أم آجلاً. هذه الفكرة ليست فريدة ، لذلك يمكن لأي شخص أن يأتي إليها. أو ربما يعمل بالفعل ، ويستخدمه بعض المهاجمين.
لم يكشف الباحث عن أمن المعلومات عن تفاصيل التكنولوجيا ، ولكن يجب على المرء أن يعتقد أن التهديد حقيقي. بعد مرور بعض الوقت على نشر معلومات حول ضعف المساعدين الصوتيين ، بدأ مطورو هذه الخدمات من دول أخرى يتحدثون عن حل مبكر للمشكلة. قال أمازون أنه تم حل المشكلة بالفعل.
كن على هذا النحو ، لكن نفس Siri يستمع إلى مثل هذه الأوامر الآن. بالإضافة إلى ذلك ، تحتوي على تعليمات حول الحاجة إلى التزام الصمت للمساعد الرقمي. بعد كل شيء ، ما الفائدة من إصدار أمر إذا "يستيقظ الهاتف" ويبدأ في تكرار كل شيء مخفي في أمر غير مسموع؟ وهكذا - يذهب الأمر ، يتم تنشيط الهاتف ، ولكنه ينتقل إلى الوضع الصامت ولا يقول أي شيء 2 في الرد.
أطلق الباحثون على تقنية DolphinAttack. الآن بدأ مطورو البرمجيات المساعدين الرقميين في دراسة المعلومات التي قدمها العلماء من أجل حل المشكلة. من الصعب القيام بذلك ، ولكن ربما يكون ذلك ممكنًا. إذا لم يتم فعل أي شيء ، فإن الفكرة التي تشكل خطرًا حقيقيًا ستبدأ في إيجاد التفاهم بين جميع أنواع المهاجمين. وسيستخدمه هؤلاء بدوره لتحقيق أي من أهدافهم الخاصة التي تتعارض مع القانون. حتى الآن ، تستمر دراسة "الضعف السليم" المحتمل.