数字助理服从人类听不到的命令



如今,可以称为人的“数字助理”的技术已经非常流行。 我们正在谈论Siri,Cortana和智能扬声器,尤其是来自亚马逊的扬声器。 我们中的许多人已经习惯了这样一个事实,即只有一个语音命令就能使助手行动-例如,告诉明天的天气,阅读文字或唱歌。

对于信息安全专家而言,此类助手的某些方面提出了许多问题。 毫无疑问,这些服务非常方便,但是容易受到外界干扰。 最简单的例子-在电视上报道了来自圣地亚哥的Amazon Echo系统后,他“收听”了当地的CW6频道,然后开始订购娃娃屋。

问题在于,他们在电视上说了一些关于娃娃屋的事情,讨论了从Alexa订购这所房子的女孩。 专栏仅此而已。 记者在电视上说:“我喜欢那个说“ Alexa,请给我一个玩具屋的女孩”。 和其他发言人紧急开始订购娃娃屋。


前段时间发现同一列是因为它无缘无故地开始大笑 。 很有可能是有原因的,这是对专栏本身的破解(某种错误几乎不会导致类似的后果)。

至于未经授权的订单,“失败”的原因在于,Alexa没有配备“敌我识别”系统,因此它可以听别人的语音命令,而不仅是听其用户的语音命令。 Google助理Corita Siri的情况与此类似。 事实证明,“助手”服从于人耳无法分辨的命令。

来自中国和美国的研究人员的联合团队能够实现智能手机和智能扬声器中的人工智能系统的秘密激活。 听不到声音的团队迫使数字助理拨打不同的号码并打开站点。 但是可能性要大得多-攻击者可以利用专栏的“天真”来进行汇款或订购商品(只限娃娃屋)。

上述团队可以嵌入任何长度的歌曲或对话性语音的录音中。 某些攻击者可能会开始播放音乐唱片,这听起来对一个人来说很平常,但是数字助理会听到命令并开始执行命令。 已经发表了研究结果的研究人员认为,他们的技术迟早会公开。 这个想法不是唯一的,因此任何人都可以参加。 也许它已经被某些攻击者使用了。


信息安全研究人员没有透露该技术的细节,但是必须认为威胁是真实的。 在发布有关语音助手易受攻击性的信息之后的一段时间,来自其他国家/地区的此类服务的开发人员开始谈论针对该问题的早期解决方案。 亚马逊表示该问题已经解决。

尽其所能,但现在相同的Siri会监听此类命令。 此外,它们还包含有关需要保持数字助理沉默的说明。 毕竟,如果电话“醒来”并开始以语音重复播放语音命令中隐藏的所有内容,发出命令的意义何在? 如此-命令发出,电话被激活,但进入静音模式,并且什么也没说。

研究人员称其为DolphinAttack技术。 现在,数字助理软件开发人员已开始研究科学家提供的信息,以解决问题。 这很难做到,但可能是可能的。 如果不采取任何措施,那么真正构成潜在危险的想法将开始在各种攻击者中获得理解。 反过来,这些人将使用它来实现自己的任何不符合法律的目标。 到目前为止,有关潜在“声音脆弱性”的研究仍在继续。

Source: https://habr.com/ru/post/zh-CN412331/


All Articles