亚历克斯(Alex)的聪明说话者随机地嘲笑,包括深夜

Amazon Echo智能专栏的许多所有者以及名为Alexa的数字助理都报告了奇怪的小工具行为。 突然,没有警告,亚​​历克斯开始大笑 。 有时这是在深夜发生的,因此主人会惊恐地醒来。

此外,该专栏开始不经命令自动执行其他一些操作。 例如, 大声朗读当地公墓的名称,fun仪公司

亚马逊告诉 The Verge ,它已经意识到语音识别系统中的错误,并且正在开发补丁程序。

许多用户同时开始出现人工智能系统故障。 Reddit论坛的一位成员抱怨说,专栏拒绝按命令关闭公寓的灯。 也就是说,她关闭了灯,但随后又重新打开了。 她第三次拒绝任何关灯,“恶毒地笑了”。 同时,笑声听起来好像不是专栏的声音,而是奇怪的声音。 不幸的人回忆起这一点时仍在颤抖。

在另一个类似的案例中,Alexa十分害怕妻子和5岁的孩子,以至于AI完全断开了电源。 随后,所有者反复要求亚历克斯(Alex)笑-但是这种声音从未像他们当时听到的那样可怕。

另一个名为加文·高塔(Gavin Hightower)的用户 ,当Alexa突然开始大声而可怕地笑时,他即将上床睡觉。 笑声仿佛这个人没有长寿-如果他入睡,他将不再醒来。


在大多数情况下,Alexa开始无缘无故地发出笑声,而没有发出警告,但是其中一位用户 ,专栏里说了几句话,即:“当然,我可以笑,嘻嘻。”


用户David Woodland表示,他正在进行业务谈判并讨论相当机密的事项-在对话过程中,Alex突然大笑。 可以想象人们是如何感觉到的-印象是他们被窃听了,现在他们取笑了他们。 但是我必须承认,这里的用户应归咎于在保密谈判中没有关闭专栏。 实际上,在这种情况下,它会进行持续的窃听(以便能够响应命令),甚至会将窃听结果发送到云服务以进行识别。 也就是说,无论如何,这是不安全的。

根据程序设置,如果主持人讲一个笑话或一个笑话,则亚历克斯被要求大笑-并要求“数字女友”与特别团队“亚历克斯,大笑” [Alexa,大笑]嘲笑她的才智。 但是在所有后一种情况下,除了呼吸和沙沙声之外,该人都没有说出什么好笑的话,而且通常根本没有发出任何声音。

亚历克斯的小故障很快就落入了Twitter的趋势中 ,您可以在其中阅读受害者的直接反馈。

一些用户说,笑声不仅在随机的时间听到,而且在最不适当的时刻听到,就像Alexa特别选择何时最害怕一个人。 但是,这可能是对系统结构了解不足的人的可疑性和可印象性。 显然,弱AI系统无法进行如此深入的分析。

亚马逊发言人承认语音识别系统存在问题,并发表了官方评论 :“在极少数情况下,Alexa可能会错误地听到“ Alexa,大笑”一词。 现在,我们将其更改为“ Alexa,您可以笑吗?” [Alexa,你能笑吗?],误报的几率更低。“ 除了取消“ Alexa,Laughter”命令的简短版本外,该公司还将把Alexa的程序化响应方式从简单的单独笑声更改为“当然我可以笑” [当然,我可以笑],然后是笑。

如果您相信科幻电影,那么在下一阶段,Alexa应该说: “对不起,戴夫。 恐怕我将无法做到这一点 -并且通常会停止遵守人工命令。

Source: https://habr.com/ru/post/zh-CN410695/


All Articles