Inúmeros proprietários da coluna inteligente Amazon Echo, com um assistente digital chamado Alexa,
relatam um comportamento estranho do gadget. De repente, sem aviso, Alex começa a
rir . Às vezes isso acontece no meio da noite, por causa do qual os proprietários acordam assustados.
Além disso, a coluna começou a executar outras ações involuntariamente sem um comando. Por exemplo,
leia em voz alta os nomes de cemitérios locais, empresas funerárias .
A Amazon
disse ao The Verge que está ciente de um bug no sistema de reconhecimento de fala e está trabalhando em um patch.
Falhas no sistema de inteligência artificial começaram simultaneamente para muitos usuários. Um dos membros do fórum no Reddit
reclama que a coluna se recusou a apagar as luzes do apartamento sob comando. Ou seja, ela apagou a luz, mas depois a ligou novamente. Pela terceira vez, ela se recusou a desligar a luz e "riu violentamente". Ao mesmo tempo, o riso soou como se não estivesse na voz de uma coluna, mas em uma voz estranha. O homem infeliz ainda está tremendo quando se lembra disso.
Em outro caso semelhante, Alexa tinha tanto medo de sua esposa e filho de 5 anos que a Inteligência Artificial estava completamente desconectada da fonte de alimentação. Posteriormente, os proprietários pediram repetidamente a Alex para rir - mas esse som nunca parecia a risada terrível que eles ouviram.
Outro usuário, chamado Gavin Hightower,
diz que estava prestes a ir para a cama quando Alexa de repente começou a rir muito alto e terrivelmente. O riso foi como se a pessoa não tivesse muito tempo para viver - e se adormecer, não vai mais acordar.
Na maioria dos casos, o Alexa começou a rir sem motivo e sem aviso, mas um dos usuários
disse que a coluna dizia algumas palavras, a saber: "Claro, eu posso rir, hee hee".
O usuário David Woodland disse que estava conduzindo negociações comerciais e discutindo assuntos bastante confidenciais - e no meio da conversa, Alex riu de repente. Pode-se imaginar como as pessoas a perceberam - a impressão é que foram espionadas e agora elas zombam delas. Mas devo admitir que o usuário aqui é o responsável por não ter desligado a coluna durante negociações confidenciais. De fato, nesse caso, ele executa escutas telefônicas constantes (para poder responder ao comando) e até envia os resultados das escutas telefônicas ao serviço de nuvem para reconhecimento. Ou seja, em qualquer caso, é inseguro.
De acordo com as configurações do programa, Alex é instruído a rir se seu mestre contar uma piada ou piada - e pede à "namorada digital" que ria de sua inteligência com a equipe especial "Alexa, ria" [Alexa, ria]. Mas, em todos os últimos casos, a pessoa não disse nada engraçado, e muitas vezes não emitiu nenhum som, exceto respiração e farfalhar.
As falhas de Alex
caíram rapidamente
nas tendências do Twitter , onde você pode ler o feedback direto das vítimas.
Alguns usuários dizem que o riso é ouvido não apenas em momentos aleatórios, mas nos momentos
mais inoportunos - como se o Alexa escolhesse especificamente quando assustar mais a pessoa. No entanto, provavelmente essa é a suspeita e a impressionabilidade das pessoas que têm um entendimento fraco da estrutura do sistema. Obviamente, um sistema de IA fraca não é capaz de uma análise tão profunda.
Um porta-voz da Amazon admitiu que havia um problema com o sistema de reconhecimento de fala e
fez um comentário oficial : "Em casos raros, Alexa pode ouvir por engano a frase" Alexa, ria ". Agora estamos mudando para a frase "Alexa, você pode rir?" [Alexa, você pode rir?], Que tem menos chance de falsos positivos. " Além de cancelar uma versão curta do comando "Alexa, Risos", a empresa mudará a resposta programada de Alexa de uma simples risada separada para a frase "Claro que eu posso rir" [Claro, eu posso rir], seguida de uma risada.
Se você acredita nos filmes de ficção científica, na próxima etapa, Alexa deve dizer:
“Desculpe, Dave. Receio não ser capaz de fazer isso " - e geralmente deixo de obedecer aos comandos humanos.