De nombreux propriétaires de la colonne intelligente Amazon Echo avec un assistant numérique nommé Alexa
signalent un comportement de gadget étrange. Soudain, sans prévenir, Alex se met à
rire . Parfois, cela se produit au milieu de la nuit, à cause de quoi les propriétaires se réveillent effrayés.
De plus, la colonne a commencé à exécuter involontairement d'autres actions sans commande. Par exemple,
lisez à haute voix les noms des cimetières locaux, des entreprises funéraires .
Amazon a
déclaré à The Verge qu'il était au courant d'un bogue dans le système de reconnaissance vocale et qu'il travaillait sur un correctif.
Les problèmes du système d'intelligence artificielle ont commencé simultanément pour de nombreux utilisateurs. L'un des membres du forum sur Reddit se
plaint que la colonne ait refusé d'éteindre les lumières de l'appartement sur commande. Autrement dit, elle a éteint la lumière, mais l'a ensuite rallumée. Pour la troisième fois, elle a refusé d'éteindre la lumière et a "ri violemment". En même temps, le rire résonnait comme si ce n'était pas de la voix d'une colonne, mais d'une voix étrange. Le malheureux tremble encore quand il s'en souvient.
Dans un autre cas similaire, Alexa avait tellement peur de sa femme et de son enfant de 5 ans que l'intelligence artificielle a été complètement déconnectée de l'alimentation. Par la suite, les propriétaires ont demandé à plusieurs reprises à Alex de rire - mais ce son n'a jamais ressemblé au terrible rire qu'ils ont entendu alors.
Un autre utilisateur, nommé Gavin Hightower,
dit qu'il était sur le point de se coucher quand Alexa a soudainement commencé à rire très fort et terriblement. Le rire était comme si la personne n'avait pas longtemps à vivre - et s'il s'endort, il ne se réveillera plus.
Dans la plupart des cas, Alexa a commencé à rire sans raison et sans avertissement, mais l'un des utilisateurs a
déclaré que la colonne avait dit quelques mots, à savoir: "Bien sûr, je peux rire, hee hee."
L'utilisateur David Woodland a déclaré qu'il menait des négociations commerciales et discutait de questions plutôt confidentielles - et au milieu de la conversation, Alex a soudainement ri. On peut imaginer comment les gens l'ont perçu - l'impression est qu'ils ont été écoutés, et maintenant ils se moquent d'eux. Mais je dois admettre que l'utilisateur ici est à blâmer pour ne pas avoir éteint la colonne lors des négociations confidentielles. En effet, dans ce cas, il effectue des écoutes téléphoniques constantes (afin de pouvoir répondre à la commande), et envoie même les résultats des écoutes téléphoniques au service cloud pour reconnaissance. C'est, en tout cas, ce n'est pas sûr.
Conformément aux paramètres du programme, Alex reçoit l'ordre de rire si son maître raconte une blague ou une blague - et demande à la «petite amie numérique» de se moquer de son esprit avec l'équipe spéciale «Alexa, rire» [Alexa, rire]. Mais dans tous ces derniers cas, la personne n'a rien dit de drôle et n'a souvent fait aucun bruit, à part la respiration et le bruissement.
Les pépins d'Alex sont rapidement
tombés dans les tendances Twitter , où vous pouvez lire les commentaires directs des victimes.
Certains utilisateurs disent que le rire est entendu non seulement à des moments aléatoires, mais aux moments les
plus inopportuns - comme si Alexa choisit spécifiquement quand effrayer la personne le plus. Cependant, il s’agit probablement de la méfiance et de l’impressionnabilité des personnes qui ont une mauvaise compréhension de la structure du système. De toute évidence, un système d'IA faible n'est pas capable d'une analyse aussi approfondie.
Un porte-parole d'Amazon a admis qu'il y avait un problème avec le système de reconnaissance vocale et a
fait un commentaire officiel : «Dans de rares cas, Alexa peut entendre par erreur la phrase« Alexa, rire ». Nous le changeons maintenant en la phrase «Alexa, peux-tu rire?» [Alexa, peux-tu rire?], Qui a moins de chance de faux positifs. " En plus d'annuler une version courte de la commande «Alexa, rire», la société va changer la réponse programmée d'Alexa d'un simple rire séparé à la phrase «Bien sûr, je peux rire» [Bien sûr, je peux rire], suivie d'un rire.
Si vous croyez aux films de science-fiction, alors à l'étape suivante, Alexa devrait dire:
«Désolé, Dave. J'ai peur de ne pas pouvoir faire ça " - et
je cesse généralement d'obéir aux ordres humains.