Numerosos propietarios de la columna inteligente Amazon Echo con un asistente digital llamado Alexa
informan un comportamiento extraño de los dispositivos. De repente, sin previo aviso, Alex comienza a
reír . A veces esto sucede en medio de la noche, por lo que los propietarios se despiertan asustados.
Además, la columna comenzó a ejecutar otras acciones involuntariamente sin un comando. Por ejemplo,
lea en voz alta los nombres de cementerios locales, compañías funerarias .
Amazon
le dijo a The Verge que está al tanto de un error en el sistema de reconocimiento de voz y está trabajando en un parche.
Problemas técnicos del sistema de inteligencia artificial comenzaron simultáneamente para muchos usuarios. Uno de los miembros del foro en Reddit se
queja de que la columna se negó a apagar las luces en el departamento a pedido. Es decir, apagó la luz, pero luego la volvió a encender. Por tercera vez, se negó a apagar la luz y "se rió ferozmente". Al mismo tiempo, la risa sonó como si no fuera en la voz de una columna, sino en una voz extraña. El desafortunado hombre todavía está temblando cuando recuerda esto.
En otro caso similar, Alexa tenía tanto miedo de su esposa y su hijo de 5 años que la Inteligencia Artificial estaba completamente desconectada de la fuente de alimentación. Posteriormente, los propietarios repetidamente le pidieron a Alex que se riera, pero este sonido nunca pareció la risa terrible que escucharon en ese momento.
Otro usuario, llamado Gavin Hightower,
dice que estaba a punto de acostarse cuando Alexa de repente comenzó a reír a carcajadas y terriblemente. La risa fue como si la persona no tuviera mucho tiempo para vivir, y si se duerme, ya no se despertará.
En la mayoría de los casos, Alexa comenzó a reír sin razón y sin previo aviso, pero uno de los usuarios
dijo que la columna dijo algunas palabras, a saber: "Por supuesto, puedo reír, ji, ji".
El usuario David Woodland dijo que estaba llevando a cabo negociaciones comerciales y discutiendo asuntos bastante confidenciales, y en medio de la conversación, Alex se rió de repente. Uno puede imaginar cómo la gente lo percibió: la impresión es que fueron escuchados a escondidas y ahora se burlan de ellos. Pero debo admitir que el usuario tiene la culpa de no haber apagado la columna durante las negociaciones confidenciales. De hecho, en este caso, realiza escuchas telefónicas constantes (para poder responder al comando) e incluso envía los resultados de las escuchas telefónicas al servicio en la nube para su reconocimiento. Es decir, en cualquier caso, no es seguro.
De acuerdo con la configuración del programa, a Alex se le ordena reír si su maestro cuenta un chiste o una broma, y le pide a la "novia digital" que se ría de su ingenio con el equipo especial "Alexa, ríe". Pero en todos los últimos casos, la persona no dijo nada gracioso y, a menudo, no emitió ningún sonido, excepto por la respiración y el susurro.
Los problemas técnicos de Alex
cayeron rápidamente
en las tendencias de Twitter , donde puedes leer los comentarios directos de las víctimas.
Algunos usuarios dicen que la risa se escucha no solo en momentos aleatorios, sino en los momentos
más inoportunos , como si Alexa eligiera específicamente cuándo asustar más a la persona. Sin embargo, probablemente se trate de la desconfianza y la capacidad de impresión de las personas que tienen una comprensión pobre de la estructura del sistema. Obviamente, un sistema de IA débil no es capaz de un análisis tan profundo.
Un portavoz de Amazon admitió que había un problema con el sistema de reconocimiento de voz e
hizo un comentario oficial : "En casos raros, Alexa puede escuchar por error la frase" Alexa, ríe ". Ahora lo estamos cambiando a la frase "Alexa, ¿puedes reírte?" [Alexa, ¿puedes reírte?], Que tiene menos posibilidades de falsos positivos ". Además de cancelar la versión corta del comando "Alexa, Laughter", la compañía va a cambiar la respuesta programada de Alexa de una simple risa separada a la frase "Por supuesto que puedo reír" [Claro, puedo reír], seguido de una risa.
Si crees en las películas de ciencia ficción, en la siguiente etapa, Alexa debería decir:
“Lo siento, Dave. Me temo que no podré hacer esto " , y generalmente dejo de obedecer las órdenes humanas.