El servicio Google Duplex asusta con su discurso hermoso y correcto, hay insatisfechos



Hace unos días, Google presentó varios productos nuevos que entusiasmaron tanto a los representantes del sector de las telecomunicaciones como a la gente común. Uno de ellos es el servicio Google Duplex, una forma débil de IA que puede llamar a un peluquero en lugar de a su usuario y grabar a una persona durante un tiempo determinado.

Duplex puede considerarse un tipo de asistente humano digital, y mucho más "humano" que el mismo Siri o Cortana. El asistente no puede llevar a cabo diálogos ordinarios; su trabajo se refiere solo a la cita de un horario para una reunión o recepción. Pero el "discurso" del asistente virtual suena muy realista. Es poco probable que alguno de nosotros pueda distinguirlo del discurso de una persona común. Y solo esta similitud asustó a algunos especialistas en seguridad de la información.

Puede parecer un poco extraño que la corporación haya decidido desarrollar un servicio específicamente para teléfonos. De hecho, ahora casi todas las empresas tienen la opción de reservar en línea. ¿Por qué no enseñar a un asistente a trabajar en línea? Resultó que el servicio está diseñado principalmente para los Estados Unidos. Y allí, según las estadísticas citadas por la corporación, alrededor del 60% de las pequeñas empresas no ofrecen la función de reserva en línea, tomando pedidos solo por teléfono. Quizás la compañía creó Duplex solo como una demostración de sus capacidades, quién sabe.

Pero no a todos les gustan estas características. A muchas personas comunes, expertos en seguridad cibernética y organizaciones no les gusta el hecho de que el interlocutor del robot no sabe con quién está hablando. Es decir, el robot no aparece, y la conversación es tan similar a la humana que puede ser engañado.


Según algunos expertos, Silicon Valley comenzó a producir proyectos éticamente incorrectos que no pueden ser lanzados al público. Y si en el caso de las voces robóticas ordinarias, todo está más o menos claro: difícilmente pueden engañar a nadie al obligarlos a pensar en sí mismos como seres humanos. Eso no está tan claro con Duplex.

Sí, en las películas de ciencia ficción, las voces de los robots en la mayoría de los casos no difieren de las humanas, y los robots en sí son similares a los humanos. Pero en realidad, no todos están contentos con este estado de cosas. Stuart Brand, autor de varias publicaciones tecnológicas, cree que las voces de los robots deberían ser un poco sintéticas, para que una persona pueda distinguir a un interlocutor vivo de uno digital.

Scott Huffman, director ejecutivo del Asistente de Google, dijo que la reacción del público a la demostración de Duplex fue mixta. Algunas personas se sorprendieron de la perfección técnica de las demos. Otros estaban preocupados por el aspecto moral del proyecto y las posibles consecuencias de introducir el servicio (después de que esté listo) en la vida de las personas.


El propio Huffman cree que si le das a la voz del robot un "tono sintético", entonces las personas a las que marcará el sistema simplemente comenzarán a colgar; nadie querrá lidiar con un robot incomprensible. Y la tarea de los desarrolladores no era engañar a las personas, sino darle al robot la oportunidad de cumplir con la tarea, ayudar al usuario. La línea es delgada, pero entiendo los motivos de los desarrolladores es bastante posible.

También vale la pena señalar aquí que la lista de tareas que Duplex puede realizar es muy limitada. Un paso a la derecha, un paso a la izquierda, y el sistema ya no entenderá de qué están hablando. Si le pregunta a Duplex sobre algo que no concierne al tiempo de operación o al menú, inmediatamente quedará claro con quién está la conversación: el servicio simplemente no tendrá ninguna respuesta. Y, por cierto, el sistema de Google no es el único servicio de reserva de restaurantes. OpenTable es otro de esos servicios, una empresa de terceros. Y a nadie le preocupa que esté "fingiendo ser un hombre".

De todos modos, pero la mayoría de los expertos no consideran el servicio "peligroso". Puede haber algunas consecuencias inesperadas de implementar Duplex y servicios humanoides similares, pero es poco probable que causen inconvenientes a alguien. Sin embargo, Google es una empresa comercial que se preocupa por los comentarios de los clientes. Y por esta razón, Duplex probablemente se verá obligado a presentarse cuando llamen.

Source: https://habr.com/ru/post/es412315/


All Articles