Il y a quelques jours, Google a
présenté plusieurs nouveaux produits qui ont excité à la fois les représentants du secteur des télécommunications et les gens ordinaires. L'un d'eux est le service Google Duplex, une forme faible d'IA qui peut appeler un coiffeur au lieu de son utilisateur et enregistrer une personne pendant un certain temps.
Le duplex peut être considéré comme une sorte d'assistant humain numérique, et beaucoup plus «humain» que le même Siri ou Cortana. L'assistant ne peut pas mener des dialogues ordinaires; son travail ne concerne que la fixation d'un temps pour une réunion ou une réception. Mais le "discours" de l'assistant virtuel semble très réaliste. Il est peu probable que l'un de nous puisse le distinguer du discours d'une personne ordinaire. Et cette similitude a effrayé certains spécialistes de la sécurité de l'information.
Il peut sembler un peu étrange que la société ait décidé de développer un service spécifiquement pour les téléphones. En effet, presque toutes les entreprises ont désormais la possibilité de réserver en ligne. Pourquoi ne pas apprendre à un assistant à travailler en ligne? Il s'est avéré que le service est principalement conçu pour les États-Unis. Et là, selon les statistiques citées par la société, environ 60% des petites entreprises n'offrent pas la fonction de réservation en ligne, ne prenant des commandes que par téléphone. Peut-être que la société a créé Duplex uniquement pour démontrer ses capacités, qui sait.
Mais tout le monde n'aime pas ces fonctionnalités. Beaucoup de gens ordinaires, d'experts en cybersécurité et d'organisations n'aiment pas le fait que l'interlocuteur du robot ne sache pas à qui il parle. Autrement dit, le robot n'apparaît pas, et la conversation est tellement similaire à l'homme que vous pouvez être trompé.
Selon certains experts, la Silicon Valley a commencé à produire des projets éthiquement incorrects qui ne peuvent pas être rendus publics. Et si dans le cas des voix robotiques ordinaires, tout est plus ou moins clair - elles ne peuvent guère tromper personne en les forçant à se considérer comme des êtres humains. Ce n'est pas si clair avec Duplex.
Oui, dans les films de science-fiction, les voix des robots dans la plupart des cas ne diffèrent pas des humains, et les robots eux-mêmes sont similaires aux humains. Mais en réalité, tout le monde n'est pas satisfait de cet état de choses. Stuart Brand, l'auteur d'un certain nombre de publications technologiques,
estime que les voix des robots devraient être un peu synthétiques, afin qu'une personne puisse distinguer un interlocuteur vivant d'un numérique.
Scott Huffman, directeur exécutif de Google Assistant, a
déclaré que la réaction du public à la démo Duplex était mitigée. Certaines personnes ont été surprises par la perfection technique des démos. D'autres s'inquiétaient de l'aspect moral du projet et des conséquences possibles de l'introduction du service (une fois prêt) dans la vie des gens.
Huffman lui-même pense que si vous donnez à la voix du robot une "teinte synthétique", alors les personnes à qui le système appellera commenceront tout simplement à raccrocher - personne ne voudra traiter avec un robot incompréhensible. Et la tâche des développeurs n'était pas de tromper les gens, mais de donner au robot la possibilité de remplir la tâche - d'aider l'utilisateur. La ligne est mince, mais comprendre les motivations des développeurs est tout à fait possible.
Il convient également de noter ici que la liste des tâches que Duplex peut effectuer est très étroite. Un pas à droite, un pas à gauche - et le système ne comprendra plus de quoi ils parlent. Si vous demandez à Duplex quelque chose qui ne concerne pas la durée de fonctionnement ou le menu, il deviendra immédiatement clair avec qui la conversation est - le service n'aura tout simplement pas de réponses. Et en passant, le système de Google n'est pas le seul service de réservation de restaurant. OpenTable est un autre de ces services, une société tierce. Et personne ne s'inquiète de «faire semblant d'être un homme».
Quoi qu'il en soit, mais la plupart des experts ne considèrent pas le service comme «dangereux». La mise en œuvre de duplex et de services humanoïdes similaires peut avoir des conséquences inattendues, mais il est peu probable qu'elles causent des inconvénients à quiconque. Cependant, Google est une entreprise commerciale qui se soucie des commentaires des clients. Et pour cette raison, Duplex sera très probablement obligé de se présenter lors de son appel.