Les robots ont-ils besoin d'empathie?

Nous sommes sur le point de révolutionner la robotique, et les scientifiques et les ingénieurs tentent de comprendre comment cela affectera les gens. Les avis étaient divisés en deux camps: l'avenir nous promet une robo-apocalypse à la «Terminator», ou des robots prendront la place des chiens dans le rôle des meilleurs amis de l'homme. Et du point de vue d'un certain nombre de penseurs et visionnaires modernes, le deuxième scénario n'est possible que si les robots ont de l' empathie . Plus précisément, en intelligence artificielle.

Microsoft a récemment ressenti les conséquences de l'IA sans âme, ayant subi un fiasco écrasant avec son célèbre robot de discussion appelé Thay. Il a été programmé pour apprendre grâce à l'interaction avec les utilisateurs de Twitter. En conséquence, des foules de trolls ont instantanément transformé une jeune fille de 19 ans, qui jouait le rôle d'un bot, en une nazie raciste sexuellement anxieuse . Les développeurs ont dû désactiver le bot un jour après le lancement. Cette affaire a si clairement démontré l'importance du problème de l'IA qui est entré dans le fouillis, qu'une des divisions de Google - DeepMind - en collaboration avec des spécialistes d'Oxford, a commencé à développer la technologie de " commutateur d'urgence " pour l'IA jusqu'à ce qu'elle devienne une véritable menace.

L'essentiel est que l'IA, qui n'est pas inférieure au niveau de raison à une personne, et qui ne repose que sur un développement et une optimisation indépendants, peut arriver à la conclusion que les gens veulent la désactiver ou l'empêcher d'obtenir les ressources souhaitées. Et conformément à cette conclusion, l'intelligence artificielle décidera d'agir contre les gens, quelle que soit la raison de ses soupçons. Un théoricien assez connu, Eliezer Yudkowsky, a écrit un jour: «L' IA ne vous aimera ni ne vous haïra. Mais alors vous êtes fait d'atomes, qu'il peut utiliser pour ses besoins . "



Et si la menace de l'IA «vivant» dans un supercalculateur basé sur le cloud vous semble plutôt éphémère maintenant, que pouvez-vous dire d'un robot à part entière dont le cerveau électronique donne naissance à l'idée que vous interférez avec sa vie?



Une façon de s'assurer que les robots, et en général l'IA, resteront du bon côté, est de les empoter avec empathie. Ce n'est pas le fait que cela suffira, mais c'est une condition nécessaire de l'avis de nombreux experts. Nous serons simplement obligés de créer des robots capables d'empathie.

Il n'y a pas longtemps, Elon Musk et Stephen Hawking ont écrit une lettre ouverte au Center for the Study of Existential Risk (CSER), qui appelait à plus d'efforts pour étudier les "pièges potentiels" en IA. Selon les auteurs de la lettre, l'intelligence artificielle peut devenir plus dangereuse que les armes nucléaires, et Hawking pense généralement que cette technologie mettra fin à l'humanité. Pour se protéger contre le scénario apocalyptique, il est proposé de créer une IA forte (AGI, intelligence générale artificielle) avec un système psychologique intégré similaire à celui d'un humain, ou de modéliser complètement les réactions nerveuses humaines en IA.

Heureusement, le temps n'a pas encore été manqué et vous pouvez décider dans quelle direction nous devons aller. Selon la communauté d'experts, l'émergence d'une IA forte, non inférieure à l'homme, est possible dans la gamme de 15 à 100 ans à partir du moment actuel. Dans le même temps, les limites de la plage reflètent des degrés extrêmes d'optimisme et de pessimisme, tandis que des termes plus réalistes sont de 30 à 50 ans. En plus du risque d'obtenir une IA dangereuse sans principes moraux, beaucoup craignent que les turbulences économiques, sociales et politiques actuelles ne conduisent au fait que les créateurs d'une IA forte chercheront d'abord à les transformer en une nouvelle arme, un moyen de pression ou de concurrence. Et loin du dernier rôle, le capitalisme effréné sous forme de sociétés jouera ici. Les grandes entreprises cherchent toujours sans pitié à optimiser et à maximiser les processus,et il y aura certainement une tentation de «nager pour des bouées» pour gagner des avantages compétitifs. Certains gouvernements et entreprises tenteront probablement d'attirer des IA solides pour gérer les marchés et les élections, ainsi que pour développer de nouvelles armes, et d'autres pays devront répondre de manière adéquate à ces étapes, en s'impliquant dans la course aux armements de l'IA.



Personne ne peut prétendre que l'IA deviendra nécessairement une menace pour l'humanité. Par conséquent, il n'est pas nécessaire d'essayer d'interdire le développement dans ce domaine, et cela est inutile. Il semble que les lois de la robotique d'Azimov seules ne peuvent pas nous faire, et par défaut nous devons introduire des fusibles "émotionnels" pour rendre les robots pacifiques et amicaux. Pour qu'ils puissent créer un semblant d'amitié, ils peuvent reconnaître et comprendre les émotions des gens, peut-être même faire preuve d'empathie. Cela peut être réalisé, par exemple, en copiant la structure neuronale du cerveau humain. Certains experts pensent qu'il est théoriquement possible de créer des algorithmes et des structures de calcul qui peuvent agir comme notre cerveau. Mais comme nous-mêmes ne savons pas comment il est organisé, c'est une tâche pour un avenir lointain.

Il existe déjà sur le marché des robots capables de reconnaître purement technique certaines émotions humaines. Par exemple, Nao - avec une hauteur de seulement 58 cm et un poids de 4,3 kg, le robot est équipé d'un logiciel de reconnaissance faciale. Il est capable d'établir un contact visuel et de réagir lorsqu'ils lui parlent. Ce robot a été utilisé à des fins de recherche pour aider les enfants autistes. Un autre modèle du même fabricant - Pepper - est capable de reconnaître les mots, les expressions faciales et le langage corporel, agissant en fonction des informations reçues.



Mais aucun des robots modernes n'est capable de ressentir. Pour ce faire, ils ont besoin de la conscience de soi, ce n'est qu'alors que les robots peuvent ressentir la même chose que les humains, peuvent penser aux sentiments.


Nous sommes tous mieux en mesure d'imiter l'apparence d'une personne dans les robots, mais avec le monde intérieur, tout est beaucoup plus compliqué.

Avoir de l'empathie, c'est être capable de comprendre chez les autres les mêmes sentiments que vous avez éprouvés. Et pour cela, les robots doivent traverser leur propre période de croissance, avec ses succès et ses échecs. Ils devront éprouver de l'affection, du désir, du succès, de l'amour, de la colère, de l'anxiété, de la peur, peut-être de la jalousie. Pour que le robot, en pensant à quelqu'un, pense aux sentiments humains.

Comment fournir aux robots une telle maturation? Bonne question. Il peut être possible de créer des émulateurs / simulateurs virtuels dans lesquels l'IA gagnera une expérience émotionnelle, afin de pouvoir ensuite les charger dans des corps physiques. Ou créez des modèles / souvenirs artificiels et tamponnez des robots avec un ensemble standard de valeurs morales et éthiques. De telles choses ont été prévues par l'écrivain de science-fiction Philip K. Dick , dans ses romans, les robots fonctionnent souvent avec des souvenirs artificiels. Mais l'émotivité des robots peut avoir un autre aspect: dans le récent film Ex MachinaUne situation est décrite lorsqu'un robot contrôlé par une IA forte démontre ses émotions de manière si fiable qu'il induit les gens en erreur, les forçant à suivre son plan. Question: comment distinguer quand un robot ne réagit astucieusement qu'à une situation, ou quand il ressent vraiment les mêmes émotions que vous? Faire de lui un halo holographique dont la couleur et le motif confirment la sincérité des émotions exprimées par le robot, comme dans l'anime «Time of Eve» ( EVE no Jikan )?



Mais supposons que nous ayons pu résoudre tous les problèmes ci-dessus et trouver des réponses aux questions posées. Les robots seront-ils alors égaux à nous, ou seront-ils en dessous de nous sur l'échelle sociale? Les gens devraient-ils gérer leurs émotions? Ou sera-ce une sorte d'esclavage de haute technologie, selon lequel les robots avec une IA forte devraient penser et ressentir comme nous le voulons?



Il existe de nombreuses questions difficiles pour lesquelles il n'y a pas encore de réponse. Pour le moment, nos structures sociales, économiques et politiques ne sont pas prêtes pour de tels changements radicaux. Mais tout de même, il faudra tôt ou tard chercher des solutions acceptables, car personne ne pourra arrêter le développement dans le domaine de la robotique, et un jour une IA forte capable de fonctionner dans un corps anthropomorphe sera créée. Nous devons nous préparer à l'avance.

Source: https://habr.com/ru/post/fr397209/