Cambridge a organisé un débat de deux heures sur les dangers potentiels de l'intelligence artificielle. Le protecteur était l'IBM Project Debater. En utilisant ses arguments et en décomposant les arguments de ses adversaires, elle a réussi à prouver au public qu'en fin de compte, l'IA apporterait plus d'avantages à la société que de mal.
La discussion a eu lieu à Cambridge Union, une société de débat vieille de 200 ans. Il a accueilli des centaines de dirigeants mondiaux et d'éminents universitaires avec des débats sur la politique, l'histoire ou la culture. Mais un tel invité était avec la société pour la première fois: un panneau noir de deux mètres parlant avec une voix de femme robotique.
Le modèle Project Debater s'est formé sur plus de 30 000 arguments, évalués par les examinateurs pour leur niveau de crédibilité. Elle a donc appris à reconnaître quels arguments fonctionnaient mieux que d'autres et comment construire des preuves solides. Noam Slonim, chef de projet chez IBM, explique que l'une des idées pour des recherches plus approfondies consiste maintenant à démonter ce modèle et à comprendre pourquoi les gens trouvent certains arguments plus convaincants que d'autres.
Maintenant, Project Debater stocke une base de données de 400 millions d'articles, qu'il peut interpréter avec ses propres mots, en discutant environ 100 sujets différents. Avant le débat, la machine a examiné plus de 1 100 arguments et questions sur l'IA envoyés à IBM une semaine avant l'événement. Elle en a identifié 570 dans la catégorie «Pour» et 511 dans la catégorie «Contre». Certains arguments ont été rejetés comme non pertinents.
Le robot a immédiatement parlé pour les deux positions, plus deux personnes de chaque côté l'ont aidé, complétant les arguments ou posant des questions. La machine a utilisé l'IA de reconnaissance vocale pour écouter et analyser les arguments de ses adversaires. Chaque fois, cela prenait plusieurs minutes, mais le débatteur de projet a effectivement répondu directement aux questions posées.
L'allocution d'ouverture de la machine était assez ironique. Elle est partie du côté «contre»:
L'intelligence artificielle peut faire beaucoup de mal à l'humanité. Il ne sera pas en mesure de prendre une décision moralement correcte dans la nouvelle situation. Parce que la présence de la morale est une caractéristique unique de l'homme.
La robotique a parlé clairement et de manière cohérente, mais quelques erreurs ont tout de même eu lieu. À plusieurs reprises, elle a répété le même argument - par exemple, en parlant de la capacité de l'IA à effectuer des tâches ennuyeuses et répétitives. À plusieurs reprises, la machine n'a pas du tout soutenu ses théories, comme si elle considérait ses paroles comme des faits.
Pourtant, décrivant les avantages potentiels de l'IA, la machine semblait confuse, quel côté elle représente maintenant, et a commencé à se contredire:
L'intelligence artificielle créera de nouveaux emplois, donnera aux gens des activités plus créatives et augmentera l'efficacité du travail. Dans les domaines des soins aux patients ou de l'éducation des enfants, les gens ne seront plus nécessaires ici.
En conséquence, le parti «For AI» a gagné. Sur les trois cents personnes présentes, 51,22% ont voté pour.
Avant cela, en février, Project Debater était déjà entré en conflit avec des personnes - en concurrence avec Harish Natardzhan, détentrice d'un record et débatteur considéré comme l'un des meilleurs au monde dans le domaine du débat, finaliste de la Coupe du monde 2016. AI était déconnecté d'Internet, il a fallu 15 minutes pour se préparer, une grande attention a été accordée à la réfutation des arguments de l'opposant. Ensuite, la voiture a été vaincue. Le public a décidé que bien que la précision et la richesse des informations en IA soient plus élevées, la personne parlait plus ardemment et semblait en général plus convaincante.
L'équipe IBM a commencé à développer Project Debater après que l'ordinateur Watson eut vaincu les participants au jeu de quiz Jeopardy (American "Own Game"). Maintenant, le système a six ans. Selon eux, au cours des six derniers mois, la voiture a connu une très bonne croissance et est maintenant prête à discuter avec n'importe qui.
Project Debater est le premier système d'intelligence artificielle qui peut convaincre les gens sur les questions les plus difficiles. Elle digère une énorme masse de textes, construit un discours bien structuré sur un sujet donné, le soumet clairement et réfute les arguments de son adversaire. En fin de compte, une telle machine aidera les gens à raisonner, en fournissant des arguments convaincants et fondés sur des preuves et en rejetant les émotions.
IBM prévoit d'utiliser l'intelligence artificielle pour recueillir les opinions d'un grand nombre de personnes, par exemple lors de conférences ou de rassemblements politiques. La machine détermine rapidement les arguments de quel côté mène telle ou telle personne. Le gouvernement et les grandes entreprises pourront l'utiliser dans les sondages d'opinion - avant de prendre des décisions importantes.
Cette technologie peut nous aider à établir un canal de communication intéressant et efficace entre les gestionnaires et les personnes qui seront affectées par leurs décisions. Enfin, nous avons eu l'occasion d'examiner la question avec un esprit ouvert, sans attachement personnel.
IBM espère également qu'une telle IA l'aidera à créer des assistants numériques virtuels plus compétents.
