L'intelligence artificielle peut-elle devenir président des États-Unis
L'organisation indépendante à but non lucratif Watson 2016 Foundation promeut une idée intéressante : au lieu de choisir l'un des candidats à la présidence américaine, ils proposent d'opter pour la machine analytique IBM Watson, dont les capacités ressemblent au travail de l'intelligence artificielle.Défendant leur point de vue, les membres de la fondation (qui ne sont en aucun cas affiliés à IBM) écrivent que la capacité du système Watson à évaluer les informations et à prendre des décisions éclairées et transparentes en fait un candidat idéal à la présidence.Le site Web du fonds affirme que Watson est un système informatique capable de répondre aux questions posées en langage naturel, développé à l'origine par IBM pour le Jeopardy! Watson recueille des informations à partir de diverses sources et donne sur sa base une réponse - de plus, plus ces informations sont nombreuses, plus la réponse est éclairée.Les membres du Fonds apprécient également l'interface du système - en particulier, une représentation visuelle de l'état actuel de l'algorithme analytique et une démonstration du niveau de confiance du système dans l'exactitude de sa réponse.En fait, les auteurs du projet offrent à leurs concitoyens de faire les premiers pas vers la technocratie - le pouvoir des experts en technologie qui remplissent efficacement les fonctions administratives, dans ce cas, en utilisant un système de prise de décision automatique. L'une des limites possibles au développement de la technocratie est l'autocratie de l'intelligence artificielle - le transfert du contrôle de l'État à un système informatique intellectuel complexe.Le système Watson, ainsi nommé d'après le premier directeur d'IBM, a en effet été spécialement conçu pour jouer au quiz «Jeopardy!» (le célèbre programme «Own Game» est une adaptation sous licence de ce quiz pour la télévision russe). La tentative a réussi - en conséquence, Watson a battu les deux universitaires américains les plus performants en reconnaissant les questions posées en anglais et en donnant des réponses.Cependant, dans ce jeu, il ne pouvait pas se passer de divers défauts et bizarreries. Par exemple, dans la catégorie «Villes des États-Unis» à la question «Le plus grand aéroport de cette ville porte le nom du héros de la Seconde Guerre mondiale, et le deuxième plus grand en l'honneur de la bataille de la Seconde Guerre mondiale». Les participants ont correctement répondu que cette ville est Chicago, et Watson a écrit «Qu'est-ce que Toronto ?????» comme réponse. Cependant, en raison de la complexité du système, le chef de projet n'a pu faire que des hypothèses sur les raisons pour lesquelles Watson a donné une réponse aussi étrange.En plus de participer à un jeu télévisé, les développeurs ont configuré Watson pour créer de nouvelles recettes alimentaires , choisir le meilleur cadeau de vacances , prédire la probabilité de maladies chroniques chez les personnes en fonction de leurs paramètres médicaux et analyser un portrait psychologiquemembres des réseaux sociaux.La première application commerciale du système a été l'analyse de l'état des patients atteints d'un cancer du poumon, ce qui devrait aider à prendre des décisions liées à leur traitement.Cependant, toutes ces applications du système reposent sur sa capacité à collecter et analyser des données toutes faites et à travailler avec des statistiques - ce qui n’est guère une partie sérieuse du travail du président. La tâche du président de l'État est similaire à celle du directeur d'une grande entreprise (si nous parlons de vrais présidents, pas de marionnettes) - c'est une prise de décision basée sur les informations disponibles.Cependant, la capacité d'un système informatique à prendre des décisions éclairées dans le cadre de la gestion d'un pays entier est discutable. Après tout, prendre une décision n'est pas une réponse simple à une question spécifique, comme dans «Votre jeu». De plus, dans le quiz, toutes les questions ont la seule bonne réponse.Prendre des décisions gouvernementales revient généralement à choisir le moindre mal, compliqué par un manque d'informations fiables. En outre, il est nécessaire de prendre en compte la présence de diverses forces opposées dans la hiérarchie de l'élite dirigeante et d'autres facteurs très non linéaires qui entraveront la mise en œuvre des décisions.Les développeurs du système Watson ont passé plusieurs années à le configurer et à le déboguer pour participer au quiz. Il est difficile de dire combien de temps et d'efforts il faudra pour que le système fonctionne de manière fiable avec des questions dont les réponses affectent le sort de millions de personnes. Il est nécessaire de prendre en compte des facteurs tels que la possibilité d'attaques sur un système informatique par des méchants.Bien sûr, on peut imaginer une option dans laquelle la personne qui dirige le pays consulte un tel système lorsqu'elle prend des décisions. Mais si les personnes au pouvoir veulent se fier à un système informatique développé par une société commerciale, c'est aussi une grande question.Et même Stephen Hawking nous avait déjà mis en garde contre les dangers qui menaçaient de faire confiance à l'intelligence artificielle .Vous pouvez lire sur les différentes formes de gouvernement ici:Source: https://habr.com/ru/post/fr390277/
All Articles