Désormais, seuls les paresseux ne parlent pas
d'intelligence artificielle et n'écrivent pas. Mais à notre époque, l'IA n'est pas SkyNet du film Terminator. Jusqu'à présent, les scientifiques ont affaire à une forme faible d'intelligence artificielle. Dans la plupart des cas, il s'agit de réseaux de neurones relativement complexes conçus pour résoudre certains problèmes.
De nombreuses personnalités de notre époque s'inquiètent de la possibilité de l'apparition d'une forme forte d'IA. Selon certains experts, un «ordinateur pensant» peut devenir l'adversaire implacable d'une personne, son ennemi. Ou la future IA atteindra certains de ses objectifs, étant indifférente aux humains. Dans ce cas, l'intelligence artificielle détruira des villes ou des pays entiers lorsqu'un tel besoin se fera sentir. Afin de montrer un scénario similaire pour le développement de la technologie, les scientifiques de Cambridge ont
développé un mod pour le jeu "Civilization", sa cinquième partie.
Dans cette annexe, vous pouvez voir ce qui peut arriver en cas de forte forme d'IA sans mesures de sécurité prédéterminées. Les scientifiques n'ont pas soudainement développé ce mod. Des spécialistes de l'Université de Cambridge pour l'étude des risques existentiels (CSER) tentent de comprendre ce qui, dans notre monde moderne, peut devenir un danger insurmontable pour l'homme dans un avenir proche ou lointain.
Le groupe a été fondé en 2012, et son objectif initial était ce qu'il fait aujourd'hui - étudier l'impact des catastrophes mondiales de divers types sur les humains. Seuls les problèmes qui peuvent potentiellement conduire à la destruction de l'humanité - la civilisation dans sa forme actuelle ou en général toutes les personnes sur Terre sont pris en compte. Bien sûr, ces catastrophes peuvent être causées non seulement par l'influence de l'intelligence artificielle, mais aussi par l'agent causal génétiquement modifié d'une maladie dangereuse, le changement climatique et bien plus encore.
Quant au jeu, l'ajout à Civilization, selon les développeurs, est en partie un projet éducatif, en partie un projet de recherche. «L'essentiel que nous voulions est de montrer un scénario possible pour le développement d'une véritable intelligence informatique, pour démontrer les dangers que cette intelligence peut représenter pour nous», explique Shahar Eivin, l'un des participants au projet.
Le jeu montre également l'ordinateur Deep Blue d'IBM, qui aide les joueurs à accélérer la recherche sur l'IA.Soit dit en passant, l'ajout remplace l'un des scénarios de victoire dans Civilization, le lancement d'un vaisseau spatial à l'étoile d'Alpha Centauri par le développement d'une forme forte d'intelligence artificielle. Dans la mode, il y a de nouveaux bâtiments (laboratoires de recherche), un nouveau miracle (le même Deep Blue) et un nouveau mécanisme, qui s'appelait l'IA-danger.
Dès que le joueur
démarre le programme d'étude de l'IA, un chronomètre apparaît, appelé le «danger AI». Si le chronomètre atteint la fin du compte à rebours, le joueur reçoit un message indiquant que quelque part dans le monde, une forte forme d'intelligence artificielle a été créée et que le jeu se termine par la défaite du joueur. «Tout cela ressemble à la vraie vie. Vous pouvez aller très loin dans le développement de la civilisation, mais vous perdez tout si vous gérez les technologies créées sans précaution », explique le développeur.
Afin d'éviter un scénario de développement négatif avec une défaite à la fin, le joueur a la possibilité de mener plus de recherches scientifiques dans le domaine de l'IA. Plus ces projets sont exécutés, plus la minuterie est lente. Pour gagner, le joueur doit développer des technologies de contrôle de l'IA et investir dans des projets dans les pays voisins et les autorités des grandes villes. «Si vous choisissez un scénario d'IA, vous avez besoin de plus de développements de sécurité. Investir dans ce domaine n'est pas toujours une nécessité évidente, mais cela doit être fait », a déclaré Avin.
Bien sûr, la «civilisation» ne peut pas être qualifiée d'outil de recherche sérieux, mais l'ajout permet de réaliser la nécessité d'une approche prudente du développement de l'IA non seulement pour les joueurs ordinaires, mais aussi pour les scientifiques. Les risques sont présentés très clairement. Et la situation est assez réaliste - le joueur doit faire face à des voisins agressifs, des États qui mènent plus ou moins la même recherche. Si l'une des parties réussit, mais ne fait pas preuve de prudence, la défaite est inévitable.
En fait, pour faire face aux dangers mondiaux, une interaction mondiale est nécessaire. Tout est affiché correctement ici.