Les développeurs d'IA et de robotique écrivent une lettre ouverte contre la création d'armes autonomes

Les dirigeants du monde de l'informatique et de la science ont signé une lettre ouverte appelant à l'interdiction du développement de robots militaires autonomes , comme cela est devenu connu du communiqué de presse officiel de la société FutureOfLife, qui crée des pétitions et recueille des signatures. Parmi les personnalités bien connues, on peut distinguer le brillant physicien Stephen Hawking , le co-fondateur d'Apple Steve Wozniak et le chef de Tesla, Ilon Mask .

Il résulte du texte publié que la décision de signer apparaît dans l'esprit de gens vraiment formidables en raison de la menace d'une nouvelle «course aux armements».

«Les armes autonomes sélectionnent et tirent sur des cibles sans intervention humaine. Ils pourraient, par exemple, décider de renvoyer une personne qui ne répond pas à certains critères, de sorte que cela ne s'applique pas aux drones pilotés et aux missiles de croisière. La technologie de l'intelligence artificielle (IA) a atteint un point où le déploiement de tels systèmes - sinon pour l'interdire - est un projet pleinement réalisable au cours des dix prochaines années. Rappelons que les armes autonomes ont été décrites plus tôt comme la troisième révolution de la guerre après la poudre à canon et les armes nucléaires », lit-on dans le texte de la lettre.

«Bien sûr, beaucoup est dit en faveur des armes autonomes. Par exemple, le remplacement presque complet du facteur humain sur le champ de bataille, et donc la préservation de la plupart des vies des participants à la guerre. Mais n'oubliez pas que la création d'une telle IA entraînera les conséquences les plus dévastatrices: la course aux armements va commencer, et nous nous souvenons de ce qu'elle a apporté à la dernière fois (crise des Caraïbes - environ auteur). De plus, ce type d'arme se révélera assez bon marché, et des forces similaires apparaîtront en service avec de nombreuses armées du monde, et même cela - avec des terroristes. Les armes autonomes conviennent parfaitement à des tâches telles que tuer, déstabiliser des pays, asservir la population et tuer sélectivement un groupe ethnique particulier.

Tout comme les chimistes avec des biologistes ont autrefois soutenu l'interdiction des armes nucléaires, les employés des sociétés d'armes intelligentes doivent s'y opposer, car la création d'un tel moyen de destruction réduira simplement notre importance sociale.

Nous pensons que les connaissances et les compétences de l'IA ne suffisent pas à faire quelque chose de vraiment utile et utile pour l'humanité, alors laissez-les se concentrer sur cela. Lancer une course d'armes autonomes intelligentes est une très mauvaise idée et devrait être empêché en interdisant la création d'armes mortelles hors du contrôle humain », lance l'appel à la communauté mondiale.

La pétition devrait être officiellement lue lors de la conférence internationale sur l'intelligence artificielle à Buenos Aires.

Source: https://habr.com/ru/post/fr382357/