Conférence DEFCON 25. Garry Kasparov. "La dernière bataille du cerveau." Partie 1Je pense que le problème n'est pas que les machines remplaceront une personne sur son lieu de travail, y compris dans la sphère d'activité intellectuelle, et non pas que les ordinateurs prennent prétendument les armes contre les personnes ayant fait des études supérieures et disposant d'un compte Twitter. L'introduction de l'IA n'est pas du tout rapide, mais plutôt trop lente. Pourquoi? Parce que c'est un cycle normal de développement humain, et nous ne réalisons tout simplement pas que la destruction que nous voyons signifie l'introduction de nouvelles technologies qui, avant de créer de nouveaux emplois, détruisent les anciennes.
La technologie détruit les industries obsolètes et en crée de nouvelles, tel est le processus de création, tel est le cycle de développement. Si vous essayez de faire durer l'agonie en insérant d'anciennes technologies dans ce processus ou en créant des avantages pour les technologies obsolètes, vous ralentirez simplement le processus et le rendre plus douloureux. Cela arrivera de toute façon, mais le problème est que nous «régulons» le processus, créant des règles qui le ralentissent délibérément. Je considère que c'est un problème plus grave que ceux dont nous sommes plus clairement conscients. Il s'agit davantage d'un problème psychologique lorsque les gens se demandent: «comment pouvez-vous vous sentir en sécurité dans un véhicule sans pilote»?
J'ai regardé l'histoire et j'ai appris qu'il y a cent ans, l'un des syndicats les plus puissants de New York était le syndicat des ascenseurs, réunissant 17 000 travailleurs. Soit dit en passant, à cette époque, il y avait déjà une technologie où vous pouviez simplement appuyer sur un bouton - et vous avez terminé, mais les gens ne lui faisaient pas confiance! C'est tout simplement horrible - appuyez sur le bouton vous-même pour appeler l'ascenseur! Savez-vous pourquoi cette union a "disparu" et que les gens ont commencé à utiliser eux-mêmes des boutons? Parce qu'une fois que les haltérophiles ont décidé de se mettre en grève. Ils se sont mis en grève, puis les gens qui devaient grimper au sommet de l'Empire State Building ont risqué de pousser eux-mêmes des boutons.
Rappelez-vous ce qu'ils ont dit à propos des enfants ou des petits-enfants il y a 20 à 30 ans quand ils ont pris le volant d'une voiture: "c'est terrible, regardez les statistiques, parce que les voitures sont l'une des principales causes de mort humaine, comment peuvent-elles risquer leur vie?"
Donc, tout cela est de la pure psychologie. Nous ne prêtons pratiquement pas attention au nombre de personnes décédées dans des accidents de voiture, mais si une personne décède d'un véhicule sans pilote, cet événement gonfle jusqu'au ciel. Tout pépin, toute erreur des technologies de l'intelligence artificielle est immédiatement couvert en première page des journaux. Mais regardez les statistiques, regardez le nombre d'incidents, et vous verrez à quel point ce pourcentage du nombre total d'accidents est minime. Par conséquent, la communauté humaine ne triomphera que si elle peut avancer sans être paralysée par de telles peurs.
Une autre question se pose lorsque nous parlons de fausses nouvelles ou de cybersécurité, ce sont des sujets très politisés, et je reçois beaucoup d'appels pour savoir comment je traite les ennemis de l'IA. Par exemple, j'ai un blog régulier, et dans mon nouvel article, qui sera publié dans quelques jours, il s'agit de haine et que le salut de la haine consiste en connaissance, en formation. Nous devons juste comprendre que ce problème existait bien avant que toutes ces choses soient inventées, c'est juste que son importance a augmenté grâce à Internet, qui couvre des millions et des milliards de personnes.
Je pense que c'est l'inverse quand quelqu'un essaie d'arrêter le progrès en essayant de proscrire l'IA, et vous savez que cela ne fonctionnera pas, parce que nous avons Poutine et d'autres méchants, où qu'ils soient, qui utilisent nos propres technologies créées dans le monde libre sont contre nous. Par conséquent, je pense que nous devons simplement le tenir pour acquis.
L'essence du problème ne réside qu'en nous, et les réponses aux questions sont en nous, dans notre propre force et notre propre confiance. Je soutiens que les machines intelligentes ne peuvent pas nous rendre «obsolètes». Cependant, il faut se rappeler qu'il existe certaines restrictions à la coopération de l'homme et de l'ordinateur, et dans une large mesure ce ne sont que des rumeurs qui existaient auparavant. Comme toujours, ce ne sont que de nouvelles opportunités qui détruisent le vieux monde et en créent un nouveau, et plus nous avancerons, mieux nous nous trouverons.
Maintenant, cela rappelle le plus un mouvement dans le monde de la science-fiction. Le paradoxe est que si nous regardons en arrière il y a 50-60 ans, nous verrons qu'à l'époque la science-fiction était absolument positive, c'était une utopie. Cependant, une transition progressive de l'utopie à la dystopie a eu lieu, de sorte que nous ne voulons plus entendre parler de l'avenir de l'humanité.
Cela ne s'est pas produit en une nuit. Il fut un temps où les gens décidaient que l'exploration spatiale était trop risquée. C'est vraiment un gros risque, mais imaginez qu'en 1969, lorsque les Américains ont atterri sur la lune, toute la puissance de calcul de la NASA était inférieure à la puissance de tout appareil informatique moderne qui tient dans votre poche. Cet appareil est mille fois plus puissant qu'un supercalculateur qui existait il y a 40 ans. Imaginez la puissance de calcul que vous avez dans votre poche! Cependant, je ne suis pas sûr que l'iPhone 7 d'Apple ait la même puissance de traitement qu'Apollo 7, c'est-à-dire qu'il peut produire le même effet.
Cependant, les machines nous ont fourni de nombreuses grandes réalisations dans l'exploration spatiale ou les océans, et nous devons comprendre que les ordinateurs nous donnent l'occasion de prendre de grands risques.
Je voudrais terminer mon discours sur une note positive. Cette image positive n'apparaît-elle pas sur cette diapositive? La photo dans le coin inférieur droit n'est pas «photoshop», j'ai rencontré Terminator en 2003.
Il aime aussi les échecs depuis son enfance, mais il ne s’y est pas spécialement occupé, il a donc perdu très rapidement. Par conséquent, j'ai été très surpris quand, 6 mois plus tard, il s'est porté candidat au poste de gouverneur de Californie et a gagné!
Pourquoi dois-je qualifier ces images de positives? Parce que bien que dans toutes les séries sauf la première, le vieil Arnold soit toujours du côté des vainqueurs et ne se lasse jamais de se battre contre de nouvelles voitures, c'est dans la première série que nous voyons la combinaison dont j'ai parlé - c'est quand une personne plus une vieille machine plus une interface parfaite bat les derniers une voiture.
Vous pouvez dire: "Oui, les machines sont plus fortes que les gens, car elles peuvent tout calculer absolument!" Cependant, le fait n'est pas qu'ils peuvent tout calculer. Par exemple, aux échecs, il est techniquement possible de parler de l'infinité mathématique du nombre de coups possibles égal à 10 ^ 45, ce qui n'est pas difficile à calculer pour n'importe quel ordinateur moderne. Cependant, dans le jeu, ce ne sont pas les calculs qui importent, mais le fait que l'ordinateur est en avance sur la personne, car il est toujours guidé par les règles. Et vous connaissez l'effet de ces règles et savez pourquoi l'ordinateur choisit le meilleur coup parmi le grand nombre de coups possibles.
Mais si nous nous tournons vers la vie réelle, je ne suis pas sûr qu'un ordinateur puisse toujours être utile. Regardons la situation la plus typique - vous avez un ordinateur qui surveille la conformité budgétaire, vous êtes dans le magasin et allez acheter un cadeau cher. L'ordinateur évalue l'achat et dit: "Non, vous ne pouvez pas vous permettre cette chose parce que vous dépassez le budget." La machine a tout calculé, mais il y a une petite nuance - votre enfant se tient à proximité, et ce cadeau lui est destiné pour son anniversaire. Voyez-vous à quel point cela change les conditions du problème? Cela change tout, car l'enfant attend ce cadeau.
Je peux commencer à ajouter ces petites choses qui changent tout, mais je ne pense pas qu'elles puissent être incluses dans les conditions du problème et obtenir la bonne solution. Nous avons beaucoup de règles, mais nous devons encore poser des questions parce que la situation évolue. C'est ce qu'on peut appeler une situation normale, mais si vous regardez ces films, vous pouvez dire que la situation présentée ici est plus dramatique et extraordinaire. Sur cette diapositive, vous voyez un plan de l'épisode V Star Wars: L'Empire contre-attaque.
Han Solo dirige le vaisseau à travers le champ d'astéroïdes, et la panique S-3PO rapporte que la chance de survivre dans ce champ est de 1: 3122. Han Solo lui dit: "Ne me dites jamais quelles sont nos chances!" Cela soulève la question, qui a plus raison dans cette situation?
La technique représentée par S-3PO est tout à fait juste, car les chances de survie ont tendance à zéro. Il est possible que du point de vue d'un robot, être capturé par les troupes impériales soit un meilleur choix qu'une personne ne considère même pas que la mort dans un champ d'astéroïdes. Mais si l'ordinateur décide que se rendre à l'empire est la meilleure option, alors nous pouvons supposer qu'une personne n'a aucune option. Il est très important que dans les deux cas, ordinaires et extraordinaires, nous ayons la possibilité de prendre la décision finale, et pour prendre une telle décision, un leadership humain est toujours nécessaire.
Parfois, cela signifie que vous devez vous opposer aux recommandations informatiques. Le sens du leadership humain n'est pas de connaître les probabilités, mais de poser des questions vraiment importantes, non seulement aujourd'hui ou demain, mais dans un avenir lointain. Ce processus peut être appelé «guidage humain» ou «intervention humaine», exposition sans l'aide de machines intelligentes. C'est ce que devrait être notre cours au cours de ce siècle.
Les gens sont parfois surpris de mon optimisme concernant les machines intelligentes, étant donné mon expérience avec elles, mais je suis vraiment optimiste. Et je suis sûr que vous êtes tous également optimistes quant à l'avenir de l'IA. Mais nous devons nous rappeler que nos technologies sont agnostiques. Ce n'est ni bon ni mauvais, mais peut être utilisé à la fois pour les bonnes actions et pour les mauvaises. Les machines devraient devenir plus intelligentes et plus performantes. Et nous, les gens, devons faire ce que seuls les gens peuvent faire - rêver, rêver au maximum, puis nous pouvons extraire toutes les choses utiles que ces nouveaux outils étonnants portent en eux-mêmes.
Comme prévu, nous avons encore 10 minutes pour répondre aux questions.
Question: à votre avis, est-il possible de créer un système d'apprentissage automatique qui pourrait déterminer quels mouvements sont plus en phase avec le style humain du jeu?
Kasparov: Tout d'abord, nous n'attendons pas de l'ordinateur qu'il nous indique le premier mouvement et les 17505 mouvements restants. Je pense que nous devrions compter sur la voiture comme source pour obtenir les meilleures recommandations pour des mouvements uniques. Soit dit en passant, les meilleurs joueurs utilisent les ordinateurs comme guide pour les aider à prendre la position la plus appropriée dans le jeu. Je le répète encore une fois - dans 9 cas sur 10, l’évaluation de la situation par l’ordinateur dépasse de loin l’évaluation qu’une personne est capable de faire.
Question: Êtes-vous d'accord que la véritable intelligence nécessite la liberté de choix, la liberté de décision, qui ne peut être faite que par une personne? Après tout, le logiciel Deep Blue et les autres programmes informatiques sont écrits par des personnes, et lorsque vous jouez à Deep Blue, vous perdez non pas sur l'ordinateur, mais sur les programmeurs qui ont écrit ce programme. Ma question est la suivante: existe-t-il un danger de toute sorte d'intelligence artificielle tant que les ordinateurs ont la liberté de choix?
Kasparov: ici, je dois passer de la science à la philosophie. En ce qui concerne Deep Blue, tout est clair - c'est le résultat de beaucoup de travail humain. Dans la plupart des cas, même dans le cas d'AlphaGo Demis Hassabis, ce sont tous les fruits de l'intelligence humaine. Je ne sais pas si les voitures peuvent avoir la liberté de choix, mais je crois que tout ce que nous faisons, si nous savons comment le faire, les voitures feront mieux. Cependant, en faisant la plupart des choses, nous ne savons pas comment les faire de la meilleure façon, donc nous ne pouvons souvent pas comprendre ce qui va se passer. Autrement dit, nous avons un objectif, mais nous ne savons pas ce que c'est, et le rôle de la machine est de nous aider à atteindre cet objectif. Par conséquent, si nous parlons du libre choix des ordinateurs, cela devrait aider à nous connecter à cet objectif. Je pense que pour les ordinateurs, c'est une perspective très éloignée.
Question: Que pensez-vous des caractéristiques humaines telles que le courage et la moralité, et des décisions que l'intelligence artificielle peut prendre en fonction de celles-ci? Par exemple, que devrait faire une voiture sans pilote - heurter un enfant ou éviter une collision avec lui, s'écraser sur un rocher et tuer son passager?
Kasparov: c'est ce que les gens appellent des «sentiments», ils ne peuvent pas être quantifiés, car c'est tout un tas de caractéristiques humaines différentes. Si nous parlons de courage, cette caractéristique va toujours à l'encontre des chances de choisir la meilleure option. Le courage, comme d'autres sentiments humains, est par définition en contradiction avec un comptage précis.
Question: M. Kasparov, ma question ne concerne pas les ordinateurs: que contient votre flacon et puis-je l'essayer?
Kasparov: que voulez-vous dire?
Animateur: il demande ce qu'il y a dans votre poche!
Kasparov: dans ma poche? "Capital"! Ce n'est pas une publicité, si vous remarquez, je l'ai jetée.
Question: qui, à votre avis, deviendra le prochain champion du monde d'échecs et le jeune joueur d'échecs chinois Wei Yi a-t-il une chance de renverser Karelsen du trône du roi des échecs?
Kasparov: Karelsen est le joueur numéro 1, il n'est pas un champion du monde, mais simplement le meilleur joueur d'échecs au monde selon le classement. Cette année, il aura 27 ans, il est donc encore jeune, mais pas très jeune par rapport aux normes modernes. Je pense que Wei Et maintenant 18 ou 19 ans. Magnus a devancé les jeunes joueurs tels que les Américains Wesley So et Fabiano Keruana, et potentiellement, Wei Yi pourrait être son adversaire. Cependant, pour devenir champion du monde, il faut du talent, il n'est pas nécessaire d'être jeune et énergique, il suffit d'avoir un peu de chance. Donc, en répondant à la question, je peux dire - oui, il a une chance de vaincre Magnus Karelsen.
Question: lorsque vous avez parlé d'algorithmes déterministes et de machine learning, vous avez évoqué la possibilité d'utiliser des machines comme outils pour compléter notre intelligence. Que pouvez-vous dire de la possibilité de maximiser les ressources avant de créer une IA puissante, ou même de "mettre" le cerveau humain dans un ordinateur?
Kasparov: Je n'hésite pas à admettre mon ignorance lorsque je ne suis pas sûr de ne pas pouvoir répondre correctement à la question. Je fais de mon mieux pour comprendre ce qu'est le cerveau humain, si nous le regardons séparément du corps humain, quelles fonctions il remplit. Parce qu'il est difficile d'imaginer comment le cerveau se comportera séparément du corps. Il sera peut-être possible de mener une telle expérience à l'avenir, mais je suis sûr que la combinaison du cerveau humain, des sentiments et des émotions humains avec un ordinateur formera un "esprit" qui sera beaucoup plus efficace qu'un cerveau extrait et congelé utilisé comme un appareil rempli de neurones.
Question: Existe-t-il une approche de base universelle au problème du remplacement des emplois humains par des ordinateurs?
Kasparov: Je pense que c'est une question très importante, car il est clair que nous approchons du moment où de nombreuses personnes peuvent se retrouver sans travail. Il s'agit d'un paradoxe du progrès technologique: d'une part, nous avons les dernières technologies qui offrent d'énormes avantages compétitifs à la jeune génération qui traite avec ces appareils et technologies. D'un autre côté, nous avons fait des progrès en médecine et en nutrition saine, ce qui prolonge la vie humaine et donne aux gens la possibilité de travailler pendant de nombreuses années. En ce sens, la génération des années 50, 60 ou même 40 ne peut rivaliser avec les jeunes d'aujourd'hui. Nous devons trouver une solution à cette situation paradoxale où l'écart de génération est si grand. L'expérience historique montre qu'un tel écart conduit toujours à un big bang. Je veux dire l'écart entre l'infrastructure sociale existante de la société et le progrès technologique.
C'est un problème que les politiciens préfèrent reporter aux prochaines élections. Personne ne veut en parler parce que c'est un problème douloureux. Il est très facile d'imprimer de l'argent, en espérant que quelqu'un le paiera dans le futur. Ainsi, dans ce domaine, il existe de nombreux paradoxes, par exemple, l'accumulation de dettes pour fournir des garanties sociales à la génération plus âgée dans l'espoir que le fardeau du paiement de ces dettes retombera sur les épaules de la génération plus jeune. Il y a beaucoup de questions pour lesquelles je n'ai pas de réponses, et beaucoup de questions que je pourrais poser, j'espère que l'IA m'aidera avec cela.
Il est très regrettable que, depuis des décennies, les politiciens tentent d'ignorer les problèmes dont nous venons de discuter. Ils sont toujours prêts à faire des déclarations, ils ont toujours des projets, mais ils ne veulent pas comprendre la contre-productivité d’étouffer le problème du conflit de la technologie et de la société. Merci de votre attention!
Merci de rester avec nous. Aimez-vous nos articles? Vous voulez voir des matériaux plus intéressants? Soutenez-nous en passant une commande ou en le recommandant à vos amis, une
réduction de 30% pour les utilisateurs Habr sur un analogue unique de serveurs d'entrée de gamme que nous avons inventés pour vous: Toute la vérité sur VPS (KVM) E5-2650 v4 (6 cœurs) 10 Go DDR4 240 Go SSD 1 Gbps à partir de 20 $ ou comment diviser le serveur? (les options sont disponibles avec RAID1 et RAID10, jusqu'à 24 cœurs et jusqu'à 40 Go de DDR4).
Dell R730xd 2 fois moins cher? Nous avons seulement
2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV à partir de 199 $ aux Pays-Bas! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - à partir de 99 $! Pour en savoir plus sur la
création d'un bâtiment d'infrastructure. classe utilisant des serveurs Dell R730xd E5-2650 v4 coûtant 9 000 euros pour un sou?