Il n'y a pas d'esprit dans la voiture
Au cours des dernières années, les médias ont été inondés de descriptions exagérées des technologies d'intelligence artificielle (IA) et d'apprentissage automatique (MO). Il semble qu'il n'y ait jamais eu une telle chose dans le domaine de l'informatique que tant de déclarations ridicules ont été faites par tant de gens avec une si petite idée de ce qui se passe. Pour toute personne impliquée activement dans l'équipement informatique de pointe dans les années 1980, ce qui semble étrange.
Dans le numéro de l'Atlantique de ce mois-ci, un intellectuel de haut vol et auteur à
succès ,
Sapiens. Une brève histoire de l'humanité et
Homo Deus: une brève histoire de demain ,
Yuval Noah Harari décrit l' impact de l'IA sur la démocratie. L’aspect le plus intéressant de l’article est la confiance excessive de Harari dans les capacités des technologies d’IA modernes. Il décrit un ami de Google,
le programme d'échecs
de DeepMind , comme «créatif», «imaginatif» et «instinct brillant».
Dans
le documentaire Joy of AI de
l' Air Force, le professeur Jim Al-Khalili et le fondateur de DeepMind, Demis Hassabis, décrivent comment le système d'IA "a fait une véritable découverte", "est vraiment capable de générer une nouvelle idée" et a développé "des stratégies inventées indépendamment".
Et si un flux similaire d'exagérations et d'anthropomorphismes est utilisé pour décrire des systèmes stupides et mécanistes, il est temps de tester la réalité avec un retour aux sources.
La discussion sur la technologie informatique passe souvent par des mythes, des métaphores et des interprétations humaines de ce qui apparaît à l'écran. Des métaphores telles que «intuition», «créativité» et nouvelles «stratégies» font partie de la mythologie émergente. Les experts en IA trouvent des schémas dans le jeu de l'IA et les appellent des «stratégies», mais le réseau neuronal n'a aucune idée de ce qu'est une stratégie. S'il y a une sorte de créativité, elle appartient aux chercheurs de DeepMind, qui développent et gèrent les processus des systèmes de formation.
Les systèmes d'IA d'aujourd'hui s'entraînent sur la base d'une énorme quantité d'essais et d'erreurs automatisés; à chaque étape, la technique de
rétropropagation est utilisée pour transmettre des informations sur les erreurs et affiner le système afin de réduire le nombre d'erreurs à l'avenir - et cela améliore progressivement l'efficacité de l'IA dans l'exécution d'une certaine tâche, comme jouer aux échecs.
L'augmentation de l'efficacité de l'IA, du MO, etc. Le «deep learning» (GO) est en grande partie basé sur l'application de cette technique de rétropropagation. Il a été inventé pour la première fois dans les années 1960, et il a été appliqué aux réseaux de neurones dans les années 1980 par Joffrey Hinton. En d'autres termes, depuis plus de 30 ans, il n'y a pas eu de progrès conceptuel significatif en IA. La plupart des résultats de la recherche sur l'IA et des articles de presse montrent ce qui se passe lorsque des montagnes d'équipements informatiques coûteux et une campagne publicitaire ingénieuse sont jetées dans l'exécution d'une vieille idée.
Et on ne peut pas dire que DeepMind ne fait pas un travail précieux. Le travail auxiliaire des machines dans la création de nouvelles stratégies et idées est une chose intéressante, surtout si le fonctionnement de cette machine est difficile à comprendre en raison de sa complexité. Dans notre culture laïque, la magie et le mystère de la technologie attirent les gens, et donner une image mystérieuse à un domaine d'ingénierie principalement sec et rationnel n'est que bénéfique. Mais il n'y a pas d'esprit dans une machine amie Google.
Fer contre logiciel, analogique contre numérique, Thompson contre Hassabis
Tout le battage médiatique qui entoure les machines DeepMind me rappelle l'excitation qui a surgi il y a quelques décennies à la suite d'un système de «machine learning» complètement différent, et peut-être plus profond.
En novembre 1997, le
travail d' Adrian Thompson, chercheur au Center for Computational Neurobiology and Robotics de l'Université de Sussex, est tombé sur la couverture du magazine New Scientist avec l'
article «Creations from Prehistoric Silicon - nous publions le darwinisme dans le laboratoire d'électronique et voyons ce qu'il crée». Une voiture difficile que personne ne comprend. »
Le travail de Thompson a fait une légère sensation, car il a rejeté les coutumes et a lancé l'évolution du système MO dans les équipements électroniques, au lieu d'utiliser une approche programmatique comme tout le monde. Il a décidé de le faire parce qu'il s'est rendu compte que les logiciels numériques étaient limités par la nature binaire marche / arrêt des commutateurs qui composent le cerveau de traitement du signal de tout ordinateur numérique.
Les neurones du cerveau humain, au contraire, ont évolué pour participer à divers
processus physiques et biochimiques subtils, parfois incompréhensiblement complexes. Thompson a suggéré que le développement d'équipements informatiques utilisant un processus automatique de sélection naturelle peut tirer parti de toutes les propriétés physiques analogiques (infiniment diverses) du monde réel inhérentes au silicium, qui constituent les commutateurs informatiques numériques les plus simples - ce qui peut conduire à quelque chose de ressemblant à efficace travail analogique des composants du cerveau humain. Et il avait raison.
Dans son laboratoire, Thompson a dirigé l'évolution de la configuration FPGA (un type de puce de silicium numérique dans laquelle les connexions entre ses commutateurs numériques peuvent être constamment reconfigurées) afin de lui apprendre à séparer deux signaux audio différents. Après avoir jeté un coup d'œil à l'intérieur de la puce pour voir comment le processus évolutif a réglé les connexions entre les commutateurs, il a noté un schéma de travail extrêmement efficace - il n'utilisait que 37 composants.
De plus, le schéma évolutif qui en résulte n'est plus compris par les ingénieurs numériques. Certains des 37 composants n'étaient pas connectés à d'autres, mais lorsqu'ils ont été retirés du circuit, l'ensemble du système a cessé de fonctionner. La seule explication raisonnable de cette situation étrange était que le système utilisait une sorte de connexions électromagnétiques mystérieuses entre son genre de composants numériques similaires. En d'autres termes, le processus évolutif a adopté les caractéristiques analogiques des composants et des matériaux du système du monde réel afin d'effectuer ses «calculs».
C'était une explosion cérébrale. J'étais un jeune chercheur dans les années 1990, j'avais de l'expérience à la fois dans le domaine de la recherche sur
les équipements électroniques et l'IA, et le travail de Thompson m'a étonné. L'ordinateur a non seulement été en mesure d'inventer un type de circuits électroniques complètement nouveau et de dépasser les capacités des ingénieurs en électronique, mais, plus important encore, il a indiqué la voie vers le développement de systèmes informatiques et d'IA infiniment plus puissants.
Hassabis a commencé en tant que programmeur IA principal dans le jeu maintenant oublié de Lionhead Studio, Black & White.Que s'est-il donc passé? Pourquoi Thompson est-il presque oublié, et la société mère de Google, Alphabet, jette Hassabis avec de l'argent, et des documentaires de l'Air Force lui chantent des panégyriques? Pour la plupart, il s'agit d'un bon moment. Dans les années 1990, l'IA était aussi à la mode que la culotte de grand-mère. Aujourd'hui, l'IA a le fardeau de la nécessité de nous conduire à la «quatrième révolution industrielle». Capital poursuit le «prochain grand projet». Bien que les systèmes d'IA numérique de DeepMind ne soient pas très adaptés pour simuler des systèmes analogiques complexes du monde réel comme la météo ou le cerveau humain, ils sont certainement bien adaptés pour broyer des données numériques provenant du monde numérique en ligne le plus simple sous la forme de liens, de clics, de likes, de listes de lecture et de pixels .
DeepMind a également profité de sa capacité à montrer la face du produit. DeepMind a annoncé sa technologie et son leadership, cultivant le mystère technologique, mais toute la démonstration de son travail s'est résumée aux jouets avec les règles de calcul les plus simples. L'avantage des jeux est leur compréhensibilité et leur attrait visuel pour les médias et le public. En fait, la plupart des applications commerciales de cette technologie seront associées à
des applications commerciales d'arrière-plan courantes , par exemple, l'
optimisation de l'efficacité énergétique des centres
de données dans lesquels Google stocke ses ordinateurs.
Ceci n'est pas une paddle *
* «Ce n'est pas une rame» - une référence à la peinture « Trahison des images »Thompson et Hassabis - à l'exception d'être britanniques, avaient certainement l'expérience et les compétences nécessaires à la formation et à l'évolution efficaces de leurs systèmes, mais une telle dépendance à l'égard des compétences et de la créativité des gens est évidemment une faiblesse de tout système d'IA ou d'OM. De plus, leur technologie était très fragile. Par exemple, les systèmes Thompson ont souvent cessé de fonctionner à des températures différentes de celles auxquelles ils ont évolué. Pendant ce temps, dans DeepMind, le simple fait de
changer la taille des palettes dans l'un des jeux vidéo de la société a complètement annulé l'efficacité de l'IA. Cette fragilité est due au fait que l'IA de DeepMind ne comprend pas ce qu'est une pagaie - et même le jeu vidéo lui-même; ses commutateurs ne fonctionnent qu'avec des nombres binaires.
Récemment, les systèmes MO ont vraiment connu de grands succès, mais ces progrès, pour la plupart, ont été obtenus grâce à l'utilisation d'une énorme quantité d'équipements informatiques standard pour résoudre les problèmes, plutôt que d'innovations radicales. À un moment donné dans un avenir pas trop lointain, il ne sera plus possible de placer plus de minuscules commutateurs de silicium sur une puce de silicium. L'efficacité du circuit (plus de calculs sur moins d'équipement) deviendra importante sur le plan commercial, et à ce stade, l'évolution des équipements peut enfin devenir à la mode.
Des systèmes hybrides peuvent également apparaître qui combinent les approches de Thompson et Hassabis. Mais quoi qu'il arrive, Harrari devra attendre de pouvoir acquérir un système d'IA «créatif» pour écrire son prochain best-seller.