Le théoricien américain de l'intelligence artificielle, l'un des fondateurs de la psychologie cognitive et entrepreneur Roger Shank a publié une opinion personnelle sur le système Watson dans son blog. Voici une traduction de cette entrée.
IBM ne fait pas «d'informatique cognitive», peu importe combien de fois ils répètent ces mots.
Hier, j'ai correspondu avec un vieil ami et il m'a rappelé notre conversation, qui a eu lieu il y a près de 50 ans. J'ai essayé de lui expliquer comment je gagne ma vie, et il a essayé de comprendre pourquoi faire comprendre quelque chose aux ordinateurs était plus difficile que l'analyse des mots clés. J'ai expliqué les concepts de phrases et le fait que les phrases sont composées de mots, mais les gens n'utilisent pas réellement de mots quand ils pensent - sauf quand ils ont besoin de trouver les idées qui les sous-tendent, et c'est là que les ordinateurs ont des ennuis.
Après 50 ans, les mots clés arrivent toujours en premier parmi les personnes qui essaient de faire fonctionner les ordinateurs avec la langue. Cependant, cette fois, le mot clé par lequel les gens trompent le public est l'IA. Les gens déclarent que l'IA existe, pense l'IA, et que nous devrions tous en avoir peur ou nous réjouir de son arrivée - j'ai oublié ce que c'est.
À un moment donné, nous avons fait des progrès dans la compréhension des ordinateurs utilisant le langage naturel, mais en 1984, «l'hiver de l'IA» a commencé. Cela a commencé en raison de trop de promesses sur ce que l'IA pouvait faire et qu'il ne pouvait vraiment pas. (Ensuite, tout le monde a annoncé des systèmes experts - et où en sont-ils maintenant?)
Mais les gens se précipitent toujours avec des mots clés, car Google et autres les utilisent pour «rechercher». Tout va bien avec la recherche, alors que nous comptons les mots - ce sont exactement le type de tâches impliquées dans l'analyse des données et l'apprentissage automatique. Bien sûr, en comptant les mots, des corrélations peuvent être établies, et les utilisateurs peuvent savoir quels mots sont souvent associés à qui et utiliser ces informations. Mais les utilisateurs ont dû s'adapter à Google, et non l'inverse. Nous savons ce qui peut être entré dans la barre de recherche et ce qui ne peut pas l'être, et nous effectuons une recherche avec laquelle Google est le plus susceptible de nous aider. Nous savons que nous recherchons des textes, pas des réponses, et nous n'allons pas entamer une conversation avec une certaine entité qui sait de quoi nous voulons parler. Les gens apprennent par le dialogue, mais le dialogue avec Google ne fonctionnera pas. Je peux faire semblant d'avoir un dialogue avec Siri, mais en fait, ces conversations deviennent fastidieuses si elles vont au-delà des questions comme où manger.
Mais je ne m'inquiète pas pour Google. Il répond bien à nos besoins. Je suis enthousiasmé par les déclarations exagérées d'IBM à propos de son programme Watson. Ils ont récemment eu une annonce avec Bob Dylan, ce qui serait très drôle si elle ne m'énervait pas autant.
Franchement: Watson est un canular. Je ne prétends pas que le programme ne peut pas traiter les mots, et il peut même être bénéfique pour quelqu'un. Mais son annonce vous trompe.
Voici un extrait de Ad Week:
L'ordinateur se vante de pouvoir lire 800 millions de pages par seconde, identifiant les sujets clés des travaux de Dylan, tels que «le temps presse» et «l'amour se meurt».
Anne Rubin, vice-présidente de la marque d'IBM, a déclaré à Adweek que la publicité était nécessaire pour aider les gens à comprendre le nouveau monde de l'informatique cognitive.
«Nous nous concentrons sur la publicité, mais c'est bien plus qu'une simple campagne publicitaire», explique Rubin. - C'est le point de vue d'IBM, et il imprègne tout notre marketing, notre communication interne, notre façon de travailler avec les fournisseurs et les employés. Il imprègne tout ce que nous faisons. »
IBM affirme que la nouvelle série d'annonces devrait toucher un public plus large - décideurs, développeurs de logiciels - sur le fonctionnement de Watson. Contrairement aux ordinateurs programmés de manière conventionnelle, les systèmes cognitifs tels que Watson comprennent, raisonnent et apprennent. La société affirme que des secteurs tels que la banque, l'assurance, les soins de santé et la vente au détail peuvent bénéficier du système.
Rubin a déclaré que Watson peut penser mieux que le cerveau humain dans les domaines où trouver des réponses et des connexions est entravé par l'abondance de données. «Vous pouvez savoir quoi faire avec le cancer, les risques, les doutes, les concurrents, si vous acceptez l'idée de l'informatique cognitive», dit-elle.
Vraiment? Je suis un enfant des années 60 et je me souviens assez bien des chansons de Dylan. Demandez à Bob Dylan une de ces époques, et personne ne vous dira que le thème principal de ses chansons est «l'amour passe». Il était un chanteur de protestation et a chanté sur les vicissitudes de la vie. Il a participé au mouvement anti-guerre. L'amour passe-t-il? Cela a été émis par un ordinateur stupide qui peut compter les mots. Comment Watson pouvait-il savoir que de nombreuses chansons de Dylan faisaient partie du mouvement anti-guerre? A-t-il souvent répété le mot «anti-guerre»? Oui, ce mot n'a peut-être pas du tout retenti dans ses chansons.
Du
site sur le rock :
Dans la chanson de protestation n ° 1 de Bob Dylan, «The Times They Are a-Changin», Dylan a fait tapis et a croisé le mouvement populaire de protestation dans les années 1960 avec le mouvement des droits civiques.
Les distiques courts se chevauchaient et faisaient une forte impression, et des mots comme:
Il y a une bataille dehors et c'est ragin '
Cela va bientôt secouer vos fenêtres et secouer vos murs
Pour le moment où ils changent
Il y a une bataille en cours et elle éclate
Bientôt, elle secouera vos fenêtres et chancelera vos murs
Alors que les temps changent
sont devenus des déclarations cultes de Dylan et ont survécu à leur époque.
Mais il ne chante pas sur le Vietnam ou les droits civils. Par conséquent, Watson ne serait pas conscient qu'il existe un lien avec ces concepts. Il est possible de parler sur un sujet, en utilisant des mots qui n'en parlent pas directement. Les connaissances fondamentales importent beaucoup. Il y a quelques années, j'ai interrogé un homme de 20 ans sur Bob Dylan, et il s'est avéré qu'il n'avait jamais entendu parler de lui. Il en savait peu sur les années 60. Watson ne sait pas grand-chose non plus. Vous ne pouvez pas comprendre les mots sans comprendre le contexte.
Supposons que je vous dise que mon ami achète trop de somnifères et que je m'inquiète pour lui. Watson me dira-t-il que je fais allusion au suicide? Va-t-il vous conseiller de courir rapidement vers un ami et de lui parler de ses problèmes? Non, bien sûr. Les gens comprennent le contexte parce qu'ils savent comment le monde fonctionne et quels problèmes les gens ont. Ils ne comptent pas les mots.
Et voici un autre, d'un autre site:
Appeler Bob Dylan le père de la musique folklorique sera probablement une exagération. Mais vous pouvez certainement dire que ce chanteur est l'un des auteurs les plus remarquables des chansons anti-guerre et protestataires du XXe siècle, il mérite donc de créer une notation des 10 meilleures chansons protestataires de Bob Dylan. Le chanteur a changé son répertoire de la diffamation de l'établissement à la musique country, à la musique pop et à la musique folklorique, et reste productif dans le domaine des protestations contre ceux au pouvoir.
Il a été écrit par un homme. Comment ai-je découvert? Parce que Watson ne peut pas tirer de conclusions en comptant des mots sur 800 millions de pages de texte.
Ce qui me dérange le plus, ce n'est pas Watson, mais les affirmations d'IBM. Je cite:
Contrairement aux ordinateurs programmés de manière conventionnelle, les systèmes cognitifs tels que Watson comprennent, raisonnent et apprennent.
Anne Rubin, vice-présidente de la marque d'IBM, a déclaré à Adweek que la publicité était nécessaire pour aider les gens à comprendre le nouveau monde de l'informatique cognitive.
J'ai écrit le livre
Cognitive Computer en 1984.
J'ai ouvert Cognitive Systems en 1981. Évidemment, ils n'ont pas lu ce dont je parlais chez IBM (bien qu'ils aient clairement aimé les mots que j'ai utilisés). Watson ne raisonne pas. Vous ne pouvez discuter que si vous avez des objectifs, des plans, des moyens de les atteindre, une compréhension de ce en quoi les autres peuvent croire et une connaissance de l'expérience passée, sur la base de laquelle des conclusions peuvent être tirées. De plus, le point de vue ne fait pas de mal. Que pense Watson, par exemple, du terrorisme?
Question stupide? Les créatures vraiment pensantes ont leur propre point de vue sur le terrorisme. Les chiens ne l'ont pas, mais Watson n'atteint pas le chien (par exemple, le chien sait au moins comment attirer mon attention).
Dans les années 80, j'ai proposé un «
raisonnement basé sur des précédents »: il était censé permettre aux ordinateurs de comparer de nouvelles situations aux anciennes et en se basant sur ce changement ce que l'ordinateur considérait comme le résultat. Nous avons réussi à construire des systèmes utiles. Et nous avons beaucoup appris sur la façon dont une personne apprend. Pensais-je que nous avons créé des ordinateurs qui dépasseront bientôt les gens en termes de réflexion ou deviendront intelligents? Non, bien sûr. Je pensais que nous avons commencé à créer des ordinateurs qui peuvent devenir plus utiles aux gens.
Cela aurait été bien si IBM avait modéré le battage médiatique et dit aux gens de quoi Watson était vraiment capable, et cessé de mettre un terme au non-sens de quitter l'amour et de méditer sur le cancer. IBM nous trompe et elle doit s'arrêter.
L'hiver de l'IA arrive.