El teórico estadounidense de inteligencia artificial, uno de los fundadores de la psicología cognitiva y empresario Roger Shank, publicó una opinión personal sobre el sistema Watson en su blog. Aquí hay una traducción de esta entrada.
IBM no hace "computación cognitiva", sin importar cuántas veces repitan estas palabras.
Ayer me comuniqué con un viejo amigo, y él me recordó nuestra conversación, que tuvo lugar hace casi 50 años. Traté de explicarle cómo me gano la vida, y él trató de entender por qué hacer que las computadoras entiendan algo era más difícil que el análisis de palabras clave. Le expliqué los conceptos de las oraciones y el hecho de que las oraciones están formadas por palabras, pero las personas en realidad no usan palabras cuando piensan, excepto cuando necesitan llegar a las ideas subyacentes, y aquí es donde las computadoras se meten en problemas.
Después de 50 años, las palabras clave siguen siendo las primeras entre las personas que intentan que las computadoras funcionen con el idioma. Sin embargo, esta vez, la palabra clave por la cual las personas engañan al público es AI. La gente declara que la IA existe, piensa AI, y que todos deberíamos tenerle miedo o alegrarnos de su llegada. Olvidé lo que es.
En algún momento, progresamos en la comprensión de las computadoras que usan lenguaje natural, pero en 1984 comenzó el "invierno de la IA". Comenzó debido a demasiadas promesas sobre lo que AI podía hacer, y que él realmente no podía. (Entonces, todos anunciaron sistemas expertos, ¿y dónde están ahora?) La financiación se detuvo, y con ella se detuvo el trabajo real sobre el procesamiento del lenguaje natural.
Pero la gente todavía se apresura con las palabras clave, porque Google y similares las usan para "buscar". Todo está bien con la búsqueda, mientras contamos las palabras: estas son exactamente el tipo de tareas involucradas en el análisis de datos y el aprendizaje automático. Por supuesto, al contar palabras, se pueden hacer correlaciones, y los usuarios pueden averiguar qué palabras a menudo están asociadas con cada una y utilizar esta información. Pero los usuarios tuvieron que adaptarse a Google, y no al revés. Sabemos lo que se puede ingresar en la barra de búsqueda y lo que no, y estamos haciendo una búsqueda con la que es más probable que Google nos ayude. Sabemos que estamos buscando textos, no respuestas, y no vamos a iniciar una conversación con una determinada entidad que sabe de qué queremos hablar. Las personas aprenden a través del diálogo, pero el diálogo con Google no funcionará. Puedo pretender tener un diálogo con Siri, pero de hecho, estas conversaciones se vuelven tediosas si van más allá de preguntas como dónde comer.
Pero no estoy preocupado por Google. Satisface bien nuestras necesidades. Estoy entusiasmado con las declaraciones exageradas que IBM hace sobre su programa Watson. Recientemente tuvieron un anuncio con Bob Dylan, lo cual sería muy divertido si no me molestara tanto.
Francamente hablando: Watson es un engaño. No afirmo que el programa no pueda procesar palabras, e incluso puede ser beneficioso para alguien. Pero su anuncio te está engañando.
Aquí hay un extracto de Ad Week:
La computadora se jacta de que puede leer 800 millones de páginas por segundo, identificando temas clave en las obras de Dylan, como "el tiempo se acaba" y "el amor se está agotando".
Anne Rubin, vicepresidenta de branding de IBM, le dijo a Adweek que se necesitaba publicidad para ayudar a las personas a comprender el nuevo mundo de la computación cognitiva.
"Nos centramos en la publicidad, pero es mucho más que una simple campaña publicitaria", dice Rubin. - Este es el punto de vista de IBM, e impregna todo nuestro marketing, nuestra comunicación interna, la forma en que trabajamos con proveedores y empleados. Se impregna todo lo que hacemos ".
IBM dice que la nueva serie de anuncios debería llegar a un público más amplio (tomadores de decisiones, desarrolladores de software) sobre cómo funciona Watson. A diferencia de las computadoras programadas convencionalmente, los sistemas cognitivos como Watson comprenden, razonan y aprenden. La compañía dice que industrias como la banca, los seguros, la atención médica y el comercio minorista pueden beneficiarse del sistema.
Rubin dijo que Watson puede pensar mejor que el cerebro humano en áreas donde la búsqueda de respuestas y conexiones se ve obstaculizada por la abundancia de datos. "Puede averiguar qué hacer con el cáncer, los riesgos, las dudas, los competidores, si acepta la idea de la computación cognitiva", dice ella.
Enserio? Soy un niño de los años 60, y recuerdo las canciones de Dylan bastante bien. Pregúntele a cualquiera de esta era sobre Bob Dylan, y nadie le dirá que el tema principal de sus canciones es "pases de amor". Era un cantante de protesta y cantaba sobre las vicisitudes de la vida. Participó en el movimiento contra la guerra. ¿Está pasando el amor? Esto fue emitido por una computadora tonta que puede contar palabras. ¿Cómo podría saber Watson que muchas de las canciones de Dylan eran parte del movimiento contra la guerra? ¿Repitió a menudo la palabra "contra la guerra"? Sí, esta palabra puede no haber sonado en absoluto en sus canciones.
Desde el
sitio sobre rock :
En la canción de protesta No. 1 de Bob Dylan, "The Times They Are a-Changin", Dylan fue todo y cruzó el movimiento de protesta popular en la década de 1960 con el movimiento de derechos civiles.
Pareados cortos se superponen y causan una impresión poderosa, y palabras como:
Hay una batalla afuera y está lloviendo
Pronto sacudirá sus ventanas y sacudirá sus paredes
Por los tiempos que están cambiando
Hay una batalla en curso y estalla
Pronto ella sacudirá tus ventanas y tambaleará tus paredes
Como los tiempos cambian
se convirtieron en declaraciones de culto de Dylan y sobrevivieron a su tiempo.
Pero no canta sobre Vietnam o los derechos civiles. Por lo tanto, Watson no sería consciente de que existe alguna conexión con estos conceptos. Es posible hablar sobre un tema, usando palabras que no hablan directamente sobre él. El conocimiento fundamental importa mucho. Hace unos años, le pregunté a un hombre de 20 años acerca de Bob Dylan, y resultó que nunca había oído hablar de él. Sabía poco sobre los años 60. Watson tampoco sabe mucho. No puedes entender palabras sin entender el contexto.
Supongamos que le digo que mi amigo está comprando demasiadas pastillas para dormir y que estoy preocupado por él. ¿Watson me dirá que estoy insinuando suicidio? ¿Te aconsejará que corras rápidamente a un amigo y hables con él sobre sus problemas? No por supuesto. Las personas entienden el contexto porque saben cómo funciona el mundo y qué problemas tienen las personas. No cuentan palabras.
Y aquí hay otro, de otro sitio:
Llamar a Bob Dylan el padre de la música folklórica probablemente será una exageración. Pero definitivamente puedes decir que este cantante es uno de los autores sobresalientes de canciones contra la guerra y de protesta del siglo XX, por lo que es digno de crear una calificación de las 10 mejores canciones de protesta de Bob Dylan. El cantante cambió su repertorio de difamar el establecimiento a música country, música pop y música folklórica, y sigue siendo productivo en el campo de las protestas contra los que están en el poder.
Fue escrito por un hombre. ¿Cómo me enteré? Porque Watson no puede sacar conclusiones contando palabras en 800 millones de páginas de texto.
Lo que más me molesta no es Watson, sino las afirmaciones de IBM. Cito:
A diferencia de las computadoras programadas convencionalmente, los sistemas cognitivos como Watson comprenden, razonan y aprenden.
Anne Rubin, vicepresidenta de branding de IBM, le dijo a Adweek que se necesitaba publicidad para ayudar a las personas a comprender el nuevo mundo de la computación cognitiva.
Escribí el libro
Computadora cognitiva en 1984.
Abrí Cognitive Systems en 1981. Obviamente, no leyeron de lo que estaba hablando en IBM (aunque claramente les gustaron las palabras que usé). Watson no razona. Puede argumentar solo si tiene objetivos, planes, formas de lograrlos, una comprensión de lo que otros pueden creer y un conocimiento de la experiencia pasada, en función de las conclusiones que se pueden extraer. Además, el punto de vista no duele. ¿Qué piensa, dice, Watson sobre el terrorismo?
Pregunta tonta? Las criaturas realmente pensantes tienen su propio punto de vista sobre el terrorismo. Los perros no lo tienen, pero Watson no alcanza al perro (por ejemplo, el perro al menos sabe cómo llamar mi atención).
En los años 80, se me ocurrió algo así como "
razonamiento basado en precedentes ": se suponía que permitiría a las computadoras comparar nuevas situaciones con las antiguas y, en base a esto, cambiar lo que la computadora consideraba el resultado. Logramos construir algunos sistemas útiles. Y aprendimos mucho sobre cómo aprende una persona. ¿Creía que creamos computadoras que pronto superarán a las personas en términos de pensamiento o se volverán inteligentes? No por supuesto. Creí que comenzamos a crear computadoras que pueden ser más útiles para las personas.
Hubiera sido agradable si IBM hubiera moderado la exageración y le dijera a la gente de lo que realmente era capaz Watson, y hubiera dejado de decir tonterías sobre dejar el amor y reflexionar sobre el cáncer. IBM nos está engañando y necesita detenerse.
Se acerca el invierno.