Hola Habr! Les presento la traducción del artículo "
Así es como un detector de mentiras de inteligencia artificial puede decir cuándo está fallando " por Rob Verger.
Hoy en día, la inteligencia artificial está en todas partes: determina qué hay en las fotos de alimentos (en sitios como Yelp), ayuda a los investigadores a tratar de acelerar el proceso de resonancia magnética e incluso puede buscar signos de depresión en la voz de una persona. Pero es poco probable que muchos hayan pensado en usar la inteligencia artificial como detector de mentiras.
Esta idea, un detector de mentiras de IA, está ahora en las noticias porque el nuevo proyecto europeo de seguridad fronteriza "iBorderCtrl" incluye tecnología que se enfoca en la "detección de fraude". Esta iniciativa incluye un proceso de dos pasos, y un paso que incluye "detección de fraude" funciona directamente desde casa. Según la Comisión Europea, el protocolo comienza con una preselección, durante la cual los viajeros "usan una cámara web para responder preguntas formuladas por un guardia fronterizo animado que se selecciona de acuerdo con el género, etnia e idioma del viajero. Un enfoque único para "detectar fraudes" analiza los cambios más pequeños en las expresiones faciales de los viajeros para determinar si el entrevistado está mintiendo ".
Todo esto suena a ciencia ficción y, por supuesto, recuerda la problemática historia de un polígrafo. Pero esa inteligencia artificial es bastante real. La única pregunta es qué tan precisa puede ser.
Rada Michalcha, profesora de ciencias de la computación e ingeniería de la Universidad de Michigan, ha estado trabajando en la detección de fraudes durante unos diez años. Por lo tanto, se construyó un detector de mentiras de IA y su principio de funcionamiento.
Lo primero que necesitan los investigadores que trabajan con inteligencia artificial y aprendizaje automático son los datos. En este caso, el equipo de Rada Mikhalcha comenzó con un video de casos judiciales reales. Por ejemplo, un acusado en un juicio en el que fue condenado puede proporcionar un ejemplo de fraude; las declaraciones de testigos también se usaron como ejemplos de testimonios verdaderos o falsos. (Por supuesto, los algoritmos de aprendizaje automático dependen directamente de los datos que utilizan, por lo que es importante recordar que una persona declarada culpable de un delito puede ser inocente).
Como resultado, se usaron 121 videoclips y las transcripciones correspondientes de lo que se dijo (la proporción de declaraciones falsas y verdaderas es aproximadamente de uno a uno). Estos datos permitieron al equipo construir clasificadores para el aprendizaje automático, que finalmente tuvo una precisión del 60-75%.
¿Qué patrón notó el sistema? “Uso de pronombres. Las personas que intentan mentir tienden a usar raramente los pronombres 'yo' o 'nosotros' y generalmente mencionan cosas relacionadas con ellos. En cambio, a menudo usan los pronombres 'tú', 'tuyo', 'él (a)', 'ellos' ”. - explica Rada Mikhalcha.
Este no es el único atributo lingüístico. Las personas que mienten tienden a usar "palabras más fuertes" que "expresan confianza", dice Rada Mihalcha. Ejemplos de tales palabras son palabras como "absolutamente" y "muy", cuando los que dicen la verdad, por el contrario, evitan las respuestas usando palabras como "quizás" o "probablemente".
"Creo que las personas engañosas probablemente compensarán sus mentiras al tratar de parecer más seguros de sí mismos".
En cuanto a las expresiones faciales, Mikhalcha Rada enfatiza que las personas que mienten tienen más probabilidades de mirar directamente a los ojos de la persona que las entrevista. Estas personas también suelen usar dos manos para hacer gestos en lugar de una, porque, de acuerdo con la suposición de Rada Mikhalch, están tratando de parecer más convincentes. (Por supuesto, estas son solo plantillas: si alguien te mira a los ojos y gesticula con ambas manos mientras habla, esto no significa que esta persona esté mintiendo).
Esta es una lista de datos notables que AI puede notar tan pronto como los investigadores le dan ejemplos con los que puede trabajar y con los que puede aprender. Pero incluso Rada Mikhalcha misma admite que su trabajo "no es perfecto". "Como investigadores, estábamos muy entusiasmados de poder lograr una precisión del 75%". Pero, por otro lado, esto significa que la probabilidad de error es uno de cada cuatro. "No creo que esta IA pueda usarse en la práctica, porque la probabilidad de error es de hasta el 25%".
Finalmente, Rada Mihalcha considera que esta tecnología es muy útil para las personas. Por ejemplo, esta tecnología podría mostrar que ella notó algo "inusual" en la declaración de alguien, y luego esta persona podría ser interrogada nuevamente. Este uso de la IA no es infrecuente: una tecnología que amplía lo que las personas pueden hacer.