En 2014, un proyecto de Google se disparó de tal manera que ya se escuchó en Detroit [una vez, la "capital del automóvil de los Estados Unidos", aprox. transl.]. Su último prototipo de robot robótico no tenía volante ni frenos. La sugerencia era clara: los autos futuros serán completamente autónomos, no necesitarán un conductor. Y aún más molesto fue que, en lugar de remodelar el Prius o el Lexus, como Google hizo con las dos generaciones anteriores de robomobiles, la compañía construyó de forma independiente un cuerpo para su nuevo robot con la ayuda de proveedores de piezas de automóviles. Y lo que es más sorprendente, el nuevo automóvil nació originalmente como un conductor experimentado, ella ya tenía 1.1 millones de kilómetros de experiencia extraídos del cerebro de prototipos anteriores. Hoy en día, los robomobiles tienen varios años más de práctica, el kilometraje total de toda la flota supera los 2,1 millones de km; esto es el equivalente a una persona que viaja 24,000 km al año durante 90 años.
Las empresas automotrices están invirtiendo miles de millones en el desarrollo de software en respuesta, y el epicentro de la innovación automotriz se ha trasladado de Detroit a Silicon Valley. Si los fabricantes de automóviles pudieran influir en cómo se hace la transición a los automóviles robot, lo harían de manera gradual. En el primer paso, se probarían las tecnologías de asistencia al conductor. En el segundo, aparecerían varios modelos de lujo con movimiento autónomo limitado en situaciones especiales, muy probablemente a lo largo de la carretera. En el tercer paso, estas capacidades limitadas se habrían filtrado a autos más baratos.
La firma consultora Deloitte describe un enfoque tan gradual como gradual, “en el que los fabricantes de automóviles invierten en nuevas tecnologías, por ejemplo, sistemas antibloqueo de frenos, estabilización electrónica, cámaras de seguridad, telemática, para gamas de autos costosos y luego bajan cuando la economía comienza a funcionar. escala Un enfoque tan cauteloso, aunque atractivo, puede estar equivocado. La autonomía de aproximación lenta al agregar gradualmente tecnologías de seguridad controladas por computadora que ayudan a las personas a conducir, reducir la velocidad y acelerar puede convertirse en una estrategia insegura a largo plazo, tanto desde el punto de vista de la vida humana como desde el punto de vista de la industria automotriz.
Una de las razones por las que las compañías de automóviles prefieren un enfoque gradual es porque les ayuda a mantener el control de la industria. Los Robomobiles necesitan un sistema operativo inteligente que perciba el entorno del automóvil, comprenda el flujo de datos entrantes y reaccione en consecuencia. La creación de software que puede funcionar como una IA, en particular, trabajar con percepción artificial, requiere personal experimentado y cierto equipaje intelectual. Los fabricantes de automóviles, que han sido muy hábiles para crear sistemas mecánicos complejos, carecen del personal, la cultura y la experiencia adecuados para profundizar de manera efectiva en la espesura de la investigación de IA. Y Google ya está ahí.
Los robomobiles traen incertidumbre a la industria automotriz. Durante el siglo pasado, la venta de automóviles directamente a los clientes ha sido rentable. Pero si los robomobiles permiten a los consumidores pagar los viajes en lugar de comprar automóviles, entonces el negocio de vender automóviles universales a empresas de transporte que arriendan automóviles robóticos ya no será tan rentable. Si los fabricantes de automóviles tienen que trabajar junto con los desarrolladores de software para crear robots robóticos, dicha asociación puede terminar en el hecho de que los primeros obtendrán una porción no tan grande del pastel.
La cantidad de dinero en cuestión está creciendo como un banco en un juego de póker que dura toda la noche. El ex profesor de la Universidad de Michigan y CEO de GM, Larry Burns, explica que la mina de oro está oculta en los 4.8 billones de kilómetros que la gente viaja cada año (solo en los EE. UU.). Él dice: "Si la primera persona obtiene el 10% de las ganancias de 4.8 trillones de kilómetros cada año y gana 10 centavos por milla, entonces su ganancia anual será de $ 30 mil millones, esto es comparable a los años gordos de Apple y ExxonMobil" .
Los fabricantes de automóviles y Google son petroleros gigantes que, amenazando con chocar, se están acercando lentamente a su destino común: obtener más ganancias de la próxima generación de vehículos robóticos. Los fabricantes de automóviles prefieren un enfoque evolutivo en el que los módulos de asistencia al conductor se desarrollen hasta que puedan tomar el control del viaje durante largos períodos de tiempo. Google, por el contrario, está planeando un salto brusco hacia la autonomía total.
No solo los fabricantes de automóviles prefieren un enfoque gradual. El Departamento de Transporte de EE. UU. Y la Sociedad de Ingenieros Automotrices (SAE) ya han desarrollado sus planes de autonomía. Sus etapas son ligeramente diferentes, pero lo que es común en ellas es que la mejor manera de desarrollarse es una secuencia de pasos graduales y lineales, cuando el sistema de "asistencia para conducir" toma temporalmente el control del automóvil, pero rápidamente se lo devuelve a la persona tan pronto como surge una situación desagradable.
No estamos de acuerdo con la idea de que la transición gradual es la mejor manera de actuar. Por muchas razones, los humanos y los robots no deberían tener éxito el uno al otro mientras conducen. Sin embargo, muchos expertos creen que el modelo óptimo es la separación del control de la máquina entre una persona y el software, que el conductor debe seguir siendo el maestro y el software debe ser el servidor. Los ingenieros conocen el software basado en un paradigma en el que las personas y las máquinas trabajan juntas como Human-in-the-loop (HITL): "participación en el proceso humano". En muchas situaciones, el trabajo conjunto del hombre y la máquina realmente conduce a excelentes resultados. Los cirujanos experimentados usan manipuladores robóticos y logran una precisión inhumana en las operaciones. Los programas HITL se utilizan en aviones comerciales modernos, así como en aplicaciones industriales y militares.
Los argumentos para salvar a la persona en el proceso son convincentes. Un sueño muy atractivo es una combinación compleja de las mejores capacidades de una persona con las mejores capacidades de una máquina; se asemeja a un rompecabezas de optimización para seleccionar manualmente jugadores de fútbol americano profesionales para crear un equipo de ensueño. Las máquinas son muy precisas, no se cansan y pueden analizar. Los automóviles detectan patrones perfectamente, realizan cálculos y mediciones. Sin embargo, las personas son muy buenas para sacar conclusiones, vincular objetos o eventos aleatorios a primera vista y aprender de la experiencia.
En teoría, si combina a una persona con IA, puede obtener un conductor atento, sensible y extremadamente experimentado. De hecho, la ventaja del enfoque HITL para la automatización es que puede combinar las fortalezas de las personas y las máquinas.
En realidad, el software HITL podrá trabajar con robots robóticos, si solo cada una de las partes, personas y software, comparten clara y consistentemente la responsabilidad. Desafortunadamente, la industria automotriz y los funcionarios del Ministerio de Transporte no propusieron un modelo para la ejecución clara de estas responsabilidades. En cambio, proponen dejar a la persona en el proceso, pero al mismo tiempo tendrá un círculo de responsabilidades incomprensible y cambiante.
En el centro de la estrategia de transición suave está la suposición de que, en el caso de una situación inesperada, una señal de sonido o vibración notificará a la persona que necesita cambiar rápidamente de asiento y resolver el problema. El camino gradual hacia la automatización total puede parecer razonable y seguro. Pero en la práctica, una transición gradual de la automatización parcial a la completa de la conducción será peligrosa.
En algunas situaciones, los automóviles pueden trabajar con éxito junto con las personas, pero no cuando se conduce. La razón principal por la que el esquema HITL no es adecuado para conducir es porque conducir es un proceso muy aburrido y tedioso. Las personas con gusto realizan acciones tediosas a las máquinas y, al mismo tiempo, se liberan voluntariamente de su responsabilidad.
Cuando participé en el entrenamiento de marineros en la Marina, aprendí una de las doctrinas clave del buen gobierno: nunca compartir tareas críticas entre dos personas. Este es un error de gestión clásico, conocido como "responsabilidad dividida". El problema con la división de responsabilidad es que cada persona involucrada en la tarea cree que puede transferir fácilmente esta tarea a otra. Pero si ninguno de ellos se encarga de su implementación, la misión falla. Si las personas y los automóviles comparten la responsabilidad de conducir, los resultados pueden ser desastrosos.
Un ejemplo desgarrador de responsabilidad dividida entre el hombre y la máquina es el vuelo 447 de Air France, que
cayó en el Océano Atlántico en 2009. 228 personas a bordo fueron asesinadas. Un análisis de la caja negra del avión mostró que la causa del desastre no fue el terrorismo o el fracaso de la mecánica. La transferencia de control del piloto automático al equipo piloto falló.
En vuelo, los instrumentos necesarios para que el piloto automático funcione se congelaron y de repente el piloto automático se apagó. El equipo de pilotos, desconcertado y no practicado durante mucho tiempo, de repente se enfrentó a la necesidad de gestionar lo que se suponía que era un vuelo de rutina. Los pilotos, repentinamente enfrentados con responsabilidad, cometieron varios errores catastróficos, lo que condujo al accidente de la aeronave en el mar.
En el otoño de 2012, a varios empleados de Google se les permitió tomar un Lexus autónomo y viajar en la carretera al trabajo. La idea era que una persona condujera Lexus hacia la autopista, saliera a la carretera y, de pie en un carril, prendiera el piloto automático. Se advirtió a cada uno de los empleados que la tecnología se encontraba en una etapa temprana, y deben tener cuidado todo el tiempo. Cada automóvil estaba equipado con una cámara de video que constantemente disparaba a una persona en la cabina.
Los empleados hablaron sobre robomobiles de forma estrictamente positiva. Todos describieron las ventajas de no tener que lidiar con el tráfico en la hora pico, y que podían llegar a casa frescos y descansar para pasar más tiempo con sus familias. Pero surgieron problemas después de que los ingenieros vieron el video de los salones. Uno de los empleados se apartó por completo del volante para buscar cargar el teléfono en el asiento trasero. Otros se distrajeron de conducir y se relajaron, disfrutando de sus momentos libres.
El informe de Google describió la situación de separación de la atención, y se llamó el "sesgo de la automatización". “Vimos cómo funciona la naturaleza humana: las personas comienzan a confiar rápidamente en la tecnología después de verla en funcionamiento. Como resultado, es muy difícil para ellos participar en la conducción cuando se les anima a distraerse y relajarse ".
La convicción de Google de que no hay compromiso, que las personas no deberían compartir el control con los automóviles, parece arriesgada, pero en realidad es el camino de desarrollo más prudente desde el punto de vista de la seguridad. La automatización puede dañar al conductor de dos maneras: en primer lugar, ofrecerle que haga cosas que lo distraigan de la carretera, por ejemplo, leer o mirar un video; en segundo lugar, violar su conciencia situacional, es decir, la capacidad de percibir factores ambientales críticos y responderlos rápida y adecuadamente. Si miramos al conductor con atención distraída, sin saber lo que está sucediendo fuera del automóvil, quedará claro por qué dividir la responsabilidad de conducir es una idea tan terrible.
Un estudio en la Universidad Tecnológica de Virgin cuantificó la tentación de las personas que surge cuando la tecnología sugiere que facilitan completar una tarea tediosa. Los investigadores probaron 12 conductores en una pista de prueba. Cada automóvil tenía dos tipos de software que ayudaban al conductor: uno centraba el automóvil en el carril, el otro controlaba los frenos y el rodaje, lo que se llama control de crucero adaptativo. El objetivo del estudio era medir las reacciones de las personas a las tecnologías que se encargan de mantener el automóvil en el carril, respaldar la velocidad y controlar los frenos. Para hacer esto, se instaló un conjunto de dispositivos en cada automóvil que recopila datos y registra lo que está sucediendo.
Los investigadores contrataron a 12 personas de 25 a 34 años de edad de residentes comunes de Detroit, ofreciendo $ 80 cada uno por participar en el proyecto. Se les pidió a los conductores que fingieran que viajaban largas distancias, y no solo los alentaron a llevar teléfonos móviles, sino que también les proporcionaron una variedad de materiales impresos, alimentos, bebidas y dispositivos de entretenimiento. Explicaron a los conductores que uno de los miembros del equipo de investigación iría con cada uno de ellos. Se les dijo que su pasajero tendrá “tarea” con la que estará ocupado durante el viaje, por lo que la mayoría de las veces verá un DVD.
12 sujetos condujeron el automóvil en la pista de prueba, y sus reacciones y acciones fueron medidas y registradas. Los investigadores se propusieron el objetivo de medir tanto la tentación de distraerse con actividades externas como comer, leer o mirar un video, como el grado en que la atención del conductor se desvía de la carretera cuando el software asume la mayoría de las responsabilidades. En otras palabras, los investigadores verificaron si la tecnología de conducción automática del conductor conduciría a actividades inseguras como distraerse del proceso de conducción, lecciones de conducción inapropiadas, pérdida de percepción de lo que estaba sucediendo y la capacidad de reconocer factores críticos en su entorno.
Resultó que la mayoría de los conductores en presencia de tecnología de conducción automática se embarcaron con gusto en los tres tipos de violaciones al volante. La "tarea", que supuestamente fue realizada por el investigador de pasajeros, junto con el control de crucero adaptativo y el sistema de mantenimiento de carril, atrajo la atención de los conductores, y sintieron que podían distraerse de lo que estaba sucediendo en la carretera sin daños. Durante las tres horas de prueba, durante las cuales se utilizaron varios sistemas automáticos de manejo, la mayoría de los conductores estaban ocupados con cosas abstractas: generalmente comían, sacaban algo del asiento trasero, hablaban por el móvil y enviaban mensajes.
Especialmente los conductores mantuvieron el auto en el carril relajado. Cuando estaba encendido, hasta el 58% de los sujetos miraban mientras movían el DVD. El 25% de los conductores leyeron, lo que aumentó el riesgo de un accidente 3.4 veces.
La atención visual de los conductores no fue mejor. La atención se dispersó, no miraron la carretera durante casi el 33% de todo el tiempo al volante. Lo que es aún más peligroso, sus ojos se distrajeron de la carretera durante mucho tiempo, es decir, durante más de 2 segundos, un promedio de 3325 veces durante un viaje de tres horas. Es cierto que tales distracciones largas tomaron solo el 8% del tiempo de prueba.
Este estudio, por supuesto, puede considerarse solo el primer paso. 12 personas son un pequeño grupo de control, se necesita más investigación. Uno de los descubrimientos interesantes fue que, aunque la mayoría de los conductores disfrutaban comiendo, mirando una película, leyendo o enviando mensajes mientras conducían, algunos pudieron resistir esta tentación. Como concluyeron los investigadores, "el trabajo mostró la existencia de grandes diferencias individuales en el tema de la distracción para actividades extrañas, lo que puede significar la influencia heterogénea de los sistemas de conducción autónomos en los diferentes conductores".
En otro estudio realizado por la Universidad de Pennsylvania, los investigadores hablaron con 30 adolescentes sobre el uso de teléfonos móviles mientras conducían. Resultó que, a pesar de la conciencia de los peligros de enviar mensajes mientras se conduce, los adolescentes lo hicieron de todos modos. Los adolescentes, que negaron por completo el uso de teléfonos mientras conducían, admitieron que estaban enviando mensajes en un semáforo esperando una señal verde. Además, los adolescentes tenían su propio sistema para determinar qué significa "enviar mensajes al volante". Por ejemplo, declararon que leer Twitter mientras se conduce no se aplica a los mensajes. Dijeron lo mismo sobre tomar fotos mientras conducía.
La atención rota es uno de los riesgos. Otro riesgo de compartir la responsabilidad de conducir entre las personas y el software es que las habilidades de conducción de las personas se degradarán con el uso poco frecuente. Los conductores aprovecharán todas las oportunidades para relajarse detrás del volante al igual que lo hicieron los pilotos de AF447. Y si una persona no ha conducido un automóvil durante varias semanas, meses o años, y de repente necesita tomar el control en una situación de emergencia, no solo no tendrá una idea de lo que está sucediendo afuera, sino que también descubrirá que sus habilidades para conducir se han oxidado.
La tentación de involucrarse en asuntos extraños o de quitar las manos del volante mientras divide las responsabilidades es un peligro tan grave que Google decidió saltarse la etapa de una transición gradual a la conducción autónoma.
El informe de la compañía de octubre de 2015 finalizó con una conclusión inesperada: en base a los primeros experimentos con sistemas parcialmente autónomos, se desarrolló una estrategia para centrarse en lograr una automatización extremadamente completa. Dice lo siguiente: “Como resultado, las pruebas nos llevaron a la necesidad de desarrollar vehículos que puedan moverse independientemente del punto A al punto B sin intervención humana. Todos piensan que es difícil hacer una máquina que se comporte sola. Y asi es. Pero nos parece que es igual de difícil hacer que la gente mantenga su atención, si están cansados, se aburren y la tecnología les dice: "No se preocupen, tengo todo bajo control ... por ahora ..."Al momento de escribir este artículo, los autos robóticos de Google tuvieron 17 accidentes menores y una colisión con un autobús a baja velocidad. En 17 incidentes, los conductores de otros automóviles resultaron ser los culpables. El 14 de febrero de 2016, el automóvil de Google tuvo el primer accidente grave, "tocando" el costado del autobús de la ciudad. Y a diferencia de casos anteriores, este error se produjo debido al software robomobile: predijo incorrectamente que si el automóvil va más lejos, el autobús se detendrá.Excepto en el caso del autobús, todos los demás incidentes ocurrieron, curiosamente, porque el robot opera muy bien. Un vehículo bien programado cumple claramente con todas las reglas, lo que confunde a las personas menos respetuosas de la ley que no están acostumbradas a seguirlas tan literalmente. Se pueden llamar ejemplos típicos de tal accidente cuando un robot robótico intentó integrarse en la corriente en la carretera o giró a la derecha en una intersección concurrida, y los conductores, sin darse cuenta de la observación exacta por la máquina de los límites de marcado y velocidad, entraron en los robots robóticos.Hasta ahora, ni un solo accidente ha provocado lesiones. En el futuro, la mejor manera de evitar colisiones será enseñarles a los robomobiles a conducir un poco más humanos, más despreocupados y un poco ilegales. A la larga, la forma más fácil es resolver el problema con los conductores reemplazándolos con una computadora que nunca se distraiga de la carretera.Los fabricantes de automóviles y los gigantes de TI se reúnen alrededor de la mesa para jugar su juego de póker de autos de alto riesgo. Todavía se desconoce a quién mentirá el mapa. Si los funcionarios venden la ley sobre la necesidad de la participación humana en la conducción, HITL será derrotado por los fabricantes de automóviles, manteniendo el control de la industria automotriz. Si la ley lo permite o incluso exige una autonomía completa de los robomobiles, las empresas de TI ganarán.Google tiene varias ventajas serias: es el líder indiscutible en el campo de los mapas digitales y el aprendizaje profundo. Desde el punto de vista de la estrategia comercial, la falta de pistas de Google en la industria automotriz puede ser su principal ventaja. El analista Kevin Routh escribe: "A diferencia del OEM, Google no se enfrenta a la amenaza de pérdida de ganancias debido a omitir los pasos intermedios en el desarrollo, inmediatamente comenzaron a crear robomóviles totalmente autónomos, y parecen tener una ventaja seria". Agregue a esto el fuerte deseo de Google de crear un nuevo canal de ganancias, independiente de la venta de publicidad en línea, actualmente la principal fuente de ingresos para la compañía.Una cosa está clara: no importa cómo ocurra la transición a los vehículos robóticos, los fabricantes de automóviles tendrán que adquirir nuevas habilidades. Para mantenerse entre los jugadores de la nueva industria para la venta de vehículos robóticos, los fabricantes de automóviles deberán dominar el difícil arte de crear IA, y esta tarea no ha estado disponible para los mejores especialistas en robótica durante muchas décadas.