En 2014, un projet de Google a tourné de telle manière qu'il a déjà été entendu à Détroit [une fois - la "capitale automobile des États-Unis" - env. trad.]. Son dernier prototype de robomobile n'avait ni volant, ni freins. L'astuce était claire: les futures voitures seront complètement autonomes, elles n'auront pas besoin de chauffeur. Et encore plus ennuyeux, c'est qu'au lieu de remodeler la Prius ou Lexus, comme Google l'a fait avec les deux générations précédentes de robomobiles, la société a construit son propre corps pour sa nouvelle robomobile avec l'aide de fournisseurs de pièces automobiles. Et ce qui est le plus surprenant, la nouvelle voiture est née à l'origine d'un pilote expérimenté, elle avait déjà 1,1 million de km d'expérience extraite du cerveau des prototypes précédents. Aujourd'hui, les robomobiles ont plusieurs années de pratique, le kilométrage total de toute la flotte dépasse 2,1 millions de km - c'est l'équivalent d'une personne qui parcourt 24 000 km par an pendant 90 ans.
Les entreprises automobiles investissent des milliards dans le développement de logiciels en réponse, et l'épicentre de l'innovation automobile est passé de Détroit à la Silicon Valley. Si les constructeurs automobiles pouvaient influer sur la façon dont la transition vers les voitures robotisées est effectuée, ils la rendraient progressive. À la première étape, les technologies d'aide à la conduite seraient testées. Sur le second, il apparaîtrait plusieurs modèles de luxe avec un mouvement autonome limité dans des situations spéciales, très probablement le long de l'autoroute. Dans la troisième étape, ces capacités limitées auraient fui vers des voitures moins chères.
Le cabinet de conseil Deloitte décrit une approche graduelle comme une approche progressive, «dans laquelle les constructeurs automobiles investissent dans de nouvelles technologies - par exemple, les systèmes de freinage antiblocage, la stabilisation électronique, les caméras de sécurité, la télématique - pour des gammes de voitures chères, puis diminuent lorsque l'économie commence à fonctionner. échelle. Une telle approche prudente, bien qu'attrayante, peut être erronée. Ralentir vers l'autonomie en ajoutant progressivement des technologies de sécurité qui s'exécutent sur un ordinateur pour aider les gens à diriger, ralentir et accélérer peut être une stratégie dangereuse à long terme, tant du point de vue de la vie humaine que du point de vue de l'industrie automobile.
L'une des raisons pour lesquelles les constructeurs automobiles préfèrent une approche progressive est qu'elle leur permet de garder le contrôle de l'industrie. Les robots ont besoin d'un système d'exploitation intelligent qui perçoit l'environnement de la voiture, comprend le flux de données entrant et réagit en conséquence. La création de logiciels pouvant fonctionner comme une IA - en particulier, travailler avec une perception artificielle - nécessite un personnel expérimenté et un certain bagage intellectuel. Les constructeurs automobiles, qui ont été très qualifiés pour créer des systèmes mécaniques complexes, n'ont pas le personnel, la culture et l'expérience nécessaires pour se plonger efficacement dans le fourré de la recherche en IA. Et Google est déjà là.
Les robots motorisés créent de l'incertitude dans l'industrie automobile. Au cours du siècle dernier, la vente de voitures directement aux clients a été rentable. Mais si les robots permettent aux consommateurs de payer leurs déplacements plutôt que d'acheter des voitures, alors la vente de voitures universelles aux entreprises de transport louant des voitures robotisées pourrait ne plus être aussi rentable. Si les constructeurs automobiles doivent travailler avec des développeurs de logiciels pour créer des robots, un tel partenariat pourrait aboutir au fait que le premier obtiendra un morceau pas si gros du gâteau.
La somme d'argent en question croît comme une banque dans un jeu de poker qui dure toute la nuit. L'ancien professeur de l'Université du Michigan et PDG de GM, Larry Burns, explique que la mine d'or est cachée dans les 4 800 milliards de kilomètres parcourus chaque année (aux États-Unis uniquement). Il dit: «Si la première personne obtient 10% des bénéfices de 4 800 milliards de kilomètres par an et fait 10 cents par mile, son bénéfice annuel sera de 30 milliards de dollars - ce qui est comparable aux grosses années d'Apple et d'ExxonMobil» .
Les constructeurs automobiles et Google sont des pétroliers géants qui, menaçant de heurter, approchent lentement de leur destination commune: tirer davantage de profit de la prochaine génération de véhicules robotisés. Les constructeurs automobiles préfèrent une approche évolutive dans laquelle des modules d'aide à la conduite sont développés jusqu'à ce qu'ils puissent prendre le contrôle de la conduite pendant de longues périodes. Google, en revanche, prévoit un bond en avant vers la pleine autonomie.
Non seulement les constructeurs automobiles préfèrent une approche progressive. Le département américain des transports et la Society of Automotive Engineers (SAE) ont déjà élaboré leurs plans d'autonomie. Leurs étapes sont légèrement différentes, mais ce qui leur est commun, c'est que la meilleure façon de se développer est une séquence d'étapes linéaires progressives, lorsque le système «d'aide à la conduite» prend temporairement le contrôle de la voiture, mais la rend rapidement à la personne dès qu'une situation désagréable se présente.
Nous ne sommes pas d'accord avec l'idée que la transition progressive est la meilleure façon d'agir. Pour de nombreuses raisons, les humains et les robots ne devraient pas se succéder au volant. Cependant, de nombreux experts estiment que le modèle optimal est la séparation du contrôle de la machine entre une personne et un logiciel, que le conducteur doit rester le maître et que le logiciel doit être le serviteur. Un logiciel basé sur un paradigme dans lequel les personnes et les machines travaillent ensemble est connu des ingénieurs sous le nom de Human-in-the-loop (HITL) - «participation au processus humain». Dans de nombreuses situations, le travail conjoint de l'homme et de la machine donne vraiment d'excellents résultats. Les chirurgiens expérimentés utilisent des manipulateurs robotiques et atteignent une précision inhumaine dans les opérations. Les programmes HITL sont utilisés sur des avions commerciaux modernes, ainsi que dans des applications industrielles et militaires.
Les arguments pour sauver la personne dans le processus sont convaincants. Un rêve très attrayant est une combinaison complexe des meilleures capacités d'une personne avec les meilleures capacités d'une machine; il ressemble à un puzzle d'optimisation pour sélectionner manuellement des joueurs de football américain professionnels pour créer une équipe de rêve. Les machines sont très précises, ne se fatiguent pas et sont capables d'analyser. Les voitures détectent parfaitement les modèles, effectuent des calculs et des mesures. Cependant, les gens sont très bons pour tirer des conclusions, relier des objets ou des événements aléatoires à première vue et apprendre de l'expérience.
En théorie, si vous combinez une personne avec l'IA, vous pouvez obtenir un conducteur attentif, sensible et extrêmement expérimenté. En effet, l'avantage de l'approche HITL de l'automatisation est que vous pouvez combiner les forces des personnes et des machines.
En réalité, le logiciel HITL sera en mesure de travailler avec des robots, si seulement chacune des parties, des personnes et des logiciels, partage clairement et systématiquement la responsabilité. Malheureusement, l'industrie automobile et les fonctionnaires du ministère des Transports n'ont pas proposé de modèle pour une exécution claire de ces responsabilités. Au lieu de cela, ils proposent de laisser la personne dans le processus, mais en même temps, il aura un cercle de responsabilités incompréhensible et changeant.
Au centre de la stratégie de transition en douceur se trouve l'hypothèse qu'en cas de situation inattendue, un signal sonore ou une vibration avertira la personne dont elle a besoin pour changer rapidement de siège et régler le problème. Le chemin graduel vers une automatisation complète peut sembler raisonnable et sûr. Mais en pratique, une transition progressive d'une automatisation partielle à une automatisation complète de la conduite sera dangereuse.
Dans certaines situations, les voitures peuvent fonctionner avec succès avec les gens, mais pas en conduisant. La principale raison pour laquelle le programme HITL n'est pas adapté à la conduite est que la conduite est un processus très ennuyeux et fastidieux. Les gens donnent volontiers des actions fastidieuses aux machines et en même temps se déchargent volontiers de leur responsabilité.
Lorsque j'ai participé à la formation de marins dans la Marine, j'ai appris l'une des doctrines clés de la bonne gouvernance: ne jamais partager de tâches critiques entre deux personnes. Il s'agit d'une erreur de gestion classique, appelée «responsabilité partagée». Le problème du partage des responsabilités est que chaque personne impliquée dans la tâche croit pouvoir facilement transférer cette tâche à une autre. Mais si aucun d'entre eux ne s'occupe de sa mise en œuvre, la mission échoue. Si les gens et les voitures partagent la responsabilité de la conduite, les résultats peuvent être désastreux.
Un exemple déchirant de la responsabilité partagée entre l'homme et la machine est le vol 447 d'Air France, qui
est tombé dans l'océan Atlantique en 2009. 228 personnes à bord ont été tuées. Une analyse de la boîte noire de l'avion a montré que la cause de la catastrophe n'était pas le terrorisme ou la défaillance des mécaniciens. Le transfert de contrôle du pilote automatique à l'équipe de pilotes a échoué.
En vol, les instruments nécessaires au fonctionnement du pilote automatique se sont figés et le pilote automatique s'est soudainement arrêté. L'équipe de pilotes, déconcertée et peu entraînée depuis longtemps, a soudainement dû gérer ce qui devait être un vol de routine. Les pilotes, soudainement confrontés à des responsabilités, ont commis plusieurs erreurs catastrophiques, qui ont provoqué l'écrasement de l'avion en mer.
À l'automne 2012, plusieurs employés de Google ont été autorisés à prendre une Lexus autonome et à rouler sur l'autoroute pour se rendre au travail. L'idée était qu'une personne conduise Lexus sur l'autoroute, prenne la route et, se tenant dans une voie, allume le pilote automatique. Chacun des employés a été averti que la technologie en était à ses débuts et ils devraient être prudents tout le temps. Chaque voiture était équipée d'une caméra vidéo qui tirait constamment sur une personne dans la cabine.
Les employés ont parlé des robomobiles de manière strictement positive. Chacun a décrit les avantages de ne pas avoir à faire face à la circulation aux heures de pointe et de pouvoir rentrer à la maison frais et reposés pour passer plus de temps avec sa famille. Mais des problèmes sont survenus après que les ingénieurs ont regardé la vidéo depuis les salons. Un des employés s'est complètement détourné du volant pour chercher à recharger le téléphone sur le siège arrière. D'autres distraient de la conduite et se détendent, profitant de leurs moments libres.
Le rapport de Google décrit la situation de séparation de l'attention, et il a été appelé le "biais de l'automatisation". «Nous avons vu comment la nature humaine fonctionne: les gens commencent très rapidement à faire confiance à la technologie après l'avoir vue au travail. En conséquence, il leur est très difficile de participer à la conduite lorsqu'ils sont encouragés à s'en distraire et à se détendre. »
La conviction de Google qu'il n'y a pas de compromis - que les gens ne devraient pas partager le contrôle avec les voitures - semble risquée, mais c'est en fait la voie de développement la plus prudente d'un point de vue de la sécurité. L'automatisation peut nuire au conducteur de deux manières: premièrement, proposez-lui de faire des choses qui le distraient de la route - par exemple, lire ou regarder une vidéo; deuxièmement, violer sa conscience de la situation, c'est-à-dire la capacité de percevoir les facteurs environnementaux critiques et d'y répondre rapidement et adéquatement. Si nous regardons le conducteur avec une attention distraite, ne sachant pas ce qui se passe à l'extérieur de la voiture, il deviendra clair pourquoi partager la responsabilité de la conduite est une si terrible idée.
Une étude à la Virgin University of Technology a quantifié la tentation des gens qui survient lorsque la technologie suggère qu'ils facilitent la réalisation d'une tâche ennuyeuse. Les chercheurs ont testé 12 pilotes sur une piste d'essai. Chaque voiture avait deux types de logiciels qui aidaient le conducteur: l'un centrait la voiture sur la voie, l'autre contrôlait les freins et le roulage - ce qu'on appelle le régulateur de vitesse adaptatif. L'objectif de l'étude était de mesurer les réactions des gens aux technologies qui permettent de garder la voiture dans la voie, de soutenir la vitesse et de contrôler les freins. Pour ce faire, un ensemble d'appareils a été installé dans chaque voiture qui collecte des données et enregistre ce qui se passe.
Les chercheurs ont embauché 12 personnes de 25 à 34 ans parmi des résidents ordinaires de Détroit, offrant 80 $ chacun pour leur participation au projet. On a demandé aux conducteurs de faire semblant de voyager sur de longues distances et non seulement les a encouragés à prendre des téléphones portables avec eux, mais leur a également fourni un choix de documents imprimés, de nourriture, de boissons et d'appareils de divertissement. Ils ont expliqué aux chauffeurs qu'un des membres de l'équipe de recherche irait avec chacun d'eux. On leur a dit que leur passager aurait des «devoirs» dont il s'occuperait pendant le voyage, donc la plupart du temps il regardait un DVD.
12 sujets ont conduit la voiture sur la piste d'essai, et leurs réactions et actions ont été mesurées et enregistrées. Les chercheurs se sont fixé pour objectif de mesurer à la fois la tentation de se laisser distraire par des activités extérieures telles que manger, lire ou regarder une vidéo, et le degré auquel l'attention du conducteur est détournée de la route lorsque le logiciel assume la plupart des responsabilités. En d'autres termes, les chercheurs ont vérifié si la technologie de conduite automatique du conducteur conduirait à des actions dangereuses telles que distraire du processus de conduite, des leçons de conduite inappropriées, une perte de perception complète de ce qui se passait et la capacité de reconnaître les facteurs critiques de leur environnement.
Il s'est avéré que la plupart des conducteurs en présence de la technologie de conduite automatique se sont heurtés volontiers aux trois types de violations au volant. Les «devoirs», qui auraient été effectués par le chercheur sur les passagers, ainsi que le régulateur de vitesse adaptatif et le système de suivi de voie, ont bercé l'attention des conducteurs et ils ont estimé qu'ils pouvaient se distraire de ce qui se passait sur la route sans danger. Pendant les trois heures de test, au cours desquelles divers systèmes de conduite automatique ont été utilisés, la plupart des conducteurs étaient occupés à des choses abstraites - ils mangeaient généralement, prenaient quelque chose sur le siège arrière, parlaient sur le mobile et envoyaient des messages.
Surtout les pilotes ont gardé la voiture dans la voie détendue. Lorsqu'il était allumé, jusqu'à 58% des sujets regardaient en déplaçant le DVD. 25% des conducteurs lisent, ce qui augmente le risque d'accident 3,4 fois.
L'attention visuelle des conducteurs n'était pas meilleure. L'attention était dispersée, ils n'ont pas regardé la route pendant près de 33% du temps au volant. Ce qui est encore plus dangereux, leurs yeux ont été distraits de la route pendant longtemps, c'est-à-dire pendant plus de 2 secondes, en moyenne 3325 fois au cours d'un voyage de trois heures. Certes, ces longues distractions ne prenaient que 8% du temps de test.
Bien entendu, cette étude ne peut être considérée que comme la première étape. 12 personnes sont un petit groupe témoin, plus de recherche est nécessaire. L'une des découvertes intéressantes a été que, même si la plupart des conducteurs aimaient manger, regarder un film, lire ou envoyer des messages en conduisant, certains ont pu résister à cette tentation. Comme les chercheurs l'ont conclu, «les travaux ont montré la présence de grandes différences individuelles dans la question de la distraction pour les activités étrangères, ce qui peut signifier l'influence hétérogène des systèmes de conduite autonomes sur différents conducteurs».
Dans une autre étude menée par l'Université de Pennsylvanie, des chercheurs ont parlé à 30 adolescents de l'utilisation de téléphones portables au volant. Il s'est avéré que, malgré la prise de conscience des dangers d'envoyer des messages au volant, les adolescents l'ont quand même fait. Les adolescents, qui ont complètement nié l'utilisation du téléphone au volant, ont admis qu'ils envoyaient des messages à un feu de signalisation en attendant un signal vert. De plus, les adolescents avaient leur propre système pour déterminer ce que signifie «envoyer des messages au volant». Par exemple, ils ont déclaré que la lecture de Twitter en conduisant ne s'applique pas à la messagerie. Ils ont dit la même chose à propos de la prise de photos en conduisant.
Une attention brisée est l'un des risques. Un autre risque de partager la responsabilité de la conduite entre les personnes et les logiciels est que les compétences de conduite des personnes seront dégradées par une utilisation rare. Les pilotes auront toutes les chances de se détendre derrière le volant, tout comme les pilotes de l'AF447. Et si une personne n'a pas conduit de voiture depuis plusieurs semaines, mois ou années, et qu'elle a soudainement besoin de prendre le contrôle dans une situation d'urgence, non seulement elle n'aura pas une idée de ce qui se passe à l'extérieur, mais elle trouvera également que ses compétences de conduite ont rouillé.
La tentation de s'engager dans des affaires étrangères ou de retirer les mains du volant tout en partageant les responsabilités est un danger si sérieux que Google a décidé de sauter l'étape d'une transition progressive vers la conduite autonome. Le rapport de la société d'octobre 2015 s'est terminé par une conclusion inattendue: sur la base d'expériences précoces avec des systèmes partiellement autonomes, une stratégie a été développée pour se concentrer sur la réalisation d'une automatisation extrêmement complète. Il dit ce qui suit: «En conséquence, les tests nous ont amenés à la nécessité de développer des véhicules qui peuvent se déplacer indépendamment du point A au point B sans intervention humaine. Tout le monde pense qu'il est difficile de fabriquer une machine qui se comporte d'elle-même. Et il en est ainsi. Mais il nous semble qu'il est tout aussi difficile d'amener les gens à garder leur attention, s'ils sont fatigués, ils s'ennuient, et la technologie leur dit: "Ne vous inquiétez pas, j'ai tout sous contrôle ... pour l'instant ..." "
Au moment d'écrire ces lignes, les voitures robotisées de Google ont eu 17 accidents mineurs et une collision avec un bus à basse vitesse. Dans 17 incidents, les conducteurs d'autres voitures se sont avérés être les coupables. Le 14 février 2016, la voiture Google est entrée dans le premier accident grave, «touchant» le côté du bus de la ville. Et contrairement aux cas précédents, cette erreur s'est produite en raison du logiciel de robotique - il a prédit à tort que si la voiture va plus loin, le bus s'arrêtera.Sauf dans le cas de l'autobus, tous les autres incidents se sont produits, curieusement, parce que le robot se déplace trop bien. Un véhicule bien programmé respecte clairement toutes les règles, ce qui déroute les personnes moins respectueuses des lois qui ne sont pas habituées à les suivre si littéralement. Des exemples typiques d'un tel accident peuvent être cités lorsqu'un robot motorisé a tenté de s'intégrer dans le cours d'eau sur l'autoroute ou de tourner à droite à une intersection achalandée, et que les conducteurs, ne réalisant pas le respect exact du marquage par la machine et les limites de vitesse, ont pénétré dans les robots motorisés.Jusqu'à présent, aucun accident n'a fait de blessés. À l'avenir, la meilleure façon d'éviter les collisions sera d'enseigner aux robots à conduire un peu plus humain, plus insouciant et un peu illégal. À long terme, le moyen le plus simple est de résoudre le problème des conducteurs en les remplaçant par un ordinateur qui ne se distrait jamais de la route.Les constructeurs automobiles et les géants de l'informatique se réunissent autour de la table pour jouer à leur jeu de poker automobile à enjeux élevés. On ne sait toujours pas à qui la carte appartiendra. Si les autorités vendent la loi sur la nécessité d'une implication humaine dans la conduite, HITL sera vaincu par les constructeurs automobiles, tout en conservant le contrôle de l'industrie automobile. Si la loi permet ou même exige une autonomie complète par rapport aux robots, les sociétés informatiques gagneront.Google présente plusieurs avantages importants: il est le leader incontesté dans le domaine des cartes numériques et du deep learning. Du point de vue de la stratégie commerciale, le manque d'indices de Google dans l'industrie automobile pourrait être son principal avantage. L'analyste Kevin Routh écrit: "Contrairement aux OEM, Google ne fait pas face à la menace de perte de profit en sautant les étapes intermédiaires du développement, ils ont immédiatement commencé à créer des robots motorisés complètement autonomes, et ils semblent avoir une sérieuse longueur d'avance." Ajoutez à cela la forte volonté de Google de créer un nouveau canal de profit, indépendant de la vente de publicité en ligne - actuellement la principale source de revenus de l'entreprise.Une chose est claire: quelle que soit la transition vers les véhicules robotisés, les constructeurs automobiles devront acquérir de nouvelles capacités. Pour rester parmi les acteurs de la nouvelle industrie de la vente de véhicules robotisés, les constructeurs automobiles devront maîtriser l'art difficile de créer l'IA - et cette tâche est restée inaccessible aux meilleurs spécialistes de la robotique depuis de nombreuses décennies.