Em 2014, um projeto do Google foi filmado de tal forma que já era ouvido em Detroit [uma vez - a "capital automobilística dos Estados Unidos" - aprox. transl.]. Seu último protótipo robomobile não tinha volante, nem freios. A dica era clara: os futuros carros serão completamente autônomos, não precisarão de um motorista. E ainda mais irritante foi que, em vez de remodelar o Prius ou Lexus, como o Google fez com as duas gerações anteriores de robomobiles, a empresa construiu seu próprio corpo para seu novo robomóvel com a ajuda de fornecedores de peças automotivas. E o que é mais surpreendente, o novo carro nasceu originalmente como um motorista experiente, ela já tinha 1,1 milhão de quilômetros de experiência extraídos do cérebro de protótipos anteriores. Hoje, os robomobiles têm vários anos de prática, a quilometragem total de toda a frota excede 2,1 milhões de km - isso equivale a uma pessoa que viaja 24.000 km por ano durante 90 anos.
As empresas automotivas estão investindo bilhões em desenvolvimento de software em resposta, e o epicentro da inovação automotiva mudou de Detroit para o Vale do Silício. Se os fabricantes de automóveis pudessem influenciar como é feita a transição para os robôs, eles seriam graduais. Na primeira etapa, as tecnologias de assistência ao motorista seriam testadas. No segundo, apareceriam vários modelos de luxo com movimento autônomo limitado em situações especiais, provavelmente ao longo da rodovia. Na terceira etapa, esses recursos limitados teriam vazado para carros mais baratos.
A consultoria Deloitte descreve uma abordagem tão gradual como uma abordagem incremental, “na qual as montadoras investem em novas tecnologias - por exemplo, sistemas de freios antibloqueio, estabilização eletrônica, câmeras de segurança, telemática - para gamas de carros caras e depois diminuem quando a economia começa a trabalhar. escala. Uma abordagem tão cautelosa, embora atraente, pode estar errada. A desaceleração da autonomia, adicionando gradualmente tecnologias de segurança executadas em um computador para ajudar as pessoas a dirigir, desacelerar e acelerar pode ser uma estratégia insegura a longo prazo, tanto do ponto de vista da vida humana quanto do setor automobilístico.
Uma das razões pelas quais as empresas de automóveis preferem uma abordagem gradual é porque as ajuda a manter o controle do setor. Os robôs precisam de um sistema operacional inteligente que perceba o ambiente do carro, compreenda o fluxo de dados recebidos e reaja de acordo. Criar software que possa funcionar como uma IA - em particular, trabalhar com percepção artificial - requer pessoal experiente e uma certa bagagem intelectual. As montadoras, que são muito hábeis na criação de sistemas mecânicos complexos, não têm o pessoal, a cultura e a experiência certos para se aprofundar no meio da pesquisa de IA. E o Google já está lá.
Os robomobiles trazem incerteza para a indústria automobilística. No século passado, a venda de carros diretamente aos clientes foi lucrativa. Mas se os robomobiles permitirem que os consumidores paguem por viagens, em vez de comprar carros, o negócio de vender carros universais para transportar empresas que alugam carros robóticos pode não ser mais tão lucrativo. Se os fabricantes de automóveis tiverem que trabalhar em conjunto com os desenvolvedores de software para criar robomobiles, essa parceria pode acabar no fato de que os primeiros receberão um pedaço não tão grande da torta.
A quantidade de dinheiro em questão está crescendo como um banco em um jogo de pôquer que dura a noite toda. O ex-professor da Universidade de Michigan e o CEO da GM, Larry Burns, explica que a mina de ouro está escondida nos 4,8 trilhões de quilômetros que as pessoas viajam a cada ano (apenas nos EUA). Ele diz: "Se a primeira pessoa obtiver 10% do lucro de 4,8 trilhões de quilômetros por ano e ganhar 10 centavos por milha, seu lucro anual será de US $ 30 bilhões - isso é comparável aos anos gordos da Apple e da ExxonMobil" .
As montadoras e o Google são petroleiros gigantes que, ameaçando colidir, estão lentamente se aproximando de seu destino comum: tiram mais proveito da próxima geração de veículos robóticos. As montadoras preferem uma abordagem evolutiva na qual os módulos de assistência ao motorista são desenvolvidos até que possam assumir o controle da viagem por longos períodos de tempo. O Google, por outro lado, está planejando um salto acentuado em plena autonomia.
Não apenas as montadoras preferem uma abordagem gradual. O Departamento de Transporte dos EUA e a Sociedade de Engenheiros Automotivos (SAE) já desenvolveram seus planos de autonomia. Seus estágios são um pouco diferentes, mas o que é comum neles é que a melhor maneira de se desenvolver é uma sequência de etapas graduais e lineares, quando o sistema de "assistência à direção" assume temporariamente o controle do carro, mas devolve rapidamente à pessoa assim que surge uma situação desagradável.
Discordamos da ideia de que a transição gradual é a melhor maneira de agir. Por muitas razões, humanos e robôs não devem ter sucesso um ao outro enquanto dirigem. Muitos especialistas, no entanto, acreditam que o modelo ideal é a separação do controle sobre a máquina entre uma pessoa e o software, que o motorista deve permanecer o mestre e o software deve ser o servidor. O software baseado em um paradigma no qual pessoas e máquinas trabalham juntas é conhecido pelos engenheiros como Human-in-the-loop (HITL) - “participação no processo humano”. Em muitas situações, o trabalho conjunto de homem e máquina realmente leva a excelentes resultados. Cirurgiões experientes usam manipuladores robóticos e atingem precisão desumana nas operações. Os programas HITL são usados em aeronaves comerciais modernas, bem como em aplicações industriais e militares.
Os argumentos para salvar a pessoa no processo são convincentes. Um sonho muito atraente é uma combinação complexa das melhores capacidades de uma pessoa com as melhores capacidades de uma máquina; assemelha-se a um quebra-cabeça de otimização para selecionar manualmente jogadores profissionais de futebol americano para criar um time dos sonhos. As máquinas são altamente precisas, não se cansam e são capazes de analisar. Os carros detectam perfeitamente padrões, realizam cálculos e medições. As pessoas, no entanto, são muito boas em tirar conclusões, vincular objetos ou eventos aleatórios à primeira vista e aprender com a experiência.
Em teoria, se você combinar uma pessoa com IA, poderá obter um motorista atento, sensível e extremamente experiente. De fato, a vantagem da abordagem HITL para automação é que você pode combinar os pontos fortes de pessoas e máquinas.
Na realidade, o HITL-software será capaz de trabalhar com robomobiles, se apenas cada uma das partes, pessoas e software compartilhar clara e consistentemente a responsabilidade. Infelizmente, a indústria automotiva e funcionários do Ministério dos Transportes não propuseram um modelo para a clara execução dessas responsabilidades. Em vez disso, eles propõem deixar a pessoa no processo, mas ao mesmo tempo ela terá um círculo de responsabilidades incompreensível e mutável.
No centro da estratégia de transição tranqüila está a suposição de que, no caso de uma situação inesperada, um sinal sonoro ou vibração notificará a pessoa de que ele precisa trocar rapidamente de lugar e lidar com o problema. O caminho gradual para a automação total pode parecer razoável e seguro. Mas, na prática, uma transição gradual da automação parcial para a automação total da direção será perigosa.
Em algumas situações, os carros podem trabalhar com sucesso em conjunto com as pessoas, mas não durante a condução. A principal razão pela qual o esquema HITL não é adequado para dirigir é porque dirigir é um processo muito chato e tedioso. As pessoas dão alegremente ações tediosas às máquinas e, ao mesmo tempo, renunciam voluntariamente à responsabilidade por elas.
Quando participei do treinamento de marinheiros da Marinha, aprendi uma das principais doutrinas da boa governança: nunca compartilhar tarefas críticas entre duas pessoas. Este é um erro de gerenciamento clássico, conhecido como "responsabilidade dividida". O problema com a divisão de responsabilidades é que cada pessoa envolvida na tarefa acredita que pode facilmente transferir essa tarefa para outra. Mas se nenhum deles cuidar de sua implementação, a missão falhará. Se pessoas e carros compartilham a responsabilidade de dirigir, os resultados podem ser desastrosos.
Um exemplo comovente de responsabilidade dividida entre homem e máquina é o voo 447 Air France, que
caiu no Oceano Atlântico em 2009. 228 pessoas a bordo foram mortas. Uma análise da caixa preta do avião mostrou que a causa do desastre não foi o terrorismo ou o fracasso da mecânica. A transferência do controle do piloto automático para a equipe piloto falhou.
Durante o vôo, os instrumentos necessários para o piloto automático congelaram e de repente o piloto automático desligou. A equipe de pilotos, perplexa e pouco treinada, enfrentou repentinamente a necessidade de gerenciar o que deveria ser um voo de rotina. Os pilotos, repentinamente confrontados com a responsabilidade, cometeram vários erros catastróficos, que levaram ao acidente da aeronave no mar.
No outono de 2012, vários funcionários do Google foram autorizados a pegar Lexus autônomo e andar na estrada para trabalhar. A idéia era que uma pessoa levasse Lexus para a rodovia, saísse para a estrada e, parado em uma pista, ligaria o piloto automático. Cada um dos funcionários foi avisado de que a tecnologia estava em um estágio inicial e eles deveriam ter cuidado o tempo todo. Cada carro foi equipado com uma câmera de vídeo que disparava constantemente em uma pessoa na cabine.
Os funcionários falaram sobre robomobiles estritamente positivamente. Todos descreveram as vantagens de não ter que lidar com o trânsito na hora do rush, e que eles poderiam chegar em casa frescos e descansar para passar mais tempo com suas famílias. Mas surgiram problemas depois que os engenheiros assistiram ao vídeo dos salões. Um dos funcionários se afastou completamente do volante para procurar cobrar o telefone no banco de trás. Outros se distraíram da direção e relaxaram, aproveitando seus momentos livres.
O relatório do Google descreveu a situação de separação de atenção e foi chamado de "preconceito da automação". “Vimos como a natureza humana funciona: as pessoas rapidamente começam a confiar na tecnologia depois de vê-la em funcionamento. Como resultado, é muito difícil para eles participar da direção quando são incentivados a se distrair e relaxar. ”
A convicção do Google de que não há compromisso - que as pessoas não devem compartilhar o controle com os carros - parece arriscado, mas na verdade é o caminho de desenvolvimento mais prudente do ponto de vista da segurança. A automação pode prejudicar o motorista de duas maneiras: primeiro, ofereça-o para fazer coisas que o distraem da estrada - por exemplo, lendo ou assistindo a um vídeo; em segundo lugar, violar sua consciência situacional, ou seja, a capacidade de perceber fatores ambientais críticos e de responder rápida e adequadamente a eles. Se olharmos para o motorista com atenção distraída, sem saber o que está acontecendo fora do carro, ficará claro por que dividir a responsabilidade pela direção é uma idéia tão terrível.
Um estudo da Virgin University of Technology quantificou a tentação das pessoas que surgem quando a tecnologia sugere que elas facilitam a conclusão de uma tarefa tediosa. Os pesquisadores testaram 12 motoristas em uma pista de teste. Cada carro tinha dois tipos de software que ajudavam o motorista: um centralizava o carro na pista, o outro controlava os freios e o táxi - o que é chamado de controle de cruzeiro adaptativo. O objetivo do estudo era medir a reação das pessoas às tecnologias que cuidam de manter o carro na pista, apoiando a velocidade e controlando os freios. Para fazer isso, um conjunto de dispositivos foi instalado em cada carro que coleta dados e registra o que está acontecendo.
Os pesquisadores contrataram 12 pessoas de 25 a 34 anos de idade, residentes de Detroit, oferecendo US $ 80 cada para participar do projeto. Os motoristas foram solicitados a fingir que estavam viajando longas distâncias, e não apenas os encorajaram a levar telefones celulares com eles, mas também lhes proporcionaram uma escolha de materiais impressos, alimentos, bebidas e dispositivos de entretenimento. Eles explicaram aos motoristas que um dos membros da equipe de pesquisa iria com cada um deles. Eles foram informados de que o passageiro terá alguns “trabalhos de casa” com os quais ele estará ocupado durante a viagem; portanto, na maioria das vezes, ele assiste a um DVD.
12 indivíduos dirigiram o carro na pista de teste, e suas reações e ações foram medidas e registradas. Os pesquisadores estabelecem o objetivo de medir a tentação de se distrair com atividades externas, como comer, ler ou assistir a um vídeo, e o grau em que a atenção do motorista é desviada da estrada quando o software assume a maioria das responsabilidades. Em outras palavras, os pesquisadores verificaram se a tecnologia de direção automática do motorista levaria a ações inseguras, como desviar o processo de condução, lições de direção inadequadas, perda da percepção total do que estava acontecendo e a capacidade de reconhecer fatores críticos em seu ambiente.
Aconteceu que a maioria dos motoristas, na presença da tecnologia de direção automática, embarcou de bom grado nos três tipos de violações ao volante. A "lição de casa", que supostamente foi realizada pelo pesquisador de passageiros, juntamente com o sistema de controle de cruzeiro adaptável e sistema de faixa de rodagem, atraiu a atenção dos motoristas, e eles acharam que poderiam se distrair do que estava acontecendo na estrada sem causar danos. Durante as três horas de testes, durante as quais vários sistemas automáticos de direção foram usados, a maioria dos motoristas estava ocupada com coisas abstratas - geralmente comiam, pegavam algo no banco de trás, conversavam no celular e enviavam mensagens.
Especialmente os motoristas mantiveram o carro na pista relaxado. Quando ligado, 58% das pessoas assistiram enquanto moviam o DVD. 25% dos motoristas leram, o que aumentou o risco de um acidente 3,4 vezes.
A atenção visual dos motoristas não foi melhor. A atenção foi espalhada, eles não olharam para a estrada por quase 33% do tempo todo dirigindo. O que é ainda mais perigoso, seus olhos foram distraídos da estrada por um longo tempo, ou seja, por mais de 2 segundos, uma média de 3325 vezes durante uma viagem de três horas. É verdade que essas distrações demoravam apenas 8% do tempo de teste.
Este estudo, é claro, pode ser considerado apenas o primeiro passo. 12 pessoas são um pequeno grupo de controle, são necessárias mais pesquisas. Uma das descobertas interessantes foi que, embora a maioria dos motoristas gostasse de comer, assistir a um filme, ler ou enviar mensagens enquanto dirigia, alguns conseguiram resistir a essa tentação. Como concluíram os pesquisadores, "o trabalho mostrou a existência de grandes diferenças individuais na questão da distração para atividades estranhas, o que pode significar a influência heterogênea de sistemas de direção autônomos em diferentes condutores".
Em outro estudo realizado pela Universidade da Pensilvânia, os pesquisadores conversaram com 30 adolescentes sobre o uso de telefones celulares enquanto dirigia. Aconteceu que, apesar da consciência dos perigos de enviar mensagens enquanto dirigia, os adolescentes fizeram isso de qualquer maneira. Os adolescentes, que negaram completamente o uso de telefones enquanto dirigiam, admitiram que estavam enviando mensagens no semáforo à espera de um sinal verde. Além disso, os adolescentes tinham seu próprio sistema para determinar o que significa "enviar mensagens ao volante". Por exemplo, eles declararam que ler o Twitter enquanto dirige não se aplica a mensagens. Eles disseram a mesma coisa sobre tirar fotos enquanto dirigia.
Atenção quebrada é um dos riscos. Outro risco de compartilhar a responsabilidade de dirigir entre pessoas e software é que as habilidades de condução das pessoas serão prejudicadas pelo uso raro. Os motoristas terão todas as chances de relaxar ao volante, como fizeram os pilotos do AF447. E se uma pessoa não dirige um carro por várias semanas, meses ou anos e, de repente, precisa assumir o controle em uma situação de emergência, ela não apenas não tem uma idéia do que está acontecendo lá fora, mas também descobre que suas habilidades de condução estão enferrujadas.
A tentação de se envolver em assuntos estranhos ou tirar as mãos do volante enquanto divide responsabilidades é um perigo tão sério que o Google decidiu pular o estágio de uma transição gradual para a direção autônoma. O relatório da empresa de outubro de 2015 terminou com uma conclusão inesperada: com base nos primeiros experimentos com sistemas parcialmente autônomos, uma estratégia foi desenvolvida para se concentrar em alcançar uma automação extremamente completa. Diz o seguinte: “Como resultado, os testes nos levaram à necessidade de desenvolver veículos que possam se mover independentemente do ponto A ao ponto B sem intervenção humana. Todo mundo acha difícil fazer uma máquina que se comporte sozinha. E assim é. Mas parece-nos que é tão difícil conseguir que as pessoas mantenham sua atenção, se estão cansadas, entediadas, e a tecnologia lhes diz: "Não se preocupe, tenho tudo sob controle ... por enquanto ..."
No momento da redação deste artigo, os carros robóticos do Google tinham 17 acidentes menores e uma colisão com um ônibus em baixa velocidade. Em 17 incidentes, os motoristas de outros carros foram os culpados. Em 14 de fevereiro de 2016, o carro do Google entrou no primeiro acidente grave, "tocando" na lateral do ônibus da cidade. E, diferentemente dos casos anteriores, esse erro ocorreu devido ao software robomobile - previu incorretamente que, se o carro for mais longe, o ônibus irá parar.Exceto no caso do ônibus, todos os outros incidentes ocorreram, curiosamente, porque o robomóvel dirige muito bem. Um veículo bem programado cumpre claramente todas as regras, o que confunde menos pessoas que cumprem as leis que não estão acostumadas a segui-las de maneira tão literal. Exemplos típicos de um acidente desse tipo podem ser chamados quando um robomóvel tentou integrar-se ao fluxo na estrada ou virar à direita em um cruzamento movimentado, e os motoristas, sem perceber a exata observação da marcação pela máquina e pelos limites de velocidade, entraram nos robomobiles.Até agora, nenhum acidente levou a ferimentos. No futuro, a melhor maneira de evitar colisões será ensinar os robomobiles a dirigir um pouco mais humano, mais despreocupado e um pouco ilegal. A longo prazo, a maneira mais fácil é resolver o problema dos motoristas, substituindo-os por um computador que nunca se distrai da estrada.Montadoras e gigantes de TI se reúnem em volta da mesa para jogar seu jogo de pôquer de carros de alto risco. Ainda não se sabe a quem o mapa estará. Se os funcionários venderem a lei sobre a necessidade de envolvimento humano na direção, o HITL será derrotado pelas montadoras, mantendo o controle da indústria automotiva. Se a lei permitir ou exigir total autonomia dos robomobiles, as empresas de TI vencerão.O Google tem várias vantagens sérias - é o líder incontestável no campo de mapas digitais e aprendizado profundo. Do ponto de vista da estratégia de negócios, a falta de pistas do Google na indústria automotiva pode ser sua principal vantagem. O analista Kevin Routh escreve: "Ao contrário do OEM, o Google não enfrenta a ameaça de perda de lucro devido a pular as etapas intermediárias no desenvolvimento, eles imediatamente começaram a criar robomobiles completamente autônomos e parecem ter uma vantagem séria". Adicione a isso o forte desejo do Google de criar um novo canal de lucro, independente da venda de publicidade on-line - atualmente a principal fonte de receita da empresa.Uma coisa é clara: não importa como ocorra a transição para veículos robóticos, os fabricantes de automóveis terão que adquirir novas habilidades. Para permanecer entre os participantes do novo setor na venda de veículos robóticos, as montadoras precisarão dominar a difícil arte de criar IA - e essa tarefa permaneceu indisponível para os melhores especialistas em robótica por muitas décadas.