Waymo está pronto para lançar um táxi sem motoristas com mínima supervisão federal
Waymo, projeto de veículo robótico do Google, planeja lançar um táxi sem motorista em Phoenix nos próximos três meses. Arizona Este não será um projeto de teste ou um golpe publicitário. Waymo planeja lançar um serviço comercial acessível ao público - sem um homem ao volante.
Até agora, a tecnologia de Waymo atraiu surpreendentemente pouca atenção de funcionários do governo, tanto na cidade de Phoenix quanto em Washington, DC
Se uma empresa quiser vender uma nova aeronave ou dispositivo médico, terá que passar por um estudo abrangente e provar sua segurança pelo regulador federal. Para os robomobiles, ainda não existem requisitos semelhantes. As leis estaduais e federais permitem que a Waymo conduza robomobiles pelas vias públicas do Arizona sem qualquer aprovação formal.
E isso não é uma supervisão. Este é o resultado de um consenso bipartidário em Washington, concluído pela visão de que uma vigilância rigorosa de veículos robóticos fará mais mal do que bem.
"Uma tarefa muito difícil"
"Se você pensa no que é necessário para uma organização governamental verificar o padrão de funcionamento do carro robótico e decidir sobre sua segurança, fica claro que essa é uma tarefa difícil", disse Ed Felten, especialista em TI de Princeton, ex-consultor de tecnologia da Casa Branca de Obama. .
O governo federal, sob Obama e Trump, não se importa particularmente com a regulamentação de veículos robóticos. Em vez de introduzir novas regras de segurança, diz Felten, as autoridades estavam tentando "garantir que as regras de segurança para os automóveis não impeçam o acesso às ruas".
Os robôs devem atender às regulamentações de segurança existentes, as “Normas Federais de Segurança para Veículos Automotores” (FMVSS). Mas, na prática, este não é um problema tão grande. Waymo planeja superá-lo simplesmente usando vans Chrysler Pacifica por seu serviço que já atendem a esses padrões.
Enquanto isso, o Congresso está considerando um projeto de lei que deve simplificar a produção de veículos robóticos que não cumprem totalmente os padrões FMVSS. Isso permitirá que a GM produza um carro sem volante no próximo ano.
Uma abordagem regulatória tão leve enfurece alguns defensores da segurança.
"Eu acho inacreditável", diz Katie Chase, chefe dos apoiadores de segurança rodoviária e automóvel, comentando uma tendência de queda.
Mary Cummings, apelidada de Missy, professora de engenharia da Universidade Duke, concorda com ela. "Acho completamente vergonhoso não exigir verificações antes de liberá-las na estrada".
Mas, por enquanto, as demandas desses ativistas permanecem desconhecidas. Em parte porque os reguladores federais não vão desacelerar a introdução de tecnologia que pode salvar muitas vidas a longo prazo. Em parte porque acreditam que os compromissos forçarão as empresas a agir com responsabilidade. Em parte porque ninguém sabe ao certo como exatamente os robomobiles podem ser efetivamente regulados.
Em termos de robomobiles, "não há acordo geral sobre o que é segurança ou como garantir isso", diz Bryant Walker Smith, estudioso de direito da Universidade da Carolina do Sul.
Em outros setores, as regras são mais rígidas
A produção de aeronaves é rigorosamente controladaPara imaginar como funciona uma plataforma robusta de regras estritas, é útil estudar como o governo federal regula outras tecnologias sofisticadas e que exigem segurança. Cummings fez isso em um trabalho recente comparando a regulamentação de aviões, dispositivos médicos e carros.
O fabricante da aeronave deve cumprir as regras da Federal Aviation Administration (FAA) na fase de planejamento da aeronave. Juntos, eles elaboram um plano que inclui "a linha do tempo do projeto, uma lista de itens necessários para avançar para as próximas fases, maneiras de atender aos requisitos, planos de teste e outras informações de gerenciamento do projeto", escreve Cummings. A FAA está envolvida em todas as etapas do processo de desenvolvimento, confirmando que os testes acordados são bem-sucedidos antes de serem autorizados a entrar no mercado.
Se a FAA está envolvida no processo desde o início, a Food and Drug Administration (FDA) normalmente espera até que o dispositivo médico esteja pronto para o teste em humanos e depois intervém.
Antes dos ensaios clínicos do primeiro dispositivo desse tipo, o fabricante deve transmitir informações técnicas detalhadas ao FDA, incluindo “descrição do dispositivo, desenhos, componentes, especificações, materiais, princípios operacionais, análise de possíveis falhas, casos de uso pretendidos, dados do paciente, instruções, avisos, requisitos para aprender a usar o dispositivo, critérios para avaliações clínicas e parâmetros de teste, resultados de testes em animais ou experiência de uso clínico anterior. ” Em seguida, o criador do dispositivo realiza testes, transfere os dados para o FDA e aguarda a aprovação da agência antes de liberar o produto no mercado.
Waymo não terá nada parecido. A empresa manteve discussões informais com autoridades nos níveis federal, estadual e local. Mas não existe um processo formal que exija que uma empresa envie informações sobre sua tecnologia e resultados de testes aos reguladores de Phoenix ou Washington. A lei simplesmente não exige que a Waymo prove que sua tecnologia robótica é segura antes de liberar veículos para a estrada.
A aprovação completa de aeronaves e dispositivos médicos é cara. Cummings diz que pode levar até oito anos para lançar um novo modelo de aeronave no mercado. Uma pesquisa com empresas que fabricam dispositivos médicos mostrou que o FDA leva, em média, quatro anos e meio para assinar uma permissão para usar um dispositivo (o processo no FDA é mais rápido do que no FAA, principalmente porque a agência não intervém no processo antes até o produto estar totalmente desenvolvido). A colocação de um dispositivo médico no mercado custa em média US $ 94 milhões.
Os defensores dos robomóveis argumentam que a desaceleração do desenvolvimento dos robomobiles pode levar à perda de mais vidas do que esse processo pode salvar. Em 2016, mais de 37.000 pessoas morreram em acidentes na rodovia, muitas das quais ocorreram devido a erro humano; portanto, os robomobiles têm o potencial de impedir milhares de mortes nos próximos anos.
Problemas de controle do robô
O carro corta o carro robótico Waymo na pista de testes do Castle, como parte dos testes de tecnologia.Mesmo os defensores da segurança, como Chase e Cummings, não significam que os carros precisem ser submetidos a verificações tão rígidas, como é o caso de aviões e equipamentos médicos. Mas eles gostariam de ver o governo assumir um papel mais ativo no teste de veículos robóticos - antes de liberá-los nas vias públicas.
Mas Ed Felten, de Princeton, se pergunta se isso é realista. Ele ressalta que existem obstáculos únicos aos julgamentos de robomobiles.
"O número de acidentes ou vítimas por quilômetro percorrido pela máquina deve ser muito, muito pequeno", diz ele. Motoristas humanos estão envolvidos em um acidente fatal a cada 100 milhões de quilômetros. Portanto, para determinar que a segurança de um robomóvel não é menor que um motorista humano, é necessário entender como ele lida com situações raras - aquelas que um motorista humano encontrará, talvez uma vez na vida.
"Entender que isso é seguro requer uma enorme quantidade de simulações e testes sob condições controladas", diz Felten. "É difícil imaginar como o governo será capaz de fazer isso."
Chase, por exemplo, defende testar a visão dos robomobiles para mostrar que "eles podem ver e reagir ao que está acontecendo na estrada". Não está claro, no entanto, quão útil isso será na prática. Essas capacidades perceptivas são, obviamente, necessárias para um carro robótico totalmente autônomo, mas estão longe de ser suficientes para provar que os programas que dirigem carros não são mais perigosos que um motorista humano.
E embora Cummings tenha me falado sobre as máquinas Waymo que "não havia testes no mundo real", isso era injusto para a empresa. No ano passado, fui a um local de testes na Califórnia, onde a empresa coloca carros em centenas de cenários controlados. Eu assisti o carro do Waymo diminuir a velocidade quando outro corta, para quando os “transportadores” jogam um monte de caixas na frente dele e deixam o carro sair do estacionamento perto da casa.
Talvez os reguladores federais pudessem ter feito testes nos quais os engenheiros da Waymo não pensaram. Mas, em geral, é difícil acreditar que eles seriam capazes de apresentar um conjunto de testes mais rigoroso do que aqueles que a empresa já está realizando no deserto da Califórnia e em outros lugares.
Como resultado, a única maneira de verificar como o robomóvel se comporta nas ruas reais com as pessoas é colocá-lo nas ruas reais com as pessoas.
Waymo poderia agir mais abertamente
É aí que os críticos de Waymo estão absolutamente certos, que a empresa não foi aberta o suficiente sobre seus testes.
De acordo com a abordagem da administração Trump, que consiste em reduzir a regulamentação, as empresas são convidadas (mas não obrigadas) a enviar um relatório detalhando as propriedades dos robomobiles relacionados à segurança. Waymo foi a primeira empresa a
enviar esse relatório este ano.
Quando falei com Katie Chase em agosto, ela falou ironicamente sobre os relatórios da Waymo e de outras montadoras. "Eles parecem mais folhetos brilhantes do que um conjunto de dados", disse ela.
"Precisamos de informações sobre a Waymo", disse Henry Jassny, advogado dos defensores da segurança nas rodovias e automóveis, logo após a publicação da Waymo no ano passado.
Waymo em uma declaração afirma que o relatório de 43 páginas na verdade fornece uma riqueza de informações sobre a segurança de seus veículos.
"Pretendemos contar ao público e aos órgãos reguladores sobre essa nova tecnologia, que, em nossa opinião, pode salvar milhares de vidas e sobre o processo meticuloso que usamos para testá-la", escreveu um representante da empresa em um email na semana passada. Ela afirma que o Relatório de Segurança Waymo "fornece uma descrição detalhada de nossos programas de teste, tanto nas seções de texto que descrevem os testes quanto nas notas que descrevem especificamente certos tipos de testes projetados especificamente para serem informativos para os reguladores e o público".
De fato, o relatório da Waymo inclui uma longa lista de cenários de teste realizados pela empresa. Waymo, por exemplo, diz que seus carros são capazes de lidar com um cenário chamado "um veículo totalmente autônomo que se aproxima de um veículo de frenagem".
Mas este relatório não incluiu informações detalhadas que permitiriam uma análise independente do processo de teste de Waymo. Quais são os parâmetros de teste exatos? Quantas vezes eles foram expulsos? Como o carro se comportou? Isso não está no relatório.
O mesmo vale para testar carros em vias públicas. Waymo passou nove milhões de quilômetros de testes nessas estradas [14 milhões de km], muitos dos quais carros dirigiam com um motorista ao volante. Mas o público tem muito pouca informação sobre como foram esses testes. Isso é especialmente verdadeiro no Arizona, no qual (ao contrário da vizinha Califórnia) as empresas que desenvolvem carros-robô não precisam enviar relatórios de testes regulares.
Por exemplo, em agosto, o recurso Information publicou
um artigo no qual estava escrito que alguns moradores de Phoenix estavam irritados com a necessidade de compartilhar estradas com carros Waymo, que geralmente se comportavam de maneira insegura, onde um motorista vivo não se comporta assim. Um morador de Mountain View postou
vários vídeos nos quais os carros da Waymo congelavam em situações que não confundiam motoristas humanos.
Essas mensagens significam que o software Waymo tem grandes problemas? Ou esses são alguns incidentes separados exagerados? É difícil dizer sem dados detalhados sobre como os robomobiles se comportam no mundo real. Waymo tem esses dados, sem dúvida; ela simplesmente não os tornou acessíveis a todos.
Pessoalmente, parece-me que Waymo acabará por confundir os críticos. A empresa começou a desenvolver veículos robóticos muito antes de outros concorrentes, por isso teve a oportunidade de avançar com calma e gradualmente para a comercialização.
Mas os ensaios são sempre mais confiáveis e completos com supervisão independente. O público tem todos os motivos para ser cético em relação a eles até que a empresa comprove a segurança de suas máquinas, fazendo o backup das palavras com dados abrangentes e análises independentes. De acordo com as leis federais e estaduais atuais, uma empresa não é obrigada a fazê-lo. Mas talvez seja do seu interesse fazê-lo.
"Se a empresa fornecer mais informações sobre como seus carros se comportam, isso será útil para ela, porque, em última análise, as pessoas precisam confiar em carros, e essa confiança pode ser obtida com a comprovação de sua segurança", diz Chase.
Se a Waymo lançar um serviço comercial sem liberar dados significativos sobre o desempenho da máquina ou impedir uma revisão independente da tecnologia, isso abrirá um precedente que permitirá que outras empresas - talvez menos conscientes - façam o mesmo.
De acordo com as regras existentes, "qualquer pessoa pode pegar um robomóvel na estrada", diz Chase. "Joe Garazhkin pode construir um carro assim, colocá-lo na estrada e, em seguida, entra em um terrível acidente."
Modelo de empresa confiável
Se uma auditoria formal no estilo da FDA falhar, o que os reguladores podem fazer? Bryant Walker Smith defende o uso do que ele chama de modelo de "empresa confiável" para regular veículos robóticos. Em vez de estabelecer padrões técnicos detalhados para veículos robóticos, diz ele, os reguladores devem se concentrar em aprovar os processos de desenvolvimento e teste de veículos robóticos para as próprias empresas.
Smith quer que "funcionários do governo digam: essas empresas merecem credibilidade?" Eles comunicam informações honestamente? Eles confirmam suas declarações? ”
"A regulamentação não é apenas regras ou endossos", observa Smith. “A regulamentação é todas as ferramentas disponíveis para os funcionários: investigações, solicitações, revogação de licenças, punição por deturpação de informações.”
Nesse modelo, os reguladores se concentrarão não na avaliação direta da tecnologia, mas em garantir que as empresas que produzem robomobiles mantenham uma cultura corporativa e um conjunto de processos que colocam a segurança em primeiro lugar. Os reguladores devem forçar as empresas a provar em detalhes a segurança de seus veículos, apoiando-a em fatos.
Waymo ainda não fez nada, pelo menos não publicamente. Desde o lançamento da empresa, há quase dois anos, enfatizou a segurança de sua tecnologia. "A segurança está no centro da missão da Waymo e de tudo o que fazemos", escreveu-me uma porta-voz da empresa.
Mas a empresa ainda não divulgou dados suficientes para corroborar suas alegações de segurança. Sabemos que Waymo registrou milhões de quilômetros percorridos nas estradas do Arizona, mas sabemos pouco sobre como seus carros se comportavam.
A Waymo precisa não apenas criar tecnologia segura, mas também convencer o público de sua segurança. Maior transparência pode ajudar isso tanto em relação à tecnologia quanto a seus testes.