Waymo siap meluncurkan taksi tanpa pengemudi dengan pengawasan federal yang minimal
Waymo, proyek kendaraan robot Google, berencana untuk meluncurkan taksi tanpa pengemudi di Phoenix dalam tiga bulan ke depan. Arizona Ini bukan proyek percobaan atau aksi publisitas. Waymo berencana untuk meluncurkan layanan komersial yang dapat diakses publik - tanpa seorang pria di belakang kemudi.
Dan sejauh ini, teknologi Waymo secara mengejutkan menarik sedikit perhatian dari pejabat pemerintah, baik di kota Phoenix maupun di Washington, DC.
Jika sebuah perusahaan ingin menjual pesawat terbang baru atau alat kesehatan, ia harus menjalani studi komprehensif dan membuktikan keamanannya oleh regulator federal. Untuk robomobiles, belum ada persyaratan serupa. Undang-undang negara bagian dan federal mengizinkan Waymo untuk mengendarai robomobiles ke jalan umum Arizona tanpa persetujuan resmi.
Dan ini bukan kekhilafan. Ini adalah hasil dari konsensus bipartisan di Washington, disimpulkan oleh pandangan bahwa pengawasan ketat terhadap kendaraan robot akan lebih banyak membahayakan daripada kebaikan.
"Tugas yang sangat sulit"
"Jika Anda berpikir tentang apa yang diperlukan organisasi pemerintah untuk memverifikasi pola kerja kendaraan robot dan memutuskan keamanannya, jelas bahwa ini adalah tugas yang sulit," kata Ed Felten, seorang spesialis IT di Princeton, mantan penasihat teknologi di Gedung Putih di bawah Obama. .
Pemerintah federal, di bawah Obama dan Trump, tidak terlalu peduli tentang pengaturan kendaraan robot. Alih-alih memperkenalkan aturan baru untuk keselamatan, Felten mengatakan, para pejabat mencoba untuk "memastikan bahwa aturan keselamatan untuk kendaraan robot tidak menghalangi akses mereka ke jalan-jalan."
Robomobiles harus memenuhi peraturan keselamatan yang ada, "Standar Keselamatan Kendaraan Bermotor Federal" (FMVSS). Namun dalam praktiknya ini bukan masalah besar. Waymo berencana untuk mengatasinya hanya dengan menggunakan van Chrysler Pacifica untuk layanannya yang sudah memenuhi standar ini.
Sementara itu, Kongres sedang mempertimbangkan RUU yang harus menyederhanakan produksi kendaraan robot yang tidak sepenuhnya memenuhi standar FMVSS. Ini akan memungkinkan GM untuk menghasilkan mobil tanpa setir tahun depan.
Pendekatan pengaturan yang ringan seperti itu membuat marah beberapa pendukung keamanan.
"Saya pikir itu tidak bisa dipercaya," kata Katie Chase, kepala Highway dan Car Safety Supporters, mengomentari tren menurun.
Mary Cummings, dijuluki Missy, seorang profesor teknik di Universitas Duke, setuju dengannya. "Saya pikir benar-benar tidak tahu malu untuk tidak menuntut cek sebelum melepaskannya di jalan."
Tetapi untuk saat ini, tuntutan dari para aktivis ini tetap tidak terdengar. Sebagian karena regulator federal tidak akan memperlambat pengenalan teknologi yang dapat menyelamatkan banyak nyawa dalam jangka panjang. Sebagian karena mereka percaya bahwa komitmen akan memaksa perusahaan untuk bertindak secara bertanggung jawab. Sebagian karena tidak ada yang yakin bagaimana tepatnya robomobiles dapat diatur secara efektif.
Dalam hal robomobiles, "tidak ada kesepakatan umum tentang apa keamanan itu atau bagaimana cara memastikannya," kata Bryant Walker Smith, seorang sarjana hukum di University of South Carolina.
Di industri lain, aturannya lebih ketat
Produksi pesawat sangat terkontrolUntuk membayangkan bagaimana platform yang kuat dari aturan ketat bekerja, penting untuk mempelajari bagaimana pemerintah federal mengatur teknologi canggih dan keamanan lainnya. Cummings melakukan ini dalam sebuah karya terbaru yang membandingkan peraturan pesawat terbang, peralatan medis, dan mobil.
Pabrikan pesawat harus mematuhi aturan Administrasi Penerbangan Federal (FAA) pada tahap perencanaan pesawat. Bersama-sama mereka menyusun rencana yang mencakup "garis waktu proyek, daftar item yang diperlukan untuk pindah ke fase berikutnya, cara untuk memenuhi persyaratan, rencana pengujian, dan informasi manajemen proyek lainnya," tulis Cummings. FAA terlibat dalam semua tahap proses pengembangan, mengkonfirmasikan bahwa tes yang disepakati berhasil sebelum diizinkan memasuki pasar.
Jika FAA telah terlibat dalam proses sejak awal, Food and Drug Administration (FDA) biasanya menunggu sampai perangkat medis siap untuk pengujian manusia dan kemudian campur tangan.
Sebelum uji klinis perangkat pertama dari jenisnya, pabrikan harus mengirimkan informasi teknis terperinci ke FDA, termasuk “deskripsi perangkat, gambar, komponen, spesifikasi, bahan, prinsip operasi, analisis kegagalan potensial, kasus yang akan digunakan, data pasien, instruksi, peringatan, persyaratan untuk mempelajari cara menggunakan perangkat, kriteria untuk evaluasi klinis dan parameter uji, hasil uji hewan atau pengalaman penggunaan klinis sebelumnya. " Kemudian pencipta perangkat melakukan tes, mentransfer data ke FDA, dan menunggu persetujuan agensi sebelum merilis produk ke pasar.
Waymo tidak akan memiliki yang seperti itu. Perusahaan mengadakan diskusi informal dengan para pejabat di tingkat federal, negara bagian, dan lokal. Tetapi tidak ada proses formal yang mengharuskan perusahaan untuk mengirim informasi tentang teknologinya dan hasil pengujian kepada regulator dari Phoenix atau Washington. Undang-undang tidak mengharuskan Waymo untuk membuktikan bahwa teknologi robotnya aman sebelum melepaskan kendaraan ke jalan.
Persetujuan menyeluruh atas pesawat terbang dan peralatan medis mahal. Cummings mengatakan perlu waktu hingga delapan tahun untuk meluncurkan model pesawat baru di pasar. Sebuah survei terhadap perusahaan yang memproduksi perangkat medis menunjukkan bahwa FDA membutuhkan rata-rata empat setengah tahun untuk menandatangani izin untuk menggunakan perangkat (proses di FDA lebih cepat daripada FAA, khususnya karena agensi tidak melakukan intervensi dalam proses sebelumnya. sampai produk sepenuhnya dikembangkan). Membawa alat medis ke pasar harganya rata-rata $ 94 juta.
Para pendukung Robomobile berpendapat bahwa memperlambat perkembangan robomobiles dapat menyebabkan hilangnya lebih banyak nyawa daripada yang dapat diselamatkan oleh proses ini. Pada tahun 2016, lebih dari 37.000 orang tewas dalam kecelakaan di jalan raya, banyak di antaranya terjadi karena kesalahan manusia, sehingga robomobiles memiliki potensi untuk mencegah ribuan kematian di tahun-tahun mendatang.
Masalah Kontrol Robot
Mobil itu memotong mobil robot Waymo di jalur uji Castle sebagai bagian dari pengujian teknologi.Bahkan pendukung keamanan, seperti Chase dan Cummings, tidak berarti bahwa mobil perlu dikenai pemeriksaan ketat, seperti halnya dengan pesawat terbang dan peralatan medis. Tetapi mereka ingin melihat pemerintah mengambil peran yang lebih aktif dalam menguji kendaraan robot - sebelum melepaskannya ke jalan umum.
Tetapi Ed Felten dari Princeton bertanya-tanya apakah ini realistis. Dia menunjukkan bahwa ada hambatan unik untuk uji coba robomobiles.
"Jumlah kecelakaan atau korban per mil yang ditempuh oleh mesin harus sangat, sangat kecil," katanya. Pengemudi manusia terlibat dalam kecelakaan fatal sekitar sekali setiap 100 juta mil. Oleh karena itu, untuk menentukan bahwa keamanan robomobile tidak lebih rendah dari pengemudi manusia, perlu dipahami bagaimana menangani situasi yang jarang terjadi - situasi yang akan dihadapi oleh pengemudi manusia, mungkin sekali seumur hidup.
"Untuk memahami bahwa ini aman, diperlukan sejumlah besar simulasi dan tes dalam kondisi yang terkendali," kata Felten. "Sulit membayangkan bagaimana pemerintah bisa melakukan ini."
Chase, misalnya, mengadvokasi pengetesan penglihatan robotik sehingga mereka menunjukkan bahwa "mereka dapat melihat dan bereaksi terhadap apa yang terjadi di jalan." Namun tidak jelas seberapa bermanfaat hal ini dalam praktiknya. Kemampuan persepsi seperti itu, tentu saja, diperlukan untuk mobil robot yang sepenuhnya otonom, tetapi mereka masih jauh dari cukup untuk membuktikan bahwa program mengemudi mobil tidak lebih berbahaya daripada pengemudi manusia.
Dan meskipun Cummings memberi tahu saya tentang mesin-mesin Waymo bahwa "tidak ada tes di dunia nyata," itu tidak adil bagi perusahaan. Tahun lalu, saya pergi ke tempat pengujian California di mana perusahaan menempatkan mobil dalam ratusan skenario terkendali. Saya menyaksikan mobil Waymo melambat ketika orang lain memotongnya, berhenti ketika "penggerak" menjatuhkan sekelompok kotak di depannya, dan membiarkan mobil itu keluar dari tempat parkir dekat rumah.
Mungkin regulator federal bisa membuat tes yang tidak dipikirkan oleh insinyur Waymo. Tetapi secara umum, sulit untuk percaya bahwa mereka akan dapat melakukan serangkaian tes yang lebih ketat daripada yang sudah dilakukan perusahaan di gurun California dan tempat-tempat lain.
Akibatnya, satu-satunya cara untuk memeriksa bagaimana perilaku robomobile di jalan-jalan nyata dengan orang-orang adalah dengan meletakkannya di jalan-jalan nyata dengan orang-orang.
Waymo bisa bertindak lebih terbuka
Di situlah para kritikus Waymo benar-benar benar, bahwa perusahaan tidak cukup terbuka tentang cobaannya.
Sesuai dengan pendekatan administrasi Trump, yang terdiri dari pengurangan regulasi, perusahaan diundang (tetapi tidak diharuskan) untuk mengirim laporan yang merinci sifat-sifat robomobiles yang terkait dengan keselamatan. Waymo adalah perusahaan pertama yang
mengirimkan laporan semacam itu tahun ini.
Ketika saya berbicara dengan Katie Chase pada bulan Agustus, dia berbicara secara sardon tentang laporan dari Waymo dan pembuat mobil lainnya. "Mereka lebih mirip brosur yang mengkilap daripada sebuah dataset," katanya.
"Kami membutuhkan informasi tentang Waymo," kata Henry Jassny, seorang pengacara untuk Highway dan Car Safety Supporters, tak lama setelah Waymo menerbitkan laporan tahun lalu.
Waymo dalam sebuah pernyataan mengklaim bahwa laporan 43 halaman mereka benar-benar memberikan banyak informasi tentang keamanan kendaraan mereka.
"Kami bermaksud memberi tahu publik dan regulator tentang teknologi baru ini, yang, menurut pendapat kami, dapat menyelamatkan ribuan nyawa, dan tentang proses cermat yang kami gunakan untuk mengujinya," tulis seorang perwakilan perusahaan dalam emailnya pekan lalu. Dia mengklaim Waymo Safety Report "memberikan deskripsi terperinci tentang program pengujian kami, baik di bagian teks yang menjelaskan tes dan dalam catatan yang secara khusus menjelaskan jenis tes tertentu yang dirancang khusus untuk informatif bagi regulator dan masyarakat."
Memang, laporan Waymo mencakup daftar panjang skenario pengujian yang dilakukan oleh perusahaan. Waymo, misalnya, mengatakan mobilnya mampu menangani skenario yang disebut "kendaraan yang sepenuhnya otonom mendekati kendaraan pengereman."
Tetapi laporan ini tidak termasuk informasi terperinci yang akan memungkinkan analisis independen dari proses pengujian Waymo. Apa parameter tes yang tepat? Berapa kali mereka diusir? Bagaimana kelakuan mobil itu? Ini tidak ada dalam laporan.
Hal yang sama berlaku untuk pengujian mobil di jalan umum. Waymo lulus tes sembilan juta mil di jalan-jalan [14 juta km], banyak di antaranya yang dikendarai dengan sopir di belakang kemudi. Tetapi masyarakat hanya memiliki sedikit informasi tentang bagaimana tes ini berjalan. Ini terutama berlaku untuk Arizona, di mana (tidak seperti California tetangga) perusahaan yang mengembangkan mobil robot tidak harus mengirim laporan pengujian rutin.
Sebagai contoh, pada bulan Agustus, sumber daya Informasi menerbitkan
sebuah artikel di mana ada tertulis bahwa beberapa penduduk Phoenix terganggu oleh kebutuhan untuk berbagi jalan dengan mobil-mobil Waymo, yang sering berperilaku tidak aman di mana pengemudi yang hidup tidak akan berperilaku seperti itu. Seorang penduduk Mountain View memposting
beberapa video di mana mobil-mobil Waymo membeku dalam situasi yang tidak akan membingungkan pengemudi manusia.
Apakah pesan-pesan ini berarti bahwa perangkat lunak Waymo memiliki masalah besar? Atau apakah ini beberapa insiden terpisah yang berlebihan? Sulit untuk mengatakan tanpa data rinci tentang bagaimana perilaku robomobiles di dunia nyata. Waymo memiliki data seperti itu, tidak diragukan lagi; dia sama sekali tidak membuat mereka dapat diakses oleh semua.
Secara pribadi, menurut saya Waymo pada akhirnya akan mengacaukan para kritikus. Perusahaan mulai mengembangkan kendaraan robot jauh sebelum pesaing lain, sehingga memiliki kesempatan untuk dengan tenang dan bertahap bergerak menuju komersialisasi.
Namun uji coba selalu lebih dapat diandalkan dan menyeluruh dengan pengawasan independen. Masyarakat memiliki segala alasan untuk skeptis terhadap mereka sampai perusahaan membuktikan keamanan mesinnya, mendukung kata-kata dengan data komprehensif dan analisis independen. Di bawah undang-undang federal dan negara bagian saat ini, sebuah perusahaan tidak diharuskan untuk melakukannya. Tapi mungkin itu kepentingan terbaiknya untuk melakukannya.
"Jika perusahaan memberi lebih banyak informasi tentang bagaimana mobilnya berperilaku, itu akan menguntungkannya, karena, pada akhirnya, orang perlu mempercayai mobil, dan kepercayaan ini dapat diperoleh dengan membuktikan keselamatan mereka," kata Chase.
Jika Waymo meluncurkan layanan komersial tanpa merilis data yang berarti tentang kinerja alat berat, atau mencegah peninjauan teknologi secara independen, ini akan menjadi preseden yang memungkinkan perusahaan lain - mungkin kurang teliti - untuk melakukan hal yang sama.
Menurut aturan yang ada, "siapa pun bisa mendapatkan robomobile di jalan," kata Chase. "Joe Garazhkin dapat membuat mobil seperti itu, menaruhnya di jalan, dan kemudian menjadi kecelakaan yang mengerikan."
Model Perusahaan Tepercaya
Jika audit gaya FDA formal gagal, apa yang dapat dilakukan regulator sebagai gantinya? Bryant Walker Smith menganjurkan menggunakan apa yang ia sebut model "perusahaan yang dapat diandalkan" untuk mengatur kendaraan robot. Alih-alih menetapkan standar teknis rinci untuk kendaraan robot, katanya, regulator harus fokus pada menyetujui pengembangan dan proses pengujian kendaraan robot untuk perusahaan itu sendiri.
Smith ingin "pejabat pemerintah mengatakan: apakah perusahaan-perusahaan ini layak mendapatkan kredibilitas?" Apakah mereka mengkomunikasikan informasi dengan jujur? Apakah mereka mengkonfirmasi pernyataan mereka? "
“Regulasi bukan hanya aturan atau pengesahan,” catat Smith. “Regulasi adalah semua alat yang tersedia bagi para pejabat: penyelidikan, permintaan, pencabutan izin, hukuman karena informasi yang keliru disajikan.”
Dalam model ini, regulator tidak akan fokus pada penilaian langsung teknologi, tetapi pada memastikan bahwa perusahaan yang memproduksi robomobiles mempertahankan budaya perusahaan dan serangkaian proses yang mengutamakan keselamatan. Regulator harus memaksa perusahaan untuk membuktikan secara rinci keselamatan kendaraan mereka, mendukungnya dengan fakta.
Waymo belum melakukan apa pun, setidaknya tidak secara publik. Sejak meluncurkan perusahaan ini hampir dua tahun yang lalu, ia telah menekankan keamanan teknologinya. "Keamanan adalah inti dari misi Waymo dan segala yang kami lakukan," seorang juru bicara perusahaan menulis kepada saya.
Tetapi perusahaan belum merilis data yang cukup untuk menguatkan klaim keamanannya. Kita tahu Waymo mencatat jutaan mil perjalanan di jalan-jalan Arizona, tetapi kita hanya tahu sedikit tentang bagaimana perilakunya.
Waymo tidak hanya perlu menciptakan teknologi yang aman, tetapi juga untuk meyakinkan publik tentang keselamatannya. Transparansi yang lebih besar dapat membantu ini terkait dengan teknologi dan pengujiannya.