Mobil otonom pada sumber terbuka

(Artikel Forbes 2019)


Brad Templeton dengan versi awal Stanford Robocar.

Tentang Pengarang: Brad Templeton adalah seorang insinyur perangkat lunak, seorang penginjil mobil robot sejak 2007, bekerja di Google di tahun-tahun awalnya. Pendiri ClariNet , ketua kehormatan Electronic Frontier Foundation dan direktur Foresight Institute , pendiri fakultas di Singularity University .

Sulit untuk mengikuti aturan pengembangan terbuka atau penemuan amatir ketika Anda membuat robot dengan berat 1,3 ton dan mengirimkannya untuk naik di sepanjang jalan di antara pejalan kaki. Meskipun demikian, inovator amatir sangat penting untuk teknologi apa pun yang sedang berkembang. Bagaimana cara menyelesaikan kontradiksi?

Baru-baru ini, ada beberapa pengumuman menarik di bidang pengembangan sumber terbuka.

• Cruise membuka kode sumber untuk Worldview, robot visualisator . Ini adalah seperangkat alat yang membuatnya mudah untuk membuat representasi grafis dari sensor, area sensorik, dan data lainnya untuk memahami apa yang dilihat dan dilakukan mesin Anda.
• Uber juga merilis AVS toolkit mereka untuk visualisasi serupa.
• Baidu beberapa waktu lalu merilis proyek Apollo , yang mencakup seperangkat alat lengkap dan simulator.

Paket open source dari UDacity, EB Robinos, Autoware, Nvidia, dan comma.ai juga telah dirilis. Dan meskipun kita tidak berada pada level di mana Anda dapat mengunduh seperangkat alat dan membuat mobil amatir, kali ini akan tiba.

Saya memiliki sejarah panjang bekerja dengan alat sumber terbuka, dan saya telah merilis beberapa paket perangkat lunak sumber terbuka di bawah lisensi gratis. Sebagai ketua Electronic Frontier Foundation, saya sering membela hak-hak perangkat lunak tersebut.

Alat-alat ini akan membantu pengembang bekerja lebih cepat dan bekerja sama untuk menciptakan mobil otonom terbaik. Ini terutama berlaku pada alat yang digunakan untuk membuat perangkat lunak untuk mesin robot, karena ada insentif yang kuat untuk kolaborasi di bidang ini. Tim akan mengintegrasikan komponen open source yang berguna ke dalam mesin mereka, jika lisensi mengizinkannya. Beberapa tim bahkan akan dapat membuat kendaraan sepenuhnya menggunakan sumber terbuka. Ada contoh proyek sumber terbuka yang jauh melampaui inisiatif bisnis yang jauh lebih mahal. Di atas semua ini, ada alasan bagus untuk berargumen bahwa alat open source dapat lebih aman, karena setiap bagian berada di bawah pengawasan seluruh dunia. Tentu saja, penyerang melihat sumber dan ini dapat membantu mereka dalam menemukan kerentanan, tetapi ada lebih banyak orang baik yang juga melihat kode ini dan bekerja untuk melindunginya.

Semua ini diharapkan, tetapi ada juga masalah bagi seseorang yang menjadi bintang metode pengembangan sumber terbuka - master tunggal. Orang yang memperbaiki sistem melakukan ini hanya karena mereka menggunakannya sendiri dan ingin menjadikannya lebih baik dan berbagi kesuksesan mereka. Orang-orang seperti itu memikul tanggung jawab utama untuk sebagian besar alat terbuka yang kami gunakan, meskipun beberapa proyek penting dan besar, tentu saja, diciptakan oleh tim besar dengan pembiayaan profesional.

Bisakah Anda mengambil satu set perangkat lunak sumber terbuka, mengunduhnya ke mesin Anda dan membuatnya berkendara sendiri saat Anda menonton TV? Bisakah Anda membuatnya bekerja tanpa sopir sehingga dia bisa datang dan menjemput Anda? Bisakah Anda membuat perubahan sesuai keinginan Anda atau mengunduh modifikasi lain dan melanjutkannya? Ini pertanyaan yang jauh lebih rumit.

Orang-orang melakukan hal-hal ini sepanjang waktu di bidang pemrograman lain. Namun, ponsel ini sangat berbeda dengan mobil. Lubang keamanan di ponsel Anda dapat memberi penyerang akses ke data pribadi Anda, bahkan informasi penagihan, dan ini serius. Tetapi kerentanan di dalam mobil bisa membuat Anda atau orang lain di jalan.

Sertifikasi diri

Saat ini, regulator memiliki kebijakan tanpa intervensi. Dan meskipun mereka lebih dulu dan membuat aturan untuk teknologi yang belum ada, mereka terutama berfokus pada kondisi sertifikasi diri untuk mesin yang diproduksi oleh pemain utama di pasar.

Sertifikasi diri berarti bahwa perusahaan sedang menguji mesin dan menyatakan bahwa itu benar-benar memenuhi tujuan dan persyaratan keselamatan yang ditetapkan dalam peraturan, dan pihak ketiga atau negara tidak memeriksa semua ini. Sebaliknya, jika ternyata perusahaan melakukan kesalahan, atau, lebih buruk lagi, berbohong tentang kepatuhan terhadap persyaratan, maka mereka akan menghadapi siksaan di pengadilan. Idealnya, ini harus merupakan siksaan yang akan memotivasi perusahaan untuk melakukan tes lebih baik daripada pihak ketiga atau negara bagian.

Itu tidak sulit. Yang benar adalah bahwa tidak ada yang tahu cara membuat pusat pengujian independen, karena tidak jelas apa yang akan diperiksa atau bagaimana cara kerjanya. Bahkan pemerintah sendiri tidak memiliki petunjuk. Untuk mobil biasa, ada tes yang dipahami dengan baik, misalnya, tes kecelakaan. Juga, jumlah aspek yang diperiksa oleh organisasi eksternal sangat berbeda dari satu negara ke negara lain. Tetapi dalam kebanyakan kasus, orang yang membuat mobil atau komponen untuk mereka tahu lebih banyak tentang pemeriksaan keamanan dan konfirmasi daripada orang lain, dan memotivasi produsen untuk jujur ​​adalah teknik yang efektif.

Dalam hal mesin robot, pengujian semacam itu hanya dapat dilakukan melalui studi mendalam terhadap perangkat lunak dan operasinya. Anda harus sepenuhnya memahami ini untuk melakukan ini. Ada beberapa tes universal yang dapat dilakukan oleh laboratorium independen, dan yang akan sangat berguna. Seiring waktu, lebih banyak tes dan lebih banyak laboratorium akan muncul untuk mereka, tetapi pengembang akan membuat pendekatan baru yang tidak akan cocok dengan tes lama. Standar dan aturan dapat mendefinisikan teknik-teknik yang relevan secara umum yang diterima secara jangka pendek dan tidak berguna dalam bidang yang berubah dengan cepat di mana pendekatan-pendekatan baru diciptakan secara teratur.

Nilai

Meskipun sertifikasi diri tampaknya merupakan satu-satunya sistem yang berfungsi untuk satu master, sayangnya, prinsip-prinsip inti dari sistem ini mensyaratkan bahwa pemberi sertifikasi memiliki bobot yang cukup untuk mengkonfirmasi klaimnya. Satu orang, sebagai suatu peraturan, tidak memiliki sarana untuk menghindari siksaan dari kurangnya sertifikasi yang tepat. Sekelompok orang dapat menghindari situasi seperti itu, tetapi sulit bahkan bagi mereka. Tes juga akan mahal jika disertifikasi oleh pihak ketiga. Semua ini berarti bahwa ini adalah praktik yang jarang dilakukan yang hanya dapat dilakukan secara rasional untuk perangkat lunak yang menjalankan ribuan mobil.

Bahkan jika ada paket perangkat lunak yang disertifikasi sebagai aman, bagaimana jika Anda membuat perubahan yang relevan dengan bagian-bagian penting dari kode yang memengaruhi keamanan? Bisakah Anda mengendarai mobil seperti itu di jalan dengan banyak rintangan di sekitarnya? Ini masih merupakan pertanyaan yang sulit.

Solusi

Solusi yang mungkin adalah dengan membeli asuransi. Sayangnya, ini juga memiliki kesulitan. Kemungkinan besar, risikonya akan lebih tinggi daripada yang ditanggung oleh asuransi modern pada umumnya. Juga, perusahaan asuransi tidak memiliki metode untuk menentukan seberapa baik Anda seorang programmer dan seberapa aman modifikasi Anda.

Anda harus dapat membuat modifikasi dan mengemudi di jalan dalam mode mengemudi yang aman dengan setidaknya satu orang, dan mungkin dua penguji, yang sedang memantau perangkat lunak baru dan siap untuk mengambil kendali jika ada masalah. Inilah cara mobil diuji hari ini; begitu pula dengan Tesla autopilot. Ini bekerja, tetapi hanya untuk pengembang serius yang mau menginvestasikan banyak waktu dan sumber daya, dan tidak bekerja untuk amatir yang hanya ingin membuat perubahan pada perangkat lunak mobil mereka.

Mungkin ada situasi di mana programmer, setelah pemeriksaan kecil mengemudi yang aman, dapat mengirim suntingannya ke organisasi yang lebih besar yang dapat mengintegrasikan suntingan ini ke dalam tesnya. Mereka dapat menguji ratusan modifikasi (terpisah) dari pengembang yang berbeda secara bersamaan. Pemrogram ini akan dapat berbagi biaya ini dan tidak hanya menguji bersama untuk membawa kode mereka ke tingkat di mana sertifikasi dimungkinkan. Namun, itu masih mahal.

"Mentor"

Dimungkinkan juga untuk membuat semacam "mentor" perangkat lunak. Ini bisa menjadi program bersertifikat sederhana, yang merupakan driver otomatis yang aman. Sebenarnya, program ini dapat diambil dari inti sistem yang diakui dan sangat andal yang memiliki semua sertifikat keamanan. Mesin Anda akan bekerja pada sistem yang dimodifikasi sendiri, tetapi pada saat yang sama, "mentor" akan terus memantau pekerjaannya. Jika sistem Anda melakukan sesuatu yang tidak disukai mentor, maka ia akan mengambil kendali atas dirinya sendiri dan mengemudikan mobil ke tempat yang aman, atau di rumah.

Mentor akan mengemudi dengan hati-hati. Ini berarti bahwa menggunakan teknik ini, Anda tidak dapat membuat sesuatu yang lebih agresif daripada itu. Jika mentor mengatakan bahwa Anda harus berhenti, dan program Anda mengatakan bahwa Anda harus pergi, maka program Anda dimatikan. Manajemen manusia mungkin memiliki prioritas lebih tinggi daripada seorang mentor. Fungsi yang membutuhkan izin lebih banyak daripada yang bisa diberikan oleh mentor tidak layak untuk dikembangkan dan diuji di jalan oleh satu master, meskipun mereka masih bisa mengerjakannya dalam simulator.

Bahkan, simulator adalah penyelamat insinyur amatir, terutama mengingat bahwa simulator semakin baik. Mereka ada untuk dengan cepat menemukan masalah dan solusi yang gagal di tambalan baru, serta untuk memastikan bahwa sebelum mengemudi di jalan, mobil dilatih pada jarak tempuh virtual bermil-mil.

Kemungkinan besar, mentor harus didasarkan pada versi bersertifikat dari set perangkat lunak open source yang sama yang dimodifikasi oleh insinyur amatir. Dan pada kenyataannya, jika programmer mengetahui bahwa tindakan yang ditolak oleh mentor sebenarnya aman, maka ia akan dapat mengirim pesan kesalahan (dan bahkan koreksi), dan pada akhirnya (walaupun tidak segera), mentor dapat ditingkatkan dilatih lebih banyak perilaku dalam program yang diuji.

Keamanan adalah perhatian khusus. Perangkat lunak yang dimodifikasi mungkin memiliki lubang keamanan yang memungkinkan penyerang untuk mengambil kendali seorang mentor. Kita membutuhkan mentor untuk bekerja secara efisien, tetapi level kualitas lainnya adalah kemampuan mentor untuk mengenali program jahat yang mencoba menipu dia. Kerentanan seorang mentor yang dapat menyebabkannya membiarkan beberapa tindakan tidak aman bisa menjadi masalah.

Kebutuhan akan pengrajin

Kita membutuhkan mereka yang disebut pengrajin di dunia otomotif, atau, seperti kita menyebutnya di dunia komputer, peretas (penggunaan kata "peretas" dalam arti penjahat komputer digunakan terutama di luar komunitas pengembang perangkat lunak. Dalam komunitas, kata ini memiliki arti yang sama dengan "master tukang", dan ahli kejahatan komputer atau peretasan adalah jenis peretas lain). Semua perusahaan mobil besar memulai perjalanan mereka sebagai kerajinan tangan. Banyak negara bahkan memiliki undang-undang yang membuat pengecualian khusus terhadap aturan keselamatan kendaraan biasa untuk kendaraan unik yang dibuat oleh pengrajin, asalkan mereka mematuhi aturan keselamatan transportasi dasar. Dan itu berhasil, terutama karena kendaraan ini selalu memiliki pengemudi, dan sebagai aturan, ini adalah pencipta mereka. Dalam dunia peranti lunak, peretas (dalam arti non-kriminal) menyumbangkan sebagian besar inovasi.

Kami bahkan ingin mendukung gagasan perusahaan mobil kecil yang dapat mendistribusikan atau menjual sistem modifikasi untuk mesin robotik dengan mentor terintegrasi kepada pelanggan yang berminat. Tidak seperti klien di bidang lain, ini akan menempatkan orang lain dalam risiko, dan bukan hanya diri mereka sendiri, tetapi inovasi juga membutuhkan usaha kecil.

Seorang mentor seperti yang telah dijelaskan belum ada. Tetapi itu harus ada dalam rencana kita, karena dunia kendaraan tanpa awak tanpa inovasi pengrajin dan peretas akan kurang berkembang dan aman daripada dunia di mana hanya perusahaan besar yang dapat berkontribusi.

---

Baca lebih banyak artikel bermanfaat:

• McKinsey: Memikirkan Kembali Perangkat Lunak dan Arsitektur Elektronik di Otomotif
• Perang OS lain sudah di bawah kap mobil
• Kode program di dalam mobil
• Di mobil modern, ada lebih banyak baris kode daripada ...