Pada tahun 2014, satu proyek dari Google menembak sedemikian rupa sehingga sudah terdengar di Detroit [dulu - "ibukota mobil Amerika Serikat" - sekitar. diterjemahkan.]. Robomobile prototipe terbarunya tidak memiliki kemudi, tidak ada rem. Petunjuknya jelas: mobil masa depan akan sepenuhnya otonom, mereka tidak akan membutuhkan pengemudi. Dan yang lebih menjengkelkan adalah bahwa alih-alih mengubah model Prius atau Lexus, seperti yang Google lakukan dengan dua generasi robomobiles sebelumnya, perusahaan membangun tubuhnya sendiri untuk robomobile barunya dengan bantuan pemasok suku cadang otomotif. Dan yang paling mengejutkan, mobil baru ini awalnya lahir sebagai pengemudi berpengalaman, dia sudah memiliki 1,1 juta km pengalaman yang diekstraksi dari otak prototipe sebelumnya. Saat ini, robomobiles memiliki beberapa tahun praktik lagi, total jarak tempuh dari seluruh armada melebihi 2,1 juta km - ini setara dengan seseorang yang bepergian 24.000 km per tahun selama 90 tahun.
Perusahaan otomotif menuangkan miliaran ke dalam pengembangan perangkat lunak sebagai tanggapan, dan pusat inovasi otomotif telah pindah dari Detroit ke Silicon Valley. Jika pabrikan mobil dapat memengaruhi bagaimana transisi ke mobil robot dibuat, mereka akan membuatnya bertahap. Pada langkah pertama, teknologi bantuan pengemudi akan diuji. Pada yang kedua, akan muncul beberapa model mewah dengan gerakan otonom terbatas dalam situasi khusus, kemungkinan besar di sepanjang jalan raya. Pada langkah ketiga, kemampuan terbatas ini akan bocor ke mobil yang lebih murah.
Perusahaan konsultan Deloitte menggambarkan pendekatan bertahap seperti pendekatan bertahap, “di mana para pembuat mobil berinvestasi dalam teknologi baru - misalnya, sistem pengereman anti-lock, stabilisasi elektronik, kamera keselamatan, telematika - untuk rentang mobil mahal, dan kemudian turun ketika ekonomi mulai bekerja pada skala. Pendekatan yang berhati-hati, meskipun menarik, mungkin salah. Perlambat mendekati otonomi dengan secara bertahap menambahkan teknologi keamanan yang dikendalikan komputer yang membantu orang mengarahkan, memperlambat, dan mempercepat dapat menjadi strategi yang tidak aman dalam jangka panjang, baik dari sudut pandang kehidupan manusia maupun dari sudut pandang industri otomotif.
Salah satu alasan perusahaan mobil lebih memilih pendekatan bertahap adalah karena itu membantu mereka mempertahankan kontrol industri. Robomobiles membutuhkan OS cerdas yang memahami lingkungan mobil, memahami aliran data yang masuk dan bereaksi sesuai. Menciptakan perangkat lunak yang dapat berfungsi sebagai AI - khususnya, bekerja dengan persepsi buatan - membutuhkan personel yang berpengalaman dan bagasi intelektual tertentu. Pembuat mobil, yang telah sangat terampil dalam menciptakan sistem mekanis yang kompleks, tidak memiliki personel, budaya, dan pengalaman yang tepat untuk menggali secara efektif ke dalam kumpulan penelitian AI. Dan Google sudah ada di sana.
Robomobiles membawa ketidakpastian bagi industri otomotif. Selama abad yang lalu, menjual mobil langsung ke pelanggan telah menguntungkan. Tetapi jika robomobiles memungkinkan konsumen untuk membayar perjalanan daripada membeli mobil, maka bisnis menjual mobil universal untuk mengangkut perusahaan yang menyewa mobil robot mungkin tidak lagi menguntungkan. Jika produsen mobil harus bekerja sama dengan pengembang perangkat lunak untuk membuat robomobiles, kemitraan seperti itu mungkin berakhir pada kenyataan bahwa mantan akan mendapatkan bagian yang tidak terlalu besar.
Jumlah uang yang dipermasalahkan bertambah seperti bank dalam permainan poker yang berlangsung sepanjang malam. Mantan profesor dan CEO GM Universitas Michigan Larry Burns menjelaskan bahwa tambang emas tersembunyi di 4,8 triliun kilometer yang dilalui orang setiap tahun (hanya di AS). Dia mengatakan: "Jika orang pertama mendapat 10% dari laba dari 4,8 triliun km setiap tahun dan menghasilkan 10 sen per mil, maka laba tahunannya akan menjadi $ 30 miliar - ini sebanding dengan tahun-tahun gemuk Apple dan ExxonMobil" .
Pembuat mobil dan Google adalah tanker raksasa yang, mengancam akan bertabrakan, perlahan-lahan mendekati tujuan bersama mereka: memeras lebih banyak keuntungan dari generasi berikutnya dari kendaraan robot. Pembuat mobil lebih suka pendekatan evolusi di mana modul bantuan pengemudi dikembangkan sampai mereka dapat mengendalikan perjalanan untuk jangka waktu yang lama. Google, sebaliknya, merencanakan lompatan yang tajam menuju otonomi penuh.
Tidak hanya pembuat mobil lebih suka pendekatan bertahap. Departemen Transportasi A.S. dan Masyarakat Insinyur Otomotif (SAE) telah mengembangkan rencana mereka untuk otonomi. Tahap mereka sedikit berbeda, tetapi apa yang umum di dalamnya adalah bahwa cara terbaik untuk mengembangkan adalah urutan langkah-langkah bertahap, linear, ketika sistem "bantuan mengemudi" untuk sementara mengambil kendali mobil, tetapi dengan cepat mengembalikannya kepada orang itu segera setelah situasi yang tidak menyenangkan muncul.
Kami tidak setuju dengan gagasan bahwa transisi bertahap adalah cara terbaik untuk bertindak. Karena berbagai alasan, manusia dan robot tidak boleh berhasil satu sama lain saat mengemudi. Banyak ahli, bagaimanapun, percaya bahwa model yang optimal adalah pemisahan kontrol atas mesin antara seseorang dan perangkat lunak, bahwa pengemudi harus tetap menjadi master, dan perangkat lunak harus menjadi pelayan. Perangkat lunak yang didasarkan pada paradigma di mana orang dan mesin bekerja bersama dikenal oleh para insinyur sebagai Human-in-the-loop (HITL) - “partisipasi dalam proses manusia”. Dalam banyak situasi, kerja bersama antara manusia dan mesin benar-benar menghasilkan hasil yang luar biasa. Ahli bedah berpengalaman menggunakan manipulator robot dan mencapai akurasi yang tidak manusiawi dalam operasi. Program HITL digunakan pada pesawat komersial modern, serta dalam aplikasi industri dan militer.
Argumen untuk menyelamatkan orang tersebut dalam proses itu meyakinkan. Mimpi yang sangat menarik adalah kombinasi kompleks dari kapabilitas terbaik seseorang dengan kapabilitas mesin terbaik; itu menyerupai puzzle pengoptimalan untuk memilih secara manual pemain sepak bola profesional Amerika untuk membuat tim impian. Mesin sangat akurat, tidak lelah dan mampu menganalisis. Mobil mendeteksi pola dengan sempurna, melakukan perhitungan dan pengukuran. Orang-orang, bagaimanapun, sangat pandai menggambar kesimpulan, menghubungkan benda atau peristiwa acak pada pandangan pertama, dan belajar dari pengalaman.
Secara teori, jika Anda menggabungkan seseorang dengan AI, Anda bisa mendapatkan driver yang penuh perhatian, sensitif, dan sangat berpengalaman. Memang, keuntungan dari pendekatan HITL untuk otomatisasi adalah bahwa Anda dapat menggabungkan kekuatan orang dan mesin.
Pada kenyataannya, perangkat lunak HITL akan dapat bekerja dengan robomobiles, jika hanya masing-masing pihak, orang-orang dan perangkat lunak, secara jelas dan konsisten berbagi tanggung jawab. Sayangnya, industri otomotif dan pejabat dari Kementerian Perhubungan tidak mengusulkan model untuk pelaksanaan yang jelas dari tanggung jawab ini. Sebaliknya, mereka mengusulkan meninggalkan orang tersebut dalam proses, tetapi pada saat yang sama ia akan memiliki lingkaran tanggung jawab yang tidak dapat dipahami dan berubah.
Di tengah-tengah strategi transisi yang mulus adalah asumsi bahwa jika terjadi situasi yang tidak terduga, sinyal suara atau getaran akan memberi tahu orang tersebut bahwa ia perlu dengan cepat berganti tempat duduk dan menangani masalah tersebut. Jalur bertahap ke otomatisasi penuh mungkin tampak masuk akal dan aman. Namun dalam praktiknya, transisi bertahap dari otomatisasi mengemudi parsial ke penuh akan berbahaya.
Dalam beberapa situasi, mobil dapat berhasil bekerja sama dengan orang-orang, tetapi tidak saat mengemudi. Alasan utama skema HITL tidak cocok untuk mengemudi adalah karena mengemudi adalah proses yang sangat membosankan dan membosankan. Orang dengan senang hati memberikan tindakan yang membosankan pada mesin, dan pada saat yang sama rela melepaskan diri dari tanggung jawab atas mereka.
Ketika saya berpartisipasi dalam melatih para pelaut di Angkatan Laut, saya mempelajari salah satu doktrin utama tata pemerintahan yang baik: tidak pernah berbagi tugas penting antara dua orang. Ini adalah kesalahan manajemen klasik, yang dikenal sebagai "tanggung jawab terpisah". Masalah dengan pembagian tanggung jawab adalah bahwa setiap orang yang terlibat dalam tugas percaya bahwa ia dapat dengan mudah mentransfer tugas ini ke orang lain. Tetapi jika tidak ada dari mereka yang mengurus implementasinya, misinya gagal. Jika orang dan mobil berbagi tanggung jawab untuk mengemudi, hasilnya bisa menjadi bencana.
Contoh memilukan dari tanggung jawab terpisah antara manusia dan mesin adalah Penerbangan 447 Air France, yang
jatuh ke Samudra Atlantik pada tahun 2009. 228 orang di dalamnya tewas. Analisis kotak hitam pesawat menunjukkan bahwa penyebab bencana bukanlah terorisme atau kegagalan mekanik. Pemindahan kendali dari autopilot ke tim pilot gagal.
Dalam penerbangan, instrumen yang diperlukan agar autopilot bekerja membeku dan tiba-tiba autopilot mati. Tim pilot, bingung dan tidak berlatih untuk waktu yang lama, tiba-tiba menghadapi kebutuhan untuk mengelola apa yang seharusnya menjadi penerbangan rutin. Pilot, tiba-tiba dihadapkan dengan tanggung jawab, membuat beberapa kesalahan besar, yang menyebabkan jatuhnya pesawat di laut.
Pada musim gugur 2012, beberapa karyawan Google diizinkan menggunakan Lexus otonom dan berkendara di jalan raya untuk bekerja. Idenya adalah agar seseorang mengendarai Lexus ke jalan raya, keluar ke jalan, dan, berdiri di jalur, akan menyalakan autopilot. Masing-masing karyawan diperingatkan bahwa teknologi itu pada tahap awal, dan mereka harus berhati-hati setiap saat. Setiap mobil dilengkapi dengan kamera video yang terus-menerus menembak seseorang di kabin.
Karyawan berbicara tentang robomobiles secara positif. Semua orang menggambarkan keuntungan dari tidak harus berurusan dengan lalu lintas pada jam sibuk, dan bahwa mereka dapat tiba di rumah segar dan beristirahat untuk menghabiskan lebih banyak waktu dengan keluarga mereka. Tapi masalah muncul setelah para insinyur menonton video dari salon. Salah satu karyawan benar-benar berbalik dari kemudi untuk mencari pengisian daya untuk ponsel di kursi belakang. Yang lain terganggu karena mengemudi dan santai, menikmati waktu luang mereka.
Laporan Google menggambarkan situasi pemisahan perhatian, dan itu disebut "bias otomatisasi". “Kami melihat bagaimana sifat manusia bekerja: orang dengan cepat mulai mempercayai teknologi setelah mereka melihatnya di tempat kerja. Akibatnya, sangat sulit bagi mereka untuk berpartisipasi dalam mengemudi ketika mereka didorong untuk mengalihkan perhatian dan bersantai. ”
Keyakinan Google bahwa tidak ada kompromi - bahwa orang tidak boleh berbagi kendali dengan mobil - terdengar berisiko, tetapi sebenarnya jalur pengembangan yang paling bijaksana dalam hal keamanan. Otomasi dapat membahayakan pengemudi dengan dua cara: pertama, tawarkan kepadanya untuk melakukan hal-hal yang mengalihkan perhatiannya dari jalan - misalnya, membaca atau menonton video; kedua, untuk melanggar kesadaran situasionalnya, yaitu kemampuan untuk memahami faktor-faktor lingkungan yang kritis dan dengan cepat dan memadai menanggapinya. Jika kita melihat pengemudi dengan perhatian terganggu, tidak tahu apa yang terjadi di luar mobil, akan menjadi jelas mengapa membagi tanggung jawab untuk mengemudi adalah ide yang sangat buruk.
Sebuah studi di Virgin University of Technology mengkuantifikasi godaan orang-orang yang muncul ketika teknologi menunjukkan bahwa mereka membuatnya lebih mudah untuk menyelesaikan tugas yang membosankan. Peneliti menguji 12 driver di jalur uji. Setiap mobil memiliki dua jenis perangkat lunak yang membantu pengemudi: satu memusatkan mobil di jalur, yang lain mengendalikan rem dan menumpang - yang disebut kontrol jelajah adaptif. Tujuan dari penelitian ini adalah untuk mengukur reaksi orang terhadap teknologi yang menjaga mobil tetap di jalur, mendukung kecepatan dan mengendalikan rem. Untuk melakukan ini, satu set perangkat dipasang di setiap mobil yang mengumpulkan data dan mencatat apa yang terjadi.
Para peneliti mempekerjakan 12 orang berusia 25 hingga 34 tahun dari penduduk Detroit biasa, masing-masing menawarkan $ 80 untuk berpartisipasi dalam proyek tersebut. Pengemudi diminta untuk berpura-pura bepergian jauh, dan tidak hanya mendorong mereka untuk membawa ponsel, tetapi juga memberi mereka pilihan bahan cetakan, makanan, minuman, dan perangkat hiburan. Mereka menjelaskan kepada pengemudi bahwa salah satu anggota tim peneliti akan pergi bersama mereka masing-masing. Mereka diberi tahu bahwa penumpang mereka akan memiliki beberapa “pekerjaan rumah” yang akan dia jalani selama perjalanan, sehingga sebagian besar waktu dia akan menonton DVD.
12 subjek mengendarai mobil di jalur uji, dan reaksi serta tindakan mereka diukur dan dicatat. Para peneliti menetapkan sendiri tujuan mengukur godaan yang akan teralihkan oleh kegiatan luar seperti makan, membaca, atau menonton video, dan sejauh mana perhatian pengemudi dialihkan dari jalan ketika perangkat lunak mengambil alih sebagian besar tanggung jawab. Dengan kata lain, para peneliti memeriksa apakah teknologi mengemudi otomatis pengemudi akan menyebabkan kegiatan yang tidak aman seperti mengalihkan perhatian dari proses mengemudi, pelajaran mengemudi yang tidak sesuai, kehilangan persepsi tentang apa yang terjadi dan kemampuan untuk mengenali faktor-faktor penting di lingkungan mereka.
Ternyata sebagian besar pengemudi di hadapan teknologi mengemudi otomatis dengan senang hati memulai ketiga jenis pelanggaran di belakang kemudi. “Pekerjaan rumah”, yang seharusnya dilakukan oleh peneliti penumpang, bersama dengan kontrol pelayaran adaptif dan sistem pemeliharaan jalur, menidurkan perhatian pengemudi, dan mereka merasa bahwa mereka dapat mengalihkan perhatian mereka dari apa yang terjadi di jalan tanpa membahayakan. Selama tiga jam pengujian, di mana berbagai sistem mengemudi otomatis digunakan, sebagian besar pengemudi sibuk dengan hal-hal abstrak - mereka biasanya makan, mendapat sesuatu dari kursi belakang, berbicara di ponsel dan mengirim pesan.
Terutama para pengemudi menjaga mobil di jalur santai. Ketika dinyalakan, maka sebanyak 58% dari subyek menonton sambil memindahkan DVD. 25% pengemudi membaca, yang meningkatkan risiko kecelakaan 3,4 kali.
Perhatian visual pengemudi tidak lebih baik. Perhatian tersebar, mereka tidak melihat jalan selama hampir 33% dari seluruh waktu di belakang kemudi. Yang bahkan lebih berbahaya, mata mereka teralihkan dari jalan untuk waktu yang lama, yaitu, selama lebih dari 2 detik, rata-rata 3325 kali selama perjalanan tiga jam. Benar, gangguan yang begitu lama hanya memakan waktu 8% dari waktu pengujian.
Studi ini, tentu saja, dapat dianggap hanya langkah pertama. 12 orang adalah kelompok kontrol kecil, diperlukan lebih banyak penelitian. Salah satu penemuan menarik adalah bahwa meskipun sebagian besar pengemudi menikmati makan, menonton film, membaca atau mengirim pesan saat mengemudi, beberapa di antaranya mampu menahan godaan ini. Seperti yang disimpulkan oleh para peneliti, "penelitian ini menunjukkan adanya perbedaan individu yang besar dalam masalah gangguan untuk kegiatan yang tidak berhubungan, yang dapat berarti pengaruh heterogen dari sistem mengemudi otonom pada driver yang berbeda."
Dalam studi lain yang dilakukan oleh University of Pennsylvania, peneliti berbicara kepada 30 remaja tentang menggunakan ponsel saat mengemudi. Ternyata, meskipun sadar akan bahaya mengirim pesan saat mengemudi, remaja tetap melakukannya. Para remaja, yang sepenuhnya menolak penggunaan telepon saat mengemudi, mengakui bahwa mereka mengirim pesan di lampu lalu lintas menunggu sinyal hijau. Juga, remaja memiliki sistem mereka sendiri untuk menentukan apa artinya "mengirim pesan di belakang kemudi". Misalnya, mereka menyatakan bahwa membaca Twitter saat mengemudi tidak berlaku untuk olahpesan. Mereka mengatakan hal yang sama tentang mengambil foto saat mengemudi.
Perhatian yang rusak adalah salah satu risikonya. Risiko lain dari berbagi tanggung jawab untuk mengemudi di antara orang-orang dan perangkat lunak adalah bahwa keterampilan mengemudi orang akan menurun dari penggunaan yang jarang. Pengemudi akan mengambil setiap kesempatan untuk bersantai di belakang kemudi seperti halnya pilot AF447. Dan jika seseorang tidak mengendarai mobil selama beberapa minggu, berbulan-bulan atau bertahun-tahun, dan kemudian tiba-tiba dia perlu mengambil kendali dalam keadaan darurat, dia tidak hanya tidak akan memiliki gagasan tentang apa yang terjadi di luar, tetapi juga akan menemukan bahwa keterampilan mengemudi telah berkarat.
Godaan untuk terlibat dalam urusan asing atau melepaskan tangan Anda dari kemudi sambil membagi tanggung jawab adalah bahaya yang sangat serius sehingga Google memutuskan untuk melewati tahap transisi bertahap ke mengemudi mandiri. Laporan perusahaan Oktober 2015 berakhir dengan kesimpulan yang tidak terduga: berdasarkan eksperimen awal dengan sistem sebagian otonom, sebuah strategi dikembangkan untuk fokus pada pencapaian otomatisasi yang sangat lengkap. Dikatakan sebagai berikut: “Akibatnya, tes membawa kami pada kebutuhan untuk mengembangkan kendaraan yang dapat bergerak secara independen dari titik A ke titik B tanpa campur tangan manusia. Semua orang berpikir sulit untuk membuat mesin yang berperilaku sendiri. Begitulah. Tetapi bagi kami tampaknya sulit untuk membuat orang menjaga perhatian mereka, jika mereka lelah, mereka bosan, dan teknologinya memberi tahu mereka: "Jangan khawatir, saya memiliki segalanya di bawah kendali ... untuk saat ini ..." "
Pada saat penulisan ini, mobil robot Google mengalami 17 kecelakaan kecil dan satu tabrakan dengan bus dengan kecepatan rendah. Dalam 17 insiden, pengemudi mobil lain ternyata menjadi biang keladinya. Pada 14 Februari 2016, mobil Google mengalami kecelakaan serius pertama, “menyentuh” sisi bus kota. Dan tidak seperti dalam kasus sebelumnya, kesalahan ini terjadi karena perangkat lunak robomobile - salah memperkirakan bahwa jika mobil berjalan lebih jauh, bus akan berhenti.Kecuali dalam kasus bus, semua insiden lain terjadi, cukup lucu, karena robomobile drive terlalu baik. Kendaraan yang diprogram dengan baik jelas mematuhi semua peraturan, yang membingungkan orang yang taat hukum yang tidak terbiasa mengikuti mereka secara harfiah. Contoh-contoh umum dari kecelakaan semacam itu dapat disebut ketika sebuah robomobile mencoba untuk berintegrasi ke aliran di jalan raya atau berbelok ke kanan di persimpangan yang sibuk, dan pengemudi, yang tidak menyadari ketaatan yang tepat dari penandaan oleh mesin dan batas kecepatan, melaju ke dalam robomobiles.Sejauh ini, tidak ada satu kecelakaan pun yang menyebabkan cedera. Di masa depan, cara terbaik untuk menghindari tabrakan adalah dengan mengajarkan robot mobil untuk mendorong manusia yang lebih sedikit, lebih riang dan sedikit ilegal. Dalam jangka panjang, cara termudah adalah dengan menyelesaikan masalah dengan driver dengan menggantinya dengan komputer yang tidak pernah terganggu dari jalan.Pembuat mobil dan raksasa IT berkumpul di sekitar meja untuk memainkan permainan poker mobil dengan taruhan tinggi. Masih belum diketahui kepada siapa peta itu akan terletak. Jika pejabat menjual undang-undang tentang perlunya keterlibatan manusia dalam mengemudi, HITL akan dikalahkan oleh pembuat mobil, sambil tetap memegang kendali industri otomotif. Jika undang-undang mengizinkan atau bahkan membutuhkan otonomi penuh dari robomobiles, perusahaan IT akan menang.Google memiliki beberapa keunggulan serius - ia adalah pemimpin yang tak perlu dalam bidang peta digital dan pembelajaran mendalam. Dari sudut pandang strategi bisnis, kurangnya petunjuk Google dalam industri otomotif mungkin merupakan keuntungan utamanya. Analis Kevin Routh menulis: "Tidak seperti OEM, Google tidak menghadapi ancaman kehilangan keuntungan karena melewatkan langkah-langkah perantara dalam pengembangan, mereka segera mulai membuat robot mobil yang sepenuhnya otonom, dan mereka tampaknya memiliki awal yang serius." Tambahkan ke ini keinginan kuat Google untuk membuat saluran keuntungan baru, terlepas dari penjualan iklan online - saat ini sumber pendapatan utama bagi perusahaan.: , , . , – .