🗼 👩‍🚀 👏 Apakah mungkin untuk memperkenalkan etika ke dalam algoritma robomobiles? 😎 👨🏽‍🏭 🕟

Untuk pembunuhan yang dilakukan oleh robomobile, program (dan programmer) akan diadili

Tahun 2034. Seorang pria mabuk berkeliaran di trotoar di malam hari, tersandung dan jatuh tepat di depan robomobile, yang menabraknya dan membunuhnya di tempat. Jika ada seseorang di belakang kemudi mobil, kematian akan diakui sebagai kecelakaan, karena kesalahan akan terletak pada pejalan kaki, dan tidak ada seorang pengemudi pun yang bisa menghindarinya. Tetapi standar untuk "pengemudi rata-rata" (istilah " orang yang beralasan " ada dalam undang-undang asing ) menghilang pada tahun 2020-an, ketika penyebaran robot mobil mengurangi jumlah kecelakaan hingga 90%. Sekarang kita harus bicara tentang "robot rata-rata".

Keluarga korban menggugat produsen kendaraan robot, yang menyatakan bahwa meskipun mobil tidak punya waktu untuk mengerem, dia bisa berputar-putar di pejalan kaki, menyeberang jalan ganda dan bertabrakan dengan robot yang mendekat. Rekonstruksi insiden berdasarkan sensor kendaraan robot menegaskan hal ini. Pengacara penggugat, menginterogasi pengembang perangkat lunak mobil terkemuka, bertanya: "Mengapa mobil tidak berpaling?"

Hari ini, pengadilan tidak menanyakan kepada pengemudi mengapa mereka melakukan sesuatu atau tidak. Masalahnya masih bisa diperdebatkan, karena orang itu salah - pengemudi bisa panik, tidak memikirkannya, bereaksi pada insting. Tetapi ketika robot mengendarai mobil, pertanyaannya adalah "mengapa?" cukup bisa diterima. Standar etika orang, yang tidak dijabarkan dengan baik dalam undang-undang, membuat banyak asumsi berbeda yang belum dicapai oleh para insinyur. Yang paling penting dari mereka - seseorang bisa mengerti ketika Anda perlu menyimpang dari surat hukum untuk menjaga semangatnya. Sekarang para insinyur perlu mengajarkan mesin dan robot lain cara membuat keputusan yang cerdas.

Komputerisasi proses kontrol dimulai pada 1970-an, ketika sistem pengereman anti-lock muncul . Sekarang setiap tahun ada perkembangan seperti kemudi otomatis, akselerasi otomatis dan pengereman darurat. Pengujian mesin yang sepenuhnya otomatis, meskipun dengan partisipasi pengemudi manusia, sudah diizinkan di beberapa tempat di Inggris, Belanda, Jerman dan Jepang. Di Amerika Serikat, itu diizinkan oleh hukum di empat negara bagian dan Distrik Columbia, dan setidaknya tidak dilarang di negara bagian lainnya. Google, Nissan dan Ford mengklaim bahwa robomobiles akan muncul dalam 5-10 tahun.

Kendaraan otomatis mengumpulkan informasi lingkungan dari sensor - kamera video, pengukur jarak ultrasonik, radar, penutup. Di California, robot mobil diharuskan menyediakan semua data sensor kepada Departemen Perhubungan 30 detik sebelum tabrakan yang telah terakumulasi cukup - termasuk tabrakan yang disebabkan oleh mesin Google . Insinyur diberi kesempatan untuk memulihkan peristiwa di area tabrakan dengan cukup akurat, menggunakan catatan tentang apa yang dapat ditangkap mesin, alternatif yang dipertimbangkannya, dan logika perilaku. Komputer dapat dibuat untuk mengulangi alasannya - cara itu dapat diminta untuk membuat orang yang memainkan game atau mengemudi simulator.

Regulator dan pihak yang berperkara akan dapat mempertahankan standar keselamatan manusia super untuk kendaraan robot, dan memeriksa dengan teliti tabrakan yang akan terjadi - walaupun jarang. Produsen dan pemrogram akan melindungi tindakan produk mereka dengan cara yang tidak pernah diimpikan oleh pengemudi saat ini.

Mengemudi selalu merupakan risiko, dan keputusan mengenai distribusi antara pengemudi, pejalan kaki, pengendara sepeda, dan properti mengandung komponen etis. Untuk para insinyur dan juga untuk semua orang, penting bahwa sistem pengambilan keputusan mesin menimbang konsekuensi etis dari tindakannya.

gambar

Tabrakan Google Mobil dengan bus

Respons yang biasa terhadap situasi yang ambigu secara moral adalah mengikuti hukum sambil meminimalkan kerusakan. Strateginya menarik - tidak hanya memungkinkan pengembang untuk dengan mudah mempertahankan tindakan mobil ("Kami mengikuti hukum sepenuhnya"), tetapi juga mentransfer tanggung jawab dalam menentukan etika kepada legislator. Sayangnya, itu juga menempatkan terlalu banyak beban pada hukum.

Misalnya, di sebagian besar negara bagian, undang-undang ini mengandalkan akal sehat pengemudi, dan tidak banyak bicara tentang perilaku sebelum tabrakan. Dalam contoh yang diuraikan, mobil, yang secara ketat mengikuti surat undang-undang itu, tidak melewati solid ganda, mempertaruhkan tabrakan dengan seorang pemabuk - walaupun hanya ada robomobile kosong di seberang jalan. Undang-undang jarang membuat pengecualian dalam kasus-kasus darurat tertentu seperti seseorang jatuh di jalan - dan jika ia melakukannya, seperti kebiasaan, misalnya, di Virginia, teks undang-undang tersebut menyiratkan bahwa melintasi sebuah bangunan padat adalah sah sampai mobil itu jatuh. ("Jika gerakan seperti itu dapat dilakukan dengan aman"). Dalam hal ini, para pengembang harus memutuskan - dalam hal apa akan aman untuk melewati double solid.

Robomobile jarang akan 100% yakin bahwa jalannya kosong dan Anda dapat menyeberangi landasan ganda tanpa rasa takut. Dia akan menilai tingkat kepercayaan pada 98%, atau 99,99%. Insinyur akan perlu memutuskan di muka tingkat kepercayaan apa yang akan cukup untuk melewati solid ganda, dan bagaimana nilai yang dapat diterima dapat bervariasi tergantung pada apa yang coba dihindari oleh robomobile di jalan - apakah itu kantong plastik atau pejalan kaki yang jatuh.

Robomobiles sudah membuat keputusan tentang kemungkinan melanggar hukum. Google mengakuibahwa mobilnya diperbolehkan melebihi kecepatan agar tetap di sungai - di mana memperlambatnya berbahaya. Kebanyakan orang lebih memilih untuk melebihi kecepatan dalam berbagai situasi, misalnya ketika mencoba untuk bergegas ke rumah sakit. Chris Gerdes [Chris Gerdes] dan Sarah Thornton dari Stanford University menentang ketatnya hukum dalam algoritma pengambilan keputusan, karena pengemudi tampaknya mempertimbangkan undang-undang yang cukup fleksibel untuk menilai biaya melanggar mereka dibandingkan dengan potensi keuntungan dalam kecepatan. Tidak ada yang ingin merangkak setelah pengendara sepeda untuk beberapa kilometer karena fakta bahwa mobil Anda menolak untuk memanggil setidaknya sedikit untuk padatan ganda.

Dan bahkan tetap berada dalam hukum, robomobile dapat membuat banyak keputusan kecil yang sensitif dari sudut pandang keamanan. Biasanya, jalur di jalan raya hampir dua kali lebih lebar dari mobil biasa, dan pengemudi dapat menggunakan lebar ini untuk menghindari sampah, atau untuk menjauh dari mobil yang tidak rata.

Dalam paten 2014, Google mengembangkan ide ini dan menjelaskan bagaimana robomobile dapat ditempatkan pada strip untuk mengurangi risiko. Perusahaan memberikan contoh mobil robom di jalan tiga jalur dengan truk di sebelah kanan dan mobil kecil di sebelah kiri. Untuk mengoptimalkan keamanan, robomobile seharusnya bergerak sedikit ke kiri, lebih dekat di mesin kecil.

Itu terlihat sehat, dan biasanya semua orang melakukannya - secara sadar atau tidak sadar. Tetapi pertanyaan etis muncul. Bergerak menuju mesin kecil, robomobile mengurangi risiko, tetapi mendistribusikannya dengan tidak merata. Haruskah mesin kecil mengambil risiko lebih besar hanya karena itu kecil? Jika itu masalah preferensi untuk pengemudi tertentu, dia tidak akan berarti apa-apa. Tetapi jika redistribusi semacam itu diformalkan dan diperluas ke semua robot mobil, konsekuensinya akan lebih serius.

Dalam setiap contoh, robomobile memperhitungkan beberapa nilai akun - nilai objek yang dapat menabraknya, dan nilai penumpangnya. Orang membuat keputusan secara naluriah, dan robot akan melakukannya berdasarkan strategi manajemen risiko yang dipikirkan dengan cermat yang mendefinisikan risiko sebagai jumlah kerusakan dari peristiwa yang tidak diinginkan, dikalikan dengan kemungkinannya.

Pada 2014, Google juga mematenkan aplikasi manajemen risiko. Paten menjelaskan mesin yang dapat memutuskan untuk membangun kembali agar dapat lebih baik melihat lampu lalu lintas. Atau mobil mungkin memutuskan untuk tetap berada di jalur untuk menghindari risiko tabrakan - misalnya, karena indikasi dari sensor yang rusak - tetapi pada biaya ini akan menjadi visibilitas yang buruk dari lampu lalu lintas. Hasil dari setiap keputusan diberikan probabilitas, serta nilai positif atau negatif (keuntungan atau kerugian). Setiap nilai dikalikan dengan probabilitas, dan nilai yang diperoleh dapat dijumlahkan. Jika manfaatnya melebihi kerugian yang cukup jauh, mesin akan bermanuver.

Masalahnya adalah risiko tabrakan sangat kecil - rata-rata pengemudi di AS mengalami kecelakaan sekali setiap 257.000 kilometer, atau setiap 12 tahun ( di Rusia - setiap 1,6 tahun). Mungkin perbedaan ini disebabkan oleh fakta bahwa di Amerika Serikat orang lebih sering bepergian di jalan raya - kira-kira. Oleh karena itu, bahkan mulai menerima aliran besar data dari robomobiles ketika mereka turun ke jalan, kita akan dapat memperoleh perkiraan probabilitas berbagai peristiwa dalam waktu dekat.

Memperkirakan biaya kerusakan bahkan lebih sulit. Kerusakan properti mudah dinilai - perusahaan asuransi memiliki pengalaman luas dalam masalah ini - tetapi cedera dan kematian adalah masalah lain. Sejarah apropriasi kehidupan seseorang dengan nilai berapa pun telah bertahun-tahun, dan biasanya dinyatakan dalam jumlah uang yang bisa dihabiskan untuk mencegah korban rata-rata. Peningkatan keamanan, dengan peluang 1% untuk menyelamatkan nyawa 100 orang, adalah satu korban rata-rata. Departemen Perhubungan merekomendasikan pengeluaran $ 9,1 juta untuk mencegah korban. Angka tersebut berasal dari data pemasaran, termasuk tunjangan yang diperlukan orang untuk pekerjaan berbahaya dan jumlah yang orang habiskan untuk peralatan keselamatan - misalnya, alarm asap. Anda perlu mempertimbangkan tidak hanya keamanan, tetapi juga kehilangan mobilitas, atau waktu,dihabiskan di jalan, yang Departemen memperkirakan $ 26,44 per jam.

Dengan kata-kata, semuanya terlihat indah. Tetapi penilaian risiko dalam nyawa yang hilang dan waktu yang dihabiskan di jalan tidak termasuk penilaian moral yang berbeda tentang bagaimana kita menempatkan orang dalam risiko. Sebagai contoh, sebuah robomobile, yang mengevaluasi kehidupan semua orang secara setara, harus memberi lebih banyak ruang bagi pengendara sepeda motor tanpa helm daripada pengendara sepeda motor dengan perlengkapan penuh, karena yang pertama akan lebih kecil kemungkinannya untuk bertahan hidup. Tetapi ini tidak adil - mungkinkah untuk menghukum karena menjaga keselamatan Anda?

Perbedaan lain antara etika robot dan manusia adalah bahwa etika robot dapat terdistorsi oleh programmer, bahkan untuk alasan yang baik. Bayangkan bahwa algoritma menyesuaikan ukuran zona penyangga untuk pejalan kaki di berbagai wilayah berdasarkan analisis jumlah kompensasi untuk klaim yang diajukan oleh pejalan kaki dalam suatu kecelakaan. Di satu sisi, itu masuk akal, efisien dan bermakna baik. Di sisi lain, hukuman yang lebih kecil mungkin tergantung pada pendapatan rata-rata orang di daerah tertentu. Kemudian algoritma akan menghukum yang miskin dengan memberi mereka zona penyangga yang lebih kecil, sehingga sedikit meningkatkan risiko mereka ditembak jatuh.

Ada godaan untuk mengesampingkan pertanyaan seperti yang murni akademis, tetapi Anda tidak dapat mengatasinya, karena program mengambil semuanya secara harfiah. Anda harus mengevaluasi konsekuensi tindakan sebelum perlu dilakukan - pada tahap pengembangan, dan bukan pada tahap membuat tambalan untuk perangkat lunak.

Sebagian karena ini, peneliti menggunakan situasi hipotetis di mana mesin harus memilih antara dua kejahatan. Salah satu tugas paling terkenal dari jenis ini adalah masalah troli.

Sebuah troli berat yang tidak terkontrol dibawa di atas rel. Dalam perjalanannya ada lima orang terikat pada rel oleh seorang filsuf gila. Untungnya, Anda dapat mengganti panah - dan troli akan menuju rute alternatif yang berbeda. Sayangnya, ada satu orang di dinding, juga terikat pada rel. Apa tindakanmu?

Apakah Anda akan mengorbankan satu nyawa untuk beberapa orang? Jika tidak, karena kelambanan Anda, orang-orang masih akan mati, jadi bagaimana Anda bisa menghadapi kontradiksi ini?

Buku telah ditulis tentang topik percobaan tersebut, dan mereka memungkinkan Anda untuk menguji sistem sederhana dan langsung yang menangani masalah etika dan menemukan area di mana akan lebih baik untuk mempelajari beberapa nuansa. Misalkan kita memprogram robomobile untuk menghindari pejalan kaki dengan cara apa pun. Jika seorang pejalan kaki tiba-tiba muncul di terowongan dua lajur dan mobil tidak dapat berbelok tepat waktu, ia harus mematikan lajur, bahkan jika ia berada di jalan bus dengan penumpang. Kemungkinan kejadian seperti itu tidak sepenting masalah yang dipaparkan dalam logika mobil robot - bahwa keunggulan absolut dari nilai pejalan kaki di atas semua orang lain yang menggunakan jalan dapat sangat berbahaya.

Etika dalam robotika adalah tugas yang harus diselesaikan. Kami mengetahui hal ini karena di bidang lain kami telah menemukan peluang untuk menangani risiko dan manfaat yang kira-kira sama secara aman dan wajar. Organ donor didistribusikan kepada pasien berdasarkan metrik yang dihitung dari tahun-tahun kehidupan potensial dan kualitas hidup mereka. Orang-orang dari profesi penting seperti petani dan guru dibebaskan dari wajib militer.

Tugas robomobiles lebih rumit. Mereka perlu memutuskan dengan cepat, berdasarkan informasi yang tidak lengkap, dalam situasi yang mungkin tidak diprediksi oleh pemrogram menggunakan etika yang harus dibangun ke dalam algoritma terlalu harfiah. Untungnya, orang tidak mengharapkan kebijaksanaan manusia super dari mereka - hanya pembenaran rasional untuk tindakan mesin yang mengevaluasi masalah etika. Solusinya seharusnya tidak sempurna - tetapi bijaksana dan satu yang bisa dilindungi.

Apakah mungkin untuk memperkenalkan etika ke dalam algoritma robomobiles?

Untuk pembunuhan yang dilakukan oleh robomobile, program (dan programmer) akan diadili

More articles: