Apakah robot membutuhkan empati?

Kami berada di ambang revolusi dalam robotika, dan para ilmuwan dan insinyur berusaha memahami bagaimana ini akan mempengaruhi orang. Pendapat dibagi menjadi dua kubu: masa depan menjanjikan kita robo-apocalypse a la "Terminator", atau robot akan menggantikan anjing dalam peran sahabat manusia. Dan dari sudut pandang sejumlah pemikir modern dan visioner, skenario kedua hanya mungkin terjadi jika robot memiliki empati . Lebih tepatnya, dalam kecerdasan buatan.

Konsekuensi AI tanpa jiwa baru-baru ini sepenuhnya dirasakan Microsoft, setelah mengalami kegagalan yang menghancurkan dengan bot obrolannya yang terkenal yang disebut Thay. Telah diprogram untuk belajar melalui interaksi dengan pengguna Twitter. Akibatnya, kerumunan troll langsung mengubah seorang gadis berusia 19 tahun, yang memainkan peran bot, menjadi Nazi rasis yang cemas secara seksual . Pengembang harus menonaktifkan bot satu hari setelah peluncuran. Kasus ini dengan jelas menunjukkan pentingnya masalah AI yang masuk ke dalam kekacauan, bahwa salah satu divisi Google - DeepMind - bersama dengan spesialis dari Oxford, mulai mengembangkan teknologi " sakelar darurat " untuk AI sampai mereka berubah menjadi ancaman nyata.

Intinya adalah bahwa AI, yang tidak kalah dalam tingkat alasan seseorang, dan hanya mengandalkan pengembangan dan optimisasi independen, dapat sampai pada kesimpulan bahwa orang ingin mematikannya atau mencegah mereka mendapatkan sumber daya yang mereka inginkan. Dan sesuai dengan kesimpulan ini, kecerdasan buatan akan memutuskan untuk bertindak terhadap orang, terlepas dari seberapa masuk akal kecurigaannya. Seorang ahli teori yang cukup terkenal, Eliezer Yudkowsky, pernah menulis: “ AI tidak akan mencintai atau membenci Anda. Tetapi kemudian Anda terbuat dari atom, yang dapat ia gunakan untuk kebutuhannya . "



Dan jika ancaman dari AI "hidup" dalam superkomputer berbasis cloud tampak agak fana bagi Anda sekarang, apa yang dapat Anda katakan tentang robot penuh, dalam otak elektronik di mana muncul ide bahwa Anda mengganggu hidupnya?



Salah satu cara untuk memastikan bahwa robot, dan secara umum AI, akan tetap berada di sisi yang baik, adalah dengan mengisinya dengan empati. Bukan fakta bahwa ini akan cukup, tetapi ini adalah kondisi yang diperlukan dalam pendapat banyak ahli. Kami hanya akan dipaksa untuk membuat robot yang mampu berempati.

Belum lama ini, Elon Musk dan Stephen Hawking menulis surat terbuka ke Pusat Studi Risiko Eksistensial (CSER), yang menyerukan lebih banyak upaya untuk mempelajari "perangkap potensial" di AI. Menurut penulis surat itu, kecerdasan buatan mungkin menjadi lebih berbahaya daripada senjata nuklir, dan Hawking umumnya percaya bahwa teknologi ini akan mengakhiri kemanusiaan. Untuk melindungi dari skenario apokaliptik, diusulkan untuk membuat AI yang kuat (AGI, kecerdasan umum buatan) dengan sistem psikologis built-in yang mirip dengan yang manusia, atau untuk sepenuhnya memodelkan reaksi saraf manusia dalam AI.

Untungnya, waktu belum terlewatkan dan Anda dapat memutuskan ke arah mana kita harus bergerak. Menurut komunitas pakar, kemunculan AI yang kuat, tidak kalah dengan manusia, dimungkinkan dalam kisaran 15 hingga 100 tahun dari saat ini. Pada saat yang sama, batas rentang mencerminkan tingkat optimisme dan pesimisme yang ekstrem, sementara istilah yang lebih realistis adalah 30-50 tahun. Selain risiko mendapatkan AI berbahaya tanpa prinsip moral, banyak yang khawatir bahwa gejolak ekonomi, sosial dan politik saat ini dapat mengarah pada fakta bahwa pencipta AI yang kuat pada awalnya akan berusaha mengubahnya menjadi senjata baru, alat tekanan atau kompetisi. Dan jauh dari peran terakhir, kapitalisme yang tidak terkendali dalam bentuk korporasi akan bermain di sini. Bisnis besar selalu berusaha dengan kejam untuk mengoptimalkan dan memaksimalkan proses,dan tentu saja akan ada godaan untuk "berenang untuk pelampung" untuk mendapatkan keunggulan kompetitif. Beberapa pemerintah dan perusahaan mungkin akan mencoba untuk menarik AI yang kuat untuk mengelola pasar dan pemilihan, serta untuk mengembangkan senjata baru, dan negara-negara lain harus menanggapi langkah-langkah ini secara memadai, dengan terlibat dalam perlombaan senjata AI.



Tidak ada yang bisa membantah bahwa AI akan selalu berubah menjadi ancaman bagi kemanusiaan. Karena itu, tidak perlu mencoba untuk melarang pembangunan di daerah ini, dan ini tidak ada gunanya. Tampaknya hukum robotika Azimov sendiri tidak dapat melakukan kita, dan secara default kita perlu memperkenalkan sekering "emosional" untuk membuat robot damai dan ramah. Agar mereka dapat menciptakan kemiripan persahabatan, mereka dapat mengenali dan memahami emosi orang, bahkan mungkin berempati. Ini dapat dicapai, misalnya, dengan menyalin struktur saraf otak manusia. Beberapa ahli percaya bahwa secara teori dimungkinkan untuk membuat algoritma dan struktur komputasi yang dapat bertindak seperti otak kita. Tetapi karena kita sendiri tidak tahu bagaimana mengaturnya, ini adalah tugas untuk masa depan yang jauh.

Sudah ada robot di pasar yang mampu secara teknis mengakui beberapa emosi manusia. Misalnya, Nao - dengan tinggi hanya 58 cm dan berat 4,3 kg, robot ini dilengkapi dengan perangkat lunak pengenal wajah. Dia mampu melakukan kontak mata dan bereaksi ketika mereka berbicara dengannya. Robot ini telah digunakan untuk tujuan penelitian untuk membantu anak-anak autis. Model lain dari produsen yang sama - Pepper - mampu mengenali kata-kata, ekspresi wajah dan bahasa tubuh, bertindak sesuai dengan informasi yang diterima.



Tapi tidak satu pun robot modern yang bisa merasakannya. Untuk melakukan ini, mereka membutuhkan kesadaran diri, hanya robot yang dapat merasakan hal yang sama dengan manusia, dapat memikirkan perasaan.


Kita semua lebih mampu meniru penampilan seseorang dalam robot, tetapi dengan dunia batin semuanya jauh lebih rumit.

Memiliki empati berarti mampu memahami perasaan orang lain yang pernah Anda alami pada orang lain. Dan untuk ini, robot harus melalui masa pertumbuhan mereka sendiri, dengan keberhasilan dan kegagalannya. Mereka harus mengalami kasih sayang, keinginan, kesuksesan, cinta, kemarahan, kecemasan, ketakutan, mungkin kecemburuan. Sehingga robot, memikirkan seseorang, memikirkan perasaan manusia.

Bagaimana cara menyediakan robot dengan pematangan seperti itu? Pertanyaan yang bagus Dimungkinkan untuk membuat emulator / simulator virtual di mana AI akan mendapatkan pengalaman emosional, sehingga nantinya mereka dapat dimuat ke dalam tubuh fisik. Atau membentuk pola buatan / kenangan dan robot cap dengan standar nilai moral dan etika. Hal-hal seperti itu diramalkan oleh penulis fiksi ilmiah Philip K. Dick , dalam novelnya robot sering beroperasi dengan ingatan buatan. Tetapi emosionalitas robot mungkin memiliki sisi lain: dalam film terbaru Ex MachinaSituasi dijelaskan ketika robot yang dikendalikan oleh AI yang kuat menunjukkan emosi dengan andal sehingga menyesatkan orang, memaksa mereka untuk mengikuti rencananya. Pertanyaan: bagaimana membedakan ketika robot hanya secara cerdik bereaksi terhadap suatu situasi, atau ketika itu benar-benar mengalami emosi yang sama seperti Anda? Untuk membuatnya menjadi halo holografik, warna dan pola yang mengkonfirmasi ketulusan emosi yang diungkapkan oleh robot, seperti dalam anime "Time of Eve" ( EVE no Jikan )?



Tapi misalkan kita mampu menyelesaikan semua masalah di atas dan menemukan jawaban untuk pertanyaan yang diajukan. Akankah robot sama dengan kita saat itu, atau akankah mereka berada di bawah kita di tangga sosial? Haruskah orang mengelola emosi mereka? Atau akankah itu semacam perbudakan berteknologi tinggi, yang menurutnya robot dengan AI yang kuat harus berpikir dan merasakan seperti yang kita inginkan?



Ada banyak pertanyaan sulit yang belum ada jawabannya. Saat ini, struktur sosial, ekonomi dan politik kita belum siap untuk perubahan radikal seperti itu. Tetapi semua sama, cepat atau lambat kita harus mencari solusi yang dapat diterima, karena tidak ada yang bisa menghentikan pengembangan di bidang robotika, dan suatu hari nanti AI yang kuat yang mampu berfungsi dalam tubuh antropomorfik akan dibuat. Kita perlu mempersiapkan ini terlebih dahulu.

Source: https://habr.com/ru/post/id397209/