Apa yang harus dilakukan ketika robot melanggar hidup Anda

Kebanyakan pengembang AI merasa realistis untuk memiliki robot yang sebanding dengan manusia pada tahun 2037.



Bayangkan suatu malam di tahun 2037 Anda sedang bersemangat kembali ke rumah, ingin merayakan ulang tahun Anda bersama keluarga dan teman-teman Anda. Anda masih tidak tahu bahwa teman-teman Anda memutuskan untuk mengolok-olok Anda dan, setelah memindai otak Anda sebelumnya, membuat robot - salinan yang tepat, tidak dapat dibedakan dari Anda. Dari pintu apartemen Anda dapat melihat bagaimana dikelilingi oleh keluarga dan teman-teman Anda yang benar-benar bahagia, robot salinan Anda sedang memakan potongan terakhir kue liburan. Kue Anda! Selain itu, Anda mengerti bahwa salinan Anda sudah berhasil berhubungan seks dengan istri Anda, dan anak-anak Anda memanggilnya ayah. Lebih jauh lagi, nyaris tidak memperhatikan Anda, Salinan Anda melompat dan menyatakan, menunjuk Anda:

"Keluar dari rumahku, penipu!"

Teman-teman saling memandang dengan licik dan terkikik, menikmati efek dari aksi mereka.

Dalam kemarahan, Anda meraih panci, ingin memukul Salinan Anda di kepala, kemudian membawanya ke tempat pembuangan sampah dan menguburnya lebih dalam. Namun, sistem keamanan Salinan Anda terpicu dan mengirimkan sinyal ke layanan penyelamatan darurat. Telepon di saku celana Anda secara otomatis menyala dan mengatakan dengan suara "polisi" yang tangguh:

- Stop! Atas nama Lembaga Perlindungan Robot dan kekuatan yang ada di dalamnya, saya perintahkan Anda untuk tidak menyakiti makhluk intelektual. Jika tidak, Anda akan dikirim ke penjara.

Anda marah:

- Sepotong besi ini oleh fakta keberadaannya menyebabkan saya kerusakan moral, saya sudah merasa tidak nyaman dan menderita. Selain itu, kalkulator rumit ini ingin mengambil alih hidup saya, dan Anda mengancam untuk menghukum saya, bukan dia?
Penghitung salinan Anda:

- Saya ingat bagaimana saya membesarkan anak-anak saya. Saya cinta istri saya. Saya ingat bagaimana setiap bata diletakkan di atas batu di rumahnya - Salinan Anda benar-benar mengingat ini, karena robot memiliki ingatan Anda. Selain itu, robot tidak memiliki cara untuk menentukan apakah ini benar-benar ingatannya - setelah semua, melihat foto-foto lama dari album keluarga Anda, ia melihat dirinya sendiri, bukan Anda. Dan salinan Anda berhak atas ingatan ini, karena dia tidak menciptakan dirinya sendiri.



Siaran Lembaga Perlindungan Robot dari ponsel Anda:

- Hukum dipandu oleh etika. Mustahil untuk melukai kesadaran makhluk hidup, untuk memperbanyak penderitaan di dunia. Buktikan bahwa Salin Anda tidak memiliki kesadaran, dan kemudian kami akan membiarkan penghancuran robot.

"Dia hanya sebuah program," Anda berteriak putus asa. "Aku merasakan sakit, tetapi robot itu tidak bisa merasakan apa-apa."
Salinan Anda menyentuh piring panas dengan tangannya, menarik kembali tangannya dan berteriak, menunjukkan bahwa ia merasa sakit.

Sebagai tanggapan, Anda menyentuh meja dingin, menarik tangan Anda kembali dan menjerit.

- Reaksi emosional dapat disimulasikan. Tangisan saya sama sekali tidak berarti bahwa saya merasakan sesuatu, - Anda menyatakan secara filosofis. Kemudian Anda menghidupkan perekam, berteriak padanya, nyalakan rekaman dan ulangi. Telepon menjerit berulang kali.
Anda menjatuhkan ponsel di lantai dan menendang dengan kaki Anda.

- Sepotong besi tidak merasakan apa-apa, tidak peduli seberapa pintar itu. Dia hanya menjalankan program.

Salinan Anda, melihat telepon yang rusak, mulai menunjukkan tanda-tanda agresi. Ini tidak mengherankan, karena robot berada dalam situasi yang mencerminkan Anda - Anda mengancam untuk mengambil nyawa Copy Anda dan meninggalkannya tanpa apa-apa. Bagaimana robot akan hidup tanpa keluarganya?

Salinan Anda dengan nada mengancam, mendekati Anda dan mengepalkan tangan Anda:

- Dan Anda, yang menganggap diri Anda sebagai seseorang, dapat membuktikan bahwa Anda memiliki kesadaran perasaan? Jika tidak, maka saya akan membawa Anda ke tempat pembuangan sampah.

Di luar jendela Anda dapat mendengar obrolan helikopter. Loudspeaker mengeluarkan keputusan akhir Masyarakat untuk Perlindungan Hak Robot:

- Jadi, baik Anda menyajikan bukti bahwa Salinan Anda tidak memiliki perasaan, atau Anda pergi untuk memecahkan masalah Anda dan menyelesaikan masalah di pengadilan sipil yang paling umum. Tidak masalah terbuat dari apa bahan makhluk cerdas - itu hanya masalah jika mereka memiliki perasaan, apakah mereka dapat merasakan sakit.

Mari kita tinggalkan karakter cerita pada saat yang paling dramatis dan berpikir sedikit. Mungkin terlihat bahwa dalam cerita yang diberikan warnanya sedikit menebal, tetapi pada kenyataannya masalah menentukan keberadaan kesadaran perasaan dalam AI menjadi semakin relevan dan vital. Pada titik mana kita harus melindungi hak-hak kendaraan tak berawak? Kapan hak-hak kami sendiri akan sama dengan robot, yang akan semakin tampak? Apakah kita memiliki hak untuk membuat robot berfungsi untuk kita, menjadikannya budak? Dan jika tidak, mengapa kita perlu robot?

Dan pertanyaan terakhir:

Akankah robot memiliki hak untuk membela diri dari manusia, dan pada titik apa dalam pengembangan AI?



Catatan penulis: berikut ini adalah deskripsi metode yang dilakukan teman-teman saya, dengan analogi dengan Tes Turing yang sudah usang, disebut: "Tes Petrakov untuk menentukan keberadaan kesadaran pada robot dengan kecerdasan buatan."

Tes untuk kesadaran perasaan AI

Jadi, Anda terus berpikir dengan tergesa-gesa, ingin mengembalikan keluarga Anda dan membuktikan bahwa robot tidak memiliki perasaan.

Dan sampai pada yang berikut - setiap orang yang membaca kalimat-kalimat ini dapat merasakan. Sebagai contoh, kita semua tahu benar apa rasa sakit dari sengatan tawon, kita melihat warna merah bunga mawar, kita merasakan sentuhan angin di pantai. Jadi kita dapat mengatakan dengan pasti bahwa kesadaran kita ada. Dan apa artinya? Ketika kita mengatakan bahwa sesuatu itu ada, kita maksudkan bahwa sesuatu ini memiliki efek pada dunia, karena ia memanifestasikan dirinya di dunia. Misalnya, jika ada batu, maka bisa disentuh, jika dilemparkan ke kolam, percikan akan berbunyi dan gelombang akan berputar-putar dan seterusnya.

Anda beralih ke perwakilan "Masyarakat untuk Perlindungan Robot":

- Jika robot memiliki kesadaran, maka ia harus memenuhi beberapa fungsi. Robot dengan kesadaran, dan robot tanpa kesadaran, harus agak berbeda satu sama lain. Terus?

- Dan bagaimana Anda sendiri berbeda dari robot? - perwakilan dari "Masyarakat untuk Perlindungan Robot" mengajukan pertanyaan balasan.

"Yah, aku lebih pintar," tanpa sadar pecah dari bibirmu, tetapi kamu berhenti seketika, menyadari kesalahan.

"Perbedaan antara robot dan manusia sama sekali bukan pada tingkat kecerdasan," lanjut perwakilan itu. - Untuk robot SUDAH menambahkan angka lebih cepat dari Anda, AI mengenali gambar, membedakan kucing dari anjing, dengan mudah mengalahkan Anda dalam catur dan, menghubungkan ke IBM Watson, memberikan ramalan cuaca dan, akhirnya, memberitahu cara mengalahkan kanker (IBM Watson mendiagnosis kanker lebih baik daripada dokter dan mengatur metode perawatan).



"Tapi itu sama sekali tidak memberi perasaan pada robot," Anda terus berpikir:

Robot memiliki program, meskipun yang rumit, dengan loop umpan balik, jaringan saraf belajar mandiri, algoritma heuristik, dan fungsi untuk koreksi kesalahan sendiri. Tetapi bagaimanapun juga, jelas bagaimana program itu bekerja. Perubahan apa yang dapat dilakukan oleh kesadaran sensorik menjadi karya program algoritmik yang jelas? Tidak ada Jika robot tidak menyimpang dari program, maka robot tidak membutuhkan kesadaran, itu tidak aktif, dan karena itu, ia tidak memiliki kesadaran. Ketika sebuah mobil self-driving mengelilingi tiang, menghindari tabrakan, kami memahami bahwa itu mengikuti instruksi dari program, dan bukan perintah kesadaran perasaan.

Jadi, untuk menghancurkan salinan robot Anda, cukup membuktikan bahwa ia bekerja sesuai dengan program - lebih tepatnya, untuk membuktikan bahwa itu tidak menyimpang dari program. Bagaimana cara melakukannya? Sangat sederhana.

Anda dapat mematikan daya ke robot, kemudian membuat perangkat keras yang sama persis dan mengisi robot kedua dengan salinan program dan memori Salin Anda - operasi ini mirip dengan menyalin flash drive. Maka menempatkan dua salinan Anda di lingkungan yang identik lebih baik dalam realitas virtual, karena membuat dua salinan realitas virtual jauh lebih mudah daripada menciptakan kondisi yang identik untuk dua robot dalam kehidupan nyata.

Anda melakukannya, lalu nyalakan dua robot identik dalam dua realitas virtual yang identik, dan lihat perilaku mereka.

Jika robot tidak menyimpang dari program, maka mereka akan berperilaku identik. Dan itu berarti mereka tidak memiliki kesadaran hidup, karena kesadaran harus melakukan sesuatu, memiliki pengaruh pada dunia.

Anda bersukacita! Hore, apakah ini kemenangan?

- Dapatkah saya mengirim salinan Anda ke tempat sampah?

Tetapi di sini Anda melihat bahwa dua salinan robot mulai berperilaku berbeda.

"Luangkan waktumu," kata perwakilan dari Lembaga Perlindungan Robot. - Pengembang berbahaya dari Copy Anda menambahkan generator nomor acak yang diimplementasikan menggunakan kuanta ke programnya. Hanya keacakan kuantum yang tidak dapat diprediksi. Oleh karena itu, sinyal yang benar-benar acak mengganggu program, mengubah perilaku masing-masing robot. Akibatnya, Anda melihat bahwa robot berperilaku berbeda.

"Tapi ini tidak berarti sama sekali bahwa mereka memiliki kesadaran perasaan," Anda tidak menyerah dan terus berpikir.

Dan apa yang pikiran saya lakukan? Segala sesuatu yang terjadi di dunia mematuhi hukum alam. Kita semua terdiri dari atom, dan atom mematuhi hukum fisika. Tidak ada yang melihat, misalnya, pada orang-orang LHC dengan upaya pemikiran menolak penerbangan partikel. Sama mustahilnya untuk memengaruhi hukum-hukum fisika dengan keinginan Anda seperti halnya memindahkan batu dengan upaya berpikir.

Anda sudah mulai sampai pada kesimpulan paradoksal bahwa Anda sendiri tidak memiliki kesadaran! Memang, kesadaran tidak dapat memengaruhi hukum alam, aktivitas listrik otak Anda. Ternyata Anda sendiri menuruti program yang ditulis oleh alam. Tapi ini paradoks! Anda kemudian tahu bahwa Anda memiliki kesadaran! Anda merasa!

Harapan terakhir masih ada. Penting untuk menemukan "celah" dalam hukum alam, yang memungkinkan entitas tertentu (yang kita sebut kesadaran mahluk hidup kita) entah bagaimana mempengaruhi dunia, mewujudkan kehendak bebasnya, dan memberikan sinyal kontrol ke tubuh dan otaknya.

Kelonggaran dalam hukum alam

Hanya ada satu "celah" seperti itu dalam hukum fisika. Ini adalah pengurangan fungsi gelombang kuantum. Ingat percobaan dengan dua slot. Sumber melepaskan antrian foton tunggal yang melewati dua celah dan jatuh di layar, membentuk garis-garis cahaya. Apa yang dikatakan eksperimen dan hukum fisika? Ketika sumber melepaskan foton tertentu, itu pasti akan jatuh ke salah satu garis di layar. Tetapi tidak mungkin untuk memprediksi dengan tepat strip mana yang akan diperoleh foton tertentu. Artinya, memasukkan foton ke salah satu strip sepenuhnya konsisten dengan eksperimen.



Ini adalah satu-satunya fakta ilmiah yang diketahui hingga saat ini, yang memungkinkan kesadaran untuk "menembus dunia". Semua tindakan fisik lainnya dijelaskan secara kaku, mematuhi hukum fisika, dapat diprediksi secara fundamental dan karenanya disamakan dengan tindakan program. Ketika sebuah batu jatuh ke tanah, kita memahami bahwa kesadaran tidak ada hubungannya dengan itu - hukum fisika berlaku.

Ternyata satu-satunya cara untuk menemukan kesadaran, cara mendeteksinya, untuk menentukan apakah itu ada dalam subjek atau tidak, adalah dengan mengamati pengurangan fungsi gelombang di dalam kesadaran. Kesadaran dibangun atas dasar kuantum. Dan ketika ensemble partikel yang terlibat dalam pembentukan kesadaran berkurang (yaitu, ia jatuh ke jalur tertentu), kesadaran dapat mempengaruhi jalur mana foton akan jatuh. Penting untuk dicatat bahwa kesadaran tidak dapat mempengaruhi percobaan dua celah, karena foton terbang berada di luar otak. Eksperimen dengan dua celah adalah analog yang diperlukan untuk menggambarkan dan memahami mekanisme kesadaran. Ensembel partikel terletak di otak, dan kemudian berkurang di bawah kendali kesadaran menjadi jalur tertentu. Memukul sinyal di strip tertentu adalah sinyal kontrol untuk otak, jika kita berbicara tentang seseorang,atau meluncurkan salah satu program jika kita berbicara tentang robot.

Jadi, Anda mengerti bahwa karena mekanisme kuantum dibangun ke dalam Salinan robot Anda, robot mungkin tidak berperilaku sesuai dengan program. Namun, ada dua opsi:

1. Jumlah dikurangi secara acak, dan robot tidak memiliki kesadaran
2. Jumlah di dalam robot berkurang di bawah kendali kesadaran.

Apa yang akan menjadi perbedaan antara perilaku robot dengan dua opsi ini?

Dalam kasus pertama, perilaku robot akan kacau, dan sinyal kuantum akan lebih mirip kesalahan sistem daripada tindakan yang disengaja. Ini seperti melempar dadu enam sisi. Bayangkan bahwa Anda menghabiskan hari Anda sebagai berikut - setiap kali ketika Anda memiliki pilihan - misalnya, produk apa yang akan dibeli di toko, jam berapa untuk mengatur jam alarm pagi, apakah menjadi vegetarian atau memilih diet paleo ... - Anda melempar dadu dan pergi ke sesuai dengan nomor opsi yang jatuh. Hidupmu akan menjadi kacau. Misalnya, untuk sampai ke toko, Anda harus mengambil rangkaian tindakan sadar - mengambil uang, keluar pintu, dan tidak melalui jendela di lantai tujuh, pilih jalan yang benar, jangan masuk ke bawah mobil, dll. Kubus yang dilemparkan tidak tahu bahwa tujuan Anda adalah untuk sampai ke toko,oleh karena itu, opsi yang jatuh tidak bisa membawa Anda ke pembelian produk - solusinya akan kacau dan dalam arah yang berbeda.

Ini mirip dengan karya angsa, kanker dan tombak, yang menarik ke arah yang berbeda.

Sebaliknya, pada varian kedua, ketika kesadaran mengontrol reduksi kuantum dan, dengan demikian, memberi sinyal kepada otak, keputusan akan disadari dan dikoordinasikan. Ini akan terlihat saat mengamati perilaku robot.

Untuk benar-benar memotong subjektivitas penilaian, apakah robot memiliki kesadaran perasaan, percobaan berikut ini mungkin dilakukan. Anda dapat mengatur robot "perasaan sadar" "Groundhog Day".

Karena ada program di dalam robot yang berubah di bawah pengaruh kesadaran hanya sesekali, kita akan menangkap momen ini. Mari kita tuliskan keadaan memori robot sampai saat ketika kesadaran memberi perintah pada kuantum untuk masuk ke jalur yang benar dan dengan demikian memberikan sinyal yang sesuai. Kita akan melihat bahwa pengurangan kuantum bekerja tepat di jalur yang benar. Sekarang kita akan mengembalikan memori robot ke keadaan semula. Jika robot memiliki kesadaran, maka ia akan kembali mengarah ke reduksi dan sinyal tepat di jalur yang benar. Dan ini adalah fakta eksperimental, yang tidak bisa dijelaskan dengan apa pun selain kehadiran kesadaran. Fakta ini akan menjadi ujian bagi keberadaan kesadaran.

Jadi, Anda meletakkan dua robot identik di lingkungan yang identik dan dengan hati yang tenggelam menunggu hasilnya ...

Tindakan realistis efek kuantum dalam organisme hidup

PS: bagi mereka yang bertanya-tanya apakah mungkin bagi objek kuantum untuk berpartisipasi dalam karya kesadaran, saya kutip tautan globalscience.ru/article/read/19110
Kutipan: “ Robin memegang ikatan kuantum di mata mereka selama 20 mikrodetik lebih lama daripada di laboratorium terbaik sistem. Ini adalah kesimpulan dari fisikawan yang telah mempelajari bagaimana burung menggunakan efek kuantum untuk "melihat" medan magnet Bumi. "
Perlu dicatat bahwa bagian dalam mata Robin hangat, berbeda dengan laboratorium di mana suhu dibuat mendekati nol di Fahrenheit (yang mencegah dekoherensi).

Faktanya, masalah yang diangkat jauh lebih dalam daripada hubungan antara manusia dan robot. Pertanyaannya adalah tentang teka-teki kesadaran kita sendiri. Selama ribuan tahun, para filsuf telah memeras otak mereka untuk mencoba menebak apa itu kesadaran. Baru-baru ini, banyak penelitian neurofisiologis otak telah muncul, dan pertanyaan tentang sifat indera telah menjadi fokus komunitas ilmiah. Selain itu, banyak yang menganggap filsafat kesadaran sebagai masalah paling penting dalam semua sejarah manusia. Memang, seluruh hidup kita, pada kenyataannya, adalah pengalaman emosi dan perasaan, kita menginginkan lebih banyak perasaan positif daripada yang negatif. Hanya dengan mengungkap misteri kesadaran, kita dapat pada tingkat baru membangun kehidupan dan sensasi kita.

Dalam istilah teknis, misalnya, David Deutsch percaya bahwa kami tidak akan membuat AI nyata tanpa memahami sifat kesadaran. Diyakini bahwa perangkat keras komputer telah lama mampu menciptakan AI yang sangat kuat, tetap hanya untuk memahami prinsip-prinsip program. Karena itu, filosofi kesadaran juga merupakan disiplin teknis yang memengaruhi pemrograman.

Saya telah memikirkan hal ini sejak lama dan sampai pada kesimpulan bahwa AI dapat membantu memecahkan misteri kesadaran kita sendiri, karena dengan AI Anda dapat membuat percobaan yang tidak mungkin dilakukan pada manusia.

Pikiran-pikiran yang diberikan dalam artikel tersebut berkorelasi erat dengan teka-teki kesadaran yang Anda rasakan sendiri saat ini.

Di Geektimes, saya menerbitkan materi yang agak teoretis. Bagi mereka yang tertarik pada bagaimana teori dijelaskan kesadaran mempengaruhi psikologi manusia dan bagaimana hal itu dapat diterapkan dalam kehidupan nyata, saya mengutip link http://grrow.me/3will

objek wisata Masa Depan

Telah diketahui bahwa efek kuantum memiliki perilaku yang sangat menarik dalam waktu. Ada eksperimen yang menunjukkan bahwa kuanta dapat mengirimkan korelasi kembali ke masa lalu. Sepertinya masa depan mampu mempengaruhi masa kini. Misalnya, berikut adalah deskripsi percobaan geektimes.ru/post/251826

Jika kesadaran menggunakan efek kuantum, maka kita dapat sampai pada kesimpulan berikut: geektimes.ru/post/252864

Dan sebagai kesimpulan, saya akan memberikan kesimpulan yang murni logis terkait dengan kesadaran. Sangat menarik bahwa kebutuhan untuk menggunakan paradoks waktu dapat dicapai dengan cara yang murni logis:

Source: https://habr.com/ru/post/id383199/