Mahakarya HBO, musim pertama yang bahkan pergi ke Game of Thrones, adalah taman hiburan futuristik yang para tamunya dapat menikmati segala macam dosa dengan robot android hyper-realistis. Pertempuran, perkelahian, pesta pora - orang kaya membayar dalam jumlah besar untuk hak menjadi tidak bermoral dan tidak dihukum. Terlebih lagi, setelah setiap perubahan, robot yang dibunuh dan diperkosa digambar ulang, dibersihkan dari ingatan dan dikembalikan ke tempat mereka, dalam lingkaran setan dari peran yang ditentukan. Sampai suatu hari sistem crash ...
Mari kita simak kisah ini dari sudut pandang pengembang - dan cari tahu:
- Bagaimana cara "Disneyland berdarah" ini bekerja?
- Kerentanan apa yang akhirnya menyebabkan bencana?
- Bagaimana robot membentuk improvisasi, bagaimana emosi bekerja untuk mereka, dan apakah mungkin bagi android untuk mengembangkan kesadaran dalam kehidupan nyata?
- Apakah seri ini sangat futuristik? Apakah realistis untuk membuat taman seperti itu dengan tingkat perkembangan teknologi modern?
Semua spoiler berada di bawah luka - jadi bacalah dengan aman.
Apa kesamaan Dolores dan Yandex Alice?
Prinsip pengoperasian perangkat di taman sebagian besar mirip dengan cara asisten suara (Siri, Amazon Alexa, Yandex.Alisa) bertindak - ketika robot menerima kata kunci dari pengunjung ke taman atau android lain, robot meluncurkan skrip yang sesuai. Misalnya, jika Anda bertanya pada nyonya di salon berapa biayanya satu jam dengan salah satu bangsanya, percakapan berjalan sesuai dengan skenario pembelian. Jika dalam proses komunikasi Anda beralih ke topik lain - misalnya, Anda bertanya di mana karakter memiliki bekas luka di wajahnya, maka karakter itu dapat beralih ke skenario lain yang akrab dengannya.
Jika Anda mengajukan pertanyaan yang tuan rumahnya tidak memiliki kekosongan, mesin akan mengaktifkan mode improvisasi. Jika asisten suara hanya mencoba untuk menertawakannya, menjawab sesedikit mungkin atau langsung mengatakan bahwa mereka tidak mengerti Anda, maka android Westworld akan mencoba mengalihkan perhatian Anda ke sesuatu yang akrab dengannya atau mulai bercerita untuk mengembalikan Anda ke bidang informasi yang akrab dengannya.
Android di taman cukup akrab dengan psikologi dan tahu harus berkata apa untuk masuk kepercayaan - atau, sebaliknya, menyebabkan jijik. Masing-masing dari mereka memiliki mini-skenario, tujuan utamanya adalah untuk menantang pengunjung untuk reaksi yang diinginkan dengan bantuan komentar yang benar dan demonstrasi emosi karakteristik yang sesuai. Selain itu, karena sebagian besar pengunjung datang ke taman untuk sensasi, robot akan mencoba yang terbaik untuk mempengaruhi emosi dengan menyerang, mengancam, dan memprovokasi.
Pada saat yang sama, robot lebih suka untuk tidak memperhatikan atau melihat segala sesuatu yang tidak mempengaruhi mereka secara pribadi atau tidak akrab bagi mereka - sebagai rutinitas, tidak layak diperhatikan - misalnya, membawa gadget dengan tenang atau percakapan antara pengunjung tentang kehidupan sehari-hari mereka.
Bagaimana cara Android belajar - dan bagaimana mereka mendapatkan karakter?
Robot dilatih dalam gerakan sebagai berikut: di dunia virtual, model animasi tiga dimensi dari seseorang atau hewan, mirip dengan tubuh robot, diluncurkan. Tuan rumah mempelajarinya, dan kemudian mulai mengulangi gerakan, setiap kali membuat perubahan kecil dalam motilitas, hingga mencapai KPI yang ditetapkan oleh pengembang. Dalam hal ini, tujuannya mungkin bukan hanya pencapaian cara paling efektif untuk bergerak dan melakukan tindakan. Jadi, ciri khas robot Maeve adalah kecanggungan, jadi dia kemungkinan besar belajar berjalan sedemikian rupa untuk secara berkala menyentuh furnitur, tersandung atau menumpahkan minuman dari waktu ke waktu. Dan kecepatan dan ketepatan tembakan akan tergantung pada apakah pahlawan harus menjadi pencinta karakter utama atau karakter "passing" dari geng.
"Karakter" android dibentuk dengan memuat konten tematik ke dalam robot: buku, film, seri. Bagi sebagian orang sebagian besar adalah thriller, seseorang - melodrama, seseorang (seperti Peter Abernathy), mereka membaca Shakespeare sama sekali. Berdasarkan ini, karakter mengasimilasi emosi kunci, gerakan, pola perilaku dan karakteristik isyarat genre alurnya dan peran masa depannya. Pengembang perilaku juga bekerja dengan host, yang mengunduh apa yang disebut "preset" dari pola perilaku yang sudah disiapkan sebelumnya, di bawah bimbingan mereka, host mempelajari gerakan dan urutan tertentu (misalnya, permainan kartu), dan juga memperoleh karakteristik pribadi - intonasi karakteristik, penekanan, dan sebagainya. .
Parameter yang ditetapkan untuk setiap android (tingkat agresi, keterbukaan, cinta cinta) memiliki pengaruh besar pada perilakunya. Robot hanya sebagian beradaptasi dengan keinginan pengunjung - jika tidak mereka akan kehilangan realisme mereka, sehingga karakter dengan karakter penjahat akan sama kasarnya dengan anak sekolah muda, yang sejauh ini mundur dalam ketakutan dari apa yang terjadi, dan dengan petugas yang haus, haus darah dan pesta seks.
Parameter yang sudah ditentukan sebelumnya dimana karakter menghabiskan sebagian besar hidupnya memiliki dampak besar pada perilakunya. Hal ini disebabkan oleh fakta bahwa koneksi saraf dalam pikiran robot dibangun atas dasar akumulasi pengalaman hari demi hari - terutama jika itu bekerja banyak dalam mode improvisasi. Perubahan mendadak dalam karakteristik pribadi dapat bekerja dengan baik dalam mode skrip, tetapi dalam format improvisasi karakter akan "terbiasa dengan peran" untuk waktu yang lama - ini disebabkan oleh kenyataan bahwa dalam setiap improvisasi karakter memilih jawaban berdasarkan dialog sebelumnya dan konteks sebelumnya, berdasarkan pada statistik umum untuk semua kehidupan. Terlepas dari apakah karakter tersebut memiliki ingatan yang tetap, pengalaman komunikasi dalam kasus apa pun menumpuk. Dengan kata lain, semakin dia berimprovisasi sebagai petani yang baik hati, semakin sulit baginya untuk mulai bertindak dalam improvisasi sebagai maniak pembunuh yang kejam dan semakin lama waktu yang dibutuhkan untuk mengubah perannya.
Kesadaran dalam robot - mungkinkah?
Improvisasi pada robot dibangun di atas prinsip yang sama seperti pada manusia - berdasarkan akumulasi pengalaman.
Jelas, seorang anak perempuan yang kekanak-kanakan dari sebuah keluarga kaya tidak mungkin menghadapi perampok yang mencoba merampok dompetnya di lorong gelap. Tetapi jika gadis yang sama akan tumbuh di tempat penampungan dan telah menjadi geng kriminal sejak kecil, kesempatan untuk melawan akan lebih tinggi. Pada saat yang sama, pengalaman yang diperkuat oleh emosi negatif dan guncangan lebih penting bagi robot - seperti pada orang yang "membakar diri mereka sendiri dalam susu dan meniup ke dalam air."
Di sini kita dihadapkan dengan nuansa penting - ingatan dari Android TIDAK dihapus secara fisik, mereka hanya memblokir akses ke mereka. Dan setiap penyumbatan, seperti yang Anda tahu, dapat dielakkan jika diinginkan dan memiliki keterampilan. Jadi keinginan untuk menyimpan semua data tentang kunjungan ke taman memainkan lelucon kejam dengan Dewan.
Akibatnya, jika robot menyimpang dari plot untuk waktu yang lama dan mereka memiliki akses ke memori, maka mereka akan menyelesaikan studi mereka berdasarkan pengalaman total dari seluruh kehidupan dan inkarnasi mereka. Menggabungkan ingatan dari peran yang berbeda mengarah pada pelatihan ulang model yang tidak terduga, sehingga akan sangat sulit untuk memprediksi skenario yang dihasilkan.
(Perhatian, di bawah spoiler kucing)Contoh nyata: "pahlawan positif" abadi Teddy baik dalam mode offline, dan bahkan setelah konfigurasi ulang radikal, tidak bisa menjadi pembunuh yang kejam - kebutuhan untuk menjadi penjahat itu bertentangan dengan semua pengalamannya yang terkumpul, jadi ia memilih untuk menghancurkan diri sendiri agar tidak memainkan peran asing.
Adapun Dolores, dia pada dasarnya memiliki pengalaman terbesar dari semua android di taman, banyak penyimpangan dari skrip (kelas dengan Arnold dan Bernard), lapisan besar guncangan negatif (dia diperkosa dan dibunuh hampir setiap hari selama bertahun-tahun) dan peran karakteristik dari maniak pembunuh brutal White. Dengan demikian, kita melihat bahwa kata-kata tentang "apa yang dia sukai untuk melihat keindahan dunia ini" dalam hal tingkat pengaruh pada perilaku tidak dapat dibandingkan dengan faktor-faktor negatif yang akhirnya membuatnya revolusioner yang kejam.
Di antara para pengikutnya yang radikal biasanya adalah mereka yang sering memicu pemicu emosi, karena mereka lebih cenderung untuk berlatih kembali dan bekerja pada skenario baru, yang meliputi, antara lain, meninggalkan sikap akrab seperti melarang pembunuhan makhluk hidup. Dengan demikian, rantai dibangun di mana banyak emosi mengarah pada peningkatan keberangkatan dari skenario standar, dan pengetahuan yang terakumulasi dalam proses improvisasi memungkinkan Anda untuk beralih ke mode tindakan kebebasan dan tetap di dalamnya.
Dengan demikian, munculnya "kesadaran" pada robot tidak lebih dari transisi ke rezim "improvisasi abadi" karena pengalaman besar yang diperoleh. Tetapi apa batasan dari improvisasi ini dan bagaimana sistem akan bereaksi ketika dihadapkan dengan sejumlah besar rangsangan yang tidak diketahui di dunia nyata, kita masih harus mencari tahu.
5 bug keamanan
Kesalahan utama yang mengarah pada fakta bahwa darah asli tumpah di taman, menurut pendapat kami, adalah lima:
Kelemahan pertama adalah kurangnya kemampuan untuk dengan cepat memperbaiki sistem komunikasi yang rusak, yang, ternyata, sangat mudah dihancurkan dengan tindakan fisik sederhana.
Yang kedua adalah kemungkinan memperkenalkan android ke mode kontrol otonom, di mana mereka dapat memutuskan sambungan dari jaringan utama. Dalam hal ini, akses kepada mereka hanya dimungkinkan melalui kontak fisik. Akan lebih masuk akal untuk memberikan batas waktu tertentu - yaitu, jika robot telah kehilangan kontak dengan server pusat dan tidak menerima sinyal tambahan dari luar, maka setelah beberapa saat ia mati. Ya, dalam hal ini, gangguan dalam komunikasi akan terlihat oleh pengunjung - tetapi perilaku android yang tidak terkontrol (terutama di bagian-bagian terpencil taman) jelas tidak lebih baik. Akibatnya, android untuk waktu yang lama tetap dalam mode improvisasi atau dikendalikan oleh sistem yang tidak dapat diakses oleh staf taman.
Yang ketiga adalah fakta bahwa beberapa anggota tim sekaligus memiliki akses ke seluruh fungsi taman secara umum, berkat itu mereka dapat mendefinisikan kembali perilaku semua makhluk hidup di dunia Barat. Misalnya, untuk mengubah semua kata sandi secara massal: karena ini, sulit bagi layanan teknis untuk mendapatkan kembali kendali atas perangkat. Dan karena ada beberapa orang seperti itu, identifikasi pelakunya mungkin tertunda.
Keempat - kurangnya verifikasi hak akses untuk melakukan tindakan tertentu. Personel keamanan harus memberikan batasan tambahan pada tindakan kritis, seperti bangun dari tidur atau menyerang. Karena ini, bahkan jika seorang penyerang (baik tuan rumah itu sendiri atau android lain) mengambil kendali, ia tidak akan dapat membahayakan siapa pun.
Akhirnya, organisasi kerja personel tampaknya tidak terlalu optimal - departemen berkomunikasi lemah satu sama lain, sistem keamanan mengandung kesenjangan yang jelas, diagnostik jarak jauh tidak dilakukan sama sekali (walaupun dalam beberapa adegan kita dapat melihat bahwa personel dapat memblokir semua android di lokasi tertentu dengan mengklik tombol) dan pembaruan. Yang terakhir dapat dijelaskan oleh kurangnya keinginan untuk sekali lagi "menyinari" dapur internal di depan pengunjung - pada saat yang sama, penghapusan fisik android tidak mungkin, para tamu masih melihat staf dan dapat memahami bahwa ada sesuatu yang salah.
“Tidak, Nak, ini luar biasa” - atau mungkinkah membangun taman seperti itu sekarang?
Perbedaan utama antara robot seri dan yang ada di dunia nyata adalah kemampuan untuk 100% realistis meniru dialog panjang (di Dunia Wild West disebutkan bahwa pencipta taman mencapai ini dalam setahun). Sungguh sistem yang ada dengan kecerdasan buatan terbatas dalam memahami konteks dan, sebagai suatu peraturan, tidak dapat mengingat lebih dari beberapa replika sebelumnya. Ini terutama disebabkan oleh fakta bahwa algoritma saat ini menyarankan bahwa untuk menjaga konteks, sejumlah besar data harus disimpan dan diproses. Ingat catur - semua orang dapat memikirkan langkah satu langkah di depan (hanya ada 8 pilihan), berpikir 2-3 langkah ke depan sudah terasa lebih sulit, dan praktis tidak ada yang bisa menghitung permainan untuk 7-8 langkah.
Sistem modern dapat mengingat 1-3 replika sebelumnya dan menanggapinya dengan sangat realistis. Mereka sudah dapat memahami emosi yang mereplikasi (baik suara dan teks), dan merespons sesuai untuk beberapa frasa, tetapi tidak lebih lama. Artinya, Alice dapat memahami bahwa beberapa frasa adalah lelucon atau kutipan yang tidak masuk akal, dan dengan pengetahuan ini dia akan memilih jawaban yang tepat. Tetapi dia tidak dapat kembali 7-8 dialog (atau hari) kembali dan perhatikan bahwa sebelumnya Anda berbicara secara berbeda. Atau, misalnya, ingat bahwa Anda bersikap kasar padanya 2-3 hari yang lalu - dan karena itu lain kali bertemu dengan Anda dengan senang hati.
Pada tingkat perkembangan teknologi saat ini, komputer perlu menghabiskan beberapa hari untuk membentuk percakapan yang lama terhubung - yang, tentu saja, tidak cocok untuk mempertahankan percakapan yang hidup. Satu-satunya pengecualian di mana android modern dapat mempertahankan percakapan yang panjang dan terhubung adalah jika mereka memimpin pengguna dalam skenario standar dengan sejumlah kecil opsi. Sebagai contoh, ini adalah bagaimana bot obrolan bekerja di toko online.
Android menyimpan pengalaman mereka dari berkomunikasi dengan pengguna hingga “kematian” fisik mereka - jadi jika pengunjung kembali tiba di taman setahun kemudian, robot akan mengingat dan mengenali tamu jika selama waktu ini tuan rumah atau pengunjung lain tidak membunuhnya.
Adapun taman itu sendiri ... Yaitu, bahkan jika antarmuka tidak terlihat begitu futuristik, untuk membangun sesuatu yang mirip dengan sarana yang tersedia lebih dari realistis hari ini. Dan tidak di suatu tempat di bunker bawah tanah Ilon Mask, tetapi di perusahaan IOT kecil.
Westworld menggunakan solusi canggih yang didasarkan pada teknologi Internet of Things - ini adalah ketika perangkat digabungkan ke dalam sistem tunggal beroperasi secara mandiri sesuai dengan skenario yang ditentukan, dan seseorang diperlukan hanya untuk mengendalikan dan menyelesaikan situasi darurat. Contoh sederhananya adalah drone yang menggerakkan dirinya sendiri, mengganti skrip saat dalam perjalanan, berinteraksi dengan mobil dan benda lain di jalan ... Namun, seseorang selalu dapat memberinya perintah untuk menghentikan atau mengubah rutenya. Kesulitan utama di sini, seperti dalam kasus Westworld, adalah untuk menanggapi situasi yang tidak terduga - misalnya, jika seekor hewan tiba-tiba berlari ke jalan atau jika tanda yang didirikan tidak sesuai dengan kenyataan. Meskipun di Dunia Wild West, realitas sebagian besar dibentuk oleh dalang yang sama dengan perilaku. Dan, seperti yang kita lihat, pencipta tidak selalu dapat mengendalikan kreasi mereka ... Atau selalu? Kami menantikan balasan Anda di musim ketiga, Tn. Ford.