Sekarang hanya malas yang tidak berbicara tentang
kecerdasan buatan dan tidak menulis. Namun di zaman kita, AI bukan SkyNet dari film Terminator. Sejauh ini, para ilmuwan berhadapan dengan bentuk kecerdasan buatan yang lemah. Dalam kebanyakan kasus, ini adalah jaringan saraf yang relatif kompleks yang dirancang untuk memecahkan masalah tertentu.
Banyak orang terkemuka di zaman kita khawatir tentang kemungkinan munculnya bentuk AI yang kuat. Menurut beberapa ahli, "komputer yang berpikir" dapat menjadi lawan yang keras kepala dari seseorang, musuhnya. Atau AI di masa depan akan memenuhi beberapa tujuannya, tidak peduli pada manusia. Dalam hal ini, kecerdasan buatan akan menghancurkan seluruh kota atau negara ketika kebutuhan seperti itu muncul. Untuk menunjukkan skenario serupa untuk pengembangan teknologi, para ilmuwan dari Cambridge telah
mengembangkan mod untuk game "Civilization", bagian kelima.
Dalam lampiran ini, Anda dapat melihat apa yang bisa terjadi jika AI dalam bentuk yang kuat tanpa tindakan keamanan yang telah ditentukan sebelumnya. Para ilmuwan tidak tiba-tiba mengembangkan mod ini. Spesialis dari Universitas Cambridge untuk Studi Risiko Eksistensial (CSER) sedang mencoba memahami apa yang ada di dunia modern kita yang bisa menjadi bahaya yang tidak dapat diatasi bagi manusia dalam waktu dekat atau jauh.
Kelompok ini didirikan pada 2012, dan tujuan awalnya adalah apa yang dilakukannya hari ini - untuk mempelajari dampak berbagai jenis bencana global terhadap manusia. Hanya masalah-masalah yang berpotensi menyebabkan kehancuran umat manusia - peradaban dalam bentuknya saat ini atau secara umum semua orang di Bumi dipertimbangkan. Tentu saja, malapetaka ini dapat disebabkan tidak hanya oleh pengaruh kecerdasan buatan, alasannya mungkin dalam agen penyebab yang dimodifikasi secara genetik dari penyakit berbahaya, perubahan iklim dan banyak lagi.
Adapun permainan, penambahan Peradaban, menurut pengembang, sebagian merupakan proyek pendidikan, sebagian proyek penelitian. "Hal utama yang kami maksudkan adalah untuk menunjukkan skenario yang memungkinkan untuk pengembangan kecerdasan komputer nyata, untuk menunjukkan bahaya yang dapat ditimbulkan oleh kecerdasan tersebut bagi kita," kata Shahar Eivin, salah satu peserta dalam proyek tersebut.
Gim ini juga memperlihatkan komputer IBM Deep Blue, yang membantu pemain mempercepat penelitian AI.Omong-omong, penambahan menggantikan salah satu skenario kemenangan dalam Peradaban, peluncuran pesawat ruang angkasa untuk bintang Alpha Centauri dengan pengembangan bentuk kecerdasan buatan yang kuat. Dalam mode ada bangunan baru (laboratorium penelitian), keajaiban baru (Deep Blue yang sama) dan mekanisme baru, yang disebut bahaya AI.
Segera setelah pemain
memulai program untuk mempelajari AI, sebuah timer muncul, disebut "bahaya AI". Jika penghitung waktu mencapai akhir hitungan mundur, pemain menerima pesan bahwa di suatu tempat di dunia bentuk kecerdasan buatan yang kuat telah dibuat dan permainan berakhir dengan kekalahan gamer. “Semua ini seperti kehidupan nyata. Anda bisa melangkah jauh dalam pengembangan peradaban, tetapi Anda kehilangan segalanya jika Anda mengelola teknologi yang dibuat tanpa perhatian, ”kata pengembang.
Untuk menghindari skenario perkembangan negatif dengan kekalahan pada akhirnya, pemain memiliki kesempatan untuk melakukan penelitian yang lebih ilmiah di bidang AI. Semakin banyak proyek yang dilaksanakan, semakin lambat waktu yang berdetak. Untuk menang, pemain perlu mengembangkan teknologi kontrol AI, dan berinvestasi dalam proyek-proyek di negara-negara tetangga dan otoritas kota-kota besar. “Jika Anda memilih skenario AI, Anda membutuhkan lebih banyak pengembangan keamanan. Berinvestasi dalam bidang ini tidak selalu merupakan kebutuhan yang jelas, tetapi perlu dilakukan, ”kata Avin.
Tentu saja, "Peradaban" tidak bisa disebut alat penelitian yang serius, tetapi penambahan memungkinkan untuk menyadari perlunya pendekatan yang hati-hati untuk pengembangan AI tidak hanya untuk pemain biasa, tetapi juga untuk para ilmuwan. Risiko ditampilkan dengan sangat jelas. Dan situasinya cukup realistis - pemain perlu berurusan dengan tetangga yang agresif, menyatakan bahwa melakukan penelitian yang kurang lebih sama. Jika salah satu pihak berhasil, tetapi tidak berhati-hati, kekalahan tidak bisa dihindari.
Sebenarnya, untuk menghadapi bahaya global, diperlukan interaksi global. Semuanya ditampilkan dengan benar di sini.