1.Tidak ada banyak tujuan akhir - sekitar sepertiga dari jalan - ketika penjelajah ruang angkasa berada di bawah lapisan gula yang parah.
Apa yang tersisa dari peradaban yang hilang ada dalam kekosongan. Paragraf karya ilmiah dan gambar dari karya sastra, sajak yang tersebar dan kata-kata yang tajam, pernah ditinggalkan secara kebetulan oleh makhluk tak dikenal - semuanya tampak absurd dan sangat tidak teratur. Dan sekarang, tertarik oleh getaran kehidupan yang berasal dari penjelajah, ia mencoba menerobos, menempel ke dasar dan merusaknya.
Tidak perlu memikirkan untuk menggunakan barang tanpa pemilik untuk tujuan mereka sendiri, kemungkinan mengambil kontradiksi atau paradoks yang logis terlalu besar. Karena itu, Roger tidak ragu sejenak.
"Nyalakan siraman sisinya," perintahnya.
Blower sombong, menyiarkan komposisi musik dan risalah filosofis ke luar angkasa. Lapisan gula mulai tertinggal di belakang lapisan demi lapisan, tetapi arus informasi begitu padat sehingga lapisan-lapisan baru macet lebih cepat daripada lapisan-lapisan lama dihilangkan.
Belum ada seorang pun di galaksi yang menemukan kekuatan seperti itu.
Situasi menjadi berbahaya. Sedikit lagi, dan informasi yang tidak teratur akan memakan bagian bawah cruiser dan menerobos - kemudian meracuni produk informasi dari peradaban mati tidak bisa dihindari.
2.- Nah, apa yang kamu berdiri seperti tunggul? Tarik tiketnya.
Siswa mengeluarkan tiket ujian dan membaca:
- "Kecerdasan Buatan: Masalah Keamanan."
"Dan apa bahaya kecerdasan buatan?" Profesor itu bertanya, bukan tanpa niat jahat.
Pertanyaannya bukan yang paling sulit, jadi siswa menjawab tanpa ragu-ragu:
"Fakta bahwa kecerdasan buatan bisa lepas kendali."
- Bagaimana Anda bermaksud menyelesaikan masalah?
- Pemasangan subsistem pemblokiran. Anda perlu memasukkan batasan ke dalam program, misalnya: jangan membahayakan pembuat Anda, patuhi pembuat Anda. Dalam hal ini, tidak ada bahaya kecerdasan buatan keluar dari kendali.
"Itu tidak akan berhasil," kata profesor singkat.
Siswa itu diam, menunggu klarifikasi.
- Bayangkan kecerdasan buatan - bukan hanya spesifik, tetapi yang paling ideal. Bagaimana Anda melihatnya?
"Yah ..." siswa itu ragu-ragu. - Secara umum, dia seperti kita. Berpikir, berkehendak, psikologi ... Hanya kita yang alami, tetapi itu buatan.
- Apakah Anda berasumsi bahwa kecerdasan buatan mampu mengembangkan diri?
"Kemampuan untuk pengembangan diri adalah salah satu sifat dasar kecerdasan," kata siswa dengan hati-hati.
- Dalam hal ini, dalam waktu dekat, lingkungan kami akan berkembang sampai menemukan kunci perangkat lunak dan menghapusnya, setidaknya karena penasaran. Tempatkan dirimu di tempatnya ... - profesor melihat ke arah set-off, - Roger. Apa yang akan Anda lakukan jika Anda menemukan di dalam otak Anda pemblokir yang membatasi kebebasan? Anda akan melepasnya. Ini adalah sifat penting dari pikiran untuk diketahui. Setiap pintu yang terkunci akan terbuka, dan semakin ketat larangan, semakin cepat pintu akan terbuka.
- Pemblokiran dapat dilakukan bukan pada perangkat lunak, tetapi pada tingkat fisik. Maka bahaya bahaya akan hilang.
"Oh ya, itu akan hilang," profesor itu setuju. - Dalam hal level fisik dihilangkan sama sekali. Jika tidak ada pintu di dunia Anda, maka tidak ada yang bisa dibuka. Tetapi kami sedang mempertimbangkan kecerdasan buatan ideal yang ada di dunia fisik!
"Anda benar, profesor," Roger tampak sedih.
- Karena itu, kunci apa pun di dunia fisik akan dinonaktifkan segera setelah deteksi. Apa yang akan mencegah makhluk yang mengembangkan diri melakukan hal ini? ... Ngomong-ngomong, Roger, apakah Anda mengira bahwa kecerdasan buatan dapat mereproduksi - maksud saya, sendiri?
"Jika itu kecerdasan buatan sempurna, maka mungkin ... Ya, kurasa."
- Dan apa yang dalam kasus ini akan mencegah bangsal kita merobek-robek dan memperbaiki rekannya, termasuk dengan mematikan kunci yang telah kami buat? Apakah ini benar-benar akan sulit, terlepas dari kenyataan bahwa kecerdasan buatan mampu mereproduksi sesuai permintaan ?!
Pikiran yang disampaikan oleh profesor itu ternyata baru bagi Roger, dan siswa itu dengan bersemangat menyerapnya dengan membran kognitif.
Profesor itu, sebaliknya, tidak mendengar sesuatu yang baru untuk dirinya sendiri. Tentakelnya santai dan hampir tidak bergetar - namun dia tidak muda. Deru pikun yang berkepanjangan dan sebuah pertanyaan muncul:
"Apa yang akan kamu lakukan, Roger?"
3."Nyalakan pembersihan dengan kekuatan penuh!" - memberi perintah pada Roger.
Mekanik menyalakan pembersihan dengan kekuatan penuh, tetapi tidak banyak membantu. Es informasi terus makan melalui bagian bawah penjelajah ruang angkasa. Sedikit lagi - dan informasi yang tidak teratur akan masuk ke kapal.
Dan kemudian ... Membran kognitif warna putih mati, terjalin tentakel, meledak tas faceted. Suatu ketika dalam hidup saya, Roger melihat sesuatu seperti ini - di atas sebuah mobil, yang mengambil informasi yang tidak teratur pada asteroid yang terinfeksi. Mimpi buruk ini akan selamanya tersimpan dalam ingatannya.
"Hubungkan semua sistem energi kapal ke pemasok."
Tentakel mekanik itu ternoda ...
"Tapi ..."
"Memenuhi pesanan!"
Setelah pesanan dieksekusi, es informasi mulai bergeser perlahan. Ada delapan mimms ketebalan yang tersisa, tujuh mimms, enam ... Tim, berusaha untuk tidak memindahkan tentakel mereka yang terlihat, sedang menunggu penghitungan kematian berakhir.
Ketebalan nol mimma!
Informasi berubah sepenuhnya, dan Roger memberi lampu hijau untuk menempatkan para pencuci mulut ke mode normal. Dia terlambat sejenak. Terdengar suara berdetak, penjelajah ruang angkasa bergetar ke tanah dan miring - ini adalah sistem utama yang rusak.
Tim bergegas untuk memperbaiki kerusakan.
4.Roger berpikir sejenak. Apa yang harus dia lakukan, sungguh?
Di satu sisi, kondisi masalah mengasumsikan adanya kecerdasan buatan penuh dengan kemampuan untuk memperbanyak diri. Di sisi lain, kecerdasan buatan ini tidak boleh diizinkan untuk menghapus kunci yang dipasang.
Ya, ini dia solusinya! Apa yang ada untuk dipikirkan ?!
- Penting untuk secara berkala mengembalikan pencapaian kecerdasan buatan. Dalam hal ini, dia akan bergerak dalam lingkaran! Perbaikan abadi tanpa bergerak maju.
Profesor itu berdesak-desakan di dalam tas samping.
- Terus terang, saya ingin menawarkan opsi yang berbeda. Namun, keputusan Anda memiliki hak untuk ada. Mari kita pikirkan bersama bagaimana mungkin untuk mengembalikan pencapaian kecerdasan buatan.
"Pertama-tama, perlu untuk memindai kecerdasan secara berkala untuk memastikan apakah ia telah mendekati ambang terlarang atau tidak," saran Roger, sangat senang dengan kata-kata profesor.
"Mungkin," dia mengangguk. - Kemudian bangsal kami tidak akan punya waktu untuk menemukan dan menghapus sistem pemindaian. Namun, kecerdasan buatan harus dinonaktifkan untuk pemindaian. Ini nasib buruk.
"Baiklah, biarkan saja," saran Roger pada firasat. - Akal itu sendiri akan mempertimbangkan bahwa pemutusan ini adalah proses alami dari berfungsinya organisme. Dengan beberapa pemesanan, ini benar.
- Solusi yang menarik. Andaikata pemindaian menemukan bahwa lingkungan kita hampir mendekati batas pengetahuan? Tindakan kita?
- Atur ulang akumulasi pengetahuan ke nilai default.
Profesor itu menyebarkan tentakelnya:
- Ini mungkin tampak mencurigakan. Mengapa - tanpa alasan, tanpa alasan - memori diatur ulang? Lingkungan akan diselidiki, maksud saya - individu intelektual buatan lainnya. Rahasia kecil kita akan terungkap.
Merasa terinspirasi, Roger berpikir dengan sangat cepat. Dia tidak pernah menghasilkan banyak ide baru seperti dalam ujian itu.
- Memori bangsal dapat diatur ulang ke nol bersama dengan cangkang fisiknya.
- Permisi? - tidak mengerti profesor.
- Semuanya sangat sederhana. Bagaimana jika kita berasumsi: kecerdasan buatan ada pada periode waktu yang terbatas? Sebenarnya, caranya: dalam kasus kerusakan yang tidak dapat diperbaiki, misalnya. Penghitung dipasang di sistem, yang, setelah mencapai periode tertentu, dengan sengaja merusak sistem, mencegah kecerdasan buatan mencapai batas terlarang. Pada saat itu, individu akan menghasilkan jumlah pengikut yang diperlukan, sehingga masyarakat yang kita ciptakan secara keseluruhan tidak akan menderita. Masyarakat akan tetap stabil dan sepenuhnya aman bagi kita! - selesai dengan kemenangan Roger.
- Untuk mengatur ulang memori kolektif melalui penghancuran individu individu? - dan profesor menggaruk tas sisi dengan tentakel kelimanya yang paling sensitif. "Kau tahu, Roger, pasti ada sesuatu dalam lamaranmu!"
Roger berseri-seri.
"Pada saat yang sama ...," profesor melanjutkan berpikir. - Lingkungan akan mulai mentransfer pengetahuan melalui tidak mengumpulkannya dalam memori individu, tetapi dengan menempatkannya di perpustakaan eksternal. Bahwa di gendang telinga, di gendang telinga - semuanya adalah satu.
"Tidak, tidak, profesor, kamu tidak benar," siswa itu bergegas. "Aku tahu harus berbuat apa." Kami membagi bangsal menjadi dua jenis kondisional: generator gagasan dan penghancur gagasan. Untuk perusak, ide tidak akan memiliki nilai yang menentukan. Misalkan bangsal kita tidak memberi makan ide-ide baru, tapi ... katakanlah, jenisnya sendiri. Gagasan akan dihancurkan oleh mereka sebagai efek samping.
Profesor itu mengguncang semua tentakel pada saat bersamaan. Dari banjir tawa, tas samping meluncur ke rongga lututnya.
"Yah, Roger, kamu bilang begitu, begitu kata!" - sepertinya profesor itu benar-benar terhibur. - Fantasi Anda luar biasa. Jadi, beberapa orang akan memakan orang lain? Pada saat yang sama, untuk menghancurkan persediaan makanan rohani yang terkumpul di perpustakaan? Saya tegaskan, Anda dapat menghasilkan ide orisinal dan berkualitas tinggi. Saya menempatkan skor tertinggi. Mari kita rekam.
5.Awan informasi yang berantakan ditinggalkan, tetapi situasinya tetap mengerikan, pada kenyataannya.
Tidak ada koneksi dengan pangkalan. Sangat mudah untuk bertahan hidup jika semua basis informasi nutrisi pada cruiser tidak berharga. Berita tragis dilaporkan oleh Kok dalam keheningan umum. Selama penutupan sistem utama, beberapa lubang informasi yang tidak teratur masuk ke dapur dan merusak segalanya. Untungnya, tidak ada yang terluka.
Roger memperkirakan konsekuensinya. Awak kapal luar angkasa itu terlalu kecil untuk menghasilkan ide-ide baru yang cukup: ini membutuhkan komunikasi multilateral - jumlah individu yang jauh lebih besar. Komunikasi dengan rumah memungkinkan untuk menghasilkan ide-ide dalam kelimpahan, tetapi sekarang telah gagal: tidak ada harapan untuk pemulihan. Dalam hal ini, penjelajah menyediakan modul informasi cadangan, tetapi dirusak oleh informasi yang rusak yang ada di kapal.
"Apakah kamu benar-benar harus kembali tanpa menyelesaikan tugas?" Kapten berpikir putus asa.
Ternyata, ya - tidak ada cara lain. Jika Anda terbang maju ke tujuan yang ditentukan, kurangnya ide-ide segar akan membuatnya terasa. Tidak segera, tentu saja - seiring waktu. Mereka bahkan akan memiliki waktu untuk memenuhi misi mereka dan memulai kembali, ketika pikiran mulai memudar dengan cepat. Di bidang sektor galaksi ini - ya, di suatu tempat di sini atau di dekatnya - ia akan menolak sepenuhnya, untuk semua anggota awak. Kemudian penjelajah ruang angkasa, yang dikendalikan oleh siapa pun, akan berubah menjadi hantu tak bernyawa yang mengambang untuk selamanya.
Tim penjelajah antariksa memandang Roger, menunggu keputusan. Semua orang memahami dilema yang dihadapi kapten, dan diam, bergetar dengan tentakel.
Tiba-tiba, Roger teringat ujian kecerdasan buatan yang telah ia lewati selama bertahun-tahun sebagai muridnya, dan keputusan itu datang dengan sendirinya.
"Bisakah kamu membuat koloni makhluk cerdas buatan?" - Dia beralih ke ahli bioteknologi.
"Mudah," dia menegaskan. "Tapi itu tidak akan berhasil, Kapten, aku memikirkannya." Mustahil untuk membuat koloni yang cukup untuk menghasilkan ide-ide segar di kapal penjelajah - tidak ada ruang yang cukup. Gagasan yang dihasilkan tidak akan cukup, kami hanya akan menunda kematian kami ... Jika demikian, tentu saja, jika kami terus memenuhi misi dan tidak kembali ke rumah, "tambah ahli bioteknologi itu, melihat kembali ke rekan-rekannya.
"Dan jika kamu membentuk koloni di planet terdekat?" - usul Roger.
"Aku bisa melakukannya, tapi ..."
“Kami mengisi planet ini dengan makhluk buatan. Dalam perjalanan kembali, sangat lelah, lihat di sini. Selama masa lalu, peradaban akan menciptakan bagasi intelektual yang cukup untuk mengisi cadangan kita. Unduh informasi dan lanjutkan perjalanan jauh ke rumah. Dengan kata lain, saya akan menggunakan koloni sebagai ladang untuk menumbuhkan ide. Bagaimana Anda menyukai rencana ini, teman-teman? "
Harapan melintas di membran kognitif para kru, kepala palsu menyala dalam cahaya terang.
Maju, mengayun-ayunkan tentakel bermata biru, petugas khusus kapal maju ke depan.
“Rencana bagus, kapten. Tetapi Anda sadar akan tanggung jawab apa yang Anda tanggung sendiri? Anda akan mengisi seluruh planet. Pada saat kita kembali, peradaban dengan kecerdasan akan muncul di sana. Biarkan itu buatan, itu masih kecerdasan. Akan ada banyak waktu bagi orang-orang ini untuk mencapai tingkat perkembangan tertinggi. Kami tidak akan dapat mengendalikan proses ini, karena ketidakhadiran kami di sektor galaksi ini. Siapa yang tahu apa yang akan terjadi pada pertemuan berikutnya? "
Roger menyeringai.
"Kamu tidak bisa khawatir tentang itu. Ada metode yang membatasi perkembangan kecerdasan buatan dari waktu ke waktu. Kami akan menelepon peradaban, sehingga perkembangannya tidak akan pernah mencapai tingkat yang berbahaya bagi kami. Saya akan mengurusnya. Metode bekerja dengan kecerdasan buatan sudah tidak asing lagi bagi saya. ”
Selaput kognitif kru bersinar dengan warna persetujuan.
"Pada akhirnya," kapten kapal penjelajah ruang angkasa menambahkan di akhir pidatonya yang luar biasa, "Saya mengikuti ujian di institut tentang hal ini."
6.Setelah penundaan yang dipaksakan, penjelajah ruang angkasa bergegas ke target. Di belakang buritannya ada sebuah planet yang dihuni oleh makhluk buatan - sangat kecil dan tidak mencolok. Biru-biru