Baru-baru ini, topik kecerdasan buatan telah menjadi salah satu arus utama di media dan kita semakin ketakutan oleh ramalan dari banyak orang terkenal, seperti Stephen Hawking (alam semesta penuh dengan bulu) dan bahaya perkembangannya. Retorika alarmis seperti itu menyiratkan bahwa kecerdasan buatan itu sendiri, pertama, akan menjadi subjek, dan kedua, ia akan memiliki niat negatif dalam kaitannya dengan individu dan kemanusiaan secara keseluruhan. Mari kita bicara tentang asumsi ini secara lebih rinci.
Saat ini, semua sistem yang menyertakan kecerdasan buatan dalam beberapa bentuk (apakah itu jaringan saraf, sistem pakar, dll.) Menggunakannya sebagai alat yang diterapkan. Yaitu, sebagai semacam mesin, yang memiliki area tindakan / tugas yang jelas terbatas, dan karenanya, dikonsumsi dan dikeluarkan informasi. Dalam bentuk ini, AI tidak dapat memiliki niatnya sendiri, kecuali tertanam secara konstruktif di dalamnya. Jadi ini bukan maksud dari sistem AI, tetapi penciptanya. Dan, bahkan jika sistem dengan mesin AI seperti itu dan bekerja sehingga tidak membahayakan, ia tidak akan berbicara tentang maksud jahat AI, tetapi hanya tentang kerusakan sistem, yang dapat disebabkan, misalnya, oleh kegagalan fungsi, kesalahan desain sistem atau kesalahan Pelatihan AI.
Di sini kita akan mencoba menjawab pertanyaan tentang bagaimana sistem AI dapat dirancang dan apa properti dan kemampuan yang harus dimilikinya sehingga tidak lagi dapat dianggap hanya sebagai mesin AI, tetapi dapat dianggap sebagai semacam subjek.
Jadi, untuk menjadi subjek, sistem AI harus mampu secara independen mengevaluasi informasi heterogen yang masuk dan membuat keputusan, serta kemampuan untuk bertindak dalam jangkauan luas pada realitas di sekitarnya berdasarkan pada penilaian dan keputusan ini. Dan untuk memiliki niat negatif, atau yang lain, dan membuat keputusan tentang tindakan, motivasi diperlukan ("Motivasi, Karl!"). Artinya, apa yang menggerakkan subjek membuatnya bertindak. Dengan demikian, motivasi utama tertentu harus tertanam dalam AI ketika itu dibuat. Atau kita bisa menunggu generasi spontan - mungkin satu miliar tahun ke depan, seperti yang diperlukan untuk munculnya kehidupan dalam sup asam amino.
Manusia, ketika menciptakan sesuatu yang kompleks, sering meminjam solusi teknis dari alam, yaitu, ia menggunakan sesuatu yang telah membuktikan efisiensi dan efektivitasnya. Saat membuat sistem AI, kita juga dapat melihat bagaimana kita terstruktur dan mekanisme apa yang digunakan alam untuk membuat kita mampu otonom jangka panjang dan (saya ingin percaya) keberadaan yang sukses.
Untuk mulai dengan, mari kita ingat motivasi utama apa yang dimiliki semua makhluk hidup, yang membuat mereka bergerak. Jelas, hanya ada dua motivasi utama: naluri pelestarian diri dan naluri reproduksi, yaitu libido. Sebenarnya, dua adaptasi evolusi pertama ini, yang dilakukan melalui seleksi alam, adalah penciptaan kehidupan dari benda mati. Mereka secara konstan didukung oleh seleksi alam - secara kasar, segala sesuatu yang tidak mencoba untuk melestarikan dirinya sendiri dan mereproduksi dirinya sendiri tidak akan bertahan. Ada teori yang mengatakan bahwa sifat-sifat seperti itu, yaitu keinginan untuk mempertahankan diri dan reproduksi diri, dimiliki oleh informasi itu sendiri, seperti itu (misalnya, D. Glick "Informasi. Sejarah. Teori. Aliran.", R. Dawkins "The Selfish Gene").
Dalam makhluk hidup yang kompleks, mekanisme untuk mewujudkan motivasi primer tertanam dalam struktur tubuh (dan otak, khususnya) yang diciptakan oleh evolusi. Misalnya, ketika kadar glukosa hewan turun atau perut menandakan kelebihan sekresi, program pelestarian diri dan pemeliharaan homeostasis diaktifkan, dan, sebagai akibatnya, hewan mulai mencari makanan. Dalam kasus lain, jika makhluk itu menganggap keadaannya mengancam, maka program penyelamatan "pukul atau lari" diaktifkan. Atau keadaan dapat dianggap sebagai kondusif untuk reproduksi, maka program reproduksi akan menyala, dan otak makhluk akan menerima penguatan hormon yang kuat dari perilaku yang sesuai. Seluruh dapur ini diimplementasikan pada tingkat otak "reptil", yaitu, bagian dari otak semua makhluk hidup kompleks yang mereka warisi sejak dahulu kala dari binatang pertama. Dan mekanisme semacam itu telah membuktikan keberhasilan dan efektivitasnya selama jutaan tahun.
Mungkin akan cukup mudah untuk membangun sistem AI yang beroperasi sesuai dengan algoritma yang sama. Tetapi kami lebih tertarik pada kasus ketika sistem AI dapat membangun penilaian yang kompleks dan memiliki struktur motivasi yang lebih kompleks daripada yang utama. Untuk memahami bagaimana ini dapat diwujudkan, mari kita lihat bagaimana hal ini terjadi pada orang, itulah sebabnya orang yang memiliki motivasi utama yang sama dapat dan dapat melakukan kegiatan yang sangat beragam.
Cara utama orang mengubah motivasi primer menjadi kegiatan lain adalah sublimasi - pembiasan motivasi primer melalui struktur nilai-nilai mereka dan tujuan yang sesuai. Dan nilai dan tujuan adalah konsep linguistik murni, yaitu tidak ada di luar bahasa. Memang, hal-hal seperti "pengembangan", "kesehatan", "pengetahuan", dll., Adalah kategori bahasa, dan untuk setiap individu individu itu dapat berarti hal yang sangat berbeda. Dan fitur yang membedakan mereka, seperti yang Anda tahu, adalah bahwa mereka tidak dapat "dimasukkan ke dalam gerobak dorong." Nilai-nilai individu membentuk grafik, di mana nilai-nilai itu sendiri adalah simpulnya, dan tulang rusuk adalah keyakinan yang menghubungkan nilai-nilai tersebut. Misalnya, "kesehatan adalah kebahagiaan" atau "pengetahuan diperlukan untuk berhasil" atau "hanya kekayaan yang memberikan kepuasan dari kehidupan" semua hubungan antara nilai-nilai. Dengan demikian, grafik nilai adalah inti dari kepribadian individu.
Mengubah melalui grafik nilai ini, motivasi utama dapat berubah menjadi motif dan tujuan yang lebih kompleks dan non-sepele. Misalnya, seseorang menciptakan organisasi atau mengembangkan bidang ilmiah atau menunjukkan kegiatan kreatif lainnya - semua ini adalah realisasi dari motivasi utamanya untuk reproduksi diri. Hanya benda-benda yang dapat direproduksi bukan lagi manusia, tetapi merupakan konstruksi dari ide, minat, dan kepercayaan pencipta mereka. Dalam kasus lain, bahkan jika seseorang hanya pergi bekerja untuk mendapatkan uang, mendorongnya untuk melakukannya tidak lebih dari motivasi sublimasi untuk mempertahankan diri. Ringkasnya, kita dapat mengatakan bahwa struktur otak (termasuk "reptil") dan tubuh serta bahasa yang tertanam dalam diri orang tersebut saling melengkapi satu sama lain dalam proses mengubah motivasi primer menjadi tujuan yang kompleks.
Kemudian, jika kita ingin
sistem AI menjadi subjek / kepribadian dan mungkin memiliki motivasi dari bentuk "demi pengembangan" atau "atas nama kebaikan bersama" atau motivasi struktural yang tidak diinginkan lainnya, ia
harus memiliki , pertama,
motivasi primer dan, kedua,
bahasa yang tertanam dan dibangun atas dasar itu grafik nilai dan kepercayaan . Lebih dari itu, motivasi utamanya tidak harus demikian, tetapi dapat berupa pemeliharaan diri dan reproduksi.
Selain itu, sistem AI dapat memiliki adaptasi evolusi yang menarik dan bermanfaat seperti kesadaran diri, yang terdiri dari memahami batas-batas antara "aku" dan "bukan aku" dan dari kesadaran akan hasil dari aktivitas mental seseorang (yang direalisasikan cukup sederhana dalam jaringan saraf modern - oleh menerapkan sinyal output jaringan lagi ke inputnya). Adaptasi evolusi ini sangat kondusif untuk pelestarian diri: untuk makhluk yang tidak mengenali batas-batas antara "aku" dan "bukan aku", tidak masuk akal, misalnya, untuk melawan pemangsa yang mencoba menggigit anggota tubuh makhluk itu, karena tanpa adanya batas seperti itu, kepentingan pemangsa ini juga harus termasuk dalam kepentingan makhluk itu. Kesadaran akan hasil dari aktivitas mental sendiri membantu secara iteratif menyelesaikan masalah, yaitu menjadi mungkin untuk menyelesaikan masalah yang kompleksitasnya membutuhkan lebih banyak daya komputasi daripada yang dimiliki otak makhluk pada satu waktu. Kemampuan untuk memecahkan masalah yang kompleks (termasuk untuk bertahan hidup) memberikan keuntungan evolusi dan, karenanya, didukung oleh seleksi alam.
Juga, sistem AI dapat mencakup kemampuan untuk mengendalikan vektor motivasinya, yang kemampuannya (tetapi sangat sering tidak digunakan) apa pun yang dimiliki oleh homo sapiens. Di sini Anda bahkan dapat menggunakan kemampuan untuk mengendalikan vektor motivasi Anda sebagai
kriteria rasionalitas : yaitu, orang yang tidak mampu atau tidak mengendalikan motivasinya tidak cerdas.
Seperti yang sudah ada di mana saja itu tidak ditulis (kecuali mungkin di pagar), otak manusia mengandung sekitar 86 miliar neuron, yang masing-masing dapat memiliki hingga 20-30 ribu koneksi (sinapsis). Selain itu, bagian terbesar (sekitar 90%) dari sumber daya komputasi ini dihabiskan bukan pada aktivitas saraf yang lebih tinggi yang sebenarnya terjadi di korteks prefrontal, tetapi pada tugas-tugas tambahan, seperti memelihara dan mengelola proses biokimia dalam tubuh, memproses informasi visual dan auditori, dll. d. Pada awalnya, alam menciptakan sistem saraf tepatnya untuk pemenuhan tugas-tugas ini, sampai ditemukan bahwa jaringan saraf juga sangat baik untuk mewujudkan kecerdasan itu sendiri.
Dalam sistem AI, semua tugas tambahan ini (jika muncul) dapat diselesaikan oleh perangkat khusus yang tidak memerlukan daya komputasi yang begitu besar, sementara kami belum dapat menemukan sesuatu yang lebih cocok dan efektif untuk mengimplementasikan kecerdasan daripada jaringan saraf.
Oleh karena itu, menurut perkiraan yang sangat kasar, kita dapat mengandalkan pembuatan subjek AI dengan kecerdasan setara dengan manusia berdasarkan jaringan saraf dengan kapasitas sekitar 8 miliar neuron. Jika kita mengasumsikan bahwa neuron rata-rata terhubung ke 1000 neuron lain dan jaringan harus beroperasi pada kecepatan hingga 40 Hz (ritme beta otak manusia), maka daya komputasi yang diperlukan adalah "hanya" sekitar 250 teraflop. Misalnya, 40 kartu grafis NVIDIA GeForce GTX 1070 bersamaan dapat memberikan kinerja seperti itu.
Pada saat yang sama, sistem AI tersebut dapat memiliki sejumlah keunggulan dibandingkan dengan makhluk hidup. Pertama-tama, tidak seperti otak, sistem AI lebih mudah dipelihara - tidak memerlukan persediaan darah harian yang dipenuhi dengan kalori dan oksigen, serta berbagai hormon dalam proporsi yang sangat tepat. Ini dapat diperbaiki, yang jarang dilakukan dengan otak manusia. Dia tidak perlu tidur atau beristirahat dalam jumlah seperti itu, karena mekanisme listrik yang eksklusif tidak memerlukan pembaharuan zat-zat yang bekerja, seperti yang disyaratkan oleh otak kimia-listrik. Sekali lagi, seluruh sistem elektronik dapat beroperasi pada frekuensi yang secara substansial lebih besar dari 100 Hz, yang, tampaknya, merupakan batasan pada otak karena struktur kimianya-listriknya (di sini, frekuensi berarti jumlah pemicu semua neuron dalam jaringan per detik) . Juga, mungkin, sistem AI tidak akan memiliki batasan pada jumlah unit perhatian yang dimiliki orang - 7 ± 2 unit perhatian tersedia untuk kita secara bersamaan.
Namun demikian, di masa mendatang, sistem AI seperti itu akan hilang bagi orang-orang dalam kompleksitas dan multifaktor hanya karena neuron dalam sistem saraf manusia itu sendiri adalah mekanisme molekuler yang sangat kompleks, tergantung pada sejumlah besar parameter, tidak seperti neuron saraf modern. jaringan yang memiliki struktur sederhana.