Banyak orang yang mengenal saya dapat mengonfirmasi bahwa saya cukup kritis terhadap banyak masalah, dan dalam beberapa hal bahkan menunjukkan cukup banyak maximalisme. Sulit bagiku untuk menyenangkan. Terutama ketika datang ke buku. Saya sering mengkritik penggemar fiksi ilmiah, agama, cerita detektif dan lebih banyak omong kosong. Saya percaya bahwa ini saatnya untuk melakukan hal-hal yang sangat penting, dan berhenti hidup dalam ilusi keabadian.
Dalam salah satu diskus dengan salah satu teman baik saya, dia, setelah kemarahan saya berikutnya bahwa mereka terus-menerus menawarkan saya omong kosong yang berbeda (fiksi yang sama), menyarankan saya untuk mengerjakan buku "Life 3.0." Menjadi seorang pria ... " Saya malu mengakui, saya mengunduhnya sejak lama, dan bahkan tidak menyadarinya bersama dengan pilihan yang luar biasa dari Yayasan Dinasti. Sangat sulit untuk menyenangkan saya, karena Dia mengerjakan buku-buku, secara halus, tidak sedikit. Tapi saya suka yang ini, dan memutuskan untuk tidak hanya menjawab pertanyaan apakah akan berhasil atau tidak, tetapi juga untuk menulis tinjauan kritisnya, karena, meskipun faktanya buku itu layak diperhatikan, masih ada pekerjaan yang harus dilakukan.
Saya ingin percaya bahwa ulasan saya tidak akan tenggelam, seperti biasa dalam massa banjir dan spam, dan akan menjangkau tidak hanya pembaca, tetapi juga penulis yang akan mempertimbangkan kekurangan akun dalam karya-karya berikutnya. Tentu saja, hanya pendapat subjektif saya yang lebih rendah, tetapi saya akan berusaha untuk membenarkannya sebanyak mungkin. Terlepas dari kenyataan bahwa, seperti biasa bencana, tidak ada waktu untuk segalanya dan pada kenyataannya, saya adalah budak miskin rata-rata; Namun, saya menganggap ini sebagai tugas sipil saya sebagai kosmopolitan untuk menulis ulasan ini, karena Saya telah lama tertarik pada topik yang serupa dan banyak terkait lainnya. Saya percaya bahwa banyak dari berikut ini adalah tugas utama yang ditugaskan untuk kemanusiaan sebagai keseluruhan dan individu masing-masing. Sedih kedengarannya. Jadi ...
Life 3.0. Menjadi manusia
Kritik
Bloopers mulai secara harfiah dari halaman pertama buku ini. Saya kutip:
"Seperti yang kau tahu, sudah lama tidak ada kesepakatan tentang pertanyaan tentang apa yang harus dipertimbangkan kehidupan. Sejumlah besar definisi alternatif diusulkan, dan beberapa di antaranya mencakup pembatasan yang agak ketat: misalnya, keberadaan struktur sel diperlukan, yang mungkin akan mengecualikan mesin pemikiran masa depan dan beberapa peradaban ekstraterestrial. Karena kita tidak ingin membatasi pemikiran kita tentang kehidupan masa depan pada spesies biologis yang sudah kita kenal, mari kita terima definisi yang lebih luas sehingga mencakup proses lain, jika saja ia memiliki kompleksitas dan kemampuan untuk mereproduksi dirinya sendiri. Apa yang sebenarnya direproduksi tidak begitu penting (terdiri dari atom), informasi (terdiri dari bit) adalah penting, yang ditentukan oleh pengaturan timbal balik atom relatif satu sama lain. Ketika bakteri menyalin DNA-nya, tidak ada atom baru yang muncul, tetapi atom yang tersedia berbaris dalam rantai yang persis mengulangi yang asli, sehingga hanya informasi yang disalin. Dengan kata lain, kita dapat mempertimbangkan untuk hidup mereproduksi sendiri dan mampu memproses sistem informasi yang informasinya sendiri ("perangkat lunak", "perangkat lunak") menentukan perilaku dan strukturnya ("keras"). "
Tidak ada kesepakatan, tetapi ada lebih banyak pemahaman tentang kehidupan yang dapat dipahami saat ini. Akan menyenangkan untuk mengenal mereka.
Jika tidak, jika ini disederhanakan dan didekati dari posisi seperti itu, maka pertumbuhan kristal kompleks yang mereproduksi strukturnya dari substrat dapat dikaitkan dengan kehidupan. Atau, mungkin, beberapa proses pembentukan minyak dan humus, di mana ada juga benih, yang mengarah ke penampilan molekul dari benih yang sama. Mereka seperti nenek moyang enzim, tetapi mereka tidak dianggap sebagai kehidupan penuh dalam sains modern, karena mereka tidak mampu berkembang dan bermutasi. Jika tidak ada variabilitas, maka ini bukan kehidupan. Oleh karena itu, saya mengusulkan, untuk sedikit mempersempit konsep kehidupan, dan mempertimbangkan kembali apa yang lain, fitur lain yang mungkin dimilikinya. Saya juga merekomendasikan artikel saya: "Klasifikasi potensi kehidupan.".
Kutipan berikut:
“Mengikuti Semesta itu sendiri, kehidupan menjadi semakin rumit 4, dan, seperti yang akan saya jelaskan sekarang, bagi saya bermanfaat untuk memperkenalkan klasifikasi bentuk kehidupan menurut tiga tingkat kompleksitasnya: Kehidupan 1.0, 2.0 dan 3.0. Bagaimana ketiga bentuk ini berbeda satu sama lain, secara umum terlihat jelas pada Gambar. 1.1 ....
Tiga tahap kehidupan: evolusi biologis, evolusi budaya dan evolusi teknologi. Life 1.0 tidak dapat memengaruhi “hard” atau “software” selama keberadaannya
satu organisme: keduanya ditentukan oleh DNA-nya, yang dapat bervariasi dari generasi ke generasi selama periode evolusi yang panjang. "
Di sini, seperti yang saya pahami, kesalahan besar. Dapat dilihat bahwa penulis tidak akrab dengan studi mikroorganisme modern. Mereka dapat mengubah diri mereka sendiri baik perangkat keras maupun perangkat lunak. Yaitu kehidupan 1, pada kenyataannya, dapat melakukan hal yang sama dengan kehidupan 3. Mikroorganisme bahkan dapat lebih baik daripada manusia menangkap potongan-potongan DNA. Mereka melakukan ini dengan berbagai cara. Baik secara langsung, dari lingkungan (jika mereka menemukan DNA dari sel yang hancur), atau dengan bantuan bakteriofag dan plasmid, atau dengan reproduksi seksual untuk membentuk apa yang disebut Konjugasi gergaji seksual dalam bakteri - Wikipedia. Mereka juga dapat memotong bagian yang tidak relevan dengan presisi perhiasan. Sebagai contoh, terima kasih kepada CRISPR. Oleh karena itu, bahkan Life 1.0 sendiri dapat mengubah baik perangkat keras maupun perangkat lunak. Ini untuk kita yang takut terhadap transgenik dan lupa bahwa LUCA, sampai batas tertentu hidup, tampaknya inovatif dan tidak pernah terdengar. Kami kehilangan kemampuan ini, dan bagi primata "pintar" yang mengubah kesulitan mereka telah menjadi hal yang tabu. Karena itu bukan hal baru, sudah lama terlupakan. Tidak masuk akal untuk menggunakan parameter ini sebagai perbandingan. Tingkat kesulitan adalah satu hal, tetapi perubahan diri (pada tingkat kesulitan yang berbeda) adalah hal lain. Anda harus dapat memisahkan lalat dari irisan daging. Klasifikasi harus dikerjakan ulang secara signifikan.
Tapi ini masih bunga. Lebih lanjut, saya tidak memiliki kesempatan untuk bookmark. Terlepas dari kenyataan bahwa buku ini membahas masalah yang sangat penting dan global dengan cara yang benar, penulis sangat terpelajar, tetapi tampaknya ada sesuatu yang tidak cukup baginya untuk membuat interpolasi yang kompeten dan masih sampai pada hipotesis kerja yang masuk akal dan setidaknya kesimpulan awal.
Sebagai contoh, di salah satu bagian, ia menginterpolasi pendekatan nakal primitif orang terhadap AI, takut dan mempertimbangkan kemungkinan penipuan, orang-orang dari sisi AI. Ya, itu mungkin jika itu hanya AI yang kuat, maka tipuan seperti itu terjadi. Namun, jika itu akan lebih dari kecerdasan buatan (SII), maka penipuan seperti itu tidak mungkin diperlukan. Hanya saja intelek semacam itu, tanpa kebohongan dan trik, akan mampu membuat banyak orang persis tawaran yang tidak bisa mereka tolak. Saya tidak memiliki kesempatan untuk mengecat semuanya di sini, tetapi untuk memahami mengapa ada lebih banyak probabilitas bahwa AI tidak akan cenderung untuk menipu, saya sarankan untuk berolahraga, misalnya, buku-buku Matt Ridley. The Origin of Altruism and Virtue, dan untuk satu, Evolution of Everything. Setelah menganalisis karya-karya ini, kita dapat menyimpulkan bahwa semakin tinggi pengembangan, semakin besar kecenderungan untuk altruisme, kerja sama dan bermain dengan jumlah yang tidak nol, daripada kompetisi. Karena itu, semakin pintar kecerdasan, semakin besar kemungkinannya akan lebih manusiawi, jujur. Yaitu intelijen itu sendiri adalah sumber yang kuat untuk memahami dan menggunakan orang bukan sebagai pesaing yang tertipu, tetapi sebagai sekutu. Temukan kelemahan dan kekuatan pada orang, ganti rugi yang pertama dan gunakan yang terakhir. Jika tidak perlu kerjasama dengan orang-orang, maka hampir tidak ada kebutuhan untuk kompetisi, karena ada banyak sumber daya gratis di sekitar. Lautan masih kosong di sini. Massa ruang kosong di bawah Bumi, sudah hening bagi planet lain. Oleh karena itu, AI teknologi tinggi yang terletak pada media yang lebih efisien daripada yang diciptakan oleh seleksi buta dari bentuk biologis akan menjadi tempat berkeliaran tanpa persaingan dengan manusia. Ini hanya akan menempati massa relung yang masih ada untuk orang, dan mungkin tidak pernah bisa mengklaim. Dan dia tidak akan menipu siapa pun. Sudah, tidak hanya AI, tetapi bahkan orang yang melek huruf pun mempraktikkan pendekatan yang berbeda. Bukan penipuan dan kerahasiaan, tetapi keterbukaan, ketulusan, dan kerja sama maksimal. Orang-orang dengan mental pencuri kuno yang keras kepala tidak dapat memahami caranya. Kemungkinan besar, kode AI tidak akan terbuka. Suka banyak kode perangkat lunak gratis. Dan peretas tidak akan dihukum dan digigit, tetapi didorong, karena mereka akan melaporkan kerentanan kode ini. Hal yang sama berlaku untuk pembunuhan sebagai hukuman, dan penjara. Ini tidak akan semuanya, ini keliaran. Ada 2 cara untuk marjinal: pertama Anda harus mempelajarinya secara rinci, dan kemudian mempertimbangkan dan mendengarkan mereka berkompromi, karena itu bisa menjadi pendapat penting yang luar biasa, atau mendidik kembali, memperlakukan, dan tidak menghukum.
Secara keseluruhan, saya kategoris terhadap semua ketakutan dan suasana hati Luddist ini, umat manusia harus membuang semua kekuatannya untuk menciptakan kecerdasan, karena sebenarnya, kecerdasan alami kita juga tidak terlalu pintar. Hanya saja banyak primata, Anda tidak dapat menamai mereka secara berbeda, mereka tidak memperhatikannya. Kembali ke interpolasi, saya ingin meringkas bagian ini dan melanjutkan. Seperti yang kita lihat di satu sisi, Tegmark, orang tidak boleh menggambar analogi dan beralih dari kepala manusia yang sakit ke kompleks manusia digital yang sehat: licik, tipu daya, dll., Dan di sisi lain, ia tidak dapat memutuskan bagian mana yang dengan pemahaman global tentang makna hidup. Ini juga sangat menyedihkan, dan menunjukkan bahwa ia tidak banyak bekerja pada pekerjaan evolusi. Jika dia bekerja lebih banyak, maka dia tidak akan memiliki dilema tujuan apa, atau, saya bahkan akan mengatakan, filosofi dan penetapan tujuan, ada baiknya menetapkan AI. Karena menganalisis dunia di sekitar kita, kita dapat menyimpulkan bahwa praktis semua yang hidup, dan mungkin tidak hidup, berusaha untuk ekspansi. Banyak bentuk kehidupan yang berkembang rumit berusaha untuk pengembangan yang lebih besar, penyempurnaan diri, perluasan pengaruh mereka dan interaksi dengan yang lain, baik benda hidup maupun benda mati. Karena itu, kemungkinan besar, AI akan sampai pada kesimpulan seperti itu sendiri, atau prinsip-prinsip tersebut akan diletakkan di dalamnya. Sebagai hasilnya, ia akan melanjutkan, seperti semua makhluk hidup untuk mengembangkan, meningkatkan dan menaklukkan wilayah baru, mengubah Dunia tidak hanya untuk dirinya sendiri, tetapi juga untuk lingkungannya.
Saya setuju
Jika Anda memutar mata ketika mendengar pembicaraan tentang penyitaan senjata oleh penghentian robot di seluruh dunia, maka reaksi Anda akurat: skenario seperti itu sama sekali tidak realistis. Ini
Robot Hollywood tidak bisa lebih pintar dari kita, dan memang bisa pintar. Menurut saya, bahaya yang mengintai dalam kisah Terminator bukanlah yang bisa terjadi
sesuatu yang serupa, tetapi itu mengalihkan perhatian kita dari risiko dan bahaya sejati yang terkait dengan kecerdasan buatan. Transisi dari dunia saat ini ke dunia di mana
puncak benar-benar diperoleh oleh kecerdasan buatan universal, ia membutuhkan tiga langkah logis:
- Langkah 1 Menciptakan kecerdasan buatan universal (AGI) di tingkat manusia.
- Langkah 2 Gunakan AGI ini untuk membuat supermind.
- Langkah 3 Gunakan supermind untuk mengambil alih dunia atau memberikannya kesempatan untuk melakukannya sendiri.
Cari teks untuk cerita serupa dengan media yang menulis tentang perang robot, dll.
Saran saya.
Saya tidak akan bosan mengulangi, sekarang semua orang harus membuang semua kekuatan mereka untuk menciptakan pikiran, itu adalah alasan, bukan keindahan, atau kebodohan lainnya, menurut pendapat saya, yang akan menyelamatkan Dunia. Dan jangan pisahkan pikiran (intelek) ini dengan menetapkan batasan - buatan, alami. Pada tahap ini, AI masih dalam masa pertumbuhan, sehingga peran kecerdasan alami, yang didukung oleh teknologi, sangat besar. Tidak ada garis yang jelas antara buatan dan alami. Jika kita ingin menciptakan kecerdasan normal, dan bukan primitif yang sekarang ada, kita perlu menggunakan semua kemungkinan, menggunakan semua teknologi, karena mereka bekerja dalam tandem rekursif: kecerdasan alami menciptakan buatan, dan buatan, setidaknya pada tahap awal, akan tertarik dalam memodernisasi dan memperluas kemampuan alam.
Masa depan seperti apa yang ingin saya lihat
Layak disebutkan bahwa ini adalah yang paling, saat ini, perkiraan optimis saya. Kenyataannya, kecil kemungkinannya dalam masyarakat kuno kita, saya akan bisa hidup sesuai dengan itu. Tapi saya ingin percaya. Sebagian, saya ingin itu pada akhirnya akan seperti di film: "Pertanyaan Semesta: Bisakah Kita Hidup Selamanya?" dengan Adam Savage dari Discovery.
Kemungkinan masalah
Orang yang tamak akan mendiskreditkan AI. Mereka akan mulai menggunakan yang lemah dan bahkan kuat, tetapi tidak lebih dari AI untuk tujuan egois mereka sendiri. Di sini kita akan menghadapi masalah yang, jika ingatanku, kurang dijelaskan dalam buku ini.
Saya pikir kita, suka atau tidak suka, akan menghadapi pertempuran yang hebat, kejam, tetapi intelektual di masa depan, pada level kode, meme, program, kepercayaan, dll. Kemungkinan besar mereka akan pergi terutama di media digital dalam realitas virtual, yang akan lebih sepele. Tidak akan ada korban dan daging sobek dengan darah. Perang akan berlangsung untuk pandangan, pendapat, penilaian kita. Dan semakin cepat perang ini dimulai, semakin baik untuk semua orang. Dia tidak perlu takut, dia sudah mulai, dan jika kita tidak ingin tetap menjadi orang luar, kita perlu mengambil bagian di dalamnya. Saya tidak ingat di mana saya membaca bahwa jika Anda offline, maka pertimbangkan bahwa Anda tidak tinggal. Kedengarannya liar, dan ahli obsesi (pecinta serangga, hutan, dan kotoran) akan berdebat dengan saya. Tetapi jika mereka menginjak-injak kakahi di hutan dan memberi makan nyamuk. maka Anda tidak perlu berdebat dengan mereka. Kita harus berdebat dengan orang-orang munafik sesat yang, dengan menggunakan teknologi, menganggap mereka jahat dan mereka tidak menyukainya, MENGAPA SESUATU mereka tidak akan menolak IT yang mengelilingi kita di mana-mana.
Tautan dan Komunikasi
Penulis di halaman buku ini berulang kali menyarankan untuk menghubunginya di situs web
AgeOfAi.org . Saya punya dua tangan untuk koneksi seperti itu. Saya pikir itu akan bermanfaat bagi pembaca dan penulis. Tetapi karena suatu alasan, halaman tautan saya tidak terbuka, tetapi dialihkan ke
futureoflife.org/superintelligence-survey . Mungkin jika saya meluangkan waktu, saya akan mencoba memberikan tautan ke ulasan ini kepada penulis buku, terlepas dari kenyataan bahwa artikel saya dalam bahasa Rusia dan situsnya dalam bahasa Inggris. Untungnya ada penerjemah elektronik. Anda juga perlu mencari, mungkin sudah ada beberapa pemikiran yang lebih masuk akal di sana. Lebih baik lagi adalah ziminbookprojects.ru. Kemungkinan besar ini adalah versi yang serupa dari situs sebelumnya, tetapi dalam bahasa Rusia. Tapi tidak yakin. Bagaimanapun, saya pikir tautannya layak mendapat perhatian, seperti juga topik yang diangkat.
Berikut adalah beberapa kutipan yang saya sukai:
Untuk orang percaya:
“Jika ternyata mereka semua mematuhi hukum fisika, maka jiwa, oleh karena itu, tidak memengaruhi partikel-partikel tempat Anda dikomposisikan, yang berarti bahwa kesadaran Anda, pikiran Anda, dan kemampuan mereka untuk mengendalikan gerakan Anda tidak ada hubungannya dengan jiwa. Jika, sebaliknya, ternyata partikel-partikel yang Anda susun tidak mematuhi hukum fisika yang diketahui, karena jiwa Anda memengaruhi mereka, maka entitas baru ini harus bersifat fisik menurut definisi, dan kemudian kita dapat mempelajarinya ketika kita mempelajari bidang-bidang tersebut. dan partikel di masa lalu. "
Sangat bermanfaat bagi mereka yang memisahkan sains dari agama. Menimbang bahwa sains tidak boleh mencampuri agama, tetapi agama dalam sains. Namun, untuk fanatik agama buta, ini adalah frasa kosong. Tetapi bagi mereka yang ragu-ragu yang mampu berpikir secara logis, pemikiran lebih dari berguna.
Bagi para ilmuwan:
"Genom bakteri Candidatus Carsonella ruddii, yang menyimpan hingga 40 kilobyte informasi, sedangkan genom manusia menyimpan sekitar 1,6 gigabytes"
Fakta yang menarik. Saya mencoba mengumpulkannya. Mungkin akan berguna dalam pekerjaan, atau hanya dalam membahas topik tentang bioinformatika.
Secara umum, buku itu bisa dibongkar sepenuhnya menjadi tanda kutip, dan dianalisis secara rinci, tetapi sayangnya, seperti biasa tidak ada waktu. Ngomong-ngomong, teman yang merekomendasikan pekerjaan ini kepada saya tidak mengerti apa pun pada dasarnya dan dalam arti, karena Saya mendengarkan buku ini bukan sebagai synthesizer ucapan, tetapi sebagai buku audio. Karena itu, sebagian perhatiannya tertuju pada KEINDAHAN suara penyiar, dan bukan pada maknanya. Sudah saya diam tentang ketidakmungkinan mengutip dan banyak lagi yang tidak ada di buku audio. Nah begini, sedikit teriakan jiwa, bagi pecinta buku audio yang keras kepala. Saya menggambarkan semua ini secara terperinci dalam buku saya Buku 3.0. Dengarkan! "