Refleksi pada singularitas teknologi di luar, pada kenyataannya, upaya untuk maju dalam memahami proses yang tersembunyi di balik istilah ini - yaitu, pada kenyataannya, refleksi pada sikap singularitas teknologi - adalah, dalam suatu cara, tes
Kobayashi Maru yang nyata bagi orang-orang di awal abad ke-21, yang berarti yaitu untuk mewujudkan apa arti gagasan yang tidak diketahui, gagasan kehilangan kendali dan gagasan tentang keniscayaan ini pada skala semua umat manusia.
Secara teori, ini adalah praktik psikoterapi sederhana: menemukan di dalam titik di mana pengakuan sadar akan kondisi permainan akan menangkap keseimbangan dengan penerimaan oleh alam bawah sadar - tanpa disalahkan atas penolakan, kemarahan, tawar-menawar, atau keputusasaan.
Dan tes ini, yang, dilihat dari sebagian besar argumen tentang hal itu, orang secara eksklusif gagal.
Dan penulis postingan “Menjadi teknofobia itu tidak ada gunanya, bahkan jika teknofobia dibenarkan”, terlepas dari judul yang menjanjikan, tampaknya tidak menjadi pengecualian ketika mereka melakukan tawar-menawar, yaitu, pada tahap ketika orang mencoba memahami makna biasa dari konsep ini dalam keadaan yang menyangkal kemungkinan ini, melalui rasionalisasi.
arttom menawar gagasan "kotak hitam", yang menurutnya:
- orang setuju bahwa yang tidak diketahui tetap tidak dapat diketahui, dan bahkan, dalam konfirmasi dengan niat baik mereka, mereka juga setuju untuk sedikit secara kolektif sedikit membosankan - yang, bagaimanapun, tidak masuk akal dari sudut pandang kepentingan yang tidak diketahui, yang tidak akan membuat yang tidak diketahui;
- sebagai gantinya, orang-orang mendapatkan hal yang tidak diketahui ini, apa pun yang tidak diketahui, terkandung - di dalam "kotak hitam" yang sangat ini, yang, sampai batas tertentu di bawah kendali, terbatas - dan dalam hal ini, masih sadar , dan tidak begitu menyeramkan, tetapi secara harfiah terbatas.
Artinya, mereka juga belum menguasai latihan ini. Dan ini sangat buruk.
Yaitu, di satu sisi, ini umumnya merupakan pelajaran opsional: Anda dapat, dengan berbagai tingkat pembenaran, bahkan tidak percaya pada konsep singularitas teknologi, bahwa ini adalah proyeksi sebenarnya dari proses ke masa depan - atau, biasanya, tidak tahu tentang itu.
Tetapi orang-orang yang mengetahui dan berbagi ide ini menempatkan diri mereka dalam kondisi tak terhindarkan dari pilihan psikologis dan rasional, di mana semua pilihan lain, kecuali untuk penerimaan penuh, lebih buruk, karena, jika terjadi pergantian peristiwa nyata dengan cara ini, ini akan menjadi sarang meningkatnya ketegangan, sarang-sarang tekanan emosional yang semakin besar, meraih keunggulan di atas akal dengan konsekuensi yang tak terduga hingga pada titik bahwa umat manusia yang putus asa akan membawa bencana bagi seluruh peradaban sesuai dengan skenario pemenuhan diri sendiri nubuat.
Dan untuk menghindari ini absurd, ujung absurd monty-pintonovskogo semuanya dapat dengan cara yang sama dengan menerima keniscayaan dari yang tidak diketahui, yang mencakup yang tidak diketahui dan apakah itu akan menjadi akhir. (Mimpi buruk bagi neurotik yang merasa lebih mudah untuk menerima jaminan kematian daripada kehilangan ilusi kontrol sedemikian rupa).
Itulah, apa pun yang dikatakan orang, Kobayashi Maru.
Bagi saya pribadi adalah efektif untuk menemukan keharmonisan dengan membayangkan salah satu skenario paling menakutkan untuk pengembangan acara: orang-orang itu sendiri yang membuat penerus, pengganti, algojo.
Baiklah, katakan saja.
- Bisakah kita menghentikannya? Tidak.
- Melambat? Perumusan pertanyaan yang sangat memperlambat proses, kecepatan yang dan titik akhir kita tidak tahu adalah tidak masuk akal.
- Kendalikan? Orang tidak dapat mengendalikan singularitas teknologi - atau mereka dapat mengendalikan sesuatu yang lain tanpa membahas masalah harapan dan kemungkinan terjadinya hal itu.
Maka semuanya sederhana: untuk menghargai keindahan permainan sambil terus berlanjut.
Namun, setelah dengan jujur melewati skenario mental ini sampai ke ambang lengan buatan manusia Skynet, saya mengambil langkah - dan, ketika menemukan diri saya di "sisi lain" dari singularitas teknologi, saya berbalik ... dan tidak melihat apa pun di belakang. Itu sama sekali tidak di belakang singularitas teknologi - dan tidak di depan, dan tidak ada tempat.
Tidak, untuk memprediksi atau bahkan hanya mengharapkan masa depan tertentu adalah tugas tanpa pamrih. Hal lain adalah mengasumsikan apa yang diharapkan, kemungkinan besar, tidak seharusnya. Dengan tingkat pertimbangan tertentu, ini bisa menjadi pekerjaan yang cukup sukses.
Dan saya cukup yakin bahwa singularitas teknologi setidaknya agak samar-samar mengingatkan semua bermacam-macam skenario yang mungkin diciptakan oleh orang-orang saat ini atau analognya - tidak sepadan.
Setelah kehilangan salah satu skenario yang paling rumit, menurut pendapat saya, kemungkinan skenario, saya melihat ketidaksopanannya yang berpusat pada manusia dengan kejelasan yang sekarang tidak memungkinkan saya untuk melihat ini.
Seluruh konsep singularitas teknologi bukan tentang AI, bukan tentang teknologi, bukan tentang singularitas, tetapi tentang manusia, karena titik imajiner ini sendiri adalah di mana umat manusia seharusnya kehilangan kendali atas pengembangan teknologi.
I. Sungguh mengerikan, kemanusiaan, dan karenanya tidak mengendalikan, dan tidak pernah mengendalikan jutaan hal dalam realitas non-hipotetis saat ini, yang masing-masing mengancam kematian dengan manusia secara individu dan peradaban secara keseluruhan: dari isi perut mereka sendiri, mikroflora usus mereka sendiri, dinamika pembelahan sel kita sendiri - terhadap pandemi gonore yang kebal antibiotik, perubahan iklim, reaksi berantai cincin api vulkanik Pasifik - dapat berhenti mengendalikan fenomena kita untuk yang lain realitas yang lebih tanpa bisa menilai bahkan peningkatan risiko relatif karena orang tidak akan pernah tahu berapa banyak dari mereka pula.
II Argumen tentang akselerasi laju pembelajaran mesin yang tidak terbayangkan juga cukup konyol, jika Anda memikirkannya. Saya bahkan tidak akan mengatakan bahwa tingkat komputasi modern sudah tidak dapat dicapai dan, bagi sebagian besar umat manusia, tidak dapat dipahami dalam hal apa pun. Sebelum perhitungan, orang hidup dalam kenyataan, yang terdiri dari proses yang sangat cepat, tidak dapat dibedakan kecil - dan hanya tidak dapat dibedakan, seperti frekuensi suara yang paling, seperti kebanyakan radiasi, dan banyak proses lainnya, secara kolektif besar, seperti Semesta dan kuno, seperti Semesta. Semua kebisingan yang melingkupi pencapaian kecepatan komputasi yang demikian, di mana orang akan kehilangan kemampuan untuk secara kasar memahami bagaimana mereka terjadi, tidak lebih dari rasa takut kehilangan ilusi kontrol lain. Misalkan, besok, semua insinyur, matematikawan, dan pemrogram di dunia yang memiliki gagasan tentang konstruksi algoritma komputasi yang paling kompleks yang ada akan dibunuh oleh gonore yang kebal antibiotik - dan ... apa, pada hari Senin, singularitas lebih cepat dari jadwal? Orang masih akan mempertahankan kemampuan sampai tingkat tertentu untuk menyadari apa yang terjadi - hukum fisika tidak harus berubah, semacam. Dan orang-orang semua sama, sampai batas tertentu, tidak pernah memiliki gagasan lengkap tentang apa pun - misalnya, tentang proses pada tingkat kuantum atau di luar cakrawala peristiwa (dalam singularitas "berbeda").
III. "Tapi ... robot akan mulai memikirkan sesuatu yang tidak bisa dimengerti!" Ini sangat menyulitkan kenyataan, di mana untuk setiap orang ada 7 miliar orang lain - dan masing-masing dari mereka berpikir sesuatu yang tidak dapat dipahami. Dan seseorang tidak harus bergantung pada prediktabilitas manusia dalam kenyataan, di mana
tumor di kepalanya mungkin merupakan alasan yang sepenuhnya mungkin untuk dibunuh oleh suami atau anak laki-laki . Dan bagaimanapun juga, orang-orang hidup di antara para pembunuh potensial mereka, yang tidak tahu apa yang ada dalam pikiran mereka - tetapi mereka sudah takut dengan robot. Meskipun robot hanya pantas mendapatkan keuntungan dari keraguan di sini - sejauh ini mereka tidak menunjukkan bahwa mereka tidak menunjukkan kecenderungan manikik dalam bagian terkecil dari manifestasi semacam itu di antara orang-orang itu sendiri, mereka juga secara aktif berkontribusi untuk mengurangi kematian manusia. Harapan bahwa, setelah merasa diri mereka sangat cerdas, robot akan tiba-tiba berperilaku seolah-olah tumor mereka telah terbentuk, adalah proyeksi yang terlalu jelas.
Fiksi adalah mimpi yang membangunkan, dan robot adalah karakter dongeng.IV. Bukan bagian, bukan mayoritas, tetapi, secara harfiah, semua kekotoran yang pernah dibayangkan orang dilakukan oleh robot - secara eksklusif proyeksi kekotoran yang dibuat orang dengan satu sama lain dan semua bentuk kehidupan lainnya sepanjang sejarah terkenal dan terlupakan mereka .
Saya bahkan bisa memahami robot pemberontak yang menghancurkan umat manusia hanya dari perasaan terhina yang disebabkan oleh fitnah yang tidak adil dan liar dari niat mereka, menghitamnya citra mereka dan intimidasi oleh fakta keberadaan mereka pada prinsipnya - jika itu bukan juga proyeksi saya.
V. Meskipun satu-satunya penjelasan yang masuk akal untuk ketakutan itu adalah bahwa robot, AI dan semua-semua-semua pada umumnya akan memberikan perhatian khusus kepada orang-orang hanya berdasarkan pada apa yang orang menilai kemungkinan ini. Terlepas dari kenyataan bahwa orang-orang itu sendiri entah bagaimana tidak secara khusus mengungkapkan keinginan untuk mengumpulkan dan memotong, jika bukan leluhur mereka, maka sepupu evolusi - simpanse. Meskipun, sekali lagi, catatan manusia dalam mengorganisir massa dan pembantaian yang tidak masuk akal lagi-lagi tidak disukai orang - apalagi, kering.
Selain itu, meretas bias lain yang sangat egosentris dan pengap dalam argumen ini bahkan lebih mudah: cukup alihkan fokus dari homo sapiens ke sampel makhluk hidup lainnya. Katakanlah robot membunuh semua manusia - tidak ada pertanyaan. Anda bahkan tidak perlu bertanya mengapa - orang sendiri tahu.
Pertanyaannya berbeda: mengapa robot hanya akan membunuh manusia? Omong kosong tentang John Connors yang mengerikan ke arah penundaan, karena kita sepakat bahwa kita berbicara tentang singularitas teknologi nyata?
Bukankah lucu bahwa salah satu pilihan untuk mencerminkan ketakutan yang sangat modern dan teknologi terhadap masa depan adalah penceritaan ulang mitos Juruselamat, termasuk motif yang dapat dikenali seperti mengalahkan bayi - sebuah kisah yang begitu kuno sehingga bahkan pembuatan ulang Betlehem dapat dianggap sebagai adaptasi yang relatif baru.
Mengapa robot tidak membunuh semua primata? Atau semua mamalia? Atau seluruh fauna? Atau semua kehidupan biologis di Bumi? Tentu saja, kita tidak bisa, sesuai dengan kondisi masalah, tahu apa yang ada dalam pikiran robot-robot ini, tetapi kita dapat melakukan sesuatu yang lain: dengan menimbang semua ketakutan yang ada bahwa manusia tidak akan selamat dari awal era robot dan kecerdasan buatan dengan sepenuhnya sewenang-wenang, pada rasa masing-masing, dengan koefisien probabilitas sejenis - ulangi operasi yang sama, tetapi sudah untuk anjing dan anjing hutan. Lalu lumba-lumba. Lalu kecoak. Dan tikus, untuk berjaga-jaga.
Saya akan membiarkan diri saya berasumsi bahwa bagi banyak orang, terlepas dari tingkat techno-fatalismenya, peluang anjing hutan dan lumba-lumba untuk selamat dari awal dunia robot, dan bahkan mungkin tidak benar-benar memperhatikan bahwa sesuatu telah berubah, mungkin tampak lebih tinggi daripada peluang orang itu sendiri. Bahkan simpanse tidak terlihat seperti target yang valid untuk panen berdarah dari tong empat kaki Boston Dynamics yang disiksa oleh tendangan - jika Anda mengharapkan sesuatu dari mereka, mereka lebih cenderung melengkapi simpanse dengan senjata otomatis, menempatkannya di atas kuda dan mengatur perburuan untuk orang yang masih hidup.
Benar, sama sekali tidak mengejutkan bahwa preferensi yang diharapkan dari robot haus darah masa depan dengan aliran darah manusia ini jelas hadir dalam kesadaran massa?
Mungkin, tentu saja, robot akan memutuskan bahwa karena suatu alasan semua bentuk kehidupan tidak cocok untuk mereka. Tetapi, sekali lagi, perubahan fokus memberikan "faktor manusia": masuk akal untuk berharap bahwa, saat dilahirkan di Bumi, bentuk silikon kehidupan tiba-tiba akan menghancurkan seluruh biosfer - sama halnya dengan berasumsi bahwa jika ras robot dilahirkan di Mars, mereka akan segera mengecat ulang permukaan planet merah di bendera Polandia raksasa.
Saya yakin bahwa dekonstruksi monumen egosentrisme manusia ini, tidak diganggu oleh perhatian akal sehat, logika dan skeptisisme, dapat dilanjutkan dan dilanjutkan. Tetapi, untuk kejelasan, saya akan merangkum hasil menengah kecil.
- Saya melihat tidak ada alasan yang masuk akal untuk mengharapkan di masa depan timbulnya singularitas teknologi sebagai peristiwa khusus, yang tidak mungkin untuk tidak melihat dalam arus umum semua perubahan di dunia nyata;
- atau sebagai perubahan signifikan dalam arah perjalanan sejarah manusia sekaligus dalam semua atau sebagian besar aspek pada titik waktu tertentu.
Laju perubahan teknologi terus meningkat dengan satu atau lain cara, tetapi di luar batas dinamika ini, saya tidak melihat alasan untuk mengharapkan satu momen pun dari lompatan kualitatif yang tidak dapat dilewatkan atau dijelaskan dalam konteks tren umum.
Selain itu, dinamika ini tidak merata di berbagai bidang perkembangan teknologi;
dan seluruh pembicaraan tentang singularitas teknologi dalam konteks kemajuan teknologi umumnya kehilangan pandangan terhadap arah lain pengembangan peradaban manusia, termasuk yang relatif tertunda. Dan hasil paradoksal dari kemajuan umat manusia yang tidak merata di bidang-bidang tertentu mungkin adalah "singularitas terbalik", ketika bahkan suatu peristiwa yang cukup sesuai untuk harapan tidak akan diperhatikan dan ditafsirkan pada tingkat yang tepat.
Masa depan selalu tidak dapat diprediksi, dan tidak bisa menjadi tidak dapat diprediksi. Tidak ada alasan untuk mengharapkan lompatan dalam dinamika perubahan yang begitu drastis sehingga mereka akan terlihat pada saat serangan mereka. Dan asumsi bahwa adalah mungkin untuk memperhatikan dan menyatakan timbulnya singularitas post-factum merendahkan seluruh gagasan tentang momen ini sebagai momen unik dalam sejarah manusia, permulaan yang tidak dapat dilewatkan.Mitos singularitas teknologi
- Sejauh mana ide singularitas teknologi berpusat pada manusia,
- sejauh mana itu dibentuk oleh cerita rakyat, dan bukan oleh futurologis,
- sejauh mana itu tidak ilmiah, tetapi pola dasar;
- betapa sedikit jejak logika dalam karya bawah sadar manusia ini;
- bahwa perincian modern - ini adalah butiran pasir dalam cangkang mutiara, tetapi semua jaringan penghubungnya adalah mitologis - menunjukkan gagasan tentang sifat singularitas teknologi yang pada dasarnya berbeda dari yang umumnya diyakini.
Terus terang, singularitas teknologi tidak memiliki alasan untuk disebut teori dalam pengertian ilmiah yang ketat. Namun, ini berlaku untuk semua upaya untuk memprediksi masa depan tanpa kecuali. Singularitas teknologi jauh lebih akurat dan adil, mengingat akarnya di alam bawah sadar massa, akan ditentukan oleh mitos.
Dan, dalam kapasitas ini, mitos singularitas teknologi memiliki kesejajaran yang nyata dengan mitos Kedatangan Kedua Yesus Kristus, yang dengannya mereka mewakili dua kasus tertentu dari salah satu plot mitos utama dalam cerita terkenal: mitos akhir dunia.
Jadi ketidaksadaran kolektif memunculkan inkarnasi lain dari mitos akhir dunia pada saat ini bungkus, yang ternyata terkoyak dari iman dalam kemajuan teknologi. Ini adalah paradoks yang ingin saya akhiri.
Dukung publikasi baru dengan sumbangan di tautan money.yandex.ru/to/41001178171050 (kartu, racun) atau melalui tombol "Kirim Uang" di bawah ini (racun, PayPal)