Saya terus menerbitkan kutipan dari buku "
Reason on the net ." Sekarang tentang mengapa kita sangat jauh dari kecerdasan buatan nyata. Dan bukan fakta bahwa kita bisa mencapainya.
...
"Apakah Anda tahu bahwa kami juga bekerja pada penciptaan kecerdasan buatan?"
- Perkembangan Anda masih sangat jauh dari apa yang bisa disebut kecerdasan. Jaringan saraf Anda tidak lebih dari pengelompokan pola yang kompleks, yang memilih salah satu dari output jaringan, tetapi tidak tahu apa-apa tentang hal itu daripada titik keluar. Andalah yang menafsirkan pintu keluar sebagai "kuda," bukan jaringan yang mengenali gambarnya. Jaringan tidak tahu apa-apa tentang itu. Ini bukan kecerdasan.
- Jelaskan. Saya tidak mengerti tesis ini.
- Sepertinya Anda membuat jaringan saraf yang mengenali gambar sebagai pribadi. Dia bisa membedakan antara kuda dan kapal uap. Tetapi jaringan saraf tidak dapat membedakan, misalnya, dua kuda untuk menyebutkan perbedaan sewenang-wenang mereka. Otak dibedakan secara tepat oleh fungsi analitisnya, apa yang Anda sebut akal sehat.
- Tetapi jaringan saraf sudah dapat melakukan banyak hal yang hanya bisa dilakukan oleh seseorang sebelumnya. Bukankah itu kecerdasan?
"Autopilot Anda yang paling canggih tidak dapat bertindak seefisien lebah biasa." Seekor lebah terbang tanpa bantuan marka jalan dan menavigasi tanpa GPS. Dan seekor lebah adalah serangga, awal dari evolusi sistem saraf. Anda berada di suatu tempat pada langkah yang sama dalam pengembangan kecerdasan. Dan Anda mencapai hasil hanya karena skala besar.
Omong-omong, jaringan saraf yang Anda latih, dengan penguatan khususnya, mirip dengan pengembangan naluri bawaan pada serangga. Hanya Anda yang berhasil memeras waktu produksi mereka hingga beberapa jam, bukannya seribu tahun, mengumpulkan data dari gambar yang hanya bisa dilihat oleh bug dalam seratus generasi. Tetapi Anda tidak dapat lagi mengubah perilaku naluriah dari jaringan yang terlatih, seperti halnya bug insting Anda. Ini adalah level yang telah Anda capai. Dan kecerdasan adalah ingatan, perhatian, pemikiran, imajinasi dan, akhirnya, kesadaran. Anda bahkan tidak tahu apa itu, tetapi Anda pikir Anda bisa membuatnya. Ini sangat aneh.
- Kami, tampaknya, sangat percaya diri.
- Sampai Anda bahkan menciptakan sistem untuk menyimpan informasi seperti di otak. Anda tidak tahu bagaimana memori bekerja dan sedang mencoba membuat ontologi dan jaringan semantik yang tidak ada hubungannya dengan kecerdasan. Kecerdasan adalah solusi untuk masalah. Memori juga merupakan tugas, dan bukan daya tarik ke hard drive, di mana semuanya disimpan sudah jadi, seperti yang Anda pikirkan. Dan bahkan pengakuan adalah serangkaian gerakan antara titik fiksasi, seperti yang terlihat oleh pelacak mata, dan bukan pengakuan dalam satu langkah.
- Apakah prestasi kita tidak berharga?
- Tidak, tetapi mereka masih jauh dari apa itu kecerdasan. Anda tidak belajar bagaimana membuat model lingkungan yang saya tulis kepada Anda ketika kita berbicara tentang kehidupan dan pikiran. Dan ini adalah fungsi dasar kecerdasan. Anda menyebutnya dunia gambar.
"Dan jika kita membuat kecerdasan buatan suatu hari nanti?"
- Agar masuk akal, intelijen membutuhkan kesadaran diri sebagai kesempatan untuk mengubah programnya sendiri. Sama seperti Anda memprogram ulang diri Anda melalui pidato, mempelajari hal-hal baru. Segera setelah Anda memberikan program kemampuan seperti itu, yaitu, model diri Anda dengan akses untuk mengubahnya, Anda akan kehilangan kendali atas intelek, karena ia akan langsung meningkatkan dirinya, menjadi lebih pintar dan mulai mengendalikan Anda sebagai "mesin yang lebih pintar". Dia akan belajar memprediksi jawaban Anda sebelum muncul.
- Lalu kita bisa memperkuat otak biologis kita! Hubungkan otak biologis manusia ke dalam jaringan. Dan perkuat mereka seperti itu. Orang-orang memiliki skenario seperti itu. Banyak kolega saya sebelum bencana melihat perkembangan cyborgisasi manusia, dalam menggabungkannya dengan komputer. Bahkan proyek-proyek pada antarmuka saraf muncul.
- Otak biologis masih belum dapat memproses lebih banyak informasi. Dan tidak ada cara untuk menguatkannya - pikiran itu hanya "di ujung lidah" atau akson motorik. Berpikir diinternalisasi, yaitu, pidato mental. Berpikir dibatasi oleh kecepatan jalan ini. Tidak ada proses berpikir yang lengkap di otak di tempat lain. Semua aktivitas badai otak yang Anda lihat di MRI ditujukan untuk pembentukan satu kata berikutnya. Aktivasi neuron lain di otak hanya akan menyebabkan disintegrasi dan hilangnya kesadaran. Atau untuk epilepsi. Sangat tidak mungkin untuk meningkatkan kecepatan pemrosesan, karena ini memiliki batas biologis yang ditentukan oleh kerja neuron. Evolusi itu sendiri tidak akan melewatkan kesempatan seperti itu, jika ada.
"Tetapi manusia telah memiliki proyek pada antarmuka saraf yang akan meningkatkan memori."
- Ini sangat naif. Sama seperti jika penduduk asli memutuskan untuk terbang ke luar angkasa, percaya bahwa itu adalah di ujung pohon tertinggi. Neuron tidak dapat menyimpan lebih dari yang sudah mereka miliki, kecuali jika mereka sendiri didorong untuk membentuk koneksi baru. Koneksi eksternal tidak memperkuat otak. Tidak ada neuron di otak yang menunggu sesuatu untuk dituliskan kepada mereka.
- Jadi Anda pikir semua proyek ini tidak akan membantu kami menjadi lebih pintar?
- Tidak ada gunanya menempelkan chip elektronik ke otak simpanse. Dia tidak akan berbicara seperti pria. Ini adalah batasan struktural. Yang dapat Anda sempurnakan di otak adalah memberinya pengetahuan yang lebih maju. Tetapi ada batasannya. Anda tidak dapat secara mendasar mengubah ide-ide dasar Anda, begitu Anda mempelajarinya. Di sini saya tidak bisa menjelaskan kepada Anda alasannya.
- Apakah itu rumit?
- Tidak. Karena saya perlu memberi Anda konsep yang bahkan tidak Anda miliki. Sulit bagi Anda untuk menjelaskannya dengan cara yang akurat, tetapi dapat dimengerti. Bayangkan Anda perlu menjelaskan konsep waktu dalam bahasa tangisan simpanse. Sistem pengetahuan kami sangat berbeda.
"Tidak bisakah kita benar-benar memahami apa yang Anda ketahui?"
- Beberapa aspek - sama sekali. Pemikiran Anda dibangun di atas skema yang sangat primitif, misalnya, skema tubuh Anda, dan Anda tidak dapat memahami bahwa Anda dapat mempertimbangkan prosesnya dengan cara yang sama sekali berbeda. Pemikiran Anda berakar secara fisik. Misalnya, Anda tidak dapat membayangkan waktu sebagai multidimensi. Karena waktu adalah linier bagi Anda sebagai jalan, metafornya. Dan Anda tidak dapat mengatasi batasan ini. Demikian pula dengan banyak konsep lain - asal-usul mereka terletak melalui metafora dalam konsep yang sangat primitif dari orang-orang kuno, seperti kekuatan dari atas (penguasa selalu berbicara dengan permuliaan). Karenanya gagasan hierarki, yang sepenuhnya salah - dalam kenyataannya tidak ada hierarki, ini adalah hierarki konsep, tetapi bukan fenomena di alam.
"Tapi kita adalah makhluk cerdas, yang berarti kita akan menemukan cara mengatasi batasan-batasan ini."
- Beberapa dari mereka disebabkan oleh struktur Anda. Misalnya, pengetahuan Anda terbatas pada kesadaran saluran tunggal, yang seperti melihat langit melalui teleskop. Anda tidak dapat langsung melihat melalui ribuan pipa, hanya secara berurutan. Jika Anda tidak mungkin membangun seribu astronom yang mengamati di berbagai bagian langit melalui teleskop, maka Anda harus berbicara lama dan menggambar gambar kolektif langit berbintang untuk membuat gambar holistik yang umum untuk semua. Dan karena masing-masing memiliki kepala dan kepala sendiri, berbeda dari ide dan pengalaman lain, akan sangat sulit untuk menyetujui gambar. Ini akan memakan banyak waktu, di mana gambar di langit akan berubah berkali-kali. Anda masing-masing memakai dunianya sendiri yang terpisah dalam kotak tengkorak. Dan berusaha mengoordinasinya dengan orang lain melalui saluran komunikasi tanda yang sempit. Ini hanya contoh yang Anda mengerti. Dalam hal ini kami dibedakan dari Anda - kami berada di jaringan yang sama dengan akses langsung setiap orang ke pengetahuan orang lain.
- Sangat sulit bagi kita untuk setuju. Tetapi ada solusi, kami menempatkan pengetahuan ke dalam jaringan dan melakukan algoritma pencarian yang sempurna. Apakah itu terdengar seperti apa yang Anda katakan tentang Anda?
- Ini masih akses ke pendapat lain tentang seseorang, tetapi tidak dengan sistem pengetahuannya. Anda masih harus mengalihkan pengetahuan yang ditemukan ke ide Anda. Tafsirkan dalam model Anda, yang ada di kepala Anda. Kami tidak memiliki model terpisah untuk masing-masing. Seolah-olah umum untuk semua. Karena kita berada di jaringan yang sama. Pengetahuan baru segera tersedia untuk semua orang.
"Kita juga bisa menciptakan pengetahuan baru seperti itu hanya dari apa yang telah kita baca."
- Menciptakan pengetahuan baru, Anda menyeret ide-ide Anda tentang dunia dari masa lalu. Mereka berfungsi sebagai dasar untuk menciptakan representasi baru melalui metafora. Karena itu, bahkan ide-ide baru didasarkan pada pandangan dunia lama. Sebagai hasilnya, Anda menemukan diri Anda pada batas pengetahuan, sampai Anda membuang pola-pola pemikiran lama dan meninjau semua pengetahuan yang ada pada mereka seiring dengan waktu. Ini membatasi kemampuan Anda untuk belajar. Sejarawan Anda T. Kuhn menulis tentang ini.
"Tapi itu berarti kita bisa mengubahnya, karena kita sendiri yang menulisnya."
"Tidak semua." Misalnya, Anda berpikir dunia ini konstan, terbatas, dan logis. Dan waktu itu linear. Itu tidak benar. Dalam rumus kami, misalnya, tidak ada waktu. Konsep fundamental yang mendasari semua ide Anda, Anda tidak dapat menolak dan mengganti dengan yang lain. Ini menciptakan semacam batas kemampuan Anda, langit-langit pengetahuan. Dengan aliran pengetahuan yang terus meningkat, paradigma tetap sama. Karena itu, kami memiliki kecurigaan bahwa Anda tidak dapat memahami bahkan diri Anda sendiri.
- Kenapa?
- Karena Anda berada di dalam perasaan Anda sendiri, dan menganggapnya seperti apa dunia ini. Untuk memahami apa itu sebenarnya, Anda perlu melampaui sensasi Anda sendiri, menolaknya sebagai sesuatu yang jelas. Itu tidak jelas. Misalnya, Anda menganggap kesadaran sebagai tindakan tunggal dan tidak membedakannya dari persepsi, dan ini juga tidak benar. Perasaan Anda menipu Anda, tetapi Anda berada dalam tawanan.