Cargo Cult for AI: Mitos Kecerdasan Buatan Manusia Super

Saya mendengar bahwa di masa depan, AI komputer akan menjadi lebih pintar daripada kita sehingga mereka akan mengambil semua pekerjaan dan sumber daya kita, dan orang-orang akan mati. Benarkah begitu?

Ini adalah pertanyaan paling umum yang saya tanyakan dalam pidato saya tentang AI. Orang-orang yang menanyakannya dengan tulus khawatir, dan kekhawatiran mereka datang dari orang lain - para ahli yang menanyakan pertanyaan yang sama. Di antara mereka, Anda dapat bertemu orang-orang terpandai yang hidup hari ini - misalnya, Stephen Hawking , Elon Musk , Max Tegmark , Sam Harris dan Bill Gates - dan mereka semua percaya pada kemungkinan skenario seperti itu. Pada konferensi AI baru-baru ini, sebuah komite dari sembilan orang AI yang paling berpengetahuan sepakat bahwa kami tidak dapat menghindari munculnya AI manusia super.



Tetapi skenario menaklukkan dunia AI ini mencakup lima asumsi, yang ternyata berdasarkan penelitian yang cermat, tidak didasarkan pada bukti. Pernyataan-pernyataan ini dapat dibenarkan di masa depan, tetapi sekarang tidak satupun dari mereka memiliki bukti. Ini adalah asumsi:

1. AI sudah menjadi lebih pintar dari kita, dan kekuatannya tumbuh secara eksponensial.
2. Kami akan membuat AI umum yang mirip dengan AI kami.
3. Kami mampu menciptakan kecerdasan manusia berbasis silikon.
4. Akal mampu tumbuh tanpa batas.
5. Setelah ledakan kecerdasan super, dia akan membantu kita menyelesaikan semua masalah kita.

Sebagai keberatan terhadap kanon ortodoks ini, saya akan memberikan lima pernyataan sesat, yang menurut saya, memiliki lebih banyak alasan.

1. Kecerdasan bukanlah satu dimensi, sehingga konsep "lebih pintar daripada orang" tidak masuk akal.
2. Baik manusia maupun AI tidak memiliki kesadaran tujuan umum.
3. Persaingan pemikiran manusia di media lain akan dibatasi oleh biaya pembuatannya.
4. Dimensi kecerdasan tidak terbatas.
5. Kecerdasan hanyalah salah satu faktor kemajuan.

Jika harapan untuk munculnya manusia super AI (SII) didasarkan pada lima asumsi utama yang tidak memiliki bukti, maka gagasan ini lebih seperti keyakinan agama atau mitos. Selanjutnya, saya akan memperluas masing-masing dari lima asumsi saya, dan saya akan membuktikan bahwa SII sebenarnya adalah mitos.

1.

Kesalahpahaman paling umum tentang AI dimulai dengan kesalahpahaman tentang kecerdasan alami. Terdiri dari fakta bahwa kecerdasan adalah satu dimensi. Kebanyakan teknisi cenderung menggambarkan kecerdasan seperti yang dilakukan Nick Bostrom dalam Superintelligence, sebagai grafik garis satu dimensi dengan peningkatan amplitudo.



Di satu sisi kecerdasannya rendah, misalnya, binatang kecil; di sisi lain, genius tinggi, katakanlah - seolah-olah kecerdasan dapat direpresentasikan sebagai level suara dalam desibel. Tentu saja, dalam hal ini mudah untuk membayangkan bahwa volume kecerdasan terus tumbuh dan, sebagai akibatnya, melampaui tingkat intelektual kami yang tinggi dan menjadi kecerdasan yang sangat keras - raungan! - tidak dapat diakses oleh kami dan di luar jadwal.

Model ini secara topologi setara dengan tangga di mana setiap langkah kecerdasan berikutnya adalah satu langkah lebih tinggi dari yang sebelumnya. Hewan yang lebih muda ada di langkah bawah, dan AI tingkat tinggi akan menyusul kita dan akan ada di langkah di atas. Garis waktu acara ini tidak masalah, hanya masalah peringkat - metrik kecerdasan yang meningkat.


Masalahnya dengan model ini adalah mitosnya sama seperti tangga evolusi. Sebelum Darwin, dunia alami dianggap sebagai tangga tempat hewan-hewan muda berada di bawah orang tersebut. Bahkan setelah Darwin, sudah lazim untuk menganggap evolusi sebagai "tangga", yang dengannya ikan berubah menjadi reptil, kemudian menjadi mamalia, lalu menjadi primata, menjadi manusia, dan setiap tahap berada pada "tahap evolusi" yang sedikit lebih tinggi, dan karenanya dianggap lebih pintar dari yang sebelumnya. Jadi tangga kecerdasan konsisten dengan tangga kehidupan. Tetapi model ini memiliki pendekatan yang sama sekali tidak ilmiah.



Penggambaran yang lebih akurat tentang evolusi alami spesies adalah cakram yang mengembang, seperti pada gambar di atas, pertama kali diusulkan oleh David Hillis dari University of Texas dan dibuat berdasarkan DNA. Mandala silsilah ini dimulai di tengah dengan bentuk kehidupan yang paling primitif, dan kemudian bercabang dalam waktu. Waktu bergerak ke luar, jadi jenis kehidupan terbaru yang menghuni planet ini saat ini adalah di sekelilingnya. Gambar ini menekankan fakta evolusi, yang sulit diterima: masing-masing spesies yang hidup sekarang sama-sama dikembangkan secara evolusioner. Orang-orang ada di cincin ini bersama dengan kecoak, moluska, pakis, rubah dan bakteri. Setiap spesies melalui rantai sukses reproduksi tiga miliar tahun berturut-turut, yang berarti bakteri dan kecoak saat ini sama berkembangnya dengan manusia. Tidak ada tangga.

Demikian pula, tidak ada tangga untuk kecerdasan. Kecerdasan bukan satu dimensi. Ini adalah kompleks dari banyak jenis dan mode pengenalan, yang masing-masing merupakan sebuah rangkaian. Ambil tugas paling sederhana untuk mengukur kecerdasan hewan. Jika kecerdasannya satu dimensi, kita hanya akan membangun intelek burung beo, lumba-lumba, kuda, tupai, gurita, paus biru, kucing, dan gorila dalam urutan naik yang benar. Tetapi hari ini kami tidak memiliki bukti ilmiah untuk keberadaan garis semacam itu. Salah satu alasan untuk ini bisa jadi adalah tidak adanya perbedaan antara kecerdasan pada hewan, tetapi kami juga tidak melihat ini. Zoologi penuh dengan contoh menakjubkan dari perbedaan dalam pemikiran hewan. Tetapi mungkin mereka semua memiliki satu “kecerdasan umum” relatif? Mungkin, tapi baginya kita tidak memiliki cara untuk mengukur dan metrik. Kami memiliki banyak metrik yang berbeda untuk banyak jenis kognisi.



Alih-alih satu baris dengan desibel, model intelijen yang lebih akurat akan menjadi grafik ruang probabilistiknya, seperti, misalnya, gambar di atas, mewakili bentuk yang mungkin. Kecerdasan adalah kontinum kombinasi. Banyak node, yang masing-masing merupakan sebuah rangkaian, menciptakan struktur yang kompleks dan beragam dalam dimensi yang lebih tinggi. Beberapa kecerdasan bisa sangat kompleks dan memiliki banyak sub-node pemikiran. Yang lain mungkin lebih sederhana, tetapi meregangkan lebih jauh, mengambil sudut dalam ruang. Kompleks ini, yang kami sebut intelek, dapat dianggap sebagai simfoni yang melibatkan banyak jenis instrumen. Mereka berbeda tidak hanya dalam volume, tetapi juga dalam nada, melodi, warna, tempo, dll. Mereka dapat direpresentasikan sebagai ekosistem. Dan dalam pengertian ini, berbagai simpul-komponen pemikiran bergantung satu sama lain dan diciptakan bersama.

Seperti yang dikatakan Marvin Minsky , pikiran manusia adalah komunitas pikiran. Kami bekerja pada ekosistem pemikiran. Kami memiliki banyak jenis pemikiran di dalam yang berhubungan dengan banyak jenis pemikiran: deduksi, induksi, logika simbolik, kecerdasan emosi, logika spasial, memori jangka pendek, dan memori jangka panjang. Sistem saraf usus kita juga merupakan otak dari jenis tertentu dengan cara berpikirnya sendiri. Kami berpikir tidak hanya dengan satu otak, kami berpikir dengan seluruh tubuh.

Set pemikiran ini bervariasi dari individu ke individu dan dari spesies ke spesies. Tupai dapat mengingat lokasi yang tepat dari beberapa ribu biji ek selama bertahun-tahun, yang sepenuhnya mempengaruhi pikiran manusia. Jadi dalam pemikiran seperti ini, protein lebih unggul daripada manusia. Kekuatan super ini terhubung dengan mode lain, memudar dibandingkan dengan kita, dan koneksi ini membuat pikiran tupai. Di dunia hewan ada banyak contoh peluang yang lebih unggul daripada peluang manusia, dan mereka juga termasuk dalam sistem yang berbeda.



Hal yang sama berlaku untuk AI. Pikiran buatan sudah lebih unggul dari manusia dalam dimensi tertentu. Kalkulator Anda adalah jenius dalam matematika, memori Google sudah lebih baik dari kita dalam dimensi tertentu. Kami membuat AI yang menonjol dalam mode tertentu. Kami dapat melakukan beberapa hal ini sendiri, tetapi mereka melakukannya dengan lebih baik - misalnya, di bidang probabilitas atau matematika. Cara berpikir lain tidak tersedia bagi kami - hanya mesin pencari yang dapat mengingat setiap kata di enam miliar halaman web. Di masa depan kita akan memunculkan jenis pemikiran yang sama sekali baru yang tidak kita miliki, dan memang dalam sifat yang hidup. Menemukan penerbangan buatan, kami terinspirasi oleh rezim penerbangan biologis, terutama mengepakkan sayap. Tapi kami menemukan penerbangan seperti itu - dengan baling-baling dan sayap tetap - yang tidak diketahui dunia biologis. Ini adalah penerbangan orang lain. Dengan cara yang sama, kita akan menemukan cara berpikir baru yang tidak ada di alam. Dalam banyak kasus, mereka akan menjadi mode baru, spesifik, kecil yang dirancang untuk pekerjaan tertentu - mungkin jenis penalaran yang hanya cocok untuk statistik dan teori probabilitas.

Dalam kasus lain, pikiran baru akan menjadi seperangkat jenis pemikiran yang kompleks yang dapat kita gunakan untuk menyelesaikan masalah yang tidak sesuai dengan kecerdasan kita. Banyak masalah bisnis dan sains yang paling rumit mungkin memerlukan solusi dua tahap. Tahap satu: ciptakan cara berpikir baru yang dapat bekerja dengan pikiran kita. Kedua: gabungkan mereka untuk memecahkan masalah. Karena kita memecahkan masalah yang sebelumnya tidak dapat diakses oleh kita, kita ingin menyebut jenis pemikiran baru ini "lebih cerdas" daripada kita, tetapi dalam kenyataannya itu hanya berbeda dari kita. Keuntungan utama AI adalah pemikiran yang berbeda. Saya pikir berguna untuk menganggap AI sebagai pemikiran alien (atau alien buatan). Keunikannya akan menjadi kebajikan utamanya.

Pada saat yang sama, kami akan mengintegrasikan berbagai mode pemikiran ini ke dalam komunitas pikiran yang lebih kompleks. Beberapa dari kompleks ini akan lebih kompleks daripada kita, karena mereka dapat menyelesaikan masalah yang tidak dapat diakses oleh kita, dan kemudian seseorang ingin menyebut mereka manusia super. Tapi kami tidak memanggil Google SII, walaupun ingatannya melebihi kita, karena ada banyak hal yang bisa kita lakukan lebih baik darinya. Kompleks AI ini akan dapat melampaui kita dalam banyak dimensi, tetapi tidak ada yang bisa melakukan semua yang kita lakukan lebih baik daripada kita. Ini bisa dibandingkan dengan kemampuan fisik orang. Revolusi Industri sudah berusia 200 tahun, dan meskipun pada umumnya mesin melampaui kemampuan fisik seseorang (kecepatan gerakan, angkat berat, pemotongan presisi, dll.), Tidak ada mesin yang mampu melampaui rata-rata orang dalam segala hal yang dilakukannya.

Dan sementara komunitas pikiran AI menjadi lebih kompleks, kompleksitas ini masih sulit untuk diukur secara ilmiah. Kami tidak memiliki metrik yang baik untuk kompleksitas yang dapat menentukan apakah mentimun Boeing 747 lebih sulit atau menggambarkan bagaimana kesulitan mereka berbeda. Ini adalah salah satu alasan mengapa kita tidak memiliki metrik yang baik untuk pikiran. Akan sangat sulit untuk menentukan apakah pikiran A lebih sulit daripada pikiran B, dan karena itu, sulit untuk memahami mana di antara mereka yang lebih pintar. Segera kita akan memahami bahwa pikiran itu tidak satu dimensi, dan pada kenyataannya kita tertarik pada semua cara di mana kecerdasan dapat berfungsi - semua simpul kesadaran yang belum kita temukan.

2.

Kesalahan kedua terkait dengan kecerdasan manusia adalah keyakinan kita bahwa pikiran kita bersifat universal, itu adalah pikiran tujuan umum. Keyakinan ini telah menyebabkan munculnya tujuan yang sering dinyatakan peneliti AI untuk membuat AI umum, OII. Namun, jika kita menganggap intelijen sebagai ruang kemungkinan yang lebih besar, ia tidak memiliki keadaan umum. Kecerdasan manusia tidak berada pada posisi sentral di mana intelek khusus lainnya berputar. Kecerdasan manusia adalah jenis kecerdasan yang sangat, sangat istimewa yang muncul sebagai hasil evolusi jutaan tahun sehingga spesies kita bertahan di planet ini. Jika Anda menempatkannya di ruang semua kecerdasan yang mungkin, itu akan berada di suatu tempat di sudut, sama seperti dunia kita berada di tepi galaksi besar.

Kita pasti dapat membayangkan dan bahkan menciptakan pemikiran yang menyerupai pisau Swiss universal. Dia melakukan pekerjaan yang cukup baik dengan banyak tugas, tetapi dia tidak melakukannya dengan baik. AI akan mengikuti pepatah teknik yang sama dengan yang diikuti oleh semua hal yang diciptakan atau dilahirkan: Anda tidak dapat mengoptimalkan setiap dimensi. Hanya kompromi yang mungkin. Ini tidak akan berhasil untuk membuat unit multifungsi umum yang lebih unggul daripada yang khusus. Pikiran yang besar, "mampu melakukan apa saja", tidak akan mampu melakukan semua ini maupun yang khusus. Karena kami percaya pada generalisasi pikiran kami, kami percaya bahwa berpikir tidak harus mengikuti kompromi teknik, bahwa adalah mungkin untuk menciptakan kecerdasan yang memaksimalkan semua mode berpikir. Tetapi tidak ada bukti untuk ini. Kami belum menemukan pilihan yang cukup bagi pikiran untuk melihat seluruh ruang (dan sejauh ini kami menyapu pikiran hewan, mengevaluasinya dengan amplitudo satu dimensi).

3.

Bagian dari kepercayaan ini berasal dari konsep komputasi universal. Asumsi ini, yang secara formal digambarkan pada tahun 1950 sebagai tesis Church-Turing , menyatakan bahwa semua perhitungan yang mencapai ambang tertentu adalah setara. Oleh karena itu, untuk semua perhitungan terdapat inti universal, dan apakah mereka muncul di satu mesin dengan banyak bagian yang cepat, atau bagian yang lambat, atau di otak biologis - semua ini adalah proses logis yang sama. Dan ini berarti bahwa adalah mungkin untuk meniru proses komputasi (berpikir) dalam mesin apa pun yang mampu melakukan komputasi "universal". Penganut singularitas didasarkan pada prinsip ini, berharap bahwa kita dapat membuat otak silikon yang dapat mengakomodasi pikiran manusia, dan bahwa kita dapat menciptakan pikiran buatan yang berpikir bahwa manusia hanya jauh lebih pintar. Harapan ini harus skeptis, karena didasarkan pada kesalahpahaman hipotesis Gereja-Turing.

Titik awal hipotesis ini adalah sebagai berikut: "Jika ada film (memori) dan waktu tanpa batas, semua perhitungan adalah setara." Masalahnya adalah bahwa pada kenyataannya komputer tidak memiliki memori dan waktu yang tak terbatas. Di dunia nyata, waktu nyata sangat penting, sering kali bahkan masalah hidup dan mati. Ya, semua pemikiran bisa setara jika waktu diabaikan. Ya, Anda dapat meniru pemikiran manusia pada matriks apa pun, asalkan Anda mengabaikan waktu atau keterbatasan nyata dari penyimpanan data dan memori. Namun, dengan memasukkan waktu, dimungkinkan untuk mendefinisikan kembali prinsip ini secara substansial: "Dua sistem komputasi yang berjalan pada platform yang sangat berbeda tidak akan setara dalam waktu." Atau: "Satu-satunya cara untuk mendapatkan pola pemikiran yang sama adalah dengan menjalankannya pada platform yang setara." Masalah fisik di mana perhitungan bekerja - terutama ketika mereka menjadi lebih kompleks - secara dramatis mempengaruhi jenis pemikiran yang dapat berhasil berfungsi secara real time.

Saya akan melanjutkan argumen ini dan mengatakan bahwa satu-satunya cara untuk mendapatkan proses berpikir yang dekat dengan manusia adalah dengan melakukan perhitungan pada jaringan lunak dan lembab yang mirip dengan manusia. Ini berarti bahwa AI yang sangat besar dan kompleks yang beroperasi pada silikon kering akan memberi kita jenis pemikiran yang besar, kompleks dan tidak manusiawi. Jika menjadi mungkin untuk membuat otak basah buatan menggunakan neuron dewasa yang mirip dengan otak manusia, maka saya akan mengatakan bahwa pikirannya akan sangat mirip dengan otak kita. Manfaat dari otak yang basah seperti itu sebanding dengan seberapa miripnya kita membuat fondasi. Biaya untuk menciptakan "komputer manusia" seperti itu sangat besar, dan semakin dekat jaringan ke jaringan otak, semakin efektif biaya hanya untuk menciptakan seseorang. Pada akhirnya, kita bisa melakukan ini dalam sembilan bulan.

Selain itu, seperti yang ditunjukkan di atas, kami berpikir dengan bantuan seluruh tubuh, dan tidak hanya dengan satu otak. Kami memiliki banyak data yang menunjukkan bahwa sistem saraf usus memandu proses pengambilan keputusan "rasional" kami, yang dapat mempelajari dan memprediksi peristiwa. Semakin kita memodelkan sistem tubuh manusia, semakin dekat kita untuk mereproduksinya. Kecerdasan yang bekerja pada tubuh yang sangat berbeda (silikon kering, bukan karbon basah) akan berpikir berbeda.

Sepertinya saya ini bukan bug, tetapi fitur. Seperti yang saya sebutkan dalam paragraf 2, perbedaan antara berpikir dan manusia adalah keunggulan utama AI. Ini adalah alasan lain mengapa salah mengatakan bahwa dia "lebih pintar daripada orang lain."

4.

Di pusat konsep kecerdasan manusia super - khususnya, gagasan bahwa kecerdasan seperti itu akan terus meningkat - terletak keyakinan bahwa skala kecerdasan itu tidak terbatas. Saya tidak melihat buktinya.Memercayai ini membantu gagasan keliru tentang satu dimensi kecerdasan - tetapi ini hanya iman. Di alam semesta tidak ada yang dapat dipercaya untuk ilmu dimensi fisik tak berujung. Temperaturnya tidak ada habisnya - ada akhir yang dingin dan panas akhir. Waktu dan ruang terbatas. Kecepatan akhir. Mungkin garis numerik dalam matematika tidak terbatas, tetapi atribut fisik memiliki keterbatasan. Masuk akal untuk mengatakan bahwa pikiran itu sendiri terbatas. Jadi pertanyaannya adalah, di mana batas kecerdasannya? Kita cenderung percaya bahwa itu jauh di luar jangkauan kita, jauh "lebih tinggi" dari kita, sama seperti kita "lebih tinggi" dari semut. Jika kita meninggalkan masalah satu dimensi yang terus muncul, bukti apa yang kita miliki bahwa kita belum mencapai batas ini? Mengapa kita tidak bisa maksimal? Atau mungkin batas ini sangat dekat dengan kita? Mengapa kita percaya bahwa kecerdasan adalah sesuatu yang dapat berkembang selamanya?

Jauh lebih baik untuk mendekati masalah ini, dengan mempertimbangkan kecerdasan kita sebagai salah satunyabanyak kemungkinan jenis kecerdasan . Dan bahkan jika setiap dimensi pemikiran dan komputasi memiliki keterbatasan, jika ada ratusan dimensi, akan ada pikiran yang tak terhitung jumlahnya - tidak ada yang akan tak terbatas dalam dimensi mana pun. Ketika kita bertemu atau menciptakan varian pikiran ini, kita dapat memutuskan bahwa beberapa di antaranya lebih unggul daripada kita. Dalam buku terakhir saya, The Inevitable, saya menjabarkan beberapa jenis pikiran yang mungkin agak lebih unggul dari pikiran kita. Berikut adalah daftar yang tidak lengkap:

• Pikiran yang mirip dengan yang manusia, tetapi bekerja lebih cepat (AI jenis ini paling mudah untuk dibayangkan).
• Pikiran yang sangat lambat, ditandai dengan sejumlah besar penyimpanan informasi.
• Otak super global yang terdiri atas jutaan pikiran primitif yang bekerja secara koheren.
• Supermind dari sarang, terdiri dari banyak pikiran cerdas yang tidak menyadari milik mereka dalam sarang.
• Pikiran sibernetik, yang terdiri dari pikiran cerdas yang menyadari miliknya dalam pikiran kolektif.
• Pikiran yang secara khusus dirancang untuk meningkatkan pekerjaan pikiran Anda sendiri, dan tidak berguna bagi orang lain.
• Pikiran yang mampu membayangkan pikiran yang lebih sempurna, tetapi tidak mampu memproduksinya.
• Pikiran yang mampu menghasilkan pikiran yang sempurna, tetapi tidak cukup sadar diri untuk mewakilinya.
• Pikiran yang pernah berhasil menciptakan pikiran yang lebih baik.
• Pikiran yang mampu menciptakan pikiran yang lebih sempurna, yang pada gilirannya mampu menciptakan pikiran yang lebih sempurna, dll.
• Pikiran dengan akses ke kode sumbernya, dan mampu memengaruhi pekerjaannya.
• Pikiran super-logis tanpa emosi.
• Pikiran yang mampu memecahkan masalah umum, tetapi tidak sadar diri.
• Pikiran sadar diri, tidak mampu memecahkan masalah umum.
• Pikiran, perkembangannya membutuhkan banyak waktu dan melindungi pikirannya.
• Pikiran yang sangat lambat, didistribusikan dalam volume fisik yang besar, dan karena itu ia tidak terlihat oleh pikiran yang lebih cepat.
• Pikiran yang mampu mengkloning diri sendiri dengan cepat dan akurat.
• Pikiran yang mampu mengkloning diri sendiri, setelah itu ia dapat tetap digabungkan dengan klonnya.
• Pikiran abadi, mampu bermigrasi antar platform.
• Pikiran yang cepat dan dinamis, mampu mengubah proses dan karakteristik pekerjaannya.
• Nanointelligence, terkecil dari sudut pandang energi dan fisik.
• Pikiran yang mengkhususkan diri dalam prediksi perkembangan acara.
• Pikiran yang tidak pernah menghapus atau melupakan apa pun.
• Pikiran simbiotik pada setengah-hewan-setengah-hewan.
• Kecerdasan Cybernetic dalam setengah mesin setengah manusia.
• Pikiran menggunakan komputasi kuantum, dengan logika yang tidak dapat diakses oleh kami.

Beberapa siap untuk memanggil pikiran apa pun dari daftar SII ini, tetapi keragaman dan keterasingan pikiran semacam itu memaksa kita untuk mengembangkan istilah dan konsep baru tentang kecerdasan dan pikiran.

Kemudian, orang yang percaya pada SRI menyarankan pertumbuhan kecerdasan eksponensial (oleh beberapa metrik yang samar), mungkin karena mereka percaya bahwa itu sudah berkembang secara eksponensial. Namun, sejauh ini tidak ada bukti bahwa kecerdasan berkembang secara eksponensial, tidak peduli bagaimana Anda mengukurnya. Dengan pertumbuhan eksponensial, saya memahami pertumbuhan di mana AI menggandakan kekuatannya secara berkala. Dimana buktinya?Saya tidak dapat menemukannya. Jika mereka tidak hari ini, mengapa diterima secara umum bahwa mereka akan muncul? Secara eksponensial, sejauh ini hanya jumlah data input untuk AI, serta sumber daya yang ditujukan untuk produksi intelek yang paling cerdas, sedang tumbuh. Tetapi hasil pekerjaan mereka tidak tumbuh sesuai dengan hukum Moore. AI tidak menjadi dua kali lebih pintar setiap tiga tahun atau bahkan setiap 10 tahun.

Saya meminta banyak pakar AI untuk memberikan bukti pertumbuhan eksponensial dalam kemampuan AI, tetapi mereka semua setuju bahwa kami tidak memiliki metrik untuk AI, dan umumnya tidak berfungsi seperti itu. Ketika saya bertanya kepada Ray Kurzweil, penyihir dari eksponen, di mana Anda dapat mengambil bukti pertumbuhan eksponensial AI, dia menjawab saya bahwa AI tidak tumbuh secara eksponensial, ia tumbuh dalam level. Dia menulis: "Peningkatan eksponensial dalam komputasi dan kompleksitas algoritme diperlukan untuk menambah level tambahan dalam hirarki ... Jadi kita dapat mengharapkan penambahan level secara linier, karena menambahkan setiap level membutuhkan kompleksitas yang eksponensial lebih banyak, dan kemajuan kemampuan kita di area ini benar-benar berkembang secara eksponensial. "Tidak banyak level yang tersisa untuk kemungkinan korteks serebral, jadi saya masih menyukai perkiraan saya untuk tahun 2029."

Rupanya, Ray ingin mengatakan bahwa bukan kemampuan AI yang tumbuh secara eksponensial, tetapi biaya kami untuk menciptakannya, sementara outputnya naik satu tingkat setiap kali. Asumsi ini hampir bertolak belakang dengan pertumbuhan intelijen yang eksponensial. Ini mungkin berubah di masa depan, tetapi hari ini AI jelas tidak tumbuh secara eksponensial.

Karena itu, membayangkan "ledakan kecerdasan", kita tidak boleh membayangkannya sebagai reaksi berantai, tetapi sebagai reproduksi varian baru yang berserakan. Ledakan Kambrium , bukan ledakan nuklir. Hasil dari teknologi percepatan cenderung bukan manusia super, tetapi manusia luar biasa. Di luar pengalaman kami, tetapi tidak harus "di atas" itu.

5.

Lain, tidak disangkal oleh siapa pun, keyakinan pada kedatangan FIS, tidak didukung oleh bukti, adalah bahwa kecerdasan superkekuasaan hampir tak terbatas akan dengan cepat menyelesaikan semua masalah utama kita yang belum terpecahkan.

Banyak pendukung ledakan intelijen percaya bahwa itu akan mengarah pada ledakan kemajuan. Saya menyebut keyakinan mistis ini sebagai "pemikiran." Ini adalah kesalahpahaman bahwa tahap-tahap kemajuan di masa depan tidak dapat dicapai hanya karena kurangnya kekuatan mental, atau kecerdasan. Saya perhatikan bahwa kepercayaan bahwa berpikir adalah obat mujarab untuk semuanya adalah umum di antara banyak orang yang suka berpikir.

Minum obat kanker atau perpanjangan hidup. Anda tidak dapat memecahkan masalah seperti itu dengan satu pikiran. Tidak ada pemikiran yang cukup untuk memahami bagaimana sel menua atau bagaimana telomer menghilang. Tidak ada kecerdasan super-duper yang bisa memahami bagaimana tubuh manusia bekerja hanya dengan membaca semua literatur ilmiah yang dikenal di dunia dan memikirkannya. Tidak ada FIC yang dapat, hanya memikirkan semua percobaan dengan fusi nuklir, menghasilkan skema fusi nuklir yang berfungsi. Untuk mengatasi jalan dari tidak tahu bagaimana sesuatu bekerja untuk memahami bagaimana sesuatu bekerja, dibutuhkan lebih dari sekedar berpikir. Di dunia nyata, tumpukan eksperimen sedang dibuat, yang masing-masing mengarah ke tampilan pegunungan data yang saling bertentangan yang memerlukan percobaan lebih lanjut untuk membuat hipotesis yang berfungsi. Berpikir tentang data potensial tidak akan memberi Anda data yang benar.

Berpikir hanyalah bagian dari sains, bahkan mungkin sebagian kecil saja. Misalnya, kami tidak memiliki cukup data untuk lebih dekat dalam menyelesaikan masalah kematian. Ketika bekerja dengan organisme hidup, hampir semua percobaan membutuhkan waktu. Metabolisme sel lambat tidak bisa didispersikan. Mendapatkan hasil membutuhkan bertahun-tahun, berbulan-bulan, setidaknya beberapa hari. Jika kita ingin tahu apa yang terjadi pada partikel subatomik, kita tidak bisa hanya memikirkannya. Kita perlu membangun struktur fisik yang besar, kompleks, dan licik untuk mengetahuinya. Bahkan jika fisikawan terpintar 1000 kali lebih pintar dari sekarang, tanpa tabrakan mereka tidak akan belajar sesuatu yang baru.

Tidak ada keraguan bahwa SRI dapat mempercepat kemajuan ilmu pengetahuan. Kita dapat melakukan simulasi atom atau sel di komputer dan mempercepatnya berkali-kali, tetapi dua masalah membatasi kegunaan simulasi. Yang pertama adalah bahwa simulasi dan model dapat berjalan lebih cepat daripada proses yang dipelajari hanya karena kita tidak memperhitungkan sesuatu. Ini adalah esensi dari model atau simulasi. Selain itu, pengujian, verifikasi, dan pembuktian model-model ini juga memakan waktu dan perlu dilakukan dengan kecepatan proses simulasi. Verifikasi kebenaran tidak bisa dipercepat.

Versi yang disederhanakan ini berguna untuk memfilter jalur yang paling menjanjikan dan mempercepat kemajuan. Namun dalam kenyataannya tidak ada kelebihan; segala sesuatu yang nyata memberikan pengaruhnya sampai batas tertentu; ini adalah salah satu definisi realitas. Jika Anda mulai memompa model dan simulasi dengan data yang semakin banyak, segera menjadi jelas bahwa kenyataan lebih cepat daripada simulasi 100% nya. Ini adalah definisi realitas lain: versi tercepat yang mungkin dari semua perincian dan tingkat kebebasan yang ada. Jika Anda dapat memodelkan semua molekul menjadi sel dan semua sel dalam tubuh manusia, maka simulasi tidak akan bekerja secepat tubuh manusia. Tidak peduli seberapa banyak Anda memikirkannya, Anda akan memerlukan waktu untuk eksperimen, baik itu sistem nyata atau simulasi.

Agar bermanfaat, AI perlu menyusup ke dunia nyata, dan dunia akan mengatur kecepatan inovasinya. Tanpa melakukan eksperimen, membangun prototipe, kesalahan, dan eksperimen dengan kenyataan, kecerdasan dapat berpikir, tetapi tidak membuahkan hasil. Tidak ada penemuan instan per menit, jam, hari atau tahun terjadinya apa yang disebut. "Superhuman AI" tidak diharapkan. Tentu saja, keberhasilan dalam pengembangan AI akan secara signifikan meningkatkan jumlah penemuan per unit waktu, khususnya, karena AI, tidak seperti manusia, akan mengajukan pertanyaan yang orang tidak akan bertanya, tetapi bahkan kecerdasan yang sangat kuat tidak menjamin kemajuan instan dibandingkan dengan kita. Untuk menyelesaikan masalah, dibutuhkan lebih banyak dari sekadar kecerdasan.

Kecerdasan saja tidak akan bisa menyelesaikan tidak hanya masalah kanker dan umur panjang, tetapi juga masalah kecerdasan itu sendiri. Mantra khas para pendukung singularitas adalah bahwa segera setelah Anda membuat AI yang "lebih pintar daripada seseorang", ia tiba-tiba berpikir dan menciptakan AI, "lebih pintar dari dirinya sendiri," yang, pada gilirannya, berpikir lebih baik dan bahkan menciptakan lebih banyak lagi. AI cerdas, dan sebagai hasilnya, semuanya akan berakhir dengan ledakan kekuatan intelektual pada tingkat yang hampir ilahi. Kami tidak memiliki bukti bahwa hanya berpikir tentang kecerdasan sudah cukup untuk menciptakan tingkat kecerdasan baru. Pemikiran seperti itu adalah iman. Kami memiliki banyak bukti bahwa, di samping sejumlah besar pengetahuan, kami memerlukan eksperimen, data, uji coba dan kesalahan, pertanyaan yang diajukan secara tidak biasa dan segala sesuatu yang lain di luar kecerdikan sederhana untuk menemukan jenis baru dari pikiran yang beroperasi dengan sukses.

Sebagai kesimpulan, saya akan mengatakan bahwa saya mungkin salah dengan pernyataan saya. Kami berada di tahap awal. Kita dapat menemukan metrik universal untuk kecerdasan; temukan ketidakterbatasannya ke segala arah. Karena kita tahu sangat sedikit tentang apa itu kecerdasan (belum lagi kesadaran), kemungkinan beberapa jenis AI singularitas melebihi nol. Tampak bagi saya bahwa semua bukti berbicara mendukung probabilitas rendah dari skenario seperti itu, tetapi probabilitas ini bukan nol.

Jadi, meskipun saya tidak setuju dengan kemungkinannya, saya setuju dengan tujuan yang lebih luas dari OpenAI dan orang-orang pintar yang khawatir tentang FDI - bahwa kita harus membuat AI ramah dan berpikir tentang bagaimana menanamkan nilai-nilai yang cocok dengan kita. Dan walaupun saya berpikir bahwa FDI adalah ancaman eksistensial yang sangat jauh (yang patut dipertimbangkan), saya pikir bahwa kemungkinan kecilnya (berdasarkan bukti yang tersedia) tidak boleh mengatur ilmu pengetahuan, politik dan perkembangan kita. Tabrakan asteroid dengan Bumi akan menjadi bencana. Probabilitasnya lebih besar dari nol (jadi kita harus mendukung dana B612 ), tetapi kita tidak boleh memberikan kemungkinan serangan asteroid untuk mengelola keputusan kita, misalnya, di bidang perubahan iklim, atau perjalanan ruang angkasa, atau bahkan dalam perencanaan kota.

Dengan cara yang sama, bukti sejauh ini menunjukkan bahwa AI kemungkinan besar tidak akan menjadi manusia super, tetapi manusia luar biasa, itu akan menjadi ratusan jenis pemikiran baru yang berbeda dari manusia, tidak ada yang akan berubah menjadi AI umum, dan tidak satu pun dari mereka akan menjadi dewa, langsung menyelesaikan semua masalah kita. Sebaliknya, kita akan memiliki galaksi dengan kecerdasan terbatas, bekerja dalam dimensi yang tidak dikenal, melampaui kemampuan kita di banyak dari mereka, bekerja bersama kita untuk menyelesaikan masalah yang ada dan membuat yang baru dari waktu ke waktu.

Saya mengerti pesona dan daya tarik dewa-SII. Ini seperti Superman. Tapi, seperti Superman, ini adalah tokoh mitos. Di suatu tempat di alam semesta, Superman mungkin ada, tetapi kemungkinan keberadaannya sangat kecil. Tetapi mitos bisa bermanfaat, dan tidak hilang setelah penemuan mereka. Gagasan Superman tidak akan mati. Gagasan singularitas AI manusia super, begitu ia muncul, tidak akan mati juga. Tetapi kita harus mengerti bahwa sekarang ini adalah sebuah agama, bukan ide ilmiah. Jika kita mempelajari data yang kita miliki saat ini tentang kecerdasan, buatan dan alami, kita hanya dapat menyimpulkan bahwa diskusi kita tentang dewa-SII mistis hanyalah mitos.

Banyak pulau Mikronesia yang terisolasi pertama kali melakukan kontak dengan seluruh dunia selama Perang Dunia II. Dewa-dewa alien terbang di langit mereka di burung-burung yang berisik, membuang makanan dan barang-barang di pulau-pulau mereka, dan tidak kembali. Kultus agama muncul di pulau-pulau, berdoa agar para dewa akan kembali dan membuang lebih banyak barang. Bahkan sekarang, lima puluh tahun kemudian, banyak yang masih menunggu pengembalian barang. Mungkin saja SRI bisa menjadi sekte kargo yang lain. Setelah seratus tahun, orang akan dapat melihat ke belakang, pada zaman kita, pada saat ketika orang-orang percaya mulai menunggu kemunculan FIC, yang akan memberi mereka manfaat yang tak terbayangkan. Dasawarsa demi dasawarsa, mereka menunggu kedatangan FDI, yakin bahwa dengan manfaatnya akan segera muncul.

Tapi AI non-manusia super sudah nyata di sini. Kami terus-menerus mendefinisikan kembali istilah ini, meningkatkan kerumitannya, dan sebagai hasilnya kami memegangnya di masa depan, tetapi dalam arti luas dari definisi intelek alien - dalam spektrum terus menerus dari berbagai pikiran, kecerdasan, pikiran, logika, ajaran dan kesadaran - AI sudah ada di planet ini, dan berlanjut menyebar, memperdalam, mendiversifikasi, dan mengintensifkan. Tidak ada penemuan sebelumnya yang bisa dibandingkan dengan kekuatannya atas dunia, dan pada akhir abad ini AI akan menyentuh dan mengubah semua aspek kehidupan kita. Tetapi mitos kecerdasan buatan manusia super, siap untuk memberkahi kita dengan kelimpahan atau mendorong kita ke dalam perbudakan super (atau keduanya pada saat yang sama), tampaknya, akan terus hidup - kesempatan ini terlalu mitos untuk menolaknya.