Saya menjadi tertarik pada risiko yang terkait dengan AI di tahun 2007. Pada saat itu, reaksi kebanyakan orang terhadap topik ini kira-kira seperti ini: "Ini sangat lucu, kembalilah ketika orang lain selain orang-orang Internet akan mempercayainya."
Pada tahun-tahun berikutnya, beberapa tokoh yang sangat cerdas dan berpengaruh, termasuk
Bill Gates ,
Stephen Hawking, dan
Elon Musk , secara publik berbagi keprihatinan mereka tentang risiko AI, diikuti oleh ratusan intelektual lain, dari filsuf Oxford hingga kosmolog dari MIT dan investor dari Silicon Valley . Dan kita kembali.
Kemudian reaksinya berubah menjadi: "Ya, beberapa ilmuwan dan pebisnis dapat mempercayainya, tetapi tidak mungkin mereka akan menjadi ahli nyata di bidang ini yang benar-benar berpengalaman dalam situasi ini."
Dari sini muncul pernyataan seperti artikel Science Populer "
Bill Gates Takut dengan AI, tetapi Peneliti AI Harus Tahu ":
Setelah berbicara dengan peneliti AI - peneliti nyata, yang hampir tidak membuat sistem seperti itu bekerja sama sekali, belum lagi bekerja dengan baik, menjadi jelas bahwa mereka tidak takut bahwa kecerdasan super tiba-tiba akan merayapi mereka, baik sekarang maupun di masa depan . Terlepas dari semua kisah menakutkan yang diceritakan oleh Mask, para peneliti tidak terburu-buru membangun kamar pelindung dan penghancuran diri dengan hitungan mundur.
Atau, ketika mereka menulis di Fusion.net dalam artikel "
Keberatan tentang robot pembunuh dari seseorang yang benar-benar mengembangkan AI ":
Andrew Angie secara profesional mengembangkan sistem AI. Dia mengajar kursus AI di Stanford, mengembangkan AI di Google, dan kemudian pindah ke mesin pencari Baidu Cina untuk melanjutkan pekerjaannya di garis depan menerapkan AI pada masalah dunia nyata. Jadi ketika dia mendengar tentang bagaimana Elon Musk atau Stephen Hawking - orang yang tidak secara langsung mengenal teknologi modern - berbicara tentang AI, yang dapat berpotensi menghancurkan umat manusia, orang hampir dapat mendengarnya menutupi wajahnya dengan tangannya.
Ramez Naam dari Revolusi Marjinal mengulangi kira-kira hal yang sama dalam artikel "
Apa yang peneliti pikirkan tentang risiko AI? ":
Elon Musk, Stephen Hawking, dan Bill Gates baru-baru ini menyatakan keprihatinannya bahwa pengembangan AI dapat mengimplementasikan skenario “pembunuh AI”, dan berpotensi menyebabkan kepunahan umat manusia. Mereka bukan peneliti AI, dan sejauh yang saya tahu, mereka belum bekerja dengan AI secara langsung. Apa yang dipikirkan peneliti AI nyata tentang risiko AI?
Dia mengutip kata-kata peneliti AI yang dipilih secara khusus, seperti penulis cerita lain - dan kemudian berhenti, tidak menyebutkan pendapat yang berbeda dari ini.
Tetapi mereka ada. Peneliti AI, termasuk para pemimpin di lapangan, telah secara aktif mengungkapkan keprihatinan tentang risiko AI dan di luar intelijen, dan sejak awal. Saya akan mulai dengan mendaftarkan orang-orang ini, terlepas dari daftar Naam, dan kemudian beralih ke mengapa saya tidak menganggap ini sebagai "diskusi" dalam pengertian klasik yang diharapkan dari daftar bintang-bintang.
Kriteria daftar saya adalah sebagai berikut: Saya hanya menyebut peneliti paling bergengsi, atau profesor sains di institut yang baik dengan banyak kutipan makalah ilmiah, atau ilmuwan yang sangat dihormati dari industri yang bekerja untuk perusahaan besar dan memiliki rekam jejak yang baik. Mereka terlibat dalam AI dan pembelajaran mesin. Mereka memiliki beberapa pernyataan kuat yang mendukung sudut pandang tertentu mengenai timbulnya singularitas atau risiko serius dari AI dalam waktu dekat. Beberapa dari mereka memiliki karya tulis atau buku tentang hal ini. Yang lain hanya mengungkapkan pikiran mereka, percaya bahwa ini adalah topik penting yang layak dipelajari.
Jika seseorang tidak setuju dengan dimasukkannya seseorang dalam daftar ini atau percaya bahwa saya lupa sesuatu yang penting, beri tahu saya.
* * * * * * * * * *
Stuart Russell adalah profesor ilmu komputer di Berkeley, pemenang IJCAI Computers And Thought Award, peneliti di Asosiasi Mekanisasi Komputer, peneliti di American Academy of Advanced Scientific Research, direktur Center for Intelligent Systems, pemenang Blaise Pascal Prize, dll. dll. Rekan penulis
AI: A Modern Approach , sebuah buku teks klasik yang digunakan di 1.200 universitas di seluruh dunia. Di
situs webnya, ia menulis:
Di bidang AI, 50 tahun penelitian telah berlangsung di bawah bendera asumsi bahwa semakin pintar semakin baik. Kepedulian akan manfaat kemanusiaan harus digabungkan dengan ini. Argumennya sederhana:
1. AI kemungkinan berhasil dibuat.
2. Kesuksesan tanpa batas menyebabkan risiko besar dan manfaat besar.
3. Apa yang dapat kita lakukan untuk meningkatkan peluang memperoleh manfaat dan menghindari risiko?
Beberapa organisasi sudah menangani masalah-masalah ini, termasuk Institut Masa Depan Kemanusiaan di Oxford, Pusat Studi Risiko Eksistensial di Cambridge (CSER), Institut Studi Kecerdasan Mesin di Berkeley dan Institut Kehidupan Masa Depan di Harvard / MIT (FLI). Saya di dewan penasihat dengan CSER dan FLI.
Sama seperti para peneliti dalam fusi nuklir menganggap masalah membatasi reaksi nuklir sebagai salah satu masalah paling penting di bidangnya, pengembangan bidang AI pasti akan menimbulkan pertanyaan tentang kontrol dan keamanan. Para peneliti sudah mulai mengajukan pertanyaan, dari yang murni teknis (masalah utama rasionalitas dan utilitas, dll.) Ke yang secara filosofis luas.
Di
edge.org, ia menjelaskan sudut pandang yang serupa:
Seperti yang dijelaskan oleh Steve Omohandro, Nick Bostrom dan lainnya, ketidaksesuaian nilai dengan sistem pengambilan keputusan, kemungkinan yang terus berkembang, dapat menyebabkan masalah - bahkan mungkin masalah skala kepunahan, jika mesin lebih mampu daripada manusia. Beberapa percaya bahwa tidak ada risiko yang dapat diperkirakan bagi umat manusia di abad-abad mendatang, mungkin lupa bahwa perbedaan waktu antara pernyataan percaya diri Rutherford bahwa energi atom tidak pernah dapat diekstraksi dan kurang dari 24 jam berlalu dengan penemuan reaksi berantai nuklir yang dimulai oleh reaksi neutron .
Dia juga mencoba menjadi perwakilan dari ide-ide ini di komunitas akademik, yang
menunjukkan :
Saya menemukan bahwa orang-orang utama dalam industri ini, yang belum pernah mengungkapkan ketakutan sebelumnya, berpikir kepada diri mereka sendiri bahwa masalah ini perlu ditanggapi dengan sangat serius, dan semakin cepat kita menganggapnya serius, semakin baik.
David McAllister adalah seorang profesor dan rekan senior di Institut Teknologi Toyota, yang berafiliasi dengan Universitas Chicago, yang sebelumnya bekerja di fakultas MIT dan Institut Cornell. Dia adalah anggota dari American AI Association, telah menerbitkan lebih dari seratus karya, melakukan penelitian di bidang pembelajaran mesin, teori pemrograman, pengambilan keputusan otomatis, perencanaan AI, linguistik komputasi, dan telah berdampak besar pada algoritma komputer catur Blue Deep yang terkenal. Menurut sebuah
artikel di Pittsburgh Tribune Review:
Profesor Chicago, David McAllister, menganggap kemunculan kemampuan mesin-mesin cerdas otomatis sepenuhnya yang tak terhindarkan untuk merancang dan membuat versi-versi yang lebih pintar dari diri mereka sendiri, yaitu permulaan suatu peristiwa yang dikenal sebagai singularitas [teknologi]. Singularitas akan memungkinkan mesin menjadi sangat cerdas, mengarah ke "skenario yang sangat berbahaya," katanya.
Dalam blognya,
Thoughts on Cars , ia menulis:
Sebagian besar ilmuwan komputer menolak untuk berbicara tentang kesuksesan nyata dalam AI. Saya pikir akan lebih masuk akal untuk mengatakan bahwa tidak ada yang bisa memprediksi kapan AI yang sebanding dengan pikiran manusia akan diterima. John MacArthy pernah mengatakan kepada saya bahwa ketika dia ditanya tentang seberapa cepat AI tingkat manusia akan dibuat, dia menjawab bahwa itu berusia lima hingga lima ratus tahun. MacArthy pintar. Mengingat ketidakpastian di bidang ini, masuk akal untuk mempertimbangkan masalah ramah AI ...
Pada tahap awal, AI umum akan aman. Namun, tahap awal OII akan menjadi tempat uji yang sangat baik untuk AI sebagai pelayan atau opsi AI ramah lainnya. Ben Goertzel juga mengiklankan pendekatan eksperimental dalam posting yang bagus di blog-nya. Jika era OII yang aman dan tidak terlalu pintar menunggu kita, maka kita akan punya waktu untuk memikirkan masa-masa yang lebih berbahaya.
Dia adalah anggota kelompok AAAI Panel On Jangka Panjang AI Futures yang didedikasikan untuk prospek jangka panjang AI, mengetuai komite kontrol jangka panjang, dan
digambarkan sebagai berikut :
Makalister berbicara kepada saya tentang pendekatan "singularitas", sebuah peristiwa ketika komputer menjadi lebih pintar daripada orang. Dia tidak menyebutkan tanggal pasti terjadinya, tetapi mengatakan bahwa ini bisa terjadi dalam beberapa dekade mendatang, dan pada akhirnya pasti akan terjadi. Inilah pandangannya tentang singularitas. Dua peristiwa penting akan terjadi: intelijen operasional, di mana kita dapat dengan mudah berbicara dengan komputer, dan reaksi berantai AI, di mana komputer dapat meningkatkan dirinya sendiri tanpa bantuan apa pun, dan kemudian mengulanginya lagi. Acara pertama yang akan kita perhatikan dalam sistem bantuan otomatis yang akan sangat membantu kita. Nanti akan menjadi sangat menarik untuk berkomunikasi dengan komputer. Dan agar komputer dapat melakukan semua yang dapat dilakukan orang, Anda harus menunggu peristiwa kedua terjadi.
Hans Moravek adalah seorang mantan profesor di Institute of Robotics di Carnegie Mellon University, yang dinamai menurut namanya
paradoks Moravec , pendiri
SeeGrid Corporation , yang
berspesialisasi dalam sistem visi mesin untuk aplikasi industri. Karyanya, "
Sintesis Sensor dalam Jaringan Kepastian Robot Seluler, " telah dikutip lebih dari seribu kali, dan ia diundang untuk menulis artikel untuk British Encyclopedia of Robotics, pada saat artikel-artikel dalam ensiklopedia ditulis oleh para pakar dunia dalam bidang ini, dan bukan ratusan komentator internet anonim.
Dia juga penulis
Robot: Dari Mesin Sederhana ke Pikiran Transendental , yang dijelaskan Amazon sebagai berikut:
Dalam buku yang menarik ini, Hans Moravek meramalkan bahwa pada tahun 2040, mesin akan mendekati tingkat intelektual orang, dan pada tahun 2050 mereka akan melampaui kita. Tetapi sementara Moravec memprediksi akhir era dominasi manusia, visinya tentang peristiwa ini tidak begitu suram. Dia tidak dipagari dari masa depan di mana mesin menguasai dunia, tetapi menerimanya, dan menjelaskan sudut pandang yang menakjubkan yang menurutnya robot cerdas akan menjadi keturunan evolusi kita. Moravec percaya bahwa pada akhir proses ini, "ruang maya yang luas akan bersatu dengan manusia super yang tidak manusiawi dan berurusan dengan urusan yang jauh dari manusia, jauh dari masalah manusia dengan bakteri."
Shane Leg adalah salah satu pendiri
DeepMind Technologies , sebuah startup AI yang dibeli pada tahun 2014 seharga $ 500 juta oleh Google. Dia menerima gelar doktor dari Institute of AI yang dinamai Dale Moul di Swiss, dan juga bekerja di Divisi Neurobiologi Komputasi. Gatsby di London. Di akhir disertasinya, "kecerdasan mesin," ia
menulis :
Jika sesuatu muncul yang dapat mendekati kekuatan absolut, itu akan menjadi mesin yang sangat cerdas. Menurut definisi, dia akan dapat mencapai sejumlah besar tujuan di berbagai lingkungan. Jika kita hati-hati mempersiapkan kesempatan seperti itu sebelumnya, kita tidak hanya bisa menghindari bencana, tetapi juga memulai era kemakmuran, tidak seperti apa pun yang ada sebelumnya.
Dalam wawancara berikutnya, dia
mengatakan :
AI sekarang menjadi tempat Internet pada tahun 1988. Kebutuhan pembelajaran mesin diperlukan dalam aplikasi khusus (mesin pencari seperti Google, dana lindung nilai dan bioinformatika), dan jumlah mereka bertambah setiap tahun. Saya pikir sekitar pertengahan dekade berikutnya proses ini akan menjadi besar dan nyata. Boom AI akan berlangsung sekitar 2020, diikuti oleh satu dekade kemajuan pesat, mungkin setelah koreksi pasar. AI tingkat manusia akan dibuat sekitar pertengahan 2020, meskipun banyak orang tidak akan menerima permulaan acara ini. Setelah itu, risiko yang terkait dengan AI lanjut akan dipraktikkan. Saya tidak akan mengatakan tentang "singularitas", tetapi mereka berharap bahwa pada titik tertentu setelah penciptaan hal-hal gila OII akan mulai terjadi. Itu adalah suatu tempat antara 2025 dan 2040.
Dia dan rekan pendiri
Demis Khasabis dan
Mustafa Suleiman menandatangani petisi untuk Institute for Future Life mengenai risiko AI, dan salah satu syarat mereka untuk bergabung dengan Google adalah bahwa perusahaan setuju untuk membentuk
dewan etika AI untuk mempelajari masalah ini.
Steve Omohundro adalah mantan profesor ilmu komputer di University of Illinois, pendiri visi komputer dan kelompok pelatihan di Pusat Studi Sistem Kompleks, dan penemu berbagai perkembangan penting dalam pembelajaran mesin dan visi komputer. Dia bekerja pada robot membaca bibir, bahasa pemrograman paralel StarLisp, algoritma pembelajaran geometris. Dia saat ini memimpin
Self-Aware Systems , "tim ilmuwan yang bekerja untuk memastikan bahwa teknologi cerdas bermanfaat bagi umat manusia." Karyanya, "
Dasar -
dasar Motivasi AI, " membantu menelurkan domain etika mesin, karena ia mencatat bahwa sistem super-cerdas akan diarahkan ke tujuan yang berpotensi berbahaya. Dia menulis:
Kami telah menunjukkan bahwa semua sistem AI canggih cenderung memiliki serangkaian motivasi inti. Sangat penting untuk memahami motivasi ini untuk menciptakan teknologi yang memastikan masa depan yang positif bagi umat manusia. Yudkovsky menyerukan "AI ramah". Untuk melakukan ini, kita perlu mengembangkan pendekatan ilmiah untuk "pengembangan utilitarian", yang akan memungkinkan kita untuk mengembangkan fungsi yang bermanfaat secara sosial yang akan mengarah pada urutan yang kita inginkan. Kemajuan pesat dalam kemajuan teknologi menunjukkan bahwa masalah ini akan segera menjadi kritis.
Anda dapat menemukan artikelnya tentang topik "AI rasional untuk kebaikan bersama" di
tautan .
Murray Shanahan memegang gelar Ph.D dalam ilmu komputer dari Cambridge, dan sekarang menjadi profesor robotika kognitif di Imperial College London. Dia menerbitkan karya-karya dalam bidang-bidang seperti robotika, logika, sistem dinamik, neurobiologi komputasi, dan filsafat pikiran. Dia saat ini sedang mengerjakan buku
Technological Singularity , yang akan diterbitkan pada bulan Agustus. Anotasi promosi Amazon adalah sebagai berikut:
Shanahan menggambarkan kemajuan teknologi dalam AI, keduanya dibuat di bawah pengaruh pengetahuan dari biologi, dan dikembangkan dari awal. Dia menjelaskan bahwa ketika AI tingkat manusia diciptakan - tugas yang secara teoritis mungkin, tetapi sulit - transisi ke AI superintelensi akan sangat cepat. Shanahan merefleksikan apa yang dapat menyebabkan keberadaan mesin-mesin cerdas dalam bidang-bidang seperti kepribadian, tanggung jawab, hak, dan individualitas. Beberapa perwakilan dari AI yang sangat cerdas dapat diciptakan untuk kepentingan manusia, beberapa dapat di luar kendali. (Yaitu, Siri atau HAL?) Singularitas mewakili bagi umat manusia baik ancaman eksistensial maupun peluang eksistensial untuk mengatasi keterbatasannya. Shanahan menjelaskan bahwa jika kita ingin mencapai hasil yang lebih baik, kita perlu membayangkan kedua kemungkinan itu.
Marcus Hutter adalah profesor penelitian ilmu komputer di National Australia University. Sebelum itu, ia bekerja di Institute of AI yang dinamai Dale Mole di Swiss dan di Institut Nasional Informatika dan Komunikasi di Australia, dan juga bekerja pada pembelajaran yang dirangsang, penemuan Bayesian, teori kompleksitas komputasi, teori Solomon tentang prediksi induktif, visi komputer, dan profil genetik. Dia juga menulis banyak tentang singularitas. Dalam artikel "
Bisakah intelijen meledak? " Dia menulis:
Abad ini dapat menyaksikan ledakan teknologi, yang skalanya layak disebut singularitas. Skenario default adalah komunitas yang berinteraksi individu cerdas di dunia maya, disimulasikan pada komputer dengan sumber daya komputasi yang meningkat secara hiperbola. Ini pasti disertai dengan ledakan kecepatan, diukur dengan waktu fisik, tetapi tidak harus dengan ledakan kecerdasan. Jika dunia virtual dihuni oleh individu yang bebas dan berinteraksi, tekanan evolusi akan mengarah pada munculnya individu dengan kecerdasan yang meningkat yang akan bersaing untuk sumber daya komputasi. Titik akhir dari percepatan kecerdasan evolusi ini mungkin adalah komunitas individu yang paling cerdas. Beberapa aspek dari komunitas tunggal ini secara teoritis dapat dipelajari dengan bantuan alat ilmiah modern. Jauh sebelum kemunculan singularitas ini, bahkan menempatkan komunitas virtual ini dalam imajinasi kita, orang dapat membayangkan munculnya perbedaan, seperti, misalnya, penurunan tajam nilai individu, yang dapat menyebabkan konsekuensi radikal.
Jürgen Schmidhuber adalah profesor AI di Universitas Lugano dan mantan profesor robotika kognitif di Universitas Teknologi Munich. Dia mengembangkan beberapa jaringan saraf paling maju di dunia, bekerja pada robotika evolusi dan teori kompleksitas komputasi, dan berfungsi sebagai peneliti di Akademi Sains dan Seni Eropa. Dalam bukunya, "
Hipotesis Singularitas, " ia berpendapat bahwa "dengan kelanjutan tren yang ada, kita akan menghadapi ledakan intelektual dalam beberapa dekade mendatang." Ketika ditanya langsung di Reddit AMA tentang risiko yang terkait dengan AI, dia
menjawab :
. - , ? , , : , . - . , , . , . . . , , temukan tempat untuk bertahan hidup . "
Richard Saton adalah Profesor dan Anggota Komite iCORE di University of Alberta. Dia melayani sebagai peneliti di Asosiasi Pengembangan AI, penulis bersama buku teks paling populer tentang stimulasi pembelajaran , pelopor metode perbedaan waktu, salah satu yang paling penting dalam bidang ini.Dalam laporannyapada sebuah konferensi tentang AI yang diselenggarakan oleh Institute for the Future of Life, Saton berpendapat bahwa "ada peluang nyata bahwa bahkan dengan hidup kita" sebuah AI akan dibuat yang secara intelektual dapat dibandingkan dengan manusia, dan menambahkan bahwa AI ini "tidak akan mematuhi kita," "akan untuk bersaing dan bekerja sama dengan kami, "dan bahwa" jika kita membuat budak yang sangat pintar, kita mendapatkan lawan yang sangat pintar. " Sebagai kesimpulan, ia mengatakan bahwa "kita perlu memikirkan mekanisme (sosial, hukum, politik, budaya) untuk memastikan hasil yang diinginkan", tetapi bahwa "orang-orang biasa pasti akan menjadi kurang penting." Dia juga menyebutkan masalah serupa di presentasi Gadsby Institute. Juga dalam buku karya Glenn Beckada beberapa kalimat seperti itu: "Richard Saton, salah satu spesialis terbesar di AI, memprediksi ledakan kecerdasan di suatu tempat di pertengahan abad ini."Andrew Davison adalah seorang profesor visi mesin di Imperial College London, pemimpin dalam kelompok visi robot dan Laboratorium Robot Dyson, dan penemu sistem pelokalan dan markup komputerisasi MonoSLAM. Di situs webnya, ia menulis :, , , , 2006 : , (, 20-30 ). « » ( , ), , , , . , , , , , , .
, , , ( ). , . « » . , , , .
Alan Turing dan Irving John Goode tidak perlu diperkenalkan. Turing menemukan dasar matematika ilmu komputasi dan menamainya mesin Turing, kelengkapan Turing dan tes Turing. Goode bekerja dengan Turing di Bletchley Park, membantu menciptakan salah satu komputer pertama, dan menemukan banyak algoritma terkenal, misalnya, algoritma transformasi Fourier diskrit cepat, yang dikenal sebagai algoritma FFT. Dalam pekerjaan mereka, Dapatkah Mobil Digital Berpikir? Turing menulis:Mari kita asumsikan bahwa mesin tersebut dapat dibuat, dan mempertimbangkan konsekuensi dari penciptaannya. Tindakan seperti itu tidak diragukan lagi akan menghadapi permusuhan, kecuali kita telah maju dalam toleransi beragama sejak zaman Galileo. Oposisi akan terdiri dari kaum intelektual yang takut kehilangan pekerjaan mereka. Tetapi kemungkinan bahwa para intelektual akan keliru. Dimungkinkan untuk melakukan banyak hal dalam upaya untuk menjaga kecerdasan mereka pada tingkat standar yang ditetapkan oleh mesin, karena setelah dimulainya metode mesin, tidak perlu banyak waktu sampai saat ketika mesin melampaui kemampuan kami yang tidak signifikan. Pada tahap tertentu, kita harus berharap bahwa mesin akan mengambil kendali.
Saat bekerja di Atlas Computer Lab di tahun 60-an, Goode mengembangkan ide ini dalam " Penalaran untuk Mesin Ultra-Cerdas Pertama ":, , . – , . , , « », . , – , .
* * * * * * * * * * *Mengganggu saya bahwa daftar ini dapat memberikan kesan perselisihan tertentu antara "orang percaya" dan "skeptis" di daerah ini, di mana mereka saling menghancurkan satu sama lain. Tapi saya tidak berpikir begitu.Ketika saya membaca artikel tentang skeptis, saya selalu menemukan dua argumen. Pertama, kita masih sangat jauh dari AI tingkat manusia, belum lagi kecerdasan super, dan tidak ada cara yang jelas untuk mencapai ketinggian seperti itu. Kedua, jika Anda menuntut larangan penelitian AI, Anda idiot.Saya sepenuhnya setuju dengan kedua poin ini. Seperti para pemimpin pergerakan risiko AI.Survei di antara para peneliti AI ( Muller & Bostrom, 2014) menunjukkan bahwa rata-rata mereka memberikan 50% untuk fakta bahwa AI tingkat manusia akan muncul pada 2040 ode, dan 90% - bahwa itu akan muncul pada 2075. Rata-rata, 75% dari mereka percaya bahwa superintelijen ("kecerdasan mesin, secara serius melebihi kemampuan dari setiap orang di sebagian besar profesi ") akan muncul dalam 30 tahun setelah munculnya AI tingkat manusia. Dan meskipun teknik jajak pendapat ini menimbulkan beberapa keraguan, jika Anda menerima hasilnya, ternyata sebagian besar peneliti AI setuju bahwa sesuatu yang perlu dikhawatirkan akan muncul dalam satu atau dua generasi.Tetapi Luke Muelhauser, direktur Institute for Machine Intelligence, dan Nick Bostrom, direktur Institute for the Future of Humanity, menyatakan bahwa prediksi mereka untuk pengembangan AI jauh lebih lambat daripada yang diprediksi oleh para ilmuwan yang terlibat dalam survei. Jika kamu belajarData tentang prediksi AI dari Stuart Armstrong, dapat dilihat bahwa, secara umum, perkiraan pada saat penampilan AI yang dibuat oleh pendukung AI tidak berbeda dari perkiraan yang dibuat oleh skeptis AI. Selain itu, prediksi jangka panjang dalam tabel ini adalah milik Armstrong sendiri. Namun, Armstrong saat ini bekerja di Institute for the Future of Humanity, menarik perhatian pada risiko AI dan kebutuhan untuk meneliti tujuan superintelijen.Perbedaan antara pendukung dan skeptis tidak dalam penilaian mereka tentang kapan kita harus mengharapkan munculnya AI di tingkat manusia, tetapi ketika kita perlu mulai mempersiapkan ini.Yang membawa kita ke poin kedua. Posisi skeptis, tampaknya, adalah bahwa meskipun kita mungkin harus mengirim beberapa orang pintar untuk mengerjakan penilaian awal masalah, sama sekali tidak perlu panik atau melarang studi AI.Penggemar AI bersikeras bahwa meskipun kami tidak perlu panik atau melarang penelitian AI, mungkin ada baiknya mengirimkan beberapa orang pintar untuk mengerjakan penilaian awal masalah tersebut.Jan Lekun bisa dibilang skeptis paling kuat terhadap risiko AI. Dia banyak dikutip dalam sebuah artikel tentang Sains Populer , dalam sebuah posting tentang Revolusi Marjinal , dan dia juga berbicara dengan KDNuggets dan IEEEtentang "masalah singularitas" yang tak terhindarkan ", yang ia sendiri gambarkan sebagai" begitu jauh sehingga fiksi ilmiah dapat ditulis tentang mereka. " Tetapi ketika diminta untuk mengklarifikasi posisinya, ia menyatakan:Elon Musk sangat khawatir tentang ancaman eksistensial terhadap kemanusiaan (itulah sebabnya ia membangun roket untuk mengirim orang untuk menjajah planet lain). Dan meskipun risiko pemberontakan AI sangat kecil dan sangat jauh ke masa depan, kita perlu memikirkannya, mengembangkan tindakan pencegahan dan aturan. Sama seperti komite bioetika yang muncul pada 1970-an dan 1980-an, sebelum meluasnya penggunaan genetika, kita membutuhkan komite etika AI. Tapi, seperti yang ditulis Yoshua Benjio, kita masih punya banyak waktu.
Eric Horvitz adalah pakar lain yang sering disebut sebagai corong utama skeptisisme dan keterbatasan. Pandangannya dijelaskan dalam artikel seperti " Direktur Penelitian Microsoft percaya bahwa AI yang tidak terkendali tidak akan membunuh kita, " dan " Eric Horvitz dari Microsoft percaya bahwa AI tidak boleh takut ." Tapi inilah yang dia katakan dalam wawancara panjang dengan NPR:Keist: Horvitz ragu bahwa sekretaris virtual akan pernah berubah menjadi sesuatu yang akan menaklukkan dunia. Dia mengatakan bahwa ini diharapkan untuk sebuah layang-layang berkembang menjadi Boeing 747. Apakah ini berarti bahwa itu mengolok-olok singularitas?
Horvitz: Tidak. Saya pikir ada campuran konsep, dan saya sendiri juga punya perasaan campur aduk.
Keist: Khususnya, karena ide-ide seperti singularitas, Horvits dan pakar AI lainnya semakin berusaha untuk menangani masalah etika yang mungkin timbul dengan AI yang ditargetkan secara sempit di tahun-tahun mendatang. Mereka juga mengajukan pertanyaan yang lebih futuristik. Misalnya, bagaimana saya bisa membuat tombol shutdown darurat untuk komputer yang dapat berubah sendiri?
Horvits: Saya benar-benar percaya bahwa taruhannya cukup tinggi untuk menghabiskan waktu dan energi secara aktif mencari solusi, bahkan jika kemungkinan kejadian seperti itu kecil.
Ini umumnya bertepatan dengan posisi banyak agitator risiko AI yang paling bersemangat. Dengan teman seperti itu, musuh tidak diperlukan.
Artikel Slate, "
Jangan Takut AI, " juga mengejutkan menempatkan hal-hal dalam cahaya yang tepat:
Seperti yang dinyatakan Musk sendiri, solusi untuk risiko AI terletak pada kolaborasi para ilmuwan dan pembuat hukum yang bijaksana dan rasional. Namun, cukup sulit untuk memahami bagaimana berbicara tentang "setan" dapat membantu mencapai tujuan mulia ini. Dia bahkan bisa merintanginya.
Pertama, ada lubang besar dalam gagasan skrip Skynet. Meskipun para peneliti di bidang ilmu komputer percaya bahwa alasan Mask adalah "tidak sepenuhnya gila," mereka masih terlalu jauh dari dunia di mana hype tentang AI menyamarkan kenyataan AI yang sedikit kurang bahwa ilmuwan komputer kita dihadapkan dengan.
Ian Lekun, kepala lab AI di Facebook, merangkum ide ini dalam sebuah posting di Google+ pada 2013: Hype ini merugikan AI. Selama lima dekade terakhir, hype telah membunuh AI empat kali. Dia perlu dihentikan. "Lekun dan yang lainnya benar-benar takut pada hype. Kegagalan untuk memenuhi harapan yang tinggi yang dipaksakan oleh fiksi ilmiah mengarah pada pemotongan serius dalam anggaran untuk penelitian AI.
Para ilmuwan yang bekerja di AI adalah orang-orang pintar. Mereka tidak tertarik jatuh ke dalam perangkap politik klasik, di mana mereka akan dibagi ke dalam kamp dan saling menuduh panik atau burung unta. Tampaknya, mereka berusaha menemukan keseimbangan antara kebutuhan untuk memulai pekerjaan pendahuluan terkait dengan ancaman yang menjulang di suatu tempat di kejauhan, dan risiko menyebabkan sensasi kuat yang akan menghantam mereka.
Saya tidak ingin mengatakan bahwa tidak ada perbedaan pendapat tentang seberapa cepat Anda perlu mulai mengatasi masalah ini. Pada dasarnya itu semua bermuara pada apakah mungkin untuk mengatakan bahwa "kita akan menyelesaikan masalah ketika kita menemukannya," atau untuk mengharapkan lepas landas yang tak terduga, karena semuanya akan keluar dari kendali, dan untuk itu, oleh karena itu, kita perlu mempersiapkan di muka. Saya melihat lebih sedikit bukti daripada saya ingin bahwa mayoritas peneliti AI dengan pendapat mereka sendiri memahami kemungkinan kedua. Apa yang bisa saya katakan, bahkan jika dalam sebuah artikel tentang Revolusi Marjinal seorang
ahli dikutip mengatakan bahwa kecerdasan super tidak menimbulkan ancaman besar, karena "komputer pintar tidak dapat menetapkan tujuan untuk diri mereka sendiri", meskipun siapa pun yang
membaca Bostrom tahu bahwa seluruh masalahnya.
Masih ada gunung pekerjaan yang harus dilakukan. Tetapi hanya untuk tidak secara khusus memilih artikel di mana "ahli AI nyata tidak khawatir tentang kecerdasan super."