Konferensi DEFCON 25. Garry Kasparov. "Pertempuran terakhir otak." Bagian 1Saya pikir masalahnya bukan bahwa mesin akan menggantikan seseorang di tempat kerjanya, termasuk di bidang aktivitas intelektual, dan bukan bahwa komputer diduga mengangkat senjata terhadap orang-orang dengan pendidikan tinggi dan akun Twitter. Pengenalan AI sama sekali tidak cepat, tetapi terlalu lambat. Mengapa Karena ini adalah siklus normal perkembangan manusia, dan kita sama sekali tidak menyadari bahwa kehancuran yang kita lihat berarti pengenalan teknologi baru, yang, sebelum menciptakan lapangan kerja baru, menghancurkan yang lama.
Teknologi menghancurkan industri yang usang dan menciptakan yang baru, seperti proses penciptaan, seperti siklus pengembangan. Jika Anda mencoba untuk menyeret penderitaan dengan memasukkan teknologi lama ke dalam proses ini atau menciptakan beberapa keuntungan untuk teknologi yang sudah ketinggalan zaman, Anda hanya akan memperlambat proses dan membuatnya lebih menyakitkan. Ini akan tetap terjadi, tetapi masalahnya adalah kita “mengatur” prosesnya, membuat aturan yang sengaja memperlambatnya. Saya menganggap ini masalah yang lebih besar daripada yang kita sadari dengan jelas. Ini lebih merupakan masalah psikologis ketika orang bertanya pada diri sendiri: "bagaimana Anda bisa merasa aman berada di kendaraan tak berawak"?
Saya melihat ke dalam sejarah dan mengetahui bahwa seratus tahun yang lalu, salah satu serikat paling kuat di New York adalah serikat elevator, menyatukan 17 ribu pekerja. Ngomong-ngomong, pada saat itu sudah ada teknologi di mana Anda hanya bisa menekan tombol - dan Anda selesai, tetapi orang-orang tidak percaya padanya! Hanya mengerikan - tekan tombol sendiri untuk memanggil lift! Tahukah Anda mengapa persatuan ini "meninggal" dan orang-orang mulai menggunakan tombol sendiri? Karena dulu para pengangkat memutuskan untuk mogok. Mereka mogok, dan kemudian orang-orang yang perlu naik ke puncak Empire State Building berisiko menekan tombol sendiri.
Ingat apa yang mereka katakan tentang anak-anak atau cucu 20-30 tahun yang lalu ketika mereka berada di belakang kemudi mobil: "ini mengerikan, Anda hanya melihat statistik, karena mobil adalah salah satu penyebab utama kematian manusia, bagaimana mereka dapat mempertaruhkan hidup mereka?"
Jadi, semua ini adalah psikologi murni. Kami praktis tidak memperhatikan berapa banyak orang meninggal dalam kecelakaan mobil, tetapi jika satu orang meninggal karena kendaraan tak berawak, peristiwa ini membengkak ke surga. Kesalahan apa pun, kesalahan apa pun dari teknologi kecerdasan buatan segera dibahas di halaman depan surat kabar. Tetapi lihat statistik, lihat jumlah insiden, dan Anda akan melihat betapa kecilnya persentase dari jumlah total kecelakaan ini. Karena itu, komunitas manusia akan menang hanya jika ia dapat bergerak maju tanpa dilumpuhkan oleh ketakutan semacam itu.
Pertanyaan lain muncul ketika kita berbicara tentang berita palsu atau keamanan siber, ini adalah topik yang sangat dipolitisasi, dan saya mendapat banyak telepon yang menanyakan bagaimana saya menangani pembenci AI. Sebagai contoh, saya memiliki blog reguler, dan dalam artikel baru saya, yang akan diterbitkan dalam beberapa hari, ini tentang kebencian dan bahwa keselamatan dari kebencian terdiri dari pengetahuan, dalam pelatihan. Kami hanya perlu memahami bahwa masalah ini ada jauh sebelum semua hal ini ditemukan, hanya saja kepentingannya telah meningkat berkat Internet, yang mencakup jutaan dan milyaran orang.
Saya pikir itu sebaliknya ketika seseorang mencoba untuk menghentikan kemajuan dengan mencoba untuk melarang AI, dan Anda tahu itu tidak akan berhasil, karena kami memiliki Putin dan orang jahat lainnya, di mana pun mereka berada, yang menggunakan teknologi kita sendiri yang diciptakan di dunia bebas menentang kita. Karena itu, saya percaya bahwa kita harus menerima begitu saja.
Esensi masalah hanya terletak pada kita, dan jawaban atas pertanyaan ada di dalam diri kita, dalam kekuatan kita sendiri dan kepercayaan diri kita sendiri. Saya berpendapat bahwa mesin cerdas tidak dapat membuat kita "usang." Namun, harus diingat bahwa ada batasan tertentu pada kerja sama manusia dan komputer, dan sebagian besar ini hanya rumor yang ada sebelumnya. Seperti biasa, ini hanyalah peluang baru yang menghancurkan dunia lama dan menciptakan dunia baru, dan semakin kita bergerak maju, semakin baik kita menemukan diri kita sendiri.
Sekarang, itu sangat mirip dengan gerakan ke dunia fiksi ilmiah. Paradoksnya adalah bahwa jika kita melihat ke belakang 50-60 tahun yang lalu, kita akan melihat bahwa pada masa itu fiksi ilmiah benar-benar positif, itu adalah utopia. Namun, kemudian transisi bertahap dari utopia ke dystopia terjadi, sehingga kita tidak lagi ingin mendengar apa pun tentang masa depan umat manusia.
Ini tidak terjadi dalam satu malam. Ada saat ketika orang memutuskan bahwa eksplorasi ruang angkasa terlalu berisiko. Ini benar-benar risiko besar, tetapi bayangkan bahwa pada tahun 1969, ketika orang Amerika mendarat di bulan, semua kekuatan komputasi NASA kurang dari kekuatan perangkat komputer modern apa pun yang pas di saku Anda. Perangkat ini seribu kali lebih kuat dari superkomputer yang ada 40 tahun yang lalu. Bayangkan saja berapa banyak daya komputasi yang Anda bawa di saku Anda! Namun, saya tidak yakin bahwa Apple iPhone 7 memiliki kekuatan pemrosesan yang sama dengan yang dimiliki Apollo 7, yaitu, ia dapat menghasilkan efek yang sama.
Namun, mesin telah memberi kami banyak prestasi luar biasa dalam eksplorasi ruang angkasa atau lautan, dan kita harus memahami bahwa komputer memberi kita kesempatan untuk mengambil risiko besar.
Saya ingin menyelesaikan pidato saya dengan nada positif. Bukankah itu gambar positif yang ditampilkan pada slide ini? Foto di sudut kanan bawah bukan "photoshop," saya benar-benar bertemu dengan Terminator pada tahun 2003.
Dia juga suka catur sejak kecil, tetapi dia tidak secara khusus berurusan dengannya, jadi dia kalah sangat cepat. Karena itu, saya sangat terkejut ketika, 6 bulan kemudian, dia mencalonkan diri sebagai gubernur California dan menang!
Mengapa saya menyebut gambar-gambar ini positif? Karena meskipun dalam semua seri kecuali yang pertama, Arnold lama selalu berdiri di sisi pemenang dan tidak pernah bosan bertarung melawan mobil baru, di seri pertama kita melihat kombinasi yang saya bicarakan - ini adalah ketika seseorang ditambah mesin lama ditambah antarmuka sempurna mengalahkan yang terbaru sebuah mobil.
Anda bisa mengatakan: "Ya, mesin lebih kuat daripada orang, karena mereka bisa menghitung semuanya!" Namun, intinya bukan mereka bisa menghitung semuanya. Misalnya, dalam catur, secara teknis dimungkinkan untuk berbicara tentang ketakterhinggaan matematis dari jumlah gerakan yang mungkin sama dengan 10 ^ 45, yang tidak sulit untuk dihitung untuk komputer modern mana pun. Namun, dalam permainan itu bukan perhitungan yang penting, tetapi fakta bahwa komputer di depan orang, karena selalu dipandu oleh aturan. Dan Anda tahu efek dari aturan ini dan tahu mengapa komputer memilih langkah terbaik dari sejumlah besar kemungkinan langkah.
Tetapi jika kita beralih ke kehidupan nyata, maka saya tidak yakin bahwa komputer selalu dapat bermanfaat. Mari kita lihat situasi yang paling umum - Anda memiliki komputer yang memantau kepatuhan anggaran, Anda berada di toko dan akan membeli hadiah mahal. Komputer mengevaluasi pembelian dan berkata, "Tidak, Anda tidak mampu membeli barang ini karena Anda melebihi anggaran." Mesin telah menghitung semuanya, tetapi ada sedikit nuansa - anak Anda berdiri di dekatnya, dan hadiah ini ditujukan untuknya pada hari ulang tahunnya. Apakah Anda melihat seberapa banyak ini mengubah kondisi masalah? Ini mengubah segalanya, karena anak sedang menunggu hadiah ini.
Saya dapat mulai menambahkan hal-hal kecil ini yang mengubah segalanya, tetapi saya tidak berpikir mereka dapat dimasukkan dalam kondisi masalah dan mendapatkan solusi yang tepat. Kami memiliki banyak aturan, tetapi kami masih harus bertanya karena situasinya berubah. Inilah yang dapat disebut situasi normal, tetapi jika Anda melihat film-film ini, Anda dapat mengatakan bahwa situasi yang ditampilkan di sini lebih dramatis dan luar biasa. Pada slide ini, Anda melihat bidikan dari episode V Star Wars: The Empire Strikes Back.
Han Solo mengarahkan kapal tepat melalui bidang asteroid, dan kepanikan S-3PO melaporkan bahwa peluang untuk bertahan di bidang ini adalah 1: 3122. Han Solo memberitahunya: "Jangan pernah beri tahu aku apa peluang kita!" Ini menimbulkan pertanyaan, siapa yang lebih benar dalam situasi ini?
Teknik yang diwakili oleh S-3PO benar sekali, karena peluang untuk bertahan hidup cenderung nol. Ada kemungkinan bahwa dari sudut pandang robot, ditangkap oleh pasukan kekaisaran adalah pilihan yang lebih baik bahwa seseorang bahkan tidak mempertimbangkan daripada mati di medan asteroid. Tetapi jika komputer memutuskan bahwa menyerah kepada kekaisaran adalah pilihan terbaik, maka kita dapat mengasumsikan bahwa seseorang tidak memiliki pilihan sama sekali. Sangat penting bahwa dalam kedua kasus, biasa dan luar biasa, kita memiliki kesempatan untuk membuat keputusan akhir, dan untuk membuat keputusan seperti itu, kepemimpinan manusia masih diperlukan.
Terkadang ini berarti Anda harus menentang rekomendasi komputer. Makna dari kepemimpinan manusia bukanlah untuk mengetahui peluang, tetapi untuk mengajukan pertanyaan yang sangat penting, tidak hanya hari ini atau besok, tetapi di masa depan yang jauh. Proses ini bisa disebut "bimbingan manusia" atau "intervensi manusia," paparan tanpa bantuan mesin cerdas. Inilah yang harus kita lakukan di abad ini.
Orang-orang kadang terkejut dengan optimisme saya tentang mesin cerdas, mengingat pengalaman saya dengan mereka, tetapi saya benar-benar optimis. Dan saya yakin Anda semua sama-sama optimis tentang masa depan AI. Tetapi kita harus ingat bahwa teknologi kita adalah agnostik. Ini tidak baik atau buruk, tetapi dapat digunakan baik untuk perbuatan baik maupun untuk yang jahat. Mesin harus menjadi lebih pintar dan lebih mampu. Dan kita, orang-orang, harus melakukan apa yang hanya dapat dilakukan orang - bermimpi, bermimpi sepenuhnya, dan kemudian kita dapat mengekstrak semua hal berguna yang dibawa oleh alat baru yang menakjubkan ini dalam diri mereka sendiri
Sesuai rencana, kami masih punya 10 menit untuk menjawab pertanyaan.
Pertanyaan: menurut Anda, mungkinkah menciptakan sistem pembelajaran mesin yang dapat menentukan gerakan mana yang lebih sesuai dengan gaya manusia permainan?
Kasparov: Pertama-tama, kami tidak berharap dari komputer bahwa ia akan memberi tahu kami langkah pertama dan sisa 17505 bergerak. Saya pikir kita harus mengandalkan mobil sebagai sumber untuk mendapatkan rekomendasi terbaik untuk gerakan unik. Ngomong-ngomong, pemain kelas atas menggunakan komputer sebagai panduan untuk membantu mereka mengambil posisi yang paling tepat dalam permainan. Saya ulangi sekali lagi - dalam 9 kasus dari 10 penilaian situasi oleh komputer jauh melebihi penilaian yang mampu dilakukan seseorang.
Pertanyaan: Apakah Anda setuju bahwa kecerdasan nyata membutuhkan kebebasan memilih, kebebasan dalam pengambilan keputusan, yang hanya dapat dilakukan oleh seseorang? Lagipula, perangkat lunak Deep Blue dan program komputer lainnya ditulis oleh orang-orang, dan ketika Anda bermain Deep Blue, Anda tidak akan kalah dari komputer, tetapi oleh programmer yang menulis program ini. Pertanyaan saya adalah ini: apakah ada bahaya dari segala jenis kecerdasan mesin selama komputer memiliki kebebasan memilih?
Kasparov: di sini saya harus pindah dari sains ke filsafat. Berkenaan dengan Deep Blue, semuanya jelas - ini adalah hasil dari banyak pekerjaan manusia. Dalam kebanyakan kasus, bahkan dalam kasus AlphaGo Demis Hassabis, ini semua adalah buah dari kecerdasan manusia. Saya tidak tahu apakah mobil dapat memiliki kebebasan memilih, tetapi saya percaya bahwa semua yang kita lakukan, jika kita tahu bagaimana melakukannya, mobil akan lebih baik. Namun, melakukan sebagian besar hal, kami tidak tahu cara melakukannya dengan cara terbaik, jadi kami sering tidak dapat memahami apa yang akan terjadi. Sederhananya, kami memiliki tujuan, tetapi kami tidak tahu apa itu, dan peran mesin adalah untuk membantu kami mewujudkan tujuan ini. Oleh karena itu, jika kita berbicara tentang pilihan komputer gratis, maka itu akan membantu menghubungkan kita dengan tujuan ini. Saya pikir untuk komputer ini adalah prospek yang sangat jauh.
Pertanyaan: Apa yang Anda pikirkan tentang karakteristik manusia seperti keberanian dan moralitas, dan tentang keputusan yang dapat dibuat oleh kecerdasan buatan berdasarkan mereka? Misalnya, apa yang harus dilakukan oleh mobil tak berawak - menabrak seorang anak atau menghindari tabrakan dengannya, menabrak batu dan membunuh penumpangnya?
Kasparov: ini adalah apa yang orang sebut "perasaan," mereka tidak dapat diukur, karena itu adalah sejumlah karakteristik manusia yang berbeda. Jika kita berbicara tentang keberanian, maka karakteristik ini selalu bertentangan dengan peluang untuk memilih opsi terbaik. Keberanian, seperti perasaan manusia lainnya, menurut definisi bertentangan dengan penghitungan yang akurat.
Pertanyaan: Tn. Kasparov, pertanyaan saya tidak menyangkut komputer: apa yang ada di termos Anda dan dapatkah saya mencobanya?
Kasparov: apa maksudmu
Tuan rumah: ia bertanya apa yang ada di saku Anda!
Kasparov: di saku saya? "Modal"! Ini bukan iklan, jika Anda perhatikan, saya membuangnya.
Pertanyaan: siapa, menurut Anda, yang akan menjadi juara catur dunia berikutnya dan apakah pemain catur muda Tiongkok Wei Yi memiliki kesempatan untuk menggulingkan Karelsen dari tahta raja catur?
Kasparov: Karelsen adalah pemain nomor 1, ia bukan juara dunia, tetapi hanya pemain catur terbaik di dunia menurut peringkat. Tahun ini dia akan berusia 27 tahun, jadi dia masih muda, tetapi tidak terlalu muda menurut standar modern. Saya pikir Wei Dan sekarang berusia 18 atau 19 tahun. Magnus telah melampaui pemain muda seperti Amerika Wesley So dan Fabiano Keruana, dan berpotensi, Wei Yi bisa menjadi musuhnya. Namun, untuk menjadi juara dunia, bakat diperlukan, tidak perlu muda dan energik, cukup untuk memiliki sedikit keberuntungan. Jadi, menjawab pertanyaan, bisa saya katakan - ya, dia memiliki peluang untuk mengalahkan Magnus Karelsen.
Pertanyaan: ketika Anda berbicara tentang algoritma deterministik dan pembelajaran mesin, Anda menyebutkan kemungkinan menggunakan mesin sebagai alat untuk melengkapi kecerdasan kami. Apa yang dapat Anda katakan tentang kemungkinan memaksimalkan sumber daya sebelum membuat AI yang kuat, atau bahkan tentang "memasukkan" otak manusia ke dalam komputer?
Kasparov: Saya tidak ragu untuk mengakui ketidaktahuan saya ketika saya tidak yakin bahwa saya tidak dapat menjawab pertanyaan dengan benar. Saya mencoba yang terbaik untuk memahami apa itu otak manusia, jika kita melihatnya secara terpisah dari tubuh manusia, apa fungsinya. Karena sulit membayangkan bagaimana otak akan berperilaku terpisah dari tubuh. Dimungkinkan untuk melakukan percobaan seperti itu di masa depan, tetapi saya yakin bahwa kombinasi otak manusia, perasaan dan emosi manusia dengan komputer akan membentuk "pikiran" yang akan jauh lebih efektif daripada otak yang diekstraksi dan beku yang digunakan sebagai perangkat yang diisi dengan neuron.
Pertanyaan: Apakah ada pendekatan dasar universal untuk masalah penggantian pekerjaan manusia dengan komputer?
Kasparov: Saya pikir ini adalah pertanyaan yang sangat penting, karena jelas bahwa kita sedang mendekati saat ketika banyak orang dapat dibiarkan tanpa pekerjaan. Ini adalah paradoks kemajuan teknologi: di satu sisi, kami memiliki teknologi terbaru yang memberikan keunggulan kompetitif yang sangat besar bagi generasi muda yang berurusan dengan perangkat dan teknologi ini. Di sisi lain, kami telah membuat kemajuan dalam bidang kedokteran dan nutrisi yang sehat, yang memperpanjang kehidupan manusia dan memberi orang kemampuan untuk bekerja selama bertahun-tahun. Dalam hal ini, generasi 50-an, 60-an, atau bahkan 40-an tidak dapat bersaing dengan pemuda saat ini. Kita harus menemukan solusi untuk situasi paradoks ini di mana kesenjangan generasi begitu luas. Pengalaman sejarah mengatakan bahwa celah seperti itu selalu mengarah pada ledakan besar. Maksud saya kesenjangan antara infrastruktur sosial masyarakat yang ada dan kemajuan teknologi.
Ini adalah masalah yang politisi lebih suka menunda sampai pemilihan berikutnya. Tidak ada yang mau membicarakannya karena ini masalah yang menyakitkan. Sangat mudah untuk mencetak uang, berharap seseorang akan membayarnya di lain waktu. Jadi di bidang ini, ada banyak paradoks, misalnya, akumulasi utang untuk memberikan jaminan sosial kepada generasi yang lebih tua dengan harapan bahwa beban pembayaran utang-utang ini akan jatuh di pundak generasi muda. Ada banyak pertanyaan yang saya tidak punya jawaban, dan banyak pertanyaan yang bisa saya tanyakan, saya berharap AI akan membantu saya dalam hal ini.
Sangat buruk bahwa selama beberapa dekade politisi telah berusaha mengabaikan masalah yang baru saja kita bahas. Mereka selalu siap untuk pernyataan, mereka selalu punya rencana, tetapi mereka tidak ingin memahami kontraproduktif dari mengatasi masalah konflik teknologi dan masyarakat. Terima kasih atas perhatian anda!
Terima kasih telah tinggal bersama kami. Apakah Anda suka artikel kami? Ingin melihat materi yang lebih menarik? Dukung kami dengan melakukan pemesanan atau merekomendasikannya kepada teman-teman Anda,
diskon 30% untuk pengguna Habr pada analog unik dari server entry-level yang kami temukan untuk Anda: Seluruh kebenaran tentang VPS (KVM) E5-2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1Gbps dari $ 20 atau bagaimana membagi server? (opsi tersedia dengan RAID1 dan RAID10, hingga 24 core dan hingga 40GB DDR4).
Dell R730xd 2 kali lebih murah? Hanya kami yang memiliki
2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV dari $ 199 di Belanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - mulai dari $ 99! Baca tentang
Cara Membangun Infrastruktur Bldg. kelas menggunakan server Dell R730xd E5-2650 v4 seharga 9.000 euro untuk satu sen?