Kecerdasan buatan menemui hambatan pemahaman

Algoritma pembelajaran mesin belum memahami realitas seperti yang dilakukan orang - terkadang dengan konsekuensi yang menghancurkan

Tentang Pengarang: Melanie Mitchell adalah profesor ilmu komputer di Portland State University dan profesor tamu di Santa Fe Institute. Bukunya, Artificial Intelligence: A Guide for Thinking People, akan diterbitkan pada tahun 2019 oleh Farrar, Straus, dan Giroux


Pengunjung ke Expo Kecerdasan Buatan di Afrika Selatan, September 2018. Foto: Nic Bothma / EPA, melalui Shutterstock

Anda mungkin pernah mendengar bahwa kita berada di tengah-tengah revolusi AI. Kami diberitahu bahwa kecerdasan mesin berkembang dengan kecepatan yang mencengangkan, mengandalkan algoritma "pembelajaran dalam" yang menggunakan sejumlah besar data untuk melatih program kompleks yang dikenal sebagai "jaringan saraf".

Program hari ini dapat mengenali wajah dan merekam ucapan. Kami memiliki program untuk mendeteksi penipuan keuangan yang tidak kentara, untuk menemukan halaman web yang relevan dalam menanggapi permintaan yang ambigu, untuk meletakkan rute optimal hampir di mana saja, program-program ini mengalahkan grandmaster dalam catur dan Go dan menerjemahkan di antara ratusan bahasa. Selain itu, kendaraan tanpa awak, diagnosa kanker otomatis, robot pembersih rumah dan bahkan penemuan ilmiah otomatis dijanjikan kepada kita segera dan di mana-mana.

Pendiri Facebook Mark Zuckerberg baru-baru ini mengatakan bahwa selama lima hingga sepuluh tahun ke depan, perusahaan akan mengembangkan AI untuk "melampaui level seseorang dalam semua pengertian dasar: visi, pendengaran, bahasa, pemahaman umum." Shane Legg, kepala peneliti di Google DeepMind, memperkirakan bahwa "AI akan melampaui level manusia pada pertengahan 2020-an."

Sebagai orang yang bekerja di bidang AI selama beberapa dekade, saya menyaksikan kegagalan banyak prediksi seperti itu. Dan saya yakin ramalan terbaru juga tidak akan terwujud. Masalah menciptakan kecerdasan manusia dalam mesin tetap sangat diremehkan. Sistem AI saat ini sangat kurang dalam esensi kecerdasan manusia: memahami situasi yang kita alami, kemampuan untuk memahami maknanya. Matematikawan dan filsuf Gian-Carlo Rota mengajukan pertanyaan terkenal: "Saya ingin tahu apakah AI akan pernah bisa mengatasi hambatan pemahaman." Bagi saya, ini masih merupakan masalah yang paling penting.

Kurangnya pemahaman manusia dalam mesin ditekankan oleh masalah yang baru-baru ini muncul di dasar-dasar AI modern. Meskipun program modern jauh lebih mengesankan daripada sistem 20-30 tahun yang lalu, sejumlah studi menunjukkan bahwa sistem pembelajaran yang mendalam menunjukkan rasa tidak aman dengan cara yang sama sekali tidak manusiawi.

Saya akan memberikan beberapa contoh.

“Pria berkepala telanjang membutuhkan topi” [Pria bertelanjang kepala itu membutuhkan topi] - program pengenalan ucapan di telepon mengenali ungkapan ini sebagai “Pria berkepala beruang membutuhkan topi” di bawah bimbingan beruang. Ungkapan "Saya memasukkan babi ke dalam pena" [Saya memasukkan babi ke dalam pena] Google Translate diterjemahkan ke dalam bahasa Prancis sebagai "Saya meletakkan babi di dalam pena" [Je mets le cochon dans le stylo].

Program yang "membaca" dokumen dan menjawab pertanyaan tentang mereka dengan mudah dibodohi jika fragmen teks pendek dan tidak relevan ditambahkan ke dokumen. Demikian pula, program yang mengenali wajah dan objek (kemenangan pembelajaran mendalam yang terkenal) gagal jika Anda mengubah sedikit data input dengan jenis pencahayaan tertentu, pemfilteran gambar, dan perubahan lain yang tidak sedikit memengaruhi efisiensi pengenalan manusia terhadap objek. .

Satu studi baru-baru ini menunjukkan bahwa menambahkan sejumlah kecil "noise" ke gambar wajah secara serius mengganggu program pengenalan wajah modern. Penelitian lain , dengan lucu disebut "Elephant in a Room," menunjukkan bahwa gambar kecil benda asing, seperti gajah, di sudut gambar ruang tamu dengan cara yang aneh membuat sistem penglihatan mesin dalam pembelajaran yang dalam secara salah mengklasifikasikan objek lain.

Selain itu , program - program yang telah belajar memainkan video game atau papan permainan khusus secara mahir di tingkat "manusia super" benar-benar hilang dengan sedikit perubahan kondisi (mengubah latar belakang layar atau mengubah posisi "platform" virtual untuk mengalahkan "bola").

Ini hanya beberapa contoh yang menunjukkan tidak dapat diandalkannya program AI terbaik jika situasinya sedikit berbeda dari yang mereka latih. Kesalahan dalam sistem ini berkisar dari konyol dan tidak berbahaya hingga berpotensi menimbulkan bencana. Misalnya, bayangkan sistem keamanan bandara yang tidak akan memungkinkan Anda untuk naik pesawat karena wajah Anda telah dibingungkan dengan wajah seorang penjahat, atau kendaraan tak berawak yang, karena kondisi pencahayaan yang tidak biasa, belum menyadari bahwa Anda pergi di persimpangan.

Yang lebih mengkhawatirkan lagi adalah demonstrasi kerentanan AI baru-baru ini terhadap apa yang disebut sebagai contoh "permusuhan". Di dalamnya, peretas jahat dapat membuat perubahan tertentu pada gambar, suara atau teks yang tidak terlihat atau tidak berarti bagi manusia, tetapi dapat menyebabkan kesalahan AI yang berpotensi bencana.

Kemungkinan serangan tersebut ditunjukkan di hampir semua bidang AI, termasuk penglihatan komputer, pemrosesan gambar medis, pengenalan suara, dan pemrosesan. Sejumlah penelitian telah menunjukkan kemudahan yang dapat digunakan peretas untuk menipu sistem pengenalan wajah atau objek dengan sedikit perubahan gambar. Stiker yang tidak terlihat pada tanda Stop road memaksa sistem penglihatan mesin di dalam kendaraan tak berawak untuk mengambilnya sebagai “Ambil jalan”, dan modifikasi sinyal suara yang terdengar seperti musik latar untuk seseorang memberitahu sistem Siri atau Alexa untuk secara diam-diam menjalankan perintah tertentu.

Potensi kerentanan ini menggambarkan mengapa kemajuan AI saat ini bersandar pada penghalang pemahaman. Siapa pun yang bekerja dengan sistem AI tahu bahwa di balik façade yang mirip dengan visi manusia, keterampilan berbicara dan bermain, program-program ini sama sekali tidak memahami - dengan cara manusia apa pun - data input yang mereka terima untuk diproses dan hasil yang dihasilkan. Kurangnya pemahaman seperti itu membuat program-program ini rentan terhadap kesalahan tak terduga dan serangan tak terlihat.

Apa yang akan diperlukan untuk mengatasi penghalang ini sehingga mesin dapat lebih memahami situasi yang mereka hadapi, daripada mengandalkan bagian kecil? Untuk menemukan jawabannya, Anda harus beralih ke studi pengetahuan manusia.

Pemahaman kita sendiri tentang situasi yang kita hadapi didasarkan pada "konsep akal sehat" yang luas dan intuitif tentang bagaimana dunia bekerja dan tujuan, motif, dan kemungkinan perilaku makhluk hidup lainnya, terutama orang lain. Selain itu, pemahaman kita tentang dunia didasarkan pada kemampuan dasar kita untuk menggeneralisasi apa yang kita ketahui, untuk membentuk konsep abstrak dan menggambar analogi - singkatnya, secara fleksibel menyesuaikan konsep-konsep kita dengan situasi baru. Selama beberapa dekade, para peneliti telah bereksperimen dengan mengajarkan akal sehat intuitif AI dan kemampuan manusia yang berkelanjutan untuk menggeneralisasi, tetapi sedikit kemajuan yang telah dibuat dalam masalah yang sangat sulit ini.

Program AI dengan kurangnya akal sehat dan aspek kunci lain dari pemahaman manusia semakin banyak digunakan dalam aplikasi dunia nyata. Sementara beberapa orang khawatir tentang "kecerdasan" AI, aspek paling berbahaya dari AI adalah bahwa kita terlalu percaya dan memberikan terlalu banyak otonomi ke sistem seperti itu tanpa sepenuhnya menyadari keterbatasan mereka. Seperti yang dicatat oleh peneliti Pedro Domingos dalam bukunya, "Algoritma Utama": "Orang-orang khawatir bahwa komputer akan menjadi terlalu pintar dan mengambil alih dunia, tetapi masalah sebenarnya adalah bahwa mereka terlalu bodoh dan telah mengambilnya . "

Perlombaan komersialisasi AI memberikan tekanan besar pada para peneliti untuk menciptakan sistem yang bekerja “cukup baik” dalam tugas-tugas sempit. Tetapi pada akhirnya, tujuan mengembangkan AI yang andal membutuhkan studi yang lebih dalam tentang kemampuan luar biasa kita sendiri dan pemahaman baru tentang mekanisme kognitif yang kita gunakan untuk memahami dunia di sekitar kita secara andal. Mengatasi hambatan untuk memahami AI kemungkinan akan mengambil langkah mundur - dari jaringan yang lebih besar dan kumpulan data kembali ke akar industri sebagai ilmu interdisipliner yang mempelajari masalah ilmiah paling kompleks: sifat kecerdasan.