Lima tahun lalu, programmer di DeepMind, sebuah perusahaan yang berbasis di London yang berbasis di London, menyaksikan dengan penuh semangat AI belajar memainkan permainan arcade klasik sendiri. Mereka menggunakan teknologi modern dari deep learning (GO) untuk tugas yang tampaknya aneh: menguasai permainan di
Breakout , dibuat oleh Atari, di mana Anda harus mengalahkan bola dari dinding bata sehingga batu bata hilang.
GO adalah belajar mandiri untuk mesin; Anda memberi makan sejumlah besar data AI, dan secara bertahap mulai mengenali pola secara independen. Dalam hal ini, data adalah apa yang terjadi di layar - piksel besar mewakili batu bata, bola, dan raket. Dalam AI DeepMind, jaringan saraf yang terdiri dari algoritma berlapis, tidak ada pengetahuan tentang aturan permainan Breakout, prinsip operasinya, tujuan dan metode permainan. Programmer hanya mengizinkan jaringan saraf untuk mempelajari hasil dari setiap aksi, setiap bola memantul. Apa yang akan terjadi?
Ternyata itu adalah keterampilan yang mengesankan. Dalam beberapa upaya pertama, AI secara acak nongkrong. Setelah bermain beberapa ratus kali, ia mulai memukul bola dengan akurat. Pada game ke-600, jaringan saraf telah muncul dengan gerakan ahli yang digunakan oleh orang-orang yang bermain Breakout, ketika seorang pemain memecahkan lubang di batu bata dan mengirim bola untuk melompat di atas tembok.
"Ini adalah kejutan besar bagi kami," kata Demis Khasabis, direktur DeepMind. "Strategi itu mengalir dari sistem itu sendiri." AI telah menunjukkan kemampuan untuk berpikir secara halus seperti manusia, untuk memahami konsep-konsep internal yang mendasari permainan. Karena jaringan saraf secara kasar menyalin struktur otak manusia, secara teori, dalam arti tertentu, mereka juga harus meniru gaya berpikir kita. Momen ini sepertinya merupakan konfirmasi dari teori tersebut.
Kemudian tahun lalu, para ilmuwan komputer di Vicarious, sebuah perusahaan riset AI yang berbasis di San Francisco, menawarkan cara yang menarik untuk menguji AI dalam kondisi dunia nyata. Mereka mengambil jenis AI yang mereka gunakan di DeepMind dan melatihnya untuk bermain Breakout. Dia baik-baik saja. Dan kemudian mereka mulai sedikit mengubah tata letak game. Mereka akan menaikkan raket atau menambahkan area yang tidak bisa ditembus di tengah lapangan.
Seorang pemain manusia dapat dengan cepat beradaptasi dengan perubahan ini; tetapi jaringan saraf tidak bisa. Gila AI, tampaknya, hanya bisa memainkan Breakout dari jenis yang telah dia pelajari selama ratusan upaya. Dia tidak mencerna sesuatu yang baru.
"Orang tidak hanya bisa mengenali pola," Dilip George, seorang spesialis IT, salah satu pendiri Vicarious, memberi tahu saya. - Kami masih membuat model dari apa yang kami lihat. Dan model kausal ini - kami menghubungkan sebab dan akibat. " Orang-orang terlibat dalam penalaran, menarik kesimpulan logis tentang dunia di sekitar mereka; kami memiliki basis pengetahuan akal sehat yang membantu kami memahami situasi baru. Ketika kami melihat Breakout, sedikit berbeda dari yang baru kami mainkan, kami menyadari bahwa kemungkinan besar akan memiliki aturan dan tujuan yang sama. Jaringan saraf tidak mengerti apa-apa tentang Breakout. Dia hanya bisa mengikuti pola. Ketika polanya berubah, dia menjadi tidak berdaya.
GO adalah raja AI. Dalam enam tahun selama itu meledak ke arus utama, itu telah menjadi cara utama untuk mengajarkan mesin bagaimana memahami dan merasakan dunia di sekitar mereka. Dia berada di belakang pengenalan ucapan Alexa, mobil robotik Waymo, terjemahan instan Google. Uber, dalam arti tertentu, adalah tugas optimasi raksasa, dan menggunakan pembelajaran mesin (MO) untuk memprediksi di mana penumpang akan membutuhkan mobil. Baidu, raksasa teknologi China, memiliki 2.000 programmer yang bekerja di jaringan saraf. Selama bertahun-tahun, tampaknya GO hanya akan meningkat, dan mau tidak mau akan melahirkan mesin dengan kecerdasan yang fleksibel dan cepat untuk mencocokkan seseorang.
Namun, beberapa bidat mengklaim bahwa pertahanan sipil berbatasan dengan tembok. Mereka mengatakan bahwa itu sendiri tidak pernah dapat menghasilkan kecerdasan buatan umum (AI), karena pikiran manusia yang sejati tidak hanya pengenalan pola. Sudah waktunya bagi kita untuk mulai bekerja tentang bagaimana memberikan akal sehat setiap hari AI, pikiran manusia. Jika ini tidak berhasil bagi mereka, mereka memperingatkan, kami akan menemukan keterbatasan kami pada GO, sebagai sistem pengenalan pola yang dapat dengan mudah dibodohi dengan mengubah bagian dari input, sebagai akibatnya model GO akan mengambil kura-kura sebagai senjata. Tetapi jika kita berhasil melakukan ini, kata mereka, kita akan menyaksikan ledakan ledakan perangkat yang lebih aman dan lebih berguna - robot medis bergerak di rumah yang berantakan, sistem pengakuan palsu yang tidak menderita positif palsu, terobosan medis yang dibuat oleh mesin yang mempelajari penyebab dan konsekuensi penyakit.
Tetapi seperti apakah penalaran sejati di dalam mobil? Dan jika masyarakat sipil tidak dapat mengarahkan kita ke hal ini, apa yang bisa?
Gary Marcus adalah profesor psikologi dan neurologi yang berusia 48 tahun di New York University dengan kacamata lensa ganda, dan mungkin murtad pembelajaran ortodoks yang paling terkenal.
Untuk pertama kalinya, Marcus menjadi tertarik pada AI pada 1980-an dan 90-an, ketika jaringan saraf berada pada fase eksperimental, dan sejak itu argumennya tidak berubah. "Bukannya aku terlambat ke pesta, dan aku ingin membuat semuanya menjadi vulgaris di sini," kata Marcus ketika kami bertemu di apartemennya dekat Universitas New York (dia dan aku juga berteman). "Begitu ledakan GO terjadi, aku berkata: Guys, ini arah yang salah!"
Maka strategi GO tidak berbeda dari yang sekarang. Misalkan Anda membutuhkan mesin untuk belajar mengenali bunga aster. Pertama, Anda perlu menyandikan "neuron" algoritmik dengan menggabungkannya ke dalam lapisan seperti sandwich (ketika menggunakan banyak lapisan, kepala pelayan menjadi lebih tebal, atau "lebih dalam" - maka pembelajaran "dalam"). Lapisan pertama yang Anda tampilkan gambar daisy, dan neuron-neuronnya diaktifkan atau tidak diaktifkan, tergantung pada apakah gambar ini menyerupai contoh bunga aster, yang terlihat sebelumnya. Sinyal kemudian bergerak ke lapisan berikutnya, di mana proses berulang. Akibatnya, lapisan menyaring data, melewati vonis.
Pertama, jaringan saraf terlibat dalam tebakan buta; dia memulai hidup dari awal. Intinya adalah mengatur umpan balik yang bermanfaat. Setiap kali AI tidak menebak bunga aster, dalam set neuron, koneksi yang mengarah ke jawaban yang salah melemah. Jika Anda menebak, koneksi ditingkatkan. Setelah waktu yang cukup berlalu dan aster, jaringan saraf menjadi lebih akurat. Dia belajar untuk mengambil pola aster tertentu, memungkinkannya mengidentifikasi bunga aster setiap kali (daripada bunga matahari atau aster). Selama bertahun-tahun, ide utama - untuk memulai dengan jaringan yang naif dan melatihnya dengan pengulangan - telah ditingkatkan dan tampaknya berguna di hampir semua aplikasi.
Tetapi Marcus tidak yakin. Dari sudut pandangnya, batu tulis yang bersih adalah masalah: diasumsikan bahwa orang mengembangkan kecerdasan hanya dengan mengamati dunia di sekitar mereka, yang berarti bahwa mesin juga mampu melakukan ini. Tetapi Marcus percaya bahwa orang tidak bekerja seperti itu. Dia mengikuti jalur intelektual yang dibuat
oleh Noam Chomsky , yang mengklaim bahwa orang dilahirkan dengan kecenderungan untuk belajar dan dengan program untuk belajar bahasa dan menafsirkan dunia fisik.
Dengan semua yang seharusnya mirip dengan otak, katanya, jaringan saraf tampaknya tidak berfungsi seperti otak manusia. Misalnya, mereka membutuhkan terlalu banyak data. Dalam kebanyakan kasus, setiap jaringan membutuhkan ribuan atau jutaan contoh pelatihan. Lebih buruk lagi, setiap kali Anda perlu membuat jaringan mengenali item baru, Anda harus mulai dari awal. Jaringan saraf yang dilatih untuk mengenali kenari sama sekali tidak berguna dalam mengenali nyanyian burung atau ucapan manusia.
"Kami tidak membutuhkan data dalam jumlah besar untuk pelatihan," kata Marcus. Anak-anaknya tidak perlu melihat satu juta mobil sebelum mereka dapat mengenali mobil. Yang lebih baik lagi, mereka tahu cara menggeneralisasi: ketika pertama kali melihat traktor, mereka mengerti bahwa itu terlihat seperti mobil. Mereka juga tahu bagaimana mengasumsikan yang sebaliknya. Google Translate dapat memberikan padanan kalimat dalam bahasa Inggris yang setara dengan bahasa Prancis "gelas telah dipindahkan dan jatuh dari meja." Tapi dia tidak mengerti arti kata-kata, dan tidak bisa memberi tahu Anda apa yang akan terjadi jika Anda tidak memindahkan gelas. Orang-orang, seperti yang dicatat oleh Marcus, memahami tidak hanya hukum tata bahasa, tetapi juga logika di balik kata-kata itu. Anda bisa memberi anak itu kata kerja "menari", dan ia kemungkinan besar akan menebak bahwa di masa lalu ia akan "menari". Tapi dia belum pernah melihat kata seperti itu sebelumnya. Dia tidak "terlatih." Dia hanya merasakan logika bahasa secara intuitif dan dapat menerapkannya pada situasi baru.
“Sistem GO tidak tahu bagaimana mengintegrasikan pengetahuan abstrak,” kata Marcus, yang mendirikan perusahaan yang menciptakan AI, yang dapat belajar dari lebih sedikit data (dan menjualnya ke Uber pada 2016).
Tahun ini, Marcus menerbitkan pracetak kerja di arXiv, di mana ia mengklaim bahwa tanpa pendekatan baru, GO mungkin tidak akan pernah mengatasi keterbatasannya saat ini. Dia membutuhkan terobosan - aturan bawaan atau pelengkap yang membantu AI untuk berpikir tentang dunia.