Clash of the Titans di zaman kita: debat antara V. Vapnik dan L. Jakel tentang masa depan SVM dan jaringan saraf

Ingatan tentang bagaimana Niels Bohr berdebat dengan Albert Einstein, dan George Westinghouse dan Nikola Tesla dengan Thomas Edison, telah lama berubah menjadi legenda. Diskusi ilmiah ini belum dilupakan sampai sekarang, karena, di satu sisi, hanya waktu yang bisa menyelesaikannya. Di sisi lain, hasil mereka menentukan perkembangan teknologi untuk beberapa dekade mendatang. Apakah ada diskusi serupa hari ini? Ada Dan mereka sama panas dan menariknya seperti seratus tahun yang lalu.

Mungkin kontroversi yang paling menarik di zaman kita adalah perselisihan antara Vladimir Vapnik (penemu metode dukungan vektor atau mesin dukungan vektor SVM), dengan Larry Jakel, bosnya di Bell Labs dan pendukung jaringan saraf convolutional.

Taruhan mereka yang terdokumentasi dibawa ke laman Google+-nya oleh Jan LeCunn (ideologis jaringan saraf convolutional), yang bertindak sebagai hakim sengketa dan memastikan semua kondisi dengan tanda tangannya sendiri. Dan mereka adalah sebagai berikut.

Larry Jakel berpendapat bahwa pada tahun 2000, pemahaman teoritis tentang mengapa jaringan saraf besar akan bekerja dengan baik (dalam hal batas-batas penerapan dan kondisi yang mirip dengan yang menggambarkan fungsi SVM) akan dikembangkan.

Vladimir Vapnik berpendapat bahwa pada tahun 2005 tidak ada orang waras yang akan menggunakan jaringan saraf dari arsitektur yang sama yang diusulkan pada tahun 1995, semua orang akan beralih untuk mendukung mesin vektor.

Yang dipertaruhkan adalah makan malam yang indah, yang harus dibayar oleh seseorang yang ramalannya tidak terwujud.

Jadi, pada tahun 2000, tidak ada teori yang jelas tentang operasi jaringan saraf, mereka tetap kotak hitam. Namun, orang-orang yang waras tetap menggunakan jaringan-jaringan dari arsitektur yang sama yang diusulkan hampir seperempat abad yang lalu, terlepas dari prediksi V. Vapnik.

Kedua peserta kalah taruhan. Dan untuk makan malam di restoran untuk tiga orang (dihadiri oleh Jan LeCund), keduanya dibayar.

Sebuah kisah indah tentang diskusi ilmiah modern - mengapa bukan legenda baru yang akan diceritakan kembali setelah berpuluh-puluh tahun bahkan berabad-abad? Tapi ini bukan tentang kecantikan, tetapi tentang dua kubu pengembang dan peneliti yang sebanding dalam ukuran dan signifikansi, yang saling berdebat tentang apa yang lebih efisien untuk digunakan - jaringan saraf misterius atau metode vektor referensi yang dipelajari dan dijelaskan dengan teliti dalam literatur.

Pada akhir abad terakhir, sedikit yang percaya pada jaringan saraf. Meskipun CNN (jaringan saraf convolutional) sedang dikembangkan pada waktu yang hampir bersamaan dengan SVM, antara 1988 dan 1992. Praktik modern dan literatur ilmiah menunjukkan bahwa saat ini, di era revolusi pembelajaran yang dalam, jaringan saraf semakin banyak digunakan secara aktif dan membantu memecahkan masalah yang kompleks, misalnya, di bidang pengenalan ucapan. Metode SVM kehilangan popularitasnya, tetapi masih tetap diminati dalam beberapa tugas.

The War of Currents (perselisihan antara T. Edison dan D. Westinghouse) berakhir hanya pada tahun 2007, ketika konsumen DC terakhir menghilang di New York. Saya ingin percaya bahwa diskusi antara V. Vapnik dan L. Jakel akan berakhir lebih cepat, karena hasilnya, tampaknya, sudah jelas. Hari ini semua orang berbicara tentang pembelajaran mendalam tentang revolusi dan fakta bahwa jaringan saraf benar-benar mengalahkan dalam mempraktekkan semua yang ada sebelum mereka. Tapi! Masih ada satu poin penting yang disebutkan dalam perdebatan ini - masih belum ada pemahaman yang jelas tentang batas-batas dan kondisi penerapan jaringan saraf, tidak ada deskripsi analitis lengkap dari semua proses di dalam "kotak hitam". Kami sekarang mengamati bagaimana analitik memudar ke latar belakang, memberi jalan bagi rekayasa dan empiris.

Akankah pernah diketahui bagaimana sebuah kotak hitam yang disebut "jaringan saraf" bekerja? Waktu akan memberi tahu. Sementara itu, berdebatlah, tuan-tuan!