"Setiap teknologi yang cukup maju,"
tulis kardinal kelabu fiksi ilmiah Arthur Clark, "tidak bisa dibedakan dari sihir." Kutipan ini, yang tanpa henti-hentinya dikutip oleh penggemar yang mempromosikan teknologi, telah menjadi pernyataan paling destruktif yang pernah dibuat Clark, karena hal itu mendorong keheranan kita yang hipnosis terhadap teknologi dan melumpuhkan pemikiran kritis. Karena ketika datang ke "sihir", menurut definisi itu akan menjadi sesuatu yang tidak bisa dijelaskan. Tidak masuk akal untuk bertanya tentang hal ini; terima saja apa adanya, santai dan tenggelamkan ketidakpercayaan.
Sekarang sebagian besar dari semua
pemikiran magis menarik bagi dirinya kecerdasan buatan (AI). Penggemar menggambarkannya seolah-olah itu adalah penemuan paling penting sejak roda. Pesimis melihatnya sebagai ancaman eksistensial terhadap kemanusiaan: mesin "paling cerdas" pertama yang kita buat akan menjadi awal dari akhir kemanusiaan; satu-satunya pertanyaan adalah apakah mobil akan menjaga kita sebagai hewan peliharaan.
Dalam kedua kasus, hubungan terbalik terlihat antara kekuatan kepercayaan masyarakat terhadap kemampuan AI dan pengetahuan mereka tentang teknologi ini. Para ahli adalah optimisme yang berhati-hati, dan pendukung yang bersemangat tidak menyadari bahwa AI yang dipuji oleh mereka sebenarnya merupakan kombinasi yang agak biasa dari pembelajaran mesin (MO) dan data besar.
Pembelajaran mesin menggunakan teknik statistik untuk memberdayakan mesin dengan kemampuan untuk "belajar" —yaitu, menggunakan data untuk terus meningkatkan kinerja tugas tertentu tanpa perlu pemrograman sebelumnya. Sistem MI adalah sekelompok algoritma yang mengambil aliran data sebagai input, dan memberikan tautan, korelasi, rekomendasi, dan, mungkin, bahkan solusi. Teknologi ini sudah digunakan di mana-mana: hampir semua interaksi kami dengan Google, Amazon, Facebook, Netflix, Spotify, dan sebagainya, terjadi melalui mediasi sistem MI. Itu sampai pada titik bahwa salah satu guru AI terkemuka,
Andrew Eun ,
membandingkan MO dengan listrik.
Bagi banyak direktur perusahaan, sebuah mesin yang dapat mempelajari lebih banyak tentang pelanggan mereka daripada yang pernah mereka miliki, tampak ajaib. Bayangkan saat Walmart menemukan bahwa di antara semua hal yang ditimbun oleh konsumen di Amerika Serikat setelah
peringatan badai , selain set yang biasa, ada bir dan kue strawberry kue
tar Pop . Dan, mau tidak mau, antusiasme perusahaan untuk teknologi sihir segera melampaui pengadaan untuk supermarket dan ditransfer ke pemerintah. Kementerian Pertahanan dengan cepat menembus prediksi kemacetan lalu lintas,
aturan hukum prediktif (MO membantu menandai area di mana kejahatan "kemungkinan" terjadi), keputusan tentang pembebasan bersyarat, dan sebagainya. Di antara alasan untuk pertumbuhan gila ini adalah peningkatan efisiensi, peningkatan kontrol atas kepatuhan terhadap hukum, pengambilan keputusan yang lebih "obyektif", dan, tentu saja, utilitas yang lebih responsif.
Pergeseran fokus yang bertahap ini tidak luput dari perhatian. Kritik mencatat bahwa pepatah komputer lama "sampah, sampah" berlaku untuk Wilayah Moskow. Jika data di mana mesin "belajar" bias, maka hasilnya
akan mencerminkan bias ini . Ini dapat digeneralisasi; mungkin kami telah menciptakan teknologi yang - meskipun sesuai dengan rekomendasi film mana yang akan Anda tonton - dapat
berubah menjadi faktor yang meningkatkan ketidaksetaraan sosial, ekonomi dan budaya.
Dengan semua kritik sosiopolitik tentang Wilayah Moskow ini, tidak ada yang mempertanyakan efisiensi teknologi dari ide itu sendiri - yaitu, diyakini bahwa setiap keputusan yang salah yang dihasilkannya hanya bergantung pada kekurangan dalam data input. Tapi sekarang asumsi meyakinkan ini cukup kontroversial. Pada konferensi NIPS (Neural Information Processing System) baru-baru ini, pertemuan tahunan besar para pakar MO, Ali Rahimi, salah satu bintang yang dikenal di lapangan, melemparkan granat intelektual ke hadirin. Dalam sebuah ceramah yang luar biasa, ia membandingkan MO dengan alkimia abad pertengahan. Kedua bidang pengetahuan itu ternyata berfungsi, pada tingkat tertentu - para alkemis muncul dengan metalurgi dan pembuatan kaca; Peneliti MO telah menciptakan mesin yang dapat mengalahkan orang di Go dan mengidentifikasi objek dari gambar. Tetapi seperti halnya alkimia tidak memiliki landasan ilmiah, demikian juga kekurangan dalam MO, menurut Rahimi. Dia berpendapat bahwa para peneliti sering tidak dapat menjelaskan prinsip kerja dari model matematika mereka - mereka tidak memiliki pemahaman yang jelas dan terperinci tentang alat mereka, dan dalam hal ini mereka bekerja dalam peran ahli alkimia, bukan ilmuwan.
Apakah itu penting? Jelas ya. Seperti yang dikatakan Rahimi: “Kami menciptakan sistem yang mengelola layanan kesehatan dan berfungsi sebagai mediator dalam urusan sipil. Kami akan mempengaruhi pemilihan. "Saya ingin hidup dalam masyarakat yang sistemnya dibangun di atas pengetahuan yang dapat diverifikasi, teliti, komprehensif, dan tidak berdasarkan alkimia."
Saya juga. Berdasarkan listrik, kami menciptakan apa yang kami suka sebut sebagai peradaban. Tapi setidaknya kami mengerti mengapa dan bagaimana cara kerjanya. Jika Rahimi benar, maka dalam kasus AI, kami belum mendekati ini. Jadi mari kita berhenti memikirkannya secara ajaib.