Bisakah kita membuka kotak hitam kecerdasan buatan?

Dean Pomerleau masih ingat pertama kali ia harus berurusan dengan masalah kotak hitam. Pada tahun 1991, ia melakukan salah satu upaya pertama di bidang yang sekarang sedang dipelajari oleh semua orang yang mencoba membuat mobil robot: belajar cara mengemudi komputer.

Dan ini berarti Anda harus mengendarai Humvee yang disiapkan khusus (kendaraan off-road tentara), dan berkendara melalui jalan-jalan kota. Ini adalah bagaimana Pomelo, mantan mahasiswa pascasarjana robotika di Universitas Carnegie Mellon, menceritakan hal ini. Komputer yang diprogram untuk mengikuti kamera, menginterpretasikan apa yang terjadi di jalan dan mengingat semua gerakan pengemudi mengendarainya. Pomelo berharap bahwa mobil itu pada akhirnya akan membangun asosiasi yang cukup untuk mengemudi mandiri.

Untuk setiap perjalanan, Pomelo melatih sistem selama beberapa menit, dan kemudian membiarkannya sendiri. Segalanya tampak berjalan baik - sampai suatu ketika Humvee, setelah mendekati jembatan, tiba-tiba berbalik ke samping. Seorang pria berhasil menghindari kecelakaan dengan hanya dengan cepat meraih kemudi dan mengembalikan kendali.

Di laboratorium, Pomelo mencoba mencari tahu kesalahan komputer. “Salah satu tugas karya ilmiah saya adalah membuka 'kotak hitam' dan mencari tahu apa yang dia pikirkan,” jelasnya. Tapi bagaimana caranya? Dia memprogram komputer sebagai "jaringan saraf" - sejenis kecerdasan buatan yang meniru fungsi otak, menjanjikan lebih baik daripada algoritma standar dalam menangani situasi rumit yang terkait dengan dunia nyata. Sayangnya, jaringan seperti itu buram seperti otak nyata. Mereka tidak menyimpan semua yang dipelajari dalam blok memori yang rapi, melainkan menyebarkan informasi sehingga sangat sulit untuk diuraikan. Hanya setelah berbagai uji reaksi perangkat lunak untuk berbagai parameter input, Pomelo menemukan masalah: jaringan menggunakan rumput di sepanjang tepi jalan untuk menentukan arah, dan oleh karena itu penampilan jembatan membingungkannya.

Setelah 25 tahun, mendekode kotak hitam menjadi lebih sulit secara eksponensial, sambil meningkatkan urgensi tugas ini. Telah ada peningkatan eksplosif dalam kompleksitas dan prevalensi teknologi. Pomelo, robotika pengajar paruh waktu di Carnegie Mellon, menggambarkan sistemnya yang lama sebagai "jaringan saraf bagi kaum miskin," dibandingkan dengan jaringan saraf besar yang dijual di mesin-mesin modern. Teknik pembelajaran mendalam (GI), di mana jaringan melatih arsip dari "big data", menemukan berbagai aplikasi komersial, dari robomobiles hingga rekomendasi produk di situs berdasarkan riwayat penelusuran.

Teknologi menjanjikan untuk ada di mana-mana dalam sains. Observatorium radio masa depan akan menggunakan GO untuk mencari sinyal signifikan dalam susunan data itukalau tidak, Anda tidak akan menyapu . Detektor gelombang gravitasi akan menggunakannya untuk memahami dan menghilangkan kebisingan kecil. Penerbit akan menggunakannya untuk menyaring dan menandai jutaan makalah dan buku penelitian. Beberapa percaya bahwa pada akhirnya komputer dengan bantuan GO akan dapat menunjukkan imajinasi dan kemampuan kreatif. "Anda bisa memasukkan data ke dalam mesin dan itu akan mengembalikan hukum alam kepada Anda," kata Jean-Roch Vlimant, seorang ahli fisika di California Institute of Technology.

Tetapi terobosan semacam itu akan membuat masalah kotak hitam semakin akut. Bagaimana tepatnya mesin menemukan sinyal yang signifikan? Bagaimana Anda bisa yakin bahwa kesimpulannya benar? Berapa banyak orang harus mempercayai pembelajaran yang mendalam? "Saya pikir kita harus menyerah dengan algoritma ini," kata Spesialis Robotika Hod Lipson dari Universitas Columbia di New York. Dia membandingkan situasi dengan pertemuan dengan alien cerdas yang matanya tidak hanya melihat merah, hijau dan biru, tetapi juga warna keempat. Menurutnya, akan sangat sulit bagi orang untuk memahami bagaimana alien ini melihat dunia, dan bagi mereka untuk menjelaskannya kepada kita. Komputer akan memiliki masalah yang sama menjelaskan keputusan mereka, katanya. "Pada titik tertentu, itu akan mulai menyerupai upaya untuk menjelaskan Shakespeare kepada anjing."

Setelah mengalami masalah seperti itu, peneliti AI bereaksi dengan cara yang sama seperti Pomelo - mereka membuka kotak hitam dan melakukan tindakan yang menyerupai neurologi untuk memahami operasi jaringan. Jawabannya tidak intuitif, kata Vincenzo Innocente, seorang fisikawan CERN yang merupakan orang pertama yang menggunakan AI di bidangnya. “Sebagai seorang ilmuwan, saya tidak puas dengan kemampuan sederhana untuk membedakan anjing dari kucing. Seorang ilmuwan harus bisa mengatakan: perbedaannya adalah itu dan itu. "

Perjalanan yang bagus

Jaringan saraf pertama diciptakan pada awal 1950-an, segera setelah munculnya komputer yang mampu bekerja sesuai dengan algoritma yang diperlukan. Idenya adalah untuk meniru operasi modul kecil yang dapat dihitung - neuron - tersusun berlapis-lapis dan terhubung ke "sinapsis" digital. Setiap modul di lapisan bawah menerima data eksternal, misalnya, piksel gambar, kemudian menyebar informasi ini ke beberapa modul di lapisan berikutnya. Setiap modul di lapisan kedua mengintegrasikan input dari lapisan pertama sesuai dengan aturan matematika sederhana, dan meneruskan hasilnya. Akibatnya, lapisan atas memberikan jawaban - misalnya, memberikan gambar asli ke "kucing" atau "anjing".


? « » (Deep Dream) , , , , – , .

, – , .

Deep Dream .

Kemampuan jaringan tersebut berasal dari kemampuan mereka untuk belajar. Belajar dari kumpulan data awal dengan jawaban yang benar diberikan, mereka secara bertahap meningkatkan karakteristik mereka, menyesuaikan pengaruh semua tautan untuk menghasilkan hasil yang benar. Proses ini mengemulasi pelatihan otak, yang memperkuat dan melemahkan sinapsis, dan menyediakan output jaringan yang mampu mengklasifikasikan data yang awalnya tidak termasuk dalam set pelatihan.

Kemungkinan pelatihan merayu fisikawan CERN pada 1990-an, ketika mereka adalah yang pertama yang mengadaptasi jaringan saraf besar untuk bekerja dalam sains. Jaringan saraf sangat membantu dalam rekonstruksi lintasan pecahan bom subatomik, yang tersebar ke sisi-sisi dalam tabrakan partikel di Large Hadron Collider.

Bentuk pelatihan ini juga merupakan alasan bahwa informasi sangat tersebar di seluruh jaringan: seperti di otak, ingatannya dikodekan dalam kekuatan berbagai senyawa, dan tidak disimpan di tempat-tempat tertentu, seperti dalam database yang sudah dikenal. “Di mana digit pertama nomor telepon Anda tersimpan di otak Anda? Mungkin di set sinaps, mungkin tidak jauh dari sisa angka, ”kata Pierre Baldi, Spesialis Pembelajaran Mesin (MO), University of California. Tetapi tidak ada urutan bit yang pasti yang mengkodekan angka tersebut. Akibatnya, seperti yang dikatakan oleh spesialis TI Jeff Clune dari University of Wyoming, "meskipun kami membuat jaringan ini, kami dapat memahaminya tidak lebih baik dari otak manusia."

Bagi para ilmuwan yang bekerja dengan data besar, ini berarti bahwa GO harus digunakan dengan hati-hati. Andrea Vedaldi, seorang spesialis informatika di Universitas Oxford, menjelaskan: Bayangkan bahwa di masa depan, jaringan saraf akan dilatih tentang mammogram untuk menunjukkan apakah kanker payudara sedang dipelajari pada wanita yang diteliti. Setelah itu, anggaplah bahwa jaringan wanita yang sehat tampak rentan terhadap penyakit. "Jaringan saraf dapat belajar mengenali tanda-tanda tumor - yang tidak kita ketahui, tetapi itu dapat memprediksi kanker."

Tetapi jika mesin tidak dapat menjelaskan bagaimana menentukannya, maka, menurut Vedaldi, ini akan menjadi dilema serius bagi dokter dan pasien. Tidak mudah bagi wanita untuk menjalani pengangkatan payudara secara preventif karena adanya fitur genetik yang dapat menyebabkan kanker. Dan untuk membuat pilihan seperti itu akan menjadi lebih sulit, karena bahkan tidak akan diketahui apa faktor ini - bahkan jika prediksi mesin ternyata akurat.

"Masalahnya adalah bahwa pengetahuan tertanam dalam jaringan, bukan di dalam kita," kata Michael Tyka, seorang ahli biofisika dan pemrogram Google. “Apakah kita mengerti sesuatu? Tidak - ini adalah jaringan yang dipahami. "

Beberapa kelompok ilmuwan menangani masalah kotak hitam pada 2012. Sebuah tim yang dipimpin oleh Geoffrey Hinton, seorang spesialis MO dari University of Toronto, berpartisipasi dalam kompetisi visi komputer, dan untuk pertama kalinya menunjukkan bahwa menggunakan GO untuk mengklasifikasikan foto-foto dari basis data 1,2 juta gambar melampaui pendekatan lain dengan menggunakan AI.

Memahami bagaimana ini mungkin, kelompok Vedaldi mengambil algoritma Hinton yang dirancang untuk meningkatkan jaringan saraf dan mendorong mereka mundur. Alih-alih melatih jaringan untuk menafsirkan jawaban dengan benar, tim mengambil jaringan pra-terlatih dan mencoba untuk membuat ulang gambar, berkat yang mereka latih. Ini membantu para peneliti menentukan bagaimana mesin menyajikan beberapa fitur - seolah-olah mereka bertanya semacam jaringan saraf hipotetis yang memprediksi kanker, "Bagian mammogram apa yang telah membawa Anda ke tanda risiko kanker?"

Taika dan rekan-rekan Google-nya menggunakan pendekatan serupa tahun lalu. Algoritma mereka, yang mereka sebut Deep Dream, dimulai dengan gambar, katakanlah, bunga, dan memodifikasinya untuk meningkatkan respons neuron tingkat atas tertentu. Jika neuron suka menandai gambar, katakanlah, burung, maka gambar yang diubah akan mulai menunjukkan burung di mana-mana. Gambar yang dihasilkan menyerupai penglihatan di bawah LSD, di mana burung terlihat di wajah, bangunan dan banyak lagi. "Saya pikir ini sangat mirip dengan halusinasi," kata Taika, yang juga seorang seniman. Ketika dia dan rekan-rekannya melihat potensi algoritma di bidang kreatif, mereka memutuskan untuk membuatnya gratis untuk diunduh. Dalam beberapa hari, topik ini menjadi viral.

Menggunakan teknik yang memaksimalkan output neuron apa pun, dan bukan hanya salah satu yang terbaik, tim Klun pada 2014 menemukan bahwa masalah kotak hitam bisa lebih rumit daripada yang tampak sebelumnya. Jaringan saraf sangat mudah untuk menipu dengan bantuan gambar yang dirasakan oleh orang sebagai noise acak atau pola abstrak. Misalnya, jaringan dapat mengambil garis bergelombang dan memutuskan bahwa itu adalah bintang laut, atau mencampur garis-garis hitam dan putih dengan bus sekolah. Selain itu, tren yang sama muncul dalam jaringan yang dilatih pada set data lainnya.

Para peneliti telah menyarankan beberapa solusi untuk masalah jaringan bodoh, tetapi belum ada solusi umum yang ditemukan. Dalam aplikasi nyata, ini bisa berbahaya. Salah satu skenario yang menakutkan, menurut Clun, adalah bahwa peretas belajar untuk mengambil keuntungan dari kelemahan jaringan ini. Mereka dapat mengirim robomobile ke papan reklame yang akan digunakan untuk jalan, atau menipu pemindai retina di pintu masuk Gedung Putih. "Kita perlu menyingsingkan lengan baju kita dan melakukan penelitian ilmiah yang mendalam untuk membuat MO lebih dapat diandalkan dan cerdas," simpul Klyun.

Masalah seperti itu membuat beberapa ilmuwan komputer berpikir bahwa Anda tidak boleh fokus pada jaringan saraf saja. Zoubin Ghahramani, seorang peneliti MO di University of Cambridge, mengatakan bahwa jika AI harus memberikan jawaban yang orang dapat dengan mudah menafsirkan, ini akan mengarah pada "banyak masalah yang GO tidak bisa membantu mengatasinya." Salah satu pendekatan ilmiah yang cukup dimengerti pertama kali ditunjukkan pada tahun 2009 oleh Lipson dan ahli biologi komputasi Michael Schmidt, yang saat itu bekerja di Universitas Cornell. Algoritme Eureqa mereka menunjukkan proses menemukan kembali hukum Newton dengan mengamati objek mekanis sederhana - sistem pendulum - bergerak.

Dimulai dengan kombinasi acak batu bata matematika seperti +, -, sinus dan cosinus, Eureqa mengubahnya melalui coba-coba, mirip dengan evolusi Darwin, hingga sampai pada formula yang menggambarkan data ini. Dia kemudian menawarkan eksperimen untuk menguji model. Salah satu manfaatnya adalah kesederhanaan, kata Lipson. “Model yang dikembangkan oleh Eureqa biasanya memiliki selusin parameter. Jaringan saraf memiliki jutaan dari mereka. "

Dengan autopilot

Tahun lalu, Garakhmani menerbitkan sebuah algoritma untuk mengotomatisasi karya seorang ilmuwan menurut data, dari data mentah hingga karya ilmiah yang telah selesai. Peranti lunaknya, Automatic Statistician, memperhatikan tren dan anomali dalam kumpulan data dan memberikan pendapat, termasuk penjelasan terperinci tentang alasannya. Transparansi ini, katanya, "sangat penting" untuk digunakan dalam sains, tetapi juga penting untuk penggunaan komersial. Misalnya, di banyak negara, bank yang menolak pinjaman diwajibkan secara hukum untuk menjelaskan alasan penolakan - dan ini mungkin tidak dapat dilakukan dengan algoritma GO.

Organisasi yang berbeda memiliki keraguan yang sama, jelas Ellie Dobson, direktur ilmu data di Arundo Analytics di Oslo. Jika, misalnya, ada yang tidak beres di Inggris karena perubahan dalam tingkat dasar, Bank of England tidak dapat dengan mudah mengatakan "itu semua karena kotak hitam."

Namun, terlepas dari semua ketakutan ini, para ilmuwan komputer mengatakan bahwa upaya untuk menciptakan AI yang transparan harus menjadi pelengkap pertahanan sipil, dan bukan pengganti untuk teknologi ini. Beberapa teknik transparan dapat bekerja dengan baik di daerah yang telah digambarkan sebagai satu set data abstrak, tetapi tidak mengatasi persepsi - proses penggalian fakta dari data mentah.

Akibatnya, menurut mereka, jawaban kompleks yang diterima berkat Kementerian Pertahanan harus menjadi bagian dari alat sains, karena dunia nyata itu kompleks. Untuk fenomena seperti cuaca atau pasar keuangan, reduksionis, deskripsi sintetis mungkin tidak ada. "Ada hal-hal yang tidak dapat dijelaskan dengan kata-kata," kata Stephane Mallat, seorang ahli matematika terapan di Politeknik Paris. "Ketika Anda bertanya kepada dokter mengapa ia membuat diagnosis seperti itu, ia akan menjelaskan alasannya untuk Anda," katanya. - Tetapi mengapa Anda perlu 20 tahun untuk menjadi dokter yang baik? Karena informasi diperoleh bukan hanya dari buku. ”

Menurut Baldi, ilmuwan harus menerima GO dan tidak melonjak tentang kotak hitam. Mereka memiliki kotak hitam di kepalanya. "Anda terus-menerus menggunakan otak, Anda selalu memercayainya, dan Anda tidak mengerti cara kerjanya."

Source: https://habr.com/ru/post/id398451/