Khawatir tentang kecerdasan buatan yang mengambil alih dunia mungkin didasarkan pada asumsi yang tidak ilmiah

Apakah kita perlu takut dengan kecerdasan buatan (AI)? Bagi saya, ini adalah pertanyaan sederhana, dengan jawaban yang bahkan lebih sederhana: tidak. Tetapi tidak semua orang setuju dengan saya - banyak orang, termasuk Stephen Hawking, telah menyatakan keprihatinannya bahwa munculnya sistem AI yang kuat dapat berarti akhir bagi umat manusia.

Pandangan Anda tentang pertanyaan apakah AI akan menguasai dunia atau tidak, jelas, akan tergantung pada apakah AI dapat mengembangkan perilaku wajar yang lebih unggul daripada perilaku manusia - sesuatu yang disebut "kecerdasan super". Mari kita lihat kemungkinan proses ini, dan mengapa ada kekhawatiran tentang masa depan AI.

Orang biasanya takut dengan apa yang tidak mereka mengerti. Ketakutan sering membuat bertanggung jawab atas rasisme, homofobia, dan sumber-sumber diskriminasi lainnya. Tidak mengherankan bahwa itu berlaku untuk teknologi baru - mereka sering dikelilingi oleh teka-teki tertentu. Beberapa kemajuan teknologi tampaknya sama sekali tidak realistis, melebihi harapan, dan, dalam beberapa kasus, kemampuan manusia.

Tidak ada semangat di dalam mobil

Mari sobek misteri dari teknologi AI paling populer, yang dikenal sebagai "pembelajaran mesin". Mereka memungkinkan mesin untuk belajar bagaimana menyelesaikan tugas tanpa harus memprogram instruksi khusus. Ini mungkin terlihat menakutkan, tetapi pada kenyataannya turun ke statistik yang cukup membosankan.

Mesin, yaitu, suatu program, atau lebih tepatnya, suatu algoritma, dirancang sedemikian rupa sehingga dapat mengungkapkan hubungan yang tersedia dalam data input. Ada banyak metode berbeda untuk mencapai efek ini. Sebagai contoh, kami dapat menyediakan mesin dengan gambar surat tulisan tangan, dan memintanya untuk mengenali urutan huruf-huruf ini. Kami telah memberikan jawaban yang memungkinkan kepadanya - ini hanya dapat berupa huruf-huruf alfabet. Pertama, mesin secara acak menamai surat itu, dan kami memperbaikinya, memberikan jawaban yang benar. Kami juga memprogram mesin untuk menyetel sendiri, dan kali berikutnya mereka memberikan surat itu, lebih mungkin memberi kami jawaban yang benar. Akibatnya, seiring waktu, mesin meningkatkan efisiensinya dan "belajar" untuk mengenali alfabet.

Kami, pada kenyataannya, memprogram mesin untuk menggunakan hubungan umum dalam data untuk mencapai tujuan tertentu. Misalnya, semua varian huruf "a" terlihat serupa secara struktural, tetapi berbeda dari "b," yang dapat dimanfaatkan algoritma. Menariknya, setelah fase pelatihan, mesin dapat menerapkan pengetahuan yang diperoleh ke contoh surat baru, misalnya, ditulis oleh orang yang tulisan tangannya belum pernah terlihat sebelumnya.


Kami memberikan jawaban AI

Namun, orang sudah pandai membaca. Mungkin contoh yang lebih menarik adalah pemain buatan dalam proyek go, Google Deepmind, yang mengalahkan semua pemain manusia. Jelas, dia tidak belajar seperti orang lain - dia sering memainkan permainan dengan dirinya sendiri sehingga tidak ada orang yang bermain sepanjang hidupnya. Dia diprogram untuk menang, dan menjelaskan bahwa kemenangan tergantung pada tindakannya. Dia juga diajari aturan main. Dengan memainkan permainan yang sama berulang-ulang, ia dapat menemukan langkah terbaik dalam setiap situasi, menciptakan gerakan yang belum pernah dilakukan orang sebelumnya.

Balita vs robot

Apakah itu membuat AI yang bermain menjadi lebih pintar dari manusia? Jelas tidak. AI sangat khusus, dirancang untuk jenis tugas tertentu, dan tidak memiliki keserbagunaan orang. Selama bertahun-tahun, orang-orang mulai memahami dunia sedemikian rupa sehingga tidak ada AI yang berhasil, dan dalam waktu dekat, mungkin, tidak akan mampu.

Fakta bahwa AI disebut "kecerdasan" adalah karena fakta bahwa ia mampu belajar. Namun dalam pelatihan, ia tidak menjangkau orang. Anak kecil mampu belajar hanya dengan melihat orang lain memecahkan masalah. AI memerlukan data mobil dan banyak upaya untuk mencapai keberhasilan dalam tugas yang sangat spesifik, dan sangat sulit untuk menggeneralisasikan datanya untuk tugas yang terlalu berbeda dari yang ia latih. Oleh karena itu, jika orang mengembangkan kecerdasan luar biasa dengan cukup cepat di tahun-tahun awal kehidupan mereka, konsep kunci pembelajaran mesin tidak jauh berbeda dari apa yang mereka sepuluh atau dua puluh tahun yang lalu.


Otak anak kecil luar biasa

Keberhasilan AI modern kurang terkait dengan terobosan dalam teknologi, dan lebih bergantung pada jumlah data yang sederhana dan daya komputasi. Penting untuk dicatat bahwa bahkan jumlah data yang tak terbatas tidak akan memberikan kecerdasan manusia AI - pertama kita perlu membuat kemajuan yang signifikan dalam menciptakan teknologi "kecerdasan umum" - dan kita bahkan tidak mendekati untuk menyelesaikan masalah ini.

Secara umum, hanya dari fakta bahwa AI mampu belajar, tidak berarti bahwa AI akan tiba-tiba mempelajari semua aspek kecerdasan manusia dan melampaui kita. Bahkan tidak ada definisi sederhana tentang apa kecerdasan manusia itu, dan kita tidak memiliki pemahaman yang jelas tentang bagaimana kecerdasan itu muncul di otak. Tetapi bahkan jika kita bisa mengetahuinya, dan kemudian menciptakan AI yang akan menjadi lebih cerdas, sama sekali tidak berarti bahwa itu akan menjadi lebih sukses.

Secara pribadi, saya lebih khawatir tentang bagaimana orang menggunakan AI. Algoritma pembelajaran mesin sering dianggap kotak hitam, dan beberapa upaya dilakukan untuk memahami rincian solusi yang ditemukan oleh algoritma. Ini adalah aspek penting yang sering diabaikan sementara kita lebih terobsesi dengan efisiensi, dan kurang dengan pemahaman. Memahami solusi yang terbuka oleh sistem ini adalah penting, karena kita dapat mengevaluasi apakah ini adalah keputusan yang tepat dan apakah kita ingin menerapkannya.

Jika, misalnya, kita melatih sistem kita secara tidak benar, kita bisa mendapatkan mesin yang telah mempelajari hubungan, yang umumnya tidak ada. Misalkan kita ingin membuat mesin yang mengevaluasi siswa potensial untuk berhasil dalam bidang teknik. Idenya mungkin buruk, tapi mari kita sampai sejauh contoh. Secara tradisional, laki-laki mendominasi di bidang ini, yang berarti bahwa contoh pelatihan cenderung diambil dari siswa laki-laki. Jika kita tidak yakin dengan keseimbangan data pelatihan, mesin dapat menyimpulkan bahwa hanya laki-laki yang bisa menjadi insinyur, dan tidak benar menerapkannya pada keputusan di masa depan.

Pembelajaran mesin dan AI adalah alat. Mereka dapat digunakan benar atau salah, seperti yang lainnya. Kita harus peduli tentang cara mereka digunakan, bukan metodenya sendiri. Keserakahan dan kebodohan seseorang lebih menggangguku daripada kecerdasan buatan.