Apakah mobil saya berhalusinasi? Apakah algoritma yang mengendalikan sistem pengawasan polisi di kota saya menderita paranoia? Marvin, hitchhiker Android Galaxy, menderita semua dioda di sisi kiri. Apakah pemanggang roti saya memiliki perasaan yang sama?
Ini kedengarannya lucu, tetapi hanya sampai kita memahami bahwa algoritma kita lebih dan lebih seperti diri kita sendiri. Semakin banyak kita belajar tentang otak kita, semakin kita menempatkan pengetahuan ini ke dalam menciptakan versi algoritmik diri kita. Algoritma ini mengontrol kecepatan robot mobil, menentukan tujuan drone militer otonom, menghitung kerentanan kami terhadap iklan komersial dan politik, menemukan belahan jiwa dalam layanan online dan menilai risiko untuk asuransi dan pinjaman. Algoritma menjadi latar belakang yang hampir masuk akal untuk kehidupan kita.
Algoritma yang paling populer digunakan saat ini dalam pekerjaan adalah algoritma dengan
pembelajaran yang mendalam . Mereka menyalin arsitektur otak manusia, membangun model informasi yang kompleks. Mereka dilatih untuk memahami realitas di sekitarnya melalui persepsinya, menentukan apa yang penting, dan memahami apa yang datang darinya. Mereka tampak seperti otak kita, dan risiko mereka terhadap masalah psikologis semakin besar.
Deep Blue, algoritma yang mengalahkan juara catur dunia Garry Kasparov pada tahun 1997, menggunakan brute force, mengurutkan satu juta posisi per detik dan memprediksi hingga 20 gerakan di masa depan. Semua orang mengerti cara kerjanya, bahkan jika mereka tidak bisa mengulanginya. AlphaGo, sebuah algoritma pembelajaran mendalam yang mengalahkan Lee Sedola pada tahun 2016, pada dasarnya berbeda. Dia menggunakan jaringan saraf untuk menciptakan pemahamannya sendiri tentang permainan, yang dianggap paling sulit dari semua permainan papan. AlphaGo
dilatih dengan memperhatikan orang lain, dan bermain dengan dirinya sendiri. Programmer dan pemain go bingung dengan gaya permainan AlphaGo yang tidak konvensional. Strateginya pada awalnya tampak tidak biasa. Dan hanya dengan begitu kita mengerti apa yang ada dalam pikirannya, dan kemudian, bukan 100%.
Untuk lebih menjelaskan kepada Anda apa yang saya maksud dengan refleksi, pertimbangkan yang berikut ini. Program seperti Deep Blue mungkin memiliki kesalahan dalam kode. Mereka mungkin jatuh dari kehabisan memori. Mereka mungkin lumpuh karena loop tak terbatas atau hanya memberikan jawaban yang salah. Tetapi semua masalah ini dapat diselesaikan oleh seorang programmer yang memiliki akses ke kode sumber program dengan mana algoritma itu ditulis.
Algoritma seperti AlphaGo bekerja sangat berbeda. Masalah mereka sangat sulit dilihat, hanya dengan melihat kode program. Mereka terkait dengan penyajian informasi internal. Pandangan ini adalah ruang multidimensi yang selalu berubah yang menyerupai lanskap mimpi. Memecahkan masalah algoritma seperti ini membutuhkan tidak lebih dan tidak kurang dari seorang psikoterapis untuk algoritma.
Ambil kendaraan tak berawak. Robomobile, yang melihat tanda berhenti pertama di dunia nyata, telah melihat jutaan tanda berhenti selama pelatihan dalam proses membangun representasi mental dari tanda ini. Di bawah kondisi pencahayaan yang berbeda, dalam cuaca baik dan buruk, dengan lubang peluru dan tanpa mereka - tanda berhenti berisi sejumlah besar informasi yang beragam. Dalam kondisi paling normal, robot akan mengenali tanda berhenti. Tetapi tidak semua kondisinya normal. Beberapa percobaan baru-baru
ini menunjukkan bahwa beberapa stiker hitam yang menutupi tanda berhenti dapat mengelabui algoritma yang memutuskan bahwa itu adalah, pada kenyataannya, tanda batas kecepatan hingga 60 mph. Algoritma, setelah bertemu dengan sesuatu yang sangat mirip dengan bayangan pohon yang kontras, mulai berhalusinasi.
Dan berapa banyak cara yang dimiliki oleh sebuah algoritma halusinasi? Untuk mengetahuinya, kami harus menanyakan algoritme semua kemungkinan kombinasi data input. Ini berarti bahwa ada sesuatu yang salah dalam jumlah yang tak terbatas. Pemrogram ahli telah lama mengetahui hal ini, dan mereka menggunakannya untuk menciptakan apa yang disebut contoh permusuhan. Kelompok riset MIT LabSix dari MIT
menunjukkan bahwa dengan mengeluarkan gambar khusus ke algoritme klasifikasi gambar Google dan menggunakan data yang diterima darinya, orang dapat mengidentifikasi titik kelemahannya. Dan kemudian mereka dapat menggunakan kelemahan ini untuk menipu algoritme - misalnya, untuk membuatnya percaya bahwa x-ray sebenarnya adalah gambar dua anak anjing yang bermain di rumput.
Algoritma juga dapat membuat kesalahan, karena mereka terkadang merasakan fitur lingkungan yang berkorelasi dengan hasil akhir, meskipun mereka tidak memiliki hubungan sebab akibat dengan itu. Dalam dunia algoritma, ini disebut
pelatihan ulang . Ketika ini terjadi di otak, kita menyebutnya takhayul.
Salah satu kegagalan algoritmik terbesar saat ini adalah yang disebut. "
parabola Google Flu " [prediksi epidemi flu]. Google Flu menggunakan informasi yang dicari orang di Google untuk memprediksi tempat dan intensitas wabah flu. Pada awalnya, prediksi Google Flu bekerja dengan baik, tetapi akhirnya mulai memburuk sampai, akhirnya, sistem mulai memprediksi dua kali lebih banyak kasus influenza daripada yang terdaftar di Pusat Pengendalian Penyakit AS. Google Flu, sebagai dukun algoritmik, tidak memperhatikan apa yang dibutuhkan.
Mungkin patologi algoritmik dapat diperbaiki. Namun dalam praktiknya, algoritme sering berupa kotak hitam berpemilik yang pembaruannya dilarang oleh undang-undang perdagangan.
Weapon of Mathematic Defeat karya Katie O'Neill 2016 menggambarkan parade aneh yang sebenarnya, yang terdiri dari algoritma komersial yang patologi liciknya merusak kehidupan orang. Yang menarik adalah kesalahan algoritmik yang membagi orang kaya dan orang miskin. Orang miskin lebih cenderung memiliki masalah kredit, tinggal di tempat-tempat dengan tingkat kejahatan tinggi, dan dikelilingi oleh orang miskin lainnya dengan masalah yang sama. Karena itu, algoritma memilih orang-orang ini sebagai target untuk menipu iklan yang memberi makan pada keputusasaan mereka, menawarkan mereka pinjaman
subprime , dan mengirim lebih banyak polisi ke daerah tempat tinggal mereka, meningkatkan kemungkinan bahwa polisi akan menahan mereka atas kejahatan yang terjadi pada frekuensi yang sama dan di daerah yang lebih kaya. Algoritme yang digunakan oleh sistem peradilan menetapkan orang-orang seperti itu untuk waktu yang lama, mengurangi kesempatan mereka untuk bersyarat, memblokir lowongan untuk mereka, meningkatkan bunga hipotek, membutuhkan premi asuransi besar, dan sebagainya.
Lingkaran setan algoritmik ini disembunyikan dalam boneka bersarang yang terdiri dari kotak hitam: algoritme kotak hitam yang menyembunyikan proses pemrosesan dalam pemikiran mereka tentang dimensi yang lebih tinggi, yang tidak dapat kami akses, disembunyikan di dalam kotak hitam hak kepemilikan atas algoritme. Di beberapa tempat, misalnya, di New York, ini telah menyebabkan proposal untuk adopsi undang-undang yang mensyaratkan pemantauan keadilan dari algoritma yang digunakan oleh layanan kota. Tetapi jika kita bahkan tidak dapat mendeteksi distorsi kognitif dalam diri kita, bagaimana kita dapat mengharapkan mereka terdeteksi dalam algoritma kita?
Algoritma, pelatihan data manusia, memperoleh distorsi kami. Dalam sebuah
studi baru-baru
ini yang dipimpin oleh Eileen Kaliskan dari Princeton University, ditemukan bahwa algoritma berbasis berita dengan cepat memperoleh bias ras dan gender. Seperti dicatat Kaliskan: “Banyak orang percaya bahwa mobil tidak memiliki prasangka. Tapi mesin melatih data manusia. Dan orang-orang memiliki prasangka. "
Jejaring sosial adalah sarang bias manusia dan kebencian ular. Algoritma yang menghabiskan banyak waktu di jejaring sosial dengan cepat menjadi fanatik buta. Mereka mendapatkan prasangka terhadap perawat dan insinyur wanita. Mereka salah paham masalah seperti imigrasi dan hak-hak minoritas. Sedikit lagi, dan algoritme akan mulai memperlakukan orang dengan tidak adil seperti orang yang berhubungan satu sama lain. Tetapi algoritma secara inheren terlalu percaya diri pada infalibilitasnya. Dan kecuali Anda melatih mereka sebaliknya, mereka tidak akan memiliki alasan untuk mencurigai diri mereka tidak kompeten (semuanya seperti orang lain).
Dalam algoritma yang saya jelaskan, masalah psikologis muncul karena kualitas data yang mereka latih. Tetapi algoritma dapat memiliki masalah yang sama karena struktur internal mereka. Mereka dapat melupakan informasi lama ketika mempelajari informasi baru. Bayangkan Anda ingat nama kolega baru dan tiba-tiba lupa di mana Anda tinggal. Dalam kasus ekstrim, algoritma mungkin menderita karena yang disebut “
Catastrophic Forgetting ” ketika algoritma secara keseluruhan tidak lagi dapat belajar dan mengingat sesuatu yang baru.
Teori gangguan kognitif yang berkaitan dengan usia didasarkan pada ide yang sama: ketika memori menjadi kelebihan beban, baik otak dan komputer membutuhkan lebih banyak waktu untuk menemukan apa yang mereka ketahui.
Kapan tepatnya suatu kasus berbelok secara patologis - tergantung pada sudut pandangnya. Akibatnya, kelainan psikologis pada orang sering tetap tidak terpecahkan.
Synesthetics , seperti putriku, di mana persepsinya surat-surat tertulis dikaitkan dengan warna-warna tertentu, sering tidak menyadari bahwa mereka memiliki bakat khusus untuk persepsi, hingga remaja.
Bukti dari analisis pidato Ronald Reagan sekarang menunjukkan bahwa ia menderita demensia sebagai presiden. Sebuah artikel oleh The Guardian
menggambarkan bagaimana penembakan massal yang terjadi di Amerika Serikat sekitar sembilan dari setiap sepuluh hari dalam lima tahun terakhir
sering dipentaskan oleh apa yang disebut "Normal" orang yang tidak tahan dengan penganiayaan dan depresi.
Dalam banyak kasus, beberapa gangguan berturut-turut diperlukan untuk mendeteksi masalah. Diagnosis skizofrenia membutuhkan setidaknya satu bulan untuk mengamati gejalanya. Gangguan kepribadian asosial - istilah modern untuk psikopati dan sosiopati - tidak dapat didiagnosis pada orang di bawah usia 18 tahun, dan kemudian mereka dapat didiagnosis hanya jika seseorang memiliki gangguan perilaku hingga 15 tahun.
Sebagian besar gangguan psikologis tidak memiliki biomarker, sama seperti tidak ada bug dalam kode AlphaGo. Masalah dalam "peralatan" kami tidak terlihat. Dia ada di "perangkat lunak" kita. Banyak pilihan untuk gangguan otak membuat setiap masalah psikologis menjadi unik. Kami mengklasifikasikan mereka ke dalam kategori yang luas, seperti
skizofrenia atau
sindrom Asperger , tetapi sebagian besar gangguan memiliki jangkauan yang luas, meliputi gejala yang dapat ditemukan pada kebanyakan orang, pada tingkat tertentu. Pada 2006, psikolog Matthew Keller dan Joffrey Miller menulis bahwa ini adalah properti struktur otak yang tak terhindarkan.
Dalam pikiran seperti kita, banyak yang bisa salah. Carl Jung pernah menyarankan bahwa di dalam setiap orang yang cerdas terletak orang gila. Semakin algoritma kita menjadi seperti kita, semakin mudah baginya untuk bersembunyi di dalamnya.
Thomas Hills adalah profesor psikologi di University of Warwick di Coventry, Inggris.