Kecerdasan buatan diciptakan untuk pengambilan keputusan organisasi dan administrasi publik; dia membutuhkan etika manusia, kata johnny penn dari universitas cambridgeKecerdasan buatan (AI) ada di mana-mana, tetapi tidak sepenuhnya ditemukan secara historis. Untuk memahami dampak AI pada kehidupan kita, penting untuk mengevaluasi lingkungan di mana ia diciptakan. Pada akhirnya, statistik dan kontrol negara telah berkembang beriringan selama ratusan tahun.
Pertimbangkan ilmu komputer. Asalnya dapat ditelusuri tidak hanya oleh filsafat analitis, matematika murni dan Alan Turing, tetapi juga mengejutkan, oleh sejarah administrasi publik. Pada tahun 2003, The Government Machine: A Revolutionary Computer History, John Agar dari University College London menyusun pengembangan layanan sipil Inggris ketika ia tumbuh dari 16.000 karyawan pada 1797 menjadi 460.000 pada 1999. Dia melihat kesamaan abnormal antara fungsi birokrasi manusia dan komputer elektronik. (Dia mengakui bahwa dia tidak bisa mengatakan apakah pengamatan ini sepele atau dalam).
Kedua sistem memproses sejumlah besar informasi menggunakan hierarki aturan yang telah ditentukan, tetapi dapat disesuaikan. Tetapi salah satu dari mereka datang dari yang lain. Ini menunjukkan hubungan penting antara organisasi struktur sosial orang dan alat digital yang dirancang untuk melayani mereka. Mr Agar menghubungkan asal ilmu komputer dengan Charles Babbage Analytical Engine, yang dikembangkan di Inggris pada tahun 1820-an. Pengembangannya disubsidi oleh pemerintah, menunjukkan bahwa itu akan berfungsi sebagai sponsornya. Proyek Babbage, catat Mr. Agar, harus dilihat sebagai "perwujudan kegiatan negara."
Hubungan antara sistem komputasi dan struktur organisasi manusia ini mengulangi sejarah AI. Pada 1930-an dan 1940-an, Herbert Simon (gambar di bawah), seorang ilmuwan politik dari University of Chicago yang kemudian mengajar di Carnegie Mellon University, memutuskan untuk mengembangkan pendekatan "ilmiah" pada fondasi struktur manajerial. Simon sebelumnya belajar di bawah kepemimpinan Rudolf Karnap, anggota Lingkaran Positif Logistik Wina. Ini menegaskan keyakinannya bahwa teori yang ada kurang empirisme. Disertasi doktoralnya pada tahun 1947 menjadi buku "Perilaku Administratif", yang berfungsi sebagai dasar di mana semua kegiatan dalam organisasi dapat dipahami menggunakan matriks keputusan.
Kata SimonDia membuat kontribusi besar untuk banyak bidang ilmiah, tidak hanya dalam ilmu politik dan ekonomi, tetapi juga dalam ilmu komputer dan kecerdasan buatan. Dia menciptakan istilah "memuaskan" (untuk menerima apa yang diinginkan, daripada berjuang untuk yang optimal) dan mengembangkan gagasan "rasionalitas terbatas", di mana ia menerima Hadiah Nobel Ekonomi pada tahun 1978. Namun di tahun 1950-an, Simon adalah seorang konsultan di RAND Corporation, sebuah think tank berpengaruh yang didukung oleh Angkatan Udara A.S.
Di RAND, Simon dan dua rekannya: ahli matematika muda Allan Newell dan mantan aktuaris asuransi J. Clifford Shaw, mencoba memodelkan solusi untuk masalah manusia dalam hal bagaimana komputer melakukan operasi tertentu. Untuk ini, Simon meminjam elemen dari sistem yang ia kembangkan dalam Perilaku Administratif untuk mengajarkan komputer untuk "berpikir" seperti seseorang, Simon membuatnya berpikir seperti sekelompok orang.
Produk dari karya tiga ilmuwan adalah mesin virtual, yang disebut Teoritis Logika, bernama prototipe kerja pertama dari kecerdasan buatan. Cetakan dari Theorist yang bekerja selama Proyek Penelitian Musim Panas 1956 di Dartmouth membuat kami memperhatikan kecerdasan buatan, yang memberi nama dan meletakkan dasar bagi seluruh bidang ilmiah. Dalam catatan dari sebuah konferensi di Dartmouth, salah satu peserta menulis bahwa Theorist telah membantu mengatasi rasa takut mendanai bidang penelitian ini. Ini penting karena dana pendanaan intelijen buatan skeptis bahwa bidang penelitian ini berguna.
Bagaimana Simon melihat prestasi ilmiahnya? Setahun setelah konferensi Dartmouth, ia dan Newell mempresentasikan hasil mereka dalam publikasi "Heuristic Problem Solving: The Next Movement in Operations Research." Ungkapan kunci dalam judul: "riset operasi" muncul di Inggris selama Perang Dunia II untuk menerapkan prinsip-prinsip dan statistik ilmiah untuk mengoptimalkan operasi militer, dan kemudian untuk tujuan perusahaan. Kecerdasan buatan adalah untuk bisnis.
Dalam pidatonya kepada para praktisi peneliti operasional di London pada tahun 1957, Simon memperhatikan Frederick Taylor, bapak gerakan manajemen sains, dan Charles Babbage, pendahulu mentalnya. "Fisikawan dan insinyur listrik tidak ada hubungannya dengan penemuan komputer digital," kata Simon. Penemu sesungguhnya, menurut pendapatnya, adalah ekonom Adam Smith. Dia menjelaskan hubungan ini: Insinyur sipil Prancis Gaspard de Prony bermaksud membuat logaritma menggunakan metode yang dibuat dari Smith's Wealth of Nations. Babbage, terinspirasi oleh Prony, menerapkan dugaan ini pada peralatan mekanis. Pada pertengahan 1950-an, Simon mengubahnya menjadi kode program.
Tradisi hidup terus. Banyak sistem kecerdasan buatan modern tidak terlalu meniru pemikiran manusia sebagai pikiran yang kurang berbakat dari institusi birokrasi; metode pembelajaran mesin kami sering diprogram untuk mencapai proporsi manusia super, kecepatan, dan akurasi melalui identitas, ambisi, atau moralitas di tingkat manusia.
Kapitalisme dalam kodeGaris-garis ini dari sejarah kecerdasan buatan: pengambilan keputusan perusahaan, kekuasaan negara dan penggunaan statistik dalam perang - tidak dilestarikan dalam pemahaman kecerdasan buatan yang dapat diakses oleh rakyat.
Alih-alih, berita terobosan teknis atau pakar yang mengungkapkan kekhawatiran disertai dengan gambar, jika tidak dalam bentuk Terminator yang dipersenjatai dengan baik, maka oleh pikiran, robot, neon microchip, atau persamaan matematika yang absurd. Masing-masing dari mereka bukan konfirmasi kuat dari otoritas ilmu alam atau ilmu komputer sehubungan dengan, katakanlah, "lunak" ilmu, meminjam terminologi Simon, ilmu politik, manajemen, atau bahkan ekonomi, mis. daerah di mana dia pergi ke Stockholm untuk menerima Hadiah Nobelnya.
Mungkin sebagai akibat dari kesan keliru ini, debat publik berlanjut hingga hari ini tentang apa manfaatnya, jika ada, ilmu sosial dapat membawa ke studi kecerdasan buatan. Menurut Simon, kecerdasan buatan itu sendiri lahir dalam ilmu sosial.
David Runciman, seorang ilmuwan politik di University of Cambridge, berpendapat bahwa untuk memahami kecerdasan buatan, pertama-tama kita harus memahami cara kerjanya dalam sistem kapitalis di mana ia tertanam. "Perusahaan adalah bentuk lain dari pemikiran buatan, mereka dirancang untuk dapat membuat keputusan sendiri," jelasnya.
"Banyak ketakutan yang sekarang dialami orang-orang tentang era robot cerdas yang akan datang adalah sama dengan yang mereka miliki tentang asosiasi perusahaan selama beberapa ratus tahun," kata Mr. Runciman. Kekhawatirannya adalah bahwa kita "tidak akan pernah bisa belajar mengendalikan sistem ini."
Misalnya, setelah tumpahan minyak pada 2010, ketika 11 orang meninggal dan Teluk Meksiko hancur, tidak ada yang masuk penjara. Ancaman yang Mr. Runciman peringatkan adalah bahwa metode kecerdasan buatan, seperti taktik untuk menghindari tanggung jawab publik, akan digunakan dengan impunitas.
Saat ini, para peneliti perintis seperti Julia Angwin, Virginia Eubanks, dan Katie O'Neill menunjukkan bagaimana berbagai sistem algoritmik memperkuat kekerasan, menghancurkan martabat manusia, dan melemahkan mekanisme dasar demokrasi, seperti akuntabilitas, jika diciptakan secara tidak bertanggung jawab. Kerugiannya seharusnya tidak disengaja; set data yang bias digunakan untuk melatih model prediksi juga merugikan. Mengingat tenaga kerja mahal yang diperlukan untuk mengidentifikasi dan menghilangkan kerugian yang terjadi, perlu untuk menciptakan sesuatu seperti "layanan etis" yang dibuat sebagai industri yang terpisah. Ms. O'Neill, misalnya, kini telah meluncurkan layanan pengecekan algoritma sendiri.
Pada 1950-an, menciptakan istilah "kecerdasan buatan" untuk sebuah konferensi di Dartmouth, John McCarthy, salah satu perintis pertama di bidang ini, menulis dalam catatannya: "Segera setelah satu sistem epistemologis diprogram dan berfungsi, tidak ada lagi yang akan dianggap serius, selain mengelola program cerdas. " Untuk alasan ini, slogan awal DeepMind “Ketahui pikiran. Gunakan itu untuk mengetahui segalanya, ”kelihatannya hampir seperti kekaisaran.
Saran McCarthy adalah bahwa pengaruh, bukan kekuasaan, dapat menyelesaikan konsensus ilmiah di bidangnya. DeepMind tidak perlu "mengetahui" intelek (asalkan ini mungkin) ia hanya perlu mengalahkan pesaing. Slogan baru perusahaan ini: “Kenali pikiran. Gunakan itu untuk mengetahui segala sesuatu yang lain, ”menunjukkan bahwa ia juga mengakui perlunya diplomasi di era kekuatan total Kecerdasan Buatan.
Stephen Cave, direktur Levergulm Center for Future Research, mengungkapkan bahwa definisi kecerdasan telah digunakan sepanjang sejarah sebagai alat untuk dominasi. Aristoteles beralih ke "hukum kodrat" dari hierarki sosial untuk menjelaskan mengapa wanita, budak, dan hewan harus tunduk kepada orang-orang cerdas. Mengingat warisan brutal ini, kebijakan perusahaan dan agen komputasi harus menyelesaikan masalah kompleks yang dibentuk oleh gender, seksualitas dan kolonialisme sehubungan dengan kualitas pribadi lainnya.
Tanggung jawab utama kecerdasan buatan adalah bahwa ia menyediakan kategorisasi otomatis skala besar. Sebagai contoh, pembelajaran mesin dapat digunakan untuk membedakan tahi lalat ganas dari yang jinak. "Tugas" ini menjadi ancaman ketika ditujukan untuk menyelesaikan masalah kehidupan sehari-hari. Label yang ceroboh dapat melecehkan dan membahayakan ketika mereka mengklaim kekuatan palsu. Dalam protes terhadap label tidak adil yang digunakan untuk "mengetahui" dunia, banyak anak muda hari ini dengan bangga menantang kategorisasi yang tidak diinginkan, baik itu gender tradisional atau pasangan gender.
Mesin itu berpikir lagiMungkin mengejutkan bagi banyak orang bahwa sebab sosial, material, dan politik dari asal usul kecerdasan buatan tidak dipahami dengan baik. Memang, banyak yang telah ditulis tentang sejarah kecerdasan buatan: Simon pada tahun 1996 dan Newell pada tahun 2000. Namun, sebagian besar dari kisah-kisah ini mematuhi beberapa batasan, melihatnya “terutama dalam hal intelektual,” menurut Paul Edwards, seorang sejarawan teknologi informasi.
Masing-masing dari dua kisah kecerdasan buatan yang hampir resmi adalah kisah pemikiran: "The Machines That Think" oleh Pamela McCordack, yang "menciptakan templat untuk sebagian besar kisah selanjutnya" setelah publikasi pertama pada 1979; dan Kecerdasan Buatan: Kisah yang Menyenangkan oleh Daniel Crevier, diterbitkan pada tahun 1993. Kedua buku terutama mengandalkan wawancara terperinci dengan para peneliti utama.
Mungkin tidak seorang pun, sebagai hasilnya, berusaha memahami kecerdasan buatan dalam konteks yang lebih luas, termasuk pengembangan penelitian operasional, "ilmu besar", ilmu aktuaria dan pendanaan militer Amerika, seperti yang telah dikembangkan sejak Perang Dunia Kedua. Dicoret dari kisah-kisah ini, AI dapat dipisahkan dari konteks historis dan politiknya.
Tanpa konteks ini, kecerdasan buatan mungkin juga tampak terpisah dari sistem ilmu yang menciptakannya. Dalam percakapan tahun 1957 dengan para profesional di bidang penelitian operasional, Simon mencatat keragaman masa lalu di bidang ilmiahnya. Dia menggambarkan kontribusi penenun Perancis dan mekanik Jacquard, serta Smith, de Prony, Babbage dan rekan-rekannya dalam ilmu-ilmu lunak, sebagai "hutang" kolektif yang masih harus dibayar.
Pengetahuan baru ini bisa datang begitu tiba-tiba, dan dari begitu banyak tempat, yang membuat Simon bersemangat dalam pekerjaannya - dan mungkin membuat kita berpikir dengan cara yang sama hari ini. AI modern tidak hanya dapat mencerminkan dogma organisasi yang mencirikan kelahirannya, tetapi juga mencerminkan kemanusiaan kita.