Kisah AI yang tak terhitung

Sejarah AI sering diceritakan bagaimana sejarah mesin secara bertahap menjadi lebih pintar. Tetapi faktor manusia hilang dalam cerita, pertanyaan tentang merancang dan melatih mesin, dan bagaimana mereka muncul, berkat upaya manusia, mental dan fisik.

Mari kita pelajari kisah AI manusia ini dengan Anda - bagaimana inovator, pemikir, pekerja, dan terkadang spekulator menciptakan algoritma yang dapat mereproduksi pemikiran dan perilaku manusia (atau berpura-pura bahwa mereka direproduksi). Gagasan komputer super-cerdas yang tidak memerlukan keterlibatan manusia bisa sangat menarik - tetapi sejarah sebenarnya dari mesin pintar menunjukkan bahwa AI kita sebaik kita.

Ketika Charles Babbage bermain catur dengan mekanik Turki pertama

Insinyur abad ke-19 yang terkenal mungkin terinspirasi oleh contoh pertama hype di sekitar AI

Pada 1770, di istana Permaisuri Austria Maria Theresa , penemu Wolfgang von Kempelen mendemonstrasikan mesin bermain catur . "Turk", demikian Kempelen menyebut penemuannya, adalah sosok manusia seukuran manusia yang diukir dari cedar [menurut sumber lain - lilin / kira-kira. diterjemahkan.], berpakaian sebagai perwakilan dari Kekaisaran Ottoman, duduk di belakang kabinet kayu, di atas meja yang merupakan papan catur.

Kempelen menyatakan bahwa mobilnya mampu mengalahkan punggawa apa pun, dan panggilan ini diterima oleh salah satu penasihat Maria Theresa. Kempelen membuka pintu kabinet, mendemonstrasikan mekanisme yang mirip dengan jarum jam - jaringan pengungkit dan roda gigi yang rumit, dan kemudian memasukkan kunci ke dalam mobil dan memulainya. Senapan mesin hidup kembali, dan mengangkat tangan kayu untuk menggerakkan sosok pertama. Dalam 30 menit, ia mengalahkan lawannya.

Si Turki membuat sensasi. Selama sepuluh tahun berikutnya, Kempelen muncul dengan mesin caturnya di Eropa, mengalahkan banyak orang terpintar pada masa itu, termasuk Benjamin Franklin dan Frederick II. Setelah kematian Kempelen pada 1804, Johann Nepomuk Melzel , seorang mahasiswa di sebuah universitas Jerman dan seorang perancang alat musik yang melanjutkan penampilannya di seluruh dunia, mengakuisisi Turku.

Salah satu dari mereka yang diizinkan untuk melihat mobil secara lebih rinci adalah Charles Babbage , seorang insinyur dan ahli matematika Inggris yang terkenal. Pada tahun 1819, Babbage bermain dua kali dengan Turk dan kalah dua kali. Menurut sejarawan Tom Standage, yang menulis kisah terperinci tentang Turk, Babbage curiga bahwa mesin itu bukan mesin pintar, tetapi hanya tipuan licik, dan bahwa ia menyembunyikan seorang pria yang mengendalikan pergerakan si Turki dari dalam.



Babbage benar. Di belakang layar mekanisme Turki adalah sebagai berikut: Kempelen dan Melzel menyewa grandmaster untuk duduk diam-diam di dalam kotak besar. Sang grandmaster dapat melihat apa yang terjadi di papan tulis berkat magnet yang memberikan bayangan cermin dari potongan-potongan yang ditempatkan.

Untuk mengendalikan tangan Turk, pemain tersembunyi menggunakan pantograf, sistem balok yang menyinkronkan gerakan tangannya dengan Turk kayu. Pemain itu memindahkan tuas pada papan magnetik, memutarnya untuk membuka dan menutup jari-jari si Turki, dan kemudian memindahkan sosok itu ke tempat yang tepat. Ruangan tempat sang grandmaster duduk berisi beberapa panel geser dan kursi beroda, bergerak di atas rel yang dilumuri minyak, yang memungkinkannya untuk bergerak maju dan mundur ketika Melzel membuka kotak untuk dilihat semua orang.

Dan meskipun Babbage mencurigai trik semacam itu, ia tidak membuang waktu untuk mengeksposnya, seperti banyak orang sezamannya. Namun, pertemuannya dengan Turk, tampaknya, menentukan pemikirannya selama bertahun-tahun.


Charles Babbage mengembangkan mesin perbedaan No. 2 dari tahun 1847 hingga 1849, tetapi selama hidupnya mesin itu tidak dibangun.

Segera setelah itu, ia mulai bekerja pada kalkulator mekanik otomatis yang disebut " mesin perbedaan ", yang ia maksudkan untuk digunakan untuk membuat tabel logaritmik bebas kesalahan. Desain pertama mesin itu, yang bisa berbobot 4 ton, berisi 25.000 komponen logam. Pada tahun 1830-an, ia meninggalkannya, mulai bekerja pada mekanisme yang lebih kompleks, "mesin analitik." Dia memiliki "repositori" dan "penggilingan" yang berfungsi sebagai memori dan prosesor, serta kemampuan untuk menafsirkan instruksi perangkat lunak yang terdapat pada kartu punch.

Awalnya, Babbage berharap bahwa mesin analitik akan bekerja hanya sebagai versi perbaikan dari perbedaan. Tetapi rekannya, Ada Lovelace , menyadari bahwa programabilitas mesin memungkinkannya berfungsi dalam mode yang lebih umum. Dia menyatakan bahwa mesin seperti itu akan menimbulkan jenis baru "sains puitis," dan matematikawan akan melatih mesin untuk melakukan tugas dengan memprogramnya. Dia bahkan meramalkan bahwa mesin itu akan mampu menyusun "karya musik ilmiah yang kompleks."


Ada Lovelace dan Charles Babbage

Babbage akhirnya setuju dengan Lovelace, dan membayangkan bagaimana potensi mesin serba guna, yang mampu tidak hanya menggiling angka, dapat mengubah dunia. Secara alami, pikirannya kembali untuk bertemu dengan Turk. Pada tahun 1864, ia menulis dalam buku harian tentang keinginannya untuk menggunakan "catatan mekanis" untuk menyelesaikan masalah yang sama sekali baru. "Setelah berpikir serius, untuk pengujian saya, saya memilih mesin licik yang dapat berhasil memainkan permainan intelektual, seperti catur."

Meskipun secara teknis mesin Turk dan Babbage sama sekali tidak terhubung, kemungkinan keberadaan kecerdasan mesin yang terkandung dalam mistifikasi von Kempelen tampaknya telah menginspirasi Babbage untuk berpikir tentang mobil dalam cahaya yang sama sekali baru. Seperti yang ditulis rekannya kemudian, David Brewster: "Mainan otomatis ini, yang dulu menghibur rakyat jelata, sekarang terlibat dalam meningkatkan kemampuan dan pengembangan jenis peradaban kita."

Pertemuan Babbage dengan Turk di awal sejarah komputasi berfungsi sebagai pengingat bahwa hype dan inovasi kadang-kadang berjalan seiring. Tapi itu mengajarkan kita satu hal lagi: kecerdasan yang dikaitkan dengan mesin hampir selalu didasarkan pada prestasi manusia yang tersembunyi.

Pemrogram komputer perempuan yang tak terlihat ENIAC

Orang-orang yang menjalankan ENIAC hampir tidak menerima pengakuan

Marilyn Veskov (kiri) dan Ruth Lichterman adalah dua programmer wanita ENIAC

Pada 14 Februari 1946, jurnalis berkumpul di Moore's Engineering School di University of Pennsylvania untuk menyaksikan demonstrasi terbuka dari salah satu komputer digital elektronik tujuan umum pertama di dunia: ENIAC (Electronic Numeric Integrator and Computer).

Arthur Burks, seorang ahli matematika dan kepala insinyur dari tim ENIAC, bertanggung jawab atas demonstrasi kemampuan mesin. Pertama, ia menginstruksikan komputer untuk menambah 5.000 angka, yang dilakukan dalam 1 detik. Kemudian dia menunjukkan bagaimana sebuah mesin dapat menghitung lintasan proyektil lebih cepat daripada proyektil itu sendiri yang harus terbang dari pistol ke sasaran.

Wartawan tercengang. Bagi mereka, Burks hanya perlu menekan satu tombol, dan mobil itu akan hidup kembali untuk menghitung dalam beberapa saat apa yang telah dilakukan orang selama berhari-hari.

Apa yang mereka tidak tahu, atau apa yang disembunyikan selama demonstrasi, adalah bahwa di balik kecerdasan yang tampak dari mesin itu adalah kerja keras dan lanjutan dari tim programmer yang terdiri dari enam wanita yang sebelumnya bekerja sebagai "komputer".


Betty Jennings (kiri) dan Francis Bilas bekerja dengan panel kontrol utama ENIAC

Rencana untuk membangun mesin yang mampu menghitung lintasan kerang lahir pada tahun-tahun awal Perang Dunia II. Sekolah Teknik Moore bekerja dengan Laboratorium Penelitian Balistik (BRL), di mana tim yang terdiri dari 100 orang "kalkulator manusia" secara manual menghitung tabel api artileri.

Tugas tersebut membutuhkan tingkat pengetahuan yang baik dalam matematika, termasuk kemampuan untuk menyelesaikan persamaan diferensial nonlinier, analisis diferensial dan aturan slide . Tetapi pada saat yang sama, perhitungan dianggap pekerjaan klerikal, tugas yang terlalu membosankan untuk dilakukan insinyur laki-laki. Oleh karena itu, BRL merekrut wanita - kebanyakan mereka yang bergelar sarjana dan kegemaran matematika - untuk pekerjaan ini.

Selama perang, kemampuan untuk memprediksi jalur penerbangan peluru semakin dikaitkan dengan strategi militer, dan BRL semakin menuntut hasil.

Pada tahun 1942, fisikawan John Mowchley menulis memo yang mengusulkan untuk membuat kalkulator elektronik yang dapat diprogram untuk keperluan umum yang dapat mengotomatisasi perhitungan. Pada Juni 1943, Mouchley, bersama dengan insinyur J. Presper Eckert, telah menerima dana untuk pembangunan ENIAC.


J. Presper Eckert, John Mouchley, Betty Jean Jennings dan Herman Goldstein di depan ENIAC

Tujuan dari komputer elektronik adalah untuk menggantikan ratusan orang-komputer dari BRL, serta meningkatkan kecepatan dan efisiensi komputasi. Namun, Mauchly dan Eckert menyadari bahwa mesin baru mereka perlu diprogram untuk menghitung jalur menggunakan kartu berlubang, menggunakan teknologi yang telah digunakan IBM untuk mesinnya selama beberapa dekade.

Adele dan Herman Goldstein, pasangan menikah yang mengawasi pekerjaan kalkulator manusia di BRL, menyarankan bahwa ahli matematika paling kuat dari tim mereka harus terlibat dalam pekerjaan ini. Mereka memilih enam - Kathleen McNulty, Francis Bilas, Betty Jean Jennings, Ruth Lichterman, Elizabeth Schneider, dan Marilyn Veskov - dan mempromosikannya dari kalkulator manusia ke operator.


Elizabeth Betty Schneider Bekerja untuk ENIAC

Tugas pertama mereka adalah mengenal ENIAC secara menyeluruh. Mereka mempelajari gambar-gambar mesin untuk memahami sirkuit elektronik, logika dan struktur fisiknya. Ada sesuatu yang perlu dipelajari: monster 30 ton menempati sekitar 140 meter persegi. m., menggunakan lebih dari 17.000 tabung elektronik, 70.000 resistor, 10.000 kapasitor, 1.500 relay dan 6.000 sakelar manual. Sebuah tim yang terdiri dari enam operator bertanggung jawab untuk mengatur dan memasang mesin untuk melakukan perhitungan tertentu, bekerja dengan peralatan yang melayani kartu punch, dan mencari kesalahan dalam pekerjaan. Untuk ini, operator terkadang harus memanjat ke dalam mesin dan mengganti lampu atau kabel elektronik yang rusak.

ENIAC tidak punya waktu untuk menyelesaikan tepat waktu untuk menghitung penerbangan peluru selama perang. Tetapi segera kekuatannya digunakan oleh John von Neumann untuk menghitung fusi nuklir. Ini membutuhkan penggunaan lebih dari satu juta kartu punch. Fisikawan dari Los Alamos mengandalkan sepenuhnya pada keterampilan pemrograman operator, karena hanya mereka yang tahu cara menangani sejumlah besar operasi.


Programmer ENIAC Kathleen McNulty

Namun, kontribusi pemrogram wanita menerima sangat sedikit pengakuan atau terima kasih. Secara khusus, karena pemrograman mesin masih terkait erat dengan perhitungan manual, dan karena itu dianggap bukan pekerjaan yang profesional, hanya cocok untuk wanita. Insinyur dan fisikawan terkemuka berfokus pada pengembangan dan pembuatan besi, yang mereka anggap lebih penting bagi masa depan komputer.

Karena itu, ketika ENIAC akhirnya diperkenalkan kepada pers pada tahun 1946, enam operator wanita tetap tersembunyi dari mata publik. Fajar Perang Dingin semakin dekat, dan militer AS dengan bersemangat menunjukkan keunggulan teknologinya. Mewakili ENIAC sebagai mesin pintar otonom, para insinyur melukis gambar keunggulan teknologi, menyembunyikan tenaga manusia yang digunakan.

Taktik itu berhasil, dan memengaruhi liputan media tentang kerja komputer pada dekade-dekade berikutnya. Dalam berita ENIAC yang menyebar di seluruh dunia, mobil itu menduduki fokus utama dan menerima julukan seperti "otak elektronik", "penyihir" dan "otak robot buatan manusia".

Pekerjaan keras dan melelahkan dari enam operator wanita yang merangkak di dalam mobil, mengganti kabel dan lampu sehingga alat berat itu dapat melakukan tindakan yang “masuk akal”, sangat ringan.

Mengapa Alan Turing menginginkan kecerdasan buatan untuk membuat kesalahan

Infalibilitas dan kecerdasan bukanlah hal yang sama.

Pada tahun 1950, pada awal era digital, Alan Turing menerbitkan sebuah artikel yang nantinya akan menjadi yang paling terkenal dari karya-karyanya, Computing Machines and Mind , di mana ia mengajukan pertanyaan : "Bisakah mesin berpikir?"

Alih-alih mencoba mendefinisikan konsep "mesin" dan "berpikir," Turing menjelaskan metode yang berbeda untuk menemukan jawaban atas pertanyaan ini, yang terinspirasi oleh permainan salon era Victoria - imitasi. Menurut aturan permainan, seorang pria dan wanita di ruangan yang berbeda berbicara satu sama lain, memberikan catatan melalui perantara. Sang mediator, yang juga berperan sebagai hakim, perlu menebak siapa di antara mereka yang seorang pria dan mana yang seorang wanita, dan tugasnya diperumit oleh fakta bahwa pria itu mencoba meniru seorang wanita.

Terinspirasi oleh permainan ini, Turing mengembangkan eksperimen pemikiran di mana salah satu peserta digantikan oleh komputer. Jika komputer dapat diprogram untuk memainkan simulasi dengan baik sehingga hakim tidak dapat mengatakan apakah dia berbicara tentang mesin atau seseorang, maka akan lebih bijak untuk menyimpulkan, Turing berpendapat, bahwa mesin memiliki kecerdasan.

Eksperimen pemikiran ini dikenal sebagai tes Turing , dan sampai hari ini tetap menjadi salah satu ide paling terkenal dan kontroversial di AI. Dia tidak kehilangan daya tariknya, karena dia memberikan jawaban yang jelas untuk pertanyaan yang sangat filosofis: "Bisakah mesin berpikir?" Jika komputer lulus tes Turing, maka jawabannya adalah ya. Seperti yang ditulis oleh filsuf Daniel Dennett , tes Turing seharusnya menghentikan debat filosofis. "Alih-alih berdebat tanpa henti tentang sifat dan esensi pemikiran," tulis Dennett, "mengapa kita tidak setuju bahwa apa pun sifat ini, segala sesuatu yang dapat melewati tes ini pasti memilikinya."

Namun, pembacaan yang lebih menyeluruh dari karya Turing mengungkapkan detail kecil yang memperkenalkan sedikit ambiguitas ke dalam tes, yang menunjukkan bahwa, mungkin, Turing tidak berarti tes praktis mesin untuk kecerdasan, tetapi provokasi filosofis.

Di salah satu bagian dari makalah ini, Turing memberikan simulasi tentang seperti apa tes itu menggunakan komputer cerdas imajiner masa depan. Orang itu mengajukan pertanyaan, dan komputer menjawab.

T: Tolong tulis soneta tentang jembatan di atas Benteng.

A: Di sini saya dipaksa untuk menolak. Saya tidak pernah punya puisi.

T: Tambahkan 34957 dan 70764.

A: (jawab setelah jeda 30 detik): 105621.

T: Apakah Anda bermain catur?

A: Ya.

T: Rajaku berdiri di e1; Saya tidak punya figur lain. Rajamu ada di e3 dan benteng di a8. Langkahmu. Bagaimana anda akan pergi

O: (Setelah berpikir sekitar lima belas detik): La1, mat.

Dalam percakapan ini, komputer membuat kesalahan aritmatika. Jumlah sebenarnya bilangan akan 105721, bukan 105621. Tidak mungkin bahwa Turing, seorang ahli matematika yang brilian, secara tidak sengaja membuatnya. Sebaliknya, itu adalah telur paskah untuk pembaca yang penuh perhatian.

Di tempat lain dalam artikel itu, Turing tampaknya mengisyaratkan bahwa kesalahan ini adalah trik programmer yang dirancang untuk menipu hakim. Turing mengerti bahwa jika pembaca komputer yang penuh perhatian menjawab ada kesalahan, mereka akan memutuskan bahwa mereka sedang berbicara dengan seseorang, dengan asumsi mesin itu tidak akan membuat kesalahan seperti itu. Turing menulis bahwa mesin itu dapat diprogram untuk "sengaja memasukkan kesalahan dalam jawaban, yang dirancang untuk membingungkan interogator."

Dan jika ide menggunakan kesalahan untuk memberi petunjuk pada pikiran manusia sulit untuk dipahami pada tahun 1950-an, hari ini telah menjadi praktik desain untuk programmer yang bekerja dengan pemrosesan bahasa alami. Misalnya, pada Juni 2014, chatbot Zhenya Gustman menjadi komputer pertama yang lulus tes Turing. Namun, para kritikus menunjukkan bahwa Zhenya berhasil melakukan ini hanya berkat trik bawaannya: ia berpura-pura menjadi bocah lelaki berusia 13 tahun yang memiliki bahasa Inggris bukan bahasa ibu. Ini berarti bahwa kesalahannya dalam sintaksis dan tata bahasa, serta pengetahuan yang tidak lengkap, keliru dikaitkan dengan kenaifan dan ketidakdewasaan, alih-alih ketidakmampuan untuk memproses bahasa alami.

Demikian juga, setelah asisten suara Duplex Google menyerang audiens dengan jeda dalam percakapan dan penggunaan suara yang mengisi mereka, banyak yang menunjukkan bahwa perilaku ini bukan hasil dari pemikiran sistem, tetapi tindakan yang diprogram khusus yang dirancang untuk mensimulasikan proses pemikiran manusia.

Kedua kasus menerapkan ide Turing bahwa komputer dapat secara khusus dibuat untuk membuat kesalahan untuk mengesankan seseorang. Seperti Turing, para programmer Zhenya Gustman dan Duplex mengerti bahwa tiruan ketidaksempurnaan manusia dapat menipu kita.

Mungkin tes Turing tidak mengevaluasi keberadaan pikiran mesin, tetapi kesiapan kita untuk menganggapnya masuk akal. Seperti yang dikatakan Turing sendiri: “Gagasan tentang akal itu sendiri lebih emosional daripada matematika. Betapa masuk akal kita menganggap perilaku sesuatu ditentukan tidak kurang oleh keadaan pikiran dan keterampilan kita sendiri daripada oleh sifat-sifat objek yang bersangkutan. "

Dan, mungkin, pikiran bukanlah suatu substansi yang dapat diprogram oleh mesin - yang, tampaknya, ada dalam pikiran Turing - tetapi fitur yang diwujudkan melalui interaksi sosial.

Pemimpi DARPA bertujuan untuk kecerdasan sibernetik

Joseph Karl Robnett Liklider membuat proposal untuk penciptaan "simbiosis manusia dan mesin," yang mengarah pada penemuan Internet

10:30 29 1969 - , , SDS Sigma 7 , , -.

: «LO».

«LOGIN», , , ARPANET, , .

-. , ARPANET , .

Liklider, yang memiliki pendidikan psikologi, menjadi tertarik pada komputer pada akhir 1950-an , bekerja di sebuah perusahaan konsultan kecil. Dia tertarik pada bagaimana mesin-mesin ini dapat memperkuat pikiran bersama umat manusia, dan dia mulai melakukan penelitian di bidang AI yang berkembang pesat. Setelah mempelajari literatur yang ada saat itu, ia menemukan bahwa programmer berniat untuk "mengajarkan" mesin untuk melakukan tindakan tertentu bagi seseorang, seperti bermain catur atau menerjemahkan teks, apalagi, dengan efisiensi dan kualitas yang lebih besar daripada orang.

Konsep kecerdasan mesin ini tidak sesuai dengan Liklider. Dari sudut pandangnya, masalahnya adalah bahwa paradigma yang ada menganggap orang dan mesin sebagai makhluk yang setara secara intelektual. Liklider, bagaimanapun, percaya bahwa pada kenyataannya, orang dan mesin pada dasarnya berbeda dalam kemampuan dan kekuatan kognitif mereka. Orang bekerja dengan baik dengan tugas-tugas tertentu yang masuk akal - seperti kreativitas atau penilaian - dan komputer dengan orang lain, seperti menyimpan data dan memprosesnya dengan cepat.

Alih-alih memaksa komputer untuk mensimulasikan aktivitas intelektual orang, Liklider mengusulkan kolaborasi orang dan mesin, di mana masing-masing pihak menggunakan kekuatannya sendiri. Dia menyarankan bahwa strategi seperti itu akan bergeser dari kompetisi (seperti bermain komputer orang ke catur) ke bentuk aktivitas intelektual yang sebelumnya tidak terpikirkan.

Dalam karya 1960 " Simbiosis mesin dan manusia"Liklider menggambarkan ide ini." Saya berharap bahwa otak manusia dan komputer akan terhubung dengan satu sama lain dengan segera, dan bahwa kemitraan yang dihasilkan akan dapat berpikir seperti tidak ada otak, dan memproses data dengan cara yang tidak diproses oleh mesin modern. Untuk Lyclyder, contoh yang menjanjikan dari simbiosis tersebut adalah sistem komputer, peralatan jaringan, dan operator manusia, yang dikenal sebagai "lingkungan terestrial semi-otomatis," atau SAGE, yang telah dibuka dua tahun sebelumnya untuk melacak lalu lintas udara. dari ruang Amerika Serikat.

Pada tahun 1963, Liklider mendapat pekerjaan sebagai direktur Departemen Proyek Penelitian Lanjutan (yang saat itu disebut ARPA, dan sekarang - DARPA), di mana ia memiliki kesempatan untuk mengimplementasikan beberapa idenya. Secara khusus, ia tertarik untuk mengembangkan dan mengimplementasikan apa yang pertama kali disebutnya " jaringan komputer intergalaksi ."

Gagasan itu muncul ketika dia menyadari bahwa dalam ARPA perlu menciptakan metode yang efektif untuk memperbarui data yang berkaitan dengan bahasa pemrograman dan protokol teknis, yang dapat diakses oleh tim yang tersebar jauh satu sama lain, yang terdiri dari orang dan mesin. Solusi untuk masalah ini adalah jaringan komunikasi yang menggabungkan tim-tim ini dari jarak jauh. Masalah mengintegrasikan mereka ke dalam jaringan mirip dengan masalah yang dipertimbangkan penulis fiksi ilmiah, ketika ia menunjukkan dalam sebuah memo yang menggambarkan konsep ini : "Bagaimana memulai komunikasi antara makhluk cerdas yang sama sekali tidak terkait satu sama lain?"


Liklider, profesor MIT, dan muridnya Jeff Harris

Liklider meninggalkan ARPA sebelum program pengembangan untuk jaringan ini dimulai. Namun selama lima tahun ke depan, ide-ide luhurnya menjadi bagian integral dari pengembangan ARPANET. Dan ketika ARPANET berubah menjadi apa yang kita kenal sekarang sebagai Internet, beberapa orang mulai melihat bahwa metode komunikasi baru ini adalah kolaborasi entitas manusia dan teknologi, suatu simbion yang terkadang berperilaku, seperti yang dikatakan oleh cybernetist Belgia Francis Hailayen. seperti "otak global."

Saat ini, banyak terobosan signifikan dalam penerapan pembelajaran mesin didasarkan pada kerja bersama orang dan mesin. Sebagai contoh, industri angkutan semakin mencari cara untuk memungkinkan pengemudi manusia dan sistem komputasi menggunakan kekuatan mereka untuk meningkatkan efisiensi pengiriman. Selain itu, di bidang transportasi, Uber telah mengembangkan sistem di mana orang diberikan tugas yang membutuhkan keterampilan mengemudi yang baik, seperti masuk dan keluar dari jalan raya, dan mobil memiliki jam mengemudi rutin di jalan raya.

Meskipun ada banyak contoh lain dari simbiosis manusia dan mesin, kecenderungan budaya untuk membayangkan pikiran mesin sebagai superkomputer terpisah dengan pikiran tingkat manusia masih cukup kuat. Tetapi faktanya, masa depan cyborg, yang dibayangkan Liklider, telah datang: kita hidup di dunia simbiosis mesin dan manusia, yang ia gambarkan sebagai "hidup bersama dalam hubungan erat, atau bahkan dalam penyatuan dua organisme yang berbeda." Alih-alih berfokus pada ketakutan bahwa orang akan digantikan oleh mobil, warisan Liklider mengingatkan kita tentang kemungkinan bekerja dengan mereka.

Bias algoritma muncul kembali pada 1980-an

Di sekolah kedokteran, mereka berpikir bahwa program komputer akan membuat proses penerimaan siswa lebih jujur, tetapi ternyata sebaliknya

Pada tahun 1970-an, Dr. Joffrey Franglen dari Fakultas Kedokteran St. George di London mulai menulis sebuah algoritma untuk mengeluarkan aplikasi untuk pelamar.

Pada saat itu, tiga perempat dari 2.500 orang yang mengajukan aplikasi pengantar setiap tahun disaring oleh orang-orang khusus yang mengevaluasi aplikasi tertulis mereka, sebagai akibatnya pelamar tidak mencapai tahap wawancara. Sekitar 70% orang yang menyelesaikan dropout awal terdaftar di sekolah kedokteran. Oleh karena itu, penyaringan awal adalah tahap yang sangat penting.

Franglen adalah wakil dekan dan juga menangani aplikasi. Membaca aplikasi memerlukan terobosan waktu, dan baginya proses ini bisa otomatis. Dia mempelajari teknik putus sekolah yang dia dan pemberi sertifikat lain gunakan, dan kemudian menulis sebuah program yang, katanya, “meniru perilaku orang yang mengaku.”

Motivasi utama Franglen adalah untuk meningkatkan efisiensi proses adopsi, dan ia juga berharap bahwa algoritmanya akan menghilangkan kualitas kerja staf yang tidak konsisten. Dia berharap bahwa dengan menyerahkan proses ini ke sistem teknis, akan mungkin untuk mencapai penilaian yang persis sama dari semua pelamar dan menciptakan proses putus sekolah yang jujur.

Bahkan, semuanya ternyata sebaliknya.

Franglen menyelesaikan algoritmanya pada tahun 1979. Pada tahun itu, aplikasi pelamar diperiksa secara bersamaan oleh komputer dan orang-orang. Franglen menemukan bahwa sistemnya setuju dengan penilaian penilai dalam 90-95% kasus. Administrasi memutuskan bahwa angka-angka ini memungkinkan pejabat untuk diganti dengan suatu algoritma. Pada tahun 1982, semua aplikasi utama untuk masuk ke sekolah mulai dievaluasi oleh program.

Setelah beberapa tahun, beberapa anggota staf khawatir tentang kurangnya keragaman di antara siswa yang masuk. Mereka melakukan penyelidikan internal program Franglen dan menemukan aturan tertentu yang mengevaluasi pelamar untuk faktor-faktor yang tampaknya tidak terkait seperti tempat lahir atau nama. Namun, Franglen meyakinkan komite bahwa aturan-aturan ini dikumpulkan berdasarkan pada pengumpulan data tentang pekerjaan para pengesahan, dan tidak secara signifikan mempengaruhi sampel.

Pada bulan Desember 1986, dua dosen sekolah mengetahui investigasi internal ini dan pergi ke Komisi Persamaan Ras Inggris. Mereka mengatakan kepada komisi bahwa mereka punya alasan untuk percaya bahwa program komputer itu digunakan untuk melakukan diskriminasi terhadap perempuan dan orang kulit berwarna secara diam-diam.

Komisi memulai penyelidikan. Ditemukan bahwa algoritma memisahkan kandidat untuk Kaukasia dan non-Eropa, berdasarkan nama dan tempat lahir mereka. Jika nama mereka bukan orang Eropa, itu berarti mereka minus. Kehadiran hanya nama non-Eropa mengurangi 15 poin dari jumlah total pemohon. Komisi juga menemukan bahwa perempuan diremehkan dengan rata-rata 3 poin. Berdasarkan sistem ini, hingga 60 aplikasi ditolak setiap hari.

Pada waktu itu, diskriminasi ras dan gender sangat kuat di universitas-universitas Inggris - dan St. Georg terperangkap dalam hal ini hanya karena dia mempercayakan bias ini ke program komputer. Karena dapat diperdebatkan bahwa algoritma di bawah ini menilai wanita dan orang-orang dengan nama non-Eropa, komisi menerima bukti kuat diskriminasi.

Sekolah kedokteran itu dituduh melakukan diskriminasi, tetapi turun dengan mudah. Mencoba menebus kesalahan, perguruan tinggi menghubungi orang-orang yang mereka dapat mendiskriminasikan secara tidak sah, dan tiga dari pelamar yang ditolak ditawari sekolah. Komisi mencatat bahwa masalah di sekolah kedokteran tidak hanya teknis, tetapi juga budaya. Banyak karyawan menganggap algoritma penyortiran sebagai kebenaran tertinggi, dan tidak membuang waktu mencari tahu bagaimana memilah pelamar.

Pada tingkat yang lebih dalam, jelas bahwa algoritma mendukung prakonsepsi yang sudah ada dalam sistem penerimaan. Lagi pula, Franglen memeriksa mobil dengan bantuan orang dan menemukan kebetulan 90-95%. Namun, dengan mengkodekan diskriminasi yang dimiliki oleh pemberi sertifikat di dalam mesin, ia memastikan pengulangan bias yang tidak ada habisnya ini.

Kasus Diskriminasi di St. Georg mendapat banyak perhatian. Akibatnya, komisi tersebut melarang pemasukan informasi tentang ras dan etnis dalam aplikasi pelamar. Namun, langkah sederhana ini tidak menghentikan penyebaran bias algoritmik.

Sistem pengambilan keputusan algoritmik semakin banyak digunakan di daerah dengan tingkat tanggung jawab yang tinggi, misalnya, dalam perawatan kesehatan dan peradilan pidana, dan pengulangan, serta penguatan bias sosial yang ada, yang berasal dari data historis, menjadi perhatian serius. Pada 2016, wartawan ProPublica mengungkapkan bahwa perangkat lunak yang digunakan di AS untuk memprediksi kejahatan di masa depan bias terhadap orang Afrika-Amerika. Peneliti Joy Bulamvini kemudian mengungkapkan bahwa perangkat lunak pengenalan wajah Amazon lebih salah dengan wanita kulit hitam.

Meskipun bias mesin dengan cepat menjadi topik yang paling banyak dibicarakan dalam AI, algoritma masih dianggap sebagai objek matematika yang misterius dan tak terbantahkan yang menghasilkan hasil yang masuk akal dan tidak memihak. Seperti yang dikatakan kritikus AI Kate Crawford, sudah waktunya untuk mengakui bahwa algoritma adalah "ciptaan manusia" dan mewarisi bias kita. Mitos budaya dari algoritma yang tidak dapat disangkal sering menyembunyikan fakta ini: AI kita sebaik kita.

Bagaimana Amazon mendorong orang Turki mekanik ke dalam sebuah mesin

Pekerja digital tak kasat mata saat ini menyerupai orang yang memerintah Mechanical Turk abad ke-18

Pada pergantian milenium, Amazon mulai memperluas layanannya di luar menjual buku. Dengan semakin banyaknya kategori produk yang berbeda di situs web perusahaan, perlu untuk menemukan cara-cara baru dalam mengatur dan mengelompokkannya. Bagian dari tugas ini adalah penghapusan puluhan ribu produk duplikat yang muncul di situs.

Programmer mencoba membuat program yang dapat secara otomatis menghilangkan duplikat. Mendefinisikan dan menghapus objek tampak seperti tugas sederhana yang tersedia untuk mesin. Namun, programmer segera menyerah, menyebut tugas pemrosesan data " mustahil ." Untuk tugas yang melibatkan kemampuan untuk melihat ketidakkonsistenan kecil atau kesamaan dalam gambar dan teks, kecerdasan manusia diperlukan.

Amazon mengalami masalah. Menghapus produk duplikat itu sepele bagi orang-orang, tetapi sejumlah besar item akan membutuhkan tenaga kerja yang signifikan. Mengelola pekerja yang terlibat dalam satu tugas seperti itu tidak akan sepele.

Manajer perusahaan Venki Harinarayan memberikan solusi. Patennya menggambarkan "kolaborasi komputasi hibrida antara manusia dan mesin" yang memecah tugas menjadi bagian-bagian kecil, subtugas, dan mendistribusikannya di seluruh jaringan karyawan manusia.

Jika duplikat dihapus, komputer utama dapat membagi situs web Amazon menjadi beberapa bagian kecil - misalnya, 100 halaman pembuka - dan mengirim bagian kepada orang-orang di Internet. Mereka kemudian perlu mengidentifikasi duplikat dalam bagian-bagian ini dan mengirim potongan puzzle kembali.

Sistem terdistribusi menawarkan keuntungan krusial: karyawan tidak perlu menumpuk di satu tempat, mereka dapat melakukan subtugas mereka di komputer, di mana pun mereka berada, dan kapan pun mereka mau. Faktanya, Harinarayan menemukan cara yang efektif untuk mendistribusikan pekerjaan dengan keterampilan rendah, tetapi sulit untuk diotomatisasi, di seluruh jaringan orang yang luas yang dapat bekerja secara paralel.

Metode ini ternyata sangat efektif untuk pekerjaan internal perusahaan sehingga Jeff Bezos memutuskan untuk menjual sistem sebagai layanan kepada pihak ketiga. Bezos mengubah teknologi Harinarayan menjadi pasar bagi para pekerja. Di sana, perusahaan yang memiliki tugas yang mudah bagi orang (tetapi sulit untuk robot) dapat menemukan jaringan pekerja lepas yang melakukan tugas ini dengan biaya kecil.

Inilah bagaimana Amazon Mechanical Turk , atau singkatnya mTurk , muncul . Layanan dimulai pada 2005 , dan basis pengguna mulai tumbuh dengan cepat. Perusahaan dan peneliti di seluruh dunia mulai mengunggah apa yang disebut "Tugas untuk kecerdasan manusia" pada platform, seperti mendekripsi audio atau memberi label gambar. Tugas-tugas itu dilakukan oleh kelompok pekerja internasional dan anonim dengan bayaran kecil (satu karyawan yang frustrasi mengeluh bahwa upah rata-rata adalah 20 sen).

Nama layanan baru mengacu pada mesin bermain catur abad ke-18 - Turk Mekanik, ditemukan oleh pengusaha kecil Wolfgang von Kempelen. Dan seperti dalam otomatisasi palsu itu, di dalamnya ada seseorang yang bermain catur, platform mTurk dirancang untuk menyembunyikan tenaga manusia. Alih-alih nama, pekerja platform memiliki angka, dan komunikasi antara majikan dan pekerja sama sekali tanpa personalisasi. Bezos sendiri menyebut para pekerja yang tidak manusiawi ini " kecerdasan buatan tiruan ."

Saat ini, mTurk adalah pasar yang berkembang dengan ratusan ribu karyawan dari seluruh dunia. Dan meskipun platform menyediakan sumber pendapatan bagi orang-orang yang mungkin tidak memiliki akses ke pekerjaan lain, kondisi kerja di sana sangat diragukan. Beberapa kritikus berpendapat bahwa dengan menyembunyikan dan memisahkan pekerja, Amazon membuatnya lebih mudah untuk beroperasi. Dalam sebuah makalah penelitian dari Desember 2017, ditemukan bahwa gaji rata-rata seorang karyawan adalah sekitar $ 2 per jam, dan hanya 4% karyawan yang berpenghasilan lebih dari $ 7,25 per jam.

Menariknya, mTurk telah menjadi layanan penting untuk mengembangkan pembelajaran mesin. Dalam program MO, satu set data besar dikeluarkan di mana ia belajar untuk mencari pola dan menarik kesimpulan. Pekerja MTurk sering digunakan untuk membuat dan menandai kit ini, dan peran mereka dalam pengembangan MO sering tetap berada di tempat teduh.

Dinamika antara komunitas AI dan mTurk konsisten dengan apa yang telah hadir sepanjang sejarah pikiran mesin. Kami dengan mudah mengagumi penampilan "mesin cerdas" yang otonom, mengabaikan atau sengaja menyembunyikan kerja manusia yang menciptakannya.

Mungkin kita bisa belajar dari pernyataan Edgar Allan Poe . Ketika dia mempelajari Mekanik Turk von Kempelen, dia tidak menyerah pada ilusi ini. Sebaliknya, ia bertanya-tanya seperti apa rasanya seorang pemain catur yang tersembunyi duduk di dalam kotak ini, "meremas" di antara roda gigi dan pengungkit dalam "pose menyakitkan dan tidak wajar."

Saat ini, ketika berita utama tentang terobosan AI memenuhi bidang berita, penting untuk mengingat pendekatan mabuk Poe. Ini bisa sangat menarik - meskipun berbahaya - untuk menyerah pada hype di sekitar AI dan terlalu terbawa oleh ide-ide mesin yang tidak memerlukan manusia belaka. Namun, dengan pertimbangan yang cermat, Anda akan dapat melihat jejak kerja manusia.