Sundar Pichai, CEO Google, salah satu perusahaan terbesar yang bekerja di bidang kecerdasan buatan, mengatakan dalam sebuah wawancara minggu ini bahwa kekhawatiran tentang penggunaan teknologi yang berbahaya "sepenuhnya dibenarkan" - namun, kita harus memercayai industri teknologi dalam hal itu akan dapat semua tanggung jawab untuk mengatur penggunaannya.
Dalam sebuah wawancara dengan The Washington Post, Pichai mengatakan bahwa alat AI baru - dasar inovasi seperti robomobiles dan algoritme pengenalan penyakit - mengharuskan perusahaan untuk
mendefinisikan kerangka kerja etis dan dengan hati-hati mempertimbangkan bagaimana teknologi ini dapat disalahgunakan.
"Saya pikir bisnis teknologi harus memahami bahwa Anda tidak dapat membuatnya terlebih dahulu dan kemudian memperbaikinya," kata Pichai. "Aku pikir itu tidak akan berhasil."
Raksasa teknologi harus memastikan bahwa AI "dengan tujuannya" tidak membahayakan umat manusia, kata Pichai. Dia mengatakan dia optimis tentang manfaat jangka panjang dari teknologi, tetapi penilaiannya terhadap risiko potensial AI setuju dengan beberapa kritik teknologi yang mengklaim bahwa teknologi ini dapat digunakan untuk menerapkan pengawasan invasif, membuat senjata mematikan, dan menyebarkan informasi yang salah. Manajer perusahaan teknologi lainnya, seperti pendiri SpaceX dan Tesla, Elon Musk, membuat prediksi yang lebih berani bahwa AI bisa "jauh lebih berbahaya daripada bom nuklir."
Teknologi AI Google adalah inti dari segalanya, dari proyek perusahaan Cina yang kontroversial hingga teori-teori kebencian dan konspirasi di YouTube, sebuah divisi dari perusahaan. Pichai berjanji untuk memecahkan masalah ini tahun depan. Cara Google memutuskan untuk menggunakan AI juga telah menimbulkan
keresahan baru-baru ini di antara karyawan perusahaan.
Seruan Pichai untuk pengaturan diri mengikuti
pidatonya di Kongres , di mana anggota parlemen mengancam untuk membatasi penggunaan teknologi dalam menanggapi penyalahgunaannya, termasuk sebagai perantara penyebaran informasi yang salah dan ucapan kebencian [hate speech]. Pengakuannya tentang adanya kemungkinan ancaman dari sisi AI sangat penting, karena sebelumnya programmer ini, lahir di India, sering menggembar-gemborkan bagaimana konsekuensi dari memperkenalkan sistem otomatis yang mampu mempelajari dan membuat keputusan tanpa pengawasan manusia akan mengubah dunia.
Pichai mengatakan dalam sebuah wawancara bahwa anggota parlemen di seluruh dunia masih berusaha untuk mewujudkan efek AI dan kebutuhan potensial untuk peraturan negaranya. "Kadang-kadang saya merasa terganggu karena orang-orang meremehkan besarnya perubahan yang dapat terjadi dalam jangka pendek dan menengah, dan saya pikir masalah ini sebenarnya sangat kompleks," katanya. Raksasa teknologi lainnya, termasuk Microsoft, baru-baru ini mengambil regulasi AI, baik dari perusahaan yang menciptakan teknologi ini dan dari pemerintah yang mengawasi penggunaannya.
Namun, dengan penanganan yang tepat, AI dapat memberikan "manfaat luar biasa," Pichai menjelaskan, termasuk membantu dokter dalam mengenali penyakit mata dan penyakit lainnya dengan secara otomatis memindai rekam medis. "Mengatur teknologi pada tahap awal pengembangan sulit, tetapi saya pikir perusahaan harus terlibat dalam pengaturan sendiri," katanya. - Oleh karena itu, kami sangat aktif mencoba menyuarakan seperangkat prinsip AI. Kami mungkin tidak melakukan segalanya dengan benar, tetapi kami pikir penting untuk memulai dialog ini. ”
Pichai, yang bergabung dengan Google pada tahun 2004 dan, setelah mengambil alih sebagai CEO, menyebut AI "salah satu hal terpenting yang sedang dikerjakan manusia" pada bulan Januari dan mengatakan bahwa itu bisa "lebih penting" bagi kemanusiaan daripada "listrik atau api. " Namun, perlombaan untuk meningkatkan mesin yang dapat beroperasi sendiri telah menimbulkan kekhawatiran yang sudah dikenal luas bahwa semangat perusahaan Silicon Valley - "lakukan dengan cepat, lakukan kerusakan," seperti yang pernah dijelaskan oleh Facebook - dapat menyebabkan teknologi yang kuat dan tidak sempurna menghilangkan pekerjaan dan merugikan kepada orang-orang.
Di Google sendiri, upaya untuk menciptakan AI juga kontroversial: perusahaan menghadapi banyak kritik tahun ini karena bekerja pada kontrak untuk Departemen Pertahanan, di mana AI, yang mampu secara otomatis menandai mobil, bangunan, dan objek lainnya, akan digunakan dalam drone militer. Beberapa karyawan bahkan berhenti, menyebut alasan ini pendapatan perusahaan dalam "bisnis militer".
Pichai, dalam menanggapi pertanyaan tentang
reaksi dari karyawan ini, mengatakan kepada surat kabar itu bahwa para pekerja ini “merupakan bagian penting dari budaya kita. Mereka memiliki kesempatan untuk mengatakan kata-kata mereka, dan ini penting bagi perusahaan, ini yang kami hargai, ”katanya.
Pada bulan Juni, setelah pengumuman, di mana perusahaan mengumumkan bahwa mereka tidak akan memperpanjang kontrak ini, Pichai mengungkapkan serangkaian prinsip etika ketika membuat AI, yang mencakup larangan pengembangan sistem yang dapat digunakan untuk menyebabkan kerugian, melanggar hak asasi manusia atau membantu memantau orang. " melanggar standar yang diterima secara internasional. "
Perusahaan telah dikritik karena merilis untuk alat AI penggunaan umum yang dapat digunakan untuk merugikan. Dirilis pada 2015, paket perangkat lunak TensorFlow, sistem pembelajaran mesin internal Google, membantu mempercepat pengembangan besar-besaran AI, tetapi digunakan untuk mengotomatisasi pembuatan video palsu, yang kemudian digunakan untuk memberi informasi yang salah dan melecehkan.
Google dan Pichai secara pribadi membela rilis, dengan alasan bahwa membatasi penyebaran teknologi akan berarti bahwa masyarakat tidak akan cukup mengendalikannya, dan pengembang dan peneliti tidak dapat meningkatkan kemampuannya sehingga itu akan menguntungkannya.
"Saya percaya bahwa seiring waktu, berhasil mengembangkan teknologi, penting untuk membahas masalah etika dan bias kognitif, dan mengembangkannya pada saat yang sama," kata Pichai dalam sebuah wawancara.
"Dalam arti tertentu, kami ingin mengembangkan platform etis, untuk menarik para ilmuwan bukan dari bidang ilmu komputer pada tahap awal pengembangan," katanya. "Perlu melibatkan manusia secara lebih aktif, karena teknologi ini akan memengaruhi umat manusia."
Pichai membandingkan upaya awal untuk menetapkan parameter AI dengan upaya komunitas ilmiah untuk membatasi penelitian genetik pada tahap awal area ini. "Banyak ahli biologi telah mulai membuat perbedaan yang menunjukkan di mana teknologi harus dikembangkan," katanya. "Komunitas akademik telah mengambil pengaturan diri yang aktif, yang, menurut saya, sangat penting."
Direktur Google mengatakan bahwa pendekatan semacam itu akan mutlak diperlukan dalam pengembangan senjata otonom - dan masalah ini menyiksa para direktur dan karyawan perusahaan teknologi. Pada Juli, ribuan pekerja industri yang mewakili perusahaan seperti Google menandatangani petisi untuk melarang alat AI yang dapat diprogram untuk dimatikan.
Pichai mengatakan dia menganggap teori konspirasi yang dibenci YouTube yang dijelaskan dalam
artikel WP “menjijikkan,” dan menjelaskan bahwa perusahaan akan bekerja untuk meningkatkan sistem yang mengenali konten yang bermasalah. Dalam video-video ini, total penayangan yang melampaui beberapa juta kali sejak kemunculan mereka pada bulan April, mereka membahas tuduhan tak berdasar dari Hillary Clinton dan asistennya yang sudah lama Hume Abedin bahwa mereka menyerang gadis itu, membunuhnya dan meminum darahnya.
Pichai mengatakan bahwa dia sendiri tidak melihat video-video yang dia
ajukan pertanyaan di Kongres, dan menolak untuk melaporkan apakah kelemahan YouTube tersebut adalah hasil dari pembatasan pada sistem yang mengenali konten yang tidak pantas atau aturan untuk mengevaluasi kebutuhan untuk menghapus video. Namun dia menambahkan bahwa "pada 2019 Anda akan melihat lebih banyak pekerjaan di bidang ini dari pihak kami."
Pichai juga menggambarkan upaya Google untuk mengembangkan
produk baru di segmen Internet yang dikontrol Cina sebagai pendahuluan, dan tidak mengatakan produk seperti apa itu dan kapan produk itu bisa masuk pasar, jika memang ada.
Dia disebut "Project Dragonfly," dan telah memicu reaksi keras dari karyawan dan aktivis hak yang memperingatkan kemungkinan bantuan Google dalam pengawasan pemerintah terhadap warga yang tidak toleran terhadap pembangkang politik. Menanggapi pertanyaan tentang kemungkinan bahwa Google akan membuat produk yang memungkinkan pejabat Cina untuk mengetahui kapan seseorang mencari beberapa kata sensitif, seperti "
Pembantaian Lapangan Tiananmen, " Pichai mengatakan terlalu dini untuk membuat penilaian semacam itu.
"Ini semua adalah pertimbangan hipotetis," kata Pichai. "Kami sangat jauh dari keadaan ini."