Sir Tim Berners-Lee, salah satu penemu WWW dan protokol hypertext, profesor di Massachusetts Institute of Technology dan University of Southampton, juga merupakan penasihat pemerintah Inggris. Oleh karena itu, ia harus mengambil pandangan yang sadar tentang dunia dan mengevaluasi apa yang terjadi di sekitar dan apa yang dapat menyebabkannya.
Berbicara tentang Kecerdasan Buatan, banyak ahli berpikir tentang kemunculan AI yang kuat dan singularitas teknologi, tetapi jika Anda berbicara secara bijaksana, lalu, apa gunanya AI yang kuat untuk manusia, mengapa berinvestasi miliaran dolar dalam pengembangannya? Manfaat memiliki AI yang kuat berkabut, dan risikonya terlalu besar.
Jauh lebih logis untuk mengasumsikan bahwa pada awalnya akan ada versi lemah AI yang lebih baik daripada orang akan melakukan tugas-tugas yang sangat khusus. Karena versi AI ini, orang akan mencoba untuk mendapatkan keunggulan kompetitif atas orang lain untuk tujuan utama yang menggerakkan umat manusia - demi uang
* .
Beberapa tanda masa depan yang akan datang terlihat hari ini. Pemrogram yang paling berbakat dan ahli matematika yang brilian pergi bekerja di mana? Benar, dalam dana investasi. Di sana mereka menciptakan model matematika yang inovatif, strategi perdagangan baru, turunan cerdik eksotis menurut formula luar biasa - dan mencari yang sangat
alpha , yaitu, keuntungan di atas pasar. Siapa yang memiliki kecerdasan lebih tinggi - ia menerima alpha. Petani menengah mendapatkan
beta , dan yang kalah kalah. Pasar keuangan, bebas dari segala macam barang berwujud, intrik yang menyamar, adalah perjuangan intelek dalam bentuk murni mereka, menurut aturan yang jelas. Perjuangan untuk uang. Ini adalah satu-satunya area aktivitas manusia di dunia di mana matematikawan brilian dapat secara konsisten menghasilkan ratusan ribu dolar per bulan, terutama jika ia menerima persentase alfa yang ia bawa ke yayasannya.
Langkah cerdas akan menerapkan sistem pengambilan keputusan berbasis komputer - versi AI paling canggih - terutama di dunia keuangan. Tentang ini disebutkan oleh Sir Tim Berners Lee dalam
pidatonya pada 10 April 2017 di
KTT Global tentang Inovasi Keuangan .
Sistem AI yang lemah dari IBM dan perusahaan lain sudah diterapkan di bank dan dana investasi. Apa yang akan terjadi selanjutnya? Tim Berners-Lee percaya bahwa titik balik akan terjadi ketika AI mulai membuat keputusan penting. Misalnya, mengevaluasi manfaat investasi dan memutuskan perusahaan mana yang lebih menguntungkan untuk diakuisisi. Mengevaluasi sejarah kredit orang - dan memutuskan kepada siapa untuk memberikan pinjaman hipotek, dan kepada siapa itu tidak mungkin. Sistem komputer modern sudah dekat dengan fungsi seperti itu.
Tim Berners-Lee mengatakan bahwa langkah logis berikutnya dalam pengembangan AI keuangan setelah memutuskan untuk membeli perusahaan yang paling menguntungkan adalah manajemen perusahaan, penciptaan kepemilikan dan generasi salinan anak perusahaan dari programnya sendiri untuk mengelola perusahaan baru ini.
Ini akan menjadi proses alami, karena dalam persaingan di pasar, perusahaan yang dikendalikan AI akan memiliki keunggulan dibandingkan perusahaan yang dikelola orang. Pada akhirnya, hanya perusahaan yang dikendalikan AI yang akan bersaing satu sama lain yang akan tetap berada di pasar. Akan sulit bagi orang untuk memahami dan memastikan bahwa persaingan yang adil diamati: "Ya, dan bagaimana menjelaskan konsep kejujuran ke komputer, dalam hal apa pun?", Tim Berners-Lee bertanya. Di sini muncul pertanyaan tentang mengamati etika dan moralitas - aturan perilaku yang orang sendiri tidak sepenuhnya mengerti (dan tidak setuju satu sama lain), bagaimana kita bisa menjelaskan ini ke komputer?
Sekali lagi, ada risiko bahwa versi terbatas AI akan mulai berkembang ke arah yang salah. Awalnya dibuat untuk tugas yang sempit, pada akhirnya dapat mempertimbangkan bahwa semua realitas di sekitarnya dijelaskan oleh kondisi tugas ini. Pendapat Berners-Lee ini mengingatkan keprihatinan yang diungkapkan oleh Elon Musk dalam
sebuah wawancara dengan Vanity Fair:
“Misalkan Anda membuat AI yang meningkatkan diri untuk memetik stroberi dan memetik stroberi menjadi lebih baik dan lebih baik, dan memetik lebih banyak, dan meningkatkan, dan yang ia inginkan hanyalah memetik stroberi. Jadi pada akhirnya seluruh dunia akan berubah menjadi ladang stroberi. Kebun stroberi selamanya. "
Secara umum, ada sesuatu untuk dipikirkan. Jika program dapat belajar sendiri, maka AI yang lemah dengan spesialisasi yang sempit bisa lebih berbahaya daripada AI yang kuat penuh dengan kesadaran diri yang normal. Mungkin prinsip-prinsip moral adalah kualitas yang tidak dapat dicabut dari makhluk rasional mana pun dengan kecerdasan dan kesadaran diri.
* Dalam peradaban Barat, kehadiran uang yang diperoleh secara legal berarti kehadiran kekuasaan, di masyarakat lain ini tidak selalu konsep yang identik.
Sebagai iklan kecil: Pengguna
ZiingRR memberi tahu kami bahwa pada akhir Mei, kuliah pertama yang relatif besar di Rusia tentang topik keamanan AI (Keamanan AI, bahasa bicaranya adalah bahasa Inggris) akan diadakan di HSE di ruang
kuliah TI . Rencananya juga akan mengadakan kuliah serupa di
Arche .
ZiingRR berjanji bahwa sebuah video akan diterbitkan dari kedua kuliah tersebut.