Kamus William Shakespeare adalah 12.000 kata. Kamus Negro dari suku kanibal "Mumbo-Yumbo" adalah 300 kata. Ellochka Schukin dari buku "12 Kursi" dengan mudah dan bebas biaya tiga puluh.
Manusia dengan mudah memahami Ellochka. Sayangnya, Shakespeare lebih suka memahami komputer daripada Ellochka. Cukup bagi kami untuk memahami konteks dan intonasi - kami akan mencari tahu sisanya - dan komputer membutuhkan kejelasan dalam setiap istilah. Lebih disukai tanpa sinonim. Semakin banyak gambar yang tersembunyi di balik setiap kata, semakin sulit untuk dipahami. Sifat bergantung-konteks dari kata-kata manusia hanyalah salah satu kesulitan dalam mengajarkan kecerdasan buatan dalam bahasa alami. Jika Anda dapat membedakan bawang yang dapat dimakan dari bawang yang diambil jika Anda memiliki deskripsi lengkap tentang situasinya, maka penolakan makna oleh ironi atau pertanyaan retoris hanya dikenali dengan intonasi. Sintaks dan urutan kata dalam kalimat menciptakan kompleksitas tambahan.
Namun Igor Mordach, karyawan OpenAI American Laboratory of Artificial Intelligence, memutuskan bahwa bahasa Ellochkin jauh dari jalan buntu, tetapi contoh yang sangat cocok, di mana bot akan membangun bahasa untuk komunikasi mereka, dan kemudian mereka akan memahami kita. Hanya 30 kata untuk komputer Ellochka dia menyesal. Dalam
eksperimennya, sebuah program komputer menciptakan bahasa dari awal.
Mencari bahasa universal untuk berkomunikasi dengan mesin
Keakuratan pengenalan bahasa alami sekarang di antara para pemimpin sistem kognitif (IBM Watson, Google, ABBYY, Microsoft, Nanosemantics) memungkinkan kita untuk secara umum memahami makna dan menjawab pertanyaan tertulis dengan basis pengetahuan subjek yang telah ditentukan, tetapi percakapan bahkan dengan akurasi pengenalan frase 90% sebenarnya sangat melelahkan. Pidato percakapan, penuh dengan interjeksi dan sering terjadi di perusahaan besar dengan persimpangan dialog, menempatkan bot dalam kemampuannya untuk mempertahankan percakapan pada tingkat anak berusia tiga tahun.
Kemampuan program untuk secara akurat menanggapi makna frasa akan menyelesaikan banyak masalah antarmuka, yang berarti menghubungkan bot (agen kecerdasan buatan) dengan tugas manusia sehari-hari. Ada dialog dengan mesin bahkan sekarang - televisi, misalnya, berkomunikasi dalam bahasa remote control. Tetapi mengerti sangat sedikit tim. Dan dia mengerti mereka hanya setelah pemrograman. Dari contoh sederhana ini jelas bahwa untuk komunikasi yang cepat dan fleksibel dengan program dan perangkat multi-guna (setidaknya robot), perantara harus dihapus dari dialog. Di antara yang, sayangnya, adalah programmer.
Optimis linguistik komputer mengaitkan harapan dengan jaringan saraf. Dalam pemahaman mereka, satu-satunya masalah adalah kebutuhan untuk memproses sejumlah besar contoh. Lawan menganggap tugas itu tidak dapat diselesaikan. Bukan karena skala pelatihan, tetapi karena kesetaraan tugas ini dengan tugas menciptakan kesadaran dalam mesin. Masing-masing pihak menafsirkan contoh penghitungan lumba-lumba atau berkomunikasi monyet untuk keuntungan mereka - beberapa sebagai perspektif, yang lain sebagai jalan buntu. Bagi mereka yang tertarik dengan detail tentang Habré dan GT ada banyak posting tentang bahasa alami. Misalnya,
"Pengantar Pengenalan Bahasa Alami .
"Subjek dari posting ini adalah pendekatan ketiga, yang diambil sebagai dasar oleh Igor Mordach - biarkan mesin sendiri yang pertama kali belajar berkomunikasi dalam bahasa yang mereka buat. Proses pengembangan bahasa Anda akan memungkinkan agen perangkat lunak kecerdasan buatan untuk lebih memahami algoritma untuk menyesuaikan istilah dengan makna baru, aturan pembentukan frase dan menggunakan pengetahuan ini untuk percakapan dengan orang-orang. Inilah yang Mordach, yang sebelumnya bekerja sebagai spesialis dalam membuat pahlawan film robot bergerak, mengatur tugas. Dengan latar belakang ini, Igor memutuskan bahwa pelatihan gerakan berisi algoritma untuk mengumpulkan informasi dan penggunaan parsial simultan, yang dapat digunakan dalam pelatihan apa pun.
Untuk mengajari bot bahasa bot (agen perangkat lunak), mereka menempatkan mereka di alam semesta bersyarat dari "kotak putih", menetapkan sasaran, energi gerakan, dan kemampuan untuk memproses pengalaman yang menghubungkan diri mereka dengan sasaran. Awalnya, bot memiliki seperangkat perintah tindakan minimal, pengalaman sukses pribadi, dan juga memberikan cara untuk bertukar informasi - melalui "kontak sentuhan" yang dekat atau melalui prototipe jarak jauh "pendengaran dan penglihatan" (di sini lebih tepat menggunakan istilah arus informasi arah). Tujuan dari bot di alam semesta bersyarat dari "kotak putih" adalah untuk mencapai titik tertentu sendiri, mengomunikasikan tujuan Anda kepada agen lain, bertukar tujuan, mendorong agen lain ke target tanpa adanya pertukaran informasi di antara mereka. Target dan bot berbeda dalam warna atau ukuran.
Untuk Agen Smith, matriks, ketika dibuat oleh Mordach, akan terlihat seperti ini:
Dalam percobaan OpenAI, parameter yang diukur dari keberhasilan trial and error adalah fakta dan kecepatan pencapaian tujuan. Mereka bisa berupa kelambanan atau pergerakan titik tertentu (kontak langsung dengan target atau kontak melalui agen lain) di dunia maya kotak putih. Semakin cepat sasaran tercapai, semakin berguna daftar istilah yang digunakan dalam dialog sasaran saat ini. Tujuan dan kesuksesan adalah individu dan kolektif.
Dalam proses menyelesaikan tugas, bot memperkaya cadangan linguistik dengan konsep-konsep baru yang sesuai dengan konsep manusia - dari istilah pergerakan ke konsep: di atas, di bawah, ke kanan, ke kiri. Mordach berharap bahwa dengan menetapkan aturan pembentukan kata, bot dapat lebih mudah "memahami" aturan yang sama dalam bahasa manusia. Termasuk mempelajari keakuratan menggunakan istilah komparatif dan tidak terbatas. AI memiliki pemahaman yang buruk tentang istilah abstrak dan umum. Lebih tepatnya, dia sama sekali tidak mengerti apa-apa, tetapi dia siap untuk bekerja dengan beberapa frasa, dan bagi yang lain perlu untuk mendapatkan informasi klarifikasi. Dalam ungkapan "mobil melaju kencang" setidaknya kata "cepat" - perlu diukur. Bahkan dalam hal peraturan lalu lintas, "cepat" masih merupakan array nilai yang sesuai dengan beberapa interval. Lebih tepatnya, beberapa interval - untuk kota, autobahn dan daerah pedesaan.
Jaringan saraf, tentu saja, dapat bekerja dengan istilah yang tidak jelas, tetapi pelatihan mereka biasanya dimulai bukan dari awal, berisi sejumlah aturan pemrosesan awal, dan juga tidak bergantung pada akumulasi pengalaman pensinyalan pada jenis saluran di mana informasi dikirimkan. Ini adalah hal baru utama dari eksperimen Mordach.
Perbandingan komunikasi jarak jauh dan komunikasi sentuhan bot:
Kurangnya tubuh dan batasan membuat semua persyaratan ini bersyarat, tentu saja.
Poin yang luar biasa adalah bahwa keberhasilan setiap bot dihitung sebagai sebagian kecil dari keberhasilan semua bot, mendorong kerja sama dalam mencapai tujuan. Artinya, kualitas kosa kata diperkirakan dengan totalitas bahasa yang digunakan. Ternyata seseorang harus mengumpulkan dan melaporkan keadaan sekunder untuk mencapai tujuan, yang dalam hal pemenuhan tujuan individu oleh masing-masing operator akan mencegahnya dari pencapaian. Aturan statistik 20/80 - menerima 20% informasi memberikan 80% pencapaian tujuan - bekerja pada level subjek individu, tetapi dalam tim seseorang harus selalu memberikan 100% informasi yang dikumpulkan kepada tambahan 1% pencapaian tujuan.
Semua kasus komunikasi kontak "verbal" dan "non-verbal" bot selama studi Mordach ditunjukkan dalam video:
Matriks buatan manusia dan tidak mencolok sebagai hasil dari komunikasi bot
Gagasan utama Mordach adalah memastikan bahwa memahami "dunia di sekitarnya", bot menciptakan bahasa yang diperlukan untuk pemahaman ini. Dalam konsepnya, bahasa adalah hasil dari tindakan. Ilmuwan lain menarik perhatian pada fakta bahwa bahasa yang dikembangkan dan kemampuan untuk berkomunikasi pada topik abstrak akan memungkinkan mesin untuk membuat ide mereka sendiri, menggambarkan dan membuat entitas baru yang sebelumnya tidak ada. Tidak jauh dari transformasi dunia kita.
Kemampuan memahami bahasa alami dianggap berkaitan erat dengan keberadaan kesadaran dalam subjek komunikasi. Akankah kemampuan untuk memahami makna dari apa yang dikatakan menyebabkan munculnya kesadaran dalam mesin? Mungkin hanya orang dengan ciptaan mirip manusia yang dapat sepenuhnya memahami bahasa alami, dan penciptaan bahasa bot di lingkungan mereka sendiri akan mengarah pada bot cerdas dalam versi Agen Smith ini atau itu.
Menetapkan prioritas bot selama pelatihan bertentangan dengan prinsip rekayasa keandalan dan kepastian operasi mesin. Ketidakpastian prioritas, kemampuan untuk berfantasi, pendidikan diri, kerahasiaan komunikasi antara bot untuk manusia - telah membuat diri mereka terasa dalam
percobaan OpenAI sebelumnya. Tanpa tujuan akhir yang mengikat, program muncul dengan prioritas yang tidak terduga selama masa studi mereka. Dalam percobaan pada perlombaan perahu virtual, pelaksanaan tugas terkait untuk bot menjadi lebih menguntungkan daripada 1 tempat dan umumnya menyelesaikan balapan sampai akhir. Pencapaian tugas terkait membawa 20% poin lebih banyak.
Sudah akrab, bukan? Robert Sheckley menggambarkan hal ini 65 tahun lalu dalam kisah terkenal “Burung Pelindung,” yang berawal dari pencegahan pembunuhan hingga memblokir segala aktivitas di Bumi, mengabaikan prioritas dan tugas utama lainnya:
Jackson menguap dan menghentikan mobil di trotoar. Dia tidak melihat titik berkilau di langit. Dia tidak perlu waspada. Memang, menurut semua konsep manusia, dia tidak merencanakan pembunuhan sama sekali.
Dia mengulurkan tangannya, ingin mematikan kunci kontak ... Dan sesuatu melemparkannya kembali ke dinding kabin.
"Si bodoh besi," katanya pada seekor burung mekanik yang menggantung di atasnya. Mobil itu tidak hidup. Saya tidak ingin membunuhnya sama sekali.
Tetapi burung penjaga tahu satu hal: beberapa tindakan menghentikan aktivitas tubuh. Mobil itu, tentu saja, adalah organisme yang aktif. Lagi pula, itu terbuat dari logam, seperti burung penjaga itu sendiri, bukan? Dan saat bergerak ...
Kelebihan dari menciptakan bahasa mereka sendiri dalam bot dapat menjadi penciptaan mereka di dunia maya mereka sendiri. Setidaknya dalam sejarah umat manusia, preseden semacam itu ada. Mengutip Tolkien:
Penemuan bahasa adalah dasar dari pekerjaan saya. "Cerita" ditulis lebih banyak untuk menciptakan dunia untuk bahasa-bahasa ini, dan bukan sebaliknya. Bagi saya, kata pertama kali muncul, dan kemudian kisah yang terkait dengannya. Saya lebih suka menulis "elven". Tetapi, tentu saja, sebuah buku seperti The Lord of the Rings mengalami penyuntingan yang serius, dan saya meninggalkan banyak “bahasa” di sana seperti yang bisa dicerna oleh pembaca (walaupun sekarang saya mengetahui bahwa banyak yang menginginkan lebih). [...] Bagaimanapun, bagi saya dalam banyak hal ini adalah esai tentang "estetika linguistik", karena saya kadang-kadang menjawab orang-orang yang bertanya kepada saya apa yang saya tulis tentang buku saya.
Fakta bahwa mesin akan mulai berpikir lebih awal dari yang kita pahami juga ditakuti di OpenAI. Jika bot juga memiliki bahasa mereka sendiri, maka orang akan kehilangan momen ini hampir pasti. Karena itu, tugas Mordach tidak hanya menciptakan bahasa bot, tetapi juga menciptakan penerjemah manusia. Pertama, tentu saja, dalam bahasa Inggris.
Menanggapi ketakutan semacam itu, Igor mengutip percobaan pemikiran yang terkenal di bidang filsafat kesadaran dan filsafat kecerdasan buatan yang disebut
"ruang Cina" , yang diterbitkan oleh John Searle pada tahun 1980. Inti dari pernyataan Searle adalah bahwa setiap komunikasi penuh secara teori sepenuhnya mungkin tanpa kesadaran, tetapi menggunakan aturan yang cukup terperinci untuk menafsirkan pertanyaan lawan bicara untuk jawaban. Kesimpulan Searle yang lebih umum menunjukkan bahwa manipulasi konstruksi sintaksis tidak dapat mengarah pada pemahaman.
Dalam konteks seperti itu, bahasa sendiri dan alam semesta virtual seseorang tidak berarti kehadiran kesadaran di antara agen dan objeknya. Seperti di game komputer. Atau, seperti yang diyakini sebagian orang, sebagai orang yang kesadarannya hanyalah gerbang semantik antara bahasa "buatan" yang jelas di dalam otak dan suara alami sinyal dari dunia luar.