Kumpulan data Tahun Baru 2018: semantik terbuka dari bahasa Rusia

Semantik terbuka bahasa Rusia, tentang sejarah yang dapat Anda baca di sini dan di sini , menerima pembaruan besar. Kami telah mengumpulkan cukup data untuk menerapkan pembelajaran mesin di atas markup yang dikumpulkan dan membangun model bahasa semantik. Apa yang keluar darinya, lihat di bawah luka.

Apa yang kita lakukan

Ambil dua kelompok kata:

• berlari, menembak, merencanakan, hiking, berjalan;
• pelari, fotografer, insinyur, turis, atlet.

Tidak sulit bagi seseorang untuk menentukan bahwa kelompok pertama berisi kata benda yang menyebutkan tindakan atau peristiwa ; pada orang yang memanggil kedua. Tujuan kami adalah mengajarkan mesin untuk memecahkan masalah seperti itu.

Untuk melakukan ini, Anda harus:

1. Cari tahu kelas alami apa yang ada dalam bahasa tersebut.
2. Tandai sejumlah kata yang memadai tentang subjek yang termasuk dalam kelas dalam paragraf 1 .
3. Buat algoritma yang mempelajari markup dari item 2 dan mereproduksi klasifikasi dengan kata-kata yang tidak dikenal.

Apa yang telah dilakukan dan di mana untuk mengunduh

Hasil dari karya yang diterbitkan dalam repositori di GC dan tersedia untuk diunduh adalah deskripsi hirarki kelas dan markup (manual dan otomatis) dari kata benda untuk kelas-kelas ini.

Untuk berkenalan dengan dataset, Anda dapat menggunakan navigator interaktif (tautan di repositori). Ada juga versi set yang disederhanakan di mana kami menghapus seluruh hierarki dan menetapkan satu tag semantik besar untuk setiap kata: "orang", "hewan", "tempat", "benda", "benda", "tindakan", dll.

Tautan ke Github: semantik terbuka dari bahasa Rusia (dataset) .

Tentang kelas kata

Dalam masalah klasifikasi, kelas-kelas itu sendiri sering didikte oleh masalah yang dipecahkan, dan pekerjaan insinyur data turun untuk menemukan serangkaian atribut yang sukses di atasnya Anda dapat membangun model kerja.

Dalam masalah kami, kelas kata, sebenarnya, tidak diketahui sebelumnya. Di sini, sebuah strata besar penelitian tentang semantik yang dilakukan oleh para sarjana linguistik dalam dan luar negeri, yang akrab dengan kamus-kamus semantik yang ada dan WordNet telah membantu.

Ini adalah bantuan yang baik, tetapi keputusan akhir sudah terbentuk dalam penelitian kami sendiri. Ini masalahnya. Banyak sumber daya semantik mulai diciptakan di era pra-komputer (setidaknya dalam pemahaman modern tentang komputer) dan pilihan kelas sebagian besar ditentukan oleh intuisi bahasa pencipta mereka. Pada akhir abad sebelumnya, WordNet secara aktif digunakan dalam tugas analisis teks otomatis, dan banyak sumber daya yang baru dibuat dipertajam untuk aplikasi praktis tertentu.

Hasilnya adalah sumber daya bahasa ini secara bersamaan mengandung informasi ensiklopedis linguistik dan ekstralinguistik tentang unit-unit bahasa. Adalah logis untuk berasumsi bahwa tidak mungkin untuk membangun sebuah model yang akan memeriksa informasi ekstralinguistik, hanya mengandalkan analisis statistik teks, karena sumber data tidak mengandung informasi yang diperlukan.

Berdasarkan asumsi ini, kami hanya mencari kelas alami yang dapat dideteksi dan diverifikasi secara otomatis berdasarkan model linguistik murni. Pada saat yang sama, arsitektur sistem memungkinkan penambahan sejumlah besar lapisan informasi tambahan tentang unit linguistik, yang dapat berguna dalam aplikasi praktis.

Kami akan menunjukkan hal di atas dengan contoh spesifik, dengan menganalisis kata "kulkas". Dari model linguistik, kita dapat mengetahui bahwa "kulkas" adalah objek material, desain, adalah wadah dari tipe "kotak atau tas", yaitu. tidak dimaksudkan untuk penyimpanan cairan atau padatan tanpa wadah tambahan. Selain itu, tidak jelas dari model ini bahwa "kulkas" adalah komoditas, apalagi, produk yang tahan lama, dan juga tidak jelas bahwa ini adalah artefak, mis. objek buatan manusia. Ini adalah informasi non-linguistik, yang harus diberikan secara terpisah.

Kenapa semua ini dibutuhkan

Meskipun demikian, seseorang dalam proses belajar dan pengetahuan tentang realitas digantungkan informasi tambahan tentang objek dan fenomena di sekitarnya pada kerangka alami, yang diperolehnya di masa kecil. Namun, beberapa konsep bersifat universal, independen dari area subjek, dan dapat berhasil digunakan kembali.

Katakan "penjual" adalah orang + peran fungsional . Dalam beberapa kasus, penjual mungkin sekelompok orang atau organisasi, tetapi subjektivitas selalu dipertahankan: jika tidak, tindakan target tidak akan mungkin dilakukan. Kata-kata "pertukaran" atau "pelatihan" merujuk pada tindakan, yaitu mereka memiliki peserta, durasi dan hasil. Isi persis dari tindakan ini dapat sangat bervariasi tergantung pada situasi dan bidang subjek, tetapi aspek-aspek tertentu akan tidak berubah. Ini adalah kerangka bahasa di mana variabel pengetahuan extralinguistik berlapis.

Tujuan kami adalah untuk menemukan dan mengeksplorasi informasi intralinguistik maksimum yang tersedia dan membangun atas dasar model penjelasan bahasa. Ini akan meningkatkan algoritma yang ada untuk pemrosesan kata otomatis, termasuk yang kompleks seperti menyelesaikan ambiguitas leksikal, menyelesaikan anafora, kasus rumit penandaan morfologis. Dalam prosesnya, kita perlu beristirahat di suatu tempat melawan kebutuhan untuk menarik pengetahuan ekstra-linguistik, tetapi setidaknya kita akan tahu di mana batas yang sebenarnya terjadi ketika pengetahuan internal bahasa tidak lagi cukup.

Klasifikasi dan pelatihan, serangkaian atribut

Untuk saat ini, kami hanya bekerja dengan kata benda, oleh karena itu di bawah ini, ketika kami mengucapkan "kata", kami akan berarti tanda yang hanya terkait dengan bagian pembicaraan ini. Karena kami memutuskan untuk hanya menggunakan informasi intralinguistik, kami akan bekerja dengan teks yang dilengkapi dengan marka morfologis.

Sebagai tanda, kami mengambil semua kemungkinan mikrokonteks di mana kata ini muncul. Untuk kata benda, ini akan menjadi:

• APP + X (cantik X: mata)
• GLAG + X (vdite X: utas)
• VL + PRED + X (masukkan X: pintu)
• X + SUSCH_ROD (X: tepi tabel)
• SUSHCH + X_ROD (menangani X: pedang)
• X_ SUBJECT + GL (X: plot sedang berkembang)

Ada lebih banyak jenis mikrokontek, tetapi di atas adalah yang paling sering dan sudah memberikan hasil yang baik ketika belajar.

Semua mikrokonteks direduksi menjadi bentuk dasar dan kami membuat satu set fitur dari mereka. Selanjutnya, untuk setiap kata, kami membuat vektor yang koordinat ke-i-nya akan berkorelasi dengan kemunculan kata yang diberikan dalam mikrokonteks ke-i .

Nilai target, hierarki pengiris semantik

Bahasa ini memiliki mekanisme alami untuk penggunaan kembali kata-kata, yang menyebabkan munculnya fenomena seperti polisemi. Selain itu, kadang-kadang tidak hanya kata-kata individual digunakan kembali, tetapi transfer metaforis seluruh konsep dibuat. Ini terutama terlihat dalam transisi dari konsep material ke konsep abstrak.

Fakta ini menentukan perlunya klasifikasi hierarkis, di mana bagian-bagian semantik disusun dalam struktur pohon dan terjadi partisi di setiap simpul internal. Ini memungkinkan Anda untuk menangani ambiguitas dalam konteks mikro jauh lebih efektif.

Pemilihan algoritma

Sebagai algoritma, kami menggunakan regresi logistik. Ini disebabkan oleh beberapa faktor:

1. Dengan satu atau lain cara, markup awal berisi sejumlah kesalahan dan kebisingan.
2. Tanda-tanda bisa tidak seimbang dan juga mengandung kesalahan - polisemi dan metaforis (kiasan) penggunaan kata.
3. Analisis awal menunjukkan bahwa antarmuka yang dipilih secara memadai harus diperbaiki dengan algoritma yang cukup sederhana.
4. Penafsiran algoritma yang baik adalah penting.

Algoritma menunjukkan akurasi yang cukup baik:

Analisis kesalahan

Kesalahan yang timbul dari klasifikasi otomatis disebabkan oleh tiga faktor utama:

1. Homonim dan polisemi: kata-kata yang memiliki tipe yang sama dapat memiliki arti yang berbeda (menyiksa dan mematikan, berhenti sebagai suatu proses dan berhenti sebagai suatu lokasi ). Ini juga dapat mencakup penggunaan kata-kata dan metonimi metaforis (misalnya, pintu akan diklasifikasikan sebagai ruang tertutup - ini adalah fitur bahasa yang diharapkan).
2. Ketidakseimbangan dalam konteks penggunaan kata. Beberapa penggunaan organik mungkin tidak tersedia dalam paket asli, yang menyebabkan kesalahan klasifikasi.
3. Batas kelas tidak valid. Anda dapat menggambar batasan yang tidak dapat dihitung dari konteks dan membutuhkan keterlibatan pengetahuan ekstra-linguistik. Di sini algoritma tidak akan berdaya.

Pada tahap ini, kami hanya memperhatikan kesalahan tipe ketiga dan menyesuaikan batas yang dipilih antara kelas. Kesalahan dari dua jenis pertama dalam konfigurasi sistem yang diberikan tidak dapat dihilangkan, tetapi dengan jumlah data berlabel yang memadai, mereka tidak mewakili masalah besar - ini dapat dilihat dari keakuratan markup dari proyeksi atas.

Apa selanjutnya

Saat ini, dataset mencakup sebagian besar kata benda yang ada dalam bahasa Rusia dan diwakili dalam korpus dalam berbagai konteks yang cukup. Fokus utama ditempatkan pada benda-benda material - sebagai yang paling dimengerti dan dielaborasi dalam karya ilmiah. Tugas-tugas tetap untuk memperbaiki markup yang ada, dengan mempertimbangkan data yang diterima dari algoritma, dan bekerja dengan kelas-kelas di tingkatan yang lebih rendah, di mana penurunan akurasi prediksi diamati, karena mengaburkan batas-batas antara kategori.

Tapi ini semacam pekerjaan rutin, yang selalu ada. Lapisan riset kualitatif baru akan menyangkut kemungkinan mengklasifikasikan kata tertentu dalam konteks atau kalimat tertentu, yang akan memungkinkan untuk memperhitungkan fenomena homonimi dan polisemi, termasuk metafora (makna kiasan).

Kami juga sedang mengerjakan beberapa proyek terkait:

• kamus pengenalan kata-kata RY: variasi dari kamus frekuensi, di mana kelengkapan dan keakraban kata dievaluasi sebagai hasil dari markas crowdsourcing, dan tidak dihitung sesuai dengan tubuh teks.
• open corpus untuk menyelesaikan ambiguitas leksikal: berdasarkan kompetisi RUSSE 2018 WSI & D Shared Task yang diadakan sebagai bagian dari konferensi Dialog 2018 , kegunaan corpus dengan menghilangkan ambiguitas leksikal untuk menguji algoritma otomatis untuk disambiguasi dan pengelompokan makna kata menjadi jelas. Kita juga membutuhkan badan ini untuk menuju tahap kerja semantik terbuka yang dijelaskan dalam paragraf sebelumnya.

Kamus nada bahasa Rusia

Kamus nada adalah kata-kata dan ungkapan RJ, yang ditandai oleh nada suara dan kekuatan dari keparahan muatan emosional-evaluatif. Sederhananya, seberapa banyak kata tertentu itu "buruk" atau "baik".

Saat ini, 67.392 karakter ditandai (dengan 55.532 kata dan 11.860 ekspresi).

Umpan balik dan distribusi

Kami menyambut setiap umpan balik dalam komentar - dari kritik terhadap pekerjaan dan pendekatan kami hingga tautan ke studi yang menarik dan artikel terkait.

Jika Anda memiliki kenalan atau kolega yang mungkin tertarik dengan dataset yang diterbitkan, kirimkan tautan ke artikel atau tempat penyimpanan untuk membantu menyebarkan data terbuka.

Unduh tautan dan lisensi

Dataset: semantik terbuka dari bahasa Rusia

Dataset ini dilisensikan di bawah CC BY-NC-SA 4.0 .