Neujahrsdatensatz 2018: Offene Semantik der russischen Sprache

Die offene Semantik der russischen Sprache, über deren Geschichte Sie hier und hier lesen können, erhielt ein großes Update. Wir haben genügend Daten gesammelt, um maschinelles Lernen zusätzlich zu dem gesammelten Markup anzuwenden und ein semantisches Sprachmodell zu erstellen. Was dabei herauskam, sehen Sie unter dem Schnitt.

Was machen wir

Nehmen Sie zwei Wortgruppen:

• Laufen, Schießen, Plotten, Wandern, Gehen;
• Läufer, Fotograf, Ingenieur, Tourist, Sportler.

Es ist für eine Person nicht schwierig festzustellen, dass die erste Gruppe Substantive enthält, die Aktionen oder Ereignisse benennen. in der zweiten - Menschen anrufen. Unser Ziel ist es, eine Maschine zu lehren, um solche Probleme zu lösen.

Dazu müssen Sie:

1. Finden Sie heraus, welche natürlichen Klassen in der Sprache existieren.
2. Markieren Sie eine ausreichende Anzahl von Wörtern zum Thema Zugehörigkeit zu den Klassen in Absatz 1 .
3. Erstellen Sie einen Algorithmus, der anhand des Markups aus Element 2 lernt und die Klassifizierung in unbekannten Wörtern wiedergibt.

Was wurde getan und wo kann ich herunterladen?

Das Ergebnis der im Repository auf dem GC veröffentlichten und zum Download verfügbaren Arbeit ist eine Beschreibung der Klassenhierarchie und des Markups (manuell und automatisch) der Substantive für diese Klassen.

Um sich mit dem Datensatz vertraut zu machen, können Sie den interaktiven Navigator (Link im Repository) verwenden. Es gibt auch eine vereinfachte Version des Satzes, in der wir die gesamte Hierarchie entfernt und jedem Wort ein einziges großes semantisches Tag zugewiesen haben: "Menschen", "Tiere", "Orte", "Dinge", "Aktionen" usw.

Link zu Github: offene Semantik der russischen Sprache (Datensatz) .

Über Wortklassen

Bei Klassifizierungsproblemen werden die Klassen selbst häufig durch das zu lösende Problem bestimmt, und die Arbeit des Dateningenieurs besteht darin, einen erfolgreichen Satz von Attributen zu finden, auf denen Sie ein Arbeitsmodell erstellen können.

In unserem Problem sind Wortklassen streng genommen nicht im Voraus bekannt. Hier hilft eine große Schicht semantischer Forschung, die von in- und ausländischen Linguisten durchgeführt wird, die Vertrautheit mit vorhandenen semantischen Wörterbüchern und WordNets.

Dies ist eine gute Hilfe, aber die endgültige Entscheidung wird bereits in unserer eigenen Forschung getroffen. Hier ist das Ding. Viele semantische Ressourcen wurden im Zeitalter vor dem Computer geschaffen (zumindest im modernen Verständnis des Computers), und die Wahl der Klassen wurde weitgehend von der Sprachintuition ihrer Schöpfer bestimmt. Ende des vorigen Jahrhunderts wurde WordNet aktiv für die automatische Textanalyse eingesetzt, und viele neu erstellte Ressourcen wurden für bestimmte praktische Anwendungen geschärft.

Das Ergebnis war, dass diese Sprachressourcen gleichzeitig sowohl sprachliche als auch extralinguistische, enzyklopädische Informationen über die Einheiten der Sprache enthalten. Es ist logisch anzunehmen, dass es unmöglich ist, ein Modell zu erstellen, das extralinguistische Informationen überprüft und sich ausschließlich auf die statistische Analyse von Texten stützt, da die Datenquelle einfach nicht die erforderlichen Informationen enthält.

Basierend auf dieser Annahme suchen wir nur nach natürlichen Klassen, die anhand eines rein sprachlichen Modells erkannt und automatisch verifiziert werden können. Gleichzeitig ermöglicht die Systemarchitektur das Hinzufügen einer beliebig großen Anzahl zusätzlicher Informationsebenen über Spracheinheiten, was in praktischen Anwendungen nützlich sein kann.

Wir werden das Obige anhand eines konkreten Beispiels demonstrieren, indem wir das Wort „Kühlschrank“ analysieren. Aus dem Sprachmodell können wir herausfinden, dass ein "Kühlschrank" ein materielles Objekt, ein Design, ein Behälter vom Typ "Kiste oder Beutel" ist, d. H. Nicht für die Lagerung von Flüssigkeiten oder Feststoffen ohne zusätzlichen Behälter vorgesehen. Darüber hinaus ist aus diesem Modell nicht klar, dass der "Kühlschrank" eine Ware ist, außerdem ein haltbares Produkt, und es ist auch nicht klar, dass dies ein Artefakt ist, d.h. menschlich gemachtes Objekt. Dies sind nichtsprachliche Informationen, die separat angegeben werden müssen.

Warum das alles gebraucht wird

Wie dem auch sei, während des Lernens und Erkennens der Realität reiht eine Person zusätzliche Informationen über die sie umgebenden Objekte und Phänomene auf den natürlichen Rahmen, den sie in ihrer Kindheit gelernt hat. Einige Konzepte sind jedoch universell, unabhängig vom Themenbereich und können erfolgreich wiederverwendet werden.

Sagen wir "Verkäufer" ist eine Person + eine funktionale Rolle . In einigen Fällen kann der Verkäufer eine Gruppe von Personen oder eine Organisation sein, die Subjektivität bleibt jedoch immer erhalten. Andernfalls ist die Zielaktion nicht möglich. Die Wörter "Austausch" oder "Training" beziehen sich auf Aktionen, d.h. Sie haben Teilnehmer, Dauer und Ergebnis. Der genaue Inhalt dieser Aktionen kann je nach Situation und Themenbereich erheblich variieren, bestimmte Aspekte sind jedoch unveränderlich. Dies ist der Sprachrahmen, auf dem variables extralinguistisches Wissen basiert.

Unser Ziel ist es, die maximal verfügbaren intralinguistischen Informationen zu finden und zu erforschen und auf dieser Grundlage ein Erklärungsmodell der Sprache aufzubauen. Dies wird die vorhandenen Algorithmen für die automatische Textverarbeitung verbessern, einschließlich so komplexe wie das Auflösen von lexikalischen Mehrdeutigkeiten, das Auflösen von Anaphoren, komplizierte Fälle von morphologischer Markierung. Dabei werden wir uns notwendigerweise irgendwo gegen die Notwendigkeit ausruhen, außersprachliches Wissen anzuziehen, aber zumindest werden wir wissen, wo die Grenze liegt, wenn interne Sprachkenntnisse nicht mehr ausreichen.

Klassifizierung und Schulung, Satz von Attributen

Derzeit arbeiten wir nur mit Substantiven. Wenn wir also unten „Wort“ sagen, meinen wir Zeichen, die sich nur auf diesen Teil der Sprache beziehen. Da wir uns entschieden haben, nur intralinguistische Informationen zu verwenden, werden wir mit Texten arbeiten, die mit morphologischen Markups ausgestattet sind.

Als Zeichen nehmen wir alle möglichen Mikrokontexte, in denen dieses Wort vorkommt. Für Substantive sind dies:

• APP + X (schönes X: Augen)
• GLAG + X (vdite X: Thread)
• VL + PRED + X (X eingeben: Tür)
• X + SUSCH_ROD (X: Tabellenkante)
• SUSHCH + X_ROD (Griff X: Säbel)
• X_ SUBJECT + GL (X: Die Handlung entwickelt sich)

Es gibt mehr Arten von Mikrokontexten, aber die oben genannten sind die häufigsten und liefern bereits beim Lernen ein gutes Ergebnis.

Alle Mikrokontexte werden auf die Grundform reduziert und wir setzen daraus eine Reihe von Merkmalen zusammen. Als nächstes setzen wir für jedes Wort einen Vektor zusammen, dessen i-te Koordinate mit dem Auftreten eines gegebenen Wortes im i-ten Mikrokontext korreliert.

Zielwert, semantische Slicing-Hierarchie

Die Sprache verfügt über natürliche Mechanismen für die Wiederverwendung von Wörtern, wodurch ein Phänomen wie die Polysemie entsteht. Darüber hinaus werden manchmal nicht nur einzelne Wörter wiederverwendet, sondern es wird eine metaphorische Übertragung ganzer Konzepte vorgenommen. Dies macht sich insbesondere beim Übergang von materiellen zu abstrakten Konzepten bemerkbar.

Diese Tatsache diktiert die Notwendigkeit einer hierarchischen Klassifizierung, bei der semantische Abschnitte in einer Baumstruktur angeordnet sind und die Partition in jedem internen Knoten auftritt. Auf diese Weise können Sie vieldeutiger mit Mehrdeutigkeiten in Mikrokontexten umgehen.

Algorithmusauswahl

Als Algorithmus verwendeten wir die logistische Regression. Dies ist auf mehrere Faktoren zurückzuführen:

1. Auf die eine oder andere Weise enthält das anfängliche Markup eine bestimmte Anzahl von Fehlern und Rauschen.
2. Zeichen können unausgeglichen sein und auch Fehler enthalten - Polysemie und metaphorische (bildliche) Verwendung des Wortes.
3. Die vorläufige Analyse legt nahe, dass eine ausreichend ausgewählte Schnittstelle mit einem relativ einfachen Algorithmus repariert werden sollte.
4. Eine gute Interpretierbarkeit des Algorithmus ist wichtig.

Der Algorithmus zeigte eine recht gute Genauigkeit:

Fehleranalyse

Fehler, die sich aus der automatischen Klassifizierung ergeben, werden durch drei Hauptfaktoren verursacht:

1. Homonymie und Polysemie: Wörter, die den gleichen Typ haben, können unterschiedliche Bedeutungen haben (quälen Sie a und m u ka, stoppen Sie als Prozess und stoppen Sie als Ort ). Dies kann auch die metaphorische Verwendung von Wörtern und Metonymien umfassen (z. B. wird eine Tür als geschlossener Raum klassifiziert - dies ist ein erwartetes Merkmal der Sprache).
2. Ungleichgewicht im Zusammenhang mit der Verwendung des Wortes. Einige organische Verwendungen sind möglicherweise nicht in der Originalverpackung enthalten, was zu Klassifizierungsfehlern führt.
3. Ungültige Klassengrenze. Sie können Grenzen ziehen, die nicht aus Kontexten berechenbar sind und die die Einbeziehung von außersprachlichem Wissen erfordern. Hier wird der Algorithmus machtlos sein.

In dieser Phase achten wir nur auf Fehler des dritten Typs und passen die ausgewählte Grenze zwischen den Klassen an. Fehler der ersten beiden Typen in einer bestimmten Konfiguration des Systems können nicht beseitigt werden, aber bei einer ausreichenden Menge beschrifteter Daten stellen sie kein großes Problem dar - dies lässt sich an der Genauigkeit des Markups der oberen Projektionen ablesen.

Was weiter

Derzeit deckt der Datensatz die meisten Substantive ab, die in der russischen Sprache existieren und im Korpus in einer ausreichenden Vielfalt von Kontexten vertreten sind. Das Hauptaugenmerk lag auf materiellen Objekten - als die verständlichsten und in wissenschaftlichen Arbeiten ausgearbeiteten. Es bleibt die Aufgabe, das vorhandene Markup unter Berücksichtigung der vom Algorithmus empfangenen Daten zu verfeinern und mit Klassen auf den unteren Ebenen zu arbeiten, bei denen eine Verringerung der Vorhersagegenauigkeit aufgrund einer Verwischung der Grenzen zwischen den Kategorien beobachtet wird.

Aber das ist eine Art Routinearbeit, die immer da ist. Eine qualitativ neue Forschungsebene wird die Möglichkeit betreffen, ein bestimmtes Wort in einen bestimmten Kontext oder Satz zu klassifizieren, wodurch die Phänomene der Homonymie und Polysemie einschließlich der Metapher (bildliche Bedeutungen) berücksichtigt werden können.

Außerdem arbeiten wir derzeit an mehreren verwandten Projekten:

• Wörterbuch der Erkennbarkeit der Wörter RY: Eine Variation des Frequenzwörterbuchs, bei der die Verständlichkeit und Vertrautheit des Wortes als Ergebnis eines Crowdsourcing-Markups bewertet und nicht anhand des Textkörpers berechnet wird.
• Offener Korpus zur Lösung lexikalischer Mehrdeutigkeiten: Basierend auf dem RUSSE 2018 WSI & D Shared Task- Wettbewerb, der im Rahmen der Konferenz Dialogue 2018 durchgeführt wurde , wurde die Nützlichkeit des Korpus mit entfernter lexikalischer Mehrdeutigkeit zum Testen automatischer Algorithmen zur Begriffsklärung und Clusterbildung von Wortbedeutungen deutlich. Wir werden dieses Gremium auch brauchen, um zur im vorherigen Absatz beschriebenen Phase der Arbeit an offener Semantik überzugehen.

Tonwörterbuch der russischen Sprache

Das Tonwörterbuch sind die Wörter und Ausdrücke des ABl., Die durch die Tonalität und Stärke der Schwere der emotional-bewertenden Ladung gekennzeichnet sind. Einfach ausgedrückt, wie viel ein bestimmtes Wort "schlecht" oder "gut" ist.

Derzeit sind 67.392 Zeichen markiert (davon 55.532 Wörter und 11.860 Ausdrücke).

Feedback und Verteilung

Wir freuen uns über jegliches Feedback in den Kommentaren - von Kritik an der Arbeit und unseren Ansätzen bis hin zu Links zu interessanten Studien und verwandten Artikeln.

Wenn Sie Bekannte oder Kollegen haben, die an dem veröffentlichten Datensatz interessiert sein könnten, senden Sie ihnen einen Link zum Artikel oder Repository, um die Verbreitung offener Daten zu unterstützen.

Download-Link und Lizenz

Datensatz: offene Semantik der russischen Sprache

Der Datensatz ist unter CC BY-NC-SA 4.0 lizenziert.