Die Lösung für das Problem, den Kontext der künstlichen Intelligenz zu verstehen. Teil 1



Das Verstehen der natürlichen Sprache ist eine KI-Aufgabe . Ein Aspekt dieses Verständnisses ist das Verstehen des Kontexts. In diesem Artikel werde ich erklären, welche Arten von Kontext unser Geist beiseite legt, wie er mit einer Art von Kontext funktioniert und wie wir diesen Prozess in unserer Technologie der künstlichen Intelligenz neu erstellen.

Die Trophäe passt nicht in den braunen Koffer, weil sie zu [klein / groß] ist.
Was ist zu [klein / groß]?
Antworten: Der Koffer / die Trophäe.
Die Winograd Schema Challenge

Der vorherige Artikel beschrieb unseren Ansatz zur KI-Entwicklung und was wir bisher bereits getan haben. Ich möchte Sie daran erinnern, dass wir KI schaffen, indem wir die Strukturen und Prozesse der menschlichen Psyche direkt kopieren.

Zwei Arten von Kontext


Aus den Kommentaren zum vorherigen Artikel haben wir gesehen, dass der Begriff „Kontext“ verwendet wird, um sehr unterschiedliche Situationen zu beschreiben. Wir betrachten diesen Begriff und teilen ihn in zwei Typen.

Die erste Art von Kontext ist, wenn es um das Verständnis geht, das sich aus den in diesem Satz ausgedrückten Konzepten ergibt. Dies sind Situationen, in denen man eine der Bedeutungen von Homonymen wählt, ein Synonym wählt, eine der Bedeutungsnuancen wählt usw. Zum Beispiel: „Ihre Augen waren wässrig, als sie Zwiebeln für einen Salat schnitt“ und „Modernes Bogenschießen ist in mehrere Richtungen unterteilt.“ Eine Person "on the fly" versteht, wenn es um Zwiebeln, Pflanzen und Zwiebeln geht - eine Vielzahl von Waffen.

Die zweite Art von Kontext ist, wenn zum Verständnis eine bestimmte Kategorie herausgegriffen werden muss, die häufig nicht im Text selbst dargestellt oder nicht besonders hervorgehoben ist. Es ist diese Kategorie, die es uns ermöglicht, eine bestimmte „Idee“ zu formulieren und zu verallgemeinern, was gesagt wird.

Wenn Sie beispielsweise in Lev Tolstois Buch auf den Satz "Er hat einen Brief gedruckt ..." stoßen, verwenden Sie zum korrekten Verständnis des Textes die Kategorie "19. Jahrhundert" und schließen daraus, dass es sich nicht um einen Drucker handelt. Diese Art von Kontext impliziert, dass zum Verständnis und zur Interpretation des Textes nicht nur der gesamte Text, sondern auch die damit verbundenen Daten analysiert werden können.

Das Lösen von Problemen, die mit verschiedenen Arten von Kontexten verbunden sind, wird durch völlig unterschiedliche mentale Prozesse bedient. Wir wiederholen die gleiche Aufteilung in unserer KI-Entwicklung. Bei der Lösung der Probleme des ersten Typs wird eine Methode verwendet, die auf den Merkmalen der Wissensspeicherung basiert. Bei der Lösung von Problemen des zweiten Typs wird ein komplexerer Algorithmus implementiert, der auf Erfahrung basiert (im Fall der künstlichen Intelligenz sprechen wir über Algorithmen, die den Mangel an realer menschlicher Erfahrung im System kompensieren) und einen größeren Rechenaufwand vorschlägt.

Die menschliche Psyche versucht meistens zuerst, die erste Methode anzuwenden, weil Es erfordert viel weniger Rechenressourcen. Wenn die Lösung nicht angemessen aussieht, verwendet die Psyche die zweite. Je höher die Intelligenz, desto häufiger wird die zweite Methode verwendet und desto mehr mögliche Kontexte werden berücksichtigt. Kinder bevorzugen angesichts der Komplexität und Ressourcenintensität der zweiten Methode sowie Erwachsene, die nicht an geistige Arbeit gewöhnt sind, die erste.

Wir werden beschreiben, wie unsere KI-Technologie mit der ersten Art von Kontext funktioniert. Wie wir mit dem zweiten, komplexeren arbeiten, wird im nächsten Artikel beschrieben.

Länger ist das Geflecht, das weniger Bindungen hat


Nehmen wir zur Veranschaulichung eine Dialogsituation:

"Ich gehe die Promenade entlang und sehe eine Sense. Ich frage mich, welches Geflecht am längsten ist. “

Eine auf neuronalen Netzen basierende Lösung wird aufgrund der durch die Methode selbst auferlegten Einschränkungen höchstwahrscheinlich nicht in der Lage sein, angemessen zu reagieren. Selbst wenn viele Texte in die Nationalversammlung geladen werden, um nach einer Antwort zu suchen, ertönt basierend auf der Wahrscheinlichkeit die Zahl „5,6 Meter“.

Ich möchte Sie daran erinnern, dass wir unsere KI-Technologie entwickeln, indem wir die Psyche und ihre Prozesse nacheinander kopieren. Das semantische Netzwerk, in dem wir Wissen speichern, spiegelt die Besonderheiten der menschlichen Speicherung und Verarbeitung von Informationen wider. Daher wird das Problem im Rahmen unseres Ansatzes ganz einfach gelöst.

In einer Lösung, die dem Alter von sieben Jahren entspricht, greift der Algorithmus auf das semantische Netzwerk zu und findet den Scheitelpunkt, der sich in dem Knoten befindet, zu dem die zuvor gehörten Wörter gehören. Im obigen Beispiel muss eines der Homonyme richtig ausgewählt werden: ein Geflecht (Frisur) und ein Geflecht (Landstreifen, der mit der Küste verbunden ist) (Werkzeug). Dazu wird analysiert, welcher Knoten des semantischen Netzwerks zuvor diskutiert wurde. Das heißt, Das einfachste Verfahren zur Berechnung des Mindestabstands zu den zuvor im Text verwendeten Konzepten wird ausgeführt. In unserem Netzwerk ist die Entfernung eine Funktion der Anzahl der Verbindungen (in direktem Verhältnis) und ihrer Wahrscheinlichkeit (umgekehrt).

Der Abstand vom „Geflecht (Landstreifen)“ zum „Damm“ ist zwei Größenordnungen kleiner als vom „Geflecht (Frisur)“ zu einem dieser Konzepte. AI gibt die Antwort "110 km".

Es sei darauf hingewiesen, dass dieses Problem auch auf die zweite Weise gelöst wird, indem die Kategorie getrennt wird, beispielsweise "die Wolga, neben der unser Gesprächspartner".

Umzugsunternehmen sehen Koffer anders


Schauen wir uns ein Beispiel aus dem Vinohrad-Schema am Anfang des Artikels an:

„Die Trophäe passt nicht in den braunen Koffer, weil sie zu klein ist. Was ist zu klein? "

Die Verbindung zwischen „passt nicht“ und der Kombination von „zu klein“ - „Koffer“ ist um eine Größenordnung wahrscheinlicher als zwischen „passt nicht“ und „zu klein“ - „Trophäe“. AI gibt die Antwort "Koffer".

Das Vorhandensein einer hohen Wahrscheinlichkeit einer solchen Beziehung, die eine um eine Größenordnung geringere Entfernung in der Kette voraussetzt, „passt nicht“ - „zu klein“ - „Koffer“, ist auf menschliche Erfahrung zurückzuführen. Wie die meisten Menschen bin ich oft auf eine Situation gestoßen, in der etwas nicht in einen Koffer passt, da es zu klein ist. Daher habe ich eine solche Verbindung. Dieselben Verbindungen werden beim Lernen der KI gebildet (wir werden in einem der folgenden Artikel über unser semantisches Netzwerk detaillierter auf die Bildung verschiedener Arten von Verbindungen in der Psyche eingehen).

"Die Trophäe passt nicht in den braunen Koffer, weil sie zu groß ist. Was ist zu groß? "

Die Verbindung zwischen „passt nicht“ und der Kombination von „zu groß“ - „Trophäe“ ist viel wahrscheinlicher als zwischen „passt nicht“ und „zu groß“ - „Koffer“. KI wird die Antwort "Trophäe" geben.

Ich stelle ein Merkmal fest: Bei Umzugsunternehmen, die häufig auf eine Situation stoßen, in der Sie einen zu großen Koffer aufstellen müssen, verwendet die Psyche die zweite Methode, um den Kontext zu verstehen. Weil Für sie ist der Link „zu groß“ - „Koffer“ relevanter. Gleichzeitig funktioniert ein anderes System für Touristen - zusammen mit einer Zunahme der Erfahrung von Situationen, in denen es schwierig ist, einen Koffer irgendwo zu platzieren, steigt die Unmöglichkeit der Konstruktion: „Sie können nichts in einen Koffer stecken, weil der Koffer zu groß ist“.

Für eine Lösung, die dem Alter von 12 Jahren entspricht, ist die Formel etwas komplizierter. Darüber hinaus wird der Ansatz dieses Alters auch bei Erwachsenen umgesetzt - nach 12 Jahren wird dieser Teil des Algorithmusnetzwerks nicht komplizierter.

Tatsächlich wird die Leichtigkeit der Entscheidung durch die Besonderheiten unserer Reise bestimmt. Alle Situationen im Zusammenhang mit Kommunikation, alle Linguistik werden unter Beteiligung der Strukturen der menschlichen Psyche gebildet. Tatsächlich werden alle Besonderheiten im Bereich der Sprache durch diese Strukturen bestimmt. Es stimmt, es gibt einen umgekehrten Prozess, wenn die Sprache die Struktur bestimmt. Es gibt gegenseitige Gehirnerschütterung. Es ist nicht verwunderlich, dass mit Hilfe dieser (mentalen) Strukturen die auftretenden Probleme auf einfachste Weise gelöst werden. Die Mutter muss mit einem Schraubenschlüssel herausgeschraubt werden, sie sind aufeinander abgestimmt. Kein Löffel.

Ich stelle fest, dass unser Ansatz zur Entwicklung der KI neben großen Vorteilen auch einige Schwierigkeiten mit sich bringt. Die Computerarchitektur entspricht nicht der physiologischen Basis, und wir lösen regelmäßig technische Probleme für die qualitative Darstellung von Prozessen und Strukturen der Psyche in digitaler Form. Aufgrund bestehender Annahmen und Anpassungen werden einige der Ressourcen dafür aufgewendet, die Identität des semantischen Netzwerks und der KI-Algorithmen mit den Strukturen und Algorithmen der realen Psyche sicherzustellen.

Der nächste Artikel wird sich mit der zweiten Art von Kontext befassen und leider viel schwerer sein. Wir können nicht auf ein tiefes Eintauchen in psychologische Prozesse verzichten, wenn wir Algorithmen für die Arbeit mit der zweiten Art von Kontext in unserer Technologie beschreiben.

Source: https://habr.com/ru/post/de399111/


All Articles