MIT-Forscher lehren neuronale Netze zur Vernunft



In letzter Zeit haben sich neuronale Netze in vielen Anwendungen hervorragend gezeigt. Sie suchten nach Mustern in den Daten, die für die Klassifizierung und Prognose verwendet wurden. Neuronale Netze erkannten Objekte mit scheinbarer Leichtigkeit in digitalen Bildern oder nachdem sie eine Textpassage "gelesen" hatten, fassten sie ihr Thema zusammen. Es konnte jedoch niemand sagen, welche Transformationen die Eingabedaten durchliefen, um die eine oder andere Lösung zu erhalten. Sogar die Autoren der Netzwerke besaßen Eingabedaten und Ausgabeinformationen. Und wenn wir visuelle Daten betrachten, ist es manchmal sogar möglich, Experimente zu automatisieren, um herauszufinden, auf welche Komponenten der Bilder das neuronale Netzwerk reagiert. Und mit Textverarbeitungssystemen ist der Prozess komplizierter. Was ist die Schwierigkeit, eine menschliche Sprache mit einer Maschine zu verstehen, können Sie unten lesen.

Im CSAIL-Labor für Informatik und künstliche Intelligenz des Massachusetts Institute of Technology haben Forscher neuronaler Netze dafür gesorgt, dass das „virtuelle Gehirn“ nun zusätzlich zur Lösung seine Begründung liefert. Sie trainierten zwei Module eines neuronalen Netzwerks gleichzeitig. Die Daten für das Training waren Textauszüge. Die Ergebnisse waren erfreulich: In 95% der Fälle dachte der Computer wie eine Person. Bevor jedoch eine neue Methode für aktive neuronale Netze gestartet wird, müssen zusätzliche Konfigurationen und Verfeinerungen vorgenommen werden.

Warum sind Bilder einfacher zu verarbeiten als Text? Wird es möglich sein, unbemannte Fahrzeuge frei zu fahren, ist es möglich, einen lebenden Arzt durch eine programmierte Intelligenz zu ersetzen, in der sich unzählige Neuronen befinden? Bringt uns dies bewussten Maschinen im wirklichen Leben näher? Computermodelle neuronaler Netze verhalten sich genauso wie das menschliche Gehirn, durften jedoch bisher keine Entscheidungen treffen, die sich auf das Leben der Menschen auswirken. Um dies zu ändern, brauchten die Spezialisten Zeit und jetzt können wir herausfinden, wie das neuronale Netzwerk zu den Endwerten kommt.

In der Welt der realen Anwendungen möchten die Leute manchmal wissen, warum die Maschine eine solche Vorhersage gemacht hat und keine andere. Der Hauptgrund, warum Ärzte KI-Entscheidungen nicht vertrauen, ist der Mangel an Informationen über den Entscheidungsprozess. Dies gilt auch für andere Bereiche, in denen die Kosten für eine falsch erstellte Prognose hoch sind. Daher braucht jeder Beweise und Garantien. Höchstwahrscheinlich ist alles sogar noch umfassender: Sie können nicht nur die Richtigkeit des Prognosemodells bestätigen, sondern auch herausfinden, wie Sie das Geschehen durch Analyse beeinflussen können. Wie ein gewöhnlicher Mensch ein komplexes Modell verstehen kann, das auf unbekannten Algorithmen trainiert wird. Diese Algorithmen können über die Rationalität einer bestimmten Lösung sprechen. Auf Giktayms wurde bereits eine Frage zum Thema gestellt. Und jetzt können wir positiv reagieren.

Neuronale Netze - was?


Der Name "künstliche neuronale Netze" legt nahe, dass sich diese Strukturen ungefähr wie menschliche Gehirnstrukturen verhalten. Die konstituierende Einheit eines solchen Netzwerks ist ein Verarbeitungsknoten, der wie ein Neuron selbst einfache Operationen ausführen kann. Leistung entsteht, wenn viele Knoten zu einem riesigen Netzwerk zusammengefasst werden. Die meisten unbekannten Arbeiten finden in einem Neuron statt. Das ist es - eine Black Box. Die Eingabe- und Ausgabedaten können herausgefunden werden. Während des Trainings ändern sich die von einzelnen Knoten ausgeführten Operationen ständig, um über den gesamten Satz von Trainingsbeispielen hinweg gute Ergebnisse zu erzielen. Am Ende des Prozesses weiß der Netzwerkprogrammierer nicht, welche Knoten derzeit konfiguriert sind. Selbst wenn diese Daten vorhanden wären, wäre es schwierig, diese Informationen auf niedriger Ebene zu verstehen, um sie in eine Sprache übersetzen zu können, die die Menschen verstehen.



Während des Deep Learning gelangen die Daten in die Eingabeknoten des Netzwerks, die sie transformieren und an die folgenden Knoten übertragen. Die letzte Aktion wird viele Male wiederholt. Der Prozess stoppt, wenn die Werte an den Ausgabeknoten des Netzwerks ankommen. Informationen korrelieren mit dem Datenbereich, in dem das Training stattfindet. Es können Objekte im Bild oder das Thema des Artikels sein.

Wie der Prozess transparent wurde


Um zu verstehen, wie ein neuronales Netzwerk Entscheidungen trifft, haben die Forscher beschlossen, es auf Textdaten zu trainieren. Im Institutslabor teilte ein Team von Spezialisten das geschaffene Netzwerk in zwei Teile. Eine sollte Textstücke aus Trainingsdaten extrahieren und nach Länge und Reihenfolge auswerten. Je kürzer die Passage ist und je mehr Teile aus aufeinanderfolgenden Wörtern bestehen, desto höher ist die Punktzahl.

Weitere Passagen kamen im zweiten Teil. Der zweite Teil des neuronalen Netzwerks sagte das Thema der Passage voraus oder versuchte, den Text zu klassifizieren. Für den Test haben wir Online-Bewertungen von der Bierbewertungsseite verwendet. Ein Netzwerk von Wissenschaftlern versuchte, Biere auf einer Fünf-Sterne-Skala zu bewerten, basierend auf Faktoren wie Aroma, Geschmack, Aussehen und schriftlichen Bewertungen. Nach dem Training des Systems stellten die Forscher fest, dass ihr neuronales Netzwerk Aroma und Aussehen sowie reale Personen bewertet: 95% bzw. 96%. Nach einem subjektiveren Geschmacksmerkmal „stimmte“ das neuronale Netz in 80% der Fälle mit den Menschen überein.

Die Module wurden zusammen trainiert, und das Ziel des Trainings war es, die Bewertung der ausgewählten Segmente und die Genauigkeit der Vorhersage oder Klassifizierung zu maximieren.



Die Abbildung zeigt ein Beispiel für eine Bierbewertung mit Rangfolge in zwei Kategorien. Wenn das erste Subnetz diese drei Sätze auswählte und das zweite Subnetz sie mit den richtigen Bewertungen verknüpfte, verwendete das System dasselbe für die Beurteilung als Person. Die Forscher testeten auch ein neuronales Netzwerk basierend auf einer Datenbank mit kostenlosen Fragen und Antworten zu technischen Themen. Die Frage war, ob bereits zuvor eine konkrete Antwort gegeben worden war.

Wissenschaftler haben diese Methode auf Tausende von Biopsieergebnissen mit einer Pathologie von Brustkrebs angewendet. Der Text und die Bilder wurden analysiert.

Was ist die Schwierigkeit für eine Maschine, die menschliche Sprache zu verstehen?


"Es ist schwer zu beantworten, wenn Sie die Frage nicht verstehen." Sarek, Spocks Vater in Star Trek 4: Heimkehr.

Die Verarbeitung natürlicher Sprache ist einer der Bereiche der künstlichen Intelligenz. Unsere Sichtweise und ein breites Spektrum an Wissen über die Welt und das Verständnis des Kontextes beeinflussen die Art und Weise, wie wir selbst die elementarsten Strukturen der Grammatik wahrnehmen und Wörter zu aussagekräftigen Phrasen und Sätzen verbinden.

Ich werde es anhand des Beispiels in Eric Siegels Buch "Calculating the Future" erklären. Zum Beispiel Sätze wie von Indien, von Milch, von Ihrem. Jeder ähnliche Teil eines Satzes kann je nach den Wörtern vor und nach der Phrase unterschiedliche Rollen spielen. Eine spezifische Definition basiert auf dem Verständnis, was Wörter bedeuten und was die wirklichen Dinge sind, die sie nennen.

1. "Die Zeit vergeht wie ein Pfeil."
2. "Frucht fliegt wie eine Banane."

Wenn jemand diese englischen Sprachrätsel nicht kennt, versuchen Sie, Sätze auf verschiedene Arten selbst zu übersetzen.

Die Zeit vergeht wie ein Pfeil.
Fliegen der Zeit lieben eine Art Pfeil.
Messen Sie die Geschwindigkeit von Fliegen, während Sie die Geschwindigkeit eines Pfeils messen.

Frucht fliegt wie eine Banane.
Drosophila lieben Banane.

Die gleiche Ausrede kann verschiedene Dinge bedeuten. Besonders die Präposition MIT.

"Ich habe Brei mit Früchten gegessen." Ich aß Brei mit Früchten, die Teil des Gerichts waren.
"Ich habe mit einem Löffel gefrühstückt." Ich frühstückte mit einem Löffel, was ein Werkzeug war.
"Ich habe mit meiner Mutter gefrühstückt." Ich habe mit meiner Mutter gefrühstückt, die an der Aktion teilgenommen hat.

Die Verwendung von neuronalen Netzen


Klassifizierungsaufgaben. Dies ist nur eine Suche nach Mustern, Gesichtserkennung.

Prognoseaufgaben. Wie sich Benutzer in bestimmten Situationen verhalten. Beispielsweise berechnen Banken die Wahrscheinlichkeit der Rückzahlung von Krediten, wenn sie sich für einen Zuschuss entscheiden. Sie prüfen auch die Kosten für Kredite, um sie zum besten Zeitpunkt an andere Banken weiterzuverkaufen. Anwendungsbereiche des maschinellen Lernens: Sicherheit, Verbraucherverhalten in Geschäften, Verbrechensbekämpfung, Marketing, natürlich Politik (Wahlen), Bildung, Psychologie und Personalmanagement.

In jedem Fachgebiet kann man bei näherer Betrachtung Problemstellungen für neuronale Netze finden. Hier ist eine Liste einzelner Bereiche, in denen die Lösung solcher Probleme jetzt von praktischer Bedeutung ist. Ich bringe einige von ihnen.

Im Finanzbereich prognostizieren neuronale Netze Wechselkurse, Rohstoffkosten (Zeitreihen), helfen bei der Durchführung eines automatisierten Börsenhandels, prognostizieren die Wahrscheinlichkeit eines Konkurses und bestimmen die Sicherheit von Transaktionen mit Plastikkarten. Im medizinischen Bereich stellen sie Diagnosen, verarbeiten Bilder, überwachen den Zustand der Patienten und analysieren die Wirksamkeit der verschriebenen Behandlung. Neuronale Netze erkennen Radarsignale, passen die Steuerung beschädigter Flugzeuge an, komprimieren Videoinformationen, optimieren Mobilfunknetze, sprechen mit uns in Form von elektronischen Assistenten (Cortana, Siri), filtern und blockieren Spam und helfen bei der Konfiguration gezielter Werbung. In Produktionsprozessen können sie Notfälle verhindern und die Produktqualität kontrollieren. In der Robotik legen sie die Wege für die Bewegung von Robotern fest,Manipulatoren steuern.

Sicherheitsexperten und Sicherheitssystemen das Leben erheblich erleichtern - hier identifizieren die neuronalen Netze Personen anhand von Fingerabdrücken, Stimmen, Unterschriften und Gesichtern. Für Geologen analysieren Netzwerke seismische Daten und suchen mithilfe assoziativer Techniken nach Mineralien.

Wie kann sich die Medizin auf unbegründete Entscheidungen über neuronale Netze stützen? Aber ist es möglich, dass Entscheidungen des Menschen, seines Geistes, gemischt mit Emotionen, für einen bestimmten Fall immer als absolut wahr angesehen werden können? Es gibt natürlich Kommissionen von Ärzten, aber sie können nicht immer gesammelt werden. In unserer nicht immer evidenzbasierten Medizin treffen Menschen mit spezifischer Ausbildung immer noch Entscheidungen. Der menschliche Faktor, medizinischer Fehler gegen das wahrscheinliche falsch positive der künstlichen Intelligenz. Vielleicht ist die Tatsache, dass es im Fall der Maschine keine bestimmte schuldige Person gibt? .. In der Natur des Menschen - um Antworten zu suchen, Entscheidungen vor seinem eigenen Gehirn zu rechtfertigen und zu rechtfertigen. Für eine Person ist es immer einfacher, wenn bekannt ist, wer schuld ist.

Das Gleiche auf der Straße. Es ist unverzeihlich, dass eine Maschine eine Person stürzt, genauso wie es für eine andere Person, die gegen die Regeln verstößt, unverzeihlich ist, Schaden zuzufügen. Erhält der Schuldige immer eine objektive Bestrafung? Fragen der Moral bleiben ewig. Wahrscheinlich gibt es keine allgemeine Antwort. Wenn selbstfahrende Autos von BMW oder Google auf den Straßen der Stadt zur Routine werden, gehen die Menschen ein Maschinenrisiko ein. Und obwohl in einigen Fällen der Tod durch einen Fahrercomputer verursacht wird, wird die Gesamtzahl der Unfälle und Opfer dank Robotern dramatisch sinken.

Vor allem für die Ethik.Neuronale Netze kämpfen gegen Unternehmen, die Autos mit Selbstverwaltung produzieren. Frage: Was soll ein Autopilot tun, wenn zwei Kinder direkt an der Kreuzung einen Ball vor sich spielen? Wer sollte einer Gefahr ausgesetzt sein: Kinder oder Passagiere des Autos verstoßen wissentlich gegen die Regeln (!).
Dieses Beispiel ähnelt einer klassischen ethischen Aufgabe, bei der Sie der Betreiber eines Verkehrspfeils sind, auf einem Pfad eine Gruppe von Personen und auf dem anderen nur jemand. Die Entscheidung wird immer unfair gegenüber dem Opfer, seinen Verwandten und dem Rest sein. Obwohl Menschen, die zu diesem Preis überleben, möglicherweise auch nicht glücklich sind.

Evolutionäre Gehirnähnlichkeit


Es gibt das Konzept des Neurodarvinismus. Es enthält einen Selbstlademechanismus, der das Feedback zwischen der Umgebung und dem Gehirn bearbeitet. Selbst die einfachsten Computermodelle neuronaler Netze erreichen in kurzer Zeit ein erstaunliches Maß an Komplexität, wenn sie so programmiert sind, dass sie für die Existenz ungünstige Konfigurationen entfernen und nützliche reproduzieren. Wovon spreche ich? In der realen Welt wurden keine Strukturen mit dem Ziel der Selbstzerstörung geschaffen. Jede Kreatur ist auf das Leben programmiert. Und auch neuronale Netze. Selbst eine solche Kreatur wie eine Drosophila-Fliege hat unserer Meinung nach ein komplexes System von Verbindungen im Gehirn . Dies ist ihr Gehirn, das Sie am Anfang auf dem Bild gesehen haben.

Wie das menschliche Gehirn mit Bildern arbeitet


Laut Rita Carter werden in dem Buch „Wie das Gehirn funktioniert“ Informationserinnerungen über die Gesichter von Menschen, die wir kennen, als spezielle neuronale Netze (Einheiten der Gesichtserkennung) im Gehirn gespeichert. Wenn wir ein neues Bild sehen, wird es mit unserer Erfahrung durch Scannen der ERL verglichen. Wenn eine Verbindung besteht, wird diese ERL aktiv und stellt eine Verbindung zum zuletzt gesehenen Bild her. Das Gehirn verhält sich genauso, unabhängig davon, ob ein neues Bild auf der Straße gesehen oder vom menschlichen Geist unabhängig erzeugt wird. Je öfter sich das Bewusstsein auf gespeicherte Bilder bezieht, desto aktiver sind die entsprechenden neuronalen Netze. Unnötige Netzwerke lösen sich im Laufe der Zeit auf. Dies nennen wir "völlig vergessen".

Bewusstsein


Warum zeichne ich Analogien zum menschlichen Gehirn? Vielleicht geht es nicht nur darum, neuronalen Computernetzwerken zu vertrauen? Vielleicht ist dies eine Frage des Verständnisses und der Akzeptanz. Ja, eine andere Person als eine Kreatur, die von uns im Gegensatz zu einem mechanischen Computer vollständig als „unsere“ akzeptiert wird, wird jede Entscheidung auf eine Weise erklären und begründen, die wir verstehen. Und wenn er lügt? Und wenn er psychisch krank ist? Nuancen bleiben überall. Maschinen haben kein Bewusstsein, was bedeutet, dass es keine ethischen Probleme gibt - sie sind immer objektiver und unparteiischer. Die Forscher können sie jedoch nicht nur für bestimmte Bereiche belassen, z. B. für die Erstellung der besten Schachkombination, das Entwerfen komplexer Systeme, und daher müssen wir uns auch anpassen. Obwohl es schwierig ist. Sowie jede Grenze zwischen mechanisch und emotional zu spüren. Aber so ist die Zukunftbeschrieben in Science-Fiction-Romanen der Vergangenheit, die längst zu unserem täglichen Leben geworden sind.

Somit wurde ein weiterer Schritt zum Verständnis eines Mensch-Maschine-Paares unternommen. Ich möchte Roger Penrose zitieren, einen Professor für Mathematik an der Universität Oxford.

Verständnis erfordert Bewusstsein. Die Illusion des Verstehens ergibt sich aus der umfassenden Verarbeitung großer Datenmengen. Berechnung und Verständnis ergänzen sich.

"Ich glaube, um das Verständnis zu erklären, wenden wir uns neuen physikalischen Konzepten mit einer Quantenwelt zu, deren mathematische Struktur größtenteils unbekannt ist."

Penrose sagt, dass das Verstehen eine bestimmte Komponente des Gehirngewebes erzeugt.

"Es gibt Mikrotubuli im menschlichen Körper, besonders viele in Nervenzellen."

Der Wissenschaftler schlägt vor zu untersuchen, ob es möglich ist, dass Mikrotubuli stabile Quantenzustände erzeugen, die die Zellaktivität im gesamten Gehirn binden und Bewusstsein erzeugen. Eine Computersimulation dieses Zustands ist nicht möglich.

Source: https://habr.com/ru/post/de398873/


All Articles