Künstliche neuronale Netze in einfachen Worten erklärt

Bild

Als ich bei einer Flasche Bier ein Gespräch über neuronale Netze begann, warfen mir die Leute einen Blick auf etwas, das Angst zu sein schien. Sie wurden traurig, manchmal mit zuckenden Augenlidern. In seltenen Fällen wollten sie sogar unter dem Tisch Zuflucht suchen. Warum? Diese Netzwerke sind eigentlich einfach und instinktiv. Ja, glauben Sie mir, das sind sie! Lassen Sie mich nur beweisen, dass dies wahr ist!


Angenommen, es gibt zwei Dinge, die mir an dem Mädchen bewusst sind: Sie sieht nach meinem Geschmack hübsch aus oder nicht, und ich habe viel mit ihr zu reden oder ich habe nicht. Richtig und falsch sind eins bzw. null. Wir werden ein ähnliches Prinzip für das Aussehen annehmen. Die Frage ist: "In welches Mädchen werde ich mich verlieben und warum?"


Wir können es auch klar und kompromisslos denken: „Wenn sie hübsch aussieht und es viel zu erzählen gibt, werde ich mich verlieben. Wenn beides nicht stimmt, höre ich auf. “


Aber was ist, wenn ich die Dame mag, aber es gibt nichts, worüber ich mit ihr sprechen könnte? Oder umgekehrt?


Es versteht sich, dass für jeden von uns eines dieser Dinge von größerer Bedeutung sein wird. Um genau zu sein, hat jedes Kriterium seinen eigenen Wichtigkeitsgrad oder mit anderen Worten sein Gewicht. Ein Kriterium, das nach Gewicht multipliziert wird, führt entsprechend zu einer Auswirkung auf das Erscheinungsbild oder die Konversation.


Jetzt kann ich mit klarem Gewissen meine eigene Frage beantworten:


"Wenn Charisma und Gesprächigkeit insgesamt mehr Wert als" verliebt "machen, dann werde ich es versuchen ..."


Bild


Wenn ich also mehr Gewicht auf die Gesprächigkeit der Dame und weniger auf die Art und Weise lege, wie sie aussieht, dann werde ich mich in einer umstrittenen Situation in eine Person verlieben, mit der ich gerne sprechen würde. Auch das Gegenteil ist der Fall.


Bild


Diese Regel ist ein eigentliches Neuron.


Ein künstliches Neuron ist eine Funktion, die mehrere Eingaben in eine Ausgabe umwandelt. Indem wir die Gewichte dieser Eingaben und die Anregungsschwelle einstellen, passen wir die Angemessenheit des Neurons an. Grundsätzlich endet für viele von uns die Wissenschaft vom Leben auf dieser Ebene, aber diese Geschichte handelt nicht von uns, oder?


Lassen Sie uns noch ein paar Schlussfolgerungen ziehen:


  • Wenn beide Gewichte niedrig sind, fällt es mir schwer, mich in jemanden zu verlieben.
  • Wenn beide Gewichte sehr hoch sind, kann ich mich sogar in einen Lichtmast verlieben.
  • Sie können mich auch dazu bringen, die Stange zu lieben, wenn Sie meine Liebesschwelle senken. Aber ich bitte Sie, mir das nicht anzutun! Vergessen wir es jetzt, okay?

Neuronales Netz


Wir können kaum klar nette und explizit gesprächige Damen finden. Nicht alle Verliebtheiten sind gleich, egal wer was sagt. Aus diesem Grund sollten wir brutale und kompromisslose „0“ und „1“ vermeiden und durch Prozentwerte ersetzen. Dann kann man sagen: „Ich bin verliebt“ (80%) oder „Diese Dame ist nicht sehr gesprächig“ (20%).


Unser primitives "Alles-oder-Nichts-Neuron" von oben passt nicht in den Fall. Es wird durch ein „weises Neuron“ ersetzt, das abhängig von den Eingabedaten Werte von 0 bis 1 liefert.


Bild


Ein „weises Neuron“ mag zu uns sagen: „Diese Frau ist hübsch genug, aber ich kenne keine gemeinsamen Punkte, über die wir sprechen können, und deshalb mag ich sie nicht so gern.“


Bild


Gehen wir weiter. Wir werden diese beiden Fakten für eine unterschiedliche Einschätzung verwenden: Wie gut wird es sein, mit einem solchen Mädchen zusammenzuarbeiten (zusammenzuarbeiten)? Unsere Aktionen werden absolut gleich sein - fügen wir ein weises Neuron hinzu und passen die Gewichte an, um uns wohl zu fühlen.


Wenn wir Mädchen anhand von zwei Merkmalen beurteilen, erhalten wir ein sehr grobes Ergebnis. Lassen Sie uns noch ein Kriterium einführen - Geld! Es wird von null (absolut arm) bis eins (Rockefellers Tochter) reichen. Mal sehen, wie sich unsere Annahmen mit dem eingeführten Geldkriterium ändern.


Für mich selbst habe ich entschieden, dass Geld in Bezug auf sexuelle Anziehungskraft nicht so wichtig ist, aber ihr schickes Aussehen wird definitiv einen Einfluss auf mich haben. Aus diesem Grund halte ich das Geldgewicht niedrig und dennoch positiv.


In Bezug auf Geschäftsbeziehungen macht es für mich absolut keinen Unterschied, wie reich das Mädchen ist, daher schlage ich vor, dass das Geldgewicht Null ist.


Bild


Es ist Torheit, ein Mädchen nur für Arbeit oder Liebesbeziehung zu überprüfen. Lassen Sie uns überlegen, wie angenehm es sein könnte, wenn wir uns entschließen, mit ihr zu reisen:


  • Das Charisma ist hier neutral (Gewicht ist Null oder sehr niedrig).
  • Gesprächig zu sein ist gut (positives Gewicht).
  • Bei echten Reisen ist es eine sehr aufregende Zeit, wenn das Geld plötzlich ausgeht. Aus diesem Grund werde ich dem Geld ein leicht negatives Gewicht geben.

Wenn wir alle drei Pläne zu einem zusammenfassen, werden wir feststellen, dass wir zu einem nachdenklicheren Urteilsvermögen übergegangen sind: von Charisma, Dollarnoten und Gesprächigkeit zu Bewunderung, Zusammenarbeit und Komfort beim gemeinsamen Reisen. Beachten Sie, dass diese Signale auch von null bis eins variieren können. Dies bedeutet, dass ich endlich ein letztes "Alles-oder-Nichts-Neuron" hinzufügen kann, damit es meine Frage genau beantwortet: "Soll ich sie heiraten oder nicht?"


Bild


Natürlich ist nicht alles so einfach (in Bezug auf Frauen). Lassen Sie uns ein wenig Drama und Realität in unsere einfache und rosige Welt einführen. Zuerst machen wir das Neuron „heiraten oder nicht heiraten“ zu einem weisen Neuron. Es ist eine menschliche Natur, auf die eine oder andere Weise zu zögern. Eine weitere Sache, wir werden das Neuron "Kinder von ihr wollen" hinzufügen und der Realität sehr nahe sein - das Neuron "von ihr fernhalten".


Ich verstehe nichts von Frauen, daher sieht mein primitives Netzwerk jetzt wie die Abbildung oben in diesem Artikel aus.


Eingabeaussagen werden als "Eingabeebene", endgültige Beurteilungen als "Ausgabeschicht" bezeichnet, während in der Mitte eine "verborgene Ebene" verborgen ist. Die verborgene Schicht sind meine Urteile und unvollendeten Gedanken, von denen niemand etwas weiß. Versteckt können mehrere oder keine Ebenen sein.


Weg von allem oder nichts


Erinnerst du dich daran, wie ich über die negativen Auswirkungen des Geldes auf meinen Wunsch gesprochen habe, mit jemandem auf eine Reise zu gehen? Nun, ich habe geschummelt. Für gemeinsame Reisen irgendwo sollten Sie eine Person mit Geld an Ihrer Seite haben, weder zu viel noch sehr, sehr wenig. Für mich scheint es aufregender.


Trotzdem habe ich hier eine herausfordernde Situation:


If I make money weight negative, then the less money the better. If money weight is positive, the more money the better. If money has zero weight, then it does not matter at all. 

Das Gewicht allein reicht mir also nicht aus, um die Situation „nicht mehr und nicht weniger“ herauszufinden!


Um dies zu umgehen, werde ich zwei neue Neuronen erfinden: "Geld ist viel", "Geld ist wenig" und den Cashflow meiner Dame an ihre Inputs weiterleiten.


Jetzt habe ich zwei Urteile: "viel" und "wenig". Wenn zwei Ausgaben unbedeutend sind, dann bekomme ich literarisch "weder viel noch wenig". Das heißt, am Ausgang platzieren wir ein weiteres Neuron mit negativen Gewichten:


Bild


"Weder viel noch wenig": Pfeile in Rot und Blau zeigen positive bzw. negative Beziehungen.


Im Allgemeinen bedeutet dies, dass Neuronen an Blöcke aus einem Baukasten erinnern. Wie ein Prozessor aus Transistoren aufgebaut ist, können Neuronen zusammen ein Gehirn bilden. Zum Beispiel kann das Urteil „reich oder klug“ wie folgt dargestellt werden:


Bild
Entweder-Oder-Sache: Pfeile in Rot und Blau zeigen positive bzw. negative Beziehungen.


Oder so:


Bild
Wir können "weise" Neuronen durch "Alles-oder-Nichts" -Neuronen ersetzen und den logischen XOR-Operator erhalten. Es ist nicht zu vergessen, die Anregungsschwellen anzupassen.


Im Gegensatz zu Transistoren und der kompromisslosen Wenn-Dann-Logik eines typischen Programmierers kann das Neuronennetzwerk gewichtete Entscheidungen treffen, deren Ergebnisse sich durch sanfte Variationen der Eingabeparameter ändern. Hier ist die Weisheit!


Ich möchte Ihre Aufmerksamkeit darauf lenken, dass das Hinzufügen einer Schicht aus zwei Neuronen es dem Neuron „weder viel noch weniger“ ermöglicht hat, ein komplexeres und ausgewogeneres Urteil zu fällen und auf die neue Logikstufe umzuschalten. Dies ist ein Übergang von „viel“ oder „weniger“ zu einer Kompromisslösung, zu Urteilen, die aus philosophischer Sicht nachdenklicher sind. Was ist, wenn wir neue versteckte Ebenen hinzufügen? Wir sind in der Lage, dieses einfache Netzwerk mit unserem Verstand zu erfassen, aber was ist mit einem Netzwerk mit 7 Schichten? Können wir noch die Tiefe seiner Urteile wahrnehmen? Und was ist, wenn jeder von ihnen, einschließlich der Eingabeschicht, ungefähr tausend Neuronen hat? Was glaubst du, wird es können?


Stellen Sie sich vor, ich mache diese Ehe- und Liebessache immer komplexer, um schließlich zu einem solchen Netzwerk zu gelangen. Irgendwo dort versteckt es all unsere neun ursprünglichen Neuronen und verwirklicht es so mehr. Egal wie sehr wir uns bemühen würden, wir haben einfach keine Chance, alle Abhängigkeiten und die tiefgreifende Natur der von einem solchen Netzwerk getroffenen Urteile zu verstehen. Für mich kann der Übergang von einem 3x3-Netzwerk zu 7x1000 mit dem Verständnis der Größe einer Galaxie verglichen werden, wenn nicht des Universums im Vergleich zu meiner eigenen Körpergröße. Einfach gesagt, das wird mir nicht gelingen. Die Lösung, die ein solches Netzwerk durch die Reaktion eines seiner Neuronen bieten würde, kann nicht durch Logik erklärt werden. Es ist das, was wir im Alltag eher als "Intuition" bezeichnen (zumindest "eine von ... oder eine von ..."), was ein unerklärlicher Wunsch des Systems oder ein Hinweis ist, den es uns gibt.


Im Gegensatz zu unserem synthetischen Beispiel eines 3x3-Netzwerks, bei dem jedes Neuron in der verborgenen Schicht ausreichend und genau formalisiert ist, ist dies im realen Netzwerk jedoch nicht unbedingt der Fall. In einem gut gestalteten Netzwerk, dessen Größe für die Lösung der jeweiligen Aufgabe nicht zu groß ist, erkennt jedes Neuron ein bestimmtes Attribut. Dies bedeutet jedoch keineswegs, dass wir in unserer Sprache ein Wort oder eine Phrase finden können, die zur Beschreibung geeignet ist . Für den Einzelnen gilt dies für seine bestimmte Eigenschaft, die Sie fühlen, aber nicht in Worten erklären können.


Schulung


Ein paar Zeilen weiter oben erwähnte ich ein gut gestaltetes Netzwerk, das wahrscheinlich Ihre unausgesprochene Frage provoziert: „Und wie können wir ein Netzwerk aus Tausenden von Neuronen zusammensetzen? Wie viele „Mannjahre“ und ruinierte Leben brauchen wir, um das zu erreichen? “ Ich habe Angst, den zweiten Teil zu beantworten. Viel besser ist es, die Anpassungsverfahren automatisch durchzuführen und das Netzwerk zu zwingen, diese Aufgabe selbst zu erledigen. Ein solcher Automatisierungsprozess wird als Training bezeichnet. Um eine allgemeine Vorstellung zu vermitteln, sollte ich zur ursprünglichen Metapher des „kritisch wichtigen Themas“ zurückkehren:


Wir kommen auf diese Welt mit einem absolut klaren und unschuldigen Geist, wobei unser Neuronennetzwerk Frauen völlig ignoriert. Wir müssen es nahtlos einrichten, damit sich Glück und Freude in unserem Haus niederlassen können. Um dies zu erreichen, benötigen wir einige Erfahrungen, die auf verschiedene Weise entwickelt werden können:


Einen Trainer an Ihrer Seite haben (für Träumer und Sentimentalisten). Sehen Sie sich Hollywood-Seifenopern an und lesen Sie sprudelnde Romane. Man kann auch Eltern und / oder Freunde zum Sammeln von Informationen mitnehmen. Abhängig davon, wie viele Informationen erhalten werden, ist es dann Zeit, das bisher gesammelte Wissen zu überprüfen. Wenn dies nicht gelingt, brechen Sie den Versuch ab und spulen Sie zurück, um wieder mit Liebesromanen zu beginnen.
Kein Trainer, der Ihnen hilft (für verzweifelte Experimentatoren). Verwenden Sie die Trial-and-Error-Methode, um ein oder zwei Dutzend Frauen zu heiraten. Wenn Sie verheiratet sind, kratzen Sie sich jedes Mal verwirrt am Kopf. Wiederholen Sie diesen Vorgang, bis Sie der Meinung sind, dass dies ausreicht und Sie das Gefühl haben, zu wissen, wie dies normalerweise geschieht.
Kein Trainer, der Ihnen hilft, Option 2 (verzweifelte Optimisten werden dies wählen). Lass es los und tue etwas fürs Leben, um eines Tages verheiratet zu sein. Passen Sie danach Ihr Netzwerk an die aktuelle Realität an, um sicherzustellen, dass alles gut zu Ihnen passt.
Logischerweise sollte ich alle Dinge weiter im Detail aufschreiben, aber ich befürchte, dass es ohne Mathematik zu viel Philosophie geben wird. Aus diesem Grund glaube ich, dass ich hier besser aufhören sollte. Vielleicht beim nächsten Mal?


Alles, was oben angegeben wurde, gilt für künstliche Neuronennetzwerke vom Typ "Perzeptron". Andere Netzwerke sind nach Prinzipien gleich, haben aber auch ihre eigenen Besonderheiten.


Ich wünsche Ihnen gute Gewichte und hervorragende Proben für Ihr Training! Und wenn Sie sie noch nicht benötigen, erzählen Sie jemand anderem von diesem Artikel.


RU-Version

Source: https://habr.com/ru/post/de454484/


All Articles