Photonisches künstliches neuronales Netzwerk

In einem der vorhergehenden Artikel haben wir bereits eine der Studien auf dem Gebiet der neuromorphen Systeme kennengelernt. Heute werden wir dieses Thema noch einmal ansprechen, aber es geht nicht darum, eine künstliche Nervenzelle zu schaffen, sondern darum, wie diese Zellen zu einem Arbeitsnetzwerk kombiniert werden können. Schließlich ist das menschliche Gehirn wie das komplexeste Netz der Welt, das aus Milliarden von Schnittpunkten und Verbindungen von Neuronen besteht. Forscher haben vorgeschlagen, dass die Verwendung von Licht anstelle von Elektrizität den Prozess der Schaffung eines künstlichen neuronalen Netzwerks, das in seiner Komplexität mit dem menschlichen Gehirn vergleichbar ist, erheblich vereinfacht. Neben großen Worten, komplizierten Berechnungen und weit entfernt von einer Erfahrung stellten Wissenschaftler eine funktionierende Demoversion ihres Geräts zur Verfügung. Wie funktioniert es, was sind seine Merkmale und was bringt es für die Zukunft neuromorpher Technologien? Die Antworten auf alle Fragen sind im Bericht der Forscher versteckt. Es bleibt, sie zu finden. Lass uns gehen.

Wissenschaftler des NIST (Nationales Institut für Standards und Technologie) haben einen Chip entwickelt, der Lichtsignale verwenden kann, da er zwei „Schichten“ photonischer Wellenleiter aufweist. Letztere wandeln Lichtströme in schmale Bänder zur Übertragung optischer Signale um. Laut Wissenschaftlern wird eine solche Entwicklung die Implementierung komplexer Signalrouting-Systeme ermöglichen, die auch durch Hinzufügen zusätzlicher Chips erweitert werden können.

Gerätestruktur

Es ist erwähnenswert, dass der in der Studie experimentell beschriebene Photonenkollektor unabhängig von der Wellenlänge oder dem Zeitmultiplex * funktioniert.

Temporäres Multiplexen * - Übertragung mehrerer Signale gleichzeitig auf einem Kanal.

Bild Nr. 1

Die Kollektorstruktur basiert auf 2 vertikal integrierten Wellenleiterebenen. Die untere Ebene (P ₁ ) ist nach Osten gerichtet, während die zweite (P ₂ ) nach Süden gerichtet ist, wodurch Kreuzungen vermieden werden.

Das von jedem Eingangsknoten gesammelte Licht von P ₁ wird auf P ₂ gerichtet, wenn es beginnt, sich in Richtung Osten zu bewegen. Dieses Routing reduziert die Anzahl der beteiligten Wellenleiter, da jedes eingehende Signal unter Verwendung eines sternförmigen Verbinders * geroutet wird.

Sternförmiger Anschluss * - ein Gerät, das ein eingehendes Signal empfängt und es auf mehrere ausgehende verteilt.

Der Kollektor wird aus zwei Schichten eines neuronalen Netzwerks mit Rückkopplung implementiert, die miteinander verbunden sind:

1. 10 aufsteigende Neuronen;
2. 10 absteigende Neuronen mit 100 Synapsen.

1c zeigt ein Diagramm eines separaten Abschnitts des Systems, der die Struktur der Reservoirschichten beschreibt.

Anmerkung: Der Bericht verwendet Abkürzungen für die Bilder 1b und 1c , nämlich T _x (Sender der ersten Schicht von Neuronen) und S _{x, y} (Synapsen / Empfänger von Neuronen der zweiten Schicht). So ist beispielsweise S _8.3 die Synapse des dritten Empfängers, der das Signal vom achten Sender (T ₈ ) empfängt.

Diese Netzwerkstruktur ermöglicht es jedem Eingabeknoten, eine Gruppe von 10 ausgehenden Streams zu bilden, die zusammen das gesamte Eingabearray darstellen. Jede Gruppe wirkt wie Synapsen (Empfänger) für ein bestimmtes absteigendes Neuron. Dieses Strukturmerkmal ist in Bild 1b dargestellt .

Das Ziel des Kollektors besteht darin, jeden Eingang nach einem bestimmten Muster der Leistungsverteilung auf eine Synapse jedes Ausgangs zu lenken.

Forscher haben zwei Versionen des Systems erstellt:

• einheitlich - jede ausgehende Synapse wird mit der gleichen Kraft versorgt;
• Gauß - Die Synapse aus den mittleren Neuronen der aufsteigenden Schicht erhält den größten Teil der Kraft, und die Synapsen entlang der Peripherie der Neuronen sind viel kleiner.

Um automatisch Vorlagen für beide Optionen zu generieren, wurde ein Skript geschrieben, dessen Variablen für die Anzahl der Neuronen und die Intensitätsverteilungsprofile verantwortlich waren.

Das wichtigste Element des Systems ist die in Bild 1e gezeigte sogenannte Rückzugs- und Übertragungsvorrichtung. Diese Vorrichtung besteht aus einem Strahlausgang und einem Zwischenebenen-Koppler (im Folgenden IPC ), die so nahe wie möglich beieinander angeordnet sind. Die Aufgabe des Geräts besteht darin, einen bestimmten Teil der Busleistung auf einen senkrechten Wellenleiter in der oberen Ebene umzuleiten.

Die Wellenleiter P ₁ und P ₂ verengen sich adiabatisch und dehnen sich bis zu einem Abstand von 1,5 μm aus (Verbindung der roten und blauen Linien in Bild 1e ), um Streuverluste über ihre gesamte Länge zu minimieren.

Zur Verdeutlichung verengt sich der Wellenleiter P ₁ in einem Abstand von 12 μm auf eine Breite von 400 nm und kehrt dann nach 18 μm zu seiner ursprünglichen Breite zurück. Ferner verjüngt sich P ₁ über 12 & mgr; m auf seine minimale Breite von 200 nm. P ₂ wiederholt dieses Muster wiederum nur in umgekehrter Reihenfolge. Infolgedessen beträgt die gesamte IPC-Länge 42 Mikrometer.

Wenn das Netzwerk solche Abmessungen hat, ist es äußerst wichtig, ihm einen beeindruckenden dynamischen Bereich von Leistungsentfernungskoeffizienten zur Verfügung zu stellen, der es ermöglicht, eine gleichmäßige oder Gaußsche Verteilung zu erreichen.

Um diese Anforderung zu erfüllen, verwendet der Kollektor drei Verbindungslücken und eine variable Verbindungslänge, wodurch Sie den Bereich der Stromverteilung des Netzwerks erfolgreich erweitern können.

Die Verbindungslücke wird vom Skript aus der Suchtabelle ausgewählt, in der die Daten früherer Berechnungen der Abgriffskoeffizienten gesammelt werden.

Die Werte der drei Lücken sind wie folgt: 300 nm, 400 nm und 500 nm. Und die Länge der Verbindung variiert von 2,7 Mikrometer bis 19 Mikrometer.

Kollektorherstellung

Der Photonensammler wurde innerhalb der Wände der Boulder Microfabrication Facility des National Institute of Standards and Technology hergestellt.


Im Labor: Der Reinraumkurator John Nibarger untersucht einen Halter für eine Platte, die für ein Abscheidungswerkzeug zum Sprühen von Materialien zum Sprühen von Edelmetallen ausgelegt ist.

Der Durchmesser des Siliziumwafers betrug 77 mm.


Bild Nr. 2: Optische Bilder von hergestellten Proben

Die Ebene zweier Wellenleiter in den Proben besteht aus einem 400 nm dicken SiN- Film (Siliziumnitrid) mit einem Abstand zwischen den Ebenen von 1,2 μm und einer Nennbreite von 800 nm. Das Material für den SiN-Film wurde bei sehr niedrigen Temperaturen (24, 25 und 40 ° C) abgeschieden, um mechanische Beanspruchung und Fehlanpassung der Wärmeausdehnung zu minimieren.

Der SiN-Film hatte einen Brechungsindex von 1,96 und der Wellenausbreitungsverlustindex betrug ~ 5 dB / cm bei einer Wellenlänge von λ = 1310 nm.

Die Wellenleiter sind allseitig mit plasmabeschiedenem SiO ₂ (Siliziumdioxid) ausgekleidet.

Gleichmäßig verteilter Verteiler

Wie wir bereits verstanden haben, muss unabhängig von der Eingangsleistung jeder angeschlossenen Ausgangssynapse derselbe Teil der Leistung zugeführt werden. Wenn wir beispielsweise das Licht auf den Eingangsknoten Tx richten, sollten wir die folgende Leistungsverteilung sehen: S _{x, 1} = S _{x, 2} = S _{x, 3} · · · = S _{x, 10} .


Bild Nr. 3b: Infrarotbild des Kollektors, das zeigt, wie Licht vom ausgehenden Knoten erscheint

Um diese Anforderung zu erfüllen, betrug der Verteilungskoeffizient 0,1 bis 0,5.


Bild Nr. 4

In Bild 4a werden die gemessenen Intensitätsindikatoren und in 4b alle Fehler gesammelt. Und hier sehen wir, dass trotz einiger Fehler die meisten Synapsen eine gute Gleichmäßigkeit aufweisen.

Als Beispiel ist das Leistungsgleichmäßigkeitsniveau der ausgehenden Knoten für T ₈ (Eingang) ( 4s ) gezeigt.

Fehler werden wiederum als Abweichung jedes Punktes vom Durchschnittswert berechnet. In Bild 4d wurde der Durchschnittswert aus dem Absolutwert der Fehler in jeder Zeile in Bild 4b gemessen. Durch Kombination aller Berechnungsdaten erhielten die Forscher einen durchschnittlichen Fehlerwert von 0,7 dB.

Ein weiterer wichtiger Parameter für die Studie war die spektrale Abhängigkeit des Kollektors mit gleichmäßiger Verteilung. Hierzu wurde eine Verbindung mit nur einem Eingangsknoten T _{8 hergestellt} , wonach Beobachtungen von Änderungen der Gleichmäßigkeit am Ausgang mit Abtastwellenlänge durchgeführt wurden.


Bild Nr. 5

Fig. 5a zeigt die Abhängigkeit der Leistung von der Wellenlänge. 5b zeigt alle Fehler an.

5c zeigt, dass der kleinste durchschnittliche Fehlerwert 0,46 dB beträgt, der bei einer Wellenlänge von 1320 nm beobachtet wird. Dieser Parameter steigt auch bei einem Durchlassbereich von 50 nm nicht über 1 dB an.

Gaußscher Verteilungssammler

Dieser Kollektor ist so hergestellt, dass die Synapsen nach dem Prinzip einer Gaußschen Hüllkurve mit Strom versorgt werden.


Bild Nr. 6

Die Überlagerung der Hüllkurve mit der experimentell bestimmten synaptischen Leistungsverteilung für den Eingangsknoten T ₈ zeigte eine hervorragende Übereinstimmung ( 6c ).

Ansonsten wurden die Messungen nach dem gleichen Schema wie beim vorherigen Kollektor durchgeführt.

Bild 6a ist ein Satz von Indikatoren für die Abhängigkeit der Leistung von der Wellenlänge. 6b - Fehler.

Grafik 6d ist der Durchschnittswert des Absolutwerts der berechneten Fehler unter Berücksichtigung aller Reihen aus 6b . Diese Zahl betrug 0,9 dB.

Darauf folgte eine Messung der spektralen Abhängigkeit. Wie beim vorherigen Kollektor nahm nur der T ₈ -Knoten an den Messungen teil.


Bild Nr. 7

Die Abhängigkeit der Leistung von der Wellenlänge ist in Bild 7a und der Fehler in 7b gezeigt .

Aus dem Bild 7a ist auch die Bewegung des Schwerpunkts * der Hülle in Richtung der Synapse mit der niedrigsten Zahl mit zunehmender Wellenlänge zu sehen.

Baricenter * - die arithmetische Durchschnittsposition aller Punkte in der Abbildung.

Der kleinste Fehlerwert, 0,42 dB, wurde bei einer Wellenlänge von 1310 nm beobachtet, was in Grafik 7c gezeigt ist .

In Anbetracht der Tatsache, dass beide Versionen des Kollektors bei ungefähr derselben Wellenlänge den kleinsten Fehlerwert aufweisen, kann argumentiert werden, dass der Abgriffskoeffizient bei einer Wellenlänge von 1310–1320 nm recht gut kalibriert werden kann.

Zusammenfassung

Messungen der Anzahl der Fehler und ihres Durchschnittswerts in beiden Kollektorvarianten haben deutlich gemacht, dass die Ausgangsknoten mit einer höheren Anzahl einen Leistungsmangel aufweisen, insbesondere wenn sie mit Knoten mit einer niedrigeren Anzahl verbunden sind. Wissenschaftler kamen zu dem Schluss, dass dies auf die große Anzahl von Schnittpunkten dieser Wellenleiterrouten zurückzuführen ist und dies die Verluste im Vergleich zu anderen Routen erhöht. Darüber hinaus summieren sich Verteilungsverluste auf den längsten Strecken bis zu 1 dB, was sich auf die Gleichmäßigkeit der Leistungsverteilung auswirkt.

Eine andere Art von beobachtetem Fehler sind die dunklen und hellen Synapsen, die in den obigen Bildern deutlich sichtbar sind (zum Beispiel Synapse S _2.7 in Bild 6b ). Ein ähnlicher Defekt ist höchstwahrscheinlich mit mechanischen Schäden während der Planarisierung verbunden (Entfernung von Unregelmäßigkeiten von der Oberfläche der Platte).

Es ist erwähnenswert, dass solche Fehler behoben werden können. Dazu müssen Sie den Abgriffskoeffizienten so einstellen, dass die Synapsen mehr Licht erhalten. Eine solche Lösung kann die Leistungsverteilung über den Kollektor erheblich verbessern.

Mit anderen Worten, die häufigsten Fehler in diesem Experiment sind diejenigen, die durch versehentliche Defekte während der Herstellung der Probe oder während der experimentellen Studien selbst verursacht wurden.

Intensitätsfehler können die Energieeffizienz des Systems beeinträchtigen, ohne die Datenverarbeitung zu beeinträchtigen. Es hängt aber auch von der Art des Systems selbst ab.

In neuromorphen Systemen benötigt jede Synapse eine bestimmte Mindestanzahl von Photonen, um eine Reaktion auszulösen. Wenn sich im optischen Energieverteilungsnetz zwischen dem Neuron und der Synapse Knoten befinden, die versehentlich eine ungewöhnlich kleine Anzahl von Photonen empfangen, müssen Sie nur die vom Neuron erzeugte Lichtversorgung erhöhen. Dadurch wird sichergestellt, dass das optische Signal an den schwächsten Verbindungen ankommt.

Experimentelle Messungen eines Kollektors mit einer Gaußschen Verteilung zeigten erneut, dass ein solches Gerät aufgrund des hohen Maßes an Kontrolle über den Energieverteilungsprozess für verschiedene Systemarchitekturen implementiert werden kann.

Es ist wichtig zu beachten, dass ein System, das solche Kollektoren verwendet, durch Hinzufügen weiterer Eingabe- und Quellknoten skalierbar ist. Das einzige, was solche positiven Ergebnisse überschattet, ist der Verlust, der mit dem Schnittpunkt von Wellenleitern verbunden ist. Es wurde festgestellt, dass die maximale Anzahl von Kreuzungen auf einer Route proportional zum Quadrat der Anzahl von Knoten ist.



Die Verluste aus einer Kreuzung betragen 6 mdB. Wenn der Kollektor 22 Eingangs- und 22 Quellknoten hat, beträgt die Gesamtverlustrate 3 dB. Dies kann sehr einfach vermieden werden - durch Vergrößerung des interplanaren Raums. Somit sind die Verluste minimal, obwohl die Chipgröße zunimmt.

Für eine detailliertere Kenntnis der Forschungsmaterialien empfehle ich dringend, auf den Link zu klicken.

Nachwort

Jemand wird sagen, dass Wissenschaftler, die an solchen Forschungen beteiligt sind, Zeit verschwenden. Ich wäre nicht so radikal. Jegliches Wissen, das im Rahmen einer praktischen Erfahrung oder eines theoretischen Umdenkens erworben wurde, ist wichtig für das Gemeinwohl der Wissenschaft und infolgedessen für das Leben der Gesellschaft. Dies ist wie ein kleines Puzzleteil, ohne das sich die allgemeine Vorstellung vom Bild des Puzzles nicht ändert, aber unvollständig ist.

Wie Georg Lichtenberg sagte:

Die größten Dinge der Welt werden von anderen verursacht, die wir für unbedeutend halten. ("Die größten Dinge der Welt werden durch andere Dinge hervorgerufen, die wir als nichts betrachten.")

Vielen Dank für Ihren Aufenthalt bei uns. Gefällt dir unser Artikel? Möchten Sie weitere interessante Materialien sehen? Unterstützen Sie uns, indem Sie eine Bestellung aufgeben oder Ihren Freunden empfehlen, einen Rabatt von 30% für Habr-Benutzer auf ein einzigartiges Analogon von Einstiegsservern, das wir für Sie erfunden haben: Die ganze Wahrheit über VPS (KVM) E5-2650 v4 (6 Kerne) 10 GB DDR4 240 GB SSD 1 Gbit / s von $ 20 oder wie teilt man den Server? (Optionen sind mit RAID1 und RAID10, bis zu 24 Kernen und bis zu 40 GB DDR4 verfügbar).

Dell R730xd 2 mal günstiger? Nur wir haben 2 x Intel Dodeca-Core Xeon E5-2650v4 128 GB DDR4 6 x 480 GB SSD 1 Gbit / s 100 TV von 249 US-Dollar in den Niederlanden und den USA! Lesen Sie mehr über den Aufbau eines Infrastrukturgebäudes. Klasse mit Dell R730xd E5-2650 v4 Servern für 9.000 Euro für einen Cent?