Nvidia Jetson Embedded-Systeme für maschinelles Lernen



Hardwareplattformen für maschinelles Lernen wachsen schnell und werden immer billiger. Mit Nvidia Jetson-Modulen können Sie effiziente und kostengünstige Edge-Computing-Lösungen erstellen. Heute ist es möglich, ein Hochleistungssystem mit 256 Nvidia Cuda-Grafikkernen in einen handflächengroßen Computer einzubauen.

In diesem Artikel werden wir analysieren, was Edge Computing ist, über die Nvidia Jetson-Module sprechen und die Lösungen zeigen, die wir basierend auf ihnen entwickeln konnten.

Edge-Computing



Das Konzept von Edge Computing beinhaltet die Einsparung von Ressourcen, indem die Rechenleistung so nah wie möglich an die Endgeräte übertragen wird.

-------------------------------------------------- -------------------------------------------------- ---------------------

Betrachten Sie ein Beispiel aus einem realen Projekt: Der Kunde muss die Nummer des Autos erkennen, das sich an einem entfernten Ort dem Tor nähert. Über dem Tor ist eine hochauflösende Digitalkamera installiert. Die einzige Verbindung zum Objekt ist ein teurer mobiler Internetkanal. Zuvor musste der Kunde jede Bewegung auf dem Video verarbeiten und Frames von der Kamera zur Erkennung an den Server senden. Die meisten der gesendeten Frames enthielten falsche Positive: die Bewegung von Menschen, Tieren, Wetterereignissen. Dies führte zu einem erhöhten Verbrauch von Mobilfunkverkehr. Mit dem Aufkommen erschwinglicher Edge-Computing-Lösungen wurde es möglich, den Videostream lokal in der Einrichtung zu verarbeiten und mithilfe von maschinellem Lernen ein sich bewegendes Auto von anderen Phänomenen zu unterscheiden und sogar seine Nummer zu erkennen. Das Senden von Daten an den Server über einen teuren Internetkanal beschränkte sich daher auf das Senden einer Textzeichenfolge mit einer Autonummer. Dadurch konnten die Kosten für den mobilen Verkehr zeitweise gesenkt werden.

Was ist Nvidia Jetson?




Nvidia Jetson ist eine Familie von Embedded-Computing-Modulen im SoM-Formfaktor (System On Module), die sich auf die Erstellung kompakter und energieeffizienter maschineller Lernsysteme konzentrieren. Nvidia Jetson-Module sind kompakte Karten, die alle Komponenten eines vollwertigen Computers enthalten: Prozessor, Videokerne, RAM, USB-Controller usw. Sie können in andere Platinen (Trägerplatinen) eingebettet werden, die für bestimmte Aufgaben entwickelt wurden.

Die Verwendung von SoM vereinfacht die Entwicklung eingebetteter Systeme erheblich, da der Hersteller einer bestimmten Lösung lediglich eine Trägerplatine für die Peripherie entwickeln und ein vorgefertigtes Computermodul einsetzen muss. Auf diese Weise können Sie die Kosten für die Entwicklung komplexer Motherboards senken und sich auf die Verarbeitungsqualität und zusätzliche Optionen konzentrieren. Dies ist auch für Entwickler einfacher, da sie dasselbe SoM-Modul in Form eines Evaluierungskits verwenden können, während das endgültige Gerät noch nicht bereit ist. Auf diese Weise erhält der Softwareentwickler eine vorhersehbare Hardwareumgebung und kann sicher sein, dass er beim Übertragen von Programmen auf das Endgerät genau die gleiche Leistung erzielt. Dies ist besonders wichtig bei der Entwicklung maschineller Lernsysteme, bei denen das Ergebnis stark von den Eigenschaften des Eisens abhängt.

Jetson Nano


Bild

Nvidia Jetson Nano ist das jüngste Modul der Jetson-Produktreihe, das für Endgeräte wie Kameras, DVRs, Roboter, interaktive Terminals und Unterhaltungselektronik entwickelt wurde. Entwickelt im SO-DIMM-Formfaktor als Mainboard für Laptops.

Eigenschaften


Prozessor : Quad-Core-ARM Cortex-A57 MPCore bei 1,4 GHz
GPU : Maxwell mit 128 CUDA-Kernen
Video-Hardware-Codec: 4K @ 30fps-Codierung (H.264 / H.265-Codec) und 4K @ 60fps-Decodierung
Videoausgang: HDMI 2.0 oder DP1.2 | eDP 1.4 | DSI (1 × 2), zwei gleichzeitig
RAM: 4 GB LPDDR4 64-Bit; 25,6 GB / s
Flash-Speicher: 16 GB eMMC (für Betriebssystem)
Schnittstellen: 1 × 1/2/4 PCIE, 1 × USB 3.0, 3 × USB 2.0, Gigabit Ethernet
E / A: 1 × SDIO / 2 × SPI / 6 × I2C / 2 × I2S / GPIO-Pins
Betriebssysteme: Linux
Abmessungen: 69,5 × 45 mm
Anschluss : 260-poliger SO-DIMM DDR4-Anschluss

Aufgrund der geringen Kosten des Jetson Nano-Moduls ist es vielen Entwicklern gelungen, es in der Praxis zu testen. Auch am Hub gibt es bereits mehrere Artikel, die sich mit der Bildverarbeitung und Mustererkennung befassen: Jetson Nano - Demokatzenerkennung . Dies ist das günstigste und beliebteste Modul für die Bereitstellung von maschinellen Lernsystemen.

DVR MIC-710IVA basierend auf Nvidia Jetson Nano


Bild
Wir präsentieren eine intelligente All-in-One-Videoüberwachungslösung - den digitalen 8-Kanal-DVR MIC-710IVA, der auf dem Nvidia Jetson Nano basiert . Sie können Bildverarbeitungssysteme integrieren, ohne einen komplexen Komplex aus mehreren Geräten zu erstellen.

MIC-710IVA kombiniert:

  • Digitaler Videorecorder mit Speichersystem
  • Rechenmodul mit 128 CUDA-Kernen für die Echtzeit-Videoverarbeitung
  • 8-Port PoE-Switch zum direkten Anschluss von Kameras
  • Digitaler Ein- / Ausgangsblock zur Steuerung von Relais, Reedschaltern, Alarmen usw.


Maschinelles Lernen ist in der Videoüberwachung schnell zum Trend geworden. Sie können damit automatisieren, was eine Person zuvor tun musste, um beispielsweise abnormales Verhalten von Personen, Autos, Naturphänomenen, Unfälle zu erkennen, die Arbeitslast von Objekten zu analysieren usw. Sie müssen sich nicht mehr auf die Aufmerksamkeit des Disponenten verlassen. Solche Systeme sind im Einzelhandel, in Sicherheitskomplexen und in Verkehrsknotenpunkten gefragt.

Technische Daten MIC-710IVA


  • Errichtet auf NVIDIA Jetson Nano
  • 8 PoE-Ports für Camcorder
  • Möglichkeit zur Installation von zwei 3,5-Zoll-Festplatten
  • Linux-Betriebssystem
  • Geringer Stromverbrauch
  • Unterstützung für H.264 / H.265-Videocodecs
  • RS-485-Schnittstelle und 8-Bit-Digitaleingänge / -ausgänge



Rückseite des DVR MIC-710IVA

Mit dem DVR MIC-710IVA können Sie die erste Videoverarbeitung in Echtzeit durchführen, ohne den gesamten Stream an entfernte Rechenzentren senden zu müssen. Dadurch wird das Netzwerk entlastet und es müssen keine vertraulichen Daten an Dritte übertragen werden.

Jetson Tegra x2


Bild
Jetson Tegra ist das ältere Modul in der Produktpalette und fast dreimal produktiver als Jetson Nano. Es wird im Formfaktor der Mezzanine-Karte hergestellt, das heißt, es wird über einen speziellen 400-Pin-Anschluss in eine andere Karte eingefügt. Es gibt auch eine TX2i-Version mit einem erweiterten Betriebstemperaturbereich.

Eigenschaften


Prozessor : Quad-Core-ARM-Cortex-A57-MPCore + Dual-Core-NVIDIA-Denver-2-64-Bit-CPU
GPU : 256 NVIDIA Pascal-Kerne + 256 NVIDIA CUDA-Kerne
RAM: 8 oder 4 GB LPDDR4 64-Bit; 59,7 GB / s
Anschluss : 400 Pin

Dieses Modul richtet sich an professionelle Entwickler und kostet viermal so viel wie Jetson Nano. Das Jetson TX2-Modul wurde für leistungsstärkere Computer entwickelt. Es wird in der Robotik, in der Industrie, in Flugzeugen usw. verwendet.

Kompakter Industriecomputer MIC-720AI



MIC-720AI basiert auf der Jetson TX2-Plattform mit vollständig passiver Kühlung und ist für den Einbau in industrielle Bildverarbeitungssysteme, in die Produktion und in sich bewegende Objekte konzipiert. Das lüfterlose Design sorgt für einen leisen Betrieb und ermöglicht es Ihnen, Ihren Computer in staubigen Räumen ohne Wartungsaufwand zu verwenden.

Das Vorhandensein eines PoE-Anschlusses ermöglicht es Ihnen, eine Ethernet-Kamera direkt an einen Computer anzuschließen, ohne Injektoren und Zwischengeräte verwenden zu müssen.



Technische Daten MIC-720AI
  • Basierend auf Nvidia Tegra X2
  • Voll passive Kühlung
  • Zwei USB 3.0, ein USB 2.0 OTG / Host
  • Ethernet-Anschluss mit Unterstützung für 802.3af PoE
  • Linux-Betriebssystem
  • Breiter Temperaturbereich

Auf der Rückseite des Computers befindet sich ein USB 2.0-Anschluss, über den zwischen OTG und Host umgeschaltet werden kann. Im OTG-Modus kann der Computer zur Datenübertragung und für Software-Updates als USB-Laufwerk an einen anderen Computer angeschlossen werden.



Der MIC-720AI eignet sich für Produktionssteuerungssysteme und hochpräzise Video-Stream-Analysen.

Jetson Xavier



Jetson Xavier ist das produktivste Modul in der Linie. Entwickelt für den Einbau in Autos, Flugzeugen und anderen Systemen mit einem großen Strom von Videodaten. Hergestellt im Formfaktor der Mezzanine-Platine. Der Jetson Xavier ist 20-mal so leistungsfähig wie der Jetson TX2 und verfügt über 512 Nvidia Volta-Kerne an Bord. In diesem Fall verbraucht das Modul bis zu 30W.

Hochleistungs-Industriecomputer MIC-730AI


Der MIC-730AI-Computer basiert auf Jetson Xavier und wurde für den Einbau in Hochleistungsproduktionssysteme entwickelt, in denen eine große Datenmenge verarbeitet werden muss. Wie beim MIC-720AI besteht das Kühlsystem ausschließlich aus passiven Bauteilen und verwendet keine Lüfter. Die Computerkonfiguration kann erweitert werden, indem zwei PCIe x8 / x4-Karten über das Erweiterungsmodul iModule MIC-75M20 verbunden werden.



Technische Daten MIC-730AI
Basierend auf Nvidia Xavier
Passive Kühlung
Zwei USB 3.0, zwei USB 2.0
2 Ethernet-Ports
Möglichkeit zum Anschluss von zwei PCIe-Karten (über iModule MIC-75M20)
Möglichkeit zum Anschluss von 1x MiniPCIe und 1x M.2 (PCIex4 NVMe)
Zwei serielle Schnittstellen RS-485/232
Vorinstalliertes Linux-Betriebssystem Ubuntu 18.04
Geringer Stromverbrauch

Fazit


Maschinelles Lernen wird in vielen Branchen verfügbar. Wir bei Advantech sind davon überzeugt, dass Technologien für maschinelles Lernen die Arbeitseffizienz erheblich steigern und Prozesse automatisieren können, die ohne menschliches Eingreifen bisher nicht vorstellbar waren. Wir hoffen, dass unsere Hardwarelösungen den Kunden die Integration des maschinellen Lernens in ihre Arbeit erleichtern.

Source: https://habr.com/ru/post/de481862/


All Articles