GTA V ist mit der OpenAI Universe-Plattform verbunden, um die Autopilot-KI zu lernen



Etwas mehr als ein Monat ist vergangen, seit die gemeinnützige Organisation OpenAI Ilona Mask die Universe- Middleware für das Training und das Unterrichten einer starken KI eingeführt hat. Theoretisch kann ein Training zu allen Informationen der Menschheit stattfinden, die über das Internet zugänglich sind. Bei Verwendung der Universe-Softwareplattform verwendet ein intelligenter Agent einen Computer genauso wie eine Person: Er betrachtet die Pixel des Computerbildschirms und interagiert mit der virtuellen Tastatur und Maus.

Zu den Dutzenden von Spielen, die für das KI-Training verfügbar sind, wurde das Grand Theft Auto V-Spiel hinzugefügt , das sich durch außergewöhnlichen Realismus auszeichnet.

Sie können einen unbemannten Fahrzeug-KI-Agenten in jedem Framework für maschinelles Lernen erstellen, und es ist relativ einfach, auf einem Computer mit installiertem GTA V eine Verbindung zum Spiel herzustellen .


Der KI-Agent befindet sich am Scheideweg. In der Konsolendiagnose werden links der Status des Betätigens des Bremspedals (true) und andere aktuelle Autopilot-Parameter angezeigt

Das Spiel GTA V bietet auch bei behinderten Gewalttaten zahlreiche Möglichkeiten, die KI für ein unbemanntes Fahrzeug zu trainieren. Dies ist eine der größten und reichsten offenen Welten. Spielaktionen finden auf dem Territorium der Insel San Andreas mit einer Fläche von fast 20% dieses Los Angeles statt. Hier können Sie verschiedene Szenarien zum Testen der KI ausführen. Agenten haben Zugriff auf 257 verschiedene Arten von Autos, 7 Arten von Fahrrädern, 14 Arten von Wetter und die Umgebung kann direkt während der Simulation geändert werden.


Die Insel San Andreas

Dank der zahlreichen Mods im Spiel GTA V können Sie Gebäude aus echten Städten, echten Autos, echten Verkehrszeichen und anderen Objekten laden. Dementsprechend wird Ihr KI-Agent im Fahren unter realen Straßenbedingungen geschult.

Universumsplattform


Die Eröffnung der universellen universellen Plattform Universe ist eine Fortsetzung der geplanten Aktionen von OpenAI zur Schaffung einer weltweit offenen universellen KI. Im April dieses Jahres veröffentlichte die Organisation eine öffentliche Beta-Version des OpenAI Gym- Toolkits , um Verstärkungslernalgorithmen zu entwickeln und zu vergleichen. Das "Fitnessstudio" OpenAI Gym besteht aus einer Vielzahl von Umgebungen (von einem humanoiden Robotersimulator bis zu Atari-Spielen ). Es gibt eine Website zum Vergleichen und Reproduzieren der Ergebnisse .

OpenAI ist der Ansicht, dass das verstärkte Lernen ein wichtiger Weg des maschinellen Lernens ist, der die KI erheblich verbessern wird. Im Lernprozess mit dieser Methode lernt das Testsystem (Agent) durch Interaktion mit einer bestimmten Umgebung. Im Gegensatz zum traditionellen Unterricht mit einem Lehrer besteht die Antwort auf die getroffenen KI-Entscheidungen in Verstärkungssignalen, während einige Verstärkungsregeln dynamisch und schwer zu verstehen sind, dh auf der gleichzeitigen Aktivität formaler Neuronen beruhen.

Ausführen eines AI-Agenten auf Ihrem Computer mit GTA V.


Die Integration von Universe in Grand Theft Auto V wurde erstellt und wird vom DeepDrive- Projekt unterstützt , das jetzt auf Open Source umgestellt hat. Das Projekt bietet die Möglichkeit, den Universe-Agenten mit einer installierten Kopie des Spiels auf Ihrem eigenen Computer auszuführen.



Über das Universum erhält der Agent für künstliche Intelligenz Zugriff auf die realistische dreidimensionale Spielwelt von GTA V. Das nächste Video zeigt die Frames aus dem Spiel, die zur Verarbeitung an den AI-Agenten übertragen wurden (künstlich auf 8 FPS verlangsamt, oben links), Diagnoseinformationen vom Agenten und der Umgebung (unten links). sowie eine menschenfreundliche Ansicht von der Kamera (rechts).

Die Integration von KI in das Spiel verbietet jegliche gewalttätigen Aktionen in GTA V.


Um den Agenten auf Ihrem Computer zu starten, müssen Sie den GTA V-Serverprozess starten . Pre seinen Satz pitonovskoj Bibliothek Universum , und dann die Agenten mit dem folgenden Code verbinden.

import gym
import universe # register Universe environments into Gym
from universe.spaces import joystick_event

env = gym.make('gtav.SaneDriving-v0')
env.configure(remotes='vnc://$host:$port') # point to the GTA V Universe server
observation_n = env.reset()

while True:
  steer = joystick_event.JoystickAxisXEvent(-1)     # turn right
  throttle = joystick_event.JoystickAxisZEvent(-1)  # go in reverse
  # Alternatively, use WASD to steer: ('KeyEvent', 'w', True)
  action_n = [[steer, throttle] for _ in observation_n]
  observation_n, reward_n, done_n, info = env.step(action_n)
  env.render()

Wie bei Universe-Agenten üblich, verwendet AI eine virtuelle Tastatur. In diesem Fall steht ihr jedoch auch ein virtueller Joystick zur Verfügung. AI zeigt die besten Ergebnisse mit dem Joystick.

Tiefer Antrieb


DeepDrive ist eine spezialisierte KI-Entwicklungsplattform für unbemannte Open-Source-Fahrzeuge. Es verwendet Modding-Frameworks und spezielle Techniken, um GTA V in einen normalen Autosimulator zu verwandeln. Es stehen vorgeschulte Agenten mit Transportmanagementfunktionen und Datensätzen zur Verfügung, für die sie geschult wurden.

Die DeepDrive-Plattform erschien zwar früher als das Universum, aber jetzt entschied der Entwickler, dass es ratsam wäre, seine Arbeit auf diese universelle offene Plattform zu übertragen. Das war der richtige Schritt. Zuvor waren zum Ausführen des Agenten ein Windows-Computer und viele Stunden Umgebungseinrichtung erforderlich (dort wurde DirectX-Interception verwendetUm den Bildschirm zu erfassen und Agenten zu schreiben, mussten Sie die C ++ - Schnittstelle zu Caffe unter Windows verwenden. Jetzt wird DeepDrive in 20 Minuten installiert, läuft unter Linux und OS X und Agenten können auf jedem Framework für maschinelles Lernen geschrieben werden.

Open Source veröffentlichter Quellcode und AMI für GTA V, einen vorab geschulten Agententreiber . Sein Training dauerte 21 Stunden (600.000 Bilder). Der Agent verfügt über grundlegende fahrerische Fähigkeiten und ist ein guter Anfang für Ihre eigenen Experimente.


Zusammen können Tausende von KI-Agenten einen wirklich hoch entwickelten Fahrer schaffen - ein Programm, das ein echtes unbemanntes Fahrzeug in der realen Welt fahren kann.

Source: https://habr.com/ru/post/de400551/


All Articles