Warum sollten Sie keine Angst vor Killerrobotern haben?

Eine Dystopie, bei der Killerroboter unschuldige Menschen zerstören, klingt schrecklich, aber sagen wir es unverblümt: Es ist alles Science-Fiction

Eine Szene aus dem Slaughterbots-Film, in der autonome Killerdrohnen in einer dystopischen Zukunft in die Hände von Terroristen fallen

Killerdrohnen, die in die Hände von Terroristen gefallen sind, organisieren das Massaker an unschuldigen Menschen. Roboter-Massenvernichtungswaffen richten Chaos und Angst an. Der Kurzfilm, der von Befürwortern autonomer Waffenverbote erstellt wurde, soll Sie glauben machen, dass diese Anti-Utopie bereits sehr eng ist und dass heute Maßnahmen ergriffen werden müssen. Der Film Slaughterbots wurde im November 2017 gleichzeitig mit der Konferenz der Vereinten Nationen über autonome Waffen veröffentlicht. Das UN-Treffen endete nicht mit etwas Konkretem, aber das Video wird immer beliebter. Es wurde bereits von mehr als 2 Millionen Menschen angesehen und hat Dutzende von Artikeln erreicht . Es funktioniert perfekt als Propaganda. Und mit der Überzeugung, ein Verbot autonomer Waffen zu akzeptieren, kommt es überhaupt nicht zurecht.


Natürlich wäre eine Welt, in der Terroristen einen Schwarm von Killerdrohnen auf unschuldige Menschen abfeuern können, schrecklich, aber ist die im Film gezeigte Zukunft realistisch? Ein schönes Bild hilft, Lücken in der Logik zu verbergen. Der Film taucht den Betrachter in einen dystopischen Albtraum ein, aber sagen wir es unverblümt: Es ist alles Science-Fiction.

Die Hauptannahme des Films ist, dass das Militär in Zukunft autonome Mikrodrons mit kumulativen Ladungen erzeugen wird, die bis zum Kopf einer Person fliegen und Sprengstoff aktivieren können, wodurch sie getötet wird. Im Film fallen diese Killer-Bots schnell in die Hände von Terroristen, was weltweit zu einer massiven Anzahl von Todesfällen führt.



Das Hauptkonzept hat eine Grundlage in der Realität. In unserer Welt setzte der islamische Staat [eine verbotene Terrororganisation in der Russischen Föderation] vorgefertigte gekaufte Quadrocopter ein , die mit einer kleinen Menge Sprengstoff ausgerüstet waren, um irakische Truppen anzugreifen, wobei mehrere Dutzend Soldaten starben und verletzt wurden. Die heutigen terroristischen Drohnen werden größtenteils ferngesteuert, aber Amateurdrohnen werden unabhängiger. Die neuesten Modelle wissen bereits, wie man selbstständig zu einem festen Ziel fliegt, Hindernisse umgeht und sich bewegende Objekte unabhängig verfolgt und verfolgt. Eine kleine Drohne, die mit einem Gesichtserkennungssystem ausgestattet ist, kann im Prinzip verwendet werden, um bestimmte Personen autonom zu suchen und zu zerstören, wie der Slaughterbots-Film zeigt. In nur wenigen Minuten der Suche im Internet habe ich Ressourcen gefunden, mit denen Sie ein kostenloses neuronales Netzwerk herunterladen und trainieren können, das Gesichter erkennt. Und während niemand diese Technologien kombiniert hat, wie im Film gezeigt, sind alle Komponenten bereits real.

Aber ich möchte eine Erklärung abgeben: Wir können nicht verhindern, dass diese Technologie in die Hände zukünftiger Terroristen fällt. Es ist traurig, aber es muss verstanden werden. So wie Terroristen Autos benutzen können und tun, um Menschenmassen zu rammen, ist die Technologie, die erforderlich ist, um Amateurdrohnen in unhöfliche, autonome Waffen zu verwandeln, bereits zu weit verbreitet, um gestoppt zu werden. Dies ist ein Problem, und die beste Antwort darauf wird darin bestehen, sich auf Schutzmaßnahmen zu konzentrieren, die es uns ermöglichen, Drohnen zu konfrontieren und Terroristen mithilfe von Überwachungssystemen zu fangen. ""

Der Film nutzt dieses Problem, bläst es aber über alle Maßen auf und behauptet, dass Drohnen von Terroristen als Massenvernichtungswaffen eingesetzt werden können und Menschen zu Tausenden töten. Glücklicherweise ist dieses Alptraumszenario genauso wahrscheinlich wie das HAL 9000 , das Sie daran hindert, das Gateway zu betreten. Die im Video gezeigten Technologien sind realistisch, aber alles andere ist völliger Müll. Im Video werden folgende Annahmen getroffen:

• Die Regierungen werden die Massenproduktion von Mikrodronen zur Verwendung als Massenvernichtungswaffen starten.
• Es gibt keine wirksame Verteidigung gegen tödliche Mikrodrons.
• Regierungen sind nicht in der Lage, Waffen auf Armeeniveau vor Terroristen zu verteidigen.
• Terroristen sind in der Lage, koordinierte Großangriffe zu starten.

Diese Annahmen reichen von kontrovers bis fantastisch.

Natürlich ist das Video selbst eine Fiktion, und die Verantwortlichen für die Entwicklung der Verteidigung verwenden häufig fiktive Szenarien , um den Politikern zu helfen, über die Folgen wahrscheinlicher Ereignisse nachzudenken. Ich bin ein Verteidigungsanalyst, der in einer Denkfabrik arbeitet, und in meiner vorherigen Arbeit im Pentagon war ich an der strategischen Planung beteiligt. Und ich habe fiktive Szenarien verwendet, um die Wahl der Militärtechnologie zu veranschaulichen, in die das US-Militär investieren sollte. Damit diese Szenarien jedoch nützlich sind, müssen sie zumindest wahrscheinlich sein. Es muss etwas sein, das passieren kann. Das im Film Slaughterbots verwendete Drehbuch kann die politische und strategische Realität des Einsatzes militärischer Technologie durch die Regierung nicht berücksichtigen.

Erstens gibt es keine Beweise dafür, dass Regierungen planen, kleine Drohnen in Massenproduktion herzustellen, um eine große Anzahl von Zivilisten zu töten. In meinem kommenden Buch Army of None: Autonome Waffen und die Zukunft des Krieges untersuche ich die Waffen zukünftiger Generationen, die in Verteidigungslabors auf der ganzen Welt gebaut werden. Russland, China und die Vereinigten Staaten konkurrieren um Autonomie und künstliche Intelligenz. Aber sie stellen Waffen her, die größtenteils auf den Kampf gegen das Militär abzielen. Hierbei handelt es sich um Waffen, die darauf abzielen, militärische Ziele zu treffen [ Gegenkräfte ] und nicht auf andere Vermögenswerte, einschließlich Zivilisten [ Gegenwert ]. Die autonomen Waffen des ersten Typs haben natürlich ihre eigenen Probleme, aber sie werden nicht mit dem Ziel der Massenvernichtung von Zivilisten entwickelt und können für einen solchen Einsatz nicht neu konfiguriert werden.

Zweitens handelt das Video von Drohnen, die „Gegenmaßnahmen“ überwinden können. Fernsehexperten rufen: "Wir können uns nicht schützen." Dies ist nicht einmal Fiktion, sondern Farce. Für jede militärische Technologie gibt es Opposition, und Opposition gegen kleine Drohnen kann nicht einmal als hypothetisch bezeichnet werden. Die US-Regierung entwickelt aktiv Methoden zum Schießen, Jammen, Braten, Brechen, Fangen und andere Methoden zur Bekämpfung kleiner Drohnen. Mikrodronen im Video können mit etwas so Einfachem wie einem Drahtgeflecht erfolgreich bekämpft werden. Das Video zeigt schwere Drohnen, die Löcher in Wände stechen, durch die andere eindringen - aber eine einfache mehrschichtige Verteidigung kann dagegen helfen. Militäranalytiker untersuchen den Wert von Verteidigung gegenüber Angriff. In diesem Fall liegt der Vorteil eindeutig auf der Seite der statischen Verteidigung.


In einer Welt, in der Terroristen regelmäßig Angriffe mit improvisierten Drohnen ausführen, ist es unwahrscheinlich, dass Menschen die Unannehmlichkeit ertragen, zuverlässige Verteidigungsstrukturen zu schaffen, so wie Menschen keine kugelsicheren Westen tragen, um sich vor dem unwahrscheinlichen Treffer eines Schützen zu schützen. Aber wenn ein unfreundliches Land Hunderttausende von Drohnen baut, die eine Stadt vom Erdboden wischen können, können Sie sicher sein, dass die Dinge ohne Netze nicht funktionieren können. Das Video nimmt das eigentliche Problem auf: Terroristen, die mit Drohnen angreifen - und skalieren es, ohne die Reaktion anderer Parteien zu berücksichtigen. Wenn die Produktion tödlicher Mikrodrons im industriellen Maßstab beginnen würde, würden Schutz und Gegenmaßnahmen gegen sie zu einer staatlichen Priorität werden. In diesem Fall wären Gegenmaßnahmen einfach. Und jede Waffe, die mit einem Drahtgeflecht geschützt werden kann, gilt nicht als Massenvernichtungswaffe.

Drittens impliziert das Video, dass das Militär nicht verhindern kann, dass Terroristen Zugang zu Waffen auf Armeeniveau erhalten. Aber heute geben wir Terroristen keine Handgranaten, Panzerabwehrgewehre oder Maschinengewehre [wahr, diese Aussage wird sogar durch das letzte Biopic mit Tom Cruise in der Titelrolle widerlegt / ca. übersetzt.]. Terroristen, die mit Drohnen angreifen, erregen alle, weil sie hausgemachten Sprengstoff verwenden, der an die fertige Technologie gebunden ist. Dies ist ein echtes Problem, aber auch hier skaliert das Video diese Bedrohung auf unrealistische Volumina. Selbst wenn das Militär anfangen würde, tödliche Mikrodrones herzustellen, könnten Terroristen eine große Anzahl von ihnen nicht einfacher als jede andere militärische Technologie bekommen. Waffen fallen wirklich allmählich in die Hände von Teilnehmern an Feindseligkeiten, die auf der falschen Seite kämpfen, aber nur weil Syrien voller Panzerabwehrraketen ist, heißt das nicht, dass sie in New York leicht zu treffen sind. Terroristen benutzen Flugzeuge und Lastwagen, gerade weil es nicht so einfach ist, Waffen vom Typ Armee in ein westliches Land zu schmuggeln.


Killer Microdrones aus dem Film

Viertens deutet das Video darauf hin, dass Terroristen in der Lage sind, mit unglaublich präziser Koordination anzugreifen. In einer Episode lassen zwei Personen einen Schwarm von 50 Drohnen aus den Türen eines Lieferwagens los. Diese Episode an sich ist ziemlich realistisch; Eines der Probleme mit autonomen Waffen besteht darin, dass eine kleine Gruppe von Menschen einen größeren Angriff starten kann, als wenn sie konventionelle Waffen hätten. Ein Wagen mit 50 Drohnen ist eine vernünftige Option. Aber der Film bringt die Idee zu einer Absurdität. Es wird vermutet, dass bei gleichzeitigen Angriffen etwa 8.300 Menschen getötet wurden. Wenn Menschen mit einem Van einen typischen Angriff darstellen, müssten Terroristen für einen solchen Schaden weltweit etwa 160 Angriffe durchführen. Terroristen führen zwar häufig koordinierte Angriffe durch, ihre Zahl beträgt jedoch in der Regel nicht mehr als zehn . Und das Video setzt nicht nur das Vorhandensein von Superwaffen voraus, sondern auch, dass es in die Hände von Superschurken gefallen ist.

In dem Film werden Hype und Angst verwendet, um kritische Annahmen zu überwinden, wodurch eine rationale Diskussion der Risiken, die mit dem Zugang von Terroristen zu autonomen Waffen verbunden sind, beeinträchtigt wird. Aus dem Video wird klar, dass wir Angst haben sollten. Aber warum Angst haben? Waffen, die ihre Ziele selbst wählen (dazu ist im Video übrigens nicht alles klar)? Waffen ohne Gegenmaßnahmen? Dass Terroristen Waffen in die Hände bekommen können? Autonome Waffenfähigkeiten zur Vergrößerung von Angriffen? Wenn Sie Angst vor Killerrobotern haben möchten, dann ist dieses Video genau das Richtige für Sie. Aber wenn Sie versuchen, das Problem gründlich zu analysieren, ist es nicht einmal eine einfache Studie. Das Video liefert keine Argumente, sondern beschäftigt sich mit billigen Empfindungen und eskalierender Angst.

Der Zweck des Videos ist natürlich, die Zuschauer zu ermutigen, mit Angst zu handeln.
Das Video endet mit den Worten eines Professors der University of California in Berkeley, Stuart Russell , der vor den Gefahren autonomer Waffen warnt und den Betrachter auffordert, so zu handeln, dass dieser Albtraum nicht Wirklichkeit wird. Ich respektiere Stuart Russell sehr, sowohl einen KI-Forscher als auch eine Person, die zu autonomen Waffenstreitigkeiten beiträgt. Ich habe Russell zu Veranstaltungen im Center for New American Security eingeladen, wo ich an einem Forschungsprogramm zum Thema KI und globale Sicherheit teilnehme . Ich habe keinen Zweifel daran, dass Russells Ansichten aufrichtig sind. Um den Betrachter zu überzeugen, wird das Video jedoch nicht unterstützt.

Erschwerend kommt hinzu, dass die vorgeschlagene Lösung - der Vertrag zum Verbot autonomer Waffen - die wirklichen Probleme der Menschheit bei der Entwicklung der Autonomie von Waffen nicht lösen wird. Das Verbot wird Terroristen nicht davon abhalten, selbstgemachte Roboterwaffen herzustellen. Das Verbot solcher Waffen, das im Video gezeigt wird, hat auch keine Auswirkungen auf die Risiken, die mit der Entstehung autonomer Waffen im Militär verbunden sind. Tatsächlich ist nicht einmal klar, ob die im Film gezeigte Waffe unter ein solches Verbot fällt, da sie dort sehr selektiv handelt.

Der Film konzentriert sich auf extreme und unwahrscheinliche Szenarien und behindert tatsächlich den Fortschritt bei der Lösung der wirklichen Probleme im Zusammenhang mit autonomen Waffen. Staaten, die bei der Entwicklung von Roboterwaffen führend sind, werden wahrscheinlich Ängste bemerken, die auf diesem Film beruhen. Der Film gießt Wasser auf die Mühle derer, die behaupten , die Angst vor autonomen Waffen sei irrational und anfällig für übermäßigen Hype.

Autonome Waffen werfen wichtige Fragen zur Einhaltung der Kriegsgesetze, zum Risiko und zur Kontrolle sowie zur moralischen Rolle der Menschen bei Feindseligkeiten auf. Dies sind wichtige Themen, die einer ernsthaften Diskussion wert sind. Wenn Russell und andere eine lebhafte Debatte über diese Themen führen, begrüße ich eine solche Diskussion. Der angegebene Film fällt jedoch nicht in diese Kategorie. Das Video hat die Aufmerksamkeit der Medien erfolgreich auf sich gezogen, aber seine Vorliebe für Sensationen behindert die ernsthaften intellektuellen Diskussionen, die zum Thema autonome Waffen geführt werden müssen.

Paul Sharr ist Senior Fellow, Direktor für Technologie und öffentliche Sicherheit am New American Security Center (CNAS). Von 2009 bis 2012 leitete er die Arbeitsgruppe des US-Verteidigungsministeriums, die Richtlinien für den Einsatz von Autonomie in der Rüstung entwickelte.