Brauchen Roboter Empathie?

Wir stehen kurz vor einer Revolution in der Robotik, und Wissenschaftler und Ingenieure versuchen zu verstehen, wie sich dies auf die Menschen auswirken wird. Die Meinungen wurden in zwei Lager aufgeteilt: Die Zukunft verspricht uns eine Robo-Apokalypse a la "Terminator", oder Roboter werden den Platz von Hunden in der Rolle der besten Freunde des Menschen einnehmen. Und aus Sicht einiger moderner Denker und Visionäre ist das zweite Szenario nur möglich, wenn Roboter Empathie haben . Genauer gesagt in der künstlichen Intelligenz.

Die Folgen der Seelenlosigkeit AI hat Microsoft kürzlich voll und ganz gespürt, nachdem er mit seinem berühmten Chat-Bot namens Thay ein erdrückendes Fiasko erlitten hatte. Es wurde so programmiert, dass es durch Interaktion mit Twitter-Benutzern lernt. Infolgedessen verwandelten Trollmassen sofort ein 19-jähriges Mädchen, das die Rolle eines Bots spielte, in einen sexuell beschäftigten Nazi-Rassisten . Die Entwickler mussten den Bot einen Tag nach dem Start deaktivieren. Dieser Fall hat die Bedeutung des KI-Problems so deutlich gemacht, dass eine der Google-Abteilungen - DeepMind - zusammen mit Spezialisten aus Oxford mit der Entwicklung der " Notfallschalter " -Technologie für KI begann, bis sie zu einer echten Bedrohung wurde.

Das Fazit ist, dass KI, die in Bezug auf die Vernunft einer Person nicht unterlegen ist und sich nur auf unabhängige Entwicklung und Optimierung stützt, zu dem Schluss kommen kann, dass Menschen sie ausschalten oder verhindern möchten, dass sie die gewünschten Ressourcen erhält. Und in Übereinstimmung mit dieser Schlussfolgerung wird künstliche Intelligenz beschließen, gegen Menschen vorzugehen, unabhängig davon, wie vernünftig ihr Verdacht ist. Ein ziemlich bekannter Theoretiker, Eliezer Yudkowsky , schrieb einmal: „Die KI wird dich weder lieben noch hassen. Aber dann bestehen Sie aus Atomen, die er für seine Bedürfnisse verwenden kann . "



Und wenn Ihnen die Bedrohung durch die KI, die in einem Cloud-basierten Supercomputer „lebt“, jetzt eher kurzlebig erscheint, was können Sie über einen vollwertigen Roboter sagen, in dessen elektronischen Gehirnen die Idee entsteht, dass Sie sein Leben stören?



Eine Möglichkeit, um sicherzustellen, dass Roboter und im Allgemeinen die KI auf der guten Seite bleiben, besteht darin, sie mit Empathie zu füllen. Nicht die Tatsache, dass dies ausreichen wird, aber dies ist nach Meinung vieler Experten eine notwendige Bedingung. Wir werden einfach gezwungen sein, einfühlsame Roboter zu entwickeln.

Vor nicht allzu langer Zeit haben Elon Musk und Stephen Hawking einen offenen Brief an das Zentrum für das Studium des Existenzrisikos (CSER) geschrieben, in dem weitere Anstrengungen zur Untersuchung "potenzieller Fallen" auf dem Gebiet der KI gefordert wurden. Laut den Autoren des Briefes kann künstliche Intelligenz gefährlicher werden als Atomwaffen, und Hawking glaubt im Allgemeinen, dass diese Technologie die Menschheit beenden wird. Zum Schutz vor dem apokalyptischen Szenario wird vorgeschlagen, eine starke KI (AGI, künstliche allgemeine Intelligenz) mit einem eingebauten psychologischen System ähnlich einem menschlichen zu schaffen oder menschliche Nervenreaktionen in der KI vollständig zu modellieren.

Glücklicherweise wurde die Zeit noch nicht verpasst und Sie können entscheiden, in welche Richtung wir uns bewegen sollen. Nach Ansicht der Expertengemeinschaft ist die Entstehung einer starken KI, die dem Menschen nicht unterlegen ist, im Bereich von 15 bis 100 Jahren ab dem gegenwärtigen Moment möglich. Gleichzeitig spiegeln die Grenzen des Bereichs extreme Optimismus und Pessimismus wider, während realistischere Laufzeiten 30-50 Jahre betragen. Neben dem Risiko, eine gefährliche KI ohne moralische Prinzipien zu bekommen, befürchten viele, dass die gegenwärtigen wirtschaftlichen, sozialen und politischen Turbulenzen dazu führen könnten, dass die Schöpfer einer starken KI zunächst versuchen werden, sie in eine neue Waffe, ein Mittel des Drucks oder des Wettbewerbs zu verwandeln. Und weit entfernt von der letzten Rolle wird hier der ungezügelte Kapitalismus in Form von Unternehmen spielen. Big Business versucht immer rücksichtslos, Prozesse zu optimieren und zu maximieren.und es wird sicherlich eine Versuchung geben, „um Bojen zu schwimmen“, um Wettbewerbsvorteile zu erzielen. Einige Regierungen und Unternehmen werden wahrscheinlich versuchen, starke KIs für die Verwaltung von Märkten und Wahlen sowie für die Entwicklung neuer Waffen zu gewinnen, und andere Länder müssen angemessen auf diese Schritte reagieren und sich am KI-Wettrüsten beteiligen.



Niemand kann argumentieren, dass KI notwendigerweise zu einer Bedrohung für die Menschheit wird. Daher besteht keine Notwendigkeit, die Entwicklung in diesem Bereich zu verbieten, und dies ist sinnlos. Es scheint, dass uns die Gesetze von Azimovs Robotik allein nicht helfen können, und standardmäßig müssen wir „emotionale“ Sicherungen einführen, um Roboter friedlich und freundlich zu machen. Damit sie einen Anschein von Freundschaften schaffen können, können sie die Emotionen von Menschen erkennen und verstehen, möglicherweise sogar einfühlen. Dies kann beispielsweise durch Kopieren der neuronalen Struktur des menschlichen Gehirns erreicht werden. Einige Experten glauben, dass es theoretisch möglich ist, Algorithmen und Rechenstrukturen zu erstellen, die sich wie unser Gehirn verhalten können. Aber da wir selbst nicht wissen, wie es angeordnet ist, ist dies eine Aufgabe für die ferne Zukunft.

Es gibt bereits Roboter auf dem Markt, die in der Lage sind, einige menschliche Emotionen rein technisch zu erkennen. Zum Beispiel Nao - mit einer Höhe von nur 58 cm und einem Gewicht von 4,3 kg ist der Roboter mit einer Gesichtserkennungssoftware ausgestattet. Er kann Augenkontakt herstellen und reagieren, wenn sie mit ihm sprechen. Dieser Roboter wurde zu Forschungszwecken eingesetzt, um autistischen Kindern zu helfen. Ein weiteres Modell des gleichen Herstellers - Pfeffer - ist in der Lage Worten, Mimik und Körpersprache zu erkennen, handeln in Übereinstimmung mit den empfangenen Informationen.



Aber keiner der modernen Roboter kann fühlen. Dazu brauchen sie Selbstbewusstsein, nur dann können sich Roboter genauso fühlen wie Menschen, können an Gefühle denken.


Wir sind alle besser in der Lage, das Aussehen einer Person in Robotern nachzuahmen, aber mit der inneren Welt ist alles viel komplizierter.

Empathie bedeutet, in anderen die gleichen Gefühle verstehen zu können, die Sie einmal erlebt haben. Und dafür müssen Roboter ihre eigene Phase des Erwachsenwerdens mit ihren Erfolgen und Misserfolgen durchlaufen. Sie müssen Zuneigung, Verlangen, Erfolg, Liebe, Wut, Angst, Angst, vielleicht Eifersucht erfahren. Damit der Roboter, der an jemanden denkt, an menschliche Gefühle denkt.

Wie kann man Robotern eine solche Reifung verleihen? Gute Frage. Es kann möglich sein, virtuelle Emulatoren / Simulatoren zu erstellen, in denen KI emotionale Erfahrungen sammelt, damit sie später in physische Körper geladen werden können. Oder bilden Sie künstliche Muster / Erinnerungen und stempeln Sie Roboter mit einem Standardsatz moralischer und ethischer Werte. Solche Dinge wurden vom Science-Fiction-Schriftsteller Philip K. Dick vorausgesehen , in seinen Romanen arbeiten Roboter oft mit künstlichen Erinnerungen. Aber die Emotionalität von Robotern kann eine andere Seite haben: im aktuellen Film Ex MachinaEine Situation wird beschrieben, wenn ein Roboter, der von einer starken KI gesteuert wird, Emotionen so zuverlässig zeigt, dass er Menschen irreführt und sie zwingt, seinem Plan zu folgen. Frage: Wie kann man unterscheiden, wenn ein Roboter nur schlau auf eine Situation reagiert oder wenn er wirklich dieselben Emotionen wie Sie hat? Machen Sie ihn zu einem holographischen Heiligenschein, dessen Farbe und Muster die Aufrichtigkeit der vom Roboter zum Ausdruck gebrachten Emotionen bestätigen, wie im Anime „Time of Eve“ ( EVE no Jikan )?



Nehmen wir jedoch an, wir konnten alle oben genannten Probleme lösen und Antworten auf die aufgeworfenen Fragen finden. Werden Roboter uns dann gleich sein oder werden sie auf der sozialen Leiter unter uns sein? Sollten Menschen mit ihren Emotionen umgehen? Oder wird es eine Art High-Tech-Sklaverei sein, nach der Roboter mit starker KI so denken und fühlen sollten, wie wir es wollen?



Es gibt viele schwierige Fragen, auf die es noch keine Antwort gibt. Derzeit sind unsere sozialen, wirtschaftlichen und politischen Strukturen nicht bereit für solch radikale Veränderungen. Trotzdem müssen wir früher oder später nach akzeptablen Lösungen suchen, denn niemand kann die Entwicklung auf dem Gebiet der Robotik stoppen, und eines Tages wird eine starke KI geschaffen, die in einem anthropomorphen Körper funktionieren kann. Darauf müssen wir uns im Voraus vorbereiten.

Source: https://habr.com/ru/post/de397209/