Jetzt spricht nur faul nicht über
künstliche Intelligenz und schreibt nicht. Aber in unserer Zeit ist AI nicht SkyNet aus dem Film Terminator. Bisher haben es Wissenschaftler mit einer schwachen Form künstlicher Intelligenz zu tun. In den meisten Fällen handelt es sich um relativ komplexe neuronale Netze, mit denen bestimmte Probleme gelöst werden sollen.
Viele prominente Menschen unserer Zeit sind besorgt über die Möglichkeit des Auftretens einer starken Form der KI. Nach Ansicht einiger Experten kann ein „denkender Computer“ ein unerbittlicher Gegner einer Person, ihres Feindes, werden. Oder die zukünftige KI wird einige ihrer Ziele erfüllen und den Menschen gegenüber gleichgültig sein. In diesem Fall zerstört künstliche Intelligenz ganze Städte oder Länder, wenn ein solcher Bedarf entsteht. Um ein ähnliches Szenario für die Entwicklung von Technologie zu zeigen, haben Wissenschaftler aus Cambridge
einen Mod für das Spiel "Civilization" entwickelt, dessen fünfter Teil.
In diesem Anhang können Sie sehen, was bei einer starken Form der KI ohne vorgegebene Sicherheitsmaßnahmen passieren kann. Wissenschaftler haben diesen Mod nicht plötzlich entwickelt. Spezialisten der Universität Cambridge für das Studium des existenziellen Risikos (CSER) versuchen zu verstehen, was in unserer modernen Welt in naher oder ferner Zukunft zu einer unüberwindlichen Gefahr für den Menschen werden kann.
Die Gruppe wurde 2012 gegründet und hatte ursprünglich das Ziel, die Auswirkungen globaler Katastrophen verschiedener Art auf den Menschen zu untersuchen. Es werden nur die Probleme berücksichtigt, die möglicherweise zur Zerstörung der Menschheit führen können - der Zivilisation in ihrer gegenwärtigen Form oder allgemein aller Menschen auf der Erde. Natürlich können diese Katastrophen nicht nur durch den Einfluss künstlicher Intelligenz verursacht werden, sondern auch durch den genetisch veränderten Erreger einer gefährlichen Krankheit, den Klimawandel und vieles mehr.
Was das Spiel betrifft, so ist die Hinzufügung zu Civilization nach Ansicht der Entwickler teils ein Bildungsprojekt, teils ein Forschungsprojekt. „Wir wollten vor allem ein mögliches Szenario für die Entwicklung realer Computerintelligenz aufzeigen, um die Gefahren aufzuzeigen, die diese Intelligenz für uns Menschen darstellen kann“, sagt Shahar Eivin, einer der Projektteilnehmer.
Das Spiel zeigt auch den Deep Blue-Computer von IBM, mit dem Spieler die KI-Forschung beschleunigen können.Übrigens ersetzt der Zusatz eines der Szenarien des Sieges in der Zivilisation, den Start eines Raumschiffs zum Stern von Alpha Centauri durch die Entwicklung einer starken Form künstlicher Intelligenz. In der Mode gibt es neue Gebäude (Forschungslabors), ein neues Wunder (das gleiche Deep Blue) und einen neuen Mechanismus, der als KI-Gefahr bezeichnet wurde.
Sobald der Spieler
das Programm für das Studium der KI
startet , erscheint ein Timer, der als "KI-Gefahr" bezeichnet wird. Wenn der Timer das Ende des Countdowns erreicht, erhält der Spieler eine Nachricht, dass irgendwo auf der Welt eine starke Form künstlicher Intelligenz geschaffen wurde und das Spiel mit der Niederlage des Spielers endet. „Das alles ist wie im wirklichen Leben. Sie können einen langen Weg in der Entwicklung der Zivilisation gehen, aber Sie verlieren alles, wenn Sie die erstellten Technologien ohne Sorgfalt verwalten “, sagt der Entwickler.
Um ein negatives Entwicklungsszenario mit einer Niederlage am Ende zu vermeiden, hat der Spieler die Möglichkeit, mehr wissenschaftliche Forschung auf dem Gebiet der KI durchzuführen. Je mehr solche Projekte durchgeführt werden, desto langsamer ist der Ticking-Timer. Um zu gewinnen, muss der Spieler KI-Steuerungstechnologien entwickeln und in Projekte in Nachbarländern und in die Behörden von Großstädten investieren. „Wenn Sie sich für ein KI-Szenario entscheiden, benötigen Sie mehr Sicherheitsentwicklungen. In diesen Bereich zu investieren ist nicht immer eine offensichtliche Notwendigkeit, aber es muss getan werden “, sagte Avin.
Natürlich kann „Zivilisation“ nicht als ernstes Forschungsinstrument bezeichnet werden, aber der Zusatz ermöglicht es, die Notwendigkeit eines vorsichtigen Ansatzes für die Entwicklung der KI nicht nur für normale Spieler, sondern auch für Wissenschaftler zu erkennen. Risiken werden sehr deutlich dargestellt. Und die Situation ist ziemlich realistisch - der Spieler muss mit aggressiven Nachbarn umgehen, Staaten, die mehr oder weniger die gleiche Forschung betreiben. Wenn eine der Parteien erfolgreich ist, aber keine angemessene Vorsicht walten lässt, ist eine Niederlage unvermeidlich.
Um globalen Gefahren zu begegnen, ist eine globale Interaktion erforderlich. Hier wird alles richtig angezeigt.