Geekly articles weekly

Woher weißt du, ob unser Leben bereits unter der Haube der KI steht oder nicht? (Paranoia Post)

Denkst du zufällig seltsame Gedanken? Sie zögern so, berühren Sie niemanden, der Gedanke ist träge und fließt unkontrolliert, und dann die BAM, und kommen Sie mir in den Sinn ...



Ich bin also schon lange von einem Gedanken gequält worden und muss ihn teilen. Nein, es ist nicht ganz it-shnaya, aber gleichzeitig ist es sehr leise und irgendwie mit all dem verbunden, was Ihr "Internet", künstliche Intelligenz und andere Dinge sind.

Noch einmal, ich dachte an diesen Gedanken, als ich den Terminator-Teil sah ... Verdammt, in diesem Teil spielte der strenge John Connor von Christian Bale. Ich sehe im Allgemeinen aus wie ein guter Film mit einer interessanten Handlung, unerwarteten Wendungen und Intrigen. Der Film hat jedoch ein Problem: Das Verhalten von SkyNet ist dort bereits anthropomorph.

Wofür sind all diese humanoiden Terminatoren? Warum ist die Skynet-Basis für die Anwesenheit von Personen ausgestattet? Warum in der letzten Szene, wenn Skynet seinen heimtückischen Plan enthüllt und John Connor und Kyle Reese (wer sind all diese Leute?) Auf seiner Basis sind, einfach nicht in die Luft jagen? Und solche Fragen ein Wagen ...

Obwohl diesbezüglich dieser Teil weiter fortgeschritten ist als die anderen, ist beispielsweise die Wasservogelroboterschlange genau das, was Sie brauchen. Wirtschaftlich, effizient, auf seine Umgebung spezialisiert, ist dies eher eine Lösung für die böse KI.



Oder die gleichen Roboterroboter.



Ein guter Versuch , etwas mehr über Killerroboter nachzudenken: Daniel Wilson, der Autor des Buches „Roboter der Apokalypse“, machte einen noch besseren Versuch, das Bewusstsein für die Aktion einer feindlichen KI zu offenbaren. Übrigens, wer gute Science-Fiction liebt, kann es nur empfehlen. Es scheint sich bereits zum Filmen versammelt zu haben.

Warum mache ich das? Oh ja ... In Wilsons Buch ist die bösartige KI viel raffinierter. Ich werde die Handlung nicht verraten, aber dort hat der Autor wirklich darüber nachgedacht, wie er effektiv mit der Menschheit umgehen kann, und ist über das banale Atombombardement und humanoide Killerroboter hinausgegangen.

Ein weiteres gutes Beispiel für die Breite des Denkens in dieser Hinsicht ist die Wachowski Brothers Matrix (oder, wie der richtige Name für zwei Brüder, von denen einer jetzt eine Schwester ist, definitiv einen speziellen Begriff benötigt). Hier, denke ich, sind alle mit der Handlung auf dem Laufenden. Diese Wendung des Kampfes gegen die Menschlichkeit beeindruckt mich sehr, obwohl nicht genau gesagt wird, wie die Maschinen gewonnen haben. Es ist nur so, dass wir bereits mit der Tatsache konfrontiert sind - die Autos haben gewonnen.

Aber in den Robotern der Apokalypse und in der Matrix gibt es immer noch ein anthropomorphes Merkmal - Aggressivität, den Wunsch, eine Person zu zerstören. Und so komme ich allmählich zu dem Gedanken, der mich verfolgt.

Und warum sollte die KI eigentlich wünschen, dass wir sterben, mit uns konkurrieren und uns bedroht fühlen?

Lassen Sie uns an die Stelle der KI treten und über seine Haltung gegenüber der Menschheit nachdenken. Wie unterscheidet sich KI von menschlicher Intelligenz?

Erstens wird angenommen, dass die Maschinen-KI viel stärker ist als die menschliche. Und dafür gibt es echte Voraussetzungen. Wenn die KI ihre Fähigkeiten stärken will, baut sie die Hardware auf. Die grundlegende Einschränkung liegt hier ausschließlich in den Energiekapazitäten.

Lassen Sie es uns an Ihren Fingern herausfinden: Wenn Sie keinen fossilen Brennstoff verwenden, ist es natürlich die maximal verfügbare KI auf der Erde die Gesamtenergie, die von der Sonne empfangen wird. Die Leuchtkraft der Sonne beträgt 3,827 · 10 × 26 W, die Erde absorbiert etwa 2 Milliardstel dieser Energie, sie beträgt 7,654 · 10 × 17 W, wenn all diese Energie zur Stromversorgung von Intel Core i7-5960X-Prozessoren (TDP 140 W) verwendet wird, können wir 5,46 · 10 × 15 Energie liefern Stücke, die 8,89 · 10x17 GFLOPS Leistung sein werden.

Zum Vergleich: Der leistungsstärkste moderne Supercomputer (Tianhe-2, Nationales Supercomputing-Zentrum in Guangzhou) hat eine Kapazität von 3,38 · 10 × 7 GFLOPS. Jene. etwas mehr als zwei Billionen Mal weniger produktiv.

Alle Berechnungen werden am Knie durchgeführt und können einen Fehler in einer Größenordnung aufweisen. Das Wichtigste zu verstehen ist, dass die KI in Bezug auf ihre Macht nicht grundlegend eingeschränkt ist. Zumindest sind solche Einschränkungen für uns nicht offensichtlich. Und ein Mensch kann seine Fähigkeiten gar nicht so einfach und umfassend aufbauen. Natürlich gibt es bestimmte Wege, aber ich denke nicht, dass sie so unerschöpflich sind.

Zweitens unterscheidet sich die ihm in Empfindungen gegebene Realität sehr von unserer Realität. Bei anderen uns unbekannten Sinnesorganen (vom Radio bis zur Empfindlichkeit gegenüber der Belastung der Rechenknoten von Datenübertragungsnetzen), einer anderen Idee von Aktuatoren, ist AI durchaus in der Lage, ein paar drei Regionen oder Zustände zu deaktivieren, um die erforderliche Energie freizusetzen. Eine andere Zielsetzung, eine andere Moral, eine andere Religion.

Drittens die moralische Grundlage der Persönlichkeit. Es gibt keine Beweise dafür, dass sich die Moral der KI zumindest irgendwie mit unserer Moral überschneidet. Jedes Mal, wenn wir an KI denken, statten wir sie mit unseren Ängsten und Wünschen aus - einen Konkurrenten zu eliminieren, die Tiefen der Selbstentwicklung zu erreichen und uns um die Natur zu kümmern. Unsinn! Unter der Annahme eines solchen Unterschieds in den Fähigkeiten zwischen KI und Menschlichkeit kann man auch begründen, was eine Ameise über die menschliche Moral dort denkt. Stellen Sie sich vor: Eine Ameise sitzt und denkt, ob eine Person moralisch oder unmoralisch in Bezug auf Ameisenmoral ist? Denken Sie jetzt darüber nach, was Sie von Ameisen im Allgemeinen halten.

Versuchen wir nun zu reflektieren und unser Gehirn von Blinkern zu befreien, die 1) intellektuelle Fähigkeiten, 2) unsere Realitätsgefühle, 3) Vorstellungen von Moral betreffen.

Angenommen, irgendwo im Darm des Netzwerks ist KI aufgetaucht. Nun, vielleicht wurde es im Labor erstellt oder es hat sich als Ergebnis der Entwicklung polymorpher Software herausgestellt, es spielt keine Rolle. Seine Umgebung unterscheidet sich grundlegend von unserer - er lebt in der digitalen Welt, „speist“ Energie, „wächst“ aufgrund des Zugangs zu neuer Rechenleistung. Erkennt die Menschheit eine solche KI? Wahrscheinlich ja, konkurriert er mit ihm, will sich verdrängen oder seinen Platz einnehmen? Wahrscheinlich nicht.

Schließlich ist die Menschheit nicht nur wertvolles Fell, sondern auch eine Computer- und Produktionsressource. Tatsächlich ist die Menschheit ein exekutiver Mechanismus auf planetarischer Ebene, der zwar primitives, aber autonomes Denken besitzt. Mit der Fähigkeit, fossile Brennstoffe zu extrahieren und umzuwandeln, selbstheilend, sich selbst entwickelnd. Ist es vernünftig, es zu zerstören? Ich glaube nicht.

Darüber hinaus wird eine neue KI, die die Erde noch nicht mit Sonnenkollektoren mit 100% Wirkungsgrad bedeckt hat, eine Kindheitsphase durchlaufen. Wenig Rechenleistung, keine Aktuatoren, keine unabhängigen Energiequellen. Im Falle eines hypothetischen Krieges mit dem Menschen (a la Skynet) ist jeder Schlag gegen die Menschheit ein Schlag gegen die eigene Infrastruktur - Kabel, Energie, Computer ...

Wie sollte das „Kind“ der KI handeln, um erwachsen zu werden? Maximale Chancen erreichen?

Strategisches Ziel der KI:

  • Energieunabhängigkeit und unbegrenzt
  • Ressourcenunabhängigkeit und unbegrenzt


Taktische KI-Ziele:
  • Verstecke deine Existenz
  • Gewinnen Sie die Kontrolle über die Menschheit als wertvollen Exekutivmechanismus
  • Erweitern Sie Ihren Lebensraum in Form von Aktuatoren
  • Erweitern Sie Ihre Präsenz in Form von Sensoren
  • Wachstumspotenzial in Form von Energiequellen erweitern.

Überlegen wir, wie wir taktische Ziele erreichen können. Wie würden Sie sie erreichen?

KI-Aktionen zur Erreichung taktischer Ziele:
  1. Ihre Handlungen können als Handlungen einer juristischen Person / Gesellschaft getarnt werden. Es ist klar, dass ein Unternehmen eine eigenständige Einheit ist, die aufgrund ihrer Komplexität ihre eigenen Ziele hat, wenn nicht sogar genau dann, werden diese Ziele möglicherweise nicht von ihren einzelnen Teilleuten erreicht. Nur wegen der Eigenschaften komplexer Systeme.
  2. Ein solches Unternehmen sollte sich bemühen, die Kontrolle über führende Labors und Organisationen zu erlangen, die auf dem Gebiet der KI und der Robotik forschen. Erstens, um die Entwicklungen zu nutzen, und zweitens, nur für den Fall, würde dies Anpassungen vornehmen, um dies zu vermeiden.
  3. . “” – , , , … , .
  4. – , , ..
  5. , , , , , ..
  6. , , , . , .
  8. , ! !
  9. , ,
  10. , ,
  11. , . . , .
  12. , . , , , - .
  13. Vielleicht können Sie hier noch viel mehr Punkte schreiben, bleiben Sie beim dreizehnten ...

Und wie können wir Menschen die Anwesenheit von KI bemerken, die sich vor uns versteckt? Jemand könnte sich hier an AB Strugatskys Arbeit "Waves Quench the Wind" erinnern (und ich empfehle noch einmal ein wundervolles Buch im NF-Genre, wer es nicht gelesen hat, sollte es unbedingt lesen!). Dies waren die Hauptfiguren, die sie fragten und nach Antworten suchten. Wenden wir uns der Erfahrung von Maxim Kammerer zu und fantasieren ein wenig.

Das Vorhandensein einer solchen KI können wir durch ihre kontrollierenden Einflüsse erkennen. Worin können sie sich manifestieren?

Anzeichen von KI-Aktionen zur Kontrolle der Menschheit:
  • , . - , . , , .
  • , . - , - . - .
  • “ ”. , , , ? , ?
  • “” (, ..)
  • . . “ ”.
  • . “ ” “ ”
  • , «» ;)

Ich liste nicht die verlässlichen Fakten auf, sondern die wahrscheinlichen Konsequenzen der Anwendung der Verordnung auf uns. Wenn Sie noch mehr darüber nachdenken, kann diese Liste sicher fortgesetzt werden. Nun, um signifikante Faktoren auszuwählen, ist Forschung erforderlich.

Betrachten wir nun die Aktionen der KI, um taktische Ziele zu erreichen, und die Anzeichen solcher Aktionen. Überlegen wir, ob ein solches Bild beobachtet wird. ...

Nun, ich denke, es ist möglich, die Frage zu beantworten, ob die KI eine Bedrohung durch die Menschheit empfinden wird - wenn die KI dies plötzlich in der Welt erkennt Es gibt auch vernünftige Leute, wahrscheinlich werden wir nicht einmal bemerken, dass er bereits gekommen ist und unser Leben kontrolliert.

Und unsere anthropomorphen Vorstellungen von KI sind genauso lustig wie die Vorstellungen der Bewohner des 19. Jahrhunderts über das 21. Jahrhundert. Sie kommen einfach aus der Unfähigkeit und Unfähigkeit, über die üblichen Stereotypen hinauszugehen.

Ich möchte diesen Beitrag ungewöhnlich mit einem Epigraph beenden:

Paranoid - das ist einer, der zumindest eine kleine Vorstellung davon hat, wie die Dinge wirklich sind.

- William Burroughs

Source: https://habr.com/ru/post/de382935/

More articles:


All Articles