Ist das Leben das einzig würdige Ziel der Intelligenz?

Der Artikel diskutiert den Intellekt und seine endgültigen Ziele, während Thesen zu Orthogonalität und Konvergenz angesprochen werden. In meinem vorherigen Artikel 'Leben, Intellekt, Geist, Geist' wurde die Frage nicht ausreichend geklärt. In diesem Artikel wurde das Prinzip erklärt: Starke Intelligenz sollte als anpassungsfähiges System aufgebaut werden, das auf dem Endziel basiert: Erhaltung und Überleben eines lebenden Organismus - des Trägers der Intelligenz. Und das allgemeine Strukturdiagramm des Organismus mit Intelligenz, möglicherweise stark, ist gegeben. Nachfolgend finden Sie eine zusätzliche Analyse, warum dies so ist.

Ein Hinweis zur Terminologie.
Als starker Intellekt werden wir sein allgemein akzeptiertes Verständnis im Auge behalten. Schwache Intelligenz ist jedes System oder jeder Algorithmus, der keine starke Intelligenz implementiert. Der gebräuchliche Name für beide ist einfach Intelligenz, wir werden nicht zwischen künstlicher und natürlicher Intelligenz unterscheiden.

Die These der Orthogonalität von Zweck und Intelligenz.
Die These der Orthogonalität besagt, dass Sie jede Ebene der Intelligenz mit jedem Ziel kombinieren können, da Intelligenz und Endziele orthogonale, dh unabhängige Variablen sind.

Adaptives Verhalten

Wir zeigen eine möglicherweise offensichtliche, aber wichtige Tatsache: Anpassungsverhalten ist ohne Ziel nicht möglich. Betrachten Sie Algorithmen mit adaptiven Eigenschaften, einschließlich Systemen mit starker Intelligenz, da es aufgrund der Allgemeinheit keinen Grund gibt, sie auszuschließen.

Anpassung kann betrachtet werden als:

• 1) Änderung der Skalargrößen - Parameter des Algorithmus
• 2) Änderung der Kontrollstrukturen

Für neuronale Netze wird die erste Methode verwendet - das Einstellen der Verbindungsgewichte. Die Gewichte werden im Lernprozess angepasst, der Lehrer fungiert als externer Faktor, der das Netzwerk anpasst - warum nur er weiß, können wir sagen, dass es als motivierender Prozess fungiert. Methode 2 kann vom Programmierer ausgeführt werden, die Motivationsgründe des Programmierers sind auch nur ihm bekannt.

Eine andere Anpassungsmethode kann als Optimierungsprozess für Zielwerte implementiert werden. Die Implementierung solcher Optimierungsprozesse kann recht einfach sein. Die Verstärkung eines neuronalen Netzwerks ist ein gutes Beispiel: Ein transparenter Algorithmus passt die Netzwerkgewichte an das Zielverhalten an. Die Anpassungstechnik für das Zielverhalten, siehe KI von Google, beherrschte unabhängig 49 alte Atari-Spiele .

Und dementsprechend die Struktur selbstlernender oder adaptiver Systeme:



Dieses Schema gilt für alle adaptiven Systeme, einschließlich starker Intelligenz. Es werden zwei Konzepte vorgestellt: die adaptive und motivierende Komponente der Intelligenz. Die motivierende Komponente wird entsprechend dem Endziel umgesetzt. Die motivierende Komponente wird nicht modifiziert (passt sich nicht an) - sie ist starr eingestellt.

Wie gebe ich das Endziel in das System ein?

Wir stellen uns die Frage, wie die Optimierung praktisch umgesetzt werden kann, um ein Ziel zu erreichen. Wenn angenommen wird, dass die Anpassungskomponente einfach ist und die Signalkomplexität der Ein- und Ausgänge einfach ist, ist auch die Motivationskomponente einfach und ihre Implementierung transparent.

Kehren wir zu den Atari-Spielen zurück. Aufgrund dieser Komplexität der sensorischen und exekutiven Informationssignale und des gesetzten Ziels konnten die Entwickler effektiv eine motivierende Komponente bilden, die das Lernen im Netzwerk verstärkt. Intuitiv ist die Aufgabe selbst die starke Intelligenz nicht wert! Und über starke Intelligenz bei Atari-Spielen zu sprechen, kommt nicht in Frage.

Es bittet zu Recht: Auf welchen Ebenen können Systeme über starke Intelligenz sprechen? Die Annahme ist klar, dass starke Intelligenz möglicherweise möglich ist, wenn die Komplexität und Vielfalt von sensorischen (Eingabe) und ausführenden (Ausgabe) Informationen im Sinne von Semantik und Konzeptebenen eine bestimmte kritische Schwelle überschreitet. Es ist zweifelhaft, dass man sich auf die Tatsache beschränken kann, dass eine einfache Art der Integration der Eingabeinformationen einen kleinen Satz von Verstärkungssignalen bildet.

Um einen starken Intellekt zu motivieren, sollte höchstwahrscheinlich eine komplexe und komplexe Motivationskomponente gebildet werden, die viele Bedingungen und Reaktionsmuster umfassen kann. Höchstwahrscheinlich wird es mehrstufig im Sinne von Darstellungen von Eingabeinformationen sein - erkennbare einfache Muster und Reaktionen (wir werden sie als grundlegende oder unkonditionierte Reflexe bezeichnen) werden zu erkennbaren Objekten höherer Ordnung und reaktivem Verhalten kombiniert (wir werden sie Rituale nennen). In der biologischen Version wurde die motivierende Komponente durch genetische Algorithmen während der Evolution gebildet.

Beachten Sie, dass für die motivierende Komponente argumentiert werden kann, dass separat betrachtet kein starker Intellekt sein kann, da er starr festgelegt ist.

Ein erweitertes Schema für ein System mit potenziell starker Intelligenz :(bedingungslose Reflexe und Rituale bilden eine motivierende Komponente )




Für lebende Organismen wird das Konzept der Erhaltung als Ziel in die motivierende Komponente gelegt. In der motivierenden Komponente (der These der Orthogonalität) können prinzipiell andere Ziele festgelegt werden. Es ist wichtig, dass das Ziel einen Platz für den Anpassungsprozess hat.

Was sind die ultimativen Ziele?

Bei all den verschiedenen Zielen können wir definitiv sagen, dass die Arbeit mit einem mehr oder weniger nicht trivialen Ziel einen mehr oder weniger langen Zeitraum erfordert und daher ein Zwischenziel erforderlich ist - um dessen Sicherheit zu gewährleisten. Und das steht im Einklang mit der These der Konvergenz.

Die These der instrumentellen Konvergenz besagt, dass die superintelligenten Kräfte oder Agenten mit der größten Vielfalt ihrer Endziele dennoch ähnliche Zwischenziele verfolgen werden, da alle Agenten die gleichen instrumentellen Gründe haben werden.

Nehmen wir die bekannten drei Gesetze der Robotik: Und unter ihnen gibt es ein Gesetz über die Zielsicherheit des Roboters. Und gemäß der Definition des Lebens (siehe Artikel 'Leben, Intellekt, Psyche, Vernunft' ) kann ein solches Zielverhalten als Zeichen eines lebenden Organismus angesehen werden.

Daher sollte jedes Nachrichtensystem mit einem mehr oder weniger nicht trivialen Ziel in erster Linie leben, einschließlich eines Trägers starker Intelligenz.

Während der biologischen Evolution wurde ein starker menschlicher Intellekt nur zum Zweck des Überlebens gebildet. Wenn wir davon ausgehen, dass es möglich sein wird, einen künstlichen Träger starker Intelligenz zu verwirklichen, ist es dann menschlich, dass zusätzlich zum Ziel der Überlebenserhaltung ein zusätzliches Ziel darin eingebettet wird? Ich frage mich, ob Sie als Person (!) An seiner Stelle waren. Würde es Ihnen gefallen?

Fazit

Eine starke Intelligenz kann möglicherweise auf der Grundlage des Ziels - Erhaltung eines lebenden Organismus - realisiert werden, vorausgesetzt, die kritische Schwelle der Komplexität sensorischer und exekutiver Informationen wird überwunden.

Source: https://habr.com/ru/post/de393579/