In letzter Zeit hat sich das Thema künstliche Intelligenz zu einem der Hauptströme in den Medien entwickelt, und wir haben zunehmend Angst vor den Prophezeiungen vieler berühmter Persönlichkeiten wie Stephen Hawking (das Universum ruht für ihn in Frieden) oder Ilon Mask über die Gefahr seiner Entwicklung. Eine solche alarmistische Rhetorik impliziert, dass künstliche Intelligenz selbst zum einen zum Thema wird und zum anderen negative Absichten sowohl gegenüber dem Einzelnen als auch gegenüber der gesamten Menschheit hat. Lassen Sie uns diese Annahmen genauer erläutern.
Derzeit verwenden alle Systeme, die künstliche Intelligenz in irgendeiner Form enthalten (ob neuronale Netze, Expertensysteme usw.), diese als angewandtes Werkzeug. Das heißt, als eine Art Maschine, die einen klar begrenzten Bereich von Aktionen / Aufgaben hat und dementsprechend Informationen verbraucht und ausgegeben hat. In dieser Form kann die KI keine eigenen Absichten haben, es sei denn, sie ist konstruktiv darin eingebettet. Das ist also nicht die Absicht des KI-Systems, sondern seiner Schöpfer. Und selbst wenn das System mit einer solchen KI-Maschine arbeitet und so arbeitet, dass es Schaden anrichtet, spricht es nicht über die böse Absicht der KI, sondern nur über die Fehlfunktion des Systems, die beispielsweise durch eine Fehlfunktion, Systemdesignfehler oder Fehler verursacht werden kann KI-Training.
Hier werden wir versuchen, die Frage zu beantworten, wie ein KI-System entworfen werden kann und welche Eigenschaften und Fähigkeiten es besitzen sollte, damit es nicht mehr nur als KI-Maschine betrachtet werden kann, sondern als eine Art Thema betrachtet werden kann.
Um ein Subjekt zu sein, muss das KI-System in der Lage sein, die eingehenden heterogenen Informationen unabhängig zu bewerten und Entscheidungen zu treffen sowie auf der Grundlage dieser Einschätzungen und Entscheidungen in einem weiten Bereich auf die umgebende Realität zu reagieren. Und um negative oder andere Absichten zu haben und Entscheidungen über Handlungen zu treffen, ist Motivation erforderlich („Motivation, Karl!“). Das heißt, was das Subjekt bewegt, lässt ihn handeln. Dementsprechend sollte eine bestimmte Hauptmotivation bei der Erstellung in die KI eingebettet werden. Oder wir können auf seine spontane Erzeugung warten - vielleicht auf die nächsten Milliarden Jahre, als das Leben in der Aminosäuresuppe auftauchte.
Der Mensch hat bei der Schaffung komplexer, oft geliehener technischer Lösungen aus der Natur etwas verwendet, das seine Effizienz und Effektivität bereits bewiesen hat. Bei der Erstellung von KI-Systemen können wir auch untersuchen, wie wir strukturiert sind und welche Mechanismen die Natur verwendet hat, um uns zu einer langfristigen autonomen und (ich möchte glauben) erfolgreichen Existenz fähig zu machen.
Erinnern wir uns zunächst daran, welche primären Motivationen alle Lebewesen haben, die sie bewegen. Offensichtlich gibt es nur zwei Hauptmotive: den Selbsterhaltungstrieb und den Fortpflanzungsinstinkt, dh die Libido. Tatsächlich waren diese ersten beiden evolutionären Anpassungen, die durch natürliche Selektion durchgeführt wurden, die Schaffung von Leben aus lebloser Materie. Sie werden ständig durch natürliche Auslese unterstützt - grob gesagt überlebt alles, was nicht versucht, sich selbst zu bewahren und zu reproduzieren, einfach nicht. Es gibt Theorien, die besagen, dass solche Eigenschaften, dh der Wunsch nach Selbsterhaltung und Selbstreproduktion, von der Information selbst als solche besessen werden (zum Beispiel D. Glick „Information. Geschichte. Theorie. Strom“, R. Dawkins „Das selbstsüchtige Gen“).
In komplexen Lebewesen ist der Mechanismus zur Verwirklichung primärer Motivationen in die Struktur des Körpers (und insbesondere des Gehirns) eingebettet, die durch die Evolution geschaffen wurde. Wenn beispielsweise der Glukosespiegel des Tieres sinkt oder der Magen einen Überschuss an Sekret signalisiert, wird das Programm zur Selbsterhaltung und Aufrechterhaltung der Homöostase aktiviert, und infolgedessen beginnt das Tier, nach Nahrung zu suchen. In einem anderen Fall wird das Rettungsprogramm „Hit or Run“ aktiviert, wenn die Kreatur die Umstände als bedrohlich ansieht. Oder die Umstände können als der Fortpflanzung förderlich angesehen werden, dann wird das Fortpflanzungsprogramm eingeschaltet und das Gehirn der Kreatur erhält eine starke hormonelle Verstärkung des entsprechenden Verhaltens. Diese ganze Küche ist auf der Ebene des „Reptilienhirns“ implementiert, dh des Teils des Gehirns aller komplexen Lebewesen, die sie seit undenklichen Zeiten der ersten Tiere geerbt haben. Und ein solcher Mechanismus hat sich über Millionen von Jahren bewährt.
Es wäre wahrscheinlich ziemlich einfach, ein KI-System aufzubauen, das nach einem ähnlichen Algorithmus arbeitet. Wir sind jedoch mehr an dem Fall interessiert, in dem das KI-System komplexe Bewertungen erstellen und eine komplexere Motivationsstruktur aufweisen könnte als die primären. Um zu verstehen, wie dies realisiert werden kann, schauen wir uns an, wie dies bei Menschen geschieht, das heißt, warum Menschen mit denselben Hauptmotivationen eine so vielfältige Aktivität ausführen können und können.
Die Hauptmethode, mit der Menschen primäre Motivationen in eine andere Aktivität umwandeln, ist die Sublimation - die Brechung primärer Motivationen durch die Struktur ihrer Werte und ihrer entsprechenden Ziele. Und Werte und Ziele sind rein sprachliche Konzepte, die außerhalb der Sprache nicht existieren. In der Tat sind solche Dinge wie „Entwicklung“, „Gesundheit“, „Wissen“ usw. Sprachkategorien, und für jedes einzelne Individuum können sie sehr unterschiedliche Dinge bedeuten. Und ihr Unterscheidungsmerkmal ist, wie Sie wissen, dass sie nicht "in eine Schubkarre gesteckt" werden können. Die Werte des Individuums bilden einen Graphen, wobei die Werte selbst seine Eckpunkte sind und die Rippen die Überzeugungen sind, die die Werte verbinden. Zum Beispiel sind „Gesundheit ist Glück“ oder „Wissen ist notwendig, um erfolgreich zu sein“ oder „nur Reichtum gibt Befriedigung aus dem Leben“ alle Verbindungen zwischen Werten. Der Wertgraph ist somit der Kern der individuellen Persönlichkeit.
Durch dieses Wertdiagramm können sich primäre Motivationen in komplexere und nicht triviale Motive und Ziele verwandeln. Zum Beispiel schafft eine Person eine Organisation oder entwickelt ein wissenschaftliches Feld oder zeigt andere kreative Aktivitäten - all dies ist die Verwirklichung ihrer primären Motivation zur Selbstreproduktion. Nur reproduzierbare Objekte sind keine Menschen mehr, sondern Konstruktionen aus den Ideen, Interessen und Überzeugungen ihres Schöpfers. In einem anderen Fall, selbst wenn eine Person einfach zur Arbeit geht, um Geld zu verdienen, ist es nichts anderes als eine sublimierte Motivation zur Selbsterhaltung, sie dazu zu drängen. Zusammenfassend können wir sagen, dass sich die Strukturen des Gehirns (einschließlich des "Reptils") und des Körpers und der in die Person eingebetteten Sprache bei der Umwandlung der primären Motivationen in komplexe Ziele ergänzen.
Wenn wir dann wollen, dass das
KI-System ein Subjekt / eine Persönlichkeit ist und Motivationen der Form „zum Zwecke der Entwicklung“ oder „im Namen des Gemeinwohls“ oder eine andere strukturell unbeabsichtigte Motivation aufweist,
muss es zunächst
primäre Motivationen besitzen und zweitens die
eingebettete Sprache und auf deren Grundlage ein Diagramm von Werten und Überzeugungen . Darüber hinaus muss seine Hauptmotivation nicht, aber es kann Selbsterhaltung und Fortpflanzung sein.
Darüber hinaus kann das KI-System eine so interessante und nützliche evolutionäre Anpassung wie das Selbstbewusstsein haben, die darin besteht, die Grenzen zwischen dem „Ich“ und dem „Nicht-Ich“ zu verstehen und die Ergebnisse der eigenen mentalen Aktivität (die in modernen neuronalen Netzen ganz einfach realisiert wird) zu erkennen erneutes Anlegen des Netzwerkausgangssignals an seine Eingänge). Diese evolutionäre Anpassung ist sehr förderlich für die Selbsterhaltung: Für eine Kreatur, die die Grenzen zwischen „Ich“ und „Nicht Ich“ nicht erkennt, ist es beispielsweise nicht sinnvoll, einem Raubtier zu widerstehen, das versucht, einem Wesen die Gliedmaßen abzubeißen, da in Abwesenheit solcher Grenzen auch die Interessen dieses Raubtiers berücksichtigt werden sollten im Interesse der Kreatur aufgenommen werden. Das Bewusstsein für die Ergebnisse der eigenen mentalen Aktivität hilft bei der iterativen Lösung von Problemen, dh es wird möglich, Probleme zu lösen, deren Komplexität mehr Rechenleistung erfordert als das Gehirn der Kreatur gleichzeitig. Die Fähigkeit, komplexe Probleme zu lösen (auch um zu überleben), bietet einen evolutionären Vorteil und wird dementsprechend durch natürliche Selektion unterstützt.
Das KI-System kann auch die Fähigkeit beinhalten, den Vektor seiner Motivation zu steuern, die jedes Subjekt Homo Sapiens besitzt (aber sehr oft nicht verwendet). Hier können Sie sogar die Fähigkeit nutzen, den Vektor Ihrer Motivation als
Kriterium der Rationalität zu steuern: Wer also seine Motivation nicht steuern kann oder nicht, ist nicht intelligent.
Wie bereits dort, wo es nur nicht geschrieben wurde (außer vielleicht auf dem Zaun), enthält das menschliche Gehirn etwa 86 Milliarden Neuronen, von denen jedes bis zu 20-30.000 Verbindungen (Synapsen) haben kann. Darüber hinaus wird der Löwenanteil (etwa 90%) dieser Rechenressource nicht für die tatsächlich höhere Nervenaktivität im präfrontalen Kortex aufgewendet, sondern für Hilfsaufgaben wie die Aufrechterhaltung und Verwaltung biochemischer Prozesse im Körper, die Verarbeitung visueller und auditorischer Informationen usw. d. Die Natur schuf zunächst das Nervensystem genau zur Erfüllung dieser Aufgaben, bis festgestellt wurde, dass das neuronale Netz auch hervorragend zur Verwirklichung des Intellekts selbst geeignet ist.
In KI-Systemen können all diese Hilfsaufgaben (falls sie auftreten) durch spezielle Geräte gelöst werden, die keine so große Rechenleistung benötigen, während wir noch nichts geeigneteres und effektiveres für die Implementierung von Intelligenz als neuronale Netze finden konnten.
Nach sehr groben Schätzungen können wir uns daher darauf verlassen, ein KI-Subjekt mit einer dem Menschen äquivalenten Intelligenz auf der Grundlage eines neuronalen Netzwerks mit einer Kapazität von etwa 8 Milliarden Neuronen zu erstellen. Wenn wir bedenken, dass das Neuron im Durchschnitt mit 1000 anderen Neuronen verbunden ist und das Netzwerk mit einer Geschwindigkeit von bis zu 40 Hz (Beta-Rhythmus des menschlichen Gehirns) arbeiten sollte, beträgt die erforderliche Rechenleistung „nur“ etwa 250 Teraflops. Beispielsweise können 40 NVIDIA GeForce GTX 1070-Grafikkarten in Verbindung eine solche Leistung bieten.
Gleichzeitig können solche KI-Systeme gegenüber Lebewesen eine Reihe von Vorteilen haben. Im Gegensatz zum Gehirn ist das KI-System zunächst einfacher zu warten - es benötigt keine tägliche Versorgung mit kalorien- und sauerstoffgesättigtem Blut sowie verschiedenen Hormonen in sehr präzisen Anteilen. Es kann repariert werden, was selten mit dem menschlichen Gehirn gemacht wird. Sie braucht keinen Schlaf oder Ruhe in solchen Mengen, weil der ausschließlich elektrische Mechanismus keine Erneuerung der Arbeitssubstanzen erfordert, wie es das chemisch-elektrische Gehirn verlangt. Auch hier kann das gesamte elektronische System mit Frequenzen arbeiten, die wesentlich größer als 100 Hz sind, was offensichtlich aufgrund seiner chemisch-elektrischen Struktur eine Einschränkung für das Gehirn darstellt (hier bedeutet Frequenz die Anzahl der Auslöser aller Neuronen im Netzwerk pro Sekunde). . Wahrscheinlich haben KI-Systeme auch keine Beschränkung für die Anzahl der Aufmerksamkeitseinheiten, über die Personen verfügen - 7 ± 2 Aufmerksamkeitseinheiten stehen uns gleichzeitig zur Verfügung.
In absehbarer Zeit werden solche KI-Systeme jedoch an Komplexität und Multifaktor verlieren, einfach weil das Neuron im menschlichen Nervensystem selbst im Gegensatz zum Neuron des modernen Nervensystems ein sehr komplexer molekularer Mechanismus ist, der von einer Vielzahl von Parametern abhängt Netzwerke mit einer einfachen Struktur.