Frachtkult für KI: Der Mythos der übermenschlichen künstlichen Intelligenz

Ich habe gehört, dass Computer-KI in Zukunft so schlauer sein wird als wir, dass sie all unsere Jobs und Ressourcen wegnehmen und die Menschen aussterben werden. Ist es so?

Dies ist die häufigste Frage, die mir in meinen Reden über KI gestellt wird. Die Leute, die ihn fragen, sind aufrichtig besorgt, und ihre Besorgnis kommt von anderen Leuten - Experten, die die gleiche Frage stellen. Unter ihnen können Sie die klügsten Menschen treffen, die heute leben - zum Beispiel Stephen Hawking , Elon Musk , Max Tegmark , Sam Harris und Bill Gates - und alle glauben an die Möglichkeit eines solchen Szenarios. Auf einer kürzlich abgehaltenen KI-Konferenz stimmte ein Komitee der neun sachkundigsten KI-Leute zu, dass wir das Aufkommen der übermenschlichen KI nicht vermeiden könnten.



Dieses Szenario der Eroberung der Welt der KI enthält jedoch fünf Annahmen, die, wie sich nach sorgfältiger Untersuchung herausstellt, nicht auf Beweisen beruhen. Diese Aussagen mögen in Zukunft gerechtfertigt sein, aber jetzt hat keine von ihnen Beweise. Dies sind die Annahmen:

1. Die KI wird bereits schlauer als wir und ihre Macht wächst exponentiell.
2. Wir werden eine allgemeine KI erstellen, die unserer eigenen ähnlich ist.
3. Wir sind in der Lage, menschliche Intelligenz auf Siliziumbasis zu erzeugen.
4. Der Intellekt kann ohne Grenzen wachsen.
5. Nach der Explosion der Superintelligenz wird er uns helfen, alle unsere Probleme zu lösen.

Als Einwand gegen diesen orthodoxen Kanon werde ich fünf ketzerische Aussagen machen, die meines Erachtens mehr Gründe haben.

1. Intelligenz ist nicht eindimensional, daher macht das Konzept „schlauer als Menschen“ keinen Sinn.
2. Weder Menschen noch KI haben ein Allzweckbewusstsein.
3. Die Nachahmung des menschlichen Denkens in anderen Medien wird durch die Kosten seiner Entstehung begrenzt.
4. Die Dimensionen der Intelligenz sind nicht unendlich.
5. Intelligenz ist nur einer der Faktoren des Fortschritts.

Wenn die Erwartung für das Auftreten einer übermenschlichen KI (SII) auf fünf Schlüsselannahmen basiert, für die es keine Beweise gibt, dann ähnelt diese Idee eher einem religiösen Glauben oder einem Mythos. Als nächstes werde ich auf jede meiner fünf Gegenannahmen eingehen und beweisen, dass SII tatsächlich ein Mythos ist.

1.

Das häufigste Missverständnis über KI beginnt mit dem Missverständnis über natürliche Intelligenz. Es besteht in der Tatsache, dass Intelligenz eindimensional ist. Die meisten Technikfreaks tendieren dazu, Intelligenz wie Nick Bostrom in Superintelligence als eindimensionalen Liniendiagramm mit zunehmender Amplitude darzustellen.



Auf der einen Seite ist geringe Intelligenz, zum Beispiel ein kleines Tier; Auf der anderen Seite ein hohes Genie - als ob Intelligenz als Schallpegel in Dezibel dargestellt werden kann. In diesem Fall ist es natürlich leicht vorstellbar, dass das Volumen der Intelligenz weiter wächst und infolgedessen unser hochintellektuelles Niveau überschreitet und zu einem extrem lauten Intellekt wird - einem Brüllen! - für uns unzugänglich und außerhalb des Zeitplans.

Dieses Modell entspricht topologisch einer Leiter, auf der jeder nachfolgende Intelligenzschritt einen Schritt höher ist als der vorherige. Jüngere Tiere befinden sich auf den unteren Stufen, und hochrangige KI wird uns überholen und sich auf den Stufen darüber befinden. Die Zeitachse dieses Ereignisses spielt keine Rolle, nur das Ranking spielt eine Rolle - die Metrik der zunehmenden Intelligenz.


Das Problem mit diesem Modell ist, dass es so mythisch ist wie die Leiter der Evolution. Vor Darwin galt die Natur als Leiter, auf der sich jüngere Tiere unter der Person befanden. Selbst nach Darwin war es üblich, die Evolution als eine „Leiter“ zu betrachten, nach der sich Fische in Reptilien, dann in Säugetiere, dann in Primaten, in Menschen verwandelten und sich jedes Stadium in einem etwas höheren „Evolutionsstadium“ befand als schlauer als die vorherigen. Die Leiter der Intelligenz stimmt also mit der Leiter der Existenz überein. Diese Modelle haben jedoch einen völlig unwissenschaftlichen Ansatz.



Eine genauere Darstellung der natürlichen Evolution von Arten ist eine expandierende Scheibe, wie im obigen Bild, die zuerst von David Hillis von der University of Texas vorgeschlagen und auf der Basis von DNA erstellt wurde. Dieses genealogische Mandala beginnt im Zentrum mit den primitivsten Lebensformen und verzweigt sich dann mit der Zeit. Die Zeit bewegt sich nach draußen, so dass die neuesten Arten von Leben, die heute auf dem Planeten leben, sich am Umfang befinden. Dieses Bild unterstreicht die Tatsache der Evolution, die schwer zu akzeptieren ist: Jede der heute lebenden Arten ist gleichermaßen evolutionär entwickelt. Auf diesem Ring leben Menschen zusammen mit Kakerlaken, Weichtieren, Farnen, Füchsen und Bakterien. Jede Art durchlief eine kontinuierliche Kette von drei Milliarden Jahren erfolgreicher Reproduktion, was bedeutet, dass die heutigen Bakterien und Kakerlaken so evolutionär entwickelt sind wie der Mensch. Es gibt keine Leiter.

Ebenso gibt es keine Leiter für Intelligenz. Intelligenz ist nicht eindimensional. Dies ist ein Komplex aus vielen Typen und Erkennungsmodi, von denen jeder ein Kontinuum ist. Nehmen Sie die einfachste Aufgabe, die Intelligenz der Tiere zu messen. Wenn der Intellekt eindimensional wäre, würden wir einfach den Intellekt von Papagei, Delphin, Pferd, Eichhörnchen, Tintenfisch, Blauwal, Katze und Gorilla in der richtigen aufsteigenden Reihenfolge aufbauen. Aber heute haben wir keine wissenschaftlichen Beweise für die Existenz einer solchen Linie. Einer der Gründe dafür könnte das Fehlen eines Unterschieds zwischen den Intelligenzen bei Tieren sein, aber wir sehen dies auch nicht. Die Zoologie ist voll von erstaunlichen Beispielen für Unterschiede im tierischen Denken. Aber vielleicht haben sie alle eine relative "allgemeine Intelligenz"? Vielleicht, aber für ihn haben wir keine Möglichkeit zu messen und zu messen. Wir haben viele verschiedene Metriken für viele Arten der Wahrnehmung.



Anstelle einer einzelnen Linie mit Dezibel wäre ein genaueres Modell der Intelligenz ein Diagramm ihres Wahrscheinlichkeitsraums, wie beispielsweise die obige Abbildung, die mögliche Formen darstellt. Intelligenz ist ein kombinatorisches Kontinuum. Viele Knoten, von denen jeder ein Kontinuum ist, erzeugen komplexe und vielfältige Strukturen in höheren Dimensionen. Einige Intellektuelle können sehr komplex sein und viele Unterknoten des Denkens haben. Andere mögen einfacher sein, strecken sich aber weiter und nehmen einen Winkel im Raum ein. Diese Komplexe, die wir Intellekt nennen, können als Symphonien mit vielen Arten von Instrumenten betrachtet werden. Sie unterscheiden sich nicht nur in der Lautstärke, sondern auch in Ton, Melodie, Farbe, Tempo usw. Sie können als Ökosysteme dargestellt werden. Und in diesem Sinne hängen die verschiedenen Knoten-Komponenten des Denkens voneinander ab und werden zusammen geschaffen.

Wie Marvin Minsky sagte, sind menschliche Geister Geistesgemeinschaften. Wir arbeiten an Denkökosystemen. Wir haben viele Arten des Denkens in uns, die sich mit vielen Arten des Denkens befassen: Deduktion, Induktion, symbolische Logik, emotionale Intelligenz, räumliche Logik, Kurzzeitgedächtnis und Langzeitgedächtnis. Das Nervensystem unseres Darms ist auch ein Gehirn eines bestimmten Typs mit einer eigenen Denkweise. Wir denken nicht nur mit einem Gehirn, wir denken mit dem ganzen Körper.

Diese Denkweisen variieren von Individuum zu Individuum und von Spezies zu Spezies. Das Eichhörnchen kann sich jahrelang an die genaue Position von mehreren tausend Eicheln erinnern, was den menschlichen Geist vollständig beeinflusst. In dieser Art des Denkens sind Proteine ​​dem Menschen überlegen. Diese Supermacht ist mit anderen Modi verbunden, die im Vergleich zu unseren verblassen, und diese Verbindung macht den Geist des Eichhörnchens aus. Im Tierreich gibt es viele andere Beispiele für Möglichkeiten, die den menschlichen überlegen sind, und sie sind auch in verschiedenen Systemen enthalten.



Gleiches gilt für AI. Künstliche Köpfe sind Menschen in bestimmten Dimensionen bereits überlegen. Ihr Taschenrechner ist ein Genie in der Mathematik. Das Gedächtnis von Google ist unserem in einer bestimmten Dimension bereits überlegen. Wir erstellen KI, die in bestimmten Modi auffallen. Wir sind in der Lage, einige dieser Dinge selbst zu tun, aber sie tun es besser - zum Beispiel in den Bereichen Wahrscheinlichkeit oder Mathematik. Andere Denkweisen stehen uns nicht zur Verfügung - nur eine Suchmaschine kann sich jedes Wort auf sechs Milliarden Webseiten merken. In Zukunft werden wir uns völlig neue Denkweisen einfallen lassen, die wir nicht haben, und zwar in der lebendigen Natur. Als wir den künstlichen Flug erfanden, ließen wir uns von den biologischen Flugregimen inspirieren, hauptsächlich vom Flügelschlag. Aber wir haben solche Flüge erfunden - mit Propellern und Starrflügeln - die der biologischen Welt unbekannt waren. Dies ist der Flug eines anderen. Auf die gleiche Weise werden wir neue Denkweisen entwickeln, die es in der Natur nicht gibt. In vielen Fällen handelt es sich um neue, spezifische, kleine Modi, die für einen bestimmten Job entwickelt wurden - möglicherweise eine Art von Argumentation, die nur für Statistik und Wahrscheinlichkeitstheorie geeignet ist.

In anderen Fällen wird der neue Geist eine komplexe Reihe von Denkweisen sein, mit denen wir Probleme lösen können, die unserer Intelligenz nicht zugänglich sind. Viele der komplexesten Probleme von Wirtschaft und Wissenschaft erfordern möglicherweise eine zweistufige Lösung. Stufe eins: Erfinde eine neue Denkweise, die mit unserem Verstand arbeiten kann. Zweitens: Kombinieren Sie sie, um das Problem zu lösen. Da wir Probleme lösen, die uns bisher nicht zugänglich waren, möchten wir diese neue Art des Denkens als „intelligenter“ bezeichnen als wir, aber in Wirklichkeit unterscheidet sie sich einfach von uns. Der Hauptvorteil der KI ist anderes Denken. Ich denke, es ist nützlich, sich KI als außerirdisches Denken (oder künstliche Außerirdische) vorzustellen. Seine Ungewöhnlichkeit wird seine Haupttugend sein.

Gleichzeitig werden wir diese verschiedenen Denkweisen in komplexere Gemeinschaften des Geistes integrieren. Einige dieser Komplexe werden komplexer sein als unsere, weil sie Probleme lösen können, die für uns unzugänglich sind, und dann möchte jemand sie als übermenschlich bezeichnen. Aber wir rufen Google SII nicht an, obwohl sein Gedächtnis unser übertrifft, weil es viele Dinge gibt, die wir besser machen können als er. Diese KI-Komplexe werden uns in vielen Dimensionen übertreffen können, aber nicht einer kann alles, was wir besser können als wir. Dies kann mit den körperlichen Fähigkeiten der Menschen verglichen werden. Die industrielle Revolution ist bereits 200 Jahre alt, und obwohl Maschinen im Allgemeinen die körperlichen Fähigkeiten einer Person (Bewegungsgeschwindigkeit, Gewichtheben, präzises Schneiden usw.) übertreffen, gibt es keine Maschine, die in der Lage ist, die durchschnittliche Person in allem, was sie tut, zu übertreffen.

Und während die KI-Geistesgemeinschaft immer komplexer wird, ist diese Komplexität wissenschaftlich immer noch schwer zu messen. Wir haben keine guten Metriken für die Komplexität, die bestimmen können, ob die Gurke einer Boeing 747 schwieriger ist oder wie sich ihre Schwierigkeiten unterscheiden. Dies ist einer der Gründe, warum wir keine guten Metriken für den Verstand haben. Es wird sehr schwierig sein zu bestimmen, ob Geist A schwieriger ist als Geist B, und daher ist es schwierig zu verstehen, welcher von ihnen klüger ist. Bald werden wir verstehen, dass der Geist nicht eindimensional ist, und tatsächlich interessieren uns all die vielen Möglichkeiten, auf die der Intellekt funktionieren kann - all jene Erkenntnisknoten, die wir noch nicht entdeckt haben.

2.

Der zweite Fehler in Bezug auf die menschliche Intelligenz ist unser Glaube, dass unser Geist universell ist, es ist ein Allzweck-Geist. Dieser Glaube hat zur Entstehung des oft erklärten Ziels von KI-Forschern geführt, eine verallgemeinerte KI, OII, zu schaffen. Wenn wir jedoch Intelligenz als einen größeren Raum von Möglichkeiten betrachten, hat sie keinen verallgemeinerten Zustand. Die menschliche Intelligenz befindet sich nicht in einer zentralen Position, um die sich andere spezialisierte Intellektuelle drehen. Die menschliche Intelligenz ist eine ganz besondere Art von Intelligenz, die als Ergebnis einer jahrhundertelangen Evolution entstanden ist, damit unsere Spezies auf diesem Planeten überlebt. Wenn Sie es in den Raum aller möglichen Intelligenzen stellen, wird es irgendwo in der Ecke sein, genau wie unsere Welt am Rande einer riesigen Galaxie steht.

Wir können uns definitiv ein Denken vorstellen und sogar erfinden, das einem universellen Schweizer Messer ähnelt. Er macht einen ziemlich guten Job mit einer Reihe von Aufgaben, aber er macht mit keiner von ihnen sehr gute Arbeit. AI folgt der gleichen technischen Maxime , der alle erstellten oder geborenen Dinge folgen: Sie können nicht jede Dimension optimieren. Es sind nur Kompromisse möglich. Es wird nicht funktionieren, eine verallgemeinerte multifunktionale Einheit zu schaffen, die spezialisierten überlegen ist. Ein großer Geist, der zu allem fähig ist, wird nicht in der Lage sein, all dies so gut wie spezialisierte zu tun. Da wir an die Verallgemeinerung unseres Geistes glauben, glauben wir, dass das Denken keinen technischen Kompromissen folgen muss, dass es möglich sein wird, eine Intelligenz zu schaffen, die alle Denkweisen maximiert. Dafür gibt es aber keine Beweise. Wir haben noch nicht genügend Optionen erfunden, damit der Geist den gesamten Raum sehen kann (und bis jetzt fegen wir den Geist von Tieren weg und bewerten sie mit eindimensionaler Amplitude).

3.

Ein Teil dieser Überzeugung stammt aus dem Konzept des Universal Computing. Diese Annahme, die 1950 formell als Church-Turing-These beschrieben wurde , besagt, dass alle Berechnungen, die eine bestimmte Schwelle erreichen, gleichwertig sind. Daher gibt es für alle Berechnungen einen universellen Kern, und ob sie in einer Maschine mit vielen schnellen oder langsamen Teilen oder im biologischen Gehirn auftreten - all dies ist der gleiche logische Prozess. Und dies bedeutet, dass es möglich ist, jeden Rechenprozess (Denken) in jeder Maschine zu emulieren, die zum "universellen" Rechnen fähig ist. Anhänger der Singularität basieren auf diesem Prinzip und erwarten, dass wir Siliziumgehirne schaffen können, die den menschlichen Geist aufnehmen können, und dass wir einen künstlichen Geist schaffen können, der denkt, dass Menschen nur viel schlauer sind. Diese Hoffnung sollte skeptisch sein, da sie auf einem Missverständnis der Church-Turing-Hypothese beruht.

Der Ausgangspunkt dieser Hypothese lautet wie folgt: „Wenn es einen unendlichen Film (Erinnerung) und eine unendliche Zeit gibt, sind alle Berechnungen gleichwertig.“ Das Problem ist, dass der Computer in Wirklichkeit nicht über unendlich viel Speicher und Zeit verfügt. In der realen Welt ist Echtzeit entscheidend, oft sogar eine Frage von Leben und Tod. Ja, alles Denken kann gleichwertig sein, wenn die Zeit ignoriert wird. Ja, Sie können menschliches Denken in jeder Matrix emulieren, solange Sie die Zeit oder die tatsächlichen Einschränkungen der Daten- und Speicherkapazität ignorieren. Durch die Einbeziehung der Zeit wird es jedoch möglich sein, dieses Prinzip grundlegend neu zu definieren: "Zwei Computersysteme, die auf sehr unterschiedlichen Plattformen ausgeführt werden, werden zeitlich nicht gleichwertig sein." Oder: "Die einzige Möglichkeit, ähnliche Denkmuster zu erhalten, besteht darin, sie auf gleichwertigen Plattformen auszuführen." Die physikalische Materie, mit der Berechnungen arbeiten - insbesondere wenn sie komplexer werden - wirkt sich dramatisch auf die Art des Denkens aus, das in Echtzeit erfolgreich funktionieren kann.

Ich werde diese Argumente fortsetzen und sagen, dass der einzige Weg, um dem Menschen nahe zu kommen, darin besteht, Berechnungen an weichem und feuchtem Gewebe durchzuführen, das dem Menschen ähnlich ist. Dies bedeutet, dass sehr große und komplexe AIs, die mit trockenem Silizium arbeiten, uns große, komplexe und unmenschliche Denkweisen vermitteln. Wenn es möglich wird, ein künstliches feuchtes Gehirn mit gewachsenen Neuronen zu erzeugen, die den menschlichen ähnlich sind, dann würde ich sagen, dass seine Gedanken unseren sehr ähnlich sein werden. Die Vorteile eines solchen feuchten Gehirns sind proportional dazu, wie ähnlich wir die Grundlage schaffen können. Die Kosten für die Erstellung eines solchen „menschlichen Computers“ sind enorm. Je näher das Gewebe am Gehirngewebe liegt, desto kostengünstiger ist es einfach, eine Person zu erstellen. Am Ende können wir dies in neun Monaten tun.

Darüber hinaus denken wir, wie oben erwähnt, mit Hilfe des gesamten Körpers und nicht nur mit nur einem Gehirn. Wir haben viele Daten, die zeigen, dass das Darmnervensystem unseren „rationalen“ Entscheidungsprozess steuert und Ereignisse lernen und vorhersagen kann. Je mehr wir das menschliche Körpersystem modellieren, desto näher kommen wir seiner Reproduktion. Intelligenz, die an einem ganz anderen Körper arbeitet (trockenes Silizium anstelle von nassem Kohlenstoff), wird anders denken.

Es scheint mir, dass dies kein Fehler ist, sondern eine Funktion. Wie ich in Absatz 2 erwähnt habe, ist der Unterschied zwischen Denken und Mensch der Hauptvorteil der KI. Dies ist ein weiterer Grund, warum es falsch ist zu sagen, dass er "schlauer als Menschen" ist.

4.

Im Zentrum des Konzepts der übermenschlichen Intelligenz - insbesondere der Idee, dass sich eine solche Intelligenz ständig verbessern wird - steht der Glaube, dass das Ausmaß der Intelligenz unendlich ist. Ich sehe keine Beweise dafür. Daran zu glauben hilft der falschen Vorstellung von der Eindimensionalität der Intelligenz - aber das ist nur Glaube. Im Universum sind der Wissenschaft keine verlässlichen endlosen physikalischen Dimensionen bekannt. Die Temperatur ist nicht unendlich - es gibt endgültige Kälte und endgültige Hitze . Zeit und Raum sind endlich. Die Endgeschwindigkeit. Vielleicht ist die numerische Linie in der Mathematik unendlich, aber physikalische Eigenschaften haben Einschränkungen. Es wird vernünftig sein zu sagen, dass der Geist selbst endlich ist. Die Frage ist also, wo ist die Grenze der Intelligenz? Wir neigen dazu zu glauben, dass es weit außerhalb unserer Reichweite liegt, es ist viel "höher" als wir, genauso wie wir "höher" sind als die Ameise. Wenn wir das ständig auftretende Problem der Eindimensionalität verlassen, welche Beweise haben wir dafür, dass wir diese Grenze nicht erreicht haben? Warum können wir nicht maximal sein? , , ? , – , ?

, . , – . , , - . «» [ The Inevitable ] , - . :

• , , ( ).
• , .
• , .
• , , .
• , , .
• , , - .
• , , .
• , , , .
• , .
• , , , ..
• , , .
• .
• , , .
• , .
• , .
• , , .
• , .
• , , .
• , .
• , .
• , .
• , .
• , .
• -.
• -.
• , , .

, .

, ( - ), , , , . , . , . ? . , , ? , , . . 10 .

, , , . , , , , , . : « , … , , . , 2029 ».

, , , , . . , .

, « », , . , . , , , . , «» .

5.

Ein anderer, von niemandem widerlegter Glaube an das Aufkommen der FIS, der nicht durch Beweise gestützt wird, ist, dass eine Superintelligenz von nahezu unendlicher Macht alle unsere wichtigsten ungelösten Probleme schnell lösen wird.

Viele Befürworter der Explosion der Intelligenz glauben, dass dies zu einer Explosion des Fortschritts führen wird. Ich nenne diesen mythischen Glauben "Thinkismus". Dies ist ein Missverständnis, dass zukünftige Stadien des Fortschritts nur aufgrund eines Mangels an geistiger Kraft oder Intelligenz unerreichbar sind. Ich stelle fest, dass der Glaube, dass Denken ein magisches Allheilmittel für alles ist, bei vielen Menschen, die gerne denken, weit verbreitet ist.

Nehmen Sie Krebsheilung oder Lebensverlängerung. Sie können solche Probleme nicht mit einem Gedanken lösen. Kein Gedanke reicht aus, um zu verstehen, wie Zellen altern oder wie Telomere verschwinden. Kein Super-Super-Intellekt kann verstehen, wie der menschliche Körper funktioniert, indem er einfach die gesamte bekannte wissenschaftliche Literatur der Welt liest und darüber nachdenkt. Kein FIC kann, wenn er nur an alle Experimente mit Kernfusion denkt, ein funktionierendes Kernfusionsschema erstellen. Um den Weg vom Nichtwissen über die Funktionsweise von etwas zum Verstehen der Funktionsweise von etwas zu überwinden, ist viel mehr als nur Denken erforderlich. In der realen Welt werden unzählige Experimente durchgeführt, von denen jedes zum Auftreten von Bergen widersprüchlicher Daten führt, für die weitere Experimente erforderlich sind, um eine Arbeitshypothese zu erstellen. Wenn Sie über potenzielle Daten nachdenken, erhalten Sie nicht die richtigen Daten.

Denken ist nur ein Teil der Wissenschaft, vielleicht sogar ein kleiner Teil davon. Zum Beispiel haben wir nicht genügend Daten, um dem Problem des Todes näher zu kommen. Bei der Arbeit mit lebenden Organismen brauchen fast alle Experimente Zeit. Langsamer Zellstoffwechsel kann nicht verteilt werden. Das Erreichen von Ergebnissen dauert Jahre, Monate, mindestens Tage. Wenn wir wissen wollen, was mit subatomaren Teilchen passiert, können wir nicht nur an sie denken. Wir müssen riesige, komplexe und listige physische Strukturen aufbauen, um das herauszufinden. Selbst wenn die klügsten Physiker 1000-mal schlauer wären als jetzt, hätten sie ohne einen Collider nichts Neues gelernt.

Es besteht kein Zweifel, dass SRI den Fortschritt der Wissenschaft beschleunigen kann. Wir können Computersimulationen von Atomen oder Zellen durchführen und diese um ein Vielfaches beschleunigen, aber zwei Probleme schränken die Nützlichkeit von Simulationen ein. Das erste ist, dass Simulationen und Modelle schneller ablaufen können als die untersuchten Prozesse, nur weil wir etwas nicht berücksichtigen. Dies ist die Essenz eines Modells oder einer Simulation. Darüber hinaus ist das Testen, Überprüfen und Beweisen dieser Modelle zeitaufwändig und muss mit der Geschwindigkeit der simulierten Prozesse erfolgen. Die Überprüfung der Wahrheit kann nicht beschleunigt werden.

Diese vereinfachten Versionen sind nützlich, um die vielversprechendsten Pfade herauszufiltern und den Fortschritt zu beschleunigen. Aber in Wirklichkeit gibt es keinen Überschuss; alles, was wirklich ist, übt seinen Einfluss in gewissem Maße aus; Dies ist eine der Definitionen der Realität. Wenn Sie Modelle und Simulationen mit immer mehr Daten pumpen, wird schnell klar, dass die Realität schneller ist als die 100% ige Simulation. Dies ist eine weitere Definition der Realität: die schnellstmögliche Version aller vorhandenen Details und Freiheitsgrade. Wenn Sie alle Moleküle in Zellen und alle Zellen im menschlichen Körper modellieren können, funktioniert die Simulation nicht so schnell wie der menschliche Körper. Egal wie viel Sie darüber nachdenken, Sie benötigen Zeit zum Experimentieren, sei es ein reales System oder eine Simulation.

Um nützlich zu sein, muss die KI die reale Welt infiltrieren, und die Welt wird die Geschwindigkeit ihrer Innovation bestimmen. Ohne Experimente durchzuführen, Prototypen, Fehler und Experimente mit der Realität zu erstellen, kann Intelligenz denken, aber keine Ergebnisse erzielen. Keine sofortigen Entdeckungen pro Minute, Stunde, Tag oder Jahr des Auftretens des sogenannten. "Übermenschliche KI" wird nicht erwartet. Natürlich werden Erfolge bei der Entwicklung der KI die Anzahl der Entdeckungen pro Zeiteinheit erheblich erhöhen, insbesondere da die KI im Gegensatz zu Menschen Fragen stellt, die die Menschen nicht stellen würden, aber selbst ein extrem starker Intellekt im Vergleich zu uns keinen sofortigen Fortschritt garantiert. Um Probleme zu lösen, wird viel mehr benötigt als nur Intelligenz.

Intelligenz allein wird nicht nur die Probleme von Krebs und Langlebigkeit lösen können, sondern auch die Probleme des Intellekts selbst. Ein typisches Mantra der Anhänger der Singularität ist, dass sobald Sie eine KI machen, die „schlauer als eine Person“ ist, er plötzlich eine KI denkt und erfindet, „klüger als er selbst“, die wiederum noch besser denkt und noch mehr erfindet intelligente KI, und infolgedessen wird alles mit einer Explosion der intellektuellen Kraft auf einer fast göttlichen Ebene enden. Wir haben keine Beweise dafür, dass das bloße Nachdenken über Intelligenz ausreicht, um neue Ebenen der Intelligenz zu schaffen. Solches Denken ist Glaube. Wir haben viele Beweise dafür, dass wir neben einer großen Menge an Wissen Experimente, Daten, Versuche und Irrtümer, ungewöhnlich gestellte Fragen und alles andere benötigen, was über einfachen Einfallsreichtum hinausgeht, um neue Arten von erfolgreich operierenden Köpfen zu erfinden.

Abschließend möchte ich sagen, dass ich mich mit meinen Aussagen irren kann. Wir befinden uns in einem frühen Stadium. Wir können eine universelle Metrik für Intelligenz entdecken; Entdecken Sie seine Unendlichkeit in alle Richtungen. Da wir sehr wenig darüber wissen, was Intelligenz ist (ganz zu schweigen vom Bewusstsein), überschreitet die Wahrscheinlichkeit einer Art KI-Singularität Null. Es scheint mir, dass alle Beweise für die geringe Wahrscheinlichkeit eines solchen Szenarios sprechen, aber diese Wahrscheinlichkeit ist ungleich Null.

Obwohl ich mit seiner Wahrscheinlichkeit nicht einverstanden bin, stimme ich den umfassenderen Zielen von OpenAI und den klugen Leuten zu, die sich Sorgen um ausländische Direktinvestitionen machen - dass wir freundliche KIs schaffen und darüber nachdenken sollten, wie wir ihnen Werte vermitteln können, die unseren entsprechen. Und obwohl ich denke, dass ausländische Direktinvestitionen eine sehr weit entfernte existenzielle Bedrohung sind (was eine Überlegung wert ist), denke ich, dass ihre geringe Wahrscheinlichkeit (basierend auf den verfügbaren Beweisen) unsere Wissenschaft, Politik und Entwicklung nicht bestimmen sollte. Die Kollision eines Asteroiden mit der Erde wäre eine Katastrophe. Ihre Wahrscheinlichkeit ist größer als Null (daher müssen wir den B612-Fonds unterstützen ), aber wir sollten nicht die Möglichkeit eines Asteroidenstreiks geben, um unsere Entscheidungen zu verwalten, beispielsweise im Bereich des Klimawandels, der Raumfahrt oder sogar in der Stadtplanung.

Auf die gleiche Weise deuten die bisherigen Erkenntnisse darauf hin, dass KI höchstwahrscheinlich nicht übermenschlich, sondern extrahuman sein wird. Es werden Hunderte neuer Denkweisen sein, die sich von Menschen unterscheiden. Keine davon wird sich als allgemeine KI herausstellen, und keine von ihnen wird ein Gott. Sofort alle unsere Probleme lösen. Stattdessen werden wir eine Galaxie begrenzter Intelligenzen haben, die in unbekannten Dimensionen arbeiten, in vielen von ihnen über unsere Fähigkeiten hinausgehen und mit uns zusammenarbeiten, um bestehende Probleme zu lösen und im Laufe der Zeit neue zu schaffen.

Ich verstehe den Charme und die Attraktivität von SII-Gott. Das ist so etwas wie Superman. Aber wie Superman ist dies eine mythische Figur. Irgendwo im Universum mag Superman existieren, aber die Wahrscheinlichkeit seiner Existenz ist äußerst gering. Aber Mythen können nützlich sein und nach ihrer Erfindung nicht verschwinden. Die Idee von Superman wird nicht sterben. Die Idee einer übermenschlichen KI-Singularität, sobald sie entstanden ist, wird auch nicht sterben. Aber wir müssen verstehen, dass es jetzt eine religiöse, keine wissenschaftliche Idee ist. Wenn wir die Daten untersuchen, die wir heute über künstliche und natürliche Intelligenz haben, können wir nur den Schluss ziehen, dass unsere Diskussionen über den mythischen SII-Gott nur Mythen sind.

Viele der isolierten Inseln Mikronesiens kamen im Zweiten Weltkrieg erstmals mit dem Rest der Welt in Kontakt. Die außerirdischen Götter flogen in lauten Vögeln in den Himmel, warfen Lebensmittel und Waren auf ihre Inseln und kehrten nicht zurück. Auf den Inseln erschienen religiöse Kulte, die beteten, dass die Götter zurückkehren und mehr Waren entsorgen würden. Selbst jetzt, fünfzig Jahre später, warten viele noch auf die Rückgabe der Waren. Es ist möglich, dass SRI ein weiterer Frachtkult ist. Nach hundert Jahren können die Menschen in unserer Zeit auf den Moment zurückblicken, als die Gläubigen auf die Entstehung von FIC warteten, was ihnen unvorstellbare Vorteile bringen würde. Jahrzehnt für Jahrzehnt warten sie auf die Ankunft ausländischer Direktinvestitionen, zuversichtlich, dass sie mit ihren Vorteilen sehr bald erscheinen werden.

Aber nicht übermenschliche KI ist hier schon real. Wir definieren diesen Begriff ständig neu, erhöhen seine Komplexität und halten ihn daher in der Zukunft, aber im weitesten Sinne der Definition von fremden Intellektuellen - in einem kontinuierlichen Spektrum verschiedener Köpfe, Intellektueller, Gedanken, Logiken, Lehren und Bewusstseine - existiert KI bereits auf dem Planeten und setzt sich fort verbreiten, vertiefen, diversifizieren und intensivieren. Keine frühere Erfindung kann mit ihrer Macht über die Welt verglichen werden, und bis zum Ende des Jahrhunderts wird die KI alle Aspekte unseres Lebens berühren und verändern. Aber der Mythos der übermenschlichen künstlichen Intelligenz, der bereit ist, uns mit Fülle auszustatten oder uns in die Supersklaverei zu treiben (oder beides gleichzeitig), wird offenbar weiterleben - diese Gelegenheit ist zu mythisch, um sie abzulehnen.