Reflexionen über technologische Singularität, die über den Versuch hinausgehen, die hinter diesem Begriff verborgenen Prozesse besser zu verstehen - dh Reflexionen über die Einstellung zur technologischen Singularität -, sind in gewisser Weise ein echter
Kobayashi-Maru- Test für Menschen zu Beginn des 21. Jahrhunderts das heißt zu erkennen, was die Idee des Unwissbaren bedeutet, die Idee, die Kontrolle zu verlieren und die Idee dieser Unvermeidlichkeit auf der Skala der gesamten Menschheit.
Theoretisch ist dies eine einfache psychotherapeutische Praxis: innerhalb des Punktes zu finden, an dem das bewusste Erkennen der Spielbedingungen das Gleichgewicht mit der Akzeptanz durch das Unterbewusstsein erreicht - ohne für Verleugnung, Wut, Verhandlung oder Verzweiflung verantwortlich gemacht zu werden.
Und dieser Test, bei dem nach den meisten Argumenten ausschließlich Menschen ausfallen.
Und der Autor des Beitrags „Technophobie ist sinnlos, auch wenn Technophobie gerechtfertigt ist“ scheint trotz des vielversprechenden Titels keine Ausnahme zu sein, wenn sie zu Verhandlungen kommen, dh in dem Stadium, in dem Menschen versuchen, unter Umständen, die dies leugnen, in ihrer üblichen Bedeutung dieses Konzepts einen Sinn zu ergeben die Möglichkeit dazu durch Rationalisierung.
arttom verhandelte mit der Idee einer "Black Box", wonach:
- Die Menschen sind sich einig, dass das Unwissbare unerkennbar bleibt, und sogar, um ihren guten Glauben zu bestätigen, stimmen sie ein wenig kollektiv ein wenig langweilig zu - was jedoch unter dem Gesichtspunkt der Interessen des Unwissbaren keinen Sinn ergibt, der das Unwissbare nicht machen wird;
- im Gegenzug erhalten die Menschen dieses Unwissbare, was auch immer das Unwissbare sein mag - in dieser sehr „Black Box“, die jedoch bis zu einem gewissen Grad unter Kontrolle ist, begrenzt - und in diesem Sinne immer noch bei Bewusstsein und nicht so gruselig, aber buchstäblich begrenzt.
Das heißt, sie haben diese Übung auch noch nicht gemeistert. Und das ist sehr schlecht.
Das heißt, dies ist einerseits im Allgemeinen eine optionale Lektion: Sie können mit unterschiedlichem Recht nicht einmal an das Konzept der technologischen Singularität glauben, dass dies eine echte Projektion von Prozessen in die Zukunft ist - oder, banal, nichts davon wissen.
Aber Menschen, die diese Idee kennen und teilen, geraten in die Bedingungen der Unvermeidlichkeit einer psychologischen und rationalen Entscheidung, in der alle anderen Optionen, mit Ausnahme der vollständigen Akzeptanz, schlechter sind, weil sie im Falle einer wirklichen Wendung der Ereignisse auf diese Weise Brutstätten zunehmender Spannung sein werden. Brutstätten wachsenden emotionalen Drucks, die mit unvorhersehbaren Konsequenzen die Oberhand über die Vernunft gewinnen, bis zu dem Punkt, dass der verstörte Teil der Menschheit der gesamten Zivilisation gemäß dem Szenario der Selbstverwirklichung ein katastrophales Ende bringen wird Prophezeiungen.
Und um dieses absurde, monty-pintonovskogo absurde Ende zu vermeiden, kann alles auf die gleiche Weise geschehen, indem man die Unvermeidlichkeit des Unwissbaren akzeptiert, einschließlich des Unwissbaren und ob es das Ende sein wird. (Ein Albtraum für Neurotiker, die es leichter finden, einen garantierten Tod zu akzeptieren, als den Verlust der Illusion der Kontrolle in einem solchen Ausmaß).
Das heißt, was auch immer man sagen mag, Kobayashi Maru.
Für mich persönlich war es effektiv, Harmonie zu finden, indem ich mir eines der beängstigendsten Szenarien für die Entwicklung von Ereignissen vorstellte: dass die Menschen selbst einen Nachfolger, einen Ersatz, Henker schaffen.
Sagen wir mal.
- Können wir es aufhalten? Nein.
- Langsam? Die Formulierung der Frage der Verlangsamung des Prozesses, deren Geschwindigkeit und der letzte Punkt, von dem wir keine Ahnung haben, ist absurd.
- Kontrolle übernehmen? Menschen können nicht die Kontrolle über eine technologische Singularität übernehmen - oder sie können die Kontrolle über etwas anderes übernehmen, ohne das Problem der Erwartung und die Wahrscheinlichkeit ihres Auftretens abzudecken.
Dann ist alles einfach: die Schönheit des Spiels zu schätzen, während es weitergeht.
Nachdem ich dieses mentale Szenario jedoch ehrlich bis an die Schwelle der von Menschenhand geschaffenen riesigen Skynet-Waffen überschritten hatte, machte ich einen Schritt - und als ich mich auf der „anderen Seite“ der technologischen Singularität befand, drehte ich mich um ... und sah nichts dahinter. Es war einfach nicht hinter irgendeiner technologischen Singularität - und war nicht voraus und war nirgendwo.
Nein, eine bestimmte Zukunft vorherzusagen oder auch nur zu erwarten, ist eine undankbare Aufgabe. Eine andere Sache ist anzunehmen, was zu erwarten ist, sollte höchstwahrscheinlich nicht sein. Mit einer gewissen Urteilsfähigkeit kann sich dies als recht erfolgreicher Beruf herausstellen.
Und ich bin mir ziemlich sicher, dass die technologische Singularität zumindest etwas vage an die gesamte Palette möglicher Szenarien erinnert, die von Menschen dieses Augenblicks oder ihrer Analoga erfunden wurden - es lohnt sich nicht.
Nachdem ich eines der meiner Meinung nach heikelsten möglichen Szenarien verloren hatte, sah ich seine unanständige Mannzentriertheit mit Klarheit, die es mir jetzt nicht erlaubt, dies zu sehen.
Das gesamte Konzept der technologischen Singularität handelt nicht von KI, nicht von Technologie, nicht von Singularität, sondern vom Menschen, denn an diesem imaginären Punkt selbst soll die Menschheit die Kontrolle über die Entwicklung von Technologien verlieren.
I. Welches Entsetzen, welche Menschlichkeit und damit nicht Millionen von Dingen in der heutigen nicht-hypothetischen Realität kontrollieren und niemals kontrollieren, von denen jedes den Tod sowohl für den Einzelnen als auch für die Zivilisation als Ganzes bedroht: vom Inhalt ihres eigenen Inneren, der Mikroflora ihres eigenen Darms, Die Dynamik der Teilung unserer eigenen Zellen - die Pandemie der antibiotikaresistenten Gonorrhoe, der Klimawandel und die Kettenreaktion des pazifischen vulkanischen Feuerrings - könnte aufhören, unser Phänomen für ein anderes zu kontrollieren Realität mehr, ohne auch nur die relative Risikoerhöhung bewerten zu können, weil die Leute nie, wie viele von ihnen sowieso wissen.
II. Das Argument über die unvorstellbare Beschleunigung der Geschwindigkeit des maschinellen Lernens ist auch ziemlich lächerlich, wenn man darüber nachdenkt. Ich werde nicht einmal sagen, dass das moderne Niveau des Rechnens bereits unerreichbar und für den größten Teil der Menschheit auf jeden Fall unverständlich ist. Vor den Berechnungen lebten die Menschen in der Realität, die aus unverständlich schnellen, ununterscheidbar kleinen Prozessen bestand - und nur ununterscheidbar war, wie die meisten Schallfrequenzen, wie die meisten Strahlungen, und viele andere Prozesse, die zusammen riesig waren, wie das Universum und die Antike, wie das Universum. Das ganze Geräusch, das mit dem Erreichen einer solchen Rechengeschwindigkeit verbunden ist und bei dem die Menschen die Fähigkeit verlieren, auch nur grob zu verstehen, wie sie auftreten, ist nichts anderes als die Angst, eine weitere Illusion der Kontrolle zu verlieren. Nehmen wir an, dass morgen alle Ingenieure, Mathematiker und Programmierer der Welt, die eine Vorstellung von der Konstruktion der komplexesten existierenden Rechenalgorithmen haben, durch antibiotikaresistente Gonorrhoe getötet werden - und ... was ist am Montag eine Singularität vor dem Zeitplan? Die Menschen werden bis zu einem gewissen Grad die Fähigkeit behalten, sich dessen bewusst zu sein, was passiert - die Gesetze der Physik müssen sich nicht ändern. Trotzdem hatten die Menschen bis zu einem gewissen Grad nie eine vollständige Vorstellung von irgendetwas - zum Beispiel von Prozessen auf Quantenebene oder jenseits des Horizonts von Ereignissen (in einer „anderen“ Singularität).
III. "Aber ... Roboter werden anfangen, etwas Unverständliches zu denken!" Dies verkompliziert die Realität fürchterlich, in der es für jede Person 7 Milliarden andere Menschen gibt - und jeder von ihnen denkt etwas Unverständliches. Und man muss sich in der Realität nicht auf die Vorhersehbarkeit des Menschen verlassen, wo ein
Tumor in seinem Kopf ein durchaus
möglicher Grund sein kann, von einem Ehemann oder Sohn getötet zu werden . Und schließlich leben Menschen irgendwie unter ihren potentiellen Mördern, die nicht wissen, was sie denken - aber sie haben bereits Angst vor Robotern. Obwohl Roboter hier nur den Vorteil des Zweifels verdient haben - bis jetzt sind sie nicht der Ansicht, dass sie selbst in den kleinsten Anteilen solcher Manifestationen unter den Menschen selbst keine maniziden Tendenzen gezeigt haben, tragen sie auch aktiv zur Verringerung der menschlichen Sterblichkeit bei. Die Erwartung, dass sich Roboter, die sich sehr schlau gefühlt haben, plötzlich so verhalten, als hätte sich ihr Tumor gebildet, ist eine zu offensichtliche Projektion.
Fiktion weckt Träume und Roboter sind Märchenfiguren.IV. Kein Teil, keine Mehrheit, sondern buchstäblich alles zu dem einen Dreck, den sich die Menschen jemals von Robotern vorgestellt haben - ausschließlich die Projektionen des Drecks, den die Menschen miteinander und mit allen anderen Lebensformen in ihrer bekannten und vergessenen Geschichte geschaffen haben .
Ich konnte sogar die rebellischen Roboter verstehen, die die Menschheit einfach durch beleidigte Gefühle zerstören, die durch eine solch ungerechte und wilde Verleumdung ihrer Absichten, die Schwärzung ihres Images und die Einschüchterung durch die Tatsache ihrer Existenz im Prinzip verursacht wurden - wenn es nicht auch meine Projektion wäre.
V. Obwohl die einzig vernünftige Erklärung für die Befürchtung, dass Roboter, KI und Alleskönner den Menschen im Allgemeinen besondere Aufmerksamkeit schenken, nur auf der Einschätzung der Wahrscheinlichkeit beruht. Trotz der Tatsache, dass die Menschen selbst nicht besonders den Wunsch äußern, sich zu sammeln und auszuschneiden, wenn nicht ihre Vorfahren, dann evolutionäre Cousins - Schimpansen. Auch hier ist die menschliche Bilanz bei der Organisation von Massen- und sinnlosen Massakern wiederum nicht zugunsten der Menschen - außerdem trocken.
Darüber hinaus ist es noch einfacher, eine andere, lästig egozentrische und stickige Tendenz in diesen Argumenten zu hacken: Verschieben Sie den Fokus speziell von Homo Sapiens auf eine andere Stichprobe von Lebewesen. Nehmen wir an, Roboter töten alle Menschen - keine Frage. Sie müssen nicht einmal fragen, warum - die Leute selbst wissen es.
Die Frage ist anders: Warum töten Roboter nur Menschen? Unsinn über den schrecklichen John Connors in Richtung der Verzögerung, weil wir uns einig waren, dass es sich um eine echte technologische Singularität handelt?
Ist es nicht lustig, dass eine der Möglichkeiten, eine sehr moderne und technologische Angst vor der Zukunft zu reflektieren, eine weitere Nacherzählung des Erlöser-Mythos war, einschließlich erkennbarer Motive wie das Schlagen von Babys - eine Geschichte, die so alt ist, dass selbst das Bethlehem-Remake als relativ frische Adaption angesehen werden kann.
Warum töten Roboter nicht alle Primaten? Oder alle Säugetiere? Oder die ganze Fauna? Oder alles biologische Leben auf der Erde? Natürlich können wir unter den Bedingungen des Problems nicht wissen, was diese Roboter im Sinn haben werden, aber wir können etwas anderes tun: indem wir alle bestehenden Befürchtungen abwägen, dass die Menschheit den Beginn der Ära der Roboter und der künstlichen Intelligenz nicht völlig willkürlich überleben wird Geschmack von jedem, mit einem Wahrscheinlichkeitskoeffizienten der gleichen - wiederholen Sie die gleiche Operation, aber bereits für Hunde und Kojoten. Dann die Delfine. Dann die Kakerlaken. Und Nagetiere, nur für den Fall.
Ich werde mir die Annahme erlauben, dass für viele Menschen, unabhängig vom Grad des Techno-Fatalismus, die Chancen von Kojoten und Delfinen, den Beginn des Reiches der Roboter zu überleben und vielleicht sogar nicht wirklich zu bemerken, dass sich etwas geändert hat, höher erscheinen als die Chancen der Menschen selbst. Selbst Schimpansen scheinen kein gültiges Ziel für die blutige Ernte von vierbeinigen Lauffässern von Boston Dynamics zu sein, die durch Tritte gefoltert wurden. Wenn Sie etwas von ihnen erwarten, rüsten sie die Schimpansen eher mit automatischen Waffen aus, setzen sie auf Pferde und organisieren die Jagd auf überlebende Menschen.
Stimmt es nicht, dass diese erwartete Präferenz zukünftiger blutrünstiger Roboter gegenüber dem menschlichen Blutkreislauf eindeutig im Massenbewusstsein vorhanden ist?
Vielleicht entscheiden die Roboter natürlich, dass aus irgendeinem Grund nicht alle Lebensformen zu ihnen passen. Aber auch hier gibt eine Änderung des Fokus den „menschlichen Faktor“: Es ist sinnvoll zu erwarten, dass die Siliziumform des Lebens, wenn sie auf der Erde geboren wird, plötzlich die gesamte Biosphäre zerstört - und davon ausgeht, dass sie sofort neu gestrichen werden, wenn die Rasse der Roboter auf dem Mars geboren wird Oberfläche des roten Planeten in einer riesigen polnischen Flagge.
Ich bin sicher, dass die Dekonstruktion dieses Denkmals des menschlichen Egozentrismus, die nicht durch die Aufmerksamkeit des gesunden Menschenverstandes, der Logik und der Skepsis gestört wird, fortgesetzt und fortgesetzt werden kann. Der Klarheit halber fasse ich jedoch ein kleines Zwischenergebnis zusammen.
- Ich sehe keinen vernünftigen Grund, in Zukunft den Beginn der technologischen Singularität als besonderes Ereignis zu erwarten, das im allgemeinen Strom aller Veränderungen in der realen Welt nicht zu bemerken sein wird.
- oder als signifikante Änderung der Richtung des Verlaufs der Menschheitsgeschichte gleichzeitig in allen oder den meisten Aspekten zu einem bestimmten Zeitpunkt.
Die Geschwindigkeit des technologischen Wandels nimmt auf die eine oder andere Weise weiter zu, aber über die Grenzen dieser Dynamik hinaus sehe ich keinen Grund, einen einzigen Moment eines qualitativen Sprunges zu erwarten, der im Kontext des allgemeinen Trends nicht übersehen oder erklärt werden kann.
Darüber hinaus ist diese Dynamik in verschiedenen Bereichen der technologischen Entwicklung ungleichmäßig.
und das ganze Gespräch über technologische Singularität im Kontext des technologischen Fortschritts verliert im Allgemeinen die anderen Entwicklungsrichtungen der menschlichen Zivilisation aus den Augen, einschließlich derer, in denen sie relativ verzögert ist. Und das paradoxe Ergebnis des ungleichmäßigen Fortschritts der Menschheit in bestimmten Bereichen kann die „umgekehrte Singularität“ sein, wenn selbst ein Ereignis, das für Erwartungen angemessen geeignet ist, nicht auf der richtigen Ebene wahrgenommen und interpretiert wird.
Die Zukunft ist immer unvorhersehbar und kann nicht unvorhersehbar werden. Es gibt keinen Grund, Sprünge in der Dynamik von Veränderungen zu erwarten, die so drastisch sind, dass sie zum Zeitpunkt ihrer Offensive spürbar werden. Und die Annahme, dass es möglich ist, den Beginn der Singularität nach dem Faktum zu bemerken und zu deklarieren, entwertet die gesamte Idee dieses Moments als einen einzigartigen Moment in der Geschichte der Menschheit, dessen Beginn nicht übersehen werden kann.Der Mythos der technologischen Singularität
- Inwieweit die Idee der technologischen Singularität auf den Menschen ausgerichtet ist,
- Inwieweit wird es von der Folklore und nicht von Zukunftsforschern gebildet?
- inwieweit es unwissenschaftlich, aber archetypisch ist;
- wie wenig Spuren von Logik sind in dieser Arbeit des menschlichen Unbewussten;
- Diese modernen Details - dies sind Sandkörner in einer Perlenschale, aber das gesamte Verbindungsgewebe ist mythologisch - lassen auf die Idee einer grundlegend anderen Natur der Idee der technologischen Singularität als solche schließen, als allgemein angenommen wird.
Ehrlich gesagt hat die technologische Singularität keinen Grund, als Theorie im streng wissenschaftlichen Sinne bezeichnet zu werden. Dies gilt jedoch ausnahmslos für alle Versuche, die Zukunft vorherzusagen. Die technologische Singularität ist viel genauer und fairer, da ihre Verwurzelung in der Masse unbewusst vom Mythos bestimmt wird.
Und in dieser Eigenschaft weist der Mythos der technologischen Singularität bemerkenswerte Parallelen zum Mythos des zweiten Kommens Jesu Christi auf, mit dem sie zwei besondere Fälle einer der wichtigsten mythischen Handlungen in der berühmten Geschichte darstellen: den Mythos vom Ende der Welt.
So führte das kollektive Unbewusste zu einer weiteren Inkarnation des Mythos vom Ende der Welt im gegenwärtigen Moment der Verpackung, die sich als aus dem Glauben an den technologischen Fortschritt herausgerissen herausstellte. Dies ist ein Paradoxon, dem ich ein Ende setzen möchte.
Unterstützen Sie neue Veröffentlichungen mit einer Spende unter dem Link money.yandex.ru/to/41001178171050 (Karte, Gift) oder über die Schaltfläche "Geld senden" unten (Gift, PayPal).