Kolmogorov Komplexität und unser Streben nach Sinn

Was uns die Mathematik über das Finden von Ordnung im Chaos des Lebens sagen kann




War das Treffen mit Ihrer liebsten Person zufällig oder gab es einen versteckten Grund dafür? Und was ist mit dem seltsamen Traum von gestern - war es nur zufälliges Werfen von Synapsen des Gehirns oder hat er etwas Tiefes über Ihr Unterbewusstsein preisgegeben? Vielleicht wollte der Traum Ihnen etwas über Ihre Zukunft erzählen. Vielleicht nicht. Hat die Tatsache, dass Ihr enger Verwandter an einer gefährlichen Krebsart erkrankt ist, eine tiefgreifende Bedeutung, oder sind es nur die Folgen zufälliger DNA-Mutationen?

In unserem Leben denken wir oft an die Muster von Ereignissen, die um uns herum geschehen. Wir fragen uns, ob unser Leben zufällig ist oder eine Bedeutung hat, die einzigartig wahr und tief ist. Als Mathematiker wende ich mich häufig Zahlen und Theoremen zu, um Ideen zu solchen Themen zu erhalten. Und so kam es, dass ich dank eines der tiefgreifendsten Theoreme der mathematischen Logik etwas über die Suche nach Sinn in den Gesetzen des Lebens lernte. Dieser Satz zeigt einfach ausgedrückt, dass es im Prinzip unmöglich ist herauszufinden, ob die Erklärung des Gesetzes die tiefgreifendste oder interessanteste aller Erklärungen ist. Genau wie im Leben ist die Suche nach Sinn in der Mathematik unbegrenzt.



Ein kleiner Auftakt. Betrachten Sie die folgenden drei Zeichenzeilen.

1.100100100100100100100100100100100100100100100100100100100100100100100100100100100100100100

2,2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97

3.38386274868783254735796801834682918987459817087106701409581980418.

Wie können wir sie beschreiben? Zum Beispiel können wir dies leicht tun, indem wir sie einfach aufschreiben - genau wie wir es gerade getan haben. Es ist jedoch sofort klar, dass die ersten beiden Zeilen kurz beschrieben werden können. Das erste ist nur eine Folge von sich wiederholenden „100s“. Die zweite ist eine Liste der ersten Primzahlen. Was ist mit dem dritten? Es kann einfach durch Anzeigen der gesamten Zeile beschrieben werden. Aber gibt es eine bessere, kürzere Beschreibung für sie?

In den frühen 1960er Jahren formulierten der amerikanische Teenager Gregory Haitin , der weltberühmte russische [und sowjetische] Mathematiker Andrei Nikolaevich Kolmogorov und der Informatikpionier Ray Solomonov unabhängig voneinander einen Weg, um die Komplexität von Zeichenfolgen zu messen. Ihre Ideen wurden Kolmogorovs Komplexitätstheorie oder algorithmische Informationstheorie genannt . Sie postulieren, dass die Komplexität eines Strings durch die Länge des kürzesten Computerprogramms bestimmt wird, das ihn erzeugen kann. Nehmen Sie also eine Zeile und suchen Sie nach dem kürzesten Computerprogramm, mit dem es erstellt wird. Ein Programm ist eine Art von Zeilenbeschreibung. Wenn sich herausstellt, dass das kürzeste dieser Programme sehr kurz ist, enthält die Zeile ein einfaches Muster, das nicht sehr komplex ist. Wir sagen, dass es in einer solchen Zeile wenig algorithmischen Inhalt gibt. Wenn umgekehrt ein langes Programm erforderlich ist, um eine Zeichenfolge zu erzeugen, ist die Zeichenfolge komplex und ihr algorithmischer Inhalt ist größer. Für jede Zeile müssen Sie nach dem kürzesten Programm suchen, das eine solche Zeile erzeugt. Die Länge eines solchen Programms wird als Kolmogorov-String-Komplexität bezeichnet.

Kehren wir zu den ersten drei Zeilen zurück. Die ersten beiden Zeilen können mit relativ kurzen Computerprogrammen beschrieben werden:

1. Drucken Sie 30 Mal „100“.

2. Drucken Sie die ersten 25 Primzahlen.

Die Kolmogorov-Komplexität der ersten Zeile ist geringer als die Kolmogorov-Komplexität der zweiten Zeile, da das erste Programm kürzer als das zweite ist. Was ist mit dem dritten? Diese Linie hat keine offensichtlichen Muster. Sie können jedoch ein dummes Programm schreiben, das diese Sequenz anzeigt:

3. Ausgabe "38386274868783254735796801834682918987459817087106701409581980418"

Ein solches Programm bewältigt die Aufgabe, ist aber unbefriedigend. Vielleicht gibt es ein kürzeres Programm, das das Vorhandensein von Mustern in dieser Zeile demonstriert. Wenn das kürzeste Programm, das eine Zeichenfolge erzeugt, das Programm "Zeichenfolge drucken" ist, sagen wir, dass diese Zeichenfolge sehr komplex ist und keine bekannten Muster enthält. Eine Zeichenfolge ohne Muster wird als zufällig bezeichnet. Aber obwohl wir keine Muster gesehen haben, kann es existieren. In der Mathematik wie im Leben sind wir mit vielen Mustern konfrontiert, die zufällig erscheinen.

Wir könnten versuchen, die erstaunlichen Fähigkeiten moderner Computer zu nutzen, um das Muster und das kürzeste Programm zu finden. Wäre es nicht großartig, wenn es einen Computer gäbe, der einfach die Kolmogorov-Komplexität einer Zeichenfolge berechnen könnte? Ein solcher Computer würde eine Zeichenfolge als Eingabe akzeptieren und die Länge des kürzesten Programms ausgeben, das diese Zeichenfolge ausgeben kann. Natürlich sollte es mit all diesen neuen Dingen wie KI, Deep Learning, Big Data, Quantencomputer usw. einfach sein, einen solchen Computer zu erstellen.

Leider ist ein solcher Computer unmöglich zu erstellen! Obwohl moderne Computer sehr leistungsfähig sind, ist diese Aufgabe unmöglich. Dies ist der Inhalt eines der tiefsten Theoreme der mathematischen Logik. Der Satz besagt tatsächlich, dass die Kolmogorov-Komplexität eines Strings nicht berechnet werden kann. Es gibt kein mechanisches Gerät, das die Größe des kleinsten Programms bestimmt, das eine bestimmte Zeichenfolge erzeugt. Es geht nicht darum, dass unser derzeitiges Niveau der Computertechnologie der Aufgabe nicht gewachsen ist oder dass wir nicht klug genug sind, einen solchen Algorithmus zu schreiben. Es wurde bewiesen, dass die Idee der Beschreibung und Berechnung zeigt, dass der Computer eine solche Aufgabe im Prinzip für keine Zeile ausführen kann. Und wenn der Computer möglicherweise in der Lage ist, nach bestimmten Mustern in der Zeichenfolge zu suchen, kann er nicht das beste Muster finden. Möglicherweise finden wir ein kurzes Programm, das eine bestimmte Sequenz anzeigt, aber es kann immer ein noch kürzeres geben. Wir werden nie davon erfahren.

Der Beweis für die Nichtberechnbarkeit der Kolmogorov-Komplexität für eine Sequenz ist recht formal. Dies ist jedoch ein Beweis durch Widerspruch, und wir können uns grob vorstellen, wie es funktioniert, wenn wir ein paar kleine und süße Paradoxe betrachten.

Das Paradoxon interessanter Zahlen hängt mit der Aussage zusammen, dass alle natürlichen Zahlen interessant sind. 1 ist die erste Zahl und es ist interessant. 2 ist die erste gerade Zahl. 3 ist die erste ungerade Primzahl. 4 ist eine interessante Zahl, weil 4 = 2 × 2 und 4 = 2 + 2. Auf diese Weise können Sie weiter fortfahren und interessante Eigenschaften vieler Zahlen finden. Irgendwann können wir eine Zahl ohne interessante Eigenschaften treffen. Und wir können diese Nummer die erste uninteressante Nummer nennen - aber das an sich ist schon eine interessante Eigenschaft. Interessant sind daher auch uninteressante Zahlen!

Die im Kolmogorov-Beweis enthaltenen Ideen ähneln den Ideen von Berrys Paradoxon bezüglich der Beschreibung großer Zahlen. Beachten Sie, dass je mehr Wörter wir verwenden, desto mehr können wir beschreiben. Zum Beispiel können Sie in drei Worten "Billionen Billionen" und fünf - "Billionen Billionen Billionen Billionen Billionen Billionen" beschreiben, was eine viel größere Zahl ist. Betrachten Sie nun die Zahl, die durch den folgenden Satz beschrieben wird:

Die kleinste Zahl, die nicht in weniger als 15 Wörtern beschrieben werden kann]

Es dauert 15, 16 oder noch mehr Wörter, um die Zahl zu beschreiben. Es kann nicht in 12, 13 oder 14 Wörtern beschrieben werden. Dies ist jedoch das Problem: Der obige Satz beschreibt diese Zahl mit 10 Wörtern [ 12 Wörter / ca. perev. ]. Unsere Beschreibung der Zahl widerspricht der Beschreibung der Zahl - hier ist das Paradoxon.

Im Paradoxon interessanter Zahlen und im Berry-Paradoxon kommen wir zu Widersprüchen, die auf die Existenz einer genauen Art der Beschreibung von etwas hinweisen. In ähnlicher Weise ergibt sich der Beweis für die Nichtberechnbarkeit der Kolmogorov-Komplexität aus der Tatsache, dass wir bei einer Berechenbarkeit zu einem Widerspruch kommen würden.

Die Tatsache, dass Kolmogorovs Komplexität nicht berechenbar ist, ist das Ergebnis reiner Mathematik, und wir sollten diese ideale Welt nicht mit einer viel komplexeren und ungeordneten Realität verwechseln. Es gibt jedoch einige allgemeine Punkte im Zusammenhang mit der Kolmogorov-Komplexität, die wir in die reale Welt bringen können.

Oft stießen wir auf etwas, das uns völlig chaotisch erschien. Zufälligkeit macht uns nervös und wir suchen nach Mustern, die das Chaos teilweise beseitigen. Wenn wir ein Muster finden, bleibt unklar, ob es das beste Muster ist, das unsere Beobachtungen erklärt. Wir mögen uns fragen, ob es ein tieferes Muster gibt, das eine bessere Erklärung gibt. Die Theorie der Kolmogorov-Komplexität lehrt uns, dass es auf einer grundlegenden Ebene keine garantierte Möglichkeit gibt, das beste Muster zu bestimmen. Wir werden einfach nie erfahren, ob das gefundene Muster das beste ist.

Aber genau das macht die Suche unendlich interessant. Per Definition ist etwas interessant, wenn es zusätzliche Überlegungen erfordert. Eine offensichtliche und vollständig verstandene Tatsache erfordert keine weiteren Überlegungen. Die Tatsache, dass sechs siebenundvierzig sein werden, ist völlig verständlich und uninteressant. Nur wenn wir uns über Ideen nicht sicher sind, müssen wir sie bestätigen und darüber nachdenken. Die Suche nach verbesserten Mustern wird immer interessant sein.

Die reale Welt erhöht die Komplexität. Wenn es in der Welt der Zeichenfolgen und Computerprogramme keine Fehler gibt, können Sie in der realen Welt einen Fehler machen. Wir können leicht herausfinden, ob ein bestimmtes Programm eine Zeichenfolge anzeigt oder nicht. Und obwohl wir wahrscheinlich nicht in der Lage sein werden, das optimale Programm für die Ausgabe einer bestimmten Zeile zu bestimmen, können wir bestimmen, ob die gewünschte Zeile angezeigt wird. Und die reale Welt ist dagegen viel komplexer. Es mag uns scheinen, dass wir eine Sequenz sehen, wenn sie tatsächlich nicht da ist.

Unser Verständnis unserer Suche nach Sinn nimmt Gestalt an. Wir verachten den Zufall und lieben Muster. Wir sind biologisch programmiert, um Muster zu finden, die erklären, was wir sehen. Wir können jedoch nicht sicher sein, ob das gefundene Muster korrekt ist. Selbst wenn wir irgendwie das Fehlen eines Fehlers garantieren und eine Perfektion ähnlich einem Computer erreichen könnten, könnte es irgendwo immer noch eine noch tiefere Wahrheit geben. Diese Spannung treibt unsere Liebe zu Literatur, Theater und Kino an. Wenn wir einen Roman lesen oder ein Stück sehen, präsentiert uns der Autor oder Regisseur eine Abfolge von Ereignissen mit einem gemeinsamen Thema, Muster oder einer gemeinsamen Moral. Literatur, Theaterstücke und Kino bieten uns eine großartige Möglichkeit, dem normalerweise unverständlichen und sinnlosen Chaos zu entkommen, dem wir in der Welt um uns herum begegnen. Sehr gute Literatur geht weiter und lässt uns viele Interpretationen. Wir sind mit der Unkalkulierbarkeit der Kolmogorov-Komplexität konfrontiert.

Diese Spannung bestimmt auch, wie wir unser Leben leben. Auf unserer Reise durch vermeintlich zufällige Ereignisse suchen wir nach Mustern und Strukturen. Das Leben ist voller Höhen und Tiefen. Es ist die Freude, sich zu verlieben, Spaß mit Kindern zu haben, das Gefühl großer Erfolge am Ende schwieriger Arbeit. Es gibt den Schmerz einer zerbrochenen Beziehung, die Qual des Scheiterns nach aktiven Versuchen, eine Aufgabe zu erfüllen, die Tragödie des Todes eines geliebten Menschen. Wir versuchen, in all dem nach Sinn zu suchen. Wir verachten das Gefühl des völligen Zufalls und die Idee, dass wir einfach den chaotischen, unkomplizierten Gesetzen der Physik folgen. Wir wollen wissen, ob es in der umgebenden Welt eine Bedeutung, einen Zweck oder eine Bedeutung gibt. Wir brauchen eine magische Lebensgeschichte und erzählen uns Geschichten.

Manchmal sind diese Geschichten einfach falsch. Manchmal täuschen wir uns und andere. Und manchmal identifizieren wir Muster richtig. Aber selbst wenn die Geschichte wahr ist, wird sie nicht unbedingt die beste sein. Wir werden niemals sicher sein, dass in den Tiefen keine noch grundlegendere und genauere Geschichte liegt. Wenn wir altern und in Angst geraten, erwerben wir bestimmte Ideen über das Universum, die uns vorher nicht zugänglich waren. Wir finden verbesserte Muster. Vielleicht sehen wir die Dinge klarer. Oder nicht. Wir werden es nie erfahren. Wir wissen jedoch, dass die Suche garantiert nicht endet.

Nozon Janowski - Doktor der Naturwissenschaften in Mathematik, arbeitet am Bildungszentrum der City University of New York, Professor für Informatik am Brooklyn College derselben Universität.

Source: https://habr.com/ru/post/de421763/


All Articles