Sir Tim Berners-Lee, einer der Erfinder des WWW- und Hypertext-Protokolls, Professor am Massachusetts Institute of Technology und der University of Southampton, ist auch Berater der britischen Regierung. Deshalb muss er die Welt nüchtern betrachten und bewerten, was um ihn herum passiert und wozu es führen kann.
In Bezug auf künstliche Intelligenz denken viele Experten über die Entstehung einer starken KI und technologischen Singularität nach. Wenn wir jedoch vernünftig sprechen, was nützt dann eine starke KI für Menschen, warum Milliarden von Dollar in ihre Entwicklung investieren? Die Vorteile einer starken KI sind neblig und die Risiken zu groß.
Es ist viel logischer anzunehmen, dass es zunächst schwache Versionen von KI geben wird, die besser sind als Menschen, die hochspezialisierte Aufgaben ausführen. Aufgrund dieser Versionen der KI werden die Menschen versuchen, einen Wettbewerbsvorteil gegenüber anderen Menschen zu erlangen, um das Hauptziel zu erreichen, das die Menschheit antreibt - um des Geldes willen
* .
Einige Anzeichen einer bevorstehenden Zukunft sind heute sichtbar. Die talentiertesten Programmierer und brillanten Mathematiker gehen wo zur Arbeit? Richtig, in Investmentfonds. Dort erstellen sie innovative mathematische Modelle, neue Handelsstrategien, exotische geniale Derivate nach außergewöhnlichen Formeln - und suchen genau das
Alpha , das heißt den Gewinn über dem Markt. Wer hat höhere Intelligenz - er erhält Alpha. Die mittleren Bauern bekommen
Beta und die Verlierer verlieren. Der Finanzmarkt, der frei von jeglichen materiellen Gütern und verdeckten Intrigen ist, ist ein Kampf der Intellektuellen in ihrer reinen Form nach klar festgelegten Regeln. Der Kampf um Geld. Dies ist der einzige Bereich menschlicher Aktivitäten auf der Welt, in dem ein brillanter Mathematiker durchweg Hunderttausende von Dollar pro Monat verdienen kann, insbesondere wenn er einen Prozentsatz des Alphas erhält, das er zu seiner Stiftung gebracht hat.
Ein kluger Schritt wäre die Implementierung computergestützter Entscheidungssysteme - der fortschrittlichsten Versionen von KI - vor allem in der Finanzwelt. Dies wurde von Sir Tim Berners Lee in seiner
Rede am 10. April 2017 auf dem
Global Summit on Financial Innovations erwähnt .
In Banken und Investmentfonds werden bereits Systeme mit schwacher KI von IBM und anderen Unternehmen implementiert. Was wird als nächstes passieren? Tim Berners-Lee glaubt, dass der Wendepunkt sein wird, wenn die KI beginnt, wichtige Entscheidungen zu treffen. Bewerten Sie beispielsweise den Nutzen von Investitionen und entscheiden Sie, welches Unternehmen rentabler zu erwerben ist. Bewerten Sie die Bonität von Personen - und entscheiden Sie, wem ein Hypothekendarlehen gewährt werden soll und wem dies unmöglich ist. Moderne Computersysteme sind einer solchen Funktionalität bereits nahe.
Tim Berners-Lee sagt, dass der nächste logische Schritt in der Entwicklung der Finanz-KI nach der Entscheidung, die profitabelsten Unternehmen zu kaufen, die Verwaltung von Unternehmen, die Gründung von Beteiligungen und die Erstellung von Tochterkopien seines eigenen Programms zur Verwaltung dieser neuen Unternehmen sein wird.
Dies wird ein natürlicher Prozess sein, da KI-kontrollierte Unternehmen im Wettbewerb auf dem Markt einen Vorteil gegenüber von Menschen verwalteten Unternehmen haben werden. Am Ende bleiben nur KI-kontrollierte Unternehmen auf dem Markt, die miteinander konkurrieren. Es wird für die Menschen schwierig sein, einen fairen Wettbewerb zu verstehen und sicherzustellen: „Ja, und wie kann man einem Computer auf jeden Fall das Konzept der Ehrlichkeit erklären?“, Fragt Tim Berners-Lee. Dies wirft die Frage auf, Ethik und Moral zu beachten - Verhaltensregeln, die die Menschen selbst nicht vollständig verstehen (und nicht miteinander übereinstimmen). Wie können wir dies einem Computer erklären?
Auch hier besteht das Risiko, dass sich eine eingeschränkte Version der KI in die falsche Richtung entwickelt. Ursprünglich für eine enge Aufgabe erstellt, kann am Ende berücksichtigt werden, dass die gesamte umgebende Realität durch die Bedingungen dieser Aufgabe beschrieben wird. Diese Meinung von Berners-Lee erinnert an die Bedenken, die Elon Musk in
einem Interview mit Vanity Fair geäußert hat:
"Angenommen, Sie haben eine sich selbst verbessernde KI für das Pflücken von Erdbeeren erstellt, und es wird immer besser, Erdbeeren zu pflücken, immer mehr zu pflücken und sich zu verbessern, und alles, was er tun möchte, ist, Erdbeeren zu pflücken. Am Ende wird die ganze Welt zu Erdbeerfeldern. Erdbeerfelder für immer. "
Im Allgemeinen gibt es etwas zu denken. Wenn das Programm selbst lernen kann, kann eine schwache KI mit einer engen Spezialisierung noch gefährlicher sein als eine vollwertige starke KI mit normalem Selbstbewusstsein. Vielleicht sind moralische Prinzipien eine unveräußerliche Eigenschaft eines rationalen Wesens mit Intelligenz und Selbstbewusstsein.
* In der westlichen Zivilisation bedeutet das Vorhandensein von legal verdientem Geld das Vorhandensein von Macht, in anderen Gesellschaften sind dies nicht immer identische Konzepte.
Als kleine Werbung: Ein
ZiingRR- Benutzer teilte uns mit, dass Ende Mai an der HSE im
IT-Hörsaal der erste relativ große Vortrag zum Thema KI-Sicherheit (KI-Sicherheit, die Sprache der Sprache ist Englisch) in Russland stattfinden wird. Es ist auch geplant, einen ähnlichen Vortrag in
Arche zu halten.
ZiingRR verspricht, dass aus beiden Vorträgen ein Video veröffentlicht wird.