DEFCON 25 Konferenz. Garry Kasparov. "Die letzte Gehirnschlacht." Teil 1Ich denke, dass das Problem nicht darin besteht, dass Maschinen eine Person an ihrem Arbeitsplatz ersetzen, auch im intellektuellen Bereich, und nicht, dass Computer angeblich gegen Menschen mit höherer Bildung und einem Twitter-Konto vorgehen. Die Einführung der KI ist überhaupt nicht schnell, sondern zu langsam. Warum? Weil dies ein normaler Zyklus menschlicher Entwicklung ist und wir einfach nicht erkennen, dass die Zerstörung, die wir sehen, die Einführung neuer Technologien bedeutet, die vor der Schaffung neuer Arbeitsplätze alte zerstören.
Technologie zerstört veraltete Industrien und schafft neue, so ist der Schöpfungsprozess, so ist der Entwicklungszyklus. Wenn Sie versuchen, die Qual zu überwinden, indem Sie alte Technologien in diesen Prozess einfügen oder einige Vorteile für veraltete Technologien schaffen, verlangsamen Sie den Prozess einfach und machen ihn schmerzhafter. Dies wird sowieso passieren, aber das Problem ist, dass wir den Prozess „regulieren“ und Regeln erstellen, die ihn absichtlich verlangsamen. Ich halte dies für ein größeres Problem als die, die uns klarer bewusst sind. Dies ist eher ein psychologisches Problem, wenn sich die Leute fragen: "Wie können Sie sich in einem unbemannten Fahrzeug sicher fühlen?"
Ich habe in die Geschichte geschaut und erfahren, dass vor hundert Jahren eine der mächtigsten Gewerkschaften in New York die Aufzugsgewerkschaft war, in der 17.000 Arbeiter vereint waren. Übrigens gab es damals schon eine Technologie, bei der man einfach einen Knopf drücken konnte - und man ist fertig, aber die Leute vertrauten ihr nicht! Es ist einfach schrecklich - drücken Sie den Knopf selbst, um den Aufzug anzurufen! Wissen Sie, warum diese Gewerkschaft "verstorben" ist und die Leute selbst anfingen, Knöpfe zu benutzen? Denn einmal beschlossen die Lifter, in den Streik zu treten. Sie streikten, und dann riskierten Leute, die auf die Spitze des Empire State Building klettern mussten, selbst Knöpfe zu drücken.
Denken Sie daran, was sie vor 20 bis 30 Jahren über Kinder oder Enkelkinder gesagt haben, als sie sich ans Steuer eines Autos gesetzt haben: „Das ist schrecklich. Schauen Sie sich nur die Statistiken an, denn Autos sind eine der Hauptursachen für den Tod von Menschen. Wie können sie ihr Leben riskieren?“
Das alles ist also reine Psychologie. Wir achten praktisch nicht darauf, wie viele Menschen bei Autounfällen sterben, aber wenn eine Person an einem unbemannten Fahrzeug stirbt, schwillt dieses Ereignis zum Himmel an. Jeder Fehler, jeder Fehler bei Technologien für künstliche Intelligenz wird sofort auf den Titelseiten von Zeitungen behandelt. Aber schauen Sie sich die Statistiken an, sehen Sie sich die Anzahl der Vorfälle an und Sie werden sehen, wie klein dieser Prozentsatz der Gesamtzahl der Unfälle ist. Daher wird die menschliche Gemeinschaft nur dann triumphieren, wenn sie vorwärts gehen kann, ohne durch solche Ängste gelähmt zu werden.
Eine andere Frage stellt sich, wenn wir über gefälschte Nachrichten oder Cybersicherheit sprechen. Dies sind sehr politisierte Themen, und ich bekomme viele Anrufe, in denen gefragt wird, wie ich mit KI-Hassern umgehe. Zum Beispiel habe ich einen regelmäßigen Blog und in meinem neuen Artikel, der in ein paar Tagen veröffentlicht wird, geht es um Hass und dass die Rettung vor Hass in Wissen und Training besteht. Wir müssen nur verstehen, dass dieses Problem lange vor der Erfindung all dieser Dinge bestand. Es ist nur so, dass seine Bedeutung dank des Internets, das Millionen und Milliarden von Menschen abdeckt, zugenommen hat.
Ich denke, es ist umgekehrt, wenn jemand versucht, den Fortschritt zu stoppen, indem er versucht, die KI zu verbieten, und Sie wissen, dass es nicht funktioniert, weil wir Putin und andere Bösewichte haben, wo immer sie sind, die sie benutzen Unsere eigenen Technologien, die in der freien Welt geschaffen wurden, sind gegen uns. Deshalb glaube ich, dass wir es einfach als selbstverständlich betrachten sollten.
Die Essenz des Problems liegt nur in uns, und die Antworten auf die Fragen liegen in uns, in unserer eigenen Stärke und in unserem eigenen Vertrauen. Ich behaupte, dass intelligente Maschinen uns nicht "obsolet" machen können. Es muss jedoch daran erinnert werden, dass die Zusammenarbeit von Mensch und Computer gewissen Einschränkungen unterliegt, und dies sind größtenteils nur Gerüchte, die zuvor existierten. Wie immer sind dies nur neue Möglichkeiten, die die alte Welt zerstören und eine neue schaffen. Je weiter wir vorankommen, desto besser werden wir uns selbst finden.
Jetzt ist es am ehesten wie eine Bewegung in die Welt der Science-Fiction. Das Paradoxe ist, dass wenn wir vor 50-60 Jahren zurückblicken, wir sehen werden, dass Science Fiction in jenen Tagen absolut positiv war, es war eine Utopie. Dann fand jedoch ein allmählicher Übergang von Utopie zu Dystopie statt, so dass wir nichts mehr über die Zukunft der Menschheit hören wollen.
Dies geschah nicht in einer Nacht. Es gab eine Zeit, in der die Leute entschieden, dass die Erforschung des Weltraums zu riskant war. Dies ist wirklich ein großes Risiko, aber stellen Sie sich vor, dass 1969, als die Amerikaner auf dem Mond landeten, die gesamte Rechenleistung der NASA geringer war als die eines modernen Computergeräts, das in Ihre Tasche passt. Dieses Gerät ist tausendmal leistungsstärker als ein Supercomputer, der vor 40 Jahren existierte. Stellen Sie sich vor, wie viel Rechenleistung Sie in Ihrer Tasche haben! Ich bin mir jedoch nicht sicher, ob das Apple iPhone 7 die gleiche Rechenleistung wie Apollo 7 hat, dh, es kann den gleichen Effekt erzielen.
Maschinen haben uns jedoch viele großartige Erfolge bei der Erforschung des Weltraums oder der Ozeane beschert, und wir müssen verstehen, dass Computer uns die Möglichkeit bieten, große Risiken einzugehen.
Ich möchte meine Rede positiv beenden. Wird dieses positive Bild nicht auf dieser Folie angezeigt? Das Foto in der unteren rechten Ecke ist kein „Photoshop“. Ich habe Terminator 2003 kennengelernt.
Er liebt auch Schach seit seiner Kindheit, aber er hat sich nicht speziell damit befasst, also hat er sehr schnell verloren. Daher war ich sehr überrascht, als er 6 Monate später für den Gouverneur von Kalifornien kandidierte und gewann!
Warum nenne ich diese Bilder positiv? Denn obwohl der alte Arnold in allen Serien außer der ersten immer auf der Seite der Sieger steht und nie müde wird, gegen neue Autos zu kämpfen, sehen wir in der ersten Serie die Kombination, über die ich gesprochen habe - in diesem Fall besiegt eine Person plus eine alte Maschine plus eine perfekte Schnittstelle die neueste ein Auto.
Man kann sagen: "Ja, Maschinen sind stärker als Menschen, weil sie absolut alles berechnen können!" Es geht jedoch nicht darum, dass sie alles berechnen können. Zum Beispiel ist es im Schach technisch möglich, über die mathematische Unendlichkeit der Anzahl möglicher Züge von 10 ^ 45 zu sprechen, was für jeden modernen Computer nicht schwer zu berechnen ist. Im Spiel sind jedoch nicht die Berechnungen wichtig, sondern die Tatsache, dass der Computer der Person voraus ist, da er sich immer an den Regeln orientiert. Und Sie kennen die Auswirkungen dieser Regeln und wissen, warum der Computer aus der großen Anzahl möglicher Züge den besten Zug auswählt.
Aber wenn wir uns dem wirklichen Leben zuwenden, bin ich mir nicht sicher, ob ein Computer immer nützlich sein kann. Schauen wir uns die typischste Situation an: Sie haben einen Computer, der die Einhaltung des Budgets überwacht, Sie sind im Geschäft und werden ein teures Geschenk kaufen. Der Computer wertet den Kauf aus und sagt: "Nein, Sie können sich dieses Ding nicht leisten, weil Sie das Budget überschreiten." Die Maschine hat alles berechnet, aber es gibt eine kleine Nuance - Ihr Kind steht in der Nähe und dieses Geschenk ist für ihn an seinem Geburtstag bestimmt. Sehen Sie, wie sehr sich dadurch die Bedingungen des Problems ändern? Das ändert alles, denn das Kind wartet auf dieses Geschenk.
Ich kann anfangen, diese kleinen Dinge hinzuzufügen, die alles verändern, aber ich glaube nicht, dass sie in die Bedingungen des Problems einbezogen werden können und die richtige Lösung finden. Wir haben viele Regeln, aber wir müssen immer noch Fragen stellen, weil sich die Situation ändert. Dies kann als normale Situation bezeichnet werden. Wenn Sie sich jedoch diese Filme ansehen, können Sie sagen, dass die hier gezeigte Situation dramatischer und außergewöhnlicher ist. Auf dieser Folie sehen Sie eine Einstellung aus Episode V Star Wars: Das Imperium schlägt zurück.
Han Solo lenkt das Schiff direkt durch das Asteroidenfeld, und die Panik der S-3PO berichtet, dass die Überlebenschance auf diesem Feld 1: 3122 beträgt. Han Solo sagt ihm: „Sag mir nie, wie hoch unsere Chancen sind!“ Dies wirft die Frage auf, wer in dieser Situation mehr Recht hat.
Die von S-3PO dargestellte Technik ist absolut richtig, da die Überlebenschance gegen Null geht. Es ist möglich, dass aus der Sicht eines Roboters die Gefangennahme durch imperiale Truppen eine bessere Wahl ist, die eine Person nicht einmal in Betracht zieht, als den Tod in einem Asteroidenfeld. Aber wenn der Computer entscheidet, dass es die beste Option ist, sich dem Imperium zu ergeben, können wir davon ausgehen, dass eine Person überhaupt keine Optionen hat. Es ist sehr wichtig, dass wir in beiden gewöhnlichen und außergewöhnlichen Fällen die Möglichkeit haben, die endgültige Entscheidung zu treffen, und um eine solche Entscheidung zu treffen, ist weiterhin menschliche Führung erforderlich.
Manchmal bedeutet dies, dass Sie sich Computerempfehlungen widersetzen müssen. Die Bedeutung menschlicher Führung besteht nicht darin, die Chancen zu kennen, sondern wirklich wichtige Fragen zu stellen, nicht nur heute oder morgen, sondern auch in ferner Zukunft. Dieser Prozess kann als "menschliche Führung" oder "menschliches Eingreifen" bezeichnet werden, Exposition ohne die Hilfe intelligenter Maschinen. So sollte unser Kurs in diesem Jahrhundert sein.
Die Leute sind manchmal überrascht über meinen Optimismus in Bezug auf intelligente Maschinen, angesichts meiner Erfahrung mit ihnen, aber ich bin wirklich optimistisch. Und ich bin sicher, dass Sie alle gleichermaßen optimistisch in Bezug auf die Zukunft der KI sind. Aber wir müssen uns daran erinnern, dass unsere Technologien agnostisch sind. Dies ist weder gut noch schlecht, sondern kann sowohl für gute als auch für böse Taten verwendet werden. Maschinen sollten intelligenter und leistungsfähiger werden. Und wir Menschen müssen das tun, was nur Menschen tun können - träumen, in vollen Zügen träumen, und dann können wir alle nützlichen Dinge extrahieren, die diese erstaunlichen neuen Werkzeuge in sich tragen.
Wie geplant haben wir noch 10 Minuten Zeit, um Fragen zu beantworten.
Frage: Ist es Ihrer Meinung nach möglich, ein maschinelles Lernsystem zu erstellen, mit dem festgestellt werden kann, welche Bewegungen eher dem menschlichen Spielstil entsprechen?
Kasparov: Erstens erwarten wir vom Computer nicht, dass er uns den ersten Zug und die verbleibenden 17505 Züge mitteilt. Ich denke, wir sollten uns auf das Auto verlassen, um die besten Empfehlungen für einzigartige Bewegungen zu erhalten. Übrigens verwenden hochkarätige Spieler Computer als Leitfaden, um die am besten geeignete Position im Spiel einzunehmen. Ich wiederhole noch einmal - in 9 von 10 Fällen geht die Beurteilung der Situation durch den Computer weit über die Einschätzung hinaus, die eine Person vornehmen kann.
Frage: Stimmen Sie zu, dass echte Intelligenz Wahlfreiheit und Entscheidungsfreiheit erfordert, die nur von einer Person getroffen werden können? Schließlich werden die Deep Blue-Software und andere Computerprogramme von Menschen geschrieben, und wenn Sie Deep Blue spielen, verlieren Sie nicht gegen den Computer, sondern gegen die Programmierer, die dieses Programm geschrieben haben. Meine Frage lautet: Gibt es eine Gefahr durch irgendeine Art von Maschinenintelligenz, solange Computer die Wahlfreiheit haben?
Kasparov: Hier muss ich von der Wissenschaft zur Philosophie übergehen. In Bezug auf Deep Blue ist alles klar - dies ist das Ergebnis vieler menschlicher Arbeit. In den meisten Fällen, auch im Fall von AlphaGo Demis Hassabis, sind dies alles Früchte der menschlichen Intelligenz. Ich weiß nicht, ob Autos Wahlfreiheit haben können, aber ich glaube, dass alles, was wir tun, wenn wir wissen, wie es geht, Autos besser werden. Bei den meisten Dingen wissen wir jedoch nicht, wie wir sie am besten ausführen können, sodass wir oft nicht verstehen können, was passieren wird. Einfach ausgedrückt, wir haben ein Ziel, aber wir wissen nicht, was es ist, und die Rolle der Maschine besteht darin, uns bei der Verwirklichung dieses Ziels zu helfen. Wenn wir also über die freie Wahl von Computern sprechen, sollte es hilfreich sein, uns mit diesem Ziel zu verbinden. Ich denke, dass dies für Computer eine sehr weit entfernte Perspektive ist.
Frage: Was halten Sie von menschlichen Merkmalen wie Mut und Moral und von den Entscheidungen, die künstliche Intelligenz auf dieser Grundlage treffen kann? Was sollte zum Beispiel ein unbemanntes Auto tun - ein Kind treffen oder eine Kollision mit ihm vermeiden, gegen einen Felsen stoßen und seinen Passagier töten?
Kasparov: Dies ist, was Menschen "Gefühle" nennen, sie können nicht quantifiziert werden, weil es eine ganze Reihe verschiedener menschlicher Eigenschaften ist. Wenn wir über Mut sprechen, dann widerspricht diese Eigenschaft immer den Chancen, die beste Option zu wählen. Mut widerspricht wie andere menschliche Gefühle per Definition einer genauen Zählung.
Frage: Herr Kasparov, meine Frage betrifft keine Computer: Was ist in Ihrer Flasche und kann ich es versuchen?
Kasparov: Was meinst du?
Gastgeber: Er fragt, was in Ihrer Tasche ist!
Kasparov: In meiner Tasche? "Kapital"! Dies ist keine Werbung, wenn Sie bemerken, habe ich sie weggeworfen.
Frage: Wer wird Ihrer Meinung nach der nächste Schachweltmeister und hat der junge chinesische Schachspieler Wei Yi die Chance, Karelsen vom Thron des Schachkönigs zu stürzen?
Kasparov: Karelsen ist Spieler Nummer 1, er ist kein Weltmeister, sondern laut Bewertung einfach der beste Schachspieler der Welt. Dieses Jahr wird er 27 Jahre alt, also ist er noch jung, aber für moderne Verhältnisse nicht sehr jung. Ich denke Wei Und jetzt 18 oder 19 Jahre alt. Magnus hat junge Spieler wie die Amerikaner Wesley So und Fabiano Keruana übertroffen, und möglicherweise könnte Wei Yi sein Gegner sein. Um Weltmeister zu werden, braucht man jedoch Talent, es ist nicht notwendig, jung und energisch zu sein, es reicht aus, ein bisschen Glück zu haben. Wenn ich die Frage beantworte, kann ich sagen: Ja, er hat die Chance, Magnus Karelsen zu besiegen.
Frage: Als Sie über deterministische Algorithmen und maschinelles Lernen sprachen, erwähnten Sie die Möglichkeit, Maschinen als Werkzeuge zur Ergänzung unserer Intelligenz einzusetzen. Was können Sie über die Möglichkeit sagen, Ressourcen zu maximieren, bevor eine leistungsstarke KI erstellt wird, oder sogar über das "Einsetzen" des menschlichen Gehirns in einen Computer?
Kasparov: Ich zögere nicht, meine Unwissenheit zuzugeben, wenn ich nicht sicher bin, ob ich die Frage nicht richtig beantworten kann. Ich versuche mein Bestes, um zu verstehen, was das menschliche Gehirn ist, wenn wir es getrennt vom menschlichen Körper betrachten, welche Funktionen es erfüllt. Weil es schwer vorstellbar ist, wie sich das Gehirn getrennt vom Körper verhält. Es mag möglich sein, ein solches Experiment in Zukunft durchzuführen, aber ich bin sicher, dass die Kombination des menschlichen Gehirns, der menschlichen Gefühle und Emotionen mit einem Computer einen „Geist“ bilden wird, der viel effektiver ist als ein extrahiertes und gefrorenes Gehirn, das als mit Neuronen gefülltes Gerät verwendet wird.
Frage: Gibt es einen universellen grundlegenden Ansatz für das Problem, menschliche Arbeitsplätze durch Computer zu ersetzen?
Kasparov: Ich denke, das ist eine sehr wichtige Frage, denn es ist klar, dass wir uns dem Moment nähern, in dem viele Menschen ohne Arbeit bleiben können. Dies ist ein Paradoxon des technologischen Fortschritts: Einerseits verfügen wir über die neuesten Technologien, die der jungen Generation, die sich mit diesen Geräten und Technologien befasst, enorme Wettbewerbsvorteile bieten. Auf der anderen Seite haben wir Fortschritte in der Medizin und in der gesunden Ernährung erzielt, was das menschliche Leben verlängert und den Menschen die Möglichkeit gibt, viele Jahre lang zu arbeiten. In diesem Sinne kann die Generation der 50er, 60er oder sogar 40er Jahre nicht mit der heutigen Jugend konkurrieren. Wir müssen eine Lösung für diese paradoxe Situation finden, in der die Kluft zwischen den Generationen so groß ist. Die historische Erfahrung zeigt, dass eine solche Lücke immer zu einem Urknall führt. Ich meine die Kluft zwischen der bestehenden sozialen Infrastruktur der Gesellschaft und dem technologischen Fortschritt.
Dies ist ein Problem, das die Politiker lieber bis zur nächsten Wahl aufschieben. Niemand möchte darüber sprechen, weil es ein schmerzhaftes Thema ist. Es ist sehr einfach, Geld zu drucken, in der Hoffnung, dass irgendwann in der Zukunft jemand dafür bezahlen wird. In diesem Bereich gibt es viele Paradoxe, zum Beispiel die Anhäufung von Schulden für die Bereitstellung sozialer Garantien für die ältere Generation in der Erwartung, dass die Last der Zahlung dieser Schulden auf die Schultern der jüngeren Generation fällt. Es gibt viele Fragen, auf die ich keine Antworten habe, und viele Fragen, die ich stellen könnte. Ich hoffe, dass AI mir dabei helfen wird.
, , . , , . !
Vielen Dank für Ihren Aufenthalt bei uns. Gefällt dir unser Artikel? Möchten Sie weitere interessante Materialien sehen? Unterstützen Sie uns, indem Sie eine Bestellung
aufgeben oder Ihren Freunden empfehlen, einen
Rabatt von 30% für Habr-Benutzer auf ein einzigartiges Analogon von Einstiegsservern, das wir für Sie erfunden haben: Die ganze Wahrheit über VPS (KVM) E5-2650 v4 (6 Kerne) 10 GB DDR4 240 GB SSD 1 Gbit / s von $ 20 oder wie teilt man den Server? (Optionen sind mit RAID1 und RAID10, bis zu 24 Kernen und bis zu 40 GB DDR4 verfügbar).
Dell R730xd 2 mal günstiger? Nur wir haben
2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2,6 GHz 14C 64 GB DDR4 4 x 960 GB SSD 1 Gbit / s 100 TV von 199 US-Dollar in den Niederlanden! Dell R420 - 2x E5-2430 2,2 GHz 6C 128 GB DDR3 2x960 GB SSD 1 Gbit / s 100 TB - ab 99 US-Dollar! Lesen Sie mehr über
den Aufbau eines Infrastrukturgebäudes. Klasse mit Dell R730xd E5-2650 v4 Servern für 9.000 Euro für einen Cent?