💡 🐨 🥛 Wie Elon Musk und Y Combinator die Tyrannei der Computer stoppen wollen 👨🏿 🖊️ 🛷

Sie werden eine neue Organisation, OpenAI , finanzieren, um die fortschrittlichsten Arten künstlicher Intelligenz zu schaffen - und dann die Ergebnisse an die Gesellschaft weitergeben.

Als ob der KI-Entwicklungsbereich keine Konkurrenz hätte - Giganten wie Google, Apple, Facebook, Microsoft und sogar Autohersteller wie Toyota versuchen bereits, Forscher einzustellen -, kann er einen neuen Spieler begrüßen, aber keinen einfachen. Dies ist eine gemeinnützige Organisation OpenAI, deren Ankündigung im Dezember 2015 erfolgte und die verspricht, alle Ergebnisse der Arbeit öffentlich zugänglich zu machen, einschließlich Patente - alles, um eine Dystopie zu vermeiden, bei der Computer in der Intelligenz der Menschen überlegen sind.

Die Finanzierung erfolgt durch eine Gruppe von Tech-Prominenten, darunter Elon Musk, Reid Hoffman, Peter Thiel, Jessica Livingston und Amazon Web Services. Zusammen planen sie, langfristig eine Milliarde Dollar auszugeben. Musk und Sam Altman, Direktor von Y Combinator, dessen Forschungsteam ebenfalls einen Beitrag leisten wird (und Altman wird ebenfalls teilnehmen), werden das Projekt leiten.

Es ist nicht überraschend, in dieser Serie die Maske zu sehen, die dafür bekannt ist, KI zu kritisieren. Aber was ist mit Y Combinator? Der Startup-Inkubator, der vor 10 Jahren als Sommerprojekt eröffnet wurde, finanzierte sechs Startups. Der Inkubator zahlte den Gründern ihre Gehälter und gab wertvolle Ratschläge zur Geschäftsentwicklung. Seitdem hat YC fast tausend Unternehmen geholfen, darunter Dropbox, Airbnb und Stripe, und kürzlich eine Forschungsabteilung eröffnet. In den letzten zwei Jahren wurde es von Altman verwaltet, dessen Unternehmen Loopt 2005 gegründet wurde, und 2012 für 43,2 Millionen US-Dollar verkauft. Obwohl YC und Altman OpenAI gegründet haben und Altman auch der Direktor dieses Unternehmens ist, ist es immer noch unabhängig.

Im Wesentlichen ist OpenAI ein Forschungslabor, das entwickelt wurde, um großen Unternehmen entgegenzuwirken, damit sie nicht zu große Gewinne erzielen können, wenn sie KI zur Verfügung haben. Das Projekt wird auch gegen Regierungen arbeiten, die KI einsetzen können, um ihre Macht zu stärken und die Bürger zu unterdrücken. Das klingt zu idealistisch, aber das Team hat bereits einige ernsthafte Leute eingestellt, darunter den ehemaligen Stripe-Cheftechnologen Greg Brockman (er wird Technologiechef bei OpenAI) und die Weltklasseforscherin Ilya Sackweaver, die für Google arbeitete und zu einer berühmten Gruppe junger Wissenschaftler gehörte. studierte unter der Leitung des Pioniers für neuronale Netze Jeff Hinton in Toronto. Er wird der Direktor der Forschungsabteilung sein. Weitere offene Stellen wurden von talentierten jungen Menschen besetzt, deren Lebensläufe Arbeiten in Forschungsprojekten, Facebook AI und DeepMind beinhalteten.Das Unternehmen verfügt auch über Starberater, darunter Alan Kay, einer der Pioniere der Informatik.

Die Projektleiter sprachen mit mir über ihn und seine Bestrebungen. Zuerst sprach ich mit Altman und dann wieder mit ihm in Begleitung von Musk und Brockman. Ich habe sie zu einem Artikel zusammengefasst.

Wie hat alles angefangen?

Sam Altman: Wir haben das YC-Forschungsteam vor anderthalb Monaten ins Leben gerufen, aber Gedanken über KI haben mich schon lange besucht, genau wie Ilona. Wenn Sie über die wichtigsten Dinge für die Zukunft der ganzen Welt nachdenken, dann wird meiner Meinung nach eine gute KI zu den wichtigsten gehören. Deshalb erstellen wir OpenAI. Die Organisation wird versuchen, menschenfreundliche KIs zu entwickeln. Und da es gemeinnützig ist, wird es der ganzen Welt gehören.

Elon Musk: Wie Sie wissen, hatte ich einige Zeit Angst vor KI. Und ich habe viel mit Sam und Reid [Hoffman], Peter Thiel und anderen gesprochen. Und wir dachten: "Gibt es keine Möglichkeit, die Wahrscheinlichkeit, dass KI uns Vorteile bringt, sicherzustellen oder zumindest zu erhöhen?" Als Ergebnis der Gespräche entschieden wir, dass die Organisation einer NPO eine gute Idee wäre. Und wir werden uns sehr ernsthaft auf die Sicherheit konzentrieren.

Aus philosophischer Sicht gibt es ein wichtiges Element: Wir wollen eine weit verbreitete KI. Es gibt zwei Meinungen - brauchen wir viel KI oder nur ein paar KI? Wir finden viel besser. Und es ist gut, wenn sie als Erweiterung des Willens des Menschen dargestellt werden können.

Der Wille des Menschen?

IM: KI als Erweiterung Ihrer selbst, das heißt, dass eine Person in Symbiose mit KI lebt, anstatt dass KI eine Art zentrale Intelligenz ist. Was halten Sie beispielsweise von Anwendungen im Internet - Sie haben E-Mail, soziale Netzwerke und mobile Anwendungen. Sie machen dich im Wesentlichen zum Übermenschen, und du betrachtest sie nicht als etwas Separates, du betrachtest sie als eine Erweiterung deiner selbst. In dem Maße, in dem wir KI in diese Richtung leiten können, möchten wir dies tun. Und wir haben viele gleichgesinnte Ingenieure und KI-Forscher gefunden, die dasselbe denken.

SA: Wir glauben, dass es besser ist, wenn sich die KI dahingehend entwickelt, die individuellen Fähigkeiten zu verbessern und die Menschen zu verbessern, und für alle zugänglich ist und nicht die einzige Einheit ist, die millionenfach mächtiger ist als eine Person. Da unser Unternehmen gemeinnützig ist, werden wir uns nicht darauf konzentrieren, die Aktionäre zu bereichern, sondern darauf, was für die Zukunft der Menschheit am besten ist.

Aber teilt Google die Entwicklung nicht mit der Öffentlichkeit, wie es gerade beim maschinellen Lernen geschehen ist?

SA: Sie teilen viele Entwicklungen. Mit der Zeit stellt sich jedoch die Frage, was Google zu teilen beschließt, wenn wir uns der Überschreitung der menschlichen Intelligenz nähern.

Und Ihr Projekt wird die menschliche Intelligenz nicht übertreffen?

SA: Ich denke schon, aber es wird ein Open-Source-Projekt sein, das jeder, nicht nur Google, nutzen kann. Alles, was die Gruppe entwickeln wird, steht allen zur Verfügung. Wenn Sie diese Arbeit auf Ihre Bedürfnisse zuschneiden, müssen Sie die Ergebnisse nicht teilen. Aber alles, was wir tun, wird jedem zur Verfügung stehen.

Und wenn ich Dr. Evil bin und es für meine eigenen Zwecke benutze? Hilfst du mir nicht dabei?

IM: Dies ist eine wunderbare Frage, und wir haben viel darüber gestritten.

SA: Es gibt viele Gedanken zu diesem Thema. So wie Menschen die Menschheit vor den bösen Ärzten schützen, indem es viele von ihnen gibt und es nur einen Arzt gibt, denken wir, dass unser Schema funktionieren wird, bei dem viele KIs gegen seltene Bösewichte arbeiten werden. Dieses Schema ist besser als das, in dem es eine KI gibt, mächtiger als alles andere. Wenn dieses eine mächtige Ding von den Spulen fliegt oder Dr. Evil die Kontrolle darüber übernimmt und er nichts zu widersprechen hat, wird dies ein großes Problem sein.

Kontrollieren Sie, was aus OpenAI entsteht?

SA: Wir wollen im Laufe der Zeit ein Kontrollsystem aufbauen. Bisher werden es nur ich und Ilon sein. Die Entwicklung einer echten KI ist noch sehr weit entfernt. Ich denke, wir werden genug Zeit haben, um eine Kontrollfunktion zu erstellen.

IM: Ich werde ungefähr einmal pro Woche oder zwei Wochen einige Zeit mit dem Projektteam im Büro verbringen, mich über Updates informieren, meine Meinung äußern und verstehen, wie weit die KI fortgeschritten ist und wie nahe wir etwas Gefährlichem gekommen sind. Persönlich werde ich die Sicherheit sehr ernst nehmen. Ich bin sehr besorgt darüber. Und wenn wir einige riskante Momente entdecken, werden wir dies sicherlich öffentlich machen.

Hast du Beispiele für böse KI?

SA: Es gibt eine Menge Science-Fiction, deren Implementierung noch viele Jahre alt ist - Terminator und dergleichen. Ich mache mir keine Sorgen über das baldige Auftreten solcher Dinge. Aber was für ein Problem wird es zu bewältigen geben - obwohl dies keine böse KI ist -, so ist es mit der allgemeinen Automatisierung und dem Verschwinden von Arbeitsplätzen. Ein weiteres Beispiel für böse KI ist, wenn Menschen über intelligente Programme sprechen, die Computer besser knacken als Menschen. Und das passiert schon.

Beginnen Sie mit einem vorgefertigten System?

SA: Nein. Die Studie wird wie in jedem Labor beginnen und für eine sehr lange Zeit wie ein Labor aussehen. Bisher weiß niemand, wie man es baut. Wir haben bereits acht Forscher, und mehrere weitere werden innerhalb weniger Monate dem Projekt beitreten. Bisher werden sie im YC-Büro arbeiten, und wenn sie wachsen, werden sie zu ihren eigenen wechseln. Sie werden mit Ideen spielen und Software schreiben, um zu verstehen, ob sie den aktuellen Stand der Technik zur Erstellung von KI entwickeln können.

Werden Menschen von außerhalb daran teilnehmen?

SA: Natürlich. Einer der Vorteile eines offenen Programms besteht darin, dass Labors mit jedem zusammenarbeiten können, da sie Informationen frei austauschen können. Es ist sehr schwierig, mit Google-Mitarbeitern zu arbeiten, da sie unzählige Datenschutzbeschränkungen haben.

Sam, wenn OpenAI im YC-Büro arbeitet, haben Ihre Startups dann Zugriff auf die Ergebnisse ihrer Arbeit?

SA: Wenn OpenAI zu einer interessanten Technologie entwickelt wurde und jeder diese kostenlos nutzen kann, ist dies ein Plus für jedes Technologieunternehmen. Aber nicht mehr als das. Wir werden unsere Startups jedoch bitten, so viele Informationen bereitzustellen, wie sie für OpenAI für angemessen halten. Und Ilon wird auch darüber nachdenken, was Tesla und SpaceX gemeinsam nutzen können.

Und welche Informationen können zum Beispiel geteilt werden?

SA: Viele Dinge. Zum Beispiel können alle Daten mit Reddit ein großartiger Trainingssatz sein. Tesla Robot Mobile-Schulungsvideos werden ebenfalls sehr wertvoll sein. Riesige Datenmengen sind sehr wichtig. Menschen werden schlauer, wenn sie Bücher lesen. Aber eine Person wird nur schlauer, wenn sie das Buch selbst liest. Und wenn beispielsweise eine der Tesla-Maschinen etwas über die neue Situation herausfindet, profitieren automatisch alle Tesla-Maschinen davon.

IM: Im Allgemeinen haben wir nicht viele spezifische Pläne, da das Unternehmen erst in den Kinderschuhen steckt. Sie ist in einem Embryo-Zustand. Aber Tesla hat wirklich viele Daten aus der realen Welt, dank der Millionen von Meilen, die sich jeden Tag aus unserer Flotte ansammeln. Tesla verfügt möglicherweise über mehr reale Daten als jedes andere Unternehmen auf der Welt.

KI erfordert ernsthafte Rechenleistung. Welche Infrastruktur werden Sie haben?

CA: Wir arbeiten mit Amazon Web Services zusammen. Sie bieten ein Projekt mit sehr großer Kapazität.

Und das Projekt wird eine Milliarde bekommen?

IM: Wir können sagen, dass es noch mehr geben wird. Wir geben keine genauen Angebote, aber große Einnahmen werden von all diesen Personen kommen.

Wie spät ist es?

SA: Für die Zeit, die zum Erstellen eines Systems benötigt wird. Wir werden sparen, aber das Projekt ist anscheinend auf Jahrzehnte ausgelegt und wird eine Menge Leute und Ausrüstung erfordern.

Und Gewinn ist für Sie nicht obligatorisch?

IM: Genau. Diese Investition ist nicht gewinnbringend. Es ist möglich, dass in Zukunft Einnahmen anfallen, so wie es das gemeinnützige Forschungsinstitut in Stanford erhält. In Zukunft werden möglicherweise Einnahmen anfallen, aber es wird keine Gewinne geben, die die Miteigentümer bereichern, es wird keine Aktien und andere Dinge geben. Wir denken schon.

Ilon, Sie haben zuvor aus den gleichen Gründen in die DeepMind AI-Firma investiert, wie ich es verstehe - um die Entwicklung der KI zu verfolgen. Und dann hat Google sie gekauft. Ist das der zweite Versuch?

IM: Ich bin eigentlich kein Investor im üblichen Sinne. Ich tätige keine Investitionen mit dem Ziel, finanziellen Gewinn zu erzielen. Ich investiere in Unternehmen, die ich mitgestalte, und ich kann einem Freund helfen, entweder um ein Ziel zu erreichen, an das ich glaube, oder wegen dem, was mich begeistert. Ich diversifiziere nicht außerhalb meines Unternehmens in materieller Hinsicht. Aber meine "Investitionen" in DeepMind wurden gemacht, um die KI und ihre Überwachung besser zu verstehen, wenn Sie möchten.

Werden Sie mit den besten Wissenschaftlern konkurrieren, die bei DeepMind, Facebook oder Microsoft arbeiten können?

SA: Die Einstellung läuft bisher gut. Die Forscher sind sehr zufrieden mit der Freiheit, Offenheit und der Möglichkeit, ihre Arbeit zu teilen, die sich nicht in einem regulären Produktionslabor befindet. Wir haben ein so hochqualitatives Erstteam zusammengestellt, dass der Rest nur für die gemeinsame Arbeit mit ihnen zusammenkommt. Und ich denke auch, dass unsere Mission, Vision und Struktur bei Menschen sehr beliebt sind.

Wie viele Forscher brauchen Sie? Hunderte?

SA: Vielleicht.

Kehren wir zu der Idee zurück, dass der allgemeine Einsatz von KI uns vor den negativen Folgen bewahren kann. Besteht das Risiko, dass eine bessere Zugänglichkeit Ihre potenzielle Gefahr erhöht?

SA: Ich möchte all die Stunden zählen, die ich damit verbracht habe, mit Ilon und anderen darüber zu streiten. Und immer noch 100% bin ich mir nicht sicher. Sie können nicht 100% sicher sein? Probieren Sie jedoch verschiedene Entwicklungsoptionen aus. Sicherheit durch Geheimhaltung bei Technologie hat selten funktioniert. Wenn jemand es alleine schafft, wie kann man entscheiden, wer Google, die amerikanische Regierung, die chinesische Regierung, ISIS [Organisation in Russland verboten - ca. Übersetzung] oder wer hat? Es gibt viele Bösewichte auf der Welt, aber die Menschheit gedeiht. Und was passiert, wenn sich herausstellt, dass einer von ihnen milliardenfach mächtiger ist als der andere?

IM: Ich denke, dass die beste Verteidigung gegen den unsachgemäßen Einsatz von KI darin besteht, so viele Menschen wie möglich zu bewaffnen. Wenn jeder über KI-Fähigkeiten verfügt, wird es keine so kleine Gruppe von Menschen geben, die über Superkräfte verfügen.

Ilon, Sie sind Direktor in zwei Unternehmen und sitzen im Verwaltungsrat des dritten. Es scheint, dass Sie nicht viel Freizeit haben, um sich seinem neuen Projekt zu widmen.

IM: Das stimmt. Aber die Sicherheit der KI hat mich zu lange beschäftigt, und ich denke, dass ich aus Gründen meiner Seelenruhe einen Deal mit mir selbst machen werde.

Wie Elon Musk und Y Combinator die Tyrannei der Computer stoppen wollen