DeepMinds epische Mission, das komplexeste wissenschaftliche Problem zu lösen

DeepMind AI besiegte Chess Grandmasters und Go Champions. Jetzt hat der Gründer und Direktor des Unternehmens, Demis Hassabis, größere Probleme in der realen Welt im Visier, die unser Leben verändern können. Der erste ist die Proteinfaltung.

Demis Hassabis - ein ehemaliges Wunderkind, ein Cambridge-Diplom mit herausragenden Leistungen in zwei Fächern gleichzeitig, fünfmaliger Weltmeister im Bereich intellektueller Spiele , Absolvent des MIT und Harvard, Spieleentwickler, Unternehmer im Jugendalter, Mitbegründer eines DeepMind-Startups, das künstliche Intelligenz entwickelt - trägt einen gelben Helm. Warnweste und Arbeitsstiefel. Er hebt die Hand, blockiert die Augen vor der Sonne und schaut vom Dach des Gebäudes auf Kings Cross über London. In jeder Richtung der Welt verdeckt der Blick von dort auf die in der Frühlingssonne gebadete Hauptstadt praktisch nichts. Hassabis überquert das gepflasterte Dach und schaut mit seinem Telefon nach Norden, um zu sehen, ob er die Stadt Finchley sehen kann, von der aus er aufgewachsen ist. Die Vororte sind hinter den Bäumen von Hampstead Heath verloren, aber er schafft es, den Hang zu untersuchen, der nach Highgate führt, wo er heute mit seiner Familie lebt.

Hier untersucht er den Standort des zukünftigen Hauptsitzes von DeepMind, einem Startup, das er 2010 mit Shane Legg, einem Forscher am University College London, und seinem Freund aus Kindertagen, Mustafa Suleiman, gegründet hat. Jetzt ist dieses Gebäude eine Baustelle, auf der Hämmer, Bohrer und Presslufthammer ständig klappern. Heute arbeiten 180 Bauunternehmer auf der Baustelle, und auf dem Höhepunkt der Bauarbeiten wird sich ihre Zahl auf 500 erhöhen. Dieser Ort, dessen Eröffnung für Mitte 2020 geplant ist, ist im übertragenen und wörtlichen Sinne ein Neuanfang des Unternehmens.

"Unser erstes Büro befand sich am Russell Square. Es war ein kleines Büro für zehn Personen in der obersten Etage eines Stadthauses neben der Londoner Mathematikgemeinschaft", erinnert sich Hassabis, "in dem Turing seine berühmten Vorträge hielt." Alan Turing, ein britischer Computerpionier, ist eine heilige Figur für Hassabis. "Wir bauen auf den Schultern der Giganten", sagt Hassabis und verweist auf andere Schlüsselfiguren der Wissenschaft, "Leonardo da Vinci, John von Neumann", die ebenfalls bedeutende Durchbrüche erzielt haben.

Die Lage des neuen Hauptsitzes - nördlich der Kings Cross Station, an einem Ort, der kürzlich als Nolige Quarter bezeichnet wurde - ist an sich charakteristisch. DeepMind wurde gegründet, als die meisten Londoner Startups dem Zug der Old Street gehorchten. Hassabis und seine Gründungskollegen hatten jedoch andere Pläne: "das Problem der Intelligenz zu lösen" und eine Allzweck-KI (IION) zu entwickeln, die auf verschiedene Aufgaben anwendbar ist. Bisher wurde dieses Problem durch die Entwicklung von Algorithmen gelöst, die in Spielen gewinnen können - Breakout, Schach und Los. Die nächsten Schritte bestehen darin, dieses Schema auf die wissenschaftliche Forschung anzuwenden, um mithilfe der Informatik in komplexe Aufgaben in Chemie, Physik und Biologie einzusteigen.

„Unser Unternehmen konzentriert sich auf Forschung“, sagt der 43-jährige Hassabis. "Wir wollten neben der Universität sitzen", worauf er sich auf das University College London (UKL) bezieht, in dem er für seine Arbeit "Neuronale Prozesse auf der Basis episodischer Erinnerungen" promovierte. "Deshalb sind wir gerne hier, wir sind immer noch nicht weit von der UKL, der britischen Bibliothek, dem Turing Institute und nicht weit vom Imperial College entfernt ..."

Hassabis geht mehrere Stockwerke hinunter und studiert eines der Gebiete, die ihn am meisten interessieren - es wird ein Publikum für Vorträge geben. Er freut sich, die Zeichnungen und Computer-Renderings zu betrachten, wie dieser Raum aussehen wird.

An der nordöstlichen Ecke des Gebäudes erhebt sich sein Blick in einen großen freien Raum auf drei Etagen, in dem sich die Bibliothek befinden wird. An dieser Stelle wird irgendwann ein Objekt erscheinen, das Hassabis am meisten zu sehen scheint: eine riesige Treppe in Form einer Doppelspirale, die jetzt in Teilen zusammengebaut wird. "Ich wollte die Menschen an die Wissenschaft erinnern und sie zu einem Teil dieses Gebäudes machen", sagt er.

Hassabis und seine Mitarbeiter wissen, dass DeepMind für seine Durchbrüche beim maschinellen Lernen und beim tiefen Lernen berühmt wurde. Infolgedessen deckten die Medien Fälle ab, in denen die neuronalen Netze, die mit Algorithmen arbeiteten, Computerspiele perfekt beherrschten, Schachgroßmeister schlugen und Lee Sedol zwangen. Weltmeister in Go - das als das schwierigste Spiel der vom Menschen erfundenen gilt - zu erklären: "Von Anfang an gab es keinen einzigen Moment, in dem ich dachte, ich könnte gewinnen."

In der Vergangenheit zeigten Maschinen, die Spiele mit Menschen spielten, Eigenschaften, die den Algorithmen eindeutig inhärent waren - ihr Spielstil war hart und unnachgiebig. Aber im Go-Wettbewerb schlug der AlphaGo-Algorithmus von DeepMind Sedol so, wie es ein Mensch könnte. Ein seltsamer Schritt - der 37. in der zweiten Folge - ließ das Publikum, das das Spiel live in Seoul sah, nach Luft schnappen und Millionen von Online-Zuschauern verblüffen. Der Algorithmus spielte mit einer solchen Freiheit, die einer Person als Zeichen von Kreativität erscheinen mag.

Hassabis, Suleiman und Legge glauben, dass die ersten neun Jahre des Bestehens von DeepMind von der Notwendigkeit bestimmt wurden, die Bedeutung der Forschung auf dem Gebiet der Ausbildung durch Bestätigung zu beweisen - die Ideen von Systemen mit Agenten, die nicht nur versuchen, die Welt zu modellieren und Muster zu erkennen (wie Deep Learning), sondern auch aktiv Entscheidungen treffen und versuchen, Ihre Ziele zu erreichen. Gleichzeitig werden die nächsten zehn Jahre die Erfolge im Bereich der Spiele bestimmen: Daten und maschinelles Lernen werden zur Lösung der komplexesten Probleme der Wissenschaft eingesetzt. Laut Hassabis werden die nächsten Schritte des Unternehmens darin bestehen, zu verstehen, wie tiefes Lernen dazu beiträgt, verstärktes Lernen zu skalieren, um Probleme der realen Welt zu lösen.

"Das Problem beim Verstärkungslernen war, dass es immer zur Lösung von Spielzeugproblemen und kleinen Gitterwelten verwendet wurde", sagt er. "Es wurde angenommen, dass es nicht auf die falschen, realen Probleme ausgedehnt werden kann - und hier kommt eine Kombination von Methoden ins Spiel."

Für DeepMind ist die Entstehung eines neuen Hauptsitzes ein Symbol für ein neues Kapitel in der Unternehmensgeschichte, ebenso wie es all seine Stärke und Computerleistung in den Versuch steckt, unter anderem zu verstehen, wie die Bausteine ​​des organischen Lebens funktionieren. Auf diese Weise hofft das Unternehmen auf Durchbrüche in der Medizin und anderen Disziplinen, die den Fortschritt in verschiedenen Bereichen der Wissenschaft ernsthaft beeinträchtigen werden. "Unsere Mission sollte eine der interessantesten Reisen in der gesamten Wissenschaft sein", sagt Hassabis. "Wir versuchen, einen Tempel der wissenschaftlichen Bestrebungen zu bauen."


Von links nach rechts: Pravin Shrinivasan, Leiter von DeepMind bei Google; Drew Pervez, Kreativdirektor der Welten; Raya Hadsel, Forscherin. Im unvollendeten Hauptquartier von DeepMind.

Hassabis studierte am University College London und dann am MIT und stellte fest, dass interdisziplinäre Zusammenarbeit ein sehr modisches Thema ist. Er erinnert sich, wie Arbeitskonferenzen unter Beteiligung von Vertretern verschiedener Disziplinen abgehalten wurden - zum Beispiel Neurobiologie, Psychologie, Mathematik und Philosophie. Ein paar Tage gab es Berichte und Debatten, dann kehrten die Wissenschaftler in ihre Abteilungen zurück und waren zuversichtlich, dass sie sich häufiger treffen und Wege zur Zusammenarbeit finden sollten. Und das nächste Treffen fand ein Jahr später statt - Bewerbungen um Stipendien, Ernennungen zu Lehrstellen und die Routine von Forschung und Lehre behinderten die Zusammenarbeit.

„Interdisziplinäre Zusammenarbeit ist schwer zu organisieren“, sagt Hassabis. - Nehmen wir an, wir nehmen zwei weltweit führende Experten für Mathematik und Genetik - sie können offensichtlich gemeinsame Themen haben. Aber wer wird sich bemühen, den Bereich einer anderen Person zu verstehen, ihren Jargon, was ist ihr eigentliches Problem? "

Das Finden der richtigen Fragen, der Gründe für das Fehlen von Antworten und der Hauptzitate, aufgrund derer diese Antworten nicht vorliegen, kann für einen externen Beobachter unkompliziert erscheinen. Aber verschiedene Wissenschaftler, auch auf demselben Gebiet, bewerten ihre Arbeit nicht immer gleich. Forscher finden es äußerst schwierig, anderen Disziplinen einen Mehrwert zu verleihen. Es ist noch schwieriger, häufig gestellte Fragen zu finden, die sie beantworten können.

Der derzeitige Hauptsitz von DeepMind, die zwei Stockwerke des Google-Gebäudes in Kings Cross, hat in den letzten Jahren immer mehr Mitarbeiter eingestellt. Nur im Bereich der KI-Forschung verfügt das Unternehmen über sechs bis sieben verschiedene Disziplinen und stellt im Rahmen der Erweiterung des Klassenangebots Spezialisten für Mathematik, Physik, Neurobiologie, Physiologie, Biologie und Philosophie ein.

„Einige der interessantesten Bereiche der Wissenschaft liegen zwischen klassischen Bereichen, an den Schnittstellen verschiedener Forschungsthemen“, sagt Hassabi. - Bei der Erstellung von DeepMind habe ich versucht, „vereinende Menschen“ zu finden, Weltklasse-Spezialisten in verschiedenen Bereichen, deren kreativer Ansatz dazu beiträgt, nach Analogien und Gemeinsamkeiten in verschiedenen Bereichen zu suchen. Wenn dies geschieht, gibt es im Allgemeinen Magie. “

Einer dieser vereinenden Menschen ist Pashmit Koli. Der frühere Microsoft Research Director leitet das Wissenschaftsteam von DeepMind. In KI-Kreisen wird viel über das mögliche Ende des „Winters der KI“ - eine Zeit ohne greifbare Fortschritte - Mitte des letzten Jahrzehnts gesprochen. Das gleiche Bewegungsgefühl gilt für die Aufgabe, Proteine ​​zu falten , die Wissenschaft, die Form dessen vorherzusagen, was Biologen als Bausteine ​​des Lebens betrachten.

Coley stellte ein Team von Strukturbiologen, Experten für maschinelles Lernen und Physikern zusammen, um dieses Problem anzugehen, das als eines der wichtigsten Probleme in der Wissenschaft anerkannt ist. Proteine ​​liegen dem Leben aller Säugetiere zugrunde - sie machen einen großen Teil der Struktur und Funktion von Geweben und Organen auf molekularer Ebene aus. Jedes besteht aus Aminosäuren, aus denen die Kette besteht. Ihre Sequenz bestimmt die Form des Proteins, die seine Funktion bestimmt.

„Proteine ​​sind die erstaunlichsten Maschinen, die jemals für die Bewegung von Atomen im Nanobereich entwickelt wurden, und sie drehen die Chemie oft um einige Größenordnungen effizienter als alles, was wir getan haben“, sagt John Jumper, Forscher für Proteinfaltung bei DeepMind. "Und sie sind auch irgendwie unerklärlich, diese selbstmontierten Maschinen."

Proteine ​​verwenden Atome auf einer Angström-Skala [10 - 10 m oder 100 pm / ca. trans.], [veraltete] Längeneinheiten, die zehn Milliarden Mal kleiner als ein Meter sind. Ein tieferes Verständnis dieses Mechanismus würde es Wissenschaftlern ermöglichen, die Strukturbiologie besser zu verstehen. Zum Beispiel sind Proteine ​​für fast alles, was in der Zelle passiert, notwendig, und eine falsche Proteinfaltung wird als wichtiger Faktor für das Auftreten von Krankheiten wie Parkinson, Alzheimer und Diabetes angesehen.

„Wenn wir natürliche Proteine ​​herausfinden können, können wir unsere eigenen herstellen“, sagt Jumper. "Die Frage ist, diese komplexe mikroskopische Welt sehr sorgfältig zu studieren."

Die weit verbreitete Verbreitung von Genomdaten hat DeepMind zu einem attraktiven Proteinfaltungsrätsel gemacht. Seit 2006 hat der Empfang, die Speicherung, die Verteilung und die Analyse von DNA-Daten stark zugenommen. Forscher schätzen, dass bis 2025 zwei Milliarden Genome analysiert werden, was 40 Exabyte Speicherplatz erfordert.

"Unter dem Gesichtspunkt des tiefen Lernens ist dies eine interessante Aufgabe, da die Menschen nach einer enormen Menge an Ressourcen und Zeit eine so erstaunliche Sammlung von Proteinen gesammelt haben, dass wir bereits herausgefunden haben", sagte Jumper.

Fortschritte sind im Gange, aber Wissenschaftler warnen uns vor der enormen Vielfalt innerhalb dieses Problems. Der herausragende amerikanische Molekularbiologe Cyrus Levintal stellte fest, dass es über das Alter des Universums hinaus einige Zeit dauern würde, alle möglichen Konfigurationen eines typischen Proteins auf der Suche nach der richtigen dreidimensionalen Struktur zu sortieren. "Der Suchraum ist riesig", sagt Rick Evans, ein Forscher bei DeepMind. "Mehr als in go."

Ein Meilenstein auf dem Weg zum Erlernen der Proteinfaltung wurde jedoch im Dezember 2018 beim CASP-Wettbewerb (Critical Assessment of Protein Structure Prediction Techniques) in Cancun, Mexiko, erreicht. Dieser Wettbewerb findet alle zwei Jahre statt, um einen unvoreingenommenen Blick auf die Fortschritte in diesem Bereich zu werfen. Ziel der konkurrierenden Wissenschaftlerteams ist es, anhand von Aminosäuresequenzen die Struktur von Proteinen vorherzusagen, deren dreidimensionale Form bereits bekannt ist, aber noch nicht veröffentlicht wurde. Eine unabhängige Kommission bewertet die Vorhersagen.

Das DeepMind-Proteinfaltungsteam nahm an dem Wettbewerb teil, um den in den letzten zwei Jahren entwickelten neuen AlphaFold-Algorithmus zu testen. In den Monaten vor dem Wettbewerb schickten die Organisatoren Datensätze an die Teammitglieder von King Cross und gaben ihre Vorhersagen zurück, ohne das Endergebnis zu kennen. Insgesamt mussten sie die Struktur von neunzig Proteinen vorhersagen - in einigen Fällen wurden die bereits bekannten Proteine ​​verwendet, um darauf basierende Vorhersagen zu treffen, während andere von Grund auf neu durchdacht werden mussten. Kurz vor der Konferenz erhielten sie Wettbewerbsergebnisse: Im Durchschnitt waren die AlphaFold-Vorhersagen genauer als bei jedem anderen Team. Nach einigen Schätzungen ist DeepMind der Konkurrenz deutlich voraus. Für Proteine, deren Struktur von Grund auf neu modelliert wurde - und es gab 43 von 90 -, machte AlphaFold die genauesten Vorhersagen für 25 Proteine. Dies ist überraschend viel im Vergleich zum Zweitplatzierten, das es geschafft hat, nur drei Strukturen korrekt vorherzusagen.


Banddiagramm, eine schematische dreidimensionale Darstellung der Struktur eines Proteins, das gemäß den Vorhersagen des AlphaFold-Algorithmus für die CASP13-Konkurrenz zu einer dreidimensionalen Struktur gefaltet wurde

Mohammed Al Quraishi, ein Forscher des Laboratoriums für Systempharmakologie und der Abteilung für Systembiologie an der Harvard Medical School, nahm an dem Wettbewerb teil und lernte den in DeepMind verwendeten Ansatz kennen, bevor die Ergebnisse veröffentlicht wurden. "Als ich den Lebenslauf der Arbeit las, dachte ich nicht, dass es etwas völlig Neues war", sagt er. "Ich habe beschlossen, dass sie ganz gut abschneiden sollen, aber ich habe nicht erwartet, dass sie so gut abschneiden."

Al Quraishi sagt, dass dieser Ansatz dem Ansatz anderer Labors ähnlich war, aber der DeepMind-Prozess zeichnete sich durch die Tatsache aus, dass sie "bessere Leistungen erbringen" könnten. Er verweist auf die Stärken des DeepMind-Teams im technischen Bereich.

"Ich denke, dass sie besser arbeiten können als Gruppen, die aus Wissenschaftlern bestehen, da letztere dazu neigen, ihre Arbeit geheim zu halten", sagt al-Quraishi. "Und obwohl alle Ideen, die DeepMind in ihren Algorithmus aufgenommen hat, bereits existierten und verschiedene Leute versuchten, sie separat anzuwenden, ahnte niemand, sie zusammenzubringen."

Al Quraishi zieht Parallelen zur wissenschaftlichen Gemeinschaft im Bereich des maschinellen Lernens, woraus sich in den letzten Jahren Unternehmen wie Google Brain, DeepMind und Facebook ergeben haben. Sie verfügen über effizientere Organisationsstrukturen, große Belohnungen und Rechenressourcen, die an Universitäten nicht immer vorhanden sind.

„Communitys für maschinelles Lernen haben dies in den letzten 4 bis 5 Jahren wirklich erlebt“, sagt er. "Die Computerbiologie wird erst jetzt mit dieser neuen Realität beherrscht."

Er wird von der Erklärung der Gründer von DeepMind zum Verkauf von Google im Januar 2014 bestätigt. Das Volumen des Google-Computernetzwerks wird es dem Unternehmen ermöglichen, die Forschung viel schneller voranzutreiben, als wenn es auf natürliche Weise wachsen würde, und ein Scheck über 400 Millionen Pfund würde es dem Startup ermöglichen, erstklassige Spezialisten einzustellen. Hassabis beschreibt eine Suchstrategie für Personen, die für bestimmte Forschungsbereiche als geeignet gelten. "Wir haben einen Entwicklungsplan, aus dem hervorgeht, welche Forschungsbereiche aus der KI oder den Neurowissenschaften wichtig sein werden", sagt er. "Und dann machen wir uns auf die Suche und finden die beste Person der Welt, die auch kulturell für uns geeignet ist."

„In den Bereichen, in denen DeepMind die Welt verändern kann, scheint die Proteinfaltung ein guter Anfang zu sein. Dies ist eine sehr genau definierte Aufgabe. Sie enthält nützliche Daten und kann im Prinzip als Aufgabe in der Informatik betrachtet werden“, sagt Al Quraishi. - In anderen Bereichen der Biologie wird dieser Ansatz wahrscheinlich nicht funktionieren. Dort ist alles viel weniger ordentlich. Daher glaube ich nicht, dass der Erfolg von DeepMind auf dem Gebiet der Proteinfaltung automatisch auf andere Forschungsbereiche übertragen werden kann. "


DeepMind-Mitarbeiter auf dem Dach des Google-Büros von Kings Cross

DeepMind ist aktiv am Produktmanagement eines Forschungsunternehmens beteiligt. Alle sechs Monate studieren Führungskräfte Prioritäten, organisieren einige Projekte neu und inspirieren Teams - insbesondere Ingenieure -, von einem Bereich in einen anderen zu wechseln. Disziplinen mischen sich ständig und absichtlich. Viele Projekte des Unternehmens dauern länger als sechs Monate - normalerweise zwei bis vier Jahre. Während sich DeepMind auf die Forschung konzentriert, ist das Unternehmen jetzt eine Abteilung von Alphabet, der Muttergesellschaft von Google, und die viertteuerste der Welt. Und wenn Londoner Wissenschaftler von dem Unternehmen langfristige und fortschrittliche Forschung erwarten, erwarten Direktoren von Mountain View in Kalifornien natürlich eine Kapitalrendite.

« , Google Alphabet, – , Google Alphabet , DeepMind – , , », — . DeepMind Google , , , . , WaveNet, , , , Google, Android Google Home, Google.

« , — . – , , . – ».

, «?», . , ( – ), , , , , , , – , , .

300- , SoftBank – , – « DeepMind ». , , -, ( ). , , , 2010- – , , , , , , , – .

DeepMind -, . , , « ». , , « », .

« , — . – , , , , , , , , : ' '».

– , , , . , , , . . , , , , , .

2019 , . « , , — . – – . , 18 , 1970-. , – – ».

, « »: , , . 2018 Nesta, 50 – , . , « R&D. , 3,2% ; ». Deloitte , R&D , 10,1% 2010 1,9% 2018.

« , , — . – ? , , , - – . . – , ».


,

– , , , . – , – – DeepMind. « , , — . – , , , . . , ».

, , . – , , , , . , 19:40, , « », - 22:30 4:00-4:30.

« , — . – , . , , , . . , , , - , , ».

. – -- – « , . , ». : , ; . « - , . , ».

, 50% . 2018 , , 18 Intel , Kleiner, Caulfield, Perkins and Byers – – Coursera. – , 20 , , 6. , DeepMind « », « », .

«, , — . – , - DeepMind , -. , . , . , , , DeepMind, , ».




, . . , 11 , .

12 . – , – , , , . , , . , , . .

« , — . – 12 , , , , , ».

– , 30-40 – . , . , – .

« , — . – . . . . , 12 ».

, . , , . , , , , , . « , », — .

, -, DeepMind , . « , . », — . , , , , . , , , – . « , , , , », — .

, . , « », , Macintosh – – . DeepMind , , , , , , , , .

« , , , - , , — . – , , ».