Die Entwicklung komplexer künstlicher Intelligenzsysteme im Labor ist eine schwierige Aufgabe. Aber was passiert, wenn solche Systeme in die reale Welt eintreten und mit realen Menschen interagieren? Dies versuchen Forscher herauszufinden, darunter Dr. Fernando Diaz, Senior Research Director bei Microsoft Research Montreal. Heute wird Dr. Diaz seine Gedanken teilen und unsere Fragen zur künstlichen Intelligenz und ihren Auswirkungen auf die Gesellschaft beantworten.
Gemeinsam mit Kollegen versucht Fernando zu verstehen, wie KI-Systeme die Gesellschaft beeinflussen, in die reale Welt gelangen und wie man mit den Folgen umgeht.
Er wird auch darüber sprechen, wie Technologie den Musikgeschmack beeinflussen kann, und erklären, warum es heute so wichtig ist, Studenten in Informatik zu unterrichten, nicht nur Algorithmen, sondern auch ethische Prinzipien.
Das Interview
Wenn ich ein Experiment starte, frage ich mich: Welche Benutzerexperimente gelten als ethisch und welche nicht? Wie weit müssen Menschen darüber informiert werden, dass sie an einem Experiment teilgenommen haben? Wie erkennt und eliminiert Bias-Daten, die von Technologien für maschinelles Lernen verwendet werden? Es kommt zuerst in den Sinn. In den folgenden Jahren werden sich viele andere Fragen stellen, zum Beispiel, wie KI-Systeme so entwickelt werden können, dass der Respekt gegenüber den Benutzern demonstriert wird.
Sie hören den Microsoft Research Podcast. Hier stellen wir Ihnen die fortschrittliche Technologieforschung und die dahinter stehenden Wissenschaftler vor. Ich bin der Gastgeber der Gretchen Huizinga.
Die Entwicklung komplexer künstlicher Intelligenzsysteme im Labor ist eine schwierige Aufgabe. Aber was passiert, wenn solche Systeme in die reale Welt eintreten und mit realen Menschen interagieren? Dies versuchen Forscher wie Dr. Fernando Diaz, Senior Research Director bei Microsoft Research Montreal, herauszufinden. Gemeinsam mit Kollegen versucht Fernando zu verstehen, wie KI-Systeme die Gesellschaft beeinflussen, in die reale Welt gelangen und wie man mit den Folgen umgeht.
Heute wird Dr. Diaz seine Gedanken teilen und unsere Fragen zur künstlichen Intelligenz und ihren Auswirkungen auf die Gesellschaft beantworten. Er wird auch darüber sprechen, wie Technologie den Musikgeschmack beeinflussen kann, und erklären, warum es heute so wichtig ist, Studenten der Informatik nicht nur Algorithmen, sondern auch ethische Prinzipien zu vermitteln. Darüber und vieles mehr - in der neuen Version des Microsoft Research-Podcasts.
Fernando Diaz, willkommen im Podcast.Vielen Dank.
Sie sind Senior Research Director bei Microsoft Research Montreal und arbeiten im Bereich künstliche Intelligenz, Suche und Abruf von Informationen. Sie lernen aber auch die Grundsätze von Fairness, Rechenschaftspflicht, Transparenz und Ethik (Fairness, Rechenschaftspflicht, Transparenz und Ethik, Schicksal). Das heißt, allgemein gesprochen (wir werden später auf Einzelheiten eingehen): Warum wachst du morgens auf? Auf welche ernsten Fragen suchen Sie Antworten, welche wichtigen Probleme möchten Sie lösen?Viele der von uns erstellten Systeme sind sehr erfolgreich. Informationssuche, Websuche, Computer Vision - all diese Technologien wurden über viele Jahre entwickelt. Heute füllen sie aktiv den Massenmarkt und die Menschen beginnen sie jeden Tag zu nutzen. Einige IT-Spezialisten haben jedoch bei der Entwicklung dieser Technologien nicht so überlegt, wie sie sollten: In welchem sozialen Kontext werden sie eingesetzt?
In diesem Fall versuche ich nur zu verstehen, welche sozialen Voraussetzungen für die Erstellung dieser Systeme vorhanden waren und wie sich der soziale Kontext, in dem sie funktionieren, nicht nur auf unsere Indikatoren auswirkt, z. B. auf die Richtigkeit und Vollständigkeit der zurückgegebenen Daten, sondern auch auf die Gesellschaft insgesamt . Es scheint mir, dass dieses Problem für IT-Experten im Vordergrund steht, da viele dieser isoliert entwickelten Technologien erst jetzt auf den Markt kommen.
Als IT-Spezialist haben Sie nach Algorithmen gesucht, um Informationen, maschinelles Lernen und statistische Methoden zu erhalten. In letzter Zeit haben Sie sich jedoch für die Interaktion von Technologien der künstlichen Intelligenz mit der Gesellschaft interessiert, insbesondere für die Folgen ihrer breiten Verbreitung oder, wie manche sagen, ihrer Veröffentlichung. Warum interessieren Sie sich gerade dafür? Was stört dich? Was hat Ihr Interesse an diesem Bereich geweckt?Gute Frage. Zuerst trat ich natürlich in die Magistratur ein und machte einen Abschluss. Ich habe all diese Systeme sozusagen auf abstrakter Ebene studiert und mit statischen Daten experimentiert, die offline erhalten wurden. Kurz nach meinem Abschluss landete ich im industriellen Forschungslabor. Hier habe ich mit Produktionsmitarbeitern gearbeitet, wir waren mit der praktischen Umsetzung der Technologien beschäftigt, die ich an der Universität studiert habe.
Und dann begann ich zu verstehen: Wenn wir diese Algorithmen skalieren und sie realen Benutzern zur Verfügung stellen, sind die meisten im Labor vorgebrachten Grundannahmen in der Realität völlig unanwendbar. Für mich war es eine Art Endkontrolle aller meiner Forschungen, eine Rückkehr zu den Grundprinzipien und ein Versuch zu verstehen, was das Problem ist, wie ich die Ergebnisse genau bewerten und spezifische Indikatoren erzielen kann.
Das heißt, Sie haben bereits in Microsoft Research gearbeitet, sind dann dort abgereist und dann wieder zurückgekehrt. Sie haben in New York angefangen und sind jetzt nach Montreal gezogen. Warum bist du zurück?Nach dem Studium begann ich in Montreal zu forschen und musste aus verschiedenen Gründen dorthin. Als ich dort lebte, wurde mir klar, dass in dieser Stadt - wie in Kanada insgesamt - die Tradition der Forschung auf dem Gebiet der IT und des maschinellen Lernens ziemlich stark ist. Und tief im Inneren wollte ich wirklich immer wieder hierher kommen, um an dieser Arbeit teilzunehmen. Und als ich die Gelegenheit hatte, zum Microsoft Research-Labor in Montreal zurückzukehren, habe ich das gerne genutzt. Besonders wenn man bedenkt, dass das Labor sich voll und ganz mit der Entwicklung künstlicher Intelligenz beschäftigt. In Montreal wurde in diesem Bereich sehr aktiv geforscht, und ich wollte ein Teil davon werden, um meinen Beitrag zu leisten.
Sagen wir ein paar Worte über Montreal. Diese Stadt ist zu einem echten Mekka in allen Bereichen der künstlichen Intelligenz geworden, und das SMR-Labor in Montreal hat eine ganz bestimmte Aufgabe: Maschinen beizubringen, wie Menschen zu lesen, zu denken und zu kommunizieren. Erzählen Sie uns, wie weit Sie auf diesem Weg gekommen sind und wie Ihre eigene Forschung mit der Arbeit des Labors in Montreal korreliert.Ich denke, ein spezielles Labor für das Studium der KI wurde eingerichtet, weil es viele Fragen zur Entwicklung solcher Systeme gab und sie immer noch keine Antworten gefunden haben. Und ich denke, dass dies nicht nur Spezialisten für die Verarbeitung natürlicher Sprachen erfordert, sondern auch Spezialisten für interaktives Lernen oder für die Stimulierung des Lernens. Tatsächlich sollten sie alle eng zusammenarbeiten. Und es scheint mir, dass dies unser Labor wirklich einzigartig macht.
Meine heutige Aufgabe ist es, wenn möglich ins Labor zu kommen, mit Spezialisten zu kommunizieren und ihnen zu sagen, wie sich diese Systeme verhalten können, wenn echte Menschen anfangen, mit ihnen zu interagieren. Wie ich bereits sagte, sind solche Systeme ziemlich einfach, isoliert von der Realität, isoliert zu entwickeln. Wenn jedoch ihre praktische Umsetzung beginnt, stellt sich heraus, dass während der Experimente zu viele Annahmen getroffen wurden. Jetzt bilde ich ein Team, dessen Aufgabe es ist, das Auftreten solcher Fragen zu antizipieren, die Entwicklung des Systems zu optimieren, seine Stabilität zu erhöhen, beispielsweise im Zusammenhang mit Unterschieden zwischen den Personengruppen, mit denen wir interagieren, oder Variationen innerhalb der Wissensbasis, aus denen ich Informationen ziehe.
Welches Team möchten Sie bilden?Ich versuche, eine Art „Schwester“ der FATE-Gruppe zu schaffen, die wir vor einigen Jahren in New York organisiert haben. Wir werden uns auf die sozialen Folgen der Integration künstlicher Intelligenz in die Gesellschaft konzentrieren. Unser Team wird nicht nur Spezialisten auf dem Gebiet der IT umfassen, sondern auch in verwandten Disziplinen, beispielsweise in der Soziologie. Damit IT-Experten die Konsequenzen für die Gesellschaft besser verstehen können, benötigen wir erfahrene Soziologen, Anthropologen usw. Sie werden in der Lage sein, viele nützliche Dinge über solche Dinge zu erzählen, die wir noch nicht bewertet oder berücksichtigt haben.
Ja, lassen Sie uns genauer darüber sprechen. Die Anwendung der FATE-Prinzipien in verschiedenen Forschungen auf dem Gebiet der künstlichen Intelligenz und des maschinellen Lernens ist heute von größter Bedeutung. Wie Sie sagten, liegt der Grund darin, dass nicht alle strittigen Fragen im Labor richtig untersucht werden können. Zusammen mit dem geplanten Ergebnis können völlig unerwartete, schockierende Konsequenzen für die Menschen entstehen. Die Forscher dieser Gemeinschaft haben also unterschiedliche Spezialisierungen und Ausbildungen. Welchen Beitrag leistet jeder Experte zu den Grundsätzen von Ehrlichkeit, Rechenschaftspflicht, Transparenz und Ethik?Ja, Soziologen verstehen die verschiedenen Aspekte der Anwendung von Technologie im Allgemeinen viel besser. Sie kennen die möglichen positiven und negativen Folgen und wissen, wie Menschen auf diese oder andere von uns angebotene Tools reagieren. Fachleute mit juristischer Ausbildung können sich zum politischen Hintergrund der einzelnen Technologien äußern, die entwickelt werden, und helfen uns beispielsweise, das Konzept der „Ehrlichkeit“ besser zu verstehen.
IT-Experten wiederum verstehen die Essenz der zu entwickelnden Systeme besser, können Konzepte wie "Ehrlichkeit" in ein tragfähiges Konzept umsetzen und in das System integrieren. Das Vorhandensein sehr unterschiedlicher Sichtweisen auf dasselbe Problem ist jedoch einfach erforderlich, um Systeme effizienter zu gestalten.
Kehren wir zu dem zurück, was Sie in der Vergangenheit getan haben und woran Sie jetzt weiter arbeiten: Zugriff auf Informationssysteme, Suchmaschinen und Informationsbeschaffung. In dem von Ihnen verfassten Dokument sprechen Sie über das Bestehen einer gewissen Lücke zwischen dem Studium solcher Systeme und ihrer praktischen Umsetzung, geben aber gleichzeitig eine provokative Erklärung ab, dass Bildungseinrichtungen einige Probleme besser bewältigen können als technische Fachleute der Branche. Was sind diese Probleme und warum denkst du so?Betrachten wir die Situation im Bereich der Forschung zum Zugang zu Informationen. Es gibt Wissenschaftler von Bildungseinrichtungen, die viel für das Wohl der Gesellschaft getan haben, aber heute werden viele Studien, beispielsweise im Bereich der Websuche, von großen Suchriesen durchgeführt, die über Daten, Benutzerinformationen usw. verfügen. Und Wissenschaftler haben in den meisten Fällen keinen Zugang zu solchen Daten, einer Plattform für die Durchführung von Experimenten. Daher sind die Forschungsmöglichkeiten eindeutig ungleich.
Und in meinem Artikel schrieb ich, dass die wissenschaftlichen Mitarbeiter von Bildungseinrichtungen nicht über eine große Datenmenge verfügen, aber die Fähigkeit haben, verschiedene Spezialisten anzuziehen, was die Suchriesen nicht können. Die Universität hat Soziologen und Experten in anderen Wissenschaften. Es gibt Lehrer wirtschaftlicher Disziplinen. All diese potenziellen „Forschungspartner“ werden dazu beitragen, das Problem umfassender zu betrachten und es unter verschiedenen Gesichtspunkten zu untersuchen, anstatt auf den einzigen zu stoßen, an dem der Suchriese festhält.
Ich denke, das Erstellen von Datensätzen ist nur eine der Strategien. Ein anderer Ansatz oder eine Art wissenschaftlicher Plattform, auf die Bildungseinrichtungen keinen Zugriff haben, sind Experimente. Ich kann A / B-Tests machen. Sie können kontrollierte Experimente mit einer großen Anzahl von Benutzern einrichten, die im Datensatz nicht verfügbar sind.
Ja es ist wahr.Dennoch scheint es mir wert zu sein, zu untersuchen, wie wir Bildungseinrichtungen tatsächlich Zugang zu unseren Ressourcen für die Durchführung solcher kontrollierter Experimente verschaffen.
Interessant.All dies geschah chaotisch, willkürlich, und es scheint mir, dass genau das ist, worüber wir als Industrieforscher nachdenken müssen: wie wir den Zugang zu solchen Möglichkeiten einfacher und bequemer machen können.
Kommen wir also zu den Daten zurück. Sagen wir ein paar Worte darüber. Experten für maschinelles Lernen waren sich einig, dass „Big Data“ nicht ausreicht - ich sage ausdrücklich „Big Data“ in Anführungszeichen. Unter anderem sind qualitativ hochwertige und objektive Daten erforderlich. Wir wissen, dass all diesen großen Datenmengen ein gewisses Maß an Objektivität fehlt.
Und wir müssen es reparieren. Heutzutage wird viel darüber gesprochen, wie die Objektivität von Daten erhöht werden kann, beispielsweise durch Audits von Suchmaschinen, Algorithmen zur Gewährleistung der Gleichheit und dergleichen. Wie kann man das machen?Einer der Gründe für unsere Besorgnis über die Verzerrung von Daten: Ein auf der Grundlage dieser Daten trainiertes Modell wird während der Bereitstellung verzerrt. Das Wichtigste ist also, feststellen zu können, wie objektiv künstliche Intelligenz funktioniert. Und wenn er voreingenommen handelt, müssen Sie zurückgehen und den Algorithmus neu trainieren oder Einschränkungen hinzufügen, die es Ihnen nicht ermöglichen, die Daten zu voreingenommen zu machen. Meine heutige Arbeit konzentriert sich hauptsächlich auf die Bewertung und Messung.
Wir möchten die Benutzer verstehen, die auf das System zugreifen, verstehen, was sie benötigen, und das System objektiv oder voreingenommen bewerten, wobei zu berücksichtigen ist, wer diese Benutzer sind und zu welcher Bevölkerungsgruppe sie gehören. Dies erfordert umfangreiche Erfahrungen von Spezialisten bei der Informationsbeschaffung, die es seit Beginn dieser Forschung in den 50er Jahren des 20. Jahrhunderts geschafft haben, alle Schätz- und Messalgorithmen zu durchdenken. Auf diese Weise können Sie ein natürliches Gleichgewicht zwischen Prüfung, Bewertung und Informationsbeschaffung finden.
Wie wir bereits gesagt haben, ist Voreingenommenheit ein Schlagwort unter Forschern auf dem Gebiet der Datenverarbeitung und -analyse sowie der künstlichen Intelligenz. Sie sagen jedoch, dass es neben der Voreingenommenheit noch andere soziale Probleme gibt, die angegangen werden müssen. Was sind diese Probleme und wie kann Forschung helfen, sie zu lösen?Ja, ich denke wirklich, dass Voreingenommenheit ein sehr wichtiges Problem ist, aber warum habe ich überhaupt über den sozialen Kontext des Einsatzes künstlicher Intelligenz gesprochen? Weil ich glaube, dass Voreingenommenheit nur eines der sozialen Probleme ist, die wir identifizieren können. Natürlich gibt es noch andere. Offensichtlich hängt einer von ihnen mit Transparenz zusammen. Wie kann ich die vom Algorithmus getroffenen Entscheidungen für Benutzer transparent machen, ihnen das Gefühl geben, die Situation kontrollieren zu können und an der Arbeit des Algorithmus teilnehmen?
Das zweite Problem ist der kulturelle Hintergrund der Algorithmen. Dies alles geschieht beispielsweise im Zusammenhang mit der Auswahl von Empfehlungen für Filme oder Musik. Zum Beispiel erstelle ich ein großes System zur Auswahl von Musikempfehlungen für Benutzer. Was werden die Konsequenzen des Einsatzes dieses Algorithmus für die Kultur sein, wenn ich zum Beispiel weiß, dass es durch Hinzufügen einzelner Interpreten zur Empfehlung möglich ist, den Musikgeschmack einer Person auf eine bestimmte Weise zu formen? Was bedeutet es, langfristig eine Kultur zu schaffen oder zu erhalten?
Es gibt noch einen weiteren Aspekt dieses Problems: Algorithmen zur Auswahl von Musikempfehlungen können erhebliche Auswirkungen auf die Autoren oder Interpreten selbst haben. Als IT-Experte kann ich sagen, dass dies der beste Algorithmus für die Auswahl von Musikempfehlungen ist. Und ich werde es auf den Markt bringen. Wir IT-Experten haben jedoch überhaupt nicht darüber nachgedacht, wie sich dieser Algorithmus auf die Autoren auswirken würde. Für mich persönlich ist das besonders wichtig.
Wie werden Sie dann Studien durchführen, die all dies berücksichtigen?Kehren wir zum Beispiel mit der Auswahl der Musikempfehlungen zurück. Stellen Sie sich vor, Sie stehen in engem Kontakt mit den Musikern und verstehen genau, wie wichtig dies für sie ist. Was wird es für sie sein zu wissen, dass sie vom System ausgeschlossen sind? Wie ist es zu fühlen, dass ihr Leben von einem System zur Auswahl von Empfehlungen bestimmt wird und sie es absolut nicht beeinflussen können? Als IT-Spezialist muss ich mich nur mit Soziologen und Anthropologen, Massenmedienspezialisten, an einen Tisch setzen, um besser zu verstehen, was für eine so bedeutende Bevölkerungsgruppe wie Musiker ist.
Und dann kann ich, ein IT-Experte, mich hinsetzen und darüber nachdenken, wie ich einen Algorithmus erstellen kann, der die Bedürfnisse von Hörern und Musikern erfüllt. Jetzt scheint mir eine solche Formulierung zu simpel zu klingen. Deshalb möchte ich, dass ein Spezialist in anderen Disziplinen mir sagt: "Fernando, weißt du, du hast nicht über dies, dies und das nachgedacht."
Können Sie uns angesichts der Art Ihrer Forschung und der Ergebnisse sagen, worüber wir uns Sorgen machen müssen? Gibt es Dinge, die Sie daran hindern, tief und fest zu schlafen?Persönlich bin ich besorgt darüber, dass viele der in unserer Forschungsgemeinschaft entwickelten Technologien in die Welt hinausgehen und innerhalb weniger Tage oder Wochen in den Massenumlauf gebracht werden. Und dies tun Menschen, die selbst keine Experimente durchgeführt haben. An „offener Wissenschaft“ ist nichts auszusetzen, aber ich denke, wir sollten mehr lernen und die Konsequenzen der Anwendung der Algorithmen besser verstehen, bevor wir sie irgendwo implementieren. Und es stört mich, dass wir sehr schnell immer mehr neue Algorithmen veröffentlichen, die ihre Konsequenzen nicht vollständig einschätzen und verstehen.
Microsoft Research Lab ist bekannt für seine enge Zusammenarbeit mit Bildungseinrichtungen. Und ich weiß, dass Sie der Bildung große Aufmerksamkeit schenken. Lassen Sie uns darüber sprechen, was mit Bildung im Sinne der FATE-Prinzipien passiert - Ehrlichkeit, Rechenschaftspflicht, Transparenz und Ethik. Sagen Sie uns, wie Sie die Zukunft der Bildungsprogramme in diesem Bereich sehen.Wissen Sie, als ich in die Magistratur eintrat ... oder noch früher, als ich an der IT-Fakultät studierte, wurden uns die Grundsätze der Ethik praktisch nicht beigebracht und wir sprachen nicht über die gesellschaftlichen Konsequenzen der Technologien, die wir entwickeln. , , , . , . , .
-, , , , , . , , . , - , . - , , . , , , .
— — . , , , , .
: « , : , — ? , ? , ?». . , , .
, , « ». , , , , . , , . , , . , .Ja , , , , , . , , -. . , , .
, : ? : , , , , . , ?, , … , , . , , . , , , , .
, , . , , , , , — . .
, , , (FATE) IT, .
- .
12 AI-Community «
». .
-, , , « » .
, !
Registrierung