Künstliche Intelligenz wurde für organisatorische Entscheidungen und die öffentliche Verwaltung geschaffen. Er braucht eine menschliche Ethik, sagt Johnny Penn von der Cambridge UniversityKünstliche Intelligenz (KI) ist überall, aber nicht vollständig auf historische Weise erfunden. Um die Auswirkungen der KI auf unser Leben zu verstehen, ist es wichtig, die Umgebung zu bewerten, in der sie geschaffen wurde. Am Ende haben sich Statistik und staatliche Kontrolle seit Hunderten von Jahren Hand in Hand entwickelt.
Betrachten Sie die Informatik. Sein Ursprung kann nicht nur durch analytische Philosophie, reine Mathematik und Alan Turing verfolgt werden, sondern überraschenderweise auch durch die Geschichte der öffentlichen Verwaltung. Im Jahr 2003, The Government Machine: Eine revolutionäre Computergeschichte, beschreibt John Agar vom University College London die Entwicklung des britischen öffentlichen Dienstes, der von 16.000 Mitarbeitern im Jahr 1797 auf 460.000 im Jahr 1999 wuchs. Er bemerkte eine abnormale Ähnlichkeit zwischen der Funktionalität der menschlichen Bürokratie und dem elektronischen Computer. (Er gab zu, dass er nicht sagen konnte, ob diese Beobachtung trivial oder tief war).
Beide Systeme verarbeiteten eine große Menge an Informationen unter Verwendung einer Hierarchie vordefinierter, aber anpassbarer Regeln. Aber einer von ihnen kam vom anderen. Dies zeigte einen wichtigen Zusammenhang zwischen der Organisation sozialer Strukturen von Menschen und digitalen Werkzeugen, die ihnen dienen sollen. Herr Agar verbindet den Ursprung der Informatik mit der Charles Babbage Analytical Engine, die in den 1820er Jahren in Großbritannien entwickelt wurde. Seine Entwicklung wurde von der Regierung subventioniert, was darauf hindeutete, dass sie als Sponsor fungieren würde. Babbages Projekte, so Agar, sollten als "Materialisierung staatlicher Aktivitäten" angesehen werden.
Diese Beziehung zwischen Computersystemen und menschlichen Organisationsstrukturen wiederholt die Geschichte der KI. In den 1930er und 1940er Jahren beschloss Herbert Simon (Bild unten), ein Politikwissenschaftler der University of Chicago, der später an der Carnegie Mellon University lehrte, einen „wissenschaftlichen“ Ansatz zur Grundlage der Führungsstruktur zu entwickeln. Simon hatte zuvor unter der Leitung von Rudolf Karnap, einem Mitglied des Wiener Kreises der logischen Positivisten, studiert. Dies bestätigte seine Überzeugung, dass es bestehenden Theorien an Empirismus mangelt. Seine Dissertation im Jahr 1947 wurde zum Buch „Verwaltungsverhalten“, das als Grundlage für das Verständnis aller Aktivitäten in der Organisation anhand der Entscheidungsmatrix diente.
Sagt SimonEr leistete einen großen Beitrag in vielen wissenschaftlichen Bereichen, nicht nur in Politikwissenschaft und Wirtschaft, sondern auch in Informatik und künstlicher Intelligenz. Er prägte den Begriff "befriedigend" (um zu akzeptieren, was erwünscht ist, anstatt nach dem Optimum zu streben) und entwickelte die Idee der "begrenzten Rationalität", für die er 1978 den Nobelpreis für Wirtschaftswissenschaften erhielt. In den 1950er Jahren war Simon Berater bei der RAND Corporation, einer einflussreichen Denkfabrik, die von der US-Luftwaffe unterstützt wurde.
Bei RAND versuchten Simon und seine beiden Kollegen, der junge Mathematiker Allan Newell und der ehemalige Versicherungsmathematiker J. Clifford Shaw, eine Lösung für menschliche Probleme in Bezug auf die Ausführung einer bestimmten Operation durch einen Computer zu modellieren. Dafür borgte Simon Elemente aus dem System aus, das er im Verwaltungsverhalten entwickelt hatte, um dem Computer beizubringen, wie eine Person zu „denken“. Simon ließ ihn wie eine Gruppe von Menschen denken.
Das Ergebnis der Arbeit von drei Wissenschaftlern war eine virtuelle Maschine namens Logical Theorist, die als erster funktionierender Prototyp künstlicher Intelligenz bezeichnet wurde. Die Ausdrucke des arbeitenden Theoretikers während des Sommerforschungsprojekts 1956 in Dartmouth ließen uns auf künstliche Intelligenz achten, die den Namen gab und den Grundstein für das gesamte wissenschaftliche Gebiet legte. In Notizen von einer Konferenz in Dartmouth schrieb ein Teilnehmer, dass der Theoretiker dazu beigetragen habe, die Angst vor der Finanzierung dieses Forschungsbereichs zu überwinden. Dies war wichtig, da der Finanzierungsfonds für künstliche Intelligenz skeptisch war, dass dieser Forschungsbereich nützlich ist.
Wie hat Simon seine wissenschaftlichen Leistungen gesehen? Ein Jahr nach der Dartmouth-Konferenz präsentierten er und Newell ihre Ergebnisse in der Publikation „Heuristische Problemlösung: Die nächste Bewegung in der Operations Research“. Der Schlüsselausdruck im Titel: "Operations Research" erschien in Großbritannien während des Zweiten Weltkriegs, um wissenschaftliche Prinzipien und Statistiken anzuwenden, um militärische Operationen zu optimieren, und dann für Unternehmenszwecke. Künstliche Intelligenz war fürs Geschäft.
In einer Rede von 1957 vor operierenden Forschern in London bemerkte Simon Frederick Taylor, den Vater der Wissenschaftsmanagementbewegung, und Charles Babbage, seine geistigen Vorgänger. "Physiker und Elektrotechniker hatten nichts mit der Erfindung eines digitalen Computers zu tun", sagte Simon. Der wahre Erfinder war seiner Meinung nach der Ökonom Adam Smith. Er erklärte diese Beziehung: Der französische Bauingenieur Gaspard de Prony beabsichtigte, Logarithmen mit Methoden zu erstellen, die aus Smiths Reichtum der Nationen stammen. Babbage, inspiriert von Prony, wandte diese Vermutung auf mechanische Geräte an. Mitte der 1950er Jahre verwandelte Simon es in Programmcode.
Die Tradition lebt weiter. Viele moderne Systeme der künstlichen Intelligenz ahmen das menschliche Denken weniger nach als vielmehr die weniger begabten Köpfe bürokratischer Institutionen. Unsere Methoden des maschinellen Lernens sind oft so programmiert, dass übermenschliche Proportionen, Geschwindigkeit und Genauigkeit durch Identität, Ehrgeiz oder Moral auf menschlicher Ebene erreicht werden.
Kapitalismus im CodeDiese Linien der Geschichte der künstlichen Intelligenz: Unternehmensentscheidungen, Staatsmacht und Verwendung von Statistiken im Krieg - wurden im Verständnis der künstlichen Intelligenz, die den Menschen zugänglich war, nicht bewahrt.
Stattdessen werden Nachrichten über technische Durchbrüche oder Experten, die Ängste ausdrücken, von Bildern begleitet, wenn nicht in Form eines gut bewaffneten Terminators, dann von Geist, Roboter, Neon-Mikrochips oder absurden mathematischen Gleichungen. Jeder von ihnen ist keine so starke Bestätigung der Autorität der Naturwissenschaften oder der Informatik in Bezug auf beispielsweise "weiche" Wissenschaften, die die Terminologie von Simon, Politikwissenschaft, Management oder sogar Wirtschaft, d. H. Gebiete, für die er nach Stockholm ging, um seinen Nobelpreis zu erhalten.
Vielleicht als Folge dieses falschen Eindrucks wird die öffentliche Debatte bis heute darüber fortgesetzt, welchen Nutzen die Sozialwissenschaften für das Studium der künstlichen Intelligenz haben können, wenn überhaupt. Laut Simon wurde die künstliche Intelligenz selbst in der Sozialwissenschaft geboren.
David Runciman, Politikwissenschaftler an der Universität von Cambridge, argumentierte, um künstliche Intelligenz zu verstehen, müssen wir zunächst verstehen, wie sie in dem kapitalistischen System funktioniert, in das sie eingebettet ist. „Unternehmen sind eine andere Form des künstlichen Denkens. Sie sollen in der Lage sein, selbst Entscheidungen zu treffen“, erklärt er.
„Viele der Ängste, die die Menschen derzeit in Bezug auf die bevorstehende Ära intelligenter Roboter haben, sind dieselben wie seit mehreren hundert Jahren in Bezug auf Unternehmensverbände“, sagt Runciman. Die Sorge ist, dass wir "niemals lernen werden, diese Systeme zu steuern".
Zum Beispiel ging nach einer Ölpest im Jahr 2010, als 11 Menschen starben und der Golf von Mexiko verwüstet wurde, niemand ins Gefängnis. Die Bedrohung, vor der Herr Runciman warnt, besteht darin, dass Methoden der künstlichen Intelligenz, wie Taktiken zur Umgehung der öffentlichen Verantwortung, ungestraft angewendet werden.
Pionierforscher wie Julia Angwin, Virginia Eubanks und Katie O'Neill zeigen heute, wie verschiedene algorithmische Systeme Gewalt verstärken, die Menschenwürde zerstören und grundlegende demokratische Mechanismen wie die Rechenschaftspflicht untergraben, wenn sie verantwortungslos geschaffen werden. Der Schaden sollte nicht beabsichtigt sein; Voreingenommene Datensätze, die zum Trainieren von Vorhersagemodellen verwendet werden, sind ebenfalls nachteilig. In Anbetracht der teuren Arbeitskräfte, die erforderlich sind, um den verursachten Schaden zu identifizieren und zu beseitigen, ist es notwendig, so etwas wie einen „ethischen Dienst“ zu schaffen, der als separate Branche geschaffen wird. Frau O'Neill zum Beispiel hat jetzt ihren eigenen Algorithmus-Überprüfungsdienst gestartet.
In den 1950er Jahren schrieb John McCarthy, einer der ersten Pioniere auf diesem Gebiet, unter dem Begriff „künstliche Intelligenz“ für eine Konferenz in Dartmouth: „Sobald ein erkenntnistheoretisches System programmiert ist und funktioniert, wird nichts anderes ernst genommen. zusätzlich zur Verwaltung intelligenter Programme. “ Aus diesem Grund lautet der ursprüngliche Slogan von DeepMind „Know the mind. Verwenden Sie es, um alles andere zu wissen “, sieht fast imperial aus.
McCarthys Vorschlag war, dass Einfluss, nicht Macht, den wissenschaftlichen Konsens auf seinem Gebiet lösen könnte. DeepMind muss den Intellekt nicht „kennen“ (vorausgesetzt, dies ist überhaupt möglich), sondern nur die Konkurrenz besiegen. Dieser neue Slogan des Unternehmens: „Kennen Sie den Verstand. Verwenden Sie es, um alles andere zu wissen “, schlägt er vor, dass er auch die Notwendigkeit von Diplomatie in einer Ära der totalen Macht der künstlichen Intelligenz anerkennt.
Stephen Cave, Direktor des Levergulm Center for Future Research, enthüllte, dass die Definition von Intelligenz im Laufe der Geschichte als Instrument zur Dominanz verwendet wurde. Aristoteles wandte sich dem „Naturgesetz“ der sozialen Hierarchie zu, um zu erklären, warum Frauen, Sklaven und Tiere intelligenten Menschen untergeordnet sein sollten. Angesichts dieses brutalen Erbes sollten die Richtlinien von Unternehmen und Computeragenturen komplexe Probleme lösen, die sich aus Geschlecht, Sexualität und Kolonialismus in Bezug auf andere persönliche Qualitäten ergeben.
Die Hauptverantwortung der künstlichen Intelligenz besteht darin, dass sie eine umfassende automatisierte Kategorisierung ermöglicht. Zum Beispiel kann maschinelles Lernen verwendet werden, um einen bösartigen Maulwurf von einem gutartigen zu unterscheiden. Diese „Pflicht“ wird zur Bedrohung, wenn es darum geht, die Probleme des Alltags zu lösen. Unvorsichtige Etiketten können belästigen und schädigen, wenn sie falsche Macht beanspruchen. Aus Protest gegen die ungerechten Bezeichnungen, mit denen die Welt „gekannt“ wird, fordern viele junge Menschen heute stolz unerwünschte Kategorisierungen heraus, sei es traditionelles Geschlecht oder Geschlechterpaare.
Maschinen, die wieder nachdenkenFür viele mag es überraschend sein, dass die sozialen, materiellen und politischen Ursachen für den Ursprung der künstlichen Intelligenz nicht gut verstanden sind. In der Tat wurde viel über die Geschichte der künstlichen Intelligenz geschrieben: Simon 1996 und Newell 2000. Die meisten dieser Geschichten unterliegen jedoch einigen Einschränkungen und werden laut Paul Edwards, einem Historiker der Informationstechnologie, „hauptsächlich intellektuell“ betrachtet.
Jede der beiden fast offiziellen Geschichten über künstliche Intelligenz ist eine Gedankengeschichte: „The Machines That Think“ von Pamela McCordack, die nach der ersten Veröffentlichung 1979 „die Vorlage für die meisten nachfolgenden Geschichten erstellt hat“; und Künstliche Intelligenz: Eine aufregende Geschichte von Daniel Crevier, veröffentlicht 1993. Beide Bücher stützten sich hauptsächlich auf detaillierte Interviews mit Schlüsselforschern.
Vielleicht hat deshalb niemand versucht, künstliche Intelligenz in einem breiteren Kontext zu verstehen, einschließlich der Entwicklung der operativen Forschung, der "großen Wissenschaft", der versicherungsmathematischen Wissenschaften und der amerikanischen Militärfinanzierung, wie sie sich seit dem Zweiten Weltkrieg entwickelt hat. Aus diesen Geschichten herausgestrichen, kann KI von ihrem historischen und politischen Kontext getrennt werden.
Ohne diesen Kontext scheint künstliche Intelligenz auch von dem System der Wissenschaften, das sie geschaffen hat, getrennt zu sein. In einem Gespräch mit Fachleuten auf dem Gebiet der operativen Forschung von 1957 stellte Simon die Vielfalt der Vergangenheit in seinem wissenschaftlichen Bereich fest. Er beschrieb den Beitrag der französischen Weber und Jacquardmechaniker sowie von Smith, de Prony, Babbage und seinen Kollegen in den Soft Sciences als eine kollektive „Schuld“, die noch zurückgezahlt werden muss.
Dieses neue Wissen hätte so unerwartet und von so vielen Orten kommen können, dass Simon in seiner Arbeit aufgeregt war - und uns heute vielleicht genauso denken lassen könnte. Die moderne KI kann nicht nur das organisatorische Dogma widerspiegeln, das ihre Geburt charakterisiert hat, sondern auch unsere Menschlichkeit.