L'intelligence artificielle a été créée pour la prise de décision organisationnelle et l'administration publique; il a besoin d'une éthique humaine, dit johnny penn de l'université de cambridgeL'intelligence artificielle (IA) est partout, mais elle n'est pas entièrement inventée de manière historique. Pour comprendre l'impact de l'IA sur nos vies, il est important d'évaluer l'environnement dans lequel elle a été créée. En fin de compte, les statistiques et le contrôle de l'État ont évolué main dans la main pendant des centaines d'années.
Pensez à l'informatique. Son origine peut être retracée non seulement par la philosophie analytique, les mathématiques pures et Alan Turing, mais aussi, de manière surprenante, par l'histoire de l'administration publique. En 2003, The Government Machine: A Revolutionary Computer History, John Agar de University College London établit le développement de la fonction publique britannique, passant de 16 000 employés en 1797 à 460 000 en 1999. Il a remarqué une similitude anormale entre la fonctionnalité de la bureaucratie humaine et l'ordinateur électronique. (Il a admis qu'il ne pouvait pas dire si cette observation était triviale ou profonde).
Les deux systèmes ont traité une grande quantité d'informations à l'aide d'une hiérarchie de règles prédéfinies mais adaptables. Mais l'un d'eux venait de l'autre. Cela a montré un lien important entre l'organisation des structures sociales des personnes et les outils numériques conçus pour les servir. M. Agar relie l'origine même de l'informatique au moteur analytique Charles Babbage, développé en Grande-Bretagne dans les années 1820. Son développement a été subventionné par le gouvernement, suggérant qu'il en serait le sponsor. Les projets de Babbage, note M. Agar, doivent être considérés comme «la matérialisation de l'activité de l'État».
Cette relation entre les systèmes informatiques et les structures organisationnelles humaines répète l'histoire de l'IA. Dans les années 1930 et 1940, Herbert Simon (photo ci-dessous), un politologue de l'Université de Chicago qui a ensuite enseigné à l'Université Carnegie Mellon, a décidé de développer une approche «scientifique» des fondements de la structure managériale. Simon avait auparavant étudié sous la direction de Rudolf Karnap, membre du Vienna Circle of Logical Positivists. Cela a confirmé sa conviction que les théories existantes manquent d'empirisme. Sa thèse de doctorat en 1947 est devenue le livre «Comportement administratif», qui a servi de base pour comprendre toutes les activités de l'organisation à l'aide de la matrice de décision.
Simon ditIl a apporté une énorme contribution à de nombreux domaines scientifiques, non seulement en science politique et en économie, mais aussi en informatique et en intelligence artificielle. Il a inventé le terme "satisfaisant" (accepter ce qui est souhaité plutôt que de s'efforcer d'optimaliser) et a développé l'idée de "rationalité limitée", pour laquelle il a reçu le prix Nobel d'économie en 1978. Mais dans les années 1950, Simon était consultant chez RAND Corporation, un think tank influent soutenu par l'US Air Force.
Chez RAND, Simon et ses deux collègues: le jeune mathématicien Allan Newell et l'ancien actuaire d'assurance J. Clifford Shaw, ont tenté de modéliser une solution aux problèmes humains en termes de la façon dont un ordinateur effectue une opération spécifique. Pour cela, Simon a emprunté des éléments du système qu'il a développé dans Administrative Behaviour afin d'enseigner à l'ordinateur à «penser» comme une personne, Simon lui a fait penser comme un groupe de personnes.
Le produit du travail de trois scientifiques était une machine virtuelle, appelée Theorical Theorist, nommée le premier prototype fonctionnel de l'intelligence artificielle. Les impressions du théoricien qui travaillait pendant le projet de recherche d'été de 1956 à Dartmouth nous ont fait prêter attention à l'intelligence artificielle, qui a donné son nom et jeté les bases de tout le domaine scientifique. Dans des notes d'une conférence à Dartmouth, un participant a écrit que le théoricien avait aidé à surmonter la peur de financer ce domaine de recherche. C'était important parce que le fonds de financement de l'intelligence artificielle était sceptique quant à l'utilité de ce domaine de recherche.
Comment Simon considérait-il ses réalisations scientifiques? Un an après la conférence de Dartmouth, lui et Newell ont présenté leurs résultats dans la publication «Résolution de problèmes heuristiques: le prochain mouvement de la recherche opérationnelle». L'expression clé dans le titre: «recherche opérationnelle» est apparue au Royaume-Uni pendant la Seconde Guerre mondiale pour appliquer des principes scientifiques et des statistiques afin d'optimiser les opérations militaires, puis à des fins d'entreprise. L'intelligence artificielle était destinée aux entreprises.
Dans un discours aux praticiens des chercheurs opérationnels à Londres en 1957, Simon a remarqué Frederick Taylor, le père du mouvement de gestion des sciences, et Charles Babbage, ses prédécesseurs mentaux. "Les physiciens et les ingénieurs électriciens n'avaient rien à voir avec l'invention d'un ordinateur numérique", a déclaré Simon. Le véritable inventeur, selon lui, était l'économiste Adam Smith. Il a expliqué cette relation: l'ingénieur civil français Gaspard de Prony avait l'intention de créer des logarithmes en utilisant des méthodes créées à partir de Smith’s Wealth of Nations. Babbage, inspiré par Prony, a appliqué cette conjecture aux équipements mécaniques. Au milieu des années 50, Simon l'a transformé en code de programme.
La tradition perdure. De nombreux systèmes d'intelligence artificielle modernes n'imitent pas tant la pensée humaine que les esprits les moins doués des institutions bureaucratiques; nos méthodes d'apprentissage automatique sont souvent programmées pour atteindre des proportions, une vitesse et une précision surhumaines grâce à l'identité, l'ambition ou la moralité au niveau humain.
Le capitalisme dans le codeCes lignes de l'histoire de l'intelligence artificielle: la prise de décision des entreprises, le pouvoir de l'État et l'utilisation des statistiques dans la guerre - n'étaient pas préservées dans la compréhension de l'intelligence artificielle accessible au peuple.
Au lieu de cela, les nouvelles de percées techniques ou d'experts exprimant des préoccupations sont accompagnées d'images, sinon sous la forme d'un Terminator bien armé, puis de l'esprit, d'un robot, de micropuces au néon ou d'équations mathématiques absurdes. Chacun d'eux n'est pas une confirmation aussi forte de l'autorité des sciences naturelles ou de l'informatique en ce qui concerne, par exemple, les sciences "douces", empruntant la terminologie de Simon, la science politique, la gestion ou même l'économie, c'est-à-dire domaines pour lesquels il est allé à Stockholm pour recevoir son prix Nobel.
Peut-être en raison de cette impression erronée, le débat public se poursuit encore aujourd'hui sur les avantages, le cas échéant, que les sciences sociales peuvent apporter à l'étude de l'intelligence artificielle. Selon Simon, l'intelligence artificielle elle-même est née dans les sciences sociales.
David Runciman, politologue à l'Université de Cambridge, a fait valoir que pour comprendre l'intelligence artificielle, nous devons d'abord comprendre comment elle fonctionne dans le système capitaliste dans lequel elle est intégrée. «Les entreprises sont une autre forme de pensée artificielle, elles sont conçues pour pouvoir prendre des décisions par elles-mêmes», explique-t-il.
«Beaucoup des craintes que les gens éprouvent actuellement à propos de la prochaine ère des robots intelligents sont les mêmes que celles qu'ils éprouvent à propos des associations d'entreprises depuis plusieurs centaines d'années», explique M. Runciman. Le souci est que «nous ne pourrons jamais apprendre à contrôler ces systèmes».
Par exemple, après une marée noire en 2010, lorsque 11 personnes sont mortes et que le golfe du Mexique a été dévasté, personne n'a été emprisonné. La menace que M. Runciman met en garde est que les méthodes d'intelligence artificielle, comme les tactiques pour échapper à la responsabilité publique, seront utilisées en toute impunité.
Aujourd'hui, des chercheurs pionniers tels que Julia Angwin, Virginia Eubanks et Katie O'Neill montrent comment divers systèmes algorithmiques renforcent la violence, détruisent la dignité humaine et sapent les mécanismes démocratiques de base, tels que la responsabilité, s'ils sont créés de manière irresponsable. Le préjudice ne doit pas être intentionnel; les ensembles de données biaisés utilisés pour former des modèles prédictifs sont également préjudiciables. Compte tenu de la main-d'œuvre coûteuse nécessaire pour identifier et éliminer les dommages causés, il est nécessaire de créer quelque chose comme un «service éthique» créé en tant qu'industrie distincte. Mme O'Neill, par exemple, a maintenant lancé son propre service de vérification d'algorithmes.
Dans les années 1950, inventant le terme «intelligence artificielle» pour une conférence à Dartmouth, John McCarthy, l'un des premiers pionniers dans ce domaine, écrivait dans ses notes: «Dès qu'un système épistémologique est programmé et fonctionne, rien d'autre ne sera pris au sérieux, en plus de gérer des programmes intelligents. » Pour cette raison, le slogan initial de DeepMind «Connaissez l'esprit. Utilisez-le pour tout savoir », semble presque impérial.
La suggestion de McCarthy était que l'influence, et non le pouvoir, pourrait résoudre le consensus scientifique dans son domaine. DeepMind n'a pas besoin de «connaître» l'intellect (à condition que cela soit même possible), il a juste besoin de vaincre la concurrence. Ce nouveau slogan de l'entreprise: «Connaissez l'esprit. Utilisez-le pour tout savoir », suggère qu'il reconnaît également le besoin de diplomatie à une époque de puissance totale de l'intelligence artificielle.
Stephen Cave, directeur du Levergulm Center for Future Research, a révélé que la définition de l'intelligence a été utilisée à travers l'histoire comme un outil de domination. Aristote s'est tourné vers la «loi naturelle» de la hiérarchie sociale pour expliquer pourquoi les femmes, les esclaves et les animaux devraient être subordonnés aux personnes intelligentes. Compte tenu de cet héritage brutal, les politiques des entreprises et des agences informatiques devraient résoudre les problèmes complexes posés par le sexe, la sexualité et le colonialisme en ce qui concerne les autres qualités personnelles.
La principale responsabilité de l'intelligence artificielle est qu'elle fournit une catégorisation automatisée à grande échelle. Par exemple, l'apprentissage automatique peut être utilisé pour distinguer une taupe maligne d'une taupe bénigne. Ce «devoir» devient une menace lorsqu'il vise à résoudre les problèmes de la vie quotidienne. Les étiquettes imprudentes peuvent harceler et nuire lorsqu'elles revendiquent un faux pouvoir. Pour protester contre les étiquettes injustes qui sont utilisées pour «connaître» le monde, de nombreux jeunes contestent fièrement aujourd'hui les catégorisations indésirables, qu'il s'agisse de genre traditionnel ou de paires de genre.
Des machines qui repensentIl peut être surprenant pour beaucoup que les causes sociales, matérielles et politiques de l'origine de l'intelligence artificielle ne soient pas bien comprises. En effet, beaucoup a été écrit sur l'histoire de l'intelligence artificielle: Simon en 1996 et Newell en 2000. La plupart de ces histoires, cependant, respectent certaines limites, les considérant «principalement en termes intellectuels», selon Paul Edwards, un historien des technologies de l'information.
Chacune des deux histoires presque officielles d'intelligence artificielle est une histoire de pensées: «Les machines qui pensent» de Pamela McCordack, qui «a créé le modèle pour la plupart des histoires suivantes» après la première publication en 1979; and Artificial Intelligence: An Exciting Story par Daniel Crevier, publié en 1993. Les deux livres s'appuyaient principalement sur des entretiens détaillés avec des chercheurs clés.
En conséquence, personne n'a peut-être cherché à comprendre l'intelligence artificielle dans un contexte plus large, y compris le développement de la recherche opérationnelle, des "grandes sciences", des sciences actuarielles et du financement militaire américain, tel qu'il s'est développé depuis la Seconde Guerre mondiale. Rayée de ces histoires, l'IA peut être séparée de son contexte historique et politique.
Sans ce contexte, l'intelligence artificielle peut également sembler dissociée du système des sciences qui l'a créée. Lors d'une conversation en 1957 avec des professionnels de la recherche opérationnelle, Simon a souligné la diversité du passé dans son domaine de recherche. Il a décrit l'apport des tisserands et mécaniciens jacquard français, ainsi que de Smith, de Prony, Babbage et de ses collègues des sciences douces, comme une «dette» collective qui reste à rembourser.
Cette nouvelle connaissance aurait pu arriver de manière si inattendue, et de tant d'endroits, qui a excité Simon dans son travail - et pourrait nous faire penser de la même manière aujourd'hui. L'IA moderne peut non seulement refléter le dogme organisationnel qui a caractérisé sa naissance, mais aussi refléter notre humanité.