Si pour certaines personnes, l'avenir de l'IA semble être une sombre dystopie ou une lutte pour la survie, ils devraient peut-être trier leurs idées sur la nature du pouvoir et de la soumission.
C'est ce que dit Stephen Cave, chercheur principal au Leverhulm Center for the Study of Future Intelligence de l'Université de Cambridge. Dans son essai, il suggère d'explorer l'histoire de la supériorité intellectuelle - et d'abandonner ce faux concept.
Le monde progressiste de la seconde moitié du XXe siècle était dominé par la fascination pour le concept d'intelligence artificielle.
Ils ont réfléchi aux capacités mentales, en ont discuté et ont développé de nouvelles approches pour les mesurer. Des dizaines de milliers d'adolescents et de demandeurs d'emploi dans les principaux pays européens ont réussi (et passent) un test de QI.
Même alors, l'idée même que l'intelligence peut être mesurée comme la pression artérielle ou la taille du pied n'était pas nouvelle. Mais plus ancienne encore est notre idée que le niveau d'intelligence peut déterminer la position d'une personne dans la vie.
Cette compréhension traverse toute l'histoire de la pensée occidentale, de la philosophie de Platon aux croyances des politiciens modernes.
Le renseignement est politique
Tout au long de l'histoire, le monde occidental a déterminé en termes d'intelligence ce qu'une personne peut faire pour la société. Par exemple, traditionnellement (pour la majorité de la population), nous attribuons un niveau élevé de capacités mentales aux médecins, aux ingénieurs et aux hauts
fonctionnaires du pays .
Nous pensions que le niveau d'intelligence nous donne le droit de contrôler le sort des autres: nous avons colonisé, asservi, privé nos parties génitales et détruit ceux que nous considérions comme moins intelligents et développés.
Notre attitude envers l'intelligence a commencé à changer rapidement avec le développement des technologies d'intelligence artificielle. Au cours des dernières décennies, nous avons constaté des progrès significatifs dans ce domaine et semblons être au bord de percées scientifiques considérables. À en juger par le nombre de memeplexes et de blagues sur le sujet de l'intelligence artificielle, nous sommes à la fois ravis de ce qui se passe et en même temps assez effrayés. Et pour comprendre ce qui nous fait si peur et pourquoi nous sommes si indifférents au sujet des capacités mentales, il est nécessaire de le considérer d'un point de vue historique et politique et de retracer comment la pensée philosophique a fait de l'intelligence un outil pour justifier des conquêtes sans fin.
Le fil historique du stéréotype
Platon a fait de l'esprit une nécessité des puissantsLa première réflexion a commencé à argumenter Platon. Dans ses écrits, il attribue une valeur particulière au processus de réflexion, arguant que la vie dénuée de sens ne vaut pas un sou. Il convient de rappeler que Platon vivait dans un monde où le mythe et la conscience mystique constituaient un environnement naturel pour l'esprit humain. Par conséquent, sa déclaration selon laquelle on peut connaître le monde par la pensée était extrêmement audacieuse et attrayante à l'époque.
En annonçant dans son ouvrage «L'État» que seul un philosophe peut gouverner l'État, car lui seul peut arriver à une compréhension correcte des choses, Platon a donné naissance à l'idée de méritocratie intellectuelle - l'idée que seuls les plus intelligents peuvent contrôler les autres.
L'idée était alors révolutionnaire: oui, Athènes avait déjà expérimenté la démocratie comme forme de gouvernement. Mais les exigences pour les dirigeants étaient très vagues: il suffisait d'être un citoyen masculin - il n'était pas question du niveau des capacités mentales. Et dans d'autres régions, les sièges au gouvernement étaient répartis soit par appartenance à l'élite (aristocratie), soit par nomination par providence divine (théocratie), soit simplement par niveau de force (tyrannie).
La fresque "L'école d'Athènes", où Leonardo et Bramante sont représentés avec Pythagore et Aristote.Aristote est venu avec le pouvoir des hommes
L'idée novatrice de Platon a atterri avec succès sur le sol fertile des grands esprits de l'époque, et son disciple Aristote n'a pas fait exception. Il diffère de l'enseignant par une vision plus pratique et systématique du monde, il utilise donc «l'élément rationnel de l'âme» pour créer le concept d'une hiérarchie sociale naturelle. Dans sa politique, il déclare:
"Après tout, la domination et la soumission sont non seulement nécessaires, mais aussi utiles, et dès la naissance, certaines créatures diffèrent [dans le sens où certaines sont comme destinées] à la soumission, d'autres à la domination."
Sur cette base, les hommes instruits dominent tout naturellement les femmes, les hommes de travail physique et les esclaves. En dessous de cette hiérarchie, seuls les animaux sont si dénués de raison qu'ils ont simplement besoin de quelqu'un pour les contrôler.
Nous n'avons même pas remarqué comment nous sommes passés de l'idée platonicienne de la primauté de l'élément rationnel au concept aristotélicien, qui présuppose le pouvoir tout à fait naturel de penser les hommes.Ce train d'injustice intellectuelle fonctionne toujours au carburant, alimenté par deux hommes barbus il y a 2000 ans. Le philosophe australien moderne Val Plumwood soutient que les deux géants de la philosophie grecque, armés d'une série de dualismes douteux, parviennent toujours à influencer nos idées sur l'esprit.
Pour le fait que nous percevions les relations de domination par le droit des plus intelligents comme complètement naturelles, nous devons remercier Aristote.
Descartes a jeté les bases morales de la destruction de la planète
La philosophie occidentale a atteint son apogée avec les œuvres du grand dualiste René Descartes.
Si Aristote a reconnu aux animaux au moins un certain droit à une activité minimale et primitive, mais toujours mentale, alors Descartes leur a complètement refusé ce droit. La conscience, croyait-il, est l'avantage exclusif de l'homme.
La philosophie de Descartes reflétait le millénaire de l'idéologie chrétienne: elle conférait à l'esprit la propriété de l'âme, une étincelle divine, héritée uniquement des chanceux créés à l'image et à la ressemblance de Dieu.
Kant a justifié la politique coloniale
L'idée que l'esprit définit une personne a traversé les Lumières. Emmanuel Kant - peut-être le philosophe le plus influent de la morale de l'Antiquité - croyait que la volonté morale n'est propre qu'aux êtres pensants: les "personnes" et les "choses en soi". Les créatures non pensantes, à son avis, n'ont «qu'une valeur relative comme moyen et sont donc appelées choses». Avec eux, vous pouvez faire ce que nous voulons.
Selon Kant, un être rationnel a de la dignité et une créature déraisonnable et non pensante est incapable.Ces inférences sont devenues par la suite la pierre angulaire de la politique coloniale.
La logique est la suivante: les blancs ne sont pas moins intelligents; ils ne peuvent pas contrôler indépendamment eux-mêmes et leurs territoires. Et ce n'est pas seulement une étape justifiée, mais aussi le devoir moral de toute personne blanche - d'entrer dans son pays et de détruire sa culture.
La même construction logique fonctionnait parfaitement pour les femmes jugées trop frivoles et fragiles pour partager les privilèges d'une personne rationnelle.
Francis Galton est le père de la psychométrie, de la pseudoscience dans la mesure de l'esprit et le cousin de Charles Darwin. Inspiré à son époque par l'origine des espèces, Galton a créé le concept selon lequel les capacités mentales sont héritées et peuvent être améliorées par sélection.
Galton ne se limitait pas aux calculs théoriques: au cours des décennies suivantes, plus de 20 000 femmes en Californie seulement ont été stérilisées après avoir reçu de mauvais résultats des tests de Galton
Alors pourquoi avons-nous peur des robots intelligents?
Revenons à la question posée au début de l'article: pourquoi la possibilité de l'apparition de l'intelligence artificielle nous fait-elle peur? Est-ce parce que nous sommes habitués au fait que les plus intelligents dominent toujours et que nous ne voulons certainement pas être de l'autre côté des barricades?
Les scénaristes et réalisateurs spéculent depuis longtemps sur le thème du soulèvement des machines.
S'il est naturel pour nous de penser que les peaux les plus intelligentes sont supprimées et qu'une nation plus développée peut en coloniser une autre, alors nous avons tout naturellement peur de l'esclavage potentiel des machines ultra-intelligentes. L'intelligence artificielle représente une menace existentielle pour nous.
Pour nous, c'est pour les hommes européens blancs. Des milliards d'autres personnes ont traversé des siècles de soumission, et beaucoup continuent de combattre les agresseurs à ce jour, donc pour eux la menace de l'esclavage par l'intelligence artificielle reste une histoire fantastique.
Les hommes européens blancs sont tellement habitués à être au sommet par le droit de propriété que l'apparition d'un rival possible en nous répond avec une horreur chthonique (irrationnelle).
Je ne prétends pas que les craintes de l'émergence d'une forte intelligence artificielle soient sans fondement. Il existe de réelles menaces, mais elles n'ont rien à voir avec la colonisation de la civilisation humaine par des robots.
Au lieu de penser à ce que nous devons faire avec l'intelligence artificielle, il vaut mieux penser à ce que nous faisons avec nous-mêmes.
Si l'intelligence artificielle peut jamais nous nuire, cela arrivera presque certainement non pas à cause du désir de l'IA de conquérir l'humanité, mais à cause de notre propre stupidité, qui manquera une erreur. Ce n'est pas l'intelligence artificielle qui a peur, mais la stupidité naturelle.
Si la société était convaincue que la personne la plus sage - pas celle qui a pris le pouvoir, mais celle qui cherche à résoudre les conflits - aurait-elle plus peur des robots intelligents que nous?