De nombreux scientifiques et ingénieurs ont des attentes déraisonnablement élevées pour l'intelligence artificielle. Pour une raison quelconque, ils croient que les machines à penser, une fois créées, résoudront immédiatement bon nombre de nos problèmes et mèneront à la singularité technologique. Cependant, cette façon de penser est une erreur.
Remarque Je n'utilise pas délibérément le mot «intelligence», car cela signifie généralement la capacité d'analyser les problèmes et de prendre des décisions sur la base de modèles, sans comprendre le processus. Dans la valeur indiquée, l'intellect est inhérent au programme Maple, qui résout des équations complexes, et des abeilles capables d'apprentissage et de comportement complexe, et de nombreux autres animaux. En retour, j'utiliserai le mot «esprit» pour parler de machines à penser au niveau humain.Avons-nous vraiment besoin de l'intelligence artificielle? J'en ai besoin. Hélas, l'intellect «nu» résout une classe trop étroite de problèmes, et parfois il est très inefficace. De plus - l'intellect «nu» n'est pas en mesure de formuler le problème lui-même! Par exemple, prenez un jeu d'échecs, - la machine
ne résout
pas le problème de manière
créative , en dépensant des ressources considérables et en utilisant divers algorithmes intégrés par les ingénieurs. L'homme résout le problème de manière
créative - il génère de nouvelles solutions et utilise beaucoup moins de ressources!
1
Revenons à notre problème. Très probablement, la première intelligence artificielle sera créée sur le modèle de l'humain. Car nous ne savons toujours pas comment fonctionne la conscience, et la seule façon dont nous pouvons encore construire l'intelligence artificielle est de copier l'homme. En d'autres termes, les machines à penser que nous avons créées modéliseront le cerveau humain. Et cette circonstance très importante impose de sérieuses limites à nos attentes.
Le fait est que nous prévoyons de définir
des tâches
créatives pour l'esprit artificiel. Nous attendons de lui des percées en médecine et en biologie, en physique et cosmologie, en sociologie et en psychologie. De plus, nous pensons qu'il pourra écrire des livres, composer de la musique, peindre des images. En d'autres termes, nous pensons qu'il sera capable de
créer de nouvelles connaissances (au sens large - y compris l'art et la science). Mais la plupart des adultes
normaux en bonne santé ne font rien de tel! Ils sont vraiment normaux, car la majorité détermine la norme.
Créée sur la base d'une moyenne humaine, l'intelligence artificielle n'en diffère pas, sauf pour des ressources potentiellement illimitées. Et il est tout à fait possible que l'esprit artificiel, possédant la conscience, ne veuille tout simplement pas faire tout cela à l'avance avec l'œuvre d'art assignée. Après tout, l'homme moderne a des ressources illimitées par rapport à son ancêtre de l'âge de pierre. Il peut recevoir toutes les informations accumulées par l'humanité en quelques secondes. Mais en même temps, peu de gens en ont besoin, à l'exception des scientifiques et des ingénieurs. La plupart de l'industrie de l'information travaille pour le divertissement. Cela a toujours été et sera toujours, quelle que soit la quantité de ressources disponibles (à condition que la nature humaine reste la même).
Ainsi, la créativité est une anomalie plutôt qu'une norme. Bien sûr, la consommation d'informations est en soi un processus créatif qui nécessite une certaine créativité, comme d'ailleurs la vie dans le monde moderne. Néanmoins, une telle créativité au niveau des ménages est nécessaire à la survie et n'est pas très similaire à l'étude de l'Univers ou à l'écriture de musique.
Par exemple, l'avènement des tutoriels musicaux a facilité la vie des musiciens en herbe, mais
n'a pas augmenté leur nombre. Si une personne n'est pas intéressée par la musique, elle ne s'en occupera pas, quelle que soit la facilité du processus. De même, quelles que soient les ressources informatiques dont dispose une machine à penser, si elle
ne s'intéresse pas au problème du vieillissement humain, elle ne le résoudra pas.
Cependant, plusieurs idées ont été exprimées sur la manière de contourner ces difficultés. Par exemple, vous pouvez
programmer l' intelligence artificielle pour qu'elle résout les problèmes dont nous avons besoin. Cependant, jusqu'à ce que nous découvrions comment notre esprit et tout esprit fonctionnent, jusqu'à ce que nous comprenions quels changements doivent être apportés au cerveau à un faible niveau afin de susciter l'intérêt pour la musique, nous ne serons pas en mesure d'influencer notre cerveau et, par conséquent, son modèle informatique.
Eh bien, bien, diraient les opposants, nous ne pouvons toujours pas programmer l'esprit directement, mais nous pouvons
éduquer la personnalité dont nous avons besoin. Ceci, bien sûr, est une idée plus réaliste, mais toujours pas mise en œuvre dans le cadre des connaissances actuelles. (De plus, l'éducation elle-même est une forme de programmation de haut niveau!)
2
Il existe un problème tout aussi important dont on ne parle généralement pas - mais en vain. Le problème est la nature humaine. L'homme est un animal, et pour un animal, il est normal de recevoir des plaisirs physiques et de se multiplier. Et tous ceux qui passent leur vie à créer de nouvelles connaissances, au lieu de gagner beaucoup d'argent avec le moins d'efforts et d'obtenir plus de plaisir physique, peuvent être considérés comme «fous». En psychiatrie, il n'est pas considéré comme normal lorsqu'une idée capture l'esprit humain pendant de nombreuses années. Et beaucoup de gens talentueux sont vraiment fous ou ont d'autres problèmes mentaux. Bien sûr, ces personnes apprécient leur processus créatif, le problème est que cela peut être dangereux pour leur esprit ou leur vie. De plus, les personnes créatives elles-mêmes sont parfois dangereuses pour les autres.
Toute notre civilisation est construite par des gens "fous"! Tout autour de nous a été créé par des scientifiques et des ingénieurs, des artistes et des musiciens, des écrivains et d'autres fous créatifs qui se sont consacrés à changer le monde, parfois au détriment de leur vie! Et pourtant, ils sont plus ou moins habitués aux «génies fous», et il est plus facile de contrôler une personne vulnérable qu’une machine, et confieriez-vous votre vie à un puissant esprit artificiel si vous avez un doute sur sa santé mentale?
Il est tout à fait possible que dans un avenir proche, nous apprenions à construire
des machines à penser vraiment
créatives , mais ne seront-elles pas aussi folles que leurs prototypes humains? Et les problèmes mentaux ne font-ils pas partie intégrante de tout processus créatif? Questions auxquelles nous ne connaissons pas encore la réponse.
3
En d'autres termes, l'esprit artificiel aura les mêmes problèmes que l'esprit humain. Comment les éviter? Nous avons besoin d'une
théorie universelle de l'esprit expliquant les principes de fonctionnement de tout esprit - ou du moins humain -. Ne connaissant que les principes de l'esprit, nous pouvons concevoir des machines intelligentes, non pas par copie aveugle, non par essais et erreurs, mais par conception ciblée. Nous prendrons l'esprit humain comme base et l'améliorerons ou même le repenserons à nouveau. Avec cette théorie, nous pouvons améliorer nos esprits.
Nous avons besoin d'une percée en philosophie, nous avons besoin d'une théorie qui explique comment le cerveau crée des explications.
David Deutsch, physicien et philosophe britanniqueComparez le premier avion maladroit et les avions de ligne actuels ou les F-35 militaires! L'ingénierie aérospatiale actuelle est un exemple de notre bonne
compréhension des lois de la physique. Les ingénieurs ne
copient pas
l' aile d'un oiseau, ils
calculent les paramètres nécessaires en appliquant les lois de la physique.
Hélas, le développement de l'intelligence artificielle est un peu différent - nous n'avons toujours pas de théorie universelle, ainsi que des tentatives pour la construire, ce qui signifie qu'il y a encore beaucoup d'essais et d'erreurs et de temps.