Récemment, le sujet de l'intelligence artificielle est devenu l'un des courants dominants dans les médias et nous sommes de plus en plus effrayés par les prophéties de nombreuses personnes célèbres, telles que Stephen Hawking (l'univers est plein de peluches) et le danger de son développement. Une telle rhétorique alarmiste implique que l'intelligence artificielle elle-même deviendra, premièrement, un sujet, et deuxièmement, elle aura des intentions négatives vis-à-vis des individus et de l'humanité dans son ensemble. Parlons plus en détail de ces hypothèses.
Actuellement, tous les systèmes qui incluent l'intelligence artificielle sous une forme ou une autre (qu'il s'agisse de réseaux de neurones, de systèmes experts, etc.) l'utilisent comme outil appliqué. C'est-à-dire, comme une sorte de machine, qui a un domaine clairement défini d'actions / tâches et, par conséquent, a consommé et émis des informations. Sous cette forme, l'IA ne peut avoir aucune intention propre, sauf si elle y est intégrée de manière constructive. Ce n'est donc pas l'intention du système d'IA, mais ses créateurs. Et, même si le système avec une telle machine IA fonctionne et qu'il fait du mal, il ne parlera pas de la mauvaise intention de l'IA, mais seulement du dysfonctionnement du système, qui pourrait être causé, par exemple, par un dysfonctionnement, des erreurs de conception du système ou incorrect Formation en IA.
Ici, nous essaierons de répondre à la question de savoir comment un système d'IA peut être conçu et quelles propriétés et capacités il devrait avoir pour qu'il ne puisse plus être considéré comme une machine à IA, mais pourrait être considéré comme une sorte de sujet.
Ainsi, pour être un sujet, le système d'IA doit être en mesure d'évaluer de manière indépendante les informations hétérogènes entrantes et de prendre des décisions, ainsi que la capacité d'agir de manière large sur la réalité environnante sur la base de ces évaluations et décisions. Et pour avoir des intentions négatives ou toute autre intention et prendre des décisions sur les actions, la motivation est nécessaire ("Motivation, Karl!"). Autrement dit, ce qui déplace le sujet le fait agir. En conséquence, une certaine motivation principale devrait être intégrée dans l'IA lors de sa création. Ou nous pouvons attendre sa génération spontanée - peut-être le prochain milliard d'années, comme il a fallu pour l'émergence de la vie dans la soupe aux acides aminés.
L'homme, lorsqu'il a créé quelque chose de complexe, a souvent emprunté des solutions techniques à la nature, c'est-à-dire qu'il a utilisé quelque chose qui a déjà prouvé son efficacité et son efficience. Lors de la création de systèmes d'IA, nous pouvons également voir comment nous sommes structurés et quels mécanismes la nature a utilisés pour nous rendre capables d'existence autonome et (je veux le croire) à long terme réussie.
Pour commencer, rappelons quelles sont les principales motivations de tous les êtres vivants, qui les font bouger. De toute évidence, il n'y a que deux motivations principales: l'instinct de conservation et l'instinct de reproduction, c'est-à-dire la libido. En fait, ces deux premières adaptations évolutives, qui ont été réalisées par sélection naturelle, ont été la création de vie à partir de matière inanimée. Ils sont constamment soutenus par la sélection naturelle - en gros, tout ce qui n'essaie pas de se préserver et de se reproduire ne survit tout simplement pas. Il y a des théories qui disent que de telles propriétés, c'est-à-dire le désir de se préserver et de se reproduire, sont possédées par l'information elle-même, en tant que telle (par exemple, D. Glick "Information. History. Theory. Stream", R. Dawkins "The Selfish Gene").
Chez les êtres vivants complexes, le mécanisme de réalisation des motivations primaires est ancré dans la structure même du corps (et du cerveau en particulier) créée par l'évolution. Par exemple, lorsque le taux de glucose de l'animal baisse ou que l'estomac signale un excès de sécrétion, le programme d'auto-conservation et de maintien de l'homéostasie est activé et, par conséquent, l'animal commence à chercher de la nourriture. Dans un autre cas, si la créature considère que les circonstances sont menaçantes, alors le programme de sauvetage «hit or run» est activé. Ou les circonstances peuvent être considérées comme propices à la reproduction, puis le programme de reproduction se mettra en marche et le cerveau de la créature recevra un puissant renforcement hormonal du comportement correspondant. Toute cette cuisine est implantée au niveau du cerveau «reptilien», c'est-à-dire cette partie du cerveau de toutes les créatures vivantes complexes dont ils ont hérité depuis des temps immémoriaux des premiers animaux. Et un tel mécanisme a prouvé son succès et son efficacité au cours de millions d'années.
Il serait probablement assez facile de construire un système d'IA fonctionnant selon un algorithme similaire. Mais nous sommes plus intéressés par le cas où le système d'IA pourrait construire des évaluations complexes et avoir une structure de motivations plus complexe que les principales. Afin de comprendre comment cela pourrait être réalisé, regardons comment cela se produit chez les gens, c'est-à-dire pourquoi les gens, ayant les mêmes motivations principales, peuvent et font une activité aussi diversifiée.
La principale façon dont les gens transforment les motivations primaires en une autre activité est la sublimation - la réfraction des motivations primaires à travers la structure de leurs valeurs et leurs objectifs correspondants. Et les valeurs et les objectifs sont des concepts purement linguistiques, c'est-à-dire inexistants en dehors de la langue. En effet, des choses comme le «développement», la «santé», la «connaissance», etc., sont des catégories linguistiques et, pour chaque individu, elles peuvent signifier des choses très différentes. Et leur particularité, comme vous le savez, est qu'ils ne peuvent pas être «mis dans une brouette». Les valeurs de l'individu forment un graphique, où les valeurs elles-mêmes sont ses sommets, et les côtes sont les croyances qui relient les valeurs. Par exemple, «la santé est le bonheur» ou «la connaissance est nécessaire pour réussir» ou «seule la richesse donne satisfaction de la vie» sont tous des liens entre les valeurs. Ainsi, le graphique des valeurs est au cœur de la personnalité individuelle.
En se transformant à travers ce graphique de valeur, les motivations principales peuvent se transformer en motifs et objectifs plus complexes et non triviaux. Par exemple, une personne crée une organisation ou développe un domaine scientifique ou montre une autre activité créative - tout cela est la réalisation de sa motivation principale pour l'auto-reproduction. Seuls les objets reproductibles ne sont plus des êtres humains, mais des constructions à partir des idées, des intérêts et des croyances de leur créateur. Dans un autre cas, même si une personne se rend simplement au travail pour gagner de l'argent, la pousser à le faire n'est rien d'autre qu'une motivation sublimée pour se préserver. En résumé, nous pouvons dire que les structures du cerveau (y compris le "reptilien") et le corps et le langage intégrés dans la personne se complètent dans le processus de conversion des motivations primaires en objectifs complexes.
Ensuite, si nous voulons que le
système d'IA soit un sujet / personnalité et qu'il puisse avoir des motivations de la forme «pour le développement» ou «au nom du bien commun» ou toute autre motivation structurellement involontaire, il
doit posséder , premièrement,
des motivations primaires et, deuxièmement, le
langage intégré et construit à partir de celui-ci un graphique des valeurs et des croyances . De plus, sa motivation principale n'est pas obligée, mais elle peut être l'auto-préservation et la reproduction.
De plus, le système d'IA peut avoir une adaptation évolutive aussi intéressante et utile que la conscience de soi, qui consiste à comprendre les frontières entre le «je» et «pas moi» et à partir de la conscience des résultats de sa propre activité mentale (qui se réalise tout simplement dans les réseaux neuronaux modernes - par appliquer à nouveau le signal de sortie du réseau à ses entrées). Cette adaptation évolutive est très propice à la préservation de soi: pour une créature qui ne reconnaît pas les frontières entre «je» et «pas moi», cela n'a aucun sens, par exemple, de résister à un prédateur essayant de mordre le membre d'une créature, car en l'absence de telles frontières, les intérêts de ce prédateur devraient également être inclus dans l'intérêt de la créature. La prise de conscience des résultats de sa propre activité mentale aide à résoudre les problèmes de manière itérative, c'est-à-dire qu'il devient possible de résoudre des problèmes dont la complexité nécessite plus de puissance de calcul que le cerveau de la créature à la fois. La capacité de résoudre des problèmes complexes (y compris pour la survie) donne un avantage évolutif et, par conséquent, est soutenue par la sélection naturelle.
De plus, le système d'IA peut inclure la capacité de contrôler le vecteur de sa motivation, laquelle capacité (mais très souvent n'utilise pas) que possède un sujet homo sapiens. Ici, vous pouvez même utiliser la capacité de contrôler le vecteur de votre motivation comme
critère de rationalité : c'est-à-dire que celui qui n'est pas capable ou ne contrôle pas sa motivation n'est pas intelligent.
Comme déjà là où il n'était pas écrit (sauf peut-être sur la clôture), le cerveau humain contient environ 86 milliards de neurones, chacun pouvant avoir jusqu'à 20 à 30 000 connexions (synapses). De plus, la part du lion (environ 90%) de cette ressource informatique est dépensée non pas pour l'activité nerveuse supérieure réelle qui se produit dans le cortex préfrontal, mais pour des tâches auxiliaires, telles que le maintien et la gestion des processus biochimiques dans le corps, le traitement des informations visuelles et auditives, etc. d. Au début, la nature a créé le système nerveux précisément pour l'accomplissement de ces tâches, jusqu'à ce qu'il soit découvert que le réseau neuronal est également excellent pour réaliser l'intellect lui-même.
Dans les systèmes d'IA, toutes ces tâches auxiliaires (le cas échéant) peuvent être résolues par des appareils spécialisés qui ne nécessitent pas une puissance de calcul aussi élevée, alors que nous n'avons pas encore pu trouver quelque chose de plus approprié et efficace pour implémenter l'intelligence que les réseaux de neurones.
Par conséquent, selon des estimations très approximatives, nous pouvons compter sur la création d'un sujet IA doté d'une intelligence équivalente à l'homme sur la base d'un réseau neuronal d'une capacité d'environ 8 milliards de neurones. Si nous considérons que le neurone est en moyenne connecté à 1000 autres neurones et que le réseau devrait fonctionner à une vitesse pouvant atteindre 40 Hz (rythme bêta du cerveau humain), alors la puissance de calcul nécessaire est «seulement» d'environ 250 téraflops. Par exemple, 40 cartes graphiques NVIDIA GeForce GTX 1070 conjointement peuvent fournir de telles performances.
Dans le même temps, ces systèmes d'IA peuvent avoir un certain nombre d'avantages par rapport aux êtres vivants. Pour commencer, contrairement au cerveau, le système d'IA est plus facile à entretenir - il ne nécessite pas un apport quotidien de sang saturé de calories et d'oxygène, ainsi que diverses hormones dans des proportions très précises. Il peut être réparé, ce qui est rarement fait avec le cerveau humain. Elle n'a pas besoin de dormir ou de se reposer en de telles quantités, car le mécanisme exclusivement électrique ne nécessite pas le renouvellement des substances actives, comme l'exige le cerveau chimico-électrique. Encore une fois, l'ensemble du système électronique peut fonctionner à des fréquences sensiblement supérieures à 100 Hz, ce qui, apparemment, est une limitation pour le cerveau en raison de sa structure chimico-électrique (ici, la fréquence signifie le nombre de fois où tous les neurones du réseau fonctionnent en une seconde) . De plus, probablement, les systèmes d'IA n'auront pas de restriction sur le nombre d'unités d'attention que les gens ont - 7 ± 2 unités d'attention sont à notre disposition simultanément.
Néanmoins, dans un avenir prévisible, ces systèmes d'IA perdront pour les personnes complexes et multifactorielles simplement parce que le neurone dans le système nerveux humain lui-même est un mécanisme moléculaire très complexe, dépendant d'un grand nombre de paramètres, contrairement au neurone des neurones modernes réseaux ayant une structure simple.