Cette question en excite beaucoup. Les théories sont construites en utilisant divers concepts complexes, de la magie à la physique quantique. Et si tout était plus simple? L'article examine certains aspects de l'intelligence naturelle et artificielle, ainsi que la détermination de ce qu'est l'intelligence.
Un modèle est un système dont l'étude permet d'obtenir des informations sur un autre système; Présentation d'un processus, d'un appareil ou d'un concept réel.
WikiLe modèle simule le système simulé avec une certaine précision. Plus la précision est élevée, plus les objets du modèle seront ses composants. Le modèle d'information comporte des objets d'information. Avec une précision maximale, chaque objet système simulé en aura un d'information. Autrement dit, il y aura une cartographie sans ambiguïté (cartographie). A l'avenir, par le mot «modèle», j'entendrai précisément la mise en correspondance de certains objets avec d'autres, une correspondance donnée entre le réel et l'information.
Un système d'information est un système de traitement d'informations. L'information entre en quelque sorte dans le système d'information. Pour le traiter correctement, le système dispose d'un modèle d'information.
D'où proviennent les informations? D'une source externe. Je l'appelle «réalité».
La réalité est tout ce qui est en dehors du système d'information.
Donc, pour interagir avec la réalité, un système d'information doit avoir un modèle de cette réalité. Pour chaque objet réel, il doit y avoir un objet informationnel qui lui correspond, c'est-à-dire un modèle de cet objet. Un autre système d'information est également un véritable objet. En conséquence, si nous voulons interagir avec elle, elle a également besoin d'un modèle.
La nécessité d'un tel modèle est clairement visible dans le développement de l'API. Sur le serveur il y a une certaine structure en sortie, sur le client la même structure en entrée. En PHP et en JS, les mêmes classes. Ce n'est pas de la redondance, c'est une simulation d'un système dans un autre.
Intelligence
L'intelligence naturelle est aussi un système d'information. Il dispose de capteurs qui fournissent des informations entrantes. Sur la base de ces informations, il construit un modèle de ce qui se passe en dehors de ce système d'information, et sur la base du modèle prend des décisions sur les actions. Ainsi, nous pouvons définir ce qu'est l'intelligence.
L'intelligence est la capacité d'un système d'information à construire un modèle de réalité basé sur des informations entrantes.
Un programme informatique est également un système d'information. At-elle l'intelligence? Non, car le programmeur place le modèle dans le programme. Considérons, par exemple, un programme de partitionnement d'un disque dur. Informations sur les formats possibles, l'ordre dans lequel les commandes sont exécutées, les codes de réponse - tout cela est intégré dans le code source. Le programme a un modèle de disque dur, il est mis à jour lorsque des réponses sont reçues pour les commandes, mais le programme ne le construit pas, ne peut pas le changer.
L'intelligence artificielle doit construire le bon modèle de réalité. En particulier, il doit y répondre correctement. Au moins la même chose qu'une personne. Tout d'abord, il s'agit pour nous de rétroaction, par laquelle nous pouvons conclure que le système possède une intelligence. Cela peut être vérifié dans le débogueur, mais vous devez savoir ce qui devrait y être. Deuxièmement, parce que l'un des objectifs est la mise en œuvre d'activités humaines dans certaines tâches.
Tous les animaux réagissent d'une manière ou d'une autre à la réalité. Par conséquent, par rapport à eux, il est impossible de dire s'il existe ou non de l'intelligence. Nous pouvons dire si c'est plus ou moins, si c'est suffisant pour un certain type de tâches, pour construire certains modèles.
Les organismes unicellulaires n'ont pratiquement aucune intelligence, car il n'y a aucun élément qui stocke et traite les informations environnementales. Il n'y a que des interactions chimiques qui leur permettent de fonctionner. Ils peuvent également être considérés comme un modèle, mais pas comme des informations, mais comme du matériel. En raison de sa petite taille et de ses lois chimiques, cela ne peut pas être compliqué.
Il convient également de noter que l'intelligence est étroitement liée aux concepts d'objet et de mémoire. Un objet est quelque chose qui a un état et un comportement que nous définissons comme la même chose à différents moments. La mémoire est nécessaire pour stocker les signes d'objets entre ces moments, et ici le modèle commence. Mais les objets sont un sujet pour une autre discussion.
Sensations
Les gens éprouvent des sensations agréables et désagréables. Considérez la sensation de douleur. Comment peut-il être décrit? La douleur est une sensation désagréable; si elle est présente, le cerveau y prête constamment attention. Habituellement, une personne ne peut ressentir ou ne pas ressentir de douleur à volonté. Dans le même temps, les gens ont plusieurs sensations désagréables, par exemple, il y a encore de la peur.
Pour un système d'information arbitraire, on peut donner une telle définition.
Les sentiments sont un processus de perception des données qui pénètrent en permanence dans le système d'information, doivent être traitées et le système est conçu de telle manière qu'il ne peut que répondre à celles-ci. La perception est la façon dont les données affectent un modèle. Le système peut percevoir leur présence comme une rétroaction positive ou négative. Elle cherche à augmenter la connexion positive, à réduire le négatif.
Tous les signaux des capteurs sont des sensations.
L'intelligence artificielle peut-elle nuire?
Tout d'abord, notez que l'intelligence naturelle éprouve plusieurs sensations différentes pour elle. La douleur n'est que le nom de l'un d'eux. Il signale des dommages. Ainsi, si un certain système d'information avec intelligence reçoit une sensation avec des informations sur les dommages, qu'il définit comme désagréable pour lui, cherche à minimiser son influence et ne peut pas le faire en se déconnectant, alors c'est un analogue de la douleur. C'est un analogue que nous pouvons seulement déterminer la similitude que "Sensation 1" est similaire à la douleur humaine, et "Sensation 2" est comme le plaisir de quelque chose. L'essentiel ici est de savoir comment le système lui-même répond à ces données. Comment déterminer que l'IA ne ment pas? Archivez le débogueur.
Plus il y a de signes, plus la similitude est grande, y compris les processus chimiques et électriques. Avec une probabilité élevée, les animaux ressentent des sensations similaires à celles des humains, car ils réagissent de la même manière que les humains, ils ont également des cellules nerveuses, qui sont également constituées de composés organiques.
Autrement dit, si nous faisons un modèle d'information d'une personne précise aux atomes et aux champs électriques, ainsi que la réalité qui l'entoure, avec laquelle il va interagir, et simuler une coupure sur le doigt, alors oui, dans cette réalité, il éprouvera de la douleur. Si à l'aide de capteurs, il interagit avec notre réalité, alors dans la nôtre. Puisqu'en termes de traitement de l'information, il ne sera pas différent des autres.
Est-il éthique de lui faire ressentir de la douleur contre son désir dans n'importe quelle réalité? Je pense que non. Cela s'applique à toute autre créature et à toute sensation désagréable. Mais comme il s'agit d'un modèle d'information, une autre réaction ou un mode de perception différent peut être modélisé, puis le niveau d'éthique sera différent.
Envisagez un système de gestion de base de données avec surveillance. En cas d'échec, le sous-système de surveillance commence à envoyer une notification à l'administrateur avec un certain niveau d'alarme. Peut-on dire qu'un tel système souffre? Non. Premièrement, elle n'a pas d'intelligence, le modèle est intégré en elle par le programmeur, et il n'y a pas de concept similaire à la douleur. Deuxièmement, bien que le signal soit jugé désagréable, elle ne souhaite pas le minimiser. En général, au contraire, il a été fait afin de fournir le modèle le plus précis de ce qui se passe avec le système. On peut l'appeler un analogue des cellules nerveuses, pas la créature qui les possède.
Considérez un bot AI dans un jeu d'ordinateur. Le jeu pour lui est une réalité, bien que très limitée. Des informations correctes nécessitent des informations sur les dommages. Si le bot le reçoit à volonté - il a effectué certaines actions, a attiré l'attention sur la blessure, des signaux de dommages ont commencé à entrer, se sont souvenus de leurs paramètres, ont été distraits et ont cessé de venir - ce n'est pas un analogue de la douleur. Si le bot le perçoit comme une information supplémentaire, et non comme une sensation négative, dont le niveau doit être minimisé, s'il n'affecte pas les actions prises à d'autres fins (par exemple, il n'y a pas de désir de retirer le bras s'il a reçu un coup à la blessure au bras), alors non.
Autres concepts
Qu'est-ce que la conscience? Il peut être défini comme le processus de fonctionnement de l'intellect, le processus d'obtention d'informations et de mise à jour du modèle de réalité. Il est étroitement lié au concept de "je". Le «je» est un élément du modèle représentant le système d'information lui-même. Les chiens ont-ils un concept de «je»? Oui, c'est l'objet auquel ils associent la commande Sit-Lie. Cela signifie que les chiens ont la conscience et l'intelligence. Mais par exemple, les chiens ne peuvent pas se multiplier. Cela est peut-être dû au fait que pour des niveaux d'abstraction plus élevés, des éléments d'information supplémentaires sont nécessaires pour observer les niveaux inférieurs et construire leur modèle.
La conscience est associée à l'auto-observation. Autrement dit, il ne s'agit pas seulement de recevoir des informations sur le monde et de mettre à jour le modèle, mais également d'enregistrer les faits de réception eux-mêmes, de les refléter dans le modèle et de communiquer avec l'objet «Je». "S'ils me piquent sous les côtes, je me sens chatouillé." "Hier, je ne savais pas cela, aujourd'hui je sais." Le même "je pense - donc, j'existe." Il s'avère un système fermé, certains des éléments de la sortie de l'unité d'analyse sont transmis à son entrée. On peut supposer que seules les créatures complexes qui ont suffisamment d'éléments d'information pour organiser une telle connexion peuvent posséder la conscience.
Qu'est-ce que la compréhension? Qu'est-ce que cela signifie lorsque nous disons qu'une personne a compris quelque chose? Cela signifie qu'il a le bon modèle de ce qu'il a analysé. Les éléments d'information du modèle correspondent aux éléments d'un système réel. Comprendre, c'est construire le bon modèle. Pourquoi l'expérience est-elle si importante? Ceci est un modèle. Il vous permet de simuler des processus dans un formulaire d'information, et donc de planifier et de sélectionner l'option dont vous avez besoin.
Il existe des réseaux de neurones, eux-mêmes construisent un modèle basé sur les informations entrantes. Construisent-ils le bon modèle? Les résultats montrent que, en quelque sorte, pas très. Ils nécessitent généralement une sélection spéciale, il s'agit également d'un modèle préparé. Mais ils peuvent construire une sorte de modèle, donc ils ont un certain niveau d'intelligence.
Mise à jour: un point important. Les objets du modèle sont précisément des objets dont l'état et le comportement sont reconnus comme étant la même chose à différents moments. Je pense que si un système d'information n'a pas de mécanisme pour le concept de «même», alors on ne peut pas dire qu'il a de l'intelligence.
Chambre chinoise
J'ai décidé d'ajouter une analyse de la
salle chinoise pour montrer l'applicabilité de cette approche dans la résolution de problèmes obscurs.
Donc, il y a une pièce, une personne est assise dedans, il a une instruction, guidée par laquelle il déplace les personnages. La salle répond aux questions chinoises, mais la personne ne connaît pas le chinois. La réponse est simple et a été donnée plus tôt - tout le système connaît le chinois. Mais il y a des arguments contre. Considérez quelques points.
"L'instruction est faite de telle manière qu'après avoir appliqué toutes les étapes aux hiéroglyphes de la question, elles soient converties en hiéroglyphes de la réponse."À strictement parler, cela est impossible, car la réponse nécessite des données supplémentaires qui ne sont pas dans la question. Si le système répond vraiment correctement, ils sont stockés quelque part. C'est son modèle de réalité.
«Formellement, l'argument peut être représenté comme suit:
1. Si l'hypothèse d'une IA «forte» est correcte, alors il existe un tel programme pour l'écriture chinoise, lorsqu'il est lancé dans un système informatique, ce système comprendra l'écriture chinoise.
2. Je peux exécuter le programme d'écriture chinoise sans comprendre cette écriture.
3. Par conséquent, l'hypothèse de l'IA "forte" est fausse. "Le point 1 devrait ressembler à ceci:
"il existe un tel programme pour l'écriture chinoise, lorsque vous l'exécutez dans un système informatique, ce programme comprendra l'écriture chinoise .
" Le système transfère les données au programme, le programme les traite.
Par conséquent, il ne découle pas de 2 3. Comprendre l'écriture chinoise sera un programme exécutable, et non celui qui l'exécute.
Pour qu'une personne comprenne la langue chinoise, il est nécessaire d'élargir son modèle existant avec un modèle du programme. Et lorsque ces données sont à l'intérieur de la machine virtuelle, elles ne sont pas disponibles.
"La conclusion plus générale de Searle suggère que toute manipulation de constructions syntaxiques ne peut pas conduire à la compréhension."Oui. Comprendre, c'est construire le bon modèle. Les constructions syntaxiques n'indiquent que des éléments du modèle.
«Le système du livre des règles, l'homme et la chambre, à leur avis, est raisonnable et comprend la langue chinoise. Comme contre-argument, Searle propose de faire en sorte qu'une personne se souvienne des règles formelles des réponses pour le système. »Et quand il exécutera le programme, elle comprendra la langue chinoise.
Article en anglais avec de petits ajouts: Qu'est-ce que l'intelligence?