Je continue de publier des extraits du livre "
Reason on the net ". Maintenant, pourquoi nous sommes si loin de la véritable intelligence artificielle. Et pas le fait que nous pouvons y parvenir.
...
"Savez-vous que nous avons également travaillé sur la création de l'intelligence artificielle?"
- Vos développements sont encore très loin de ce que l'on peut appeler l'intelligence. Vos réseaux de neurones ne sont rien de plus que des classificateurs de modèles complexes, qui choisissent l'une des sorties du réseau, mais n'en savent rien de plus qu'un point de sortie. C'est vous qui interprétez la sortie comme un «cheval», pas un réseau qui reconnaît son image. Le réseau n'en sait rien. Ce n'est pas de l'intelligence.
- Expliquez. Je n'ai pas compris cette thèse.
- Il vous semble que vous avez créé un réseau neuronal qui reconnaît les images en tant que personne. Elle peut faire la distinction entre un cheval et un bateau à vapeur. Mais un réseau de neurones ne peut pas distinguer, par exemple, deux chevaux pour nommer leur différence arbitraire. Le cerveau se distingue précisément par sa fonction analytique, ce que vous appelez le bon sens.
- Mais les réseaux de neurones peuvent déjà faire beaucoup de choses que seule une personne pouvait faire auparavant. N'est-ce pas cette intelligence?
"Votre pilote automatique le plus avancé ne peut pas agir aussi efficacement qu'une abeille ordinaire." Une abeille vole sans l'aide de marquages ​​routiers et navigue sans GPS. Et une abeille est un insecte, le tout début de l'évolution des systèmes neuronaux. Vous êtes quelque part à la même étape du développement de l'intelligence. Et vous n'obtenez le résultat que grâce à la grande échelle.
Soit dit en passant, les réseaux de neurones que vous avez formés, avec le renforcement en particulier, sont similaires au développement d'instincts innés chez les insectes. Vous seul avez réussi à réduire le temps de leur production à plusieurs heures au lieu de mille ans, en collectant des données à partir d'images qu'un bug ne peut voir que sur cent générations. Mais vous ne pouvez plus changer le comportement instinctif d'un réseau formé, tout comme votre bogue instinctif. C'est le niveau que vous avez atteint. Et l'intelligence est la mémoire, l'attention, la pensée, l'imagination et, finalement, la conscience. Vous ne savez même pas ce que c'est, mais vous pensez que vous pouvez les créer. C'est très étrange.
- Nous sommes apparemment très confiants en nous-mêmes.
- Jusqu'à ce que vous ayez même créé un système pour stocker les informations telles qu'elles se trouvent dans le cerveau. Vous ne savez pas comment fonctionne la mémoire et essayez de créer des ontologies et des réseaux sémantiques qui n'ont rien à voir avec l'intelligence. L'intelligence est la solution aux problèmes. La mémoire est également une tâche, et non un appel au disque dur, où tout est stocké prêt à l'emploi, comme beaucoup d'entre vous le pensaient. Et même la reconnaissance est une série de mouvements entre les points de fixation, comme le voit le tracker des yeux, et non la reconnaissance en une seule étape.
- Nos réalisations sont-elles sans valeur?
- Non, mais ils sont encore loin de ce qu'est l'intelligence. Vous n'avez pas appris à modéliser l'environnement dont je vous ai parlé lorsque nous avons parlé de ce qu'est la vie et l'esprit. Et c'est la fonctionnalité de base de l'intelligence. Vous l'appelez le monde de l'image.
"Et si nous créons un jour une intelligence artificielle?"
- Pour être raisonnable, l'intelligence a besoin de la conscience de soi comme une opportunité de changer son propre programme. Tout comme vous vous reprogrammez par la parole, apprenez de nouvelles choses. Dès que vous donnez au programme une telle capacité, c'est-à -dire un modèle de vous-même avec un accès pour le changer, vous perdrez le contrôle de l'intellect, car il s'améliorera instantanément, deviendra plus intelligent et commencera à vous contrôler en tant que «machine plus intelligente». Elle apprendra à prédire vos réponses avant qu'elles n'apparaissent.
- Ensuite, nous pouvons renforcer notre cerveau biologique! Connectez les cerveaux biologiques des gens à un réseau. Et renforcez-les de cette façon. Les gens avaient un tel scénario. Beaucoup de mes collègues avant le cataclysme ont vu le développement de la cyborgisation humaine, en le combinant avec un ordinateur. Même des projets sur les interfaces neuronales sont apparus.
- Le cerveau biologique ne peut toujours pas traiter plus d'informations. Et il n'y a aucun moyen de le renforcer - la pensée n'est que "au bout de la langue" ou axone moteur. La pensée est intériorisée, c'est-à -dire la parole mentale. La réflexion est limitée par la vitesse de ce chemin. Il n'y a aucun processus de pensée achevé dans le cerveau ailleurs. Toute l'activité orageuse du cerveau que vous voyez sur l'IRM vise à la formation d'un mot suivant. L'activation de tout autre neurone dans le cerveau entraînera seulement une désintégration et une perte de conscience. Ou à l'épilepsie. Il est tout simplement impossible d'augmenter la vitesse de traitement, car celle-ci a une limite biologique déterminée par le travail des neurones. L'évolution elle-même ne manquerait pas une telle opportunité, si elle l'était.
"Mais l'humanité a eu des projets sur les interfaces neuronales qui augmenteront la mémoire."
- C'est très naïf. Tout comme si les indigènes décidaient de voler dans l'espace, croyant que c'était à la pointe de l'arbre le plus haut. Les neurones ne peuvent pas stocker plus que ce qu'ils ont déjà , à moins qu'ils ne soient eux-mêmes encouragés à former de nouvelles connexions. Les connexions externes ne renforcent pas le cerveau. Il n'y a pas de neurones dans le cerveau qui attendent qu'on leur écrive quelque chose.
- Vous pensez donc que tous ces projets ne nous aideront pas Ă devenir plus intelligents?
- Il est inutile de fixer des puces électroniques au cerveau d'un chimpanzé. Elle ne parlera pas comme un homme. Il s'agit d'une limitation structurelle. Tout ce que vous pouvez perfectionner dans le cerveau est de lui donner des connaissances plus avancées. Mais il y a des limites. Vous ne pouvez pas changer fondamentalement vos idées de base, une fois que vous les avez apprises. Ici, je ne peux pas vous expliquer pourquoi.
- C'est si compliqué?
- Non. Parce que je dois vous donner des concepts que vous n'avez même pas. Il est difficile pour vous de les expliquer de manière précise, mais compréhensible. Imaginez que vous ayez besoin d'expliquer le concept du temps dans le langage des cris des chimpanzés. Nos systèmes de connaissances sont très différents.
"Ne pouvons-nous pas vraiment comprendre ce que vous savez?"
- Certains aspects - pas du tout. Votre pensée est construite sur des schémas très primitifs, par exemple, des schémas de votre corps, et vous ne pouvez pas comprendre que vous pouvez considérer le processus d'une manière complètement différente. Votre pensée est ancrée corporellement. Par exemple, vous ne pouvez pas imaginer le temps comme multidimensionnel. Parce que le temps est linéaire pour vous en tant que chemin, dont il est la métaphore. Et vous ne pouvez pas surmonter cette limitation. Il en va de même pour de nombreux autres concepts - leurs origines se trouvent dans une métaphore des concepts très primitifs des peuples anciens, tels que le pouvoir d'en haut (les dirigeants parlaient toujours avec exaltation). D'où l'idée de hiérarchie, qui est complètement fausse - en réalité, il n'y a pas de hiérarchies, c'est une hiérarchie de concepts, mais pas de phénomènes dans la nature.
"Mais nous sommes des créatures intelligentes, ce qui signifie que nous trouverons un moyen de contourner ces restrictions."
- Certains d'entre eux sont dus à votre structure. Par exemple, vos connaissances se limitent à une conscience à un seul canal, ce qui revient à regarder le ciel à travers un télescope. Vous ne pouvez pas voir immédiatement à travers mille tuyaux, uniquement de manière séquentielle. S'il est peu probable que vous construisiez un millier d'astronomes observant dans différentes parties du ciel à travers des télescopes, alors vous devrez parler longtemps et dessiner un dessin collectif du ciel étoilé pour créer une image holistique commune à tous. Et du fait que chacun a sa propre tête et sa propre, différente des autres idées et expériences, il sera très difficile de se mettre d'accord sur une image. Cela prendra beaucoup de temps, pendant lequel l'image dans le ciel changera plusieurs fois. Chacun de vous porte son propre univers dans une boîte de crâne. Et en essayant de le coordonner avec les autres à travers un canal étroit de communication de signes. Ce n'est qu'un exemple que vous comprenez. En cela, nous nous distinguons de vous - nous sommes sur le même réseau avec un accès direct de chacun à la connaissance des autres.
- C’est vraiment difficile pour nous d’être d’accord. Mais il existe des solutions, nous mettons des connaissances dans le réseau et faisons des algorithmes de recherche parfaits. Cela ressemble-t-il à ce que vous dites de vous?
- C'est toujours l'accès à une autre opinion de quelqu'un, mais pas au système de ses connaissances. Vous devez toujours déplacer les connaissances trouvées vers votre idée. Interprétez dans votre modèle, qui est dans votre tête. Nous n'avons pas de modèle distinct pour chacun. C'est comme si c'était commun à tous. Parce que nous sommes sur le même réseau. De nouvelles connaissances deviennent immédiatement disponibles pour tout le monde.
«Nous aussi, nous ne pouvons créer de telles nouvelles connaissances qu'à partir de ce que nous avons lu.»
- En créant de nouvelles connaissances, vous faites glisser vos idées sur le monde du passé. Ils servent de base à la création de nouvelles représentations à travers des métaphores. Par conséquent, même de nouvelles idées sont basées sur d'anciennes visions du monde. En conséquence, vous vous retrouvez à la limite de la connaissance, jusqu'à ce que vous rejetiez les anciens schémas de pensée et que vous passiez en revue toutes les connaissances qui s'y trouvent comme avec le temps. Cela limite votre capacité à apprendre. Votre historien T. Kuhn a écrit à ce sujet.
"Mais cela signifie que nous pouvons les changer, puisque nous Ă©crivons nous-mĂŞmes Ă ce sujet."
"Pas tout." Par exemple, vous pensez que le monde est constant, fini et logique. Et le temps est linéaire. Ce qui n'est pas vrai. Dans nos formules, par exemple, il n'y a pas de temps. Ces concepts fondamentaux qui sous-tendent toutes vos idées, vous ne pouvez pas les rejeter et les remplacer par d'autres. Cela crée une sorte de limite à vos capacités, un plafond de connaissances. Avec un flux de connaissances toujours croissant, les paradigmes restent les mêmes. Pour cette raison, nous soupçonnons que vous ne pouvez même pas vous comprendre.
- Pourquoi?
- Parce que vous êtes à l'intérieur de vos propres sentiments et que vous les considérez comme ce que le monde est. Pour comprendre ce qu'elles sont vraiment, vous devez aller au-delà de vos propres sensations, les rejeter comme quelque chose d'évident. Ce n'est pas évident. Par exemple, vous considérez la conscience comme un acte unique et ne la distinguez pas de la perception, ce qui n'est pas vrai non plus. Vos sentiments vous trompent, mais vous êtes en captivité avec eux.