⤴️ 💱 📡 Des chercheurs du MIT apprennent aux réseaux de neurones à raisonner 💊 🥀 👩‍🚀

Récemment, les réseaux de neurones se sont montrés excellents dans de nombreuses applications. Ils ont recherché des modèles dans les données utilisées pour la classification et les prévisions. Les réseaux de neurones reconnaissent avec une facilité apparente des objets dans des images numériques ou, après avoir "lu" un passage de texte, résument son thème. Cependant, personne ne pouvait dire quelles transformations les données d'entrée ont subies pour obtenir l'une ou l'autre solution. Même les auteurs des réseaux possédaient des données d'entrée et des informations de sortie. Et si l'on considère les données visuelles, il est parfois même possible d'automatiser les expériences pour découvrir à quelles composantes des images le réseau neuronal répond. Et avec les systèmes de traitement de texte, le processus est plus compliqué. Quelle est la difficulté de comprendre un langage humain avec une machine, vous pouvez lire ci-dessous.

Au laboratoire CSAIL du Massachusetts Institute of Technology pour l'informatique et l'intelligence artificielle, les chercheurs du réseau neuronal ont fait que le «cerveau virtuel» fournisse maintenant sa justification en plus de la solution. Ils ont formé deux modules d'un réseau neuronal en même temps. Les données de la formation étaient des extraits de texte. Les résultats ont plu: l'ordinateur pensait, comme une personne, dans 95% des cas. Et pourtant, avant de commencer une nouvelle méthode de réseaux de neurones en utilisation active, une configuration et un raffinement supplémentaires seront nécessaires.

Pourquoi les images sont-elles plus faciles à traiter que le texte? Sera-t-il possible de conduire librement des véhicules sans pilote, est-il possible de remplacer un médecin vivant par une intelligence programmée, à l'intérieur de laquelle se trouvent d'innombrables neurones? Cela nous rapproche-t-il des machines conscientes dans la vraie vie? Les modèles informatiques de réseaux de neurones se comportent de la même manière que le cerveau humain, mais jusqu'à présent, ils n'ont pas été autorisés à prendre des décisions qui affectent la vie des gens. Pour changer cela, les spécialistes ont eu besoin de temps et nous pouvons maintenant découvrir comment le réseau neuronal arrive aux valeurs finales.

Parfois, dans le monde des applications réelles, les gens veulent savoir pourquoi la machine a fait une telle prédiction, et pas une autre. La principale raison pour laquelle les médecins ne font pas confiance aux décisions en matière d'IA est le manque d'informations sur le processus décisionnel. Cela s'applique également à d'autres domaines - tous ceux où le coût d'une prévision incorrecte est élevé. Par conséquent, tout le monde a besoin de preuves et de garanties. Très probablement, tout est encore plus large: vous pouvez non seulement vouloir confirmer l'exactitude du modèle de prévision, mais aussi découvrir comment vous pouvez influencer ce qui se passe grâce à l'analyse. Comment une personne ordinaire peut comprendre un modèle complexe formé sur des algorithmes inconnus. Ces algorithmes peuvent parler de la rationalité d'une solution particulière. Sur Giktayms a déjà posé une question sur le sujet. Et maintenant, nous pouvons répondre positivement.

Réseaux de neurones - quoi?

Le nom de «réseaux de neurones artificiels» suggère que ces structures se comportent à peu près comme les structures du cerveau humain. L'unité constitutive d'un tel réseau est un nœud de traitement qui, comme un neurone, peut à lui seul effectuer des opérations simples. La puissance vient lorsque de nombreux nœuds sont combinés en un énorme réseau. La plupart des travaux inconnus ont lieu dans un neurone. Ça y est - une boîte noire. Les données d'entrée et de sortie peuvent être trouvées. Pendant la formation, les opérations effectuées par les nœuds individuels changent constamment afin d'obtenir de bons résultats sur l'ensemble des exemples de formation. À la fin du processus, le programmeur réseau ne sait pas quels nœuds sont actuellement configurés. Même si ces données étaient là, il serait difficile de comprendre ces informations de bas niveau afin de pouvoir les traduire dans une langue que les gens comprennent.

Dans le processus d'apprentissage en profondeur, les données pénètrent dans les nœuds d'entrée du réseau, qui les transforment et les transmettent aux nœuds suivants. La dernière action est répétée plusieurs fois. Le processus s'arrête lorsque les valeurs arrivent aux nœuds de sortie du réseau. Les informations sont en corrélation avec la zone de données dans laquelle la formation a lieu. Il peut s'agir d'objets dans l'image ou du sujet de l'article.

Comment le processus est devenu transparent

Pour comprendre comment un réseau neuronal prend des décisions, les chercheurs ont décidé de le former sur des données textuelles. Dans le laboratoire de l'institut, une équipe de spécialistes a divisé le réseau créé en deux parties. L'un était destiné à extraire des morceaux de texte des données d'apprentissage et à les évaluer par longueur et séquence. Plus le passage est court et la plus grande partie se compose de lignes de mots consécutifs, plus le score est élevé.

D'autres passages sont venus dans la deuxième partie. La deuxième partie du réseau neuronal a prédit le thème du passage ou a tenté de classer le texte. Pour le test, nous avons utilisé les avis en ligne du site d'évaluation de la bière. Un réseau de scientifiques a tenté de classer les bières sur une échelle de cinq étoiles en fonction de facteurs tels que l'arôme, le goût, l'apparence et les critiques écrites. Après avoir formé le système, les chercheurs ont découvert que leur réseau neuronal évalue l'arôme et l'apparence ainsi que les personnes réelles: 95% et 96%, respectivement. Selon une caractéristique plus subjective du goût, le réseau neuronal s'est «mis d'accord» avec les personnes dans 80% des cas.

Les modules ont été formés ensemble et l'objectif de la formation était de maximiser l'évaluation des segments sélectionnés et la précision de la prédiction ou de la classification.

L'illustration montre un exemple de revue de bière avec classement dans deux catégories. Si le premier sous-réseau a choisi ces trois expressions et que le deuxième sous-réseau les a associées aux bonnes évaluations, le système a utilisé la même chose pour le jugement en tant que personne. Les chercheurs ont également testé un réseau de neurones basé sur une base de données de questions et réponses gratuites à des sujets techniques. La question était de savoir si une réponse spécifique avait déjà été donnée auparavant.

Les scientifiques ont appliqué cette méthode à des milliers de résultats de biopsie avec une pathologie du cancer du sein. Le texte et les images ont été analysés.

Quelle est la difficulté pour une machine à comprendre le langage humain?

"Il est difficile de répondre si vous ne comprenez pas la question." Sarek, le père de Spock dans Star Trek 4: Homecoming.

Le traitement du langage naturel est l'un des domaines de l'intelligence artificielle. Notre point de vue et un large éventail de connaissances sur le monde et la compréhension du contexte affectent la façon dont nous percevons même les structures de grammaire les plus élémentaires, reliant les mots en phrases et phrases significatives.

Je vais l'expliquer avec l'exemple donné dans le livre d'Eric Siegel "Calculing the Future". Par exemple, des phrases comme celle de l'Inde, du lait, de votre. Chaque partie similaire d'une phrase peut jouer des rôles différents selon les mots qui apparaissent avant et après la phrase. Une définition spécifique sera basée sur une compréhension de ce que les mots signifient et quelles sont les vraies choses qu'ils appellent.

1. «Le temps passe comme une flèche».
2. "Les fruits volent comme une banane."

Si quelqu'un ne connaît pas ces énigmes linguistiques en anglais, essayez de traduire vous-même les phrases de plusieurs façons.

Le temps passe comme une flèche.
Les mouches du temps aiment une sorte de flèche.
Mesurez la vitesse des mouches en mesurant la vitesse d'une flèche.

Les fruits volent comme une banane.
La drosophile aime la banane.

La même excuse peut signifier différentes choses. Surtout la préposition AVEC.

"J'ai mangé du porrige avec des fruits." J'ai mangé de la bouillie avec des fruits, qui faisaient partie du plat.
"J'ai déjeuné avec une cuillère." J'ai pris le petit déjeuner avec une cuillère, qui était un outil.
"J'ai déjeuné avec ma maman." J'ai déjeuné avec ma maman, qui participait à l'action.

L'utilisation des réseaux de neurones

Tâches de classification. Ce n'est qu'une recherche de motifs, de reconnaissance faciale.

Tâches de prévision. Comment les utilisateurs se comporteront dans certaines situations. Par exemple, les banques calculent la probabilité de remboursement des prêts lorsqu'elles décident d'une subvention. Ils examinent également le coût des prêts afin de les revendre à d'autres banques au meilleur moment. Domaines d'application du machine learning: sécurité, comportement des consommateurs dans les magasins, lutte contre le crime, marketing, bien sûr, politique (élections), éducation, psychologie et gestion des ressources humaines.

Dans chaque domaine, après un examen plus approfondi, on peut trouver des énoncés de problèmes pour les réseaux de neurones. Voici une liste des domaines individuels où la résolution de tels problèmes est maintenant d'une importance pratique. J'apporte certains d'entre eux.

Dans le domaine financier, les réseaux de neurones prédisent les taux de change, le coût des matières premières (séries chronologiques), aident à effectuer des échanges automatisés sur les bourses, prédisent la probabilité de faillite et déterminent la sécurité des transactions avec des cartes en plastique. Dans le domaine médical, ils réalisent des diagnostics, traitent des images, surveillent l'état des patients, analysent l'efficacité du traitement prescrit. Les réseaux de neurones reconnaissent les signaux radar, adaptent le pilotage des avions endommagés, compressent les informations vidéo, optimisent les réseaux cellulaires, nous parlent sous forme d'assistants électroniques (Cortana, Siri), filtrent et bloquent le spam, aident à configurer la publicité ciblée. Dans les processus de production, ils sont capables de prévenir les urgences et de contrôler la qualité des produits. En robotique - ils ouvrent la voie au mouvement des robots,manipulateurs de contrôle.

Facilitez considérablement la vie des experts en sécurité et des systèmes de sécurité - ici, les réseaux de neurones sont engagés dans l'identification des individus par empreinte digitale, voix, signatures et visages. Pour les géologues, les réseaux analysent les données sismiques et recherchent les minéraux à l'aide de techniques associatives.

Comment la médecine peut-elle s'appuyer sur des décisions non fondées sur le réseau neuronal? Mais, est-il possible que des décisions prises par l'homme, son esprit, mélangées à des émotions, puissent toujours être considérées comme absolument vraies pour un cas particulier? Il y a bien sûr des commissions de médecins, mais elles ne peuvent pas toujours être récupérées. Donc, dans notre médecine pas toujours fondée sur des preuves, les personnes ayant une formation spécifique prennent toujours des décisions. Le facteur humain, l'erreur médicale contre le faux positif probable de l'intelligence artificielle. Peut-être que le fait est que dans le cas de la machine, il n'y a pas de coupable spécifique? .. Dans la nature de l'homme - chercher des réponses, justifier et justifier des décisions devant son propre cerveau. C'est toujours plus facile pour une personne quand on sait qui est à blâmer.

Même chose sur la route. Il est impardonnable pour une machine de faire tomber une personne, tout comme il est impardonnable pour une autre personne qui enfreint les règles de faire du mal. Le coupable est-il toujours puni objectivement? Les questions de moralité resteront éternelles. Il n'y a probablement pas de réponse générale unique. Lorsque les voitures autonomes BMW ou Google deviennent routinières dans les rues de la ville, les gens prennent des risques pour les machines. Et bien que dans certains cas, la mort soit causée par un ordinateur conducteur, le nombre total d'accidents et de victimes diminuera considérablement grâce aux robots.

Surtout pour l' éthique.les réseaux de neurones combattent les entreprises qui produisent des voitures autonomes. Question: que doit faire un pilote automatique lorsque deux enfants jouent une balle devant lui juste à l'intersection. Qui doit être exposé au danger: les enfants ou les passagers de la voiture qui enfreignent sciemment les règles (!).
Cet exemple ressemble à une tâche éthique classique dans laquelle vous êtes l'opérateur d'une flèche de circulation, sur un chemin un groupe de personnes et sur l'autre seul. La décision sera toujours injuste pour la victime et ses proches et sauvera le reste. Bien que les personnes qui survivent à ce prix ne soient pas non plus heureuses.

Ressemblance évolutive au cerveau

Il y a le concept de neurodarvinisme. Il comprend un mécanisme d'auto-chargement qui fonctionne sur la rétroaction entre l'environnement et le cerveau. Même les modèles informatiques les plus simples de réseaux de neurones, s'ils sont programmés pour supprimer les configurations défavorables à l'existence et reproduire celles qui sont bénéfiques, atteignent des niveaux de complexité incroyables en peu de temps. De quoi je parle? Aucune structure dans le monde réel n'a été créée dans le but de l'autodestruction. Toute créature est programmée pour la vie. Et les réseaux de neurones aussi. Même ainsi, à notre avis, une simple créature comme une drosophile a un système complexe de connexions dans le cerveau . C'est son cerveau que vous avez vu dans l'image au début.

Comment le cerveau humain fonctionne avec les images

Selon Rita Carter, dans le livre «Comment fonctionne le cerveau», les mémoires d'informations sur les visages des personnes que nous connaissons sont stockées dans le cerveau sous forme de réseaux neuronaux spéciaux (Unités de reconnaissance faciale). Lorsque nous voyons une nouvelle image, elle est comparée à notre expérience en scannant l'ERL. S'il y a quelque chose qui se connecte, alors cet ERL devient actif et se connecte à la dernière image vue. Le cerveau se comporte de la même manière, qu'une nouvelle image soit vue dans la rue ou générée indépendamment par l'esprit humain. Plus la conscience se réfère aux images stockées, plus les réseaux de neurones correspondants sont actifs. Les réseaux inutiles se brisent avec le temps. C'est ce que nous appelons «complètement oublié».

Conscience

Pourquoi est-ce que je fais des analogies avec le cerveau humain? Peut-être qu'il ne s'agit pas seulement de faire confiance aux réseaux de neurones informatiques? C'est peut-être une question de compréhension et d'acceptation. Oui, une autre personne, en tant que créature complètement acceptée par nous comme «la nôtre», contrairement à un ordinateur mécanique, expliquera et justifiera toute décision d'une manière que nous comprenons. Et s'il ment? Et s'il est malade mental? Les nuances restent partout. Les machines n'ont pas de conscience, ce qui signifie qu'il n'y a pas de problèmes éthiques - elles sont toujours plus objectives et impartiales. Mais les chercheurs ne peuvent pas les laisser uniquement dans certains domaines, tels que la création de la meilleure combinaison d'échecs, la conception de systèmes complexes et, par conséquent, nous, les gens doivent également nous adapter. Bien que ce soit difficile. En plus de ressentir toute ligne entre mécanique et émotionnelle. Mais tel est l'avenirdécrit dans les romans de science-fiction du passé, qui ont depuis longtemps commencé à devenir notre vie quotidienne.

Ainsi, un pas de plus a été franchi vers la compréhension dans un couple homme-machine. Je veux citer Roger Penrose, professeur de mathématiques à l'Université d'Oxford.

La compréhension requiert de la sensibilisation. L'illusion de compréhension provient du traitement complet de grandes quantités de données. Le calcul et la compréhension sont des choses complémentaires.

"Je crois que pour expliquer la compréhension, nous nous tournons vers de nouveaux concepts physiques avec un monde quantique, dont la structure mathématique est pour la plupart inconnue."

Penrose dit que la compréhension génère une composante particulière du tissu cérébral.

"Il y a des microtubules dans le corps humain, en particulier beaucoup d'entre eux dans les cellules nerveuses."

Le scientifique propose d'étudier s'il est possible que les microtubules créent des états quantiques stables qui lient l'activité cellulaire dans tout le cerveau, générant de la conscience. La simulation informatique de cet état est impossible.

Des chercheurs du MIT apprennent aux réseaux de neurones à raisonner