Les réseaux de neurones artificiels expliqués en termes simples

image

Quand j'avais l'habitude d'entamer une conversation sur les réseaux de neurones autour d'une bouteille de bière, les gens me jetaient des regards sur ce qui semblait être de la peur; ils devinrent tristes, parfois avec leurs paupières tremblantes. Dans de rares cas, ils avaient même hâte de se réfugier sous la table. Pourquoi? Ces réseaux sont simples et instinctifs, en fait. Oui, croyez-moi, ils le sont! Laisse-moi juste prouver que c'est vrai!


Supposons qu'il y ait deux choses que je connaisse à propos de la fille: elle a l'air jolie à mon goût ou non, et j'ai beaucoup de choses à dire avec elle ou pas. Vrai et faux seront respectivement un et zéro. Nous prendrons un principe similaire pour l'apparence. La question est: "De quelle fille je vais tomber amoureux et pourquoi?"


Nous pouvons aussi penser les choses de façon directe et sans compromis: «Si elle est jolie et qu'il y a beaucoup de choses à dire, alors je tomberai amoureux. Si ni l'un ni l'autre n'est vrai, alors j'arrête » .


Mais que faire si j'aime la dame mais qu'il n'y a rien à dire avec elle? Ou vice versa?


Il est entendu que pour chacun de nous, l'une de ces choses aura plus d'importance. Pour être précis, chaque critère a son propre degré d'importance, c'est-à-dire son poids. Le critère multiple en poids nous donnera, en conséquence, un «impact d'apparence» ou un «impact de conversation».


Maintenant, avec ma conscience claire, je peux répondre à ma propre question:


"Si l'impact du charisme et l'impact de la bavarde au total font de la valeur plus que" dans l'amour "alors je vais y aller ..."


image


Donc, si je mets plus de poids dans la bavardage de la femme et moins dans la façon dont elle a l'air, alors dans une situation contestable, je tomberai amoureux d'une personne avec qui j'aimerais discuter. L'inverse est vrai aussi.


image


Cette règle est un neurone proprement dit.


Un neurone artificiel est une fonction qui transforme plusieurs entrées en une seule sortie. En définissant les poids de ces entrées et le seuil d'excitation, nous ajustons l'adéquation du neurone. Fondamentalement, pour beaucoup d'entre nous, la science de la vie se termine à ce niveau, mais cette histoire ne nous concerne pas, n'est-ce pas?


Tirons quelques conclusions supplémentaires:


  • Dans le cas où les deux poids sont faibles, il sera difficile pour moi de tomber amoureux de quelqu'un.
  • Dans le cas où les deux poids sont très élevés, je peux tomber amoureux même avec un poteau léger.
  • Vous pouvez aussi me faire aimer le poteau si vous diminuez mon seuil amoureux. Mais je vous prie de ne pas me faire ça! Oublions ça pour l'instant, d'accord?

Réseau de neurones


Nous pouvons difficilement trouver des femmes clairement agréables et explicitement bavardes. Toutes les histoires d'amour ne sont pas égales, peu importe qui dit quoi. Pour cette raison, nous devons éviter les «0» et «1» brutaux et sans compromis et les remplacer par des valeurs en pourcentage. Ensuite, il est possible de dire «Je suis amoureuse» (80%) ou «Cette dame n'est pas très bavarde» (20%).


Notre «neurone tout ou rien» primitif de ce qui précède ne correspond pas au cas. Il est remplacé par un «neurone sage» qui fonctionne en nous donnant des valeurs de 0 à 1 en fonction des données d'entrée.


image


Un «neurone sage» peut nous dire: «Cette dame est assez jolie mais je ne connais pas de points communs dont nous puissions parler, et c'est pourquoi je ne l'aime pas tellement».


image


Allons plus loin. Nous allons utiliser ces deux faits pour une évaluation différente: à quel point ce sera bon de travailler (coopérer) avec une telle fille? Nos actions seront absolument les mêmes - ajoutons un neurone sage et ajustons les poids pour se sentir à l'aise.


Juger les filles sur la base de deux caractéristiques nous donnera un résultat très approximatif. Introduisons un critère de plus - l'argent! Il ira de zéro (absolument pauvre) à un (fille de Rockefeller). Voyons comment nos hypothèses changent avec le critère monétaire introduit.


Pour ma part, j'ai décidé qu'en termes d'appels sexuels, l'argent n'est pas si important, mais son look chic aura certainement un effet sur moi. Pour cette raison, je garde le poids de l'argent bas mais positif.


En termes de relations d'affaires, cela ne fait absolument aucune différence pour moi à quel point la fille est riche, donc je suggère que le poids de l'argent soit nul.


image


C'est une folie de voir une fille juste pour le travail ou une histoire d'amour. Voyons à quel point cela pourrait être agréable si nous décidions de voyager avec elle:


  • Le charisme est neutre ici (le poids est nul ou très faible).
  • Être bavard, c'est bien (poids positif).
  • Dans les vrais voyages, quand l'argent s'épuise soudainement, c'est une période très excitante. Pour cette raison, je donnerai à l'argent un poids légèrement négatif.

En réunissant les trois schémas en un seul, nous découvrirons que nous sommes passés à un niveau de jugement plus réfléchi: du charisme, des billets d'un dollar et de la bavarde - à l'admiration, la coopération et le confort lorsque vous voyagez ensemble. Notez que ces signaux peuvent également varier de zéro à un. Cela signifie que je peux enfin ajouter un dernier «neurone tout ou rien» pour lui permettre de répondre exactement à ma question: «devrais-je l'épouser ou non?»


image


Eh bien, bien sûr, tout n'est pas aussi simple (en termes de femmes). Introduisons un peu de drame et de réalité dans notre monde simple et rose. Tout d'abord, nous ferons du neurone «se marier ou non» un sage. C'est une nature humaine d'hésiter, d'une manière ou d'une autre. Une dernière chose, nous ajouterons le neurone «vouloir des enfants d'elle» et être très proche de la réalité - le neurone «garder loin d'elle».


Je ne comprends rien aux femmes, donc mon réseau primitif ressemble maintenant à l'illustration en haut de cet article.


Les assertions d'entrée sont appelées «couche d'entrée», jugements finaux - «couche de sortie», tandis que cachées au centre se trouve une «couche cachée». La couche cachée est mes jugements et mes pensées inachevées que personne ne connaît. Caché peut être plusieurs couches ou aucune d'entre elles.


Loin de tout ou rien


Vous souvenez-vous que j'ai parlé de l'effet négatif de l'argent sur mon désir de partir en voyage avec quelqu'un? Eh bien, je trichais. Pour des voyages en commun quelque part, vous feriez mieux d'avoir une personne à vos côtés avec de l'argent, ni trop ni très peu. Pour moi, cela semble plus excitant.


Pourtant, ici, j'ai une situation difficile:


If I make money weight negative, then the less money the better. If money weight is positive, the more money the better. If money has zero weight, then it does not matter at all. 

Donc, le poids seul ne me suffit pas pour comprendre la situation «ni plus ni moins»!


Pour le contourner, j'inventerai deux nouveaux neurones: «l'argent-c'est-beaucoup», «l'argent-est-peu» et nourrirai le flux de trésorerie de ma dame à leurs entrées.


Maintenant, j'ai deux jugements: «beaucoup» et «peu». Si deux sorties sont insignifiantes, alors j'obtiens une chose «ni beaucoup, ni peu». Autrement dit, à la sortie, nous placerons un neurone de plus avec des poids négatifs:


image


Chose «ni grand-chose ni petit»: des flèches rouges et bleues montrant respectivement des relations positives et négatives.


En général, cela signifie que les neurones rappellent les blocs d'un kit de construction. Comme un processeur est construit à partir de transistors, les neurones peuvent former ensemble un cerveau. Par exemple, un jugement «riche ou intelligent» peut être présenté comme suit:


image
Chose «l'un ou l'autre»: les flèches rouges et bleues indiquent respectivement des relations positives et négatives.


Ou de cette façon:


image
Nous pouvons remplacer les neurones «sages» par ceux «tout ou rien» et obtenir l'opérateur logique XOR. Il ne faut pas oublier d'ajuster les seuils d'excitation.


Contrairement aux transistors et à la logique intransigeante «si - alors» d'un programmeur typique, le réseau de neurones est capable de prendre des décisions pondérées, dont les résultats changeront par le biais de variations fluides des paramètres d'entrée. Voici la sagesse!


Je voudrais attirer votre attention sur le fait que l'ajout d'une couche comprenant deux neurones a permis au neurone «ni beaucoup ni moins» de produire un jugement plus complexe et équilibré, passant au nouveau niveau logique. Il s'agit d'une transition de «beaucoup» ou «moins» à une solution de compromis, à des jugements plus réfléchis du point de vue philosophique. Et si nous ajoutons de nouvelles couches cachées? Nous sommes capables d'embrasser ce réseau simple avec notre esprit, mais qu'en est-il d'un réseau à 7 couches? Sommes-nous encore capables de percevoir la profondeur de ses jugements? Et si chacun d'eux, y compris la couche d'entrée, aurait environ un millier de neurones? De quoi pensez-vous qu'il sera capable?


Imaginez que je rende ce mariage et cet amour de plus en plus complexes pour finalement me retrouver avec un tel réseau. Quelque part là-bas, il cache tous nos neuf neurones originaux, le transformant ainsi plus en réalité. Peu importe nos efforts, nous n'avons tout simplement aucune chance de comprendre toutes les dépendances et la nature profonde des jugements portés par un tel réseau. Pour moi, la transition d'un réseau 3x3 à 7x1000 peut être comparée à la compréhension de l'échelle d'une galaxie, sinon de l'univers par rapport à ma propre taille corporelle. En termes simples, je n'y arriverai pas. La solution qu'un tel réseau fournirait par la réaction de l'un de ses neurones ne peut pas être expliquée par la logique. C'est ce que nous appelons plutôt «l'intuition» dans la vie de tous les jours (au moins «l'un des ... ou l'un des ...»), qui est un désir inexplicable du système ou un indice qu'il nous donne.


Cependant, contrairement à notre exemple synthétique d'un réseau 3x3, où chaque neurone dans la couche cachée est suffisant et formalisé avec précision, dans le réseau réel, ce n'est pas nécessairement le cas. Dans un réseau bien conçu, dont la taille n'est pas excessive pour résoudre la tâche donnée, chaque neurone détectera un certain attribut, mais cela ne signifie absolument pas que dans notre langue, nous pouvons trouver un mot ou une phrase appropriée pour le décrire . Applicable à l'individu, cela signifie sa caractéristique que vous pouvez ressentir mais ne pouvez pas l'expliquer avec des mots.


La formation


Quelques lignes ci-dessus, j'ai mentionné un réseau bien conçu, donc susceptible de provoquer votre question tacite: «Et comment pouvons-nous concevoir un réseau qui comprend des milliers de neurones. De combien «d'années-homme» et de vies ruinées avons-nous besoin pour y parvenir? » J'ai peur de répondre à la deuxième partie. Il vaudrait mieux rendre les procédures de réglage automatiques, forçant le réseau à faire ce travail lui-même. Un tel processus d'automatisation est appelé formation. Pour donner une idée générale, je devrais revenir à la métaphore originale du «problème d'une importance critique»:


Nous arrivons dans ce monde avec notre esprit absolument clair et innocent, notre réseau de neurones étant complètement ignorant des dames. Nous devons l'installer de manière transparente pour que le bonheur et la joie s'installent dans notre maison. Pour y parvenir, nous avons besoin d'une expérience qui peut être développée de plusieurs manières:


Avoir un entraîneur à vos côtés pour faire le travail (pour les rêveurs et les sentimentalistes). Regardez des feuilletons hollywoodiens et lisez des romans joyeux. On peut également emmener parents et / ou amis pour la collecte d'informations. Ensuite, selon la quantité d'informations obtenues, il est temps de vérifier les connaissances accumulées jusqu'à présent. À défaut de réussir, abandonnez la tentative et rembobinez pour recommencer avec des romans d'amour.
Aucun formateur pour aider votre (pour les expérimentateurs désespérés). Utilisez la méthode des essais et erreurs pour épouser une douzaine ou deux de femmes. Une fois marié, à chaque fois vous vous grattez la tête avec confusion. Répétez jusqu'à ce que vous pensiez que cela suffit et que vous sentiez que vous savez comment cela se produit habituellement.
Aucun formateur pour vous aider, Option 2 (les optimistes désespérés choisiront cela). Lâchez prise et faites quelque chose pour la vie pour vous retrouver un jour marié. Après cela, réajustez votre réseau en fonction de la réalité actuelle pour être sûr que tout vous convient.
Logiquement, je devrais encore écrire toutes choses en détail, mais je crains que sans mathématiques, il y ait trop de philosophie. Pour cette raison, je crois que je ferais mieux de m'arrêter ici. Peut-être la prochaine fois?


Tout ce qui précède est vrai pour les réseaux de neurones artificiels de type «perceptron». D'autres réseaux se ressemblent selon des principes mais ont aussi leurs propres particularités.


Je vous souhaite de bons poids et d'excellents échantillons pour votre formation! Et si vous n'en avez pas encore besoin, parlez à quelqu'un d'autre de cet article.


Version RU

Source: https://habr.com/ru/post/fr454484/


All Articles