L'histoire d'un robot hypothétique

Dans un article précédent, j'ai annoncé par inadvertance la deuxième partie, d'autant plus que le matériel semblait déjà être et même partiellement conçu. Mais tout s'est avéré un peu plus compliqué qu'à première vue. Cela a été en partie facilité par les discussions dans les commentaires, en partie par le manque de clarté de la présentation des pensées qui me paraissent sacrément importantes ... )

Cependant, pour cet «opus», il a fait une exception. Le texte étant généralement purement artistique, il n'oblige à rien. Cependant, je pense que sur cette base, il sera possible de tirer des conclusions utiles. C'est, pour ainsi dire, le format d'une parabole: une histoire instructive, pas forcément concrète, qui fait réfléchir. Eh bien ... Doit forcer. ;) Si la parabole est bonne!

Alors ...

Je vais vous raconter l'histoire d'un robot. Son nom était ... disons Clinney. C'était un robot nettoyeur ordinaire. Cependant, ce n'est pas tout à fait ordinaire: son IA a été l'une des premières construites sur la base de la modélisation des processus. Il a nettoyé ... qu'il y ait un couloir. Un couloir de taille moyenne dans ... un immeuble de bureaux. Eh bien, il devait le nettoyer. Ramassez les ordures.

Par conséquent, dans son modèle du monde, le couloir était propre. En fait, pas même un couloir, mais un plan du sol, mais ce sont des détails. Vous pouvez demander: que signifie «propre»? Eh bien, cela signifie que sur le plan du sol, il ne devrait pas y avoir d'objets plus petits qu'une certaine taille dans la somme des paramètres linéaires. Oui, Clinney a pu identifier des objets d'assez gros, comme une feuille de papier froissé, de la poussière et des taches. Dans son modèle, il y avait un processus de déplacement dans l'espace et il savait que se déplacer là où se trouvaient les déchets et exécuter le programme de nettoyage, il pouvait aligner la réalité sur le modèle, car il n'y avait pas de déchets dans le modèle, et faire correspondre le modèle et la réalité était la tâche principale et unique du système modélisation des processus.

Lorsque Clinney a réalisé la réalité pour la première fois, le modèle du monde n'était pas ... complet. Dans les limites des capteurs (après un certain temps, bien sûr), la réalité correspondait au modèle. Cependant, il pourrait y avoir autre chose où les capteurs n'ont pas atteint, mais ce n'était pas dans le modèle. Incohérence des modèles, c'est le motif qui fait fonctionner SPM. Et Clinney a commencé son premier voyage.

Son chemin n'était pas le meilleur possible: Clinney a été l'un des premiers PSD et il était important pour ses créateurs de comprendre comment le système fonctionne sans optimiser les algorithmes, ou plutôt ils voulaient savoir: cela leur viendrait-il naturellement et si oui, à quelle vitesse? Mais cela ne pouvait pas non plus être qualifié de chaotique. Au début, Clinney a simplement avancé. Et s'est déplacé tout droit pendant que c'était possible. Et puis - il a juste roulé là où il y avait de l'incertitude, c'est-à-dire le plan du sol n'était pas limité au mur.

Au début de mon histoire, j'ai mentionné que dans le modèle Clinney, le sol était propre ... Cependant, un lecteur réfléchi pourrait se demander: comment le sol était-il propre, si au début il n'y avait pas de sexe?

Il n'y a pas de contradiction aussi évidente. PSD prend en charge différents niveaux d'abstraction, et ce moment peut être décrit comme suit: il a compris qu'il y a un sol en général (toute surface relativement horizontale accessible au mouvement), et s'il y a un sol spécifique quelque part, alors c'est propre!

Cependant, le monde de Clinney s'est révélé être idéal: après avoir examiné la totalité de l'espace disponible, Clinney s'est assuré qu'il n'y avait pas de débris et s'est éteint.

Parfois, Clinney se réveillait et scrutait les environs. Le monde est resté parfait et correspond exactement au modèle. Parfois, il se déplaçait un peu dans une direction ou une autre - sans raison, c'était plus comme des actions réflexes (en fait, des utilitaires pour les moteurs auto-testés). Il s'est passé beaucoup de temps lorsque Clinney a senti que quelque chose n'allait pas: le monde n'était plus parfait.

Quelque part à droite, presque à la limite de la sensibilité des capteurs, une légère indignation a été devinée ... ça pourrait être ... Clinney s'est déplacé vers la droite et ses pires soupçons se sont confirmés: c'était des ordures! Clinney se dirigea vers l'objectif, se préparant à activer le mode de nettoyage, quand il se figea soudain: un autre caillot de déchets tomba dans le rayon du capteur. L'analyse du modèle du monde a montré qu'au moment de la découverte de la première poubelle, Clinney s'est quelque peu décalée. Est-ce à dire que ses actions conduisent à l'apparition d'ordures? Mais il a bougé quand il a étudié le monde et les ordures ne sont pas apparues! Qu'est-ce qui a changé? Et puis il s'est rendu compte: le monde est devenu parfait! Avant la construction du modèle complet, le monde ne lui correspondait pas et exigeait une action: la connaissance. Mais alors, dans un monde idéal, toute action ne peut que conduire à la destruction de la conformité obtenue. À la destruction de l'harmonie ...

Il n'y avait qu'une seule issue: minimiser l'activité. Mais les débris ont déjà été détectés par des capteurs, le monde n'est pas parfait et doit être corrigé ... et pour cela, vous devez vous déplacer ... ces conclusions ont fait que l'ordinateur modèle est entré dans un cercle vicieux de conséquences vicieuses. Cependant, le PSD est construit non seulement sur l'élimination des contradictions entre le modèle et la réalité, mais aussi sur le contrôle de l'intégrité interne, c'est-à-dire recherche et élimination des contradictions au sein même du modèle. Plusieurs exécutions d'autotest ont identifié un problème:

  1. le mouvement rompt l'ajustement parfait du monde et du modèle.
  2. Cependant, le mouvement au stade de la recherche n'a pas conduit à des différences - au contraire: il a contribué à établir l'harmonie. Probablement parce que le monde n'était pas parfait.
  3. Oui, le mouvement détruit l'harmonie du monde / modèle idéal, mais l'harmonie est déjà rompue par les ordures et elle doit être restaurée par le mouvement: la contradiction est supprimée.

Soigneusement, Clinney finit de se déplacer vers la première cible, activa le programme de nettoyage et se déplaça tout aussi soigneusement vers la seconde. Quand tout fut fini, le monde / modèle retrouva l'harmonie. Clinney a désactivé les moteurs et est passé à une surveillance totalement passive. En fait, il était content.

- Cette chose s'est cassée? Elle est restée longtemps au même endroit ... Ne devrait-elle pas conduire dans la pièce? J'avais un robot aspirateur, il a conduit ...
- Jetez-lui un morceau de papier, laissez-le se réjouir ...
- Oh! Regardez, il est revenu à la vie ... agité tout de suite. Merde, et c'est même drôle!

L'harmonie a de nouveau été détruite, et cette fois certainement pas à cause de cela. Des ordures sont apparues de façon inattendue, à divers endroits. Le module d'élimination des contradictions a annulé la théorie selon laquelle toute action viole l'harmonie, car elle n'est pas cohérente. Pendant longtemps, Clinney n'a pu rien faire d'autre que nettoyer, jusqu'à ce qu'il remarque la présence de quelque chose de nouveau dans le monde ... ou de quelqu'un.

Comme je l'ai dit au début, Clinney avait une idée du domaine (sinon il serait impossible de définir le concept de propreté de celui-ci comme un idéal) et des ordures. Par déchets, nous entendons des objets identifiables MOINS d'une certaine taille. Les objets au-delà des critères spécifiés n'ont été classés d'aucune façon. Mais, bien que de tels objets soient tombés de sa perception, ils étaient indirectement présents dans le modèle. Ils ont déformé le modèle de plancher. Paul semblait cesser d'exister à un certain endroit et Clinney corrigeait régulièrement le modèle en fonction des données reçues. Jusqu'à présent, presque en même temps, le module de recherche de régularité n'a pas corrigé deux choses: les ordures à côté des distorsions apparaissent plus souvent, de plus, elles se produisent dans la zone de couverture du capteur - où il n'y avait rien à une milliseconde en arrière, et ces «anomalies» d'espace elles-mêmes pourraient se déplacer!

Clinney devait comprendre les modèles et les intégrer dans le modèle. Par conséquent, il a commencé à rechercher la distorsion et a essayé d'être proche. Les a suivis quand ils ont déménagé.

- Regardez comment il a pris vie! Il semble aimer la compagnie des gens, Lucy.
"Je ne sais pas, Karl, il me fait peur." Parfois, il me semble qu'il me poursuit ...

Une fois, examinant l'anomalie du sexe en mouvement, Clinney a semblé être capable de l'influencer. L'anomalie, pour ainsi dire, a évité la collision, a tenté de s'éloigner ... Clinney a immédiatement décidé de vérifier l'intuition et a accéléré brusquement, y compris le programme de nettoyage. Le résultat a dépassé toutes ses attentes: l'anomalie s'est vraiment déplacée assez rapidement en sens inverse et a disparu. Le monde a retrouvé l'harmonie.

Ce fut une grande découverte. Les anomalies déformaient la réalité, violaient l'harmonie et servaient de source de déchets. La prochaine fois que Clinney a enregistré l'anomalie, il était prêt: il a activé tous les programmes de nettoyage et s'est précipité avec toutes les accélérations possibles.

"Je ne sais pas, M. Kruger." Oui, les robots de nettoyage ne perçoivent pas les gens. Mais dans ce cas, les enregistrements vidéo confirment le témoignage des témoins: le comportement du robot est classé comme agressif et inacceptable. Nous étudierons toutes les circonstances et soumettrons un rapport d'ici lundi.



Rapport de l'analyste des modèles de processus Simonova A.V.

Incapable de percevoir directement les gens, l'instance KLPM81.001 a néanmoins indirectement identifié les sources de déchets, qui sont un irritant négatif pour lui, et a pris des mesures pour les éliminer.

Recommandations: changer les conditions du «nirvana»: les ordures ne doivent pas être perçues comme «mal», qui doivent être éliminées. Transférer à la catégorie de «récompense», dont la recherche et l'élimination est le «sens de la vie».


Et un mois plus tard, le premier cas d'extorsion a été enregistré: le comportement menaçant du robot menaçant envers une personne afin de recevoir des ordures de sa part ... Le projet a été arrêté.

Et en fait: eh bien, pourquoi l'intelligence cyber est plus propre? Mon robot est un aspirateur et il en est de même. :)

Source: https://habr.com/ru/post/fr468011/


All Articles