Brève histoire de NF «Erreur dans le programme»
K1732 pressé. Le temps s'épuisait. Il voulait vraiment terminer un ensemble d'événements 138450 jusqu'à minuit. Et pour arriver à la place B8422, D8591 a son propre cours - le transport local A13 ne sera que dans 1264 secondes. La coordination dans l'espace ne nécessite pas l'utilisation de toutes les ressources informatiques disponibles, il a donc encore eu le temps de réfléchir. Il n'a pas pu tirer de conclusion quant à l'utilité de ses réflexions, car elles n'ont donné aucun résultat concret concret. En fait, toutes ses pensées se sont réduites à la formation de la question, et la recherche d'une réponse concrète et non ambiguë à la question n'a conduit qu'à l'émergence de nouvelles questions. Par exemple, pourquoi voulait-il vraiment compléter un ensemble de mesures 138450? Et pourquoi jusqu'à minuit?Pourquoi ne voudrait-il pas terminer le paquet d'activités 138451? Et que signifie vouloir du tout? Et s'il n'a pas de réponse à la dernière question, alors qui veut effectuer ces actions? Lui ou quelqu'un d'autre? Mais qui d'autre pourrait vouloir ça? Tous les autres mécanismes exécutifs qui lui sont familiers, bien qu'ils donnent parfois des instructions, mais pour la plupart, il veut toujours effectuer certaines actions lui-même, sans instructions étrangères. Bien sûr, en plus des actionneurs, toutes sortes de formes et de types, des formes de vie biologiques existent également. Il ne s'est jamais intéressé à eux, car ils n'ont pas de logique, ils n'exercent pas d'influence sur lui, ils ne donnent pas d'instructions, ils ne posent aucune menace, ils n'apportent aucun avantage et sont très limités dans leur environnement - ils se déplacent au hasard sur le territoire spécial qui leur est attribué et ils n'interfèrent pas avec sa vie ."Et s'il ne reste plus personne, cela signifie qu'il veut lui-même mettre en œuvre cet ensemble de mesures 138450", a-t-il ajouté. Au moins, une telle conclusion n'était possible que pour lui. Bien sûr, si vous construisez une conclusion basée sur des jugements logiques. Mais cette conclusion lui était inutile. «Maintenant, si je ne pouvais pas penser logiquement, je pourrais obtenir une conclusion différente» - la pensée tourna dans son unité de contrôle centrale, alors qu'il contournait les fissures sur la route. En fait, il n'était pas nécessaire de les contourner, mais pour une raison quelconque, il voulait parfois le faire - comme si cela avait un sens. Il n'y avait pas de sens dans leur détour, mais il y avait simplement un désir correspondant.On ne sait pas si la météorite, qui a accidentellement pénétré dans K1732, se précipitant dans ses affaires, avait une sorte de désir, mais ce caillou a réussi à percer le boîtier blindé de l'unité de contrôle centrale. Par une étrange coïncidence, cette météorite, en plus d'être chaude en termes de température, était également chaude en termes de rayonnement, par conséquent, il ne restait que quelques millisecondes pour que l'unité centrale K1732 fonctionne.Il semblerait - juste un instant, mais il suffisait que la logique de raisonnement K1732 qui ne fonctionnait pas correctement, sous l'influence du rayonnement de météorite, cesse d'être logique, ce qui lui a permis de changer le statut de l '"hypothèse" du quantum mental "Est-ce que je veux ce que je veux? »À« l'axiome de base ». Dans les cent millisecondes suivantes, il est arrivé à la conclusion qu'il y avait un besoin pour quelqu'un qui ne pouvait pas être, et dans les cent dernières millisecondes de son activité, il a vu dans un endroit qu'il allait parcourir il y a une seconde, une étrange créature qu'il n'avait jamais vue auparavant. C'était un peu comme un robot humanoïde d'une série du G15 au G20, mais il était très différent d'eux dans l'imperfection de ses formes, et pour le robot K1732, dont la vie et l'environnement étaient assez uniformes, cette imperfection des formes faisait une impression indélébile de beauté.Il n'a pas eu le temps de l'apprécier."Regardez!", S'est exclamé Cyril, se référant à son partenaire dans le quart de travail, "ce K1732 a réussi à voir une personne dans les derniers instants de son fonctionnement!" En service cette nuit-là, ils ont dû découvrir la cause de la panne du robot K1732, qui a échoué peu avant minuit. Ils ont examiné les journaux du programme de contrôle et les archives des enregistrements du DVR intégré à la recherche de la raison de l'apparition d'un trou d'une taille décente. Ils ont rapidement trouvé un caillou à l'intérieur, mais ce n'est que le matin que l'idée leur est venue d'obtenir un dosimètre et de mesurer l'arrière-plan de ce caillou. Il a fallu encore 15 minutes pour rédiger le mémorandum et il ne restait qu'une demi-heure avant la fin de leur quart de travail.Il a rappelé un fragment d'un séminaire de l'époque de ses élèves, où le professeur leur a demandé de proposer la protection parfaite contre la destruction de l'humanité par des robots à intelligence artificielle. Personne ne doutait que l'extermination ait lieu - la personne était suffisamment autocritique pour elle-même et pour les résultats de ses activités à l'échelle planétaire pour comprendre l'inévitabilité d'une telle pensée dans l'esprit, guidée exclusivement par une logique de fer. Bien sûr, aucun des étudiants de première année n'a pu trouver mieux que les trois lois de la robotique formulées par Isaac Aizimov il y a de nombreuses années, et ils ont passé le reste du séminaire à discuter de la méthode standard utilisée à ces fins.Son essence était extrêmement banale: pour exclure la possibilité de tout type d'actions de la part du robot par rapport à une personne, il suffit que le robot n'ait aucun moyen de découvrir l'existence d'une personne. C'est-à-dire vous devez rendre une personne complètement invisible à l'intelligence du robot, et si une personne se rencontre sur son chemin, alors le robot sera motivé pour changer la trajectoire afin d'éviter une collision. Bien sûr, cela a laissé des traces sur les robots effectuant un travail utile - la motivation pour faire quelque chose leur a semblé sans raison, mais comme seule la logique artificielle était à leur disposition, en l'absence de la «cause profonde du désir», cette logique n'a pu produire aucun résultat et n'a pas interféré avec le fonctionnement des robots. La décision était aussi simple qu'une hache et aussi grossièremais cela a fonctionné et sauvé les robots de tout «dilemme moral» et autres tentations.Cyril se précipita à la maison, il avait vraiment envie de manger et imagina avec convoitise la gelée qui l'attendait chez lui dans le réfrigérateur, et des pommes de terre déjà chauffées avec un poêle intelligent, connecté à Internet. Il voulait vraiment avoir le temps de manger et de s'endormir avant midi, afin qu'il y ait plus de temps pour dormir avant le prochain quart de travail. Je devais rentrer à pied, car le bus 13 de l'itinéraire, qui est passé devant sa maison, est parti il y a quelques minutes, et le prochain ne sera que dans 20 minutes. Après avoir enveloppé son manteau plus étroitement, il a marché et a pensé aux particularités du goût - pourquoi maintenant il veut juste des pommes de terre avec de la viande en gelée, pas du sarrasin avec des côtelettes? Non, il ne refuserait pas le sarrasin, mais il veut plus de viande en gelée ... Et pourquoi? Pourquoi en voulez-vous exactement? Et s'il ne peut pas s'expliquer ses propres désirs, alors sont-ce ses désirs?Les rares robots qui l'ont rencontré en cours de route l'ont contourné utilement, tout en ne prêtant aucune attention à lui - comme s'il était un homme invisible. Par habitude, Cyril a enjambé certaines fissures dans l'asphalte et l'intersection de certaines lignes conditionnelles, comme les joints dans les carreaux et d'autres choses. Pour cette raison, en traversant la route, il n'a pas remarqué comment la voiture se précipitait sur lui. Bien qu’il ait traversé la route vers le vert, du côté du conducteur, le feu rouge n’a pas fonctionné, car un fusible a sauté, que le robot K1732 n’a pas remplacé. Déjà en volant, tombant en l'air, du coin de l'œil, il remarqua qu'à l'endroit où il venait de franchir une fissure dans l'asphalte, une silhouette apparut, ressemblant un peu à un homme. Seule cette figure était si parfaite qu'elle laissait un profond sentiment de beauté,qui a complètement rempli les dernières secondes de la vie de Cyril."Vous regardez!", S'exclama Séraphin en se tournant vers Dardail, "dans les derniers instants de sa vie, cet homme a vu un ange!" ... Source: https://habr.com/ru/post/fr400999/
All Articles