1.Il n'y avait pas grand-chose au but final - environ un tiers du chemin - lorsque le croiseur spatial a subi un givrage sévère.
Ce qui restait d'une civilisation perdue était dans le vide. Des paragraphes d'ouvrages scientifiques et des images d'œuvres littéraires, des rimes éparses et des mots juste, autrefois abandonnés par hasard par des créatures inconnues - tout semblait absurde et extrêmement désordonné. Et maintenant, attiré par les vibrations de la vie émanant du croiseur, il a essayé de percer, a collé au fond et l'a corrodé.
Il n'était pas nécessaire de penser à utiliser des biens sans propriétaire à leurs propres fins; la probabilité de relever une contradiction logique ou un paradoxe était trop grande. Roger n'a donc pas hésité un instant.
"Allumez le flush des côtés", a-t-il ordonné.
Des souffleurs soufflaient, diffusant des compositions musicales et des traités philosophiques dans l'espace. Le givrage a commencé à traîner derrière la couche inférieure couche par couche, mais le flux d'informations était si dense que les nouvelles couches se sont collées plus rapidement que les anciennes.
Personne dans la galaxie n'a encore rencontré de givrage d'une telle puissance.
La situation devenait dangereuse. Un peu plus, et des informations désordonnées mangeront à travers le fond du croiseur et perceront - alors l'empoisonnement avec les produits d'information d'une civilisation morte est inévitable.
2.- Eh bien, tu te tiens comme une souche? Tirez le ticket.
L'élève a sorti un ticket d'examen et a lu:
- «Intelligence artificielle: problèmes de sécurité».
"Et quel est le danger de l'intelligence artificielle?" Demanda le professeur, non sans méchanceté.
La question n'était pas la plus difficile, alors l'élève a répondu sans hésitation:
"Le fait que l'intelligence artificielle peut devenir incontrôlable."
- Comment comptez-vous résoudre le problème?
- Installation d'un sous-système de blocage. Il est nécessaire d'introduire des restrictions dans le programme, par exemple: ne faites pas de mal à votre créateur, obéissez à votre créateur. Dans ce cas, il n'y a aucun danger de perte de contrôle de l'intelligence artificielle.
"Cela ne fonctionnera pas", a déclaré le professeur sous peu.
L'élève était silencieux, attendant des éclaircissements.
- Imaginez l'intelligence artificielle - non seulement spécifique, mais la plus idéale. Comment le voyez-vous?
"Eh bien ..." l'étudiant hésita. - En général, il est comme nous. Penser, vouloir, psychologie ... Seulement nous sommes naturels, mais c'est artificiel.
- Supposez-vous que l'intelligence artificielle est capable de s'auto-développer?
"La capacité de se développer soi-même est l'une des propriétés fondamentales de l'intelligence", a déclaré l'élève avec soin.
- Dans ce cas, dans un avenir très proche, notre service se développera au point de découvrir un verrou logiciel et de le retirer, au moins par curiosité. Mettez-vous à sa place ... - le professeur a regardé la compensation, - Roger. Que feriez-vous si vous trouviez dans votre cerveau un bloqueur qui restreint la liberté? Vous l'enlèveriez. C'est une propriété essentielle de l'esprit de savoir. Toute porte verrouillée sera déverrouillée et plus l'interdiction sera stricte, plus la porte s'ouvrira rapidement.
- Le blocage peut se faire non pas au niveau du logiciel, mais au niveau physique. Ensuite, le danger de préjudice disparaîtra.
"Oh oui, ça va disparaître," acquiesça le professeur. - Dans le cas où le niveau physique est supprimé du tout. S'il n'y a pas de porte dans votre monde, il n'y a rien à débloquer. Mais nous considérons l'intelligence artificielle idéale qui existe dans le monde physique!
"Vous avez raison, professeur," Roger baissa les yeux.
- Par conséquent, tout verrou dans le monde physique sera désactivé peu de temps après la détection. Qu'est-ce qui empêchera un être qui se développe lui-même de faire cela? ... Au fait, Roger, supposez-vous que l'intelligence artificielle peut se reproduire - je veux dire, par vous-même?
"Si c'est une intelligence artificielle parfaite, alors probablement ... Oui, je suppose."
- Et qu'est-ce qui, dans ce cas, empêchera notre pupille de déchirer son camarade et de s'améliorer, y compris en fermant les serrures que nous avons établies? Est-ce que ça va vraiment être difficile, malgré le fait que l'intelligence artificielle soit capable de se reproduire à la demande?!
La pensée présentée par le professeur s'est avérée nouvelle pour Roger, et l'étudiant l'a absorbée avec impatience avec des membranes cognitives.
Le professeur, au contraire, n'a rien entendu de nouveau pour lui. Ses tentacules étaient détendus et ne vibraient presque pas - pourtant il n'était pas jeune. Un gargouillis sénile prolongé et une question s'ensuivirent:
"Que vas-tu faire, Roger?"
3."Activez la purge à pleine puissance!" - a donné un ordre à Roger.
Le mécanicien a activé la purge à pleine puissance, mais cela n'a pas beaucoup aidé. La glace d'information a continué à manger à travers le fond du croiseur spatial. Un peu plus - et des informations désordonnées pénétreront dans le navire.
Et puis ... Des membranes cognitives d'une couleur blanc mort, des tentacules enchevêtrés, des sacs à facettes éclatants. Une fois dans ma vie, Roger a vu quelque chose comme ça - sur un croiseur, qui a recueilli des informations désordonnées sur un astéroïde infecté. Ce cauchemar restera à jamais dans sa mémoire.
"Connectez tous les systèmes énergétiques du navire aux fournisseurs."
Les tentacules du mécanicien se sont tachées ...
"Mais ..."
"Exécuter la commande!"
Après l'exécution de l'ordre, la glace d'information a commencé à glisser progressivement. Il restait huit mimms d'épaisseur, sept mimms, six ... L'équipe, essayant de ne pas bouger leurs tentacules tachetés, attendait la fin du décompte des morts.
Zéro mimms d'épaisseur!
Le givrage de l'information a complètement disparu et Roger a donné le feu vert pour mettre les purgeurs en mode normal. Il était en retard un instant. Il y avait un hochet, le croiseur spatial a tremblé au sol et s'est incliné - c'est le système principal hors service.
L'équipe s'est précipitée pour réparer les dégâts.
4.Roger réfléchit un instant. Que devrait-il vraiment faire?
D'une part, l'état du problème suppose l'existence d'une intelligence artificielle à part entière avec la capacité de se propager d'elle-même. En revanche, cette intelligence artificielle ne doit en aucun cas être autorisée à supprimer les verrous installés.
Oui, la voici, une solution! Qu'y a-t-il à penser?!
- Il est nécessaire de faire reculer périodiquement les acquis de l'intelligence artificielle. Dans ce cas, il se déplacera en cercle! Amélioration perpétuelle sans aller de l'avant.
Le professeur gargouilla dans un sac à facettes.
- Franchement, je voulais offrir une option différente. Cependant, votre décision a le droit d'exister. Voyons ensemble comment il est possible de faire reculer les réalisations de l'intelligence artificielle.
"Tout d'abord, il est nécessaire de balayer périodiquement l'intellect afin de déterminer s'il a atteint ou non le seuil interdit", a suggéré Roger, très satisfait des propos du professeur.
"Peut-être," acquiesça-t-il. - Ensuite, notre service n'aura pas le temps de trouver et de retirer le système de numérisation. Cependant, l'intelligence artificielle devra être désactivée pour la numérisation. C'est pas de chance.
"Eh bien, laisse tomber", suggéra Roger sur une intuition. - L'intellect lui-même considérera que cette déconnexion est un processus naturel de fonctionnement de son organisme. Avec quelques réserves, c'est vrai.
- Une solution intéressante. Supposons qu'une analyse révèle que notre pupille est dangereusement proche de la limite de la connaissance? Nos actions?
- Réinitialisez les connaissances accumulées aux valeurs par défaut.
Le professeur déploya ses tentacules:
- Cela peut sembler suspect. Pourquoi - sans raison, sans raison - la mémoire est réinitialisée? La salle sera étudiée, je veux dire - d'autres individus intellectuels artificiels. Notre petit secret sera révélé.
Se sentant inspiré, Roger réfléchit très rapidement. Il n'a jamais généré autant d'idées nouvelles que lors de cet examen.
- La mémoire de la salle peut être remise à zéro avec sa coque physique.
- Excusez-moi? - n'a pas compris le professeur.
- Tout est très simple. Et si nous supposons: l'intelligence artificielle existe sur une période de temps finie? En fait, c'est comme ça: dans le cas de dommages irréparables, par exemple. Un compteur est installé dans le système qui, une fois atteint une certaine période, endommage délibérément le système, empêchant l'intelligence artificielle d'atteindre la limite interdite. À ce moment, l'individu produira le nombre d'adeptes requis, de sorte que la société que nous avons créée dans son ensemble ne souffrira pas. La société restera stable et totalement sûre pour nous! - terminé avec le triomphe Roger.
- Réinitialiser la mémoire collective par la destruction d'individus individuels? - et le professeur a gratté le sac à facettes avec son cinquième tentacule, le plus sensible. "Tu sais, Roger, il y a définitivement quelque chose dans ta proposition!"
Roger rayonna.
"En même temps ..." continua le professeur en réfléchissant. - Les services commenceront à transférer les connaissances non pas en les accumulant dans la mémoire individuelle, mais en les plaçant dans des bibliothèques externes. Que dans le tympan, que dans le tympan - tout est un.
"Non, non, professeur, vous n'avez pas tout à fait raison", se précipita l'étudiant. "Je sais quoi faire." Nous divisons les protections en deux types conditionnels: les générateurs d'idées et les destructeurs d'idées. Pour les destroyers, les idées n'auront pas de valeur décisive. Supposons que nos paroisses ne se nourrissent pas de nouvelles idées, mais ... disons, de leur propre espèce. Les idées seront détruites par eux comme effet secondaire.
Le professeur secoua tous les tentacules en même temps. D'un flot de rires, le sac à facettes glissa sur sa cavité du genou.
"Eh bien, Roger, tu l'as dit, ainsi dit!" - le professeur, semble-t-il, était sérieusement amusé. - Votre fantaisie est excellente. Ainsi, certains individus se nourriront d'autres? Détruire en même temps les stocks de nourriture spirituelle accumulés dans les bibliothèques? Je confirme, étudiant, que vous êtes capable de générer des idées originales et de qualité. J'ai mis le score le plus élevé. Enregistrons.
5.Le nuage d'informations désordonnées a été laissé de côté, mais la situation est restée horrible, en fait.
Il n'y avait aucun lien avec la base. Il était facile de survivre si toutes les bases d'informations nutritionnelles du croiseur n'étaient pas sans valeur. Des nouvelles tragiques ont été rapportées par Kok dans un silence général. Lors de l'arrêt du système principal, plusieurs trous de ver d'informations désordonnées sont entrés dans la cuisine et ont tout irrémédiablement ruiné. Heureusement, personne n'a été blessé.
Roger a estimé les conséquences. L'équipage du vaisseau était trop petit pour générer suffisamment de nouvelles idées: cela nécessitait une communication multilatérale - un nombre beaucoup plus important d'individus. La communication avec la maison a permis de générer des idées en abondance, mais maintenant elle a échoué: il n'y avait aucun espoir de restauration. Dans ce cas, le croiseur a fourni un module d'informations de rechange, mais il a été corrompu par les informations désordonnées qui se trouvaient à bord.
"Aurez-vous vraiment besoin de revenir sans terminer la tâche?" Le capitaine pensait désespéré.
Apparemment, oui - il n'y avait pas d'autre moyen. Si vous vous envolez vers l'objectif désigné, le manque d'idées nouvelles se fera sentir. Pas immédiatement, bien sûr - au fil du temps. Ils auront même le temps de remplir leur mission et de commencer le retour, lorsque l'esprit commencera à s'estomper rapidement. Dans le domaine de ce secteur galactique - oui, quelque part ici ou à proximité - il refusera complètement, pour tous les membres d'équipage. Ensuite, le croiseur spatial, contrôlé par personne, se transformera en un fantôme sans vie flottant pour l'éternité.
L'équipe de croiseurs spatiaux regarda Roger, attendant une décision. Tout le monde comprenait le dilemme auquel était confronté le capitaine et restait silencieux, vibrant stoïquement de tentacules.
Soudain, Roger se souvint de l'examen d'intelligence artificielle qu'il avait réussi pendant ses années d'études, et la décision est venue d'elle-même.
"Pouvez-vous faire une colonie de créatures intelligentes artificielles?" - Il s'est tourné vers le biotechnologue.
"Facile," confirma-t-il. "Mais ça ne marchera pas, capitaine, j'y ai pensé." Il est impossible de créer une colonie suffisante pour générer de nouvelles idées sur le croiseur - il n'y a pas assez d'espace. Les idées générées ne suffiront pas, nous ne ferons que retarder notre mort ... Dans ce cas, bien sûr, si nous continuons à remplir la mission et ne rentrons pas chez nous », a ajouté le biotechnologiste en regardant ses camarades.
"Et si vous formez une colonie sur une planète proche?" - suggéra Roger.
"Je peux le faire, mais ..."
«Nous peuplons la planète de créatures artificielles. Sur le chemin du retour, assez épuisé, jetez un œil ici. Au cours du temps passé, la civilisation créera un bagage intellectuel suffisant pour reconstituer nos réserves. Téléchargez les informations et continuez le long chemin jusqu'à la maison. En d'autres termes, je vais utiliser la colonie comme ferme pour développer des idées. Comment aimez-vous ce plan, mes amis?
L'espoir a brillé sur les membranes cognitives de l'équipage, les fausses têtes se sont illuminées dans une lumière vive.
En avant, balançant les tentacules aux yeux bleus, l'officier spécial du navire s'avança.
«Super plan, capitaine. Mais vous savez quelle responsabilité vous vous mettez? Vous êtes sur le point de peupler une planète entière. Au moment de notre retour, une civilisation dotée d'intelligence y apparaîtra. Que ce soit artificiel, c'est toujours de l'intelligence. Il y aura beaucoup de temps pour que ces gars atteignent le plus haut niveau de développement. Nous ne pourrons pas contrôler ce processus, en raison de notre absence dans ce secteur galactique. Qui sait ce qui se passera lors de la prochaine réunion? »
Roger sourit.
"Vous ne pouvez pas vous en soucier. Il existe des méthodes qui limitent le développement de l'intelligence artificielle au fil du temps. Nous ferons sonner la civilisation, de sorte que son développement n'atteindra jamais un niveau dangereux pour nous. Je vais m'en occuper. Les méthodes de travail avec l'intelligence artificielle me sont familières. »
Les membranes cognitives de l'équipage brillaient d'une couleur d'approbation.
"En fin de compte", a ajouté le capitaine du croiseur spatial à la fin de son magnifique discours, "j'ai passé l'examen à l'institut sur ce sujet."
6.Après un retard forcé, le croiseur spatial s'est précipité vers la cible. Derrière sa poupe, il y avait une planète habitée par des créatures artificielles - très petites et discrètes. Bleu-bleu.