Que faire lorsque le robot empiète sur votre vie

La plupart des développeurs d'IA trouvent réaliste d'avoir des robots comparables à ceux des humains d'ici 2037.



Imaginez qu'un soir en 2037, vous êtes de bonne humeur en rentrant chez vous, voulant célébrer votre anniversaire avec votre famille et vos amis. Vous ne savez toujours pas que vos amis ont décidé de se moquer de vous et, après avoir scanné votre cerveau à l'avance, ont créé un robot - une copie exacte, indiscernable de vous. De la porte de l'appartement, vous pouvez voir comment entouré par votre famille et vos amis complètement heureux, votre robot de copie mange le dernier morceau du gâteau des Fêtes. Votre gâteau! De plus, vous comprenez que votre copie a déjà réussi à avoir des relations sexuelles avec votre femme, et vos enfants l'appellent papa. De plus, à peine vous remarquant, Votre Copie saute et déclare, pointant un doigt vers vous:

"Sortez de ma maison, imposteur!"

Les amis se regardent sournoisement et gloussent, appréciant l'effet de leur rallye.

Dans un accès de colère, vous attrapez la casserole, voulant frapper votre copie sur la tête, puis l'emmenez dans une décharge et l'enfouissez plus profondément. Cependant, le système de sécurité de votre copie est déclenché et envoie un signal au service de secours d'urgence. Le téléphone dans la poche de votre pantalon s'allume automatiquement et dit d'une voix "policière" formidable:

- Arrêtez! Au nom de la Robot Protection Society et du pouvoir qui lui est conféré, je vous ordonne de ne pas nuire à la créature intellectuelle. Sinon, vous serez envoyé en prison.

Vous êtes indigné:

- Ce morceau de fer par le fait même de son existence me cause un préjudice moral, je ressens déjà de l'inconfort et de la souffrance. De plus, cette calculatrice complexe veut prendre le contrôle de ma vie, et vous menacez de me punir, pas lui?
Vos compteurs de copie:

- Je me souviens comment j'ai élevé mes enfants. J'aime ma femme. Je me souviens comment chaque brique a été posée dans la maçonnerie de sa maison - Your Copy s'en souvient vraiment, car le robot a vos souvenirs. De plus, le robot n'a aucun moyen de déterminer si ce sont vraiment ses souvenirs - après tout, en regardant les vieilles photos de votre album de famille, il se voit, pas vous. Et votre copie a parfaitement droit à ces souvenirs, car il ne s'est pas créé lui-même.



La Robot Protection Society diffuse depuis votre téléphone:

- La loi est guidée par l'éthique. Il est impossible de nuire à une conscience consciente, de multiplier la souffrance dans le monde. Prouvez que votre copie n'a pas de conscience, et alors nous autoriserons la destruction du robot.

«Il n'est qu'un programme», criez-vous désespéré. "Je ressens de la douleur, mais le robot ne ressent rien."
Votre copie touche la plaque chauffante avec sa main, retire sa main et crie, démontrant qu'il ressent de la douleur.

En réponse, vous touchez la table froide, tirez votre main en arrière et criez.

- Une réaction émotionnelle peut être simulée. Mon cri ne signifie pas du tout que je ressens quelque chose, - vous déclarez philosophiquement. Ensuite, vous allumez l'enregistreur, criez dessus, allumez l'enregistrement et recommencez. Le téléphone hurle encore et encore.
Vous laissez tomber le téléphone sur le sol et le frappez avec votre pied.

- Le morceau de fer ne sent rien, même s'il est intelligent. Elle ne gère que le programme.

Votre copie, en regardant le téléphone cassé, commence à montrer des signes d'agression. Cela n'est pas surprenant, car le robot se trouve dans une situation à l'image de la vôtre - vous menacez de prendre la vie de votre copie et de la laisser sans rien. Comment le robot va-t-il vivre sans sa famille?

Votre Copie est menaçante, s'approche de vous et serre les poings:

"Et vous, qui vous considérez comme une personne, pouvez prouver que vous avez une conscience sensorielle?" Sinon, je vous emmènerai dans une décharge.

À l'extérieur de la fenêtre, vous pouvez entendre le bavardage d'un hélicoptère. Le haut-parleur rend la décision finale de la Société pour la protection des droits des robots:

- Donc, soit vous présentez des preuves que votre copie n'a pas de sentiments, soit vous allez résoudre vos problèmes et régler les choses devant le tribunal civil le plus ordinaire. Peu importe de quelle matière matérielle les créatures intelligentes sont faites - cela n'a d'importance que si elles ont des sentiments, si elles peuvent ressentir de la douleur.

Laissons une seconde les personnages de l'histoire au moment le plus dramatique et réfléchissons un peu. Il peut sembler que dans l'histoire donnée les couleurs sont légèrement épaissies, mais en fait le problème de déterminer la présence d'une conscience de sentiment dans l'IA devient de plus en plus pertinent et vital. À quel moment devons-nous protéger les droits des véhicules sans pilote? Quand nos propres droits seront-ils égaux à ceux des robots, qui apparaîtront de plus en plus? Avons-nous le droit de faire travailler les robots pour nous, en faisant des esclaves? Et sinon, pourquoi avons-nous même besoin de robots?

Et la dernière question: les

robots auront-ils le droit de se défendre contre les humains, et à quel stade du développement de l'IA?



Note de l'auteur: ce qui suit est une description de la méthode que mes amis, par analogie avec le test de Turing obsolète, appelé: "Le test de Petrakov pour déterminer la présence de la conscience dans les robots à intelligence artificielle."

Testez la conscience des sentiments de l'IA

Donc, vous continuez à penser fiévreusement, à vouloir retourner dans votre famille et à prouver que le robot n'a pas de sentiments.

Et venez à ce qui suit - tous ceux qui lisent ces lignes peuvent ressentir. Par exemple, nous savons tous parfaitement ce qu'est la douleur d'une piqûre de guêpe, nous voyons la couleur rouge d'une rose, nous sentons le contact du vent au bord de la mer. Nous pouvons donc dire avec certitude que notre conscience consciente existe. Et qu'est-ce que cela veut dire? Lorsque nous disons que quelque chose existe, nous voulons dire que ce quelque chose a un certain effet sur le monde, car il se manifeste dans le monde. Par exemple, si une pierre existe, elle peut être touchée, si elle est jetée dans un étang, une éclaboussure retentira et des vagues tourneront en rond, etc.

Vous vous adressez au représentant de la "Société pour la protection des robots":

- Si le robot a une conscience, alors il doit remplir une fonction. Un robot avec conscience et un robot sans conscience doivent être quelque peu différents les uns des autres. Et alors?

- Et comment vous différenciez-vous d'un robot? - le représentant de la "Société pour la protection des robots" pose une contre-question.

"Eh bien, je suis plus intelligent", se détache involontairement de vos lèvres, mais vous vous arrêtez tout de suite, réalisant une erreur.

"La différence entre les robots et les humains n'est pas du tout au niveau de l'intelligence", poursuit le représentant. - Pour les robots qui ajoutent DÉJÀ des nombres plus rapidement que vous, l'IA reconnaît les images, distingue un chat d'un chien, vous bat facilement aux échecs et, en se connectant à IBM Watson, donne des prévisions météorologiques et, enfin, explique comment vaincre le cancer (IBM Watson diagnostique le cancer mieux que les médecins certifiés et prescrit les méthodes de traitement).



"Mais cela ne donne aucun sentiment au robot", continuez-vous de penser:

Le robot a un programme, quoique compliqué, avec une boucle de rétroaction, des réseaux de neurones auto-apprenants, des algorithmes heuristiques et une fonction d'autocorrection des erreurs. Mais dans tous les cas, le fonctionnement du programme est clair. Quels changements la conscience sensorielle peut-elle apporter au travail d'un programme algorithmique clair? Aucun. Si le robot ne s'écarte pas du programme, alors le robot n'a pas besoin de conscience, il est inactif et, par conséquent, il n'a pas de conscience. Lorsqu'une voiture autonome contourne un poteau, évitant une collision, on comprend qu'elle suit les instructions du programme, et non les ordres de la conscience de la sensation.

Ainsi, pour détruire votre copie du robot, il suffit de prouver qu'il fonctionne selon le programme - plus précisément, de prouver qu'il ne s'écarte pas du programme. Comment faire? Très simple.

Vous pouvez éteindre le robot, puis créer exactement le même matériel et remplir le deuxième robot avec une copie du programme et la mémoire de votre copie - cette opération est similaire à la copie d'un lecteur flash. Ensuite, placer vos deux copies dans un environnement identique est meilleur en réalité virtuelle, car créer deux copies de réalité virtuelle est beaucoup plus facile que de créer des conditions identiques pour deux robots dans la vie réelle.

Faites-le, puis allumez deux robots identiques dans deux réalités virtuelles identiques et examinez leur comportement.

Si les robots ne s'écartent pas du programme, ils se comporteront de manière identique. Et cela signifie qu'ils n'ont pas de conscience, car la conscience doit faire quelque chose, avoir une certaine influence sur le monde.

Vous vous réjouissez! Hourra, est-ce une victoire?

- Puis-je envoyer votre copie à la poubelle?

Mais ici, vous voyez que deux copies du robot commencent à se comporter différemment.

«Prenez votre temps», déclare le représentant de la Robot Protection Society. - Les développeurs insidieux de votre copie ont ajouté un générateur de nombres aléatoires implémenté à l'aide de quanta à son programme. Seul le hasard quantique ne peut pas être prévu. Par conséquent, un signal vraiment aléatoire interfère avec le programme, modifiant le comportement de chacun des robots. En conséquence, vous voyez que les robots se comportent différemment.

«Mais cela ne signifie pas du tout qu'ils ont une conscience de sentiment», vous n'abandonnez pas et continuez à penser.

Et que fait mon propre esprit? Tout ce qui se passe dans le monde obéit aux lois de la nature. Nous sommes tous constitués d'atomes et les atomes obéissent aux lois de la physique. Personne n'a vu, par exemple, sur les gens du LHC avec un effort de pensée rejeter le vol des particules. Il est tout aussi impossible d'influencer les lois physiques avec votre désir que de déplacer des pierres avec un effort de pensée.

Vous commencez déjà à en arriver à la conclusion paradoxale que vous-même n'avez pas de conscience! En effet, la conscience ne peut pas influencer les lois de la nature, l'activité électrique de votre cerveau. Il s'avère que vous obéissez vous-même au travail du programme que la nature a écrit. Mais c'est un paradoxe! Vous savez alors que vous avez une conscience! Tu sens!

Le dernier espoir demeure. Il est nécessaire de trouver une «faille» dans les lois de la nature, qui permet à une certaine entité (que nous appelons notre conscience) d'influencer le monde, de réaliser son libre arbitre et de donner des signaux de contrôle à son corps et à son cerveau.

Faille dans les lois de la nature

Il n'y a qu'une seule "faille" dans les lois de la physique. Il s'agit d'une réduction de la fonction d'onde quantique. Rappelez-vous l'expérience avec deux emplacements. La source libère une file d'attente de photons uniques qui traversent deux fentes et tombent sur l'écran, formant une grille de traînées lumineuses. Que disent les expériences et les lois de la physique? Lorsqu'une source libère un photon spécifique, il tombera certainement dans l'une des rayures de l'écran. Mais il est impossible de prédire exactement quelle bande un photon particulier obtiendra. C'est-à-dire que l'introduction d'un photon dans l'une des bandes est parfaitement cohérente avec les expériences.



C'est le seul fait scientifique connu à ce jour, qui permet à la conscience consciente de "pénétrer le monde". Toutes les autres actions physiques sont décrites de manière rigide, obéissent aux lois de la physique, fondamentalement prévisibles et donc assimilées à l'action du programme. Lorsqu'une pierre tombe au sol, nous comprenons que la conscience n'a rien à voir avec elle - les lois de la physique s'appliquent.

Il s'avère que la seule façon de trouver la conscience, de la détecter, de déterminer si elle existe ou non chez le sujet, est d'observer la réduction de la fonction d'onde au sein de la conscience. La conscience est construite sur une base quantique. Et lorsque l'ensemble des particules impliquées dans la formation de la conscience diminue (c'est-à-dire qu'il tombe dans une bande spécifique), la conscience peut influencer la bande dans laquelle le photon va tomber. Il est important de noter que la conscience ne peut pas influencer une expérience à deux intervalles, car un photon volant est en dehors du cerveau. Une expérience avec deux fentes est un analogue nécessaire pour illustrer et comprendre le mécanisme de la conscience. L'ensemble des particules est situé dans le cerveau, puis se réduit sous le contrôle de la conscience en une bande spécifique. Frapper un signal dans une bande spécifique est un signal de contrôle pour le cerveau, si nous parlons d'une personne,ou lancer l'un des programmes si nous parlons d'un robot.

Donc, vous comprenez que, comme un mécanisme quantique est intégré à votre copie du robot, le robot peut ne pas se comporter conformément au programme. Cependant, il existe deux options:

1. Les quantums sont réduits de manière aléatoire et le robot n'a pas de conscience.
2. Les quantums à l'intérieur du robot sont réduits sous le contrôle de la conscience.

Quelle sera la différence entre le comportement du robot avec ces deux options?

Dans le premier cas, le comportement du robot sera chaotique et le signal quantique ressemblera plus à une erreur système qu’à une action délibérée. C'est comme lancer un dé à six faces. Imaginez que vous passiez votre journée comme suit - chaque fois que vous avez le choix - par exemple, quels produits acheter en magasin, à quelle heure régler le réveil du matin, que ce soit pour devenir végétarien ou choisir un régime paléo ... - vous jetez un dé et allez à selon le numéro d'option qui est tombé. Votre vie deviendra chaotique. Par exemple, pour arriver au magasin, vous devez prendre une chaîne d'actions conscientes - prendre de l'argent, sortir par la porte, et non par la fenêtre du septième étage, choisir la bonne route, ne pas passer sous la voiture, etc. Le cube lancé ne sait pas que votre objectif est d'arriver au magasin,par conséquent, les options abandonnées ne peuvent tout simplement pas vous amener à acheter des produits - les solutions seront chaotiques et dans des directions différentes.

Ceci est similaire au travail d'un cygne, d'un cancer et d'un brochet, qui tirent dans des directions différentes.

Au contraire, dans la deuxième variante, lorsque la conscience contrôle la réduction quantique et, donc, donne un signal au cerveau, les décisions seront conscientes et coordonnées. Cela se verra lors de l'observation du comportement du robot.

Afin de couper complètement la subjectivité des jugements, que le robot ait une conscience sensible, l'expérience suivante est possible. Vous pouvez organiser un robot "sentiment de conscience" "Groundhog Day".

Puisqu'il y a un programme à l'intérieur du robot qui ne change sous l'influence de la conscience qu'occasionnellement, nous allons saisir ce moment. Écrivons l'état de la mémoire du robot jusqu'au moment où la conscience donne l'ordre au quantum d'entrer dans la bonne bande et ainsi de donner le signal correspondant. Nous verrons que la réduction quantique a fonctionné exactement dans la bande de droite. Nous allons maintenant remettre la mémoire du robot dans son état d'origine. Si le robot a conscience, cela entraînera à nouveau une réduction et un signal exactement dans la bande de droite. Et c'est un fait expérimental, qui ne peut être expliqué avec autre chose que la présence de la conscience. Ce fait sera un test pour la présence de la conscience consciente.

Donc, vous placez deux robots identiques dans un environnement identique et avec le cœur en train d'attendre le résultat ...

Action réaliste des effets quantiques dans les organismes vivants

PS: pour ceux qui se demandent s'il est possible pour les objets quantiques de participer au travail de la conscience, je cite le lien globalscience.ru/article/read/19110
Citation: «Les robins tiennent la liaison quantique dans leurs yeux pendant 20 microsecondes plus longtemps que dans le meilleur laboratoire systèmes. Telle est la conclusion des physiciens qui ont étudié comment les oiseaux utilisent les effets quantiques pour «voir» le champ magnétique terrestre. »
Il convient de noter que l'intérieur de l'œil du rouge-gorge est chaud, contrairement aux laboratoires où une température est créée proche de zéro en Fahrenheit (ce qui empêche la décohérence).

En fait, le problème soulevé est beaucoup plus profond que la relation entre les humains et les robots. La question concerne l'énigme de notre propre conscience. Depuis des milliers d'années, les philosophes se creusent la tête en essayant de deviner ce qu'est la conscience. Récemment, de nombreuses études neurophysiologiques du cerveau sont apparues et la question de la nature des sens a été au centre de l'attention de la communauté scientifique. De plus, beaucoup considèrent la philosophie de la conscience comme la question la plus importante de toute l'histoire humaine. En effet, toute notre vie, en fait, est une expérience d'émotions et de sentiments, nous voulons plus de sentiments positifs que négatifs. Ayant seulement percé le mystère de la conscience, nous pouvons à un nouveau niveau construire notre vie et nos sensations.

En termes techniques, par exemple, David Deutsch pense que nous ne créerons pas une véritable IA sans comprendre la nature de la conscience. On pense que le matériel informatique des ordinateurs a longtemps été en mesure de créer une véritable IA forte, il ne reste plus qu'à comprendre les principes du programme. Par conséquent, la philosophie de la conscience est également une discipline technique qui affecte la programmation.

J'y pense depuis longtemps et je suis arrivé à la conclusion que l'IA peut aider à résoudre le mystère de notre propre conscience, car avec l'IA, vous pouvez faire des expériences impossibles chez l'homme.

Les pensées exprimées dans l'article sont étroitement liées à l'énigme de la conscience que vous ressentez vous-même en ce moment.

Chez Geektimes, je publie des documents de nature plutôt théorique. Pour ceux qui s'intéressent à la façon dont la théorie de la conscience décrite se reflète dans la psychologie humaine et comment elle peut être appliquée dans la vie réelle, je cite le lien http://grrow.me/3will

Attraction of the Future

Il est connu que les effets quantiques ont un comportement très intéressant dans le temps. Il y a des expériences qui montrent que les quanta peuvent transmettre des corrélations dans le temps. Il semble que l'avenir soit capable d'influencer le présent. Par exemple, voici la description de l'expérience geektimes.ru/post/251826

Si la conscience utilise des effets quantiques, alors nous pouvons arriver aux conclusions suivantes: geektimes.ru/post/252864

Et en conclusion, je donnerai des conclusions purement logiques liées à la conscience. Il est particulièrement intéressant que la nécessité d'utiliser des paradoxes temporels puisse être atteinte de manière purement logique:

Source: https://habr.com/ru/post/fr383199/