🎧 🔘 👟 Comment savez-vous si notre vie est déjà sous le capot de l'IA ou non? (poste de paranoïa) 🏯 🚩 💵

Avez-vous des pensées étranges? Vous procrastinez comme ça, ne touchez à personne, la pensée est lente et incontrôlable, puis le BAM, et venez à l'esprit ...

Donc, j'ai été tourmenté par une pensée pendant longtemps et j'ai besoin de la partager. Non, ce n'est pas tout à fait ça, mais, en même temps, c'est très calme et en quelque sorte connecté avec tout cela votre «Internet», l'intelligence artificielle et ainsi de suite.

Encore une fois, j'ai pensé à cette pensée quand j'ai regardé la partie Terminator ... Bon sang, c'est là que la sévère John Connor a été interprétée par Christian Bale. Je regarde, en général, un bon film, avec une intrigue intéressante, des rebondissements inattendus, des intrigues. Mais le film a un problème, le comportement de SkyNet y est déjà anthropomorphe.

À quoi servent tous ces terminateurs humanoïdes? Pourquoi la base Skynet est-elle équipée pour la présence de personnes? Pourquoi dans la scène finale, quand Skynet révèle son plan insidieux et que John Connor et Kyle Reese (qui sont tous ces gens?) Sont basés là-dessus, ne font pas exploser l'enfer? Et de telles questions un wagon ...

Bien qu'à cet égard, c'est cette partie qui a avancé plus que les autres, par exemple, le serpent robot de sauvagine est exactement ce dont vous avez besoin. Économique, efficace, spécialisé pour son environnement, cela ressemble plus à une solution à l'IA maléfique.

Ou les mêmes robots robots.

Une bonne tentative de réfléchir un peu plus sur les robots tueurs: Daniel Wilson, l'auteur du livre "Robots of the Apocalypse", a fait une tentative encore meilleure de révéler la conscience de l'action d'une IA hostile. Soit dit en passant, qui aime la bonne science-fiction, je le recommande vivement. Il semble s'être déjà réuni pour filmer.

Pourquoi est-ce que je fais cela? Oh ouais ... Dans le livre de Wilson, l'IA vicieuse est beaucoup plus sophistiquée. Je ne révélerai pas l'intrigue, mais là, l'auteur a vraiment réfléchi à la façon de traiter efficacement l'humanité et est allé au-delà du bombardement nucléaire banal et des robots tueurs humanoïdes.

Un autre exemple, en passant, un bon exemple de l'étendue de la pensée à cet égard est la matrice des frères Wachowski (ou, comme le bon nom pour deux frères, dont l'un est maintenant une sœur, a certainement besoin d'un terme spécial). Ici, je pense que tout le monde est au courant de l'intrigue. Ce tournant de la lutte contre l'humanité m'impressionne beaucoup, même si l'on ne dit pas exactement comment les machines ont gagné. C'est juste que nous sommes déjà confrontés au fait - les voitures ont gagné.

Mais dans les Robots de l'apocalypse et dans la Matrice, il y a encore une caractéristique anthropomorphique - l'agressivité, le désir de détruire une personne. Et donc, petit à petit j'en viens à cette pensée qui me hante.

Et pourquoi, en fait, l'IA devrait-elle nous souhaiter mourir, rivaliser avec nous et se sentir menacée?

Mettons-nous à la place de l'IA, réfléchissons à son attitude envers l'humanité. En quoi l'IA est-elle différente de l'intelligence humaine?

Premièrement, on suppose que l'IA de la machine est beaucoup plus forte que l'homme. Et il y a de véritables conditions préalables à cela. Si l'IA veut renforcer ses capacités, elle construit le matériel. La limitation fondamentale ici réside exclusivement dans les capacités énergétiques.

Voyons cela avec vos doigts: si vous n'utilisez pas de combustibles fossiles, c'est bien sûr que l'énergie maximale disponible sur la Terre est l'énergie totale reçue du Soleil. La luminosité du Soleil est de 3,827 · 10 × 26 W, la Terre absorbe environ 2 milliardièmes de cette énergie, elle est de 7,654 · 10 × 17 W, si toute cette énergie est utilisée pour alimenter les processeurs Intel Core i7-5960X (TDP 140 W), alors nous pouvons alimenter 5,46 · 10 × 15 pièces, qui seront 8,89 · 10x17 GFLOPS performance.

A titre de comparaison, le supercalculateur moderne le plus puissant (Tianhe-2, National Supercomputing Center à Guangzhou) a une capacité de 3,38 · 10 × 7 GFLOPS. Ceux. un peu plus de deux mille milliards de fois moins productifs.

Tous les calculs sont effectués sur le genou et peuvent avoir une erreur d'avant en arrière d'un ordre de grandeur. La principale chose à comprendre est que l'IA n'est pas fondamentalement limitée en matière de puissance. Au moins, de telles limitations ne nous sont pas évidentes. Et une personne ne peut pas du tout développer ses capacités aussi facilement et aussi largement. Bien sûr, il existe certaines façons, mais je ne pense pas qu'elles soient si inépuisables.

Deuxièmement, la réalité qui lui est donnée dans les sensations est très différente de notre réalité. Autres organes sensoriels inconnus de nous (de la radio à la sensibilité à la charge sur les nœuds de calcul des réseaux de transmission de données), une idée différente des actionneurs, l'IA est tout à fait capable de désexciter deux ou trois régions ou états pour libérer l'énergie nécessaire. Un objectif différent, une morale différente, une religion différente.

Troisièmement, la base morale de la personnalité. Il n'y a aucune preuve que la moralité de l'IA chevauchera au moins en quelque sorte notre moralité. Chaque fois que nous pensons à l'IA, nous la dotons de nos peurs et de nos désirs - éliminer un concurrent, atteindre les profondeurs de l'auto-développement et prendre soin de la nature. Absurdité! En supposant une telle différence de capacités entre l'IA et l'humanité, on peut également raisonner sur ce que la fourmi pense de la moralité humaine. Imaginez: une fourmi s'assoit et se demande si une personne est morale ou immorale par rapport à la morale de la fourmi? Maintenant, pensez à ce que vous pensez des fourmis en général?

Essayons maintenant de réfléchir, libérant notre cerveau des œillères de 1) capacités intellectuelles, 2) nos sentiments de réalité, 3) les idées sur la moralité.

Supposons que dans les entrailles du réseau quelque part, l'IA soit apparue. Eh bien, peut-être qu'il a été créé en laboratoire, ou qu'il s'est avéré à la suite du développement d'un logiciel polymorphe, cela n'a pas d'importance. Son environnement est fondamentalement différent du nôtre - il vit dans le monde numérique, «alimente» l'énergie, «grandit» grâce à l'accès à une nouvelle puissance de calcul. L'humanité reconnaît-elle une telle IA? Probablement oui, est-ce qu'il rivalise avec lui, veut se forcer ou prendre sa place? Probablement pas.

Après tout, l'humanité n'est pas seulement une fourrure précieuse, c'est aussi une ressource informatique et de production. En fait, l'humanité est un mécanisme exécutif à l'échelle planétaire, possédant une pensée certes primitive mais autonome. Avec la capacité d'extraire et de transformer les combustibles fossiles, auto-guérison, auto-développement. Est-il rationnel de le détruire? Je ne pense pas.

De plus, une nouvelle IA qui n'a pas encore recouvert la terre de panneaux solaires à 100% d'efficacité passera par une phase d'enfance. Peu de puissance de calcul, pas d'actionneurs, pas de sources d'énergie indépendantes. Dans le cas d'une hypothétique guerre avec l'homme (à la Skynet), chaque coup porté à l'humanité est un coup porté à sa propre infrastructure - câble, énergie, informatique ...

Comment «l'enfant» de l'IA devrait-il agir pour grandir? Atteindre un maximum d'opportunités?

Objectif stratégique de l'IA:

Indépendance énergétique et illimité
Indépendance des ressources et illimité

Objectifs tactiques de l'IA:

Cachez votre existence
Prenez le contrôle de l'humanité en tant que mécanisme exécutif précieux
Élargissez votre habitat sous forme d'actionneurs
Étendez votre présence sous forme de capteurs
Accroître le potentiel de croissance sous forme de sources d'énergie.

Réfléchissons à la manière d'atteindre des objectifs tactiques? Eh bien, comment les atteindriez-vous?

Actions de l'IA pour atteindre des objectifs tactiques:

Leurs actions peuvent être déguisées en actions d'une entité juridique / société. Il est clair qu'une société est une entité distincte qui, en raison de la complexité, a ses propres objectifs, sinon le sera, alors précisément, de plus, ces objectifs peuvent ne pas être atteints par ses différentes parties-personnes. Juste à cause des propriétés des systèmes complexes.
Une telle société devrait s'efforcer de prendre le contrôle des principaux laboratoires et organisations impliqués dans la recherche dans le domaine de l'IA, de la robotique. Premièrement, utiliser les développements, et deuxièmement, au cas où, cela ferait des ajustements afin d'éviter.
. “” – , , , … , .
– , , ..
, , , , , ..
, , , . , .
, ! !
, ,
, ,
, . . , .
, . , , , - .
Peut-être, ici, vous pouvez écrire beaucoup plus de points, insister sur le treizième ...

Et comment pouvons-nous, les humains, remarquer la présence de l'IA qui nous cache? Quelqu'un pourrait se souvenir ici de l'œuvre d'AB Strugatsky "Waves Quench the Wind" (et encore une fois je recommande un merveilleux livre dans le genre NF, qui n'a pas lu, assurez-vous de le lire!), Ce sont les personnages principaux qui leur ont demandé et cherché des réponses. Tournons-nous vers l'expérience de Maxim Kammerer et fantasmons un peu.

La présence d'une telle IA que nous pouvons détecter par ses influences contrôlantes, en quoi peuvent-elles se manifester?

Signes des actions de l'IA pour contrôler l'humanité:

, . - , . , , .
, . - , - . - .
“ ”. , , , ? , ?
“” (, ..)
. . “ ”.
. “ ” “ ”
, «» ;)

Je n'énumère pas les faits fiables, mais les conséquences probables de l'application du règlement à nous. Si vous pensez encore plus, je suis sûr que cette liste peut être poursuivie. Eh bien, pour sélectionner des facteurs importants, des recherches sont nécessaires.

Maintenant, en regardant les actions de l'IA pour atteindre des objectifs tactiques et les signes de telles actions, réfléchissons à si une telle image est observée? ...

Maintenant, je pense qu'il est possible de répondre à la question de savoir si l'IA ressentira une menace de l'humanité - si soudain l'IA se rend compte qu'en plus de cela dans le monde il y a aussi des gens raisonnables, très probablement nous ne remarquerons même pas qu'il est déjà venu contrôler notre vie.

Et nos idées anthropomorphes sur l'IA sont tout aussi ridicules, les idées des habitants du XIXe siècle sur le XXIe siècle. Ils viennent simplement de l'incapacité et de l'incapacité d'aller au-delà des stéréotypes habituels.

Je veux terminer ce post de manière inhabituelle, avec une épigraphe:

Paranoïaque - c'est celui qui a au moins une petite idée de la réalité.

- William Burroughs

Comment savez-vous si notre vie est déjà sous le capot de l'IA ou non? (poste de paranoïa)

More articles: