Les réflexions sur la singularité technologique au-delà, en fait, des tentatives d'avancer dans la compréhension des processus qui se cachent derrière ce terme - c'est-à-dire, en fait, des réflexions sur l'attitude envers la singularité technologique - sont, en quelque sorte, un véritable test de
Kobayashi Maru pour les gens du début du 21e siècle, ce qui signifie qui est de réaliser ce que signifie l'idée de l'inconnaissable, l'idée de perdre le contrôle et l'idée de cette inévitabilité à l'échelle de l'humanité tout entière.
En théorie, il s'agit d'une simple pratique psychothérapeutique: trouver à l'intérieur du point où la reconnaissance consciente des conditions du jeu rattrapera l'équilibre avec l'acceptation par le subconscient - sans être blâmé pour le déni, la colère, la négociation ou le désespoir.
Et ce test, qui, à en juger par la plupart des arguments à son sujet, échoue exclusivement.
Et l'auteur de l'article «Être technophobe est inutile, même si la technophobie est justifiée», malgré le titre prometteur, ne semble pas faire exception quand ils arrivent à négocier, c'est-à-dire au stade où les gens essaient de donner un sens à leur sens habituel de ce concept dans des circonstances qui nient la possibilité même de cela, grâce à la rationalisation.
arttom a négocié l'idée d'une "boîte noire" selon laquelle:
- les gens conviennent que l'inconnaissable reste inconnaissable, et même, en confirmation de leur bonne foi, ils acceptent aussi un peu collectivement un peu terne - ce qui, cependant, n'a aucun sens du point de vue des intérêts de l'inconnaissable, qui ne le rendra pas inconnaissable;
- en retour, les gens obtiennent cet inconnaissable, quel que soit l'inconnaissable, contenu - à l'intérieur de cette très «boîte noire», qui est néanmoins, dans une certaine mesure sous contrôle, limitée - et en ce sens, toujours conscient , et pas si effrayant, mais littéralement limité.
Autrement dit, ils n'ont pas encore maîtrisé cet exercice. Et c'est très mauvais.
C'est-à-dire, d'une part, c'est généralement une leçon facultative: vous pouvez, avec divers degrés de justification, ne pas même croire au concept même de singularité technologique, qu'il s'agit d'une véritable projection de processus dans le futur - ou, banalement, ne pas le savoir.
Mais les gens qui connaissent et partagent cette idée se mettent dans des conditions inévitables de choix psychologique et rationnel, dans lesquelles toutes les autres options, à l'exception de la pleine acceptation, sont pires, car, en cas de véritable tournure des événements de cette manière, ce seront des foyers de tension croissante, foyers de pression émotionnelle croissante, prenant le dessus sur la raison avec des conséquences imprévisibles au point que la partie désemparée de l'humanité apportera une fin catastrophique à toute la civilisation selon le scénario de l'épanouissement personnel prophéties.
Et pour éviter cette fin absurde, monty-pintonovskogo peut être la même chose en acceptant l'inévitabilité de l'inconnaissable, qui comprend l'inconnaissable et si ce sera la fin. (Un cauchemar pour les névrosés qui trouvent plus facile d'accepter une mort garantie que la perte de l'illusion de contrôle dans une telle mesure).
C'est, quoi qu'on puisse dire, Kobayashi Maru.
Il a été efficace pour moi personnellement de trouver l'harmonie en imaginant l'un des scénarios les plus effrayants pour le développement des événements: que les gens créent eux-mêmes un successeur, un remplaçant, des bourreaux.
Eh bien, disons.
- Pouvons-nous l'arrêter? Non.
- Ralentir? La formulation même de la question du ralentissement du processus, dont la vitesse et le dernier point dont nous n'avons aucune idée, est absurde.
- Prenez le contrôle? Les gens ne peuvent pas prendre le contrôle d'une singularité technologique - ou ils peuvent prendre le contrôle de quelque chose d'autre sans couvrir la question de l'attente et la probabilité de son apparition.
Alors tout est simple: apprécier la beauté du jeu tout en continuant.
Cependant, ayant franchement franchi ce scénario mental jusqu'au seuil des bras artificiels géants de Skynet, j'ai fait un pas - et, me retrouvant de «l'autre côté» de la singularité technologique, je me suis retourné ... et je n'ai rien vu derrière. Elle n'était tout simplement pas derrière une singularité technologique - et n'était pas en avance, et n'était nulle part.
Non, prévoir ou même espérer un certain avenir est une tâche ingrate. Une autre chose est de supposer à quoi s'attendre, très probablement, ne devrait pas être. Avec une certaine solidité de jugement, cela peut s'avérer être une occupation très réussie.
Et je suis tout à fait sûr que la singularité technologique rappelle au moins quelque peu vaguement tout l'assortiment de scénarios possibles inventé par les gens de ce moment ou ses analogues - cela n'en vaut pas la peine.
Ayant perdu l'un des scénarios les plus délicats, à mon avis, possibles, j'ai vu son indécence centrée sur l'homme avec une clarté qui ne me permet pas maintenant de voir cela.
Tout le concept de singularité technologique ne concerne pas l'IA, pas la technologie, pas la singularité, mais l'homme, car ce point imaginaire lui-même est l'endroit où l'humanité est censée perdre le contrôle des technologies en développement.
I. Quelle horreur, quelle humanité, et donc ne pas contrôler, et jamais contrôler des millions de choses dans la réalité non hypothétique d'aujourd'hui, dont chacune menace la mort des personnes individuellement et de la civilisation dans son ensemble: du contenu de leur propre intérieur, de la microflore de leurs propres intestins, la dynamique de la division de nos propres cellules - à la pandémie de gonorrhée résistante aux antibiotiques, au changement climatique, à la réaction en chaîne de l'anneau de feu volcanique du Pacifique - pourrait cesser de contrôler notre phénomène pour un autre réalité plus sans être en mesure d'évaluer, même l'augmentation du risque relatif parce que les gens ne sauront jamais combien d'entre eux de toute façon.
II. L'argument sur l'accélération inimaginable du taux d'apprentissage automatique est également assez ridicule, si vous y réfléchissez. Je ne dirai même pas que le niveau informatique moderne est déjà inaccessible et, pour la plupart de l'humanité, incompréhensible en tout cas. Avant les calculs, les gens vivaient dans la réalité, qui consistait en des processus incompréhensiblement rapides, indistinctement petits - et tout simplement indiscernables, comme la plupart des fréquences sonores, comme la plupart des rayonnements, et de nombreux autres processus, collectivement énormes, comme l'Univers et anciens, comme l'Univers. Tout le bruit entourant la réalisation d'une telle vitesse de calcul, pour laquelle les gens perdront la capacité de comprendre même grossièrement comment ils se produisent, n'est rien de plus que la peur de perdre une autre illusion de contrôle. Supposons que demain, tous les ingénieurs, mathématiciens et programmeurs du monde qui ont une idée de la construction des algorithmes de calcul existants les plus complexes soient tués par la gonorrhée résistante aux antibiotiques - et ... qu'est-ce que lundi est une singularité en avance sur le calendrier? Les gens conserveront toujours la capacité à un certain degré d'être conscients de ce qui se passe - les lois de la physique n'auront pas à changer, en quelque sorte. Et les gens, tout de même, dans une certaine mesure, n'ont jamais eu une idée complète de quoi que ce soit - par exemple, sur les processus au niveau quantique ou au-delà de l'horizon des événements (dans une singularité «différente»).
III. "Mais ... les robots vont commencer à penser quelque chose d'incompréhensible!" Cela complique terriblement la réalité, dans laquelle pour chaque personne il y a 7 milliards d'autres personnes - et chacun pense quelque chose d'incompréhensible. Et il n'est pas nécessaire de compter sur la prévisibilité humaine dans la réalité, où une
tumeur dans la tête peut être une raison tout à fait possible d'être tué par un mari ou un fils . Et après tout, les gens vivent en quelque sorte parmi leurs tueurs potentiels, qui ne savent pas ce qu'ils pensent - mais ils ont déjà peur des robots. Bien que les robots méritent simplement le bénéfice du doute ici - jusqu'à présent, ils ne sont pas qu'ils n'ont pas montré de tendances manicides dans les plus petites proportions de telles manifestations parmi les personnes elles-mêmes, mais elles contribuent également activement à réduire la mortalité humaine. L'espoir que, s'étant sentis très intelligents, les robots se comporteront soudainement comme si leur tumeur s'était formée, est une projection trop évidente.
La fiction réveille les rêves et les robots sont des personnages de contes de fées.IV. Pas une partie, pas une majorité, mais, littéralement, tout à la boue que les gens ont jamais imaginée réalisée par des robots - exclusivement les projections de la boue que les gens ont créées les uns avec les autres et toutes les autres formes de vie tout au long de leur histoire connue et oubliée .
Je pouvais même comprendre les robots rebelles qui détruisent l'humanité simplement par des sentiments insultés causés par une telle calomnie injuste et sauvage de leurs intentions, le noircissement de leur image et l'intimidation par le fait même de leur existence en principe - si ce n'était pas aussi ma projection.
V. Bien que la seule explication raisonnable de la crainte que les robots, l'IA et tout-tout accordent généralement une attention particulière aux personnes ne repose que sur ce que les gens évaluent la probabilité de cela. Malgré le fait que les gens eux-mêmes n'expriment pas particulièrement le désir de rassembler et de découper, sinon leurs ancêtres, des cousins évolutionnaires - les chimpanzés. Bien que, encore une fois, le bilan humain en matière d'organisation de massacres et de massacres insensés ne soit à nouveau pas en faveur des gens - en outre, sec.
De plus, pirater un autre biais, égocentrique et étouffant dans ces arguments est encore plus facile: il suffit de déplacer le focus spécifiquement de l'homo sapiens vers tout autre échantillon de créatures vivantes. Disons que les robots tuent tous les humains - pas question. Vous n'avez même pas besoin de demander pourquoi - les gens le savent eux-mêmes.
La question est différente: pourquoi les robots ne tueront que des humains? Des bêtises sur le terrible John Connors dans le sens du retard, car on a convenu qu'il s'agit d'une véritable singularité technologique?
N'est-il pas drôle que l'une des options pour refléter une peur très moderne et technologique de l'avenir était une autre narration du mythe du Sauveur, y compris des motifs reconnaissables comme battre des bébés - un conte de fées si ancien que même le remake de Bethléem peut être considéré comme une adaptation relativement récente.
Pourquoi les robots ne tuent-ils pas tous les primates? Ou tous les mammifères? Ou toute la faune? Ou toute la vie biologique sur Terre? Bien sûr, nous ne pouvons pas, selon les conditions du problème, savoir ce que ces robots auront en tête, mais nous pouvons faire autre chose: en pesant toutes les craintes existantes que l'humanité ne survivra pas à l'aube de l'ère des robots et de l'intelligence artificielle avec complètement arbitraire, sur goût de chacun, avec un coefficient de probabilité similaire - répétez la même opération, mais déjà pour les chiens et les coyotes. Puis les dauphins. Puis les cafards. Et les rongeurs, juste au cas où.
Je me permettrai de supposer que pour de nombreuses personnes, quel que soit le degré de techno-fatalisme, les chances des coyotes et des dauphins de survivre au début du royaume des robots et, peut-être même sans vraiment remarquer que quelque chose a changé, peuvent sembler plus élevées que les chances des personnes elles-mêmes. Même les chimpanzés ne semblent pas être une cible valable pour la récolte sanglante de tonneaux à quatre pattes de Boston Dynamics, torturés par des coups de pied - si vous attendez quelque chose d'eux, ils sont plus susceptibles d'équiper les chimpanzés d'armes automatiques, de les mettre à cheval et d'organiser la chasse pour les survivants.
Certes, il n'est pas du tout surprenant que cette préférence attendue des futurs robots sanguinaires à la circulation sanguine humaine soit clairement présente dans la conscience de masse?
Bien sûr, les robots décideront peut-être que pour une raison quelconque, toutes les formes de vie ne leur conviennent pas. Mais, encore une fois, un changement d'orientation donne le «facteur humain»: il est logique de s'attendre à ce que, étant né sur Terre, la forme de vie en silicium détruise soudainement toute la biosphère - autant que de supposer que si la race des robots était née sur Mars, ils repeindraient immédiatement surface de la planète rouge dans un drapeau polonais géant.
Je suis sûr que la déconstruction de ce monument de l'égocentrisme humain, non perturbé par l'attention du bon sens, de la logique et du scepticisme, peut se poursuivre et se poursuivre. Mais, pour plus de clarté, je vais résumer un petit résultat intermédiaire.
- Je ne vois aucune raison raisonnable d’attendre à l’avenir le début de la singularité technologique en tant qu’événement spécial, qu’il sera impossible de ne pas remarquer dans le courant général de tous les changements dans le monde réel;
- ou comme un changement significatif dans la direction du cours de l'histoire humaine à la fois dans tous ou la plupart des aspects à un certain moment.
Le rythme des évolutions technologiques continue d'augmenter d'une manière ou d'une autre, mais au-delà des limites de cette dynamique, je ne vois aucune raison de m'attendre à un seul instant d'un saut qualitatif qui ne peut être manqué ou expliqué dans le contexte de la tendance générale.
De plus, cette dynamique est inégale dans différents domaines du développement technologique;
et toute la conversation sur la singularité technologique dans le contexte du progrès technologique perd généralement de vue les autres directions du développement de la civilisation humaine, y compris celles dans lesquelles elle est relativement retardée. Et le résultat paradoxal du progrès inégal de l'humanité dans des domaines spécifiques peut être la «singularité inversée», quand même un événement qui est raisonnablement adapté aux attentes ne sera pas remarqué et interprété au niveau approprié.
L'avenir est toujours imprévisible et ne peut pas devenir imprévisible. Il n'y a aucune raison de s'attendre à des sauts dans la dynamique des changements si drastiques qu'ils seront perceptibles au moment de leur offensive. Et l'hypothèse selon laquelle il est possible de remarquer et de déclarer le début de la singularité post-factum dévalue l'idée globale de ce moment comme un moment unique dans l'histoire humaine, dont le début ne peut être manqué.Le mythe de la singularité technologique
- La mesure dans laquelle l'idée de singularité technologique est centrée sur l'homme,
- dans quelle mesure il est formé par le folklore, et non par les futurologues,
- dans quelle mesure il est non scientifique, mais archétypal;
- combien peu de traces de logique sont dans cette œuvre de l'inconscient humain;
- que les détails modernes - ce sont des grains de sable dans une coquille de perle, mais tout le tissu de connexion est mythologique - suggèrent l'idée d'une nature fondamentalement différente de l'idée de singularité technologique en tant que telle que ce que l'on croit généralement.
Franchement, la singularité technologique n'a aucune raison d'être qualifiée de théorie au sens scientifique strict. Cependant, cela s'applique à toutes les tentatives de prédire l'avenir sans exception. La singularité technologique est beaucoup plus précise et juste, étant donné son enracinement dans l'inconscient de masse, sera déterminé par le mythe.
Et, à ce titre, le mythe de la singularité technologique présente des parallèles notables avec le mythe de la seconde venue de Jésus-Christ, avec lequel ils représentent deux cas particuliers de l'un des principaux intrigues mythiques de la célèbre histoire: le mythe de la fin du monde.
L'inconscient collectif a donc donné lieu à une nouvelle incarnation du mythe de la fin du monde au moment actuel de l'emballage, qui s'est avéré arraché à la foi dans le progrès technologique. C'est un paradoxe auquel je veux mettre fin.
Soutenez les nouvelles publications avec un don sur le lien money.yandex.ru/to/41001178171050 (carte, poison) ou via le bouton "Envoyer de l'argent" ci-dessous (poison, PayPal)