La loi de l'accélération des retours (partie 2)

La deuxième partie de la traduction de l'essai de Raymond Kurzweil «La loi des retours accélérés» .

(La première partie est ici )

Expérience de pensée

Voyons de plus près qui je suis et qui est le nouveau Ray. Tout d'abord, mon corps et mon cerveau sont moi?

Gardez à l'esprit que les particules qui composent mon corps et mon cerveau changent constamment. Nous ne sommes pas du tout une collection constante de particules. Les cellules de notre corps changent à différentes vitesses, mais les particules (comme les atomes et les molécules) qui composent nos cellules changent très rapidement. Je ne suis pas du tout le même ensemble de particules qu'il y a même un mois. Je suis une structure de matière et d'énergie semi-permanente (en ce sens qu'elle ne change que progressivement), alors que notre contenu matériel change constamment et très rapidement. Au contraire, nous ressemblons à des motifs créés par un jet d'eau qui coule. Se précipitant sur les pierres, l'eau forme un motif spécial et unique. Il peut rester relativement inchangé pendant plusieurs heures, voire des années. Naturellement, la substance elle-même, qui forme le motif - l'eau, est remplacée toutes les millisecondes. Il en va de même pour Ray Kurzweil. Comme l'eau dans un ruisseau, mes particules changent constamment, mais le modèle que les gens reconnaissent comme Ray Kurzweil a un certain niveau de continuité. Cela nous amène à l'idée que nous ne devons pas associer notre identité fondamentale à un ensemble spécifique de particules, mais plutôt à la structure de l'énergie et de la matière que nous représentons. De nombreux philosophes modernes semblent être partiaux à cet argument de «l'identité dans la structure».

Attendez une minute (encore)!

Si vous scanniez mon cerveau et recréiez un nouveau Ray pendant que je dormais, je n'aurais même pas besoin de le savoir (avec des nanobots, ce serait un scénario entièrement réalisable). Si alors vous venez à moi et dites: "Bonne nouvelle, Ray, nous avons réussi à restaurer le fichier de votre esprit afin que vous n'ayez plus besoin de votre ancien cerveau", je peux soudainement trouver un défaut dans cet argument "identité par structure". Je pourrais souhaiter le succès du nouveau Ray et réaliser qu'il utilise ma «structure», mais j'arriverais quand même à la conclusion qu'il n'est pas moi, car je suis toujours là. Comment pouvait-il être moi? Mais au final, je ne savais même pas qu'il existait même.

Regardons un autre scénario déroutant. Supposons que je remplace un petit nombre de neurones biologiques par des neurones non biologiques fonctionnellement équivalents (ils peuvent fournir certains avantages, tels qu'une plus grande fiabilité et durabilité, mais ce n'est pas essentiel pour cette expérience de pensée). Après avoir terminé cette procédure, suis-je toujours la même personne? Mes amis le pensent certainement. Après tout, j'ai toujours le même humour dérogatoire, le même stupide oui-sourire, je suis toujours le même gars.

Il devrait être clair où je conduis. Peu à peu, région par région, je remplacerai finalement mon cerveau entier par des équivalents non biologiques presque identiques (éventuellement améliorés) (en préservant toutes les concentrations de neurotransmetteurs et d'autres détails qui représentent ma formation, mes compétences et mes souvenirs). À chaque instant, je sens que les procédures ont réussi. À chaque instant, j'ai l'impression d'être le même gars. Après chaque procédure, je prétends que je suis le même gars. Mes amis sont d'accord. Il n'y a pas de vieux Ray et un nouveau Ray, il n'y a qu'un seul Ray, qui semble essentiellement inchangé.

Cependant, tenez compte des points suivants. Ce remplacement progressif de mon cerveau par son équivalent non biologique est essentiellement identique à la séquence suivante:

1. scanner Ray et recréer l'esprit de Ray dans un nouveau Ray (non biologique), puis
2. enlever le vieux rayon

Mais ci-dessus, nous sommes arrivés à la conclusion que dans ce scénario, le nouveau Ray n'est pas le même que l'ancien Ray. Et si l'ancien Ray est supprimé, alors Ray cesse d'exister. Ainsi, le scénario de remplacement progressif se termine essentiellement par le même résultat: un nouveau rayon a été créé et l'ancien rayon a été détruit, même si nous ne l'avions jamais vu disparaître. Ce qui semble être l'existence continue d'un seul Rayon est en fait la création d'un nouveau Rayon et la destruction de l'ancien Rayon.

D'un autre côté , le scénario de remplacement progressif n'est pratiquement pas différent de ce qui se passe habituellement avec notre essence biologique, en ce sens que nos particules sont toujours rapidement remplacées. Alors, suis-je vraiment constamment remplacé par quelqu'un qui, par coïncidence, me ressemble beaucoup?

J'essaie d'illustrer pourquoi la conscience n'est pas un sujet aussi facile. Si nous parlons de la conscience comme d'un certain type de compétence intellectuelle: par exemple, la capacité de réfléchir sur nous-mêmes et la situation, alors le problème n'est pas compliqué du tout, car toute compétence, capacité ou forme d'intelligence qui doit être déterminée sera reproduite dans des objets non biologiques (c.-à-d. machines) pendant plusieurs décennies. Avec ce type de vision objective de la conscience, les énigmes disparaissent. Mais une vision complètement objective ne pénètre pas dans l'essence du problème, car l'essence de la conscience est une expérience subjective , et non les corrélats objectifs de cette expérience.

Ces machines du futur seront-elles capables d'une expérience spirituelle?

Ils seront certainement admissibles à cela. Ils prétendront être des êtres humains et bénéficier de toutes les expériences émotionnelles et spirituelles que les gens revendiquent. Et ce ne seront pas des affirmations vides; ils présenteront tout l'éventail des comportements riches, complexes et subtils associés à ces sentiments. Comment ces affirmations et comportements incontestablement convaincants sont-ils liés à l'expérience subjective de ces personnes recréées? Nous continuons de revenir au problème de conscience objectivement existant mais finalement incommensurable.

Les gens parlent souvent de la conscience comme s'il s'agissait d'un attribut clair d'une entité qui peut être facilement détectée, identifiée et mesurée. S'il y a une suggestion importante que nous pouvons faire concernant la raison pour laquelle le problème de la conscience est si controversé, c'est bien:

Il n'y a pas de test objectif qui pourrait déterminer définitivement sa présence.

La science est des mesures objectives et des conclusions logiques basées sur elles, mais la nature même de l'objectivité réside dans le fait que vous ne pouvez pas mesurer l'expérience subjective - vous ne pouvez mesurer que ses manifestations, telles que le comportement (et dans le comportement, j'inclus les actions des composants constitutifs d'une entité, tels que comme les neurones). Cette limitation est liée à la nature même des concepts «objectif» et «subjectif». En fait, nous ne pouvons pas pénétrer l'expérience subjective d'un autre sujet en utilisant la mesure objective directe. Bien sûr, nous pouvons apporter des arguments en faveur de cette faveur, par exemple, "regardez à l'intérieur du cerveau de cet être non humain, voyez comment ses méthodes de travail sont similaires aux méthodes du cerveau humain." Ou "regardez comment son comportement ressemble au comportement humain." Mais au final, ce ne sont que des arguments. Peu importe à quel point le comportement de la personne recréée est convaincant, certains observateurs refuseront d'accepter la conscience de cette entité si elle n'éjecte pas de neurotransmetteurs, n'est pas basée sur la synthèse de protéines sous le contrôle de l'ADN, ou ne possède pas d'autre attribut biologique biologique spécifique.

Nous supposons que d'autres personnes sont conscientes, mais c'est toujours une supposition, et parmi les personnes il n'y a pas de consensus sur la conscience d'entités non humaines, telles que d'autres animaux supérieurs. La question sera encore plus controversée en ce qui concerne les futures entités non biologiques dotées d'un comportement et d'une intelligence humains.

Alors, comment réagissons-nous à une déclaration de conscience de l'intelligence non biologique (déclaration de machines)? D'un point de vue pratique, nous accepterons leurs réclamations. Gardez à l'esprit que les entités non biologiques du XXIe siècle seront extrêmement intelligentes, elles pourront nous convaincre qu'elles sont conscientes. Ils auront tous les signaux subtils et émotionnels qui nous convainquent aujourd'hui que les gens sont conscients. Ils peuvent nous faire rire et pleurer. Et ils seront en colère si nous n'acceptons pas leurs demandes. Bien qu'il s'agisse en fait de prévisions politiques, pas d'un argument philosophique.

À propos des tubes et de l'informatique quantique

Il y a quelques années, Roger Penrose, physicien et philosophe renommé, a suggéré que les structures subtiles des neurones, appelées tubes, effectuent une forme de calcul exotique appelée «calcul quantique». L'informatique quantique consiste à utiliser des «qubits» qui prennent toutes les combinaisons possibles de décisions en même temps. Cela peut être considéré comme une forme extrême de traitement parallèle (car toutes les combinaisons de valeurs qubit sont vérifiées simultanément). Penrose suggère que les tubes et leurs capacités de calcul quantique compliquent le concept de reconstruction des neurones et de reconstruction d'un état de conscience.

Cependant, peu de choses suggèrent que les tubes contribuent au processus de réflexion. Même des modèles extensifs de connaissances et de capacités humaines sont plus qu'expliqués par les estimations actuelles de la taille du cerveau basées sur des modèles modernes de fonctionnement neuronal qui n'incluent pas les canaux. En fait, même avec ces modèles sans chambre à air, il semble que le cerveau soit conçu de manière conservatrice avec un nombre de connexions beaucoup plus important (plusieurs ordres de grandeur) qu'il n'en a besoin pour ses capacités et ses performances. Des expériences récentes (par exemple, des expériences à l'Institute of Nonlinear Science de San Diego), montrant que les réseaux hybrides biologiques et non biologiques fonctionnent de manière similaire aux réseaux complètement biologiques, bien qu'ils ne soient pas finaux, montrent de manière convaincante que nos modèles de fonctionnement neuronal sans tubules sont adéquats . Le modèle informatique de Loyd Watts pour le traitement des informations auditives utilise un ordre de grandeur inférieur au calcul que le réseau de neurones qu'elle modélise, et il n'y a aucune indication de la nécessité de l'informatique quantique pour cela.

Cependant, même si les conduits sont importants, cela ne change pas les prévisions que j'ai discutées ci-dessus de manière significative. Selon mon modèle de croissance informatique, si les tubes augmentaient la complexité des neurones de mille fois (et gardez à l'esprit que nos modèles modernes de neurones sans tubes sont déjà assez complexes, y compris environ un millier de connexions par neurone, de multiples non-linéarités et d'autres détails), cela retarderait notre réalisation la performance du cerveau humain pendant seulement environ 9 ans. Avec une complexité multipliée par un million, le retard ne sera que de 17 ans. Billion donnera environ 24 ans (gardez à l'esprit que les performances informatiques augmentent à un rythme exponentiel double).

Quant à l'informatique quantique, encore une fois, rien ne suggère que le cerveau fait de l'informatique quantique. Le fait que la technologie quantique soit possible ne signifie pas que le cerveau la met en œuvre. Après tout, nous n'avons pas de laser dans notre cerveau, ou du moins pas de radio. Bien que certains scientifiques prétendent détecter l'effondrement d'une onde quantique dans le cerveau, personne n'a proposé des capacités humaines qui nécessitent vraiment la capacité d'effectuer l'informatique quantique.

Cependant, même si le cerveau effectue des calculs quantiques, cela ne change pas de manière significative les perspectives d'atteindre la puissance des calculs informatiques du niveau du cerveau humain (et plus) et ne rend pas impossible le chargement du modèle cérébral. Tout d'abord, si le cerveau effectue des calculs quantiques, il ne fera que confirmer que les calculs quantiques sont réalisables. Il n'y aurait rien dans une telle découverte pour suggérer que l'informatique quantique est limitée par des mécanismes biologiques. Les mécanismes biologiques de l'informatique quantique, s'ils existent, peuvent être reproduits. En effet, des expériences récentes avec de petits ordinateurs quantiques ont été couronnées de succès. Même un transistor conventionnel est basé sur l'effet quantique de la tunnelisation électronique.

Penrose suggère qu'il est impossible de reproduire exactement un ensemble d'états quantiques, donc une copie absolument exacte est impossible. D'accord, quelle doit être la précision de la copie? En ce moment, je suis dans un état quantique complètement différent (et, par conséquent, avec de nombreuses autres différences non quantiques) qu'il y a une minute (et bien sûr, dans un état complètement différent de ce que j'étais avant d'écrire ce paragraphe). Si nous élaborons la technologie de chargement de la conscience à un point tel que les «copies» seront aussi proches de l'original que l'original change encore en une minute, cela sera suffisant pour n'importe quel but imaginable et ne nécessitera pas de copier des états quantiques. À mesure que la technologie progresse, la précision de la copie peut devenir aussi élevée que l'original change sur des périodes plus courtes (par exemple, une seconde, une milliseconde, une microseconde).

Quand Penrose a été informé que les neurones (et même les connexions neuronales) sont trop grandes pour l'informatique quantique, il a proposé la théorie tubulaire comme mécanisme possible pour l'informatique quantique neurale. Ainsi, les concepts de l'informatique quantique et des tubes ont été introduits ensemble. Si quelqu'un cherche des obstacles à la reproduction des fonctions cérébrales, c'est une théorie divertissante, mais elle n'est pas capable de soulever de vrais obstacles. Jusqu'à présent, il n'y a aucune preuve, mais même si elles apparaissent, le processus ne durera que pendant une décennie ou deux. Il n'y a aucune raison de croire que les mécanismes biologiques (y compris l'informatique quantique) ne peuvent intrinsèquement pas être reproduits à l'aide de matériaux et de mécanismes non biologiques. Des dizaines d'expériences modernes effectuent avec succès une telle réplication.

Implant cérébral distribué réversible non invasif non chirurgical programmable, un environnement de réalité virtuelle immersive totale, des traducteurs expérimentés et une expansion du cerveau.

Comment appliquerons-nous une technologie plus intelligente que ses créateurs? Vous pourriez être tenté de répondre "Attention!" Mais regardons quelques exemples.

Examinons quelques exemples de technologie de nanobots, qui, sur la base des tendances de miniaturisation et de réduction des coûts, seront possibles au cours des 30 prochaines années. En plus de scanner votre cerveau, les nanobots peuvent également étendre notre expérience et nos capacités.

La technologie Nanobot fournira une immersion complète, une réalité virtuelle pleinement convaincante comme suit. Les nanobots occupent des positions très proches physiquement de chaque connexion interneuronale émanant de tous nos sens (par exemple, les yeux, les oreilles, la peau). Nous avons déjà une technologie d'appareil électronique qui nous permet d'interagir avec les neurones dans les deux sens, et ne nécessite pas de contact physique direct avec les neurones. Par exemple, les scientifiques de l'Institut Max Planck ont ​​développé des «transistors neuronaux» qui peuvent détecter le déclenchement d'un neurone à proximité ou, inversement, peuvent déclencher le déclenchement d'un neurone ou le supprimer. Cela signifie une communication bidirectionnelle entre les neurones et les transistors neuronaux électroniques. Les scientifiques de l'institut ont démontré leur invention en contrôlant le mouvement d'une sangsue vivante depuis leur ordinateur. Encore une fois, le principal aspect de la réalité virtuelle basée sur les nanobots est qu'elle n'est pas encore faisable pour des raisons de taille et de coût.

Lorsque nous voulons ressentir la réalité, les nanobots restent simplement à leur place (dans les capillaires) et ne font rien. Si nous voulons entrer dans la réalité virtuelle, ils suppriment tous les signaux d'entrée provenant de sentiments réels et les remplacent par des signaux qui proviendront d'un environnement virtuel. Vous (c'est-à-dire votre cerveau) pourriez décider de faire bouger vos muscles et vos membres comme d'habitude, mais les nanobots interceptent à nouveau ces signaux interneuronaux, suppriment le mouvement de vos membres réels, et font plutôt bouger vos membres virtuels, et fournissent un mouvement approprié et une réorientation dans le virtuel l'environnement.

Le réseau fournira de nombreux environnements de recherche virtuels. Certains seront des recréations de lieux réels, d'autres seront un environnement bizarre qui n'a pas de contrepartie «réelle». Certains seraient complètement impossibles dans le monde physique (par exemple, car ils violent les lois de la physique). Nous pourrons nous «déplacer» dans ces environnements virtuels nous-mêmes, ou nous y rencontrerons d'autres personnes, réelles et simulées. Bien sûr, au final, il n'y aura pas de différence claire entre eux.

D'ici 2030, une visite sur le site signifiera une immersion complète dans la réalité virtuelle. En plus d'englober tous les sens, ces environnements communs peuvent inclure des superpositions émotionnelles, car les nanobots seront capables d'évoquer des corrélats neurologiques des émotions, du plaisir sexuel et d'autres dérivés de notre expérience sensorielle et de nos réactions mentales.

, - , « » 2030 , — . ( -) , « ». .

2030 , , , . - , . , , .

, . -, , XXI . 10 ²⁶ ( ), , . , , . , , , - . — , , , .

, — . . . , , . , , , , . , , ( ), - , .

, (, , , , .) , , . , , . , , , — . , , . , , , , .

90-

, , , . , . , , , .

, , - , , , , . , , , : (, ) , , . « » , . , , .

( , ) :

, , . , .

( ) . , . , « — », , . . . , , , , . , , , , . , .

, , , , , - , , (, 1000 ). (Pete Klenow) (Mark Bils) , 1,5% 20 - . - . (BLS), , , 0,5% , , , , , 1% .

, . 1,6% 1994 , 2,4% , . , 30 2000 , 5,3%. 4,4% 1995 1999 , 6,5% .

1990- . . , , , , , : , , , , . .

( ) , .

. . BP Amoco 1 10 1991 . - , , . (Roland Berger) Deutsche Bank, 1200 . Morgan Stanley , Ford, GM DaimlerChrysler 2700 . , .

-

, , , , , , , , ( ) , .

«» 3,5% , « », , , «», . , «» , , 3,5%. 5%.

, . , , , , . , - . , «», , . .

, , , ( ): , , -, , , , .

Il n'y a pas besoin de taux d'intérêt élevés pour contrer l'inflation, qui n'existe pas. La pression inflationniste actuelle est contrebalancée par toutes les forces déflationnistes que j'ai mentionnées. Les taux d'intérêt élevés actuels chéris par la Banque fédérale de réserve sont dévastateurs, provoquant des pertes de milliers de milliards de dollars de richesse, sont régressifs, oppressant les entreprises et la classe moyenne, et sont totalement inutiles.

La politique monétaire de la Fed n'est significative que parce que les gens y croient. En fait, elle a peu de pouvoir réel. Aujourd'hui, l'économie est largement soutenue par des capitaux privés sous la forme d'une variété croissante d'instruments de capitaux propres. La part de liquidité disponible dans l'économie que la Fed contrôle réellement est relativement faible. Les réserves que les banques et les institutions financières conservent dans le système de la Réserve fédérale sont inférieures à 50 milliards de dollars. USA, qui ne représente que 0,6% du PIB et 0,25% de la liquidité disponible en stocks.

Limiter le taux de croissance économique à une limite arbitraire a autant de sens que de limiter la vitesse à laquelle une entreprise peut augmenter ses revenus ou sa capitalisation boursière. La fièvre spéculative aura certainement lieu, et il y aura certainement des défaillances et des corrections importantes du marché. Cependant, la capacité des entreprises technologiques à créer rapidement de nouvelles richesses réelles n'est qu'un des facteurs qui continueront de stimuler une croissance économique exponentielle double et continue. Cette politique a conduit à la situation «Alice au pays des merveilles», dans laquelle le marché croît sur de mauvaises nouvelles économiques (car cela signifie que les mesures restrictives seront moins appliquées) et tombe sur de bonnes nouvelles économiques.

En ce qui concerne les fièvres spéculatives du marché et les corrections du marché, les indices boursiers des portails Web dits «B2B» (entreprise pour les entreprises) et «B2C» (entreprise pour les consommateurs) et des technologies de soutien connexes ont tendance à se développer rapidement, comme cela devient clair que les transactions économiques se transforment en commerce électronique et que les soumissionnaires (survivants) sont en mesure de démontrer des modèles commerciaux rentables.

L'hypothèse linéaire intuitive sous-jacente à la pensée économique conduit aux conclusions les plus ridicules du débat politique sur l'avenir à long terme du système de sécurité sociale. Les modèles économiques utilisés pour les projections de sécurité sociale sont complètement linéaires, c'est-à-dire qu'ils reflètent une croissance économique fixe. Cela peut être considéré comme une planification prudente, si nous parlions de prévisions pour seulement quelques années, mais elles deviennent complètement irréalistes à des intervalles de trois à quatre décennies. Ces prévisions supposent en effet un taux de croissance fixe de 3,5% par an sur les cinquante prochaines années! Il existe des hypothèses incroyablement naïves qui s'appliquent aux deux côtés de cet argument. D'une part, il y aura une extension radicale de la longévité humaine, et d'autre part, nous bénéficierons d'une croissance économique beaucoup plus importante. Cependant, ces facteurs ne s'excluent pas mutuellement et, en tant que facteurs positifs forts, ils finiront par dominer. De plus, nous repenserons probablement la sécurité sociale lorsque nous avons des foies qui ressemblent et se comportent comme des personnes de 30 ans (mais qui pensent beaucoup plus vite que les 30 ans en 2000).

Une autre conséquence de la loi de l'accélération des retours est la croissance exponentielle de l'éducation et de la formation. Au cours des 120 dernières années, nous avons décuplé nos investissements dans l'enseignement secondaire (par élève et en dollars constants). Nous avons cent fois augmenté le nombre d'étudiants. L'automatisation a commencé par une augmentation de la force de nos muscles, et récemment elle a augmenté la force de notre esprit. Ainsi, au cours des deux derniers siècles, l'automatisation a supprimé les emplois au bas de l'échelle des compétences, créant de nouveaux emplois (et des salaires plus élevés) au sommet de l'échelle des compétences. Autrement dit, l'échelle monte et nous augmentons donc de façon exponentielle les investissements dans l'éducation à tous les niveaux.

Soit dit en passant, concernant ma «proposition» au début de cet essai, gardez à l'esprit que la valeur actuelle des actions est basée sur les attentes futures. Étant donné que la vision myope (littéralement) intuitivement linéaire est généralement acceptée, le bon sens sous-estime sérieusement les attentes économiques. Bien que les cours des actions reflètent le consensus de l'acheteur et du vendeur, ils reflètent néanmoins une hypothèse linéaire fondamentale concernant la croissance économique future. Mais la loi de l'accélération des rendements implique clairement que le taux de croissance continuera de croître de façon exponentielle, car le taux de croissance continuera d'augmenter. Bien que (l'affaiblissement) des cycles de récession continueront de provoquer des fluctuations des taux de croissance actuels, les taux de croissance de base doubleront environ tous les dix ans.

Attends une seconde! Vous avez dit que j'obtiendrais 40 billions de dollars si je lis et comprends cet essai.

Oui. Selon mes modèles, si nous remplaçons la prévision linéaire par une prévision exponentielle plus adaptée, le cours actuel devrait tripler. Étant donné que la capitalisation totale du marché boursier est d'environ 20 000 milliards de dollars, cela donnera 40 000 milliards de dollars supplémentaires.

Mais vous avez dit que je recevrai cet argent.

Non, j'ai dit que «vous» recevriez l'argent, et c'est pourquoi j'ai recommandé de lire attentivement l'offre. En anglais (et en russe (environ la traduction)), le mot «vous» peut être au singulier ou au pluriel. Je voulais dire vous dans le sens de "vous tous".

Nous tous, partout dans le monde. Mais tout le monde ne lira pas cet essai.

Mais tout le monde le peut. Donc, si vous lisez tous cet essai et le comprenez, les attentes économiques seront basées sur un modèle exponentiel historique, et donc la valeur des actions augmentera.

Vous voulez dire, si tout le monde comprend cela et est d'accord avec cela.

Eh bien, je suppose que je pensais à ça.

Est-ce ce à quoi vous vous attendez?

Eh bien, non. Revêtant mon chapeau futurologique, je prédis que ces vues vont vraiment prévaloir, mais seulement avec le temps, car il y a de plus en plus de preuves de la nature exponentielle des technologies et de leur impact sur l'économie. Cela se produira progressivement au cours des prochaines années et se reflétera dans une forte tendance à la hausse continue du marché.

Danger évident pour l'avenir

La technologie a toujours été une arme à double tranchant, nous apportant une vie plus longue et plus saine, à l'abri du travail physique et mental monotone et de nombreuses nouvelles opportunités créatives, d'une part, et créant de nouveaux dangers importants, d'autre part. Nous vivons encore aujourd'hui avec des stocks d'armes nucléaires (qui ne semblent pas tous bien pris en compte) suffisants pour mettre fin à la vie de tous les mammifères de la planète. La bio-ingénierie en est aux premiers stades d'un immense succès dans la lutte contre les maladies et le vieillissement. Cependant, dans le laboratoire de bio-ingénierie universitaire habituel, des connaissances et des outils seront bientôt disponibles (et dans des laboratoires plus équipés, ils sont déjà disponibles) pour créer des agents pathogènes nocifs plus dangereux que les armes nucléaires. À mesure que la technologie s'accélère, à l'approche de la singularité, nous verrons les mêmes potentiels interconnectés: une célébration de la créativité basée sur l'intelligence humaine, fleurissant un billion de fois, sera lourde de nombreux nouveaux dangers graves.

Envisagez la réplication illimitée de nanobots. La technologie des nanobots nécessite des milliards ou des milliards de tels appareils intelligents pour être utiles. La façon la plus rentable de passer à de tels niveaux est l'auto-reproduction, essentiellement la même approche que celle utilisée dans le monde biologique. Et tout comme l'auto-reproduction biologique, dont les dysfonctionnements (c'est-à-dire le cancer) conduisent à la destruction biologique, un défaut dans le mécanisme qui restreint l'auto-réplication des nanobots peut mettre en danger tous les objets physiques, biologiques ou autres.

Un autre problème important est «qui contrôle les nanobots?» et "à qui les nanobots relèvent-ils?" Les organisations (comme les gouvernements, les groupes extrémistes), ou tout simplement les gens intelligents, peuvent mettre des milliards de nanobots indétectables dans l'eau ou la nourriture d'une personne ou d'une population entière. Ces nanorobots «spywares» pourront suivre, influencer et même contrôler nos pensées et nos actions. En plus d'introduire de véritables nanobots de logiciels espions, les nanobots existants peuvent être exposés à des virus logiciels et à d'autres techniques de piratage de logiciels. Lorsque les programmes fonctionnent dans notre cerveau, les problèmes de confidentialité et de sécurité prennent une nouvelle importance.

J'espère que les applications créatives et constructives de cette technologie domineront, comme je le pense aujourd'hui. Cependant, un mouvement luddite important (et de plus en plus visible) concerné et constructif (c'est-à-dire des opposants à la technologie inspirés par des tisserands du début du XIXe siècle qui ont détruit les métiers à tisser en guise de protestation) jouera un rôle.

Si nous décrivions les dangers qui existent aujourd'hui, pour les gens qui vivaient il y a quelques centaines d'années, ils considéreraient comme insensé de prendre un tel risque. D'un autre côté, combien de personnes en 2000 voulaient vraiment retourner à la vie courte, cruelle, remplie de maladies, de pauvreté et sujette aux catastrophes que 99% de l'humanité vivait il y a quelques siècles? Nous pouvons romancer le passé, mais jusqu'à récemment, la majeure partie de l'humanité vivait une vie extrêmement fragile, où une malchance complètement ordinaire pouvait signifier un désastre complet. Une partie importante de notre espèce vit encore dans de telles conditions, ce qui est au moins une des raisons de la poursuite du progrès technologique et de la croissance économique qui l'accompagne.

Les gens passent souvent par trois étapes pour étudier l'impact de la technologie future: le respect et la surprise de sa capacité à surmonter des problèmes séculaires, puis un sentiment de peur du nouvel ensemble de dangers graves qui accompagnent ces nouvelles technologies, et enfin, l'espoir et la réalisation que le seul viable et la manière responsable est de choisir un cours prudent, après quoi vous pouvez profiter de toutes les opportunités attendues et essayer d'éviter les dangers.

Dans son article WIRED « Pourquoi nous n'avons pas besoin de l'avenir », Bill Joy a décrit avec éloquence l'invasion de la peste des siècles passés et comment de nouvelles technologies auto-reproductibles, telles que les agents pathogènes mutants et les «nanobots», peuvent vous échapper à tout contrôle pendant longtemps épidémies oubliées. Ces dangers sont réels. D'un autre côté, Joy admet que, grâce aux progrès technologiques tels que les antibiotiques et l'amélioration de l'assainissement, nous avons éliminé la prévalence de ces épidémies. La souffrance dans le monde continue et requiert notre attention. Devrions-nous dire à des millions de personnes atteintes de cancer et d'autres conditions destructrices que nous annulons le développement de tous les traitements bio-conçus, car il existe un risque que ces mêmes technologies soient un jour utilisées à des fins malveillantes? En posant une question rhétorique, je comprends qu'il y a des gens qui veulent faire exactement cela, mais je pense que la plupart des gens conviendront qu'un refus aussi répandu n'est pas une réponse.

La capacité continue de soulager les souffrances humaines est l'une des raisons importantes de la poursuite des progrès technologiques. Tout aussi convaincants sont les avantages économiques évidents dont j'ai parlé plus haut et qui continueront de s'accélérer au cours des prochaines décennies. L'accélération constante de nombreuses technologies interconnectées est les routes pavées d'or (ici j'utilise le pluriel, car la technologie n'est clairement pas le seul moyen). Dans un environnement compétitif, marcher sur ces routes est un impératif économique. Refuser le progrès technique serait un suicide économique pour les particuliers, les entreprises et les pays.

Tout cela nous amène au problème du rejet, qui est la recommandation la plus controversée de Bill Joy et son choix personnel. Je pense que l'échec à un certain niveau fait partie d'une réponse responsable et constructive à ces dangers réels. Cependant, le problème est précisément à quel niveau faut-il abandonner la technologie?

Ted Kaczynski nous ferait tout abandonner. À mon avis, cela n'est ni souhaitable ni réalisable, et la futilité d'une telle position n'est soulignée que par l'insensé des tactiques déplorables de Kazinsky.

Une autre approche consisterait à abandonner certaines directions; par exemple, la nanotechnologie peut être considérée comme trop dangereuse. Mais un tel rejet par "grands traits" est également intenable. La nanotechnologie est tout simplement le résultat final inévitable de la tendance constante à la miniaturisation qui imprègne toute notre technologie. Ce n'est pas un ordre centralisé unique, c'est la direction du développement de nombreux projets avec une grande variété d'objectifs.

Un observateur a écrit:

«Une autre raison pour laquelle une société industrielle ne peut pas être réformée ... est que la technologie moderne est un système unique dans lequel toutes les parties dépendent les unes des autres. Vous ne pouvez pas vous débarrasser des «mauvaises» parties de la technologie et ne conserver que les «bonnes» parties. Prenons, par exemple, la médecine moderne. Les progrès de la médecine dépendent des progrès de la chimie, de la physique, de la biologie, de l'informatique et d'autres domaines. Le traitement moderne nécessite un équipement de haute technologie coûteux qui ne peut être créé que par une société technologiquement avancée et économiquement riche. De toute évidence, sans toute la gamme des technologies et ce qui y est lié, il ne peut y avoir de grands progrès en médecine. »

L'observateur que je cite est toujours le même Ted Kazinski. Bien que l'on puisse à juste titre s'opposer à Kazinsky en tant qu'autorité, je pense qu'il a raison sur la nature hautement interconnectée des avantages et des risques. Néanmoins, Kazinsky et moi divergent clairement dans l'appréciation globale de l'équilibre relatif entre eux. Avec Bill Joy, nous avons discuté de cette question à la fois en public et en privé, et nous pensons tous deux que la technologie va et devrait se développer, et que nous devons traiter activement leur côté sombre. Si Bill et moi sommes en désaccord sur quelque chose, alors ce sont des cas concrets de rejet des technologies, qui sont à la fois possibles et souhaitables.

Un abandon généralisé de la technologie ne fera que les enfoncer, où le développement se poursuivra sans restrictions ni réglementation éthiques. Dans une telle situation, seuls les utilisateurs moins fiables et moins responsables (par exemple, les terroristes) acquerront de l'expérience dans l'utilisation des technologies.

Je crois vraiment que l'échec à un certain niveau devrait faire partie de notre réponse éthique aux dangers de la technologie au XXIe siècle. Un exemple constructif de cela est la proposition de règle éthique du Foresight Institute, fondée par le pionnier de la nanotechnologie Eric Drexler, selon laquelle les nanotechnologistes conviennent d'abandonner le développement d'objets physiques qui peuvent se reproduire dans l'environnement naturel. Un autre exemple est l'interdiction des objets physiques à auto-réplication qui contiennent leurs propres codes d'auto-réplication. Dans ce que Ralph Merkle, le nanotechnologue, appelle «architecture de diffusion», ces objets devront recevoir des codes similaires d'un serveur sécurisé centralisé, ce qui garantira qu'il n'y a pas de réplication indésirable. L'architecture de diffusion n'est pas possible dans le monde biologique, nous avons donc ici au moins un mécanisme qui peut rendre la nanotechnologie plus sûre que la biotechnologie. La nanotechnologie, en revanche, est potentiellement plus dangereuse car les nanobots peuvent être physiquement plus forts que les entités à base de protéines et plus intelligents. En fin de compte, il deviendra possible de les combiner en utilisant la nanotechnologie pour fournir des codes aux objets biologiques (remplaçant l'ADN), auquel cas les objets biologiques peuvent utiliser une architecture de diffusion beaucoup plus sécurisée.

Notre éthique, comme l'éthique des technologues responsables, entre autres principes d'éthique professionnelle, devrait inclure de telles restrictions étroitement ciblées. D'autres mesures de protection devraient inclure le contrôle par les autorités réglementaires, le développement d'une réponse «immunitaire» pour des technologies spécifiques, et la surveillance contrôlée par ordinateur par les forces de l'ordre. , , , . , . , , «» ( , ), «Carnivore» .

. , : . , , , , , , . « », , . , — , , . , - .

, . , . , , , . , . , , , .

, . , . , , , , , .

, ? , . , . , ; . , , . , , , . , , , , .

, - . , , , , , , , , , , — , , .

, , , - . , . , , . , , , . - (, - 1970- ), , . , , , , , , . — , , — , . , , .

, , , ? - , , , . , . , , -.

, , , ? , . , , , , , .

: « ?» , . , , . , . , . . , .

- . , , . , , — . , , . , .

? , , , , , , . , , : , , , , . , , , , , , . , , . , .

, , , , , , . , , . , , () . . ( ) , .

(Kurzweil Applied Intelligence): , , , , , , . , , . , (, Speech Systems), . , , . , , . «», , . , .

. . . , . « » - ( ) . 1974 (OCR) (Kurzweil Computer Products, Inc.), IPO. , 25 . , 1995 1999 , 1 15 .

, . , , , , , ( ) . , .

. , , . , , , . , , .

, , , . 10 ²⁶ ( ), ( ). - , 2030 . XXI , . - - .

, , : , , , , , . , , .

, , , , . . , , , , , ?

SETI ( )

, 2099 , - , , , , , .

SETI ( )? , , , , () . , , , , , , (, ), (.. ), .

, SETI, , . SETI , .

Scientific American

( Scientific American) , SETI 10 ⁷ , ( ) 10 ²⁵ — II ( 10 ⁶ 10 ¹⁸ . .). .

- (Seth Shostak) SETI , , Project Phoenix, 100 , , 500 , , , .

, , («») , , SETI II, , . , , , ( — ) , , II.

, SETI, , , , , .

, . ? , , , . . ?

, , .

- , , , , . , , , . , , ( — , ), , . , , .

? , , , . , , . , , , .

, ( ) , ; , ( , ). ( ), , , — , . . , , , , . - , - ? , , . , ( ), , - , .

, , , , , , , .

, , , , . , , , . , SETI. , , , . , , , , .

SETI , (, ) ( , ) , , , ( ) . , , . , , ?

, , , . , . , , Dodge, - ( !) .

, ? , ? . , . , , , , . . , , , . , , .

.

, , . . , , SETI - , ( ) , , , .

, , . , , , , . , , , . - , , . , , . , , . SETI , , , , , , . , , . , , , , , . , , SETI , , , .

,

, . , , , . , , .

, , , . , (, ), , , . . , . ; . , , . . — , , - . , .

, . , . , , ( , ), , . ( ) (, , ) , . .

? , .

( ), , . — . ; ; . , , , . , .

Copyright © 2001

Brett Rampata/Digital Organism

MaxWolf 2019

« 2 000 » ,