Beaucoup de ceux qui me connaissent peuvent confirmer que je suis assez critique vis-à-vis de la masse des problèmes et, à certains égards, même faire preuve d'un certain maximalisme. C'est difficile pour moi de plaire. Surtout quand il s'agit de livres. Je critique souvent les fans de science-fiction, de religion, de romans policiers et bien plus de bêtises. Je crois qu'il est grand temps de faire des choses vraiment importantes et d'arrêter de vivre dans l'illusion de l'immortalité.
Lors d'un discus avec un de mes bons amis, il, après une autre de mes indignations sur le fait qu'ils m'offrent constamment des bêtises différentes (la même fiction), m'a conseillé de travailler sur le livre «Life 3.0. Être un homme ... » J'ai honte d'admettre que je l'ai téléchargé il y a longtemps et que je ne l'ai même pas remarqué avec une magnifique sélection de la Dynasty Foundation. C'est très difficile de me faire plaisir, car Il a travaillé sur des livres, c'est le moins qu'on puisse dire. Mais j'ai aimé celui-ci, et j'ai décidé non seulement de lui répondre ou non, mais aussi d'écrire sa critique, car, malgré le fait que le livre mérite l'attention, il y a encore du travail à faire.
Je voudrais croire que ma critique ne coulera pas, comme toujours dans la masse des inondations et du spam, et atteindra non seulement les lecteurs, mais aussi les écrivains qui prendront en compte les lacunes des travaux ultérieurs. Bien sûr, seule mon opinion subjective est inférieure, mais je vais essayer de la justifier autant que possible. Malgré le fait que, comme toujours catastrophique, il n'y a pas de temps pour tout et en fait, je suis un pauvre esclave moyen; Cependant, je considère qu'il est de mon devoir civique en tant que cosmopolite d'écrire cette critique, car Je m'intéresse depuis longtemps à un sujet similaire et à de nombreux autres sujets connexes. Je crois qu'une grande partie des éléments suivants sont les tâches principales assignées à la fois à l'humanité dans son ensemble et à ses individus. Aussi pathétique que cela puisse paraître. Alors ...
Life 3.0. Être humain
La critique
Les bloopers commencent littéralement depuis les premières pages du livre. Je cite:
«Comme vous le savez, il n'y a pas longtemps d'accord sur la question de savoir quoi considérer la vie. Un grand nombre de définitions alternatives sont proposées, et certaines d'entre elles incluent des restrictions plutôt strictes: par exemple, la présence d'une structure cellulaire est requise, ce qui exclura probablement les futures machines à penser et certaines civilisations extraterrestres. Puisque nous ne voulons pas limiter nos pensées sur la vie future aux espèces biologiques que nous connaissons déjà, acceptons sa définition plus large afin qu'elle inclue tout autre processus, si seulement il a de la complexité et la capacité de se reproduire. Ce qui est reproduit exactement n'est pas si important (composé d'atomes), l'information (constituée de bits) est importante, qui est déterminée par l'arrangement mutuel des atomes les uns par rapport aux autres. Lorsqu'une bactérie copie son ADN, aucun nouvel atome n'apparaît, mais les atomes disponibles s'alignent dans une chaîne qui répète exactement l'original, donc seules les informations sont copiées. En d'autres termes, nous pouvons envisager de vivre tout système d'auto-reproduction et capable de traiter des informations dont les propres informations (ses «logiciels», «logiciels») déterminent à la fois son comportement et sa structure («dur») ».
Il n'y a pas d'accord, mais il y a plus à comprendre la vie qui est intelligible en ce moment. Ce serait bien de les connaître.
Sinon, si cela est simplifié et approché d'une telle position, la croissance de cristaux complexes qui reproduisent leur structure à partir du substrat peut être attribuée à la vie. Ou, peut-être, certains processus de formation d'huile et d'humus, où il y a aussi une graine, conduisant à l'apparition de molécules de la même graine. Ils sont comme des ancêtres des enzymes, mais ils ne sont pas considérés comme une vie à part entière dans la science moderne, car ils ne sont pas capables de développement et de mutation. S'il n'y a pas de variabilité, alors ce n'est pas la vie. Par conséquent, je propose néanmoins de restreindre un peu le concept de vie et de réviser les autres, autres caractéristiques qu'il peut posséder. Je recommande également mon article: «Classification du potentiel de vie».
La citation suivante:
«À la suite de l'Univers lui-même, la vie est devenue de plus en plus compliquée 4, et, comme je vais maintenant l'expliquer, il me semble utile d'introduire une classification des formes de vie selon leurs trois degrés de complexité: Life 1.0, 2.0 et 3.0. Comment ces trois formes diffèrent les unes des autres, en termes généraux est clairement visible sur la Fig. 1.1 ....
Trois étapes de la vie: évolution biologique, évolution culturelle et évolution technologique. Life 1.0 ne peut affecter ni "hard" ni "software" pendant son existence
un seul organisme: les deux sont déterminés par son ADN, qui peut varier de génération en génération sur une longue période d'évolution. »
Ici, si je comprends bien, une grave erreur. On peut voir que l'auteur n'est pas familier avec les études modernes sur les micro-organismes. Ils peuvent se changer à la fois en matériel et en logiciel. C'est-à-dire la vie 1, en fait, peut faire la même chose que la vie 3. Les micro-organismes peuvent même mieux que les humains capturer des morceaux d'ADN. Ils le font de différentes manières. Soit directement, à partir de l'environnement (s'ils trouvent l'ADN d'une cellule détruite), soit à l'aide de bactériophages et de plasmides, soit par reproduction sexuelle pour former la soi-disant conjugaison de la scie sexuelle dans les bactéries - Wikipedia. Ils peuvent également couper des sections non pertinentes avec une précision de bijoux. Par exemple, grâce à CRISPR. Par conséquent, même Life 1.0 peut lui-même changer à la fois le matériel et le logiciel. C'est pour nous qui avons peur des OGM et qui avons oublié que LUCA, dans une certaine mesure, vivant, semble innovant et inconnu. Nous avons perdu cette capacité, et pour les primates «intelligents», changer leur dur est devenu un tabou. Ce n'est donc pas nouveau, c'est bien oublié vieux. Cela n'a aucun sens d'utiliser ce paramètre en comparaison. Le degré de difficulté est une chose, mais le changement de soi (à différents niveaux de difficulté) en est une autre. Vous devez pouvoir séparer les mouches des côtelettes. La classification devrait être considérablement retravaillée.
Mais ce sont toujours des fleurs. De plus, je n'ai pas eu la possibilité de créer un signet. Malgré le fait que le livre aborde les questions extrêmement importantes et globales de la bonne manière, l'auteur est très érudit, mais apparemment quelque chose ne lui suffisait pas pour effectuer une interpolation compétente et en arriver à des hypothèses de travail raisonnables et au moins des conclusions préliminaires.
Par exemple, dans l'une des sections, il interpole l'approche escroc primitive des gens à l'IA, craignant et considérant la possibilité de tromperie, les gens du côté de l'IA. Oui, c'est possible s'il ne s'agit que d'une IA puissante, alors un tel canular a lieu. Cependant, s'il s'agit d'intelligence artificielle (SII), il est peu probable qu'une telle tromperie soit nécessaire. C’est juste qu’un tel intellect, sans mensonge ni astuce, pourra faire à beaucoup de gens exactement l’offre qu’ils ne peuvent refuser. Je n'ai pas l'occasion de tout peindre ici, mais pour comprendre pourquoi il y a plus de probabilités que l'IA ne soit pas encline à tromper, je recommande de travailler, par exemple, sur les livres de Matt Ridley. L'origine de l'altruisme et de la vertu, et pour un, l'évolution de tout. Après avoir analysé ces travaux, nous pouvons conclure que plus le développement est élevé, plus la tendance à l'altruisme, à la coopération et au jeu avec une quantité non nulle est grande, plutôt qu'à la concurrence. Par conséquent, plus l'intelligence est intelligente, plus elle sera vraisemblablement plus humaine, honnête. C'est-à-dire l'intelligence elle-même est une ressource puissante pour comprendre et utiliser les gens non pas comme des concurrents trompés, mais comme des alliés. Trouvez les faiblesses et les forces des gens, compensez les premiers et utilisez les seconds. S'il n'y a pas besoin de coopération avec les gens, alors il n'y a guère de besoin de concurrence, car il y a beaucoup de ressources gratuites autour. Les océans sont encore vides ici. La masse d'espace vide sous la Terre, déjà silencieuse pour les autres planètes. Par conséquent, une IA de haute technologie située sur un support plus efficace que créé par sélection aveugle à partir de formes biologiques sera l'endroit où errer sans aucune concurrence avec les gens. Il occupera simplement la masse de ces niches pour lesquelles les gens peuvent encore, et peut-être ne peuvent jamais prétendre. Et il ne trompera personne. Déjà, non seulement l'IA, mais même les personnes alphabétisées ordinaires pratiquent une approche différente. Pas de tromperie et de secret, mais une ouverture, une sincérité et une coopération maximales. Les gens avec une mentalité de voleur ossifiée et archaïque ne peuvent pas comprendre comment. Très probablement, le code AI ne sera tout simplement pas ouvert. Comme beaucoup de code de logiciel libre. Et les pirates ne seront pas punis et étouffés, mais encouragés, car ils rapporteront les vulnérabilités de ce code. Il en va de même pour le meurtre à titre de punition et pour les prisons. Ce ne sera pas tout, c'est de la folie. Il y a 2 façons pour les marginaux: vous devez d'abord les étudier en détail, puis prendre en compte et écouter les compromis, car il peut s'agir d'une opinion extraordinaire extraordinaire, ou de rééduquer, de traiter et non de punir.
Dans l'ensemble, je suis catégorique contre toutes ces peurs et humeurs luddistes, l'humanité doit mettre toute sa force dans la création de l'intellect, car en fait, notre intelligence naturelle n'est pas très intelligente non plus. C'est juste que beaucoup de primates, vous ne pouvez pas les nommer différemment, ils ne le remarquent pas. Revenant à l'interpolation, je voudrais résumer cette partie et continuer. Comme nous le voyons d'une part, Tegmark, il ne faut pas faire d'analogies et passer d'une tête humaine malade à des complexes humains numériques sains: ruse, tromperie, etc., etc., et d'autre part, il ne peut pas décider quelle section avec une compréhension globale du sens de la vie. C'est également très déprimant et montre qu'il a peu travaillé sur le travail évolutif. S'il travaillait plus, alors il n'aurait pas de dilemme quels objectifs, ou, je dirais même, la philosophie et l'établissement d'objectifs, cela vaut la peine de définir l'IA. Parce que En analysant le monde qui nous entoure, nous pouvons conclure que pratiquement tout ce qui vit, et peut-être ne vit pas, aspire à l'expansion. De nombreuses formes de vie développées de manière complexe aspirent à un développement encore plus grand, à la perfection de soi, à l'expansion de leur influence et à l'interaction avec les autres, des objets vivants et non vivants. Par conséquent, très probablement, l'IA parviendra elle-même à de telles conclusions, ou de tels principes y seront énoncés. En conséquence, il continuera, comme tous les êtres vivants à développer, améliorer et conquérir de nouveaux territoires, transformant le monde non seulement pour lui-même, mais aussi pour son environnement.
Je suis d'accord
Si vous roulez des yeux lorsque vous entendez parler de saisie armée par des terminateurs robotiques du monde entier, alors votre réaction est exacte: un tel scénario n'est pas du tout réaliste. Ces
Les robots hollywoodiens ne peuvent pas être plus intelligents que nous, et en effet être intelligents. À mon avis, le danger qui se cache dans l'histoire du Terminator n'est pas ce qui pourrait arriver
quelque chose de similaire, mais qui détourne notre attention des vrais risques et dangers associés à l'intelligence artificielle. Transition du monde actuel à un monde dans lequel
le sommet est vraiment gagné par l'intelligence artificielle universelle, cela nécessite trois étapes logiques:
- Étape 1 Créer une intelligence artificielle universelle (AGI) au niveau humain.
- Étape 2 Utilisez cette AGI pour créer un supramental.
- Étape 3 Utilisez le supramental pour conquérir le monde ou donnez-lui la possibilité de le faire vous-même.
Cherchez dans le texte une histoire similaire avec les médias qui écrivent sur la guerre des robots, etc.
Mes suggestions.
Je ne me lasserai pas de répéter, maintenant tout le monde devrait mettre tout son pouvoir dans la création de l'esprit, c'est la raison, pas la beauté, ou toute autre stupidité, à mon avis, qui sauvera le monde. Et ne séparez pas cet esprit (intellect) en établissant des limites - artificielles, naturelles. À ce stade, l'IA en est encore à ses balbutiements, de sorte que le rôle de l'intelligence naturelle, soutenue par la technologie, est très important. Il n'y a pas de ligne claire entre l'artificiel et le naturel. Si nous voulons créer un intellect normal, et non pas le primitif qui existe maintenant, nous devons utiliser toutes les possibilités, utiliser toutes les technologies, car ils fonctionnent en tandem récursif: l'intelligence naturelle crée artificielle, et artificielle, au moins dans les étapes initiales, sera intéressée par la modernisation et l'expansion des capacités du naturel.
Quel avenir pour moi j'aimerais voir
Il convient de mentionner tout de suite que ce sont les prévisions les plus optimistes pour le moment. En fait, il est peu probable que dans notre société archaïque je sois à la hauteur. Mais je veux y croire. En partie, j'aimerais qu'à la fin ce soit comme dans le film: "Questions de l'univers: pouvons-nous vivre éternellement?" avec Adam Savage de Discovery.
Problèmes possibles
Les gens cupides discréditeront l'IA. Ils commenceront à utiliser les faibles et même les forts, mais pas l'IA à leurs propres fins égoïstes. Nous rencontrerons ici un problème qui, si ma mémoire est bonne, est mal décrit dans le livre.
Je pense que nous allons, que cela nous plaise ou non, faire face à des batailles sévères, cruelles mais intellectuelles à l'avenir, au niveau des codes, des mèmes, des programmes, des croyances, etc. Très probablement, ils iront principalement sur les médias numériques en réalité virtuelle, ce qui sera encore plus réel. Il n'y aura pas de victimes et de viande déchirée de sang. La guerre ira pour nos vues, opinions, jugements. Et plus tôt cette guerre commence, mieux c'est pour tout le monde. Elle n'a pas besoin d'avoir peur, elle a déjà commencé, et si nous ne voulons pas rester étrangers, nous devons y participer. Je ne me souviens pas où j'ai lu que si vous êtes hors ligne, alors considérez que vous n'avez pas vécu. Cela semble sauvage, et les obscurantistes (amoureux des insectes, des forêts et du caca) discuteront avec moi. Mais s'ils piétinent le kakahi dans les bois et nourrissent les moustiques. alors vous n'avez pas à vous disputer avec eux. Nous devrons discuter avec les hypocrites égarés, qui, en utilisant la technologie, les considèrent comme mauvais et ils n’aime pas ça, POURQUOI QUELQUE CHOSE ils ne refuseront pas l’informatique qui nous entoure partout.
Liens et communication
L'auteur sur les pages du livre a suggéré à plusieurs reprises de le contacter sur le site Web
AgeOfAi.org . J'ai deux mains pour une telle connexion. Je pense que cela profiterait à la fois aux lecteurs et aux écrivains. Mais pour une raison quelconque, ma page de liens ne s'est pas ouverte, mais a été redirigée vers
futureoflife.org/superintelligence-survey . Peut-être que si je prends le temps, je vais essayer de donner un lien vers cette critique à l'auteur du livre, malgré le fait que mon article soit en russe et que le site soit en anglais. Heureusement, il existe des traducteurs électroniques. Il faudra aussi chercher, peut-être y a-t-il déjà des pensées plus sensibles. Mieux encore est ziminbookprojects.ru. Il s'agit très probablement d'une version similaire du site précédent, mais en russe. Mais pas sûr. En tout cas, je pense que les liens méritent attention, tout comme les sujets soulevés.
Voici quelques citations que j'ai aimé:
Pour les croyants:
«S'il s'avère qu'ils obéissent tous aux lois de la physique, l'âme n'affecte donc pas les particules qui vous composent, ce qui signifie que votre conscience, votre esprit et leur capacité à contrôler vos mouvements n'ont rien à voir avec l'âme. Si, au contraire, il s'avère que les particules dont vous êtes composé n'obéissent pas aux lois connues de la physique, parce que votre âme les affecte, alors cette nouvelle entité doit être physique par définition, puis nous pouvons l'étudier comme nous avons étudié les champs et des particules dans le passé. "
Très utile pour ceux qui séparent la science de la religion. Considérant que la science ne doit pas interférer dans la religion, mais la religion dans la science. Cependant, pour les fanatiques de religion aveugles, c'est une phrase vide. Mais pour les sceptiques qui sont capables de penser logiquement, la pensée est plus qu'utile.
Pour les scientifiques:
"Le génome de la bactérie Candidatus Carsonella ruddii, qui stocke jusqu'à 40 kilo-octets d'informations, tandis que notre génome humain stocke environ 1,6 gigaoctets"
Un fait intéressant. J'essaye de les collectionner. Peut-être que cela vous sera utile dans le travail, ou tout simplement dans la discussion de sujets sur la bioinformatique.
En général, le livre pourrait être presque complètement démonté en citations et analysé en détail, mais hélas, comme toujours, il n'y a pas de temps. Soit dit en passant, l'ami qui m'a recommandé ce travail ne comprenait rien en substance ni en sens, car J'ai écouté ce livre non pas comme un synthétiseur vocal, mais comme un livre audio. Par conséquent, une partie de son attention était tournée vers la BEAUTÉ de la voix de l’annonceur, et non vers le sens. Déjà, je me tais sur l'impossibilité de citer et bien plus encore qui n'est pas dans les livres audio. Eh bien, c'est le cas, un petit cri de l'âme, pour les amateurs obstinés de livres audio. J'ai décrit tout cela en détail dans mon livre Book 3.0. Écoutez! "