Contenu: La technologie moderne cherche à pénétrer nos têtes. Leur objectif est de capter notre attention. Nous ne pouvons rien y faire. En conséquence, nous devenons dépendants des réseaux sociaux et isolés de la société, en colère et mal informés, nous sommes de plus en plus prêts à nous impliquer dans des conflits politiques. Tout cela nous affaiblit. Il s'agit d'une menace importante pour l'humanité.
Problème: le déclin de l'humanité
Quel est le principal problème de l'impact de la technologie sur la société?Nous sommes entourés d'une cacophonie croissante d'indignation et de scandales. Dépendance à la technologie, insatisfaction à l'égard de la politique, manipulation électorale, dépression chez les adolescents, polarisation, distorsion de la vérité et croissance de la vanité (tout le monde s'imagine une star). Si nous continuons de nous plaindre de problèmes particuliers, rien ne changera. Ce ne sont pas des questions distinctes. Tous ces éléments sont interconnectés du
déclin de l'humanité .
La principale raison du déclin de l'humanité est la course à notre attention. Plus de deux milliards de personnes sont rivées aux réseaux sociaux. Pensez-y, les réseaux sociaux ont un plus grand impact psychologique sur nous que n'importe quelle religion mondiale! Ils attirent non seulement notre attention, mais nous mettent également sur cette aiguille - nous devenons dépendants de l'attention des autres. Les algorithmes de recommandation nous glissent de plus en plus de gros titres scandaleux. Nous sommes obligés d'aller sur des sites qui vivent de vues publicitaires. La technologie continue de nous pousser à la rage et à l'indignation. Ils s'efforcent d'entrer dans nos têtes et ils réussissent. Par conséquent, l'humanité est en déclin.
Cet article a été traduit avec le soutien d'EDISON Software, une entreprise qui développe des applications et des sites , et investit également dans des startups .
Utilisant les faiblesses humaines, la technologie prend le contrôle de la société et de l'histoire humaine. Manipuler une personne n'a pas besoin d'essayer de vaincre ses forces. Il suffit de trouver des points faibles et de faire pression sur eux. Tout le monde le sait. Alors que les futuristes attendaient le moment où la technologie dépasserait l'homme et emporterait son travail, nous avons raté quelque chose d'important. La technologie exploite déjà les faiblesses humaines. Basée sur notre peur, notre colère, notre vanité, la technologie nous affaiblit encore plus, alimentant ainsi notre besoin de machines en développement infini.
Considérez les exemples suivants:- Nous sommes contrôlés par l'extrémisme. YouTube recueille plus d'un milliard de vues par jour. 70% d'entre eux sont gagnés grâce au système de recommandation. Le plus souvent, au nom des recommandations, il y a de tels mots: se former (pour enseigner une leçon), déchiqueter (déchiqueter), démystifier (exposer), démanteler (démonter), débats (débats), déchirer (rompre), affronter (exposer), détruire (détruire), déteste (déteste), démoli (détruit) ( nous parlons du segment YouTube anglophone )
- Nous sommes contrôlés par la colère. Avec chaque mot moral-émotionnel (abyuze, honneur, etc.) dans un tweet, la probabilité de ses retweets augmente de 17% ( PNAS )
- Nous sommes animés par l'incertitude. En 2018, YouTube a invité des adolescentes qui ont regardé une vidéo sur le régime à regarder des vidéos sur l'anorexie, car un tel contenu retient mieux l'attention
- Nous sommes contrôlés par des théories du complot. Si vous regardez la vidéo de l'atterrissage sur la Lune de la NASA, YouTube vous proposera un million de fois de regarder des théories secrètes sur la Terre plate. YouTube a recommandé les théories du complot par Alex Jones (InfoWars) 15 milliards de fois ( source )
- Nous sommes contrôlés par le sexe. Pour les adultes qui regardent du contenu sexuel, des vidéos ont été recommandées qui impliquaient principalement des jeunes femmes, puis des vidéos avec des filles et des enfants jouant en maillot de bain ont été proposées ( article du New York Times )
- Nous sommes motivés par le biais. Les fausses nouvelles sont six fois plus rapides que les vraies nouvelles car elles n'ont pas de limites. Les vraies nouvelles se limitent à la vérité. ( Étude Twitter du MIT )
Pourquoi est-ce même arrivé? En raison du modèle commercial de la publicité. Free est le modèle commercial le plus cher. Nous obtenons l'annihilation «libre» de vérités bien connues, la colère «libre» par rapport à la politique, l'isolement social «libre» et le déclin «libre» de la pensée critique. Au lieu de payer des journalistes professionnels, le modèle de publicité «gratuite» incite les plateformes à trouver du «travail gratuit» parmi les utilisateurs. Les réseaux sociaux placent les gens au centre de l'attention, les incitant à créer du contenu gratuitement. Au lieu de payer des éditeurs qui décident quoi publier et à qui les montrer, nous utilisons des algorithmes automatisés. Ils juxtaposent un contenu obscène à un public réactif, remplaçant la salle de rédaction par des fermes de serveurs immorales. Cela a sapé la confiance des gens et l'ensemble de l'écologie informationnelle.
Les réseaux sociaux ont créé un Frankenstein numérique incontrôlable. Les plateformes technologiques ne peuvent pas prendre toutes les précautions pour faire face aux problèmes dans le monde. Le contenu est généré dans des centaines de langues, dans des millions de groupes Facebook et de chaînes YouTube. Deux milliards de canaux automatisés comme le Truman Show, triés sur le volet pour tout le monde. Pourquoi ne pas embaucher 10 000 personnes pour garder une trace de cela? Parce que ce serait déraisonnable étant donné la complexité toujours croissante de la situation. Il est impossible de contrôler un tel flux d'informations.
- Le génocide de 2017 au Myanmar s'est intensifié en raison de fausses nouvelles non vérifiées lancées par seulement quatre Birmans sur Facebook, contrôlées par 7,3 millions d'utilisateurs ( rapport Reuters )
- Au Nigéria, il n'y a que quatre vérificateurs de faits pour l'ensemble du pays. Dans le même temps, 24 millions de personnes dans ce pays utilisent Facebook. ( Rapport de la BBC )
- Lors des récentes élections en Inde, il s'est avéré que 22 langues sont parlées dans ce pays. Combien d'ingénieurs ou de correcteurs sur Facebook et Google connaissent ces langues?
La faiblesse humaine est un facteur important de la concurrence mondiale. Les forces mondiales qui affaiblissent leurs populations nuiront à la productivité économique, à la recherche de la vérité, à la créativité, à la santé mentale et au bien-être des générations futures. Nous ne devons pas hésiter à résoudre ce problème si nous voulons gagner la guerre mondiale de la productivité.
La société est confrontée à une menace existentielle urgente des plates-formes technologiques parasitaires. La capacité de la technologie à exploiter les faiblesses humaines ne fait que s'améliorer, des dépendances plus fortes aux meilleurs faux. Nos problèmes mondiaux deviennent de plus en plus complexes et urgents - changement climatique, inégalités, soins de santé. En même temps, notre capacité à comprendre le monde et à agir ensemble diminue. Si nous ne changeons pas de cap en ce moment, alors l'humanité n'aura aucune chance.
Nous pouvons résoudre ce problème: accélérer la transition vers une technologie humaine.Le déclin de l'humanité est similaire au changement climatique mondial dans la culture. Cela et l'autre peuvent avoir des conséquences monstrueuses. Mais contrairement au changement climatique, dans le cas de ce problème, seulement environ 1 000 personnes ont besoin de changer ce qu'elles font. Parce que chaque problème, des machines à sous qui nous confondent aux contrefaçons de haute qualité qui sapent notre confiance, ne protège pas les instincts humains. Si tous les systèmes sont conçus pour protéger les gens, nous pouvons non seulement éviter d'affaiblir les gens, mais aussi augmenter le potentiel humain.
Il est important de donner un nom aux systèmes de décomposition interconnectés de l'humanité. Sinon, les créateurs de solutions travailleront séparément, essayant de résoudre le problème. Ce sera comme un jeu sans fin dans Kill the Mole.
Il y a trois aspects qui catalysent la technologie humaine:1) Systèmes sociaux humains. Nous devons bien connaître non seulement la technologie, mais aussi la nature humaine. Et comment l'un affecte l'autre. La technologie doit être consciente de l'innovation et du design. Les gens ne doivent pas être autorisés à être manipulés. Nous n'avons pas besoin de plus d'intelligence artificielle ou de technologies plus avancées. En fait, nous avons besoin de plus de connaissances sur ce qui protège et guérit la nature humaine et les systèmes sociaux. Le Center for Humane Technology propose par où commencer. Les ingénieurs peuvent utiliser les éléments suivants pour évaluer comment la technologie nous affecte au niveau individuel, émotionnel et social. (guide de conception.)
- Les téléphones nous protégeant de recevoir des récompenses sans fin dans les machines à sous
- Les réseaux sociaux protègent notre relation à l'écran
- Médias numériques conçus pour se protéger contre les contrefaçons en identifiant les vulnérabilités de notre système de confiance
2) Intelligence artificielle humaine (IA), pas une IA écrasante. L'IA a déjà le pouvoir sur les faiblesses humaines. Il est capable de prédire avec précision comment nous faire regarder quelque chose et sait comment nous manipuler politiquement. Imaginez un avocat ou un prêtre qui vous utilisera. Son modèle commercial est la vente d'accès. Il veut que les autres vous utilisent. Nous devons transformer ce modèle en une IA qui agira dans notre intérêt. Il est nécessaire d'interdire les modèles commerciaux publicitaires qui extraient des informations sur des choses purement personnelles.
3) Des incitations humaines au lieu de l'extraction brutale d'informations. Nous devons cesser de diviser l’attention d’une personne. Nous devons développer de nouvelles incitations qui amélioreront la concurrence sur le marché et régleront les problèmes actuels. Il faut tendre vers le haut pour corréler notre vie avec nos valeurs, et non la guerre pour l'attention.
- Incitations politiques et organisationnelles qui inciteront les développeurs de technologies à mettre l'accent sur les qualités qui donnent vie à la structure sociale
- Nous avons besoin d'un assistant d'IA qui sera conçu pour protéger les gens et agir dans leur intérêt - une sorte de GPS pour la vie, qui nous aidera à arriver là où nous en avons besoin.
Le Humanitarian Technology Center veut aider à accélérer ces changements:- Les équipes de développement des entreprises technologiques peuvent intégrer la conception humaine des systèmes sociaux dans des produits qui protègent les faiblesses humaines et soutiennent la structure sociale.
- Les gardiens techniques tels qu'Apple et Google peuvent encourager les applications à rivaliser pour notre confiance, pas notre attention. Comment? Cela vaut la peine de changer l'AppStore, les modèles commerciaux et les interactions entre les applications qui sont sur l'écran d'accueil de nos appareils et dans les notifications.
- Les politiciens peuvent protéger les citoyens et modifier les incitations pour les entreprises technologiques.
- Les actionnaires peuvent exiger des entreprises qu'elles abandonnent les modèles commerciaux qui nécessitent une implication maximale des personnes. De tels modèles commerciaux sont une énorme source de risque pour les investisseurs.
- VC peut financer cette transition
- Les entrepreneurs peuvent créer des produits qui contribueront au développement de l'humanité.
- Les journalistes peuvent faire la lumière sur les problèmes systémiques et leurs solutions au lieu d'écrire sur les scandales et les griefs.
- Les techniciens peuvent mettre en évidence le mal du déclin de l'humanité
- Les électeurs peuvent exiger des politiciens des politiques pour empêcher le déclin de l'humanité de leurs enfants.
Le processus de modification est déjà en cours d'exécution. Lorsque les gens commencent à parler la même langue, lorsque des technologies humaines apparaissent, tout change.
Traduction: Diana SheremyevaLire la suite
Lisez aussi le blog
Société EDISON:
20 bibliothèques pour
application iOS spectaculaire