Facebook est-il une menace pour une société libre?

J'ai récemment lu un article qui m'a profondément marqué. Une grande partie de ce qui a été décrit ci-dessous n'était pas une surprise, mais j'ai d'abord découvert quelque chose. Le premier souhait était de supprimer de toute urgence votre profil Facebook, le second était de traduire et d'informer le plus de personnes possible de ce qui avait été lu. Ci-dessous, vous pouvez vous familiariser avec ma traduction de cet article, où l'auteur explique raisonnablement comment Mark Zuckerberg est devenu pratiquement la personne la plus puissante sur Terre.

Entrée

Facebook en termes de capitalisation boursière est la sixième entreprise au monde . Le nombre d'utilisateurs enregistrés approche les deux milliards et la croissance de la base d'utilisateurs reste stable. Facebook recueille une quantité sans précédent de données sur des milliards d'utilisateurs.

Peut-être que la société de Mark Zuckerberg deviendra bientôt la plus grande au monde, et lui-même la personne la plus riche, car la structure des actions Facebook est structurée de telle manière que le fondateur a un droit de vote et de contrôle exceptionnellement unique.

Au fur et à mesure que Facebook grandit, sa propriété de notre graphique social et de notre moi numérique augmentera. Comme vous le savez, le risque systémique est le plus élevé dans les systèmes centralisés. En extrapolant les tendances, je crois que Facebook deviendra un centre de risque pour une société libre. Voici mes arguments:

• Facebook s'engage dans une collecte complète et sans cesse croissante de données sur ses milliards d'utilisateurs;
• Ces données permettent de manipuler de façon exponentielle les personnes et leurs réalités ;
• Facebook se développe grâce à la modélisation humaine ;
• Facebook accumule une centralisation sans précédent du pouvoir et de l'influence entre les mains d'un individu .

Collecte de données

Facebook en sait déjà plus sur ses utilisateurs que sur eux-mêmes, et la vitesse de collecte des données augmente. Les données personnelles complètes de Facebook sont son produit actuel et constituent la base de ses ambitions futures.

Données personnelles

Facebook reçoit des données personnelles très précieuses qui sont volontairement transmises lors de l'inscription. Les utilisateurs révèlent volontiers:

• Vrai nom
• L'éducation
• Données sur l'emploi (et le revenu)
• Lieu de résidence et emplacement actuel
• Lieux de voyage
• Relations sociales (famille, partenaires, amis, connaissances)
• Loisirs
• Préférences («likes») pour les marques, les produits, les partis politiques, la nourriture, le divertissement, etc.

Tout cela constitue le cœur du profil personnel sur Facebook.

Données comportementales

La prévalence de Facebook lui permet de collecter une quantité inégalée de données comportementales pour remplir un profil personnel. Il suit ou peut théoriquement suivre:

Chaque site visité . Le bouton J'aime sur Facebook se trouve sur presque toutes les pages. Même celui-ci. Si vous vous êtes connecté à Facebook, comme la plupart des utilisateurs, vos données seront collectées.

Chaque achat que vous faites. Facebook travaille avec des fournisseurs de données tiers pour connaître l'historique de vos achats. Et pour comparer l'ensemble de données avec des noms réels n'est plus un problème. Facebook suit également les ventes effectuées via sa propre plateforme et les achats sélectionnés mais non acquis. Vous avez peut-être également remarqué que le widget «Partager vos achats avec des amis» devient plus courant sur les pages de confirmation de commande - cela peut également être suivi.

Les endroits que vous visitez. En plus des emplacements que vous marquez vous-même, Facebook étend et complète les données en utilisant le suivi de géolocalisation dans diverses applications mobiles.

Données prévisionnelles

Facebook recueille constamment des données vous concernant, même si vous ne gérez pas votre profil ou n'en avez pas. Mais si vous interagissez activement dans le système, il collecte encore plus de données que vous ne pouvez l'imaginer, et où vous ne pouvez même pas l'imaginer.

Profils d'ombre . Facebook crée des profils fantômes pour les utilisateurs qui ne sont pas connectés, stockant leurs noms, adresses, coordonnées, etc. Ceci est assuré par la recherche de ces personnes par les utilisateurs existants via le système "Find my friends" et peut être complété par une numérisation sur Internet.

Votre image. Facebook scanne des milliards de téléchargements d'images qu'il reçoit pour créer des profils de visage et de corps pour tous les utilisateurs, en proposant de marquer leurs connaissances ou amis sur la photo. Il utilise également ces données pour développer les profils cachés. Ainsi, Facebook connaît les informations personnelles et les modèles biométriques pour les utilisateurs qui ne se sont même pas enregistrés . Facebook peut suivre les photos des lieux publics, tels que les touristes, et identifier les utilisateurs et les utilisateurs «fantômes» en arrière-plan. Les photos contiennent des informations de géolocalisation, de sorte que l'emplacement de ces personnes est suivi sans leur consentement . Les réseaux de neurones (tels que le puissant logiciel de reconnaissance d'images de Google) peuvent également déterminer l'emplacement d'une photo, même en l'absence de métadonnées de localisation.

Vos émotions. Le traitement du langage naturel permet à Facebook de comprendre vos émotions. Il le fait en analysant comment et ce que vous imprimez dans les statuts, ainsi que dans les messages via Messenger ( note de l'auteur : WhatsApp est codé). Il connaît également l'humeur de votre adversaire, avec qui vous interagissez en utilisant les mêmes algorithmes que lors de la détermination des émotions dans vos statuts et messages. Par conséquent, Facebook sait si vous vous engagez dans un dialogue plus positif ou négatif, et comment chaque type de contenu vous fait vous sentir en fonction de votre réponse. Le bouton «J'aime» a été mis à niveau en tant que «réaction» . En vous donnant plus d'occasions d'exprimer vos émotions, Facebook a créé plus de ressources pour les suivre. Les mêmes réseaux de neurones qui identifient votre visage sur chaque photo peuvent déterminer votre état émotionnel au moment de la photographie.

Plus. Je ne veux pas vous charger d'informations et vous faire peur, mais il est important de comprendre la quantité de données que Facebook reçoit. Un point important est que Facebook a accès à de si grandes quantités de données sur les personnes qu'il dépasse la portée de la compréhension humaine et des concepts d'espace personnel . À mesure que la technologie de l'intelligence artificielle s'améliore, la capacité d'extraire ces informations ne fera qu'augmenter.

Manipulation des personnes et de leur réalité

Avec l'accès à un si grand ensemble de données, Facebook a une opportunité unique de manipuler ses utilisateurs et leur réalité, augmentant sa puissance et son influence sur la vie réelle. Vous vous souvenez que le fil Facebook n'est pas chronologique. Facebook décide quels articles vous voyez et qui les voit .

Recherche en psychologie humaine

J'aimerais que vous considériez sérieusement l'idée que Facebook a une plus grande capacité à comprendre la psychologie humaine que tous les psychologues, philosophe, cognitif et économiste comportemental de l'histoire de l'humanité réunis. Si cela vous choque, laissez-moi vous expliquer.

Pour les travaux académiques et pratiques en psychologie humaine, des échantillons sont généralement utilisés, calculés par des centaines de répondants. J'ai lu beaucoup de recherches et vu des unités de travail dans lesquelles il y avait des échantillons de plusieurs milliers; unique en termes de travail - un maximum de dix mille. De plus, le problème est le choix de l'échantillon - le répondant, le sujet de recherche. En règle générale, il s'agit de deux catégories - soit les étudiants impliqués dans les universités, soit les personnes participant pour de l'argent. La plupart des gens ordinaires ne sont pas soumis à des études et ne le seront jamais.

Facebook a des données de diverses personnes à travers le monde, y compris les riches et les influents. Et la taille de 2 milliards est littéralement un ordre de grandeur plus grand que toute autre recherche psychologique jamais menée.

Facebook le sait, il a donc Facebook Research . Cette unité est le centre d'expérimentation psychologique le plus puissant de l'histoire de l'humanité. Il a 2 milliards de sujets de recherche et plus de données à comprendre. La plupart des chercheurs et scientifiques ne peuvent que rêver de cela.

Manipuler les gens pour le profit

Facebook fait tout pour que les utilisateurs interagissent avec le fil d'actualité (fil d'actualité), vendant de la publicité pour des milliards de dollars. Il manipule la psyché de ses utilisateurs pour les maintenir impliqués, tout en faisant un profit.

Voici comment cela fonctionne: le fil d'actualité est conçu pour créer une dépendance, tout comme les machines à sous . Facebook (et d'autres plateformes de médias sociaux) utilisent Machine Zone .

Qu'est-ce qu'une zone machine? C'est le rythme. Il s'agit d'une réponse à une boucle de rétroaction finement réglée. Il s'agit d'une puissante distorsion spatio-temporelle. Vous appuyez sur le bouton. Quelque chose se passe. Vous cliquez à nouveau. Quelque chose de similaire mais pas tout à fait la même chose se reproduit. Peut-être que vous gagnez, ou peut-être pas. Répétition. Répétition. Répétition. Répétition. Répétition. C'est le plaisir de la répétition, la sécurité du cycle.

En parcourant le fil d'actualité, vous ressentez les mêmes sentiments qu'un joueur passionné appuyant constamment sur la poignée d'une machine à sous en quête de plaisir: quelle est la prochaine, quelle est la prochaine, etc. Facebook le fait par la manipulation.

Prenez l'hypothétique utilisateur de Facebook Jimmy. Jimmy fait généralement défiler Facebook sur son téléphone pendant 5 minutes, puis ferme l'application. Facebook sait que Jimmy aime les publications de son ami Steve car il leur laisse généralement des commentaires positifs. La prochaine fois que Jimmy atteindra la barre des 5 minutes, Facebook lui montrera un post de Steve. Jimmy laisse un commentaire, le fait défiler un peu plus longtemps, puis termine l'application avec une marque de 8 minutes. Facebook sait également que Jimmy s'intéresse à Jenny - il s'attarde à chaque fois qu'elle poste un nouveau post sur Instagram, même s'il ne la connaît pas ou ne commente pas ses photos. La prochaine fois que Jimmy atteindra la barre des 8 minutes, Facebook lui montrera un message de Jenny. Ce schéma se poursuit et l'utilisation de Jimmy sur Facebook passe de 5 minutes par jour à 15.

Une étude Facebook a révélé que vous ne pouvez pas garder les gens dans Machine Zone avec du contenu positif pendant longtemps. Ainsi, de temps en temps, l'algorithme commence à utiliser du contenu négatif. Jimmy déteste Chad, et Facebook le sait parce que Jimmy a écrit à ce sujet dans des conversations avec d'autres utilisateurs dans Messenger. Alors maintenant, quand Jimmy atteint la barre des 15 minutes, Facebook lui montre une photo de Chad faisant quelque chose d'amusant. Rage force Jimmy à continuer de faire défiler la bande jusqu'à ce que le niveau de dopamine atteigne le niveau de visualisation des messages de Steve ou Jenny.

Maintenant, Facebook augmente le temps que Jimmy passe chaque jour et ses revenus publicitaires augmentent avec lui. C'est ainsi que Jimmy psyché manipule.

Manipuler les gens pour la recherche

Les manipulations de Facebook ne sont pas seulement destinées à augmenter le temps et les bénéfices du système. L'étude a montré que Facebook est également capable de manipuler les gens, à savoir de gérer le fil d'actualité des utilisateurs afin d'influencer les états émotionnels de ces utilisateurs. Les chercheurs ont découvert:

Lorsque les messages positifs ont été réduits, les gens ont généré moins de nouvelles positives et plus négatives. Lorsque les postes négatifs ont été réduits, l'inverse était vrai. Ces résultats montrent que les émotions exprimées par d'autres personnes sur Facebook affectent nos propres émotions, étant des preuves expérimentales d'une infection de masse via les réseaux sociaux.

Je vous rappelle que Facebook choisit quoi vous montrer. Il connaît le contenu émotionnel des messages dans votre flux et la façon dont vos émotions y réagissent. Il peut et manipule les utilisateurs en conséquence.

Comment Facebook peut-il vous manipuler pour la recherche? Regardons nos hypothétiques utilisateurs de Facebook: Jimmy, son ami Steve et l'intérêt secret de Jimmy-Jenny. Y a-t-il quelque chose que Facebook peut montrer à Jimmy et Steve qui provoquera une scission entre eux? Peut-être que la bande cessera de montrer les enregistrements de Jimmy et Steve. Ou afficher uniquement les négatifs. Facebook peut-il faire quelque chose pour amener Jimmy et Jenny dans une relation? Peut-être que dans la bande, seules les images positives de Jimmy pour Jenny, certains signes et statuts sociaux commenceront à apparaître.

Même si Facebook n'intervient pas directement pour obtenir de tels résultats, ils disposent de toutes les données nécessaires pour rechercher des modèles d'autres amis qui convergent vraiment, divergent, se retrouvent dans une relation. Vous trouverez rapidement des connexions avec 2 milliards de personnes à observer.

Manipuler les gens

Facebook peut non seulement manipuler vos émotions, mais aussi vos actions. Je ne prétends pas qu'ils l'utilisent (pour l'instant), mais la possibilité et la probabilité existent.

Nous sommes des animaux sociaux et avons besoin de l'approbation et de l'amour des autres. Chaque "like" et commentaire provoque la production d'hormone dopaminergique dans le cortex cérébral. Les interactions dans les réseaux sociaux constituent un mécanisme de rétroaction dans nos relations neurologiques: nous sommes plus susceptibles de continuer à publier des documents qui nous aident à participer activement à la vie sociale, et moins susceptibles d'envoyer ceux qui ne le font pas.

Facebook choisit qui voit vos publications. Si vous postez quelque chose que quelqu'un n'aime pas, il peut le cacher aux autres utilisateurs. Si vous postez quelque chose que quelqu'un aime, il le diffusera sur de nombreux canaux et vous obtiendrez plus de likes et de retweets qu'auparavant. En choisissant ceux qui voient ce que vous publiez, Facebook choisit ce que vous publierez à long terme .

Par exemple, disons que si Facebook veut que vous buviez plus d'alcool, il peut publier vos photos des bars à un public plus large pour obtenir des réactions plus positives, à savoir les likes. Votre cerveau vous poussera inconsciemment à aller aux bars plus souvent à long terme.

En contrôlant ce que vous ressentez, ce que vous pensez être socialement acceptable et comment vous agissez, Facebook peut manipuler votre réalité. Je ne sais pas s'ils le font ou le planifient, mais il y a une telle opportunité, et ils ont montré qu'ils sont prêts à l'utiliser dans certaines circonstances.

Les études remplissent le profil

La combinaison d'une grande quantité de données personnelles et de capacités expérimentales donne à Facebook la possibilité de créer un modèle presque complet de votre psyché . Facebook en sait plus sur vous que sur vous-même, et il peut prédire vos réactions à tout. Après avoir testé pour vous, il peut combiner les résultats avec les résultats d'autres personnes, en réunissant les répondants dans les groupes démographiques nécessaires pour voir comment un public cible plus large réagit à certaines choses.

Par exemple, Facebook peut connaître les éléments suivants:

• Les personnes mariées en Iowa sont-elles plus lascives que dans d'autres États?
• Êtes-vous plus susceptible d'acheter de la bière après avoir regardé une vidéo patriotique?
• Les Américains pakistanais sont-ils plus intéressés par le rap que les Pakistanais au Pakistan?
• Les hommes japonais sont-ils plus attirés par les visages ou les prêtres?
• Quel contenu du fil d'actualité est le plus susceptible de vous forcer à vous rendre au bureau de poste?
• Les conservateurs (ou libéraux) sont-ils plus francs dans leurs conversations privées que dans les déclarations publiques?

Toutes ces données et recherches aident à comprendre comment Facebook peut utiliser les informations pour créer un profil psychologique de vous et prédire comment vous répondrez aux différentes incitations. Ensuite, ces stimuli peuvent être utilisés à volonté, vous poussant aux émotions, actions et résultats sélectionnés.

Modélisation humaine et réalité virtuelle

Vous devez comprendre que Facebook dispose de tous les outils nécessaires à la modélisation humaine plus que quiconque. Aral Balkan affirme qu'il s'agit de son modèle commercial et de sa stratégie actuels:

Facebook n'est pas un réseau social; c'est un scanner qui numérise les gens. C'est, dans tous les sens et dans tous les buts, un appareil photo qui capture votre âme. L'activité de Facebook est de contrôler votre modélisation, à travers laquelle il vous contrôlera .

Transition de la manipulation à la modélisation

La manipulation des utilisateurs, décrite en détail ci-dessus, est à la fois éthiquement inacceptable et douteuse, et un terrible PR pour Facebook. Et si vous pouviez obtenir les mêmes résultats sans vraiment tester sur les utilisateurs?

Faites attention au département Facebook AI Research (FAIR). Leur mission dit: «L'objectif principal est de comprendre l'intelligence et de construire des machines intelligentes» en «extrayant des connaissances des données».

Ci-dessous, vous pouvez lire un certain nombre de citations de cet article perspicace et / ou terrifiant sur FAIR:
Ils recréent la mémoire virtuelle de la réalité et la regroupent dans le contexte d'autres lieux et événements. Ils peuvent même «représenter réellement une personne» en fonction de leurs goûts, intérêts et expériences numériques précédents . C'est quelque peu expérimental, mais c'est d'une grande importance pour le fil d'actualité Facebook ...

"Si nous avons une idée de travail, elle peut être mise en œuvre pour 1,5 milliard de personnes en un mois ", a déclaré LeCun (Jan LeCun - pionnier de l'intelligence artificielle et directeur de FAIR).

Facebook construit ouvertement son potentiel de modélisation de la psyché humaine et est fier signale cela . Lorsque leur technologie deviendra suffisamment puissante et avancée, le besoin de tester sur de vrais utilisateurs disparaîtra. Ces utilisateurs ne peuvent être utilisés que pour vérifier les résultats de la simulation.

Oculus et réalité virtuelle

En 2014, Facebook a acquis Oculus , une marque grand public de réalité virtuelle pour 2 milliards de dollars. Dans son article sur les acquisitions, Zuckerberg a déclaré:

La chose la plus incroyable à propos de cette technologie est que vous sentez que vous êtes vraiment dans un endroit différent avec d'autres personnes ... Nous pensons qu'une fois qu'une réalité augmentée aussi excitante fera partie de la vie quotidienne de milliards de personnes.

Zuckerberg veut que des milliards de personnes utilisent sa technologie de réalité virtuelle chaque jour.

Il est facile de voir le renforcement de la relation entre l'intelligence artificielle et la modélisation humaine. Les personnes simulées créées à partir d'un vaste éventail de données se connecteront immédiatement aux réalités virtuelles d'Oculus.

L'utilisation de la réalité virtuelle créera encore plus d'opportunités pour Facebook pour stimuler, manipuler et suivre les utilisateurs. Voici quelques possibilités:

Suivi des mouvements des yeux et des pupilles . Le suivi du mouvement des yeux et de la pupille est un élément nécessaire à la mise en œuvre réussie de la réalité virtuelle et résoudra bon nombre des problèmes auxquels les utilisateurs sont actuellement confrontés. Facebook et Oculus travaillent actuellement à l'introduction du suivi oculaire . Imaginez maintenant: le mouvement de vos yeux et de l'élève montre comment vous pensez, et ils peuvent être manipulés pour influencer votre façon de penser ( source) Du mouvement des yeux et de l'élève, vous pouvez comprendre à quel point vous êtes confiant dans vos décisions, que vous mentiez ou non, que vous pensiez plus ou moins à vos désirs. Il existe des preuves que la manipulation de ce sur quoi vos yeux se concentrent affecte votre jugement moral. Facebook est capable de manipuler ce que les utilisateurs voient et de capturer leur réaction. En utilisant la technologie de suivi des élèves, Oculus est en mesure de contrôler ce que les utilisateurs vivent et de deviner leurs pensées.

Suivi biométrique . Il existe déjà des jeux de réalité virtuelle qui mesurent et utilisent des données biométriques, y compris un électroencéphalogramme - EEG (ondes cérébrales), une réaction cutanée galvanique - GSR (niveaux de stress), la fréquence cardiaque et la respiration.

Bien qu'il n'y ait aucune preuve qu'Oculus développe actuellement des applications pour suivre ces variables, je pense que ce n'est qu'une question de temps et que la collecte de données biométriques peut être incluse dans les futures versions de contrôleurs ou de casques. Concluant l'image globale des réactions aux stimuli externes, le suivi biométrique permet à Facebook de collecter des données sur les réponses de stimulation de votre corps physique. Les volumes de données comportementales et de suivi oculaire modéliseront et suivront votre esprit, tandis que la biométrie modélisera et suivra votre corps physique.

En fin de compte: Facebook a tous les outils nécessaires non seulement pour modéliser votre psyché, mais aussi la capacité de manipuler et de modéliser votre être tout entier, alors que leur plateforme fusionne avec Oculus VR.

Seigneur suprême Zuckerberg

Nous avons déjà dit ci-dessus que Zuckerberg a un contrôle exclusif sur Facebook en raison de sa part dans les actions. En fait, il contrôle à lui seul Facebook sans aucun contrôle ni équilibre.

Quels sont les motifs de Zuckerberg? Pouvons-nous lui faire confiance avec le pouvoir qu'il aura? Pouvons-nous faire confiance à une telle autorité?

Ambition politique

En février, Mark Zuckerberg a publié le manifeste Building a Global Community. Je ne critiquerai pas la politique de Zuckerberg, mais je ne peux manquer de noter qu’il accepte ses propres préférences politiques comme des objectifs évidents pour la planète entière.

Peu importe si Zuckerberg envisage de briguer la présidence des États-Unis, il est suffisamment clair qu'il a des ambitions politiques. Récemment, il s'est entretenu avec Angela Merkel à l'ONU. Il a visité les 50 États américains en 2017 pour comprendre pourquoi il y a «plus de séparation que je n'en ressens dans ma vie».

Ce sont les actions d'une personne qui ne va pas rester à l'écart, gagner ses milliards. Zuckerberg fait un effort concerté pour devenir le centre politique des États-Unis.

Imaginez un politicien qui a:

• Des outils pour influencer les groupes de discussion - pas pour de petits groupes de 100 résidents de Pennsylvanie ou de l'Iowa, mais pour 2 milliards d'utilisateurs mondiaux;
• Outils pour influencer directement les informations disponibles pour les électeurs;
• Outils pour mesurer et manipuler les préférences politiques de l'électorat.

Imaginez maintenant qu'il s'agit d'une seule et même personne - l'homme le plus riche du monde. Qu'il s'agisse d'argent, de croyances, de «fausses nouvelles» ou de toute autre chose, Zuckerberg aura accès à tout cela.

Le pouvoir d'influencer les politiciens crée le pouvoir d'influencer la politique d'une manière ou d'une autre.

Homme de Zuckerberg

Sommes-nous prêts à faire confiance à une personne avec:

• La plus grande part de richesse sur la planète?
• La plus grande quantité de données personnelles?
• Contrôle maximal des flux d'informations?
• Le plus grand centre de recherche psychologique de l'histoire?
• La machine intelligente la plus influente?

Zuckerberg n'est qu'un homme. Comme dit le proverbe: "le pouvoir corrompt et le pouvoir absolu corrompt absolument." Je vous rappelle que c'est la même personne qui a écrit les mots, qui sont déjà devenus un mème:

Zuck: Oui, si vous avez besoin d'informations sur quelqu'un à Harvard
Zuck: Demandez simplement à
Zuck: J'ai plus de 4000 lettres, photos, adresses, SNS
{Nom d'un ami modifié} Quoi? Comment avez-vous géré cela?
Zuck: Les gens viennent de le présenter .
Zuck: Je ne sais pas pourquoi .
Zuck: Ils me font confiance
Zuck: Connard (dans l'original: Baise stupide)

Menace contre une société libre

Prenons un peu de recul et sortons Zuckerberg de l'équation. Comme nous l'avons vu, Facebook est le plus grand collecteur de données personnelles de l'histoire. Il travaille ouvertement sur la modélisation du comportement humain pour la recherche. Il a tous les outils nécessaires pour manipuler les réalités, les émotions, les pensées et les préférences politiques des gens. Et il continue de créer ces opportunités, notamment dans la réalité virtuelle.

Cela en soi est déjà un centre de risque pour les libertés de notre société. Cette centralisation des données privées, du pouvoir et de l'influence est dangereuse.

Ajoutez maintenant Zuckerberg. Il a des ambitions politiques et des antécédents controversés.

Est-il sage de laisser le contrôle exclusif entre les mains d'une seule personne? Personnellement, je n'ai pas confiance en Tsuk. Mais c'est mon opinion et mon intuition, alors ...

Dans un avenir proche, Facebook deviendra l'outil le plus puissant de pouvoir politique et de manipulation de l'histoire. D'une manière ou d'une autre, quelqu'un d'autre prendra le contrôle de lui.
J'espère que je me trompe. Le temps nous le dira.