Il y a quelques jours, il est devenu connu que Facebook en Australie a
lancé un programme porno de vengeance. Si une fille (ou un petit ami) veut bloquer ses photos intimes à l'avance pour la distribution, elle doit les faire passer par les serveurs Facebook. La procédure est censée être confidentielle: vous devez vous envoyer une photo dans Messenger et la marquer comme "porno". Ensuite, le hachage du fichier est calculé - et il est placé dans la base de données pour le verrouillage. La photo sera bloquée pour une distribution ultérieure sur tous les systèmes Facebook, y compris les chats privés.
Bien sûr, la procédure est confidentielle, mais les commentateurs ont conclu logiquement que Facebook ne permettra pas de placer
des images dans la base de données de verrouillage. Par exemple, quelqu'un hache le logo Facebook - et puis quoi, le bloquer sur le réseau? Autrement dit, dans un tel système, la modération devrait fonctionner de quelque façon que ce soit.
Maintenant, Facebook a officiellement confirmé qu'il y avait de la modération. Et il a
parlé du travail des modérateurs .
Les nouvelles concernant l'envoi de vos photos intimes sur Facebook ont provoqué une certaine résonance dans les réseaux sociaux. La direction de Facebook n'a pas officiellement annoncé le lancement de l'expérience (des journalistes des médias australiens l'ont accidentellement appris lors d'une enquête sur un autre cas). Mais maintenant, quand les nouvelles ont eu une telle résonance, j'ai dû me précipiter pour faire une
déclaration officielle . "Bien qu'il s'agisse d'un petit programme pilote, nous voulons clarifier clairement comment cela fonctionne", écrit Facebook.
Facebook rappelle que la base de données de hachages de photos intimes à bloquer
fonctionne depuis avril 2017 dans le monde entier . Chaque utilisateur peut à tout moment informer si ses photos intimes sont diffusées sur le réseau sans sa permission. Des études ont montré que 93% des utilisateurs dans ce cas éprouvent un stress émotionnel sévère et 82% rapportent "une détérioration significative des aspects sociaux, professionnels ou d'autres aspects importants de la vie". Facebook ajoutera le hachage à la base de données et bloquera le fichier.
Le programme actuel en Australie est une petite expérience qui étend légèrement le système actuel et vous permet de marquer de manière proactive les photos. Il est lancé en collaboration avec le bureau du Bureau du commissaire eSafety du gouvernement australien.
Le système fonctionne comme suit:
- Un citoyen remplit un formulaire en ligne sur le site officiel du Commissaire à la sécurité électronique.
- Pour spécifier des photos spécifiques à bloquer, un citoyen est invité à s’envoyer des photos dans Messenger.
- Le Commissariat à la sécurité électronique informe Facebook de la nécessité d'ajouter de nouvelles photos intimes à la base de données (via le formulaire). En même temps, le personnel du bureau lui-même n'a pas accès à la photographie.
- Dès qu'une notification est reçue, un membre de l'équipe des opérations communautaires spécialement formé examine et hache l'image , résultant en une empreinte numérique lisible par machine (hachage).
- Seul le hachage est stocké dans la base de données Facebook, mais pas les photos elles-mêmes. Dès que quelqu'un essaie de télécharger une photo sur la plateforme Facebook, elle, comme toutes les autres photos, est exécutée dans cette base de données avec des hachages. Si une correspondance est trouvée, la photo est bloquée pour l'envoi ou la publication.
- Après avoir haché les photos, Facebook avise la personne qui a signalé la photo intime de ce fait par courrier sécurisé, qu'il a fourni au Commissariat à la sécurité électronique. Il lui est demandé de supprimer la photo du chat Messenger correspondant sur son appareil. Une fois qu'une photo est supprimée du chat, elle est supprimée des serveurs Facebook .
Plusieurs points sont clarifiés à partir de cette description. Premièrement, il a maintenant été officiellement annoncé que des photos intimes sont actuellement envisagées par les modérateurs du département des opérations communautaires. Deuxièmement, Facebook stocke toujours des photos intimes sur ses serveurs pendant un certain temps.
Après une telle explication, certains utilisateurs avaient encore plus de craintes: «Qui regarde les photos? Et s'ils prennent une capture d'écran et font quelque chose avec les photos elles-mêmes? » -
ils posent de telles questions .
Les experts en sécurité de l'information attirent également l'attention sur le fait qu'une petite modification de la photo changera son hachage - et des photos intimes sous une forme presque inchangée pourront toujours contourner le blocage de Facebook.
Facebook essaie de rassurer le public. Dans une interview avec
Motherboard , un porte-parole de l'entreprise a
assuré que les modérateurs visionnaient des photos
floues . Il est difficile de croire que Facebook a effectivement mis en place un tel système; cela ressemble plutôt à une tentative maladroite de sortir de la situation. Au moins lorsqu'on lui a demandé de préciser à quel stade les photos sont floues, un représentant de Facebook a
marmonné quelque chose à propos du hachage et a fait référence à un article dans lequel pas un mot sur le flou.
Malgré toutes ces assurances, pour une raison quelconque, je me souviens des
paroles de Mark Zuckerberg lors de sa discussion en 2004 , à l'aube de la fondation de Facebook:
Zuc: Oui, donc si vous avez besoin d'informations sur quelqu'un à Harvard
Zuc: Contact
Zuc: J'ai 4000 adresses e-mail, photos, adresses, numéros de sécurité sociale
[Nom de l'ami modifié]: Quoi? Comment les avez-vous obtenus?
Zuc: Les gens contribuent eux-mêmes.
Tsuk: Je ne sais pas pourquoi.
Tsuk: Ils "me croient"
Tsuk: idiots muets