Hace unos días se supo que Facebook en Australia
lanzó un programa porno de venganza. Si una niña (o novio) quiere bloquear sus fotos íntimas de antemano para su distribución, entonces debe pasarlas a través de los servidores de Facebook. El procedimiento es supuestamente confidencial: debe enviarse una foto en Messenger y marcarla como "porno". Luego se calcula el hash del archivo, y se coloca en la base de datos para el bloqueo. La foto se bloqueará para su posterior distribución en todos los sistemas de Facebook, incluidos los chats privados.
Por supuesto, el procedimiento es confidencial, pero los comentaristas llegaron a una conclusión lógica de que Facebook no permitirá que se coloquen imágenes en la base de datos de bloqueo. Por ejemplo, alguien tiene el logotipo de Facebook y luego, ¿qué, bloquearlo en toda la red? Es decir, en tal sistema, la moderación debería funcionar de cualquier manera.
Ahora Facebook ha confirmado oficialmente que hay moderación. Y
habló sobre el trabajo de los moderadores .
La noticia sobre el envío de sus fotos íntimas a Facebook causó cierta resonancia en las redes sociales. El liderazgo de Facebook no anunció oficialmente el lanzamiento del experimento (los periodistas de los medios australianos se enteraron accidentalmente al respecto durante una investigación de otro caso). Pero ahora, cuando las noticias tuvieron tanta resonancia, tuve que apresurarme para hacer una
declaración oficial . "Aunque este es un pequeño programa piloto, queremos aclarar claramente cómo funciona", escribe Facebook.
Facebook recuerda que la base de datos de hash de fotos íntimas para bloquear
ha estado funcionando desde abril de 2017 en todo el mundo . Cada usuario puede informar en cualquier momento si sus fotos íntimas se distribuyen en la red sin su permiso. Los estudios han demostrado que el 93% de los usuarios en este caso experimentan estrés emocional severo, y el 82% informa "un deterioro significativo en los aspectos sociales, profesionales u otros aspectos importantes de la vida". Facebook agregará el hash a la base de datos y bloqueará el archivo.
El programa actual en Australia es un pequeño experimento que extiende ligeramente el sistema actual y le permite etiquetar fotos de manera proactiva. Se lanza junto con la Oficina del Comisionado de Seguridad Electrónica del Gobierno de Australia.
El sistema funciona de la siguiente manera:
- Un ciudadano completa un formulario en línea en el sitio web oficial del Comisionado de Seguridad Electrónica.
- Para especificar fotos específicas para bloquear, se le pide a un ciudadano que se envíe fotos a sí mismo en Messenger.
- La Oficina del Comisionado de Seguridad Electrónica informa a Facebook sobre la necesidad de agregar nuevas fotos íntimas a la base de datos (a través del formulario). Al mismo tiempo, el personal de la oficina en sí no tiene acceso a la fotografía.
- Tan pronto como se recibe una notificación, un miembro del equipo de operaciones comunitarias especialmente capacitado revisa y procesa la imagen , lo que resulta en una huella digital (hash) legible por máquina.
- Solo el hash se almacena en la base de datos de Facebook, pero no las fotos en sí. Tan pronto como alguien intenta subir una foto a la plataforma de Facebook, como todas las otras fotos, se ejecuta a través de esta base de datos con hash. Si se encuentra una coincidencia, la foto se bloquea para enviarla o publicarla.
- Después de mezclar las fotos, Facebook notifica a la persona que denunció la foto íntima de este hecho por correo seguro, que proporcionó en la Oficina del Comisionado de Seguridad Electrónica. Se le pide que elimine la foto del chat de Messenger correspondiente en su dispositivo. Una vez que se elimina una foto del chat, se elimina de los servidores de Facebook .
Se aclaran varios puntos de esta descripción. En primer lugar, ahora se ha anunciado oficialmente que los moderadores del departamento de Operaciones Comunitarias están considerando fotos íntimas. En segundo lugar, Facebook todavía almacena fotos íntimas en sus servidores durante algún tiempo.
Después de tal explicación, algunos usuarios tenían aún más miedo: “¿Quién está mirando las fotos? ¿Qué pasa si toman una captura de pantalla y hacen algo con las fotos? -
Ellos hacen esas preguntas .
Los expertos en seguridad de la información también llaman la atención sobre el hecho de que una pequeña modificación de la foto cambiará su hash, y las fotos íntimas en forma casi sin cambios aún podrán evitar el bloqueo de Facebook.
Facebook está tratando de tranquilizar al público. En una entrevista con
Motherboard , un portavoz de la compañía
aseguró que los moderadores están viendo fotos
borrosas . Es difícil creer que Facebook realmente implementó dicho sistema; más bien, parece un torpe intento de salir de la situación. Al menos cuando se le pidió que aclarara en qué etapa se veían borrosas las fotos, un representante de Facebook
murmuró algo sobre el hash y se refirió a un artículo en el que ni una palabra sobre desenfoque.
A pesar de todas estas garantías, por alguna razón, recuerdo las
palabras de Mark Zuckerberg de una conversación en 2004 , en los albores de la fundación de Facebook:
Zuc: Sí, así que si alguna vez necesitas información sobre alguien en Harvard
Zuc: Contacto
Zuc: tengo 4000 direcciones de correo electrónico, fotos, direcciones, números de seguridad social
[Nombre del amigo editado]: ¿Qué? ¿Cómo los conseguiste?
Zuc: Las personas contribuyen a sí mismas.
Tsuk: No sé por qué.
Tsuk: "me creen"
Tsuk: idiotas tontos