Vor einigen Tagen wurde bekannt, dass Facebook in Australien
ein Rachepornoprogramm
gestartet hat . Wenn ein Mädchen (oder ein Freund) seine intimen Fotos im Voraus für die Verteilung blockieren möchte, muss sie diese über die Facebook-Server weiterleiten. Das Verfahren ist angeblich vertraulich: Sie müssen sich in Messenger ein Foto senden und es als "Porno" markieren. Dann wird der Hash der Datei berechnet - und zum Sperren in die Datenbank gestellt. Das Foto wird für die weitere Verbreitung auf allen Facebook-Systemen, einschließlich privater Chats, gesperrt.
Natürlich ist das Verfahren vertraulich, aber Kommentatoren kamen zu dem logischen Schluss, dass Facebook nicht zulässt,
dass Bilder in die Sperrdatenbank gestellt werden. Zum Beispiel hascht jemand das Facebook-Logo - und was dann, blockiert es im gesamten Netzwerk? Das heißt, in einem solchen System sollte die Moderation in irgendeiner Weise funktionieren.
Jetzt hat Facebook offiziell bestätigt, dass es Moderation gibt. Und er
sprach über die Arbeit der Moderatoren .
Die Nachrichten über das Senden Ihrer intimen Fotos an Facebook sorgten in sozialen Netzwerken für Resonanz. Die Facebook-Führung gab den Start des Experiments nicht offiziell bekannt (australische Medienjournalisten erfuhren versehentlich davon bei einer Untersuchung eines anderen Falls). Aber jetzt, als die Nachrichten eine solche Resonanz bekamen, musste ich mich beeilen, um eine
offizielle Erklärung abzugeben . „Obwohl dies ein kleines Pilotprogramm ist, möchten wir klarstellen, wie es funktioniert“, schreibt Facebook.
Facebook erinnert daran, dass die Datenbank mit Hashes von intimen Fotos zum Blockieren
seit April 2017 weltweit funktioniert . Jeder Benutzer kann jederzeit ohne seine Erlaubnis mitteilen, ob seine intimen Fotos im Netzwerk verbreitet werden. Studien haben gezeigt, dass 93% der Benutzer in diesem Fall unter starkem emotionalem Stress leiden, und 82% berichten von "einer signifikanten Verschlechterung der sozialen, beruflichen oder anderen wichtigen Aspekte des Lebens". Facebook fügt den Hash der Datenbank hinzu und blockiert die Datei.
Das aktuelle Programm in Australien ist ein kleines Experiment, das das aktuelle System geringfügig erweitert und es Ihnen ermöglicht, Fotos proaktiv zu markieren. Es wird in Zusammenarbeit mit dem Büro des eSafety Commissioner der australischen Regierung ins Leben gerufen.
Das System funktioniert wie folgt:
- Ein Bürger füllt ein Online-Formular auf der offiziellen Website des Kommissars für elektronische Sicherheit aus.
- Um bestimmte zu blockierende Fotos anzugeben, wird ein Bürger gebeten, sich in Messenger Fotos zu senden.
- Das Büro des Kommissars für elektronische Sicherheit informiert Facebook über die Notwendigkeit, der Datenbank neue vertrauliche Fotos hinzuzufügen (über das Formular). Gleichzeitig hat das Büropersonal selbst keinen Zugang zur Fotografie.
- Sobald eine Benachrichtigung eingeht, überprüft und hascht ein speziell geschultes Community Operations-Teammitglied das Bild , was zu einem maschinenlesbaren digitalen Fingerabdruck (Hash) führt.
- In der Facebook-Datenbank wird nur der Hash gespeichert, nicht jedoch die Fotos selbst. Sobald jemand versucht, ein Foto auf die Facebook-Plattform hochzuladen, wird es wie alle anderen Fotos mit Hashes durch diese Datenbank geführt. Wenn eine Übereinstimmung gefunden wird, wird das Foto zum Senden oder Veröffentlichen blockiert.
- Nach dem Hashing der Fotos benachrichtigt Facebook die Person, die das intime Foto gemeldet hat, per sicherer Post, die er im Büro des Kommissars für elektronische Sicherheit bereitgestellt hat. Er wird gebeten, das Foto aus dem entsprechenden Messenger-Chat auf seinem Gerät zu entfernen. Sobald ein Foto aus dem Chat entfernt wurde, wird es von den Facebook-Servern gelöscht .
Aus dieser Beschreibung werden einige Punkte klargestellt. Erstens wurde jetzt offiziell bekannt gegeben, dass intime Fotos tatsächlich von Moderatoren der Community Operations-Abteilung geprüft werden. Zweitens speichert Facebook noch einige Zeit intime Fotos auf seinen Servern.
Nach einer solchen Erklärung hatten einige Benutzer noch mehr Befürchtungen: „Wer schaut sich die Fotos an? Was ist, wenn sie einen Screenshot machen und selbst etwas mit den Fotos machen? “ -
Sie stellen solche Fragen .
Experten für Informationssicherheit machen auch darauf aufmerksam, dass eine kleine Änderung des Fotos seinen Hash ändert - und intime Fotos in nahezu unveränderter Form die Blockierung von Facebook weiterhin umgehen können.
Facebook versucht die Öffentlichkeit zu beruhigen. In einem Interview mit
Motherboard versicherte ein Unternehmenssprecher
, dass die Moderatoren
verschwommene Fotos
ansehen . Es ist kaum zu glauben, dass Facebook tatsächlich ein solches System implementiert hat. Es klingt eher nach einem ungeschickten Versuch, aus der Situation herauszukommen. Zumindest als ein Facebook-Vertreter gefragt wurde, in welchem Stadium die Fotos unscharf sind,
murmelte er etwas über Hashing und verwies auf einen Artikel, in dem kein Wort über Unschärfe enthalten war.
Trotz all dieser Zusicherungen erinnere ich mich aus irgendeinem Grund an die
Worte von Mark Zuckerberg aus dem Chat im Jahr 2004 zu Beginn der Gründung von Facebook:
Zuc: Ja, wenn Sie jemals Informationen über jemanden in Harvard benötigen
Zuc: Kontakt
Zuc: Ich habe 4000 E-Mail-Adressen, Fotos, Adressen, Sozialversicherungsnummern
[Name des bearbeiteten Freundes]: Was? Wie hast du sie bekommen?
Zuc: Die Leute tragen sich selbst bei.
Tsuk: Ich weiß nicht warum.
Tsuk: Sie "glauben mir"
Tsuk: Dumme Idioten