Panduan Moderator Facebook: Lebih dari 1.400 halaman slide yang bertentangan

Manual ini menjelaskan emotikon mana yang dapat dianggap sebagai ancaman atau, dalam konteks kelompok tertentu, untuk menghasut kebencian

Di bawah api kritik, Facebook terpaksa mengambil tindakan untuk memoderasi konten. Tapi tugas ini tidak sesederhana kelihatannya. Media mendapat manual internal untuk moderator Facebook: ini lebih dari 1400 (!) Halaman instruksi, yang terkadang sangat sulit untuk dipahami, tulis NY Times .

Saat ini, politisi dan organisasi publik menuduh jaringan sosial menghasut kebencian dan informasi yang salah. Bagi Facebook, ini terutama merupakan masalah keuangan, karena tuduhan semacam itu menciptakan latar belakang negatif dan dapat berdampak buruk pada harga saham, yang berarti kesejahteraan pemilik dan karyawan perusahaan.

Facebook, yang menghasilkan sekitar $ 5 miliar per kuartal, harus menunjukkan kepada semua orang bahwa itu sangat serius dalam memerangi konten berbahaya. Tetapi bagaimana cara melacak miliaran pesan per hari dalam lebih dari 100 bahasa, sambil terus memperluas basis pengguna, yang merupakan dasar untuk bisnis? Keputusan perusahaan: jaringan moderator yang dipandu oleh labirin slide PowerPoint yang menjelaskan konten yang dilarang.

"Setiap Selasa pagi, beberapa lusin karyawan Facebook berkumpul untuk sarapan untuk membuat aturan baru dan mendiskusikan apa yang boleh dikatakan dua miliar pengguna situs," tulis NY Times . "Berdasarkan hasil pertemuan, aturan yang relevan dikirim ke lebih dari 7.500 moderator di seluruh dunia." Surat kabar itu memiliki lebih dari 1.400 halaman buku peraturan. Informasi diberikan oleh salah satu karyawan yang khawatir tentang moderasi berlebihan dan terlalu banyak kesalahan yang dibuat perusahaan ketika memoderasi konten.

Pemeriksaan dokumen memang mengungkapkan banyak celah, prasangka, dan kesalahan yang jelas. Jelas, aturannya berbeda untuk bahasa dan negara yang berbeda, akibatnya ucapan kebencian dapat berkembang di beberapa daerah dan tidak perlu ditekan di negara lain. Sebagai contoh, suatu kali moderator diminta untuk menghapus panggilan penggalangan dana untuk para korban gunung berapi di Indonesia, karena salah satu penyelenggara penggalangan dana itu masuk dalam daftar hitam kelompok Facebook yang dilarang. Di India, para moderator secara keliru disuruh menghapus komentar yang mengkritik agama. Di Myanmar, kelompok ekstremis terus aktif selama beberapa bulan karena kesalahan dalam dokumentasi Facebook.


Cuplikan layar dari manual Facebook untuk moderator

Dilihat oleh dokumentasi pop-up, Facebook sedang mencoba merumuskan prinsip-prinsip untuk moderator dalam bentuk aturan ya atau tidak sederhana. Kemudian perusahaan mentransfer moderasi aktual ke perusahaan pihak ketiga. Mereka terutama menarik pekerja yang tidak trampil, banyak di antaranya bekerja di pusat panggilan (“dukungan India” yang terkenal - ini adalah karyawan yang terlibat dalam moderasi).

Seringkali moderator mengandalkan Google Terjemahan untuk bekerja. Persyaratan untuk kinerja mereka sedemikian rupa sehingga mereka harus dalam beberapa detik mengingat aturan yang tak terhitung jumlahnya dan menerapkannya pada ratusan pesan yang muncul di komputer kerja mereka setiap hari. Misalnya, untuk segera mengingat aturan di mana ada emotikon yang menyebutkan jihad dilarang.



Tangkapan layar dari manual Facebook untuk moderator, yang menjelaskan tanda-tanda ucapan benci. Moderator harus mengidentifikasi tiga tingkat "keseriusan" berdasarkan enam "perbandingan tidak manusiawi," termasuk perbandingan antara orang Yahudi dan tikus. Panduan Benci Umum Benci 200 Halaman

Beberapa moderator mengatakan bahwa aturannya tidak terlalu efektif, dan terkadang tidak berarti. Namun, manajemen perusahaan percaya bahwa itu bukan sebaliknya: "Kami memiliki miliaran pesan per hari, dan kami mengidentifikasi semakin banyak potensi pelanggaran menggunakan sistem teknis kami," kata Monika Bickert, Direktur Kebijakan Global Facebook. "Pada skala seperti itu, akurasi bahkan 99% menyisakan banyak kesalahan."

Manual Facebook yang mengenai pers tidak terlihat seperti panduan yang jelas. Ini terdiri dari puluhan presentasi PowerPoint yang terfragmentasi dan lembar kerja Excel dengan tajuk utama birokrasi seperti "Balkan Barat membenci organisasi dan individu" atau "Kekerasan eksplisit: standar implementasi." Ini adalah semacam "tambal sulam" dari aturan yang ditetapkan oleh berbagai departemen perusahaan. Facebook mengkonfirmasi keaslian dokumen, meskipun dikatakan bahwa beberapa di antaranya diperbarui dibandingkan dengan versi yang dimiliki oleh NY Times . Facebook mengatakan file-file itu hanya untuk tujuan pelatihan, tetapi moderator mengatakan mereka sebenarnya digunakan sebagai bahan referensi dalam pekerjaan sehari-hari.