Kita sudah terbiasa dengan fakta bahwa jejaring sosial memengaruhi
pemilihan dan politik di negara-negara Barat. Tetapi mereka dapat mengorbankan nyawa orang, dan belum ada solusi.
Pada Maret 2019, 49 orang terbunuh
di dua masjid di Selandia Baru . Penyelenggara pembantaian menyiarkannya di jejaring sosial untuk menarik perhatian sebanyak mungkin orang. Patrick Crusius berada di antara pemirsa di sisi lain layar, yang, di bawah kesan apa yang dilihatnya,
melakukan penembakan massal di department store Walmart di El Paso pada 4 Agustus, menewaskan 21 orang dan melukai 26 lainnya. Penyelidik mengklaim bahwa tersangka
memposting informasi tentang beberapa bulan sebelum tragedi itu terjadi.
niatnya pada salah satu sumber daya ekstremis di jaringan, di mana ia menyatakan, antara lain, dukungan untuk pejuang dari Selandia Baru. Setelah penyelidikan penyebab bencana, Perancis dan Selandia Baru beralih ke negara lain dan perusahaan teknologi untuk menemukan teknologi yang akan mencegah distribusi konten tersebut. Inisiatif ini
didukung oleh 17 negara, UE dan 8 perusahaan teknologi besar, termasuk Google dan Facebook.
Pada April 2019,
serangkaian ledakan di Sri Lanka menewaskan lebih dari 200 orang. Pihak berwenang mengatakan mereka
memperingatkan Facebook tentang konsekuensi potensial dari memicu kekerasan media sosial. Pemahaman tidak tercapai, dan sebagai akibat dari korban manusia, diputuskan untuk
memblokir akses ke sejumlah jejaring sosial dan kurir instan, termasuk Facebook dan WhatsApp. Menurut pihak berwenang, penyebaran informasi yang salah tentang peristiwa tersebut dapat menyebabkan eskalasi kekerasan di negara ini.
Pemblokiran jaringan sosial dan kurir instan selama pecahnya kekerasan lebih sering terjadi. Sebagai contoh, pada musim panas 2018, penyebaran viral dari
rumor penculikan WhatsApp memicu serangkaian bentrokan di India. Dan pada bulan Februari 2019, informasi yang salah yang menyebar di Facebook, Instagram, dan WhatsApp
meningkatkan ketegangan antara India dan Pakistan. Sekarang, para pejabat di India khawatir bahwa menyebarkan berita palsu melalui Facebook dapat memicu situasi selama pemilihan mendatang. Kekerasan online
melahirkan di negara-negara yang lebih maju: di
Meksiko ,
Amerika Serikat dan
Jerman .
Di satu sisi, ketika pemerintah memblokir jaringan sosial, itu dianggap sebagai upaya untuk membatasi kebebasan berbicara. Tetapi di sisi lain, kasus-kasus tersebut menunjukkan bahwa memutuskan jaringan sosial adalah satu-satunya alat bagi negara untuk mencegah kekerasan dan hilangnya nyawa. Bagaimana jejaring sosial berubah menjadi lingkungan yang agresif dan adakah cara untuk menghentikan kekerasan tanpa mematikan Internet?
Dari pembersihan etnis hingga serangan teroris
Studi
PBB menunjukkan bahwa Facebook memainkan "peran menentukan" dalam kebangkitan sentimen anti-Muslim di Myanmar, tetangga Sri Lanka. Penyebaran rumor di jejaring sosial
menyebabkan korban di kalangan penduduk: histeria anti-Muslim di jejaring sosial Myanmar berubah menjadi pembersihan etnis skala penuh. Pasukan pemerintah telah menggunakan Facebook selama beberapa tahun untuk
mempropagandakan kelompok etnis Rohingya di negara tersebut. Setidaknya 6.700 orang menjadi korban di dunia nyata,
menurut laporan dari Doctors Without Borders. Pada November 2018, Facebook menerbitkan
penilaian independen tentang apa yang terjadi di Myanmar dan
mengakui bahwa perusahaan itu tidak melakukan cukup untuk mencegah platformnya menghasut pertikaian dan hasutan untuk melakukan kekerasan dalam kehidupan nyata.
Setahun sebelum serangan teroris di Sri Lanka, desas-desus palsu di jejaring sosial memprovokasi umat Buddha untuk berbicara menentang umat Islam: feed berita Facebook juga memainkan
peran fatal . Pada saat yang sama, pemerintah negara menghargai jaringan sosial karena membantu membangun demokrasi setelah bertahun-tahun perang saudara, sehingga kritik mereka untuk menghasut kebencian rasial dapat dianggap objektif. Perwakilan Facebook tidak menanggapi kritik terhadap pemerintah sampai akses ke sumber daya mereka diblokir di negara itu. Hanya setelah itu, perusahaan Amerika berjanji untuk mempekerjakan lebih banyak moderator dan meningkatkan interaksi dengan pihak berwenang setempat.
Algoritma kematian
Sebagian besar penerbit dan distributor konten ekstrem di web tidak melakukan kejahatan rasial dalam kehidupan nyata. Namun kejahatan rasial yang terjadi seringkali terkait dengan aktivitas penghasut online. Model matematika dari perilaku sosial yang dihitung oleh para ilmuwan Rusia
menunjukkan bahwa ada titik balik, setelah itu beberapa orang menjadi begitu terobsesi dengan versi realitas yang terdistorsi yang diciptakan oleh Internet sehingga mulai bertindak.
Sebuah studi oleh University of Warwick di Britania Raya
menemukan korelasi antara serangan terhadap pengungsi di Jerman antara 2015 dan 2017 dengan daerah-daerah dengan popularitas Facebook yang tinggi dan penyebaran
pos partai populis paling kanan “Alternatif untuk Jerman” (AfD)
terhadap para pengungsi . Dari 3335 serangan, 3171 di antaranya terjadi di kota dengan aktivitas ancaman online tinggi. Di Chemnitz, Jerman, desas-desus palsu tentang migran pembunuh di Twitter dan Facebook menyebabkan
demonstrasi massa , mengumpulkan 6.000 peserta pada Agustus 2018.
Mengakses teknologi dan platform yang menyediakan konten viral tidak terlalu sulit. Sebuah studi oleh Massachusetts Institute of Technology (MIT) lebih dari 126.000 posting yang ditulis oleh sekitar 3 juta orang
menunjukkan bahwa kebohongan menyebar di media sosial jauh lebih cepat dan lebih luas daripada kebenaran di semua kategori informasi. Pengaruh jejaring sosial diperkuat oleh apa yang disebut gelembung ideologis: untuk menjaga perhatian orang di situs mereka selama mungkin, perusahaan seperti Facebook dan YouTube menggunakan algoritme yang merekomendasikan posting yang berpotensi paling menarik bagi pengguna. Jika sistem menangkap popularitas video, maka ia mendistribusikannya lebih banyak, dan sebagai hasilnya, konten mendapat lebih banyak penayangan, dan YouTube menerima lebih banyak uang karena fakta bahwa pengguna menghabiskan lebih banyak waktu pada sumber daya dan melihat lebih banyak iklan.
Pengguna dalam gelembung ideologis melihat versi dunia di mana pandangan mereka tidak pernah diperdebatkan, dan pendapat yang bertentangan tidak ditemukan. Penampil YouTube jatuh ke dalam kondisi yang dipertimbangkan dalam model "
konfrontasi informasi " dari para sosiolog Rusia: pengguna tidak mengalami iritasi dalam bentuk sudut pandang alternatif. Ini menciptakan lingkaran penganut yang sangat erat dan loyal yang siap untuk meniru agenda yang lebih radikal jika itu terjadi. Gelembung seperti ini membawa "titik kritis" ke mana kekerasan keluar.
Insinyur Guillaume Chaslo, yang bekerja di sistem rekomendasi YouTube selama tiga tahun, menciptakan situs web
Algotransparency pada tahun 2016, di mana ia mencoba mengungkap algoritma hosting video: bagaimana satu konten dipromosikan dibandingkan dengan yang lain. Sehari sebelum
penembakan di Pittsburgh Synagogue pada tahun 2018, Algotransparency mencatat bahwa algoritma YouTube mendistribusikan video terapis konspirasi David Ike, di mana ia menuduh
miliarder Yahudi, dermawan dan target tercinta ultra-kanan George Soros dari "memanipulasi peristiwa politik di dunia." Video tersebut memiliki kurang dari 1000 penayangan, ketika algoritma mulai mempromosikannya, sekarang memiliki lebih dari 70.000.Ini tidak membuktikan hubungan sebab akibat antara video dan penembakan, tetapi memberikan pemahaman tentang bagaimana menemukan video provokatif dan memerangi distribusinya.
Kekerasan online
Masalah lain yang terkait dengan kekerasan dan media jaringan adalah distribusi video yang tidak terkendali dengan pembantaian dan bunuh diri.
Empat tahun lalu, sebuah video yang diambil secara independen oleh pembunuh dua wartawan di Virginia didistribusikan di Facebook dan Twitter, tiga tahun lalu,
penembakan massal di Dallas menjadi viral. Platform media sosial dapat menyediakan audiens global untuk orang-orang yang ingin membahayakan diri sendiri atau orang lain. Ini mungkin bukan apa yang diperhitungkan Facebook ketika memperkenalkan Facebook Live kepada publik beberapa
tahun yang lalu .
Karena fakta bahwa streaming video adalah alat yang relatif baru di Internet dimana Facebook, Twitter, Amazon dan perusahaan lain terus berinvestasi, tidak jelas apa yang harus dilakukan jika menyiarkan serangan teroris di udara. Bahkan jika Facebook dengan cepat memblokir konten kekerasan, insiden seperti itu langsung diketahui, mendorong orang untuk mencari video asli melalui Google dan mesin pencari lainnya.
Serangan tersebut di Selandia Baru, yang menewaskan 50 orang, disiarkan langsung di Facebook, diposting ulang di YouTube dan dibahas di Reddit sebelum ada platform yang bereaksi. Banyak pengguna berhasil menempatkannya di akun mereka, yang membutuhkan audit kedua tidak hanya dengan cara otomatis, tetapi juga dengan keterlibatan moderator untuk menghapus semua salinan. Misalnya, hampir dua bulan setelah tragedi Christchurch, CNN menemukan salinan siaran pembantaian
masih tersedia di banyak situs.
Penyelamatan yang tenggelam
Dalam beberapa tahun terakhir, penonaktifan Internet menjadi semakin
umum di seluruh dunia, terutama di Asia dan Afrika, setelah protes atau kegiatan anti-pemerintah lainnya.
Namun, para ahli kebijakan Internet meragukan bahwa penyumbatan mencegah teroris dari memenuhi niat mereka. Peneliti Universitas Stanford Ian Ridgak
menemukan bahwa memblokir jejaring sosial dan situs web di India disertai dengan
eskalasi kekerasan ... Memblokir tumpahan berita dan rumor palsu melalui saluran alternatif, karena tidak adanya komunikasi Internet massal yang cepat, lebih sulit untuk menyangkal.
Dalam beberapa kasus, larangan hanya efektif sampai batas tertentu, karena pengguna dapat menggunakan aplikasi yang dikenal sebagai VPN atau jaringan pribadi virtual untuk memotong pemblokiran atau pengirim pesan instan yang berkomunikasi dengan perangkat di sekitarnya melalui Wi-Fi jika Internet dimatikan.
Pada bulan Maret, komisi parlemen India meminta Joel Kaplan, kepala politik Facebook global,
untuk memperketat kontrol atas WhatsApp dan Instagram, mengharuskan perusahaan untuk memeriksa posting pengguna untuk memastikan mereka tidak mengandung sesuatu yang ilegal. Pendekatan ini ambigu karena dua alasan: itu mengarah perusahaan seperti WhatsApp, yang menggunakan enkripsi ujung ke ujung, untuk secara radikal mengubah platform mereka, dan, di sisi lain, menimbulkan kekhawatiran tentang kerahasiaan dan kontrol negara yang berlebihan.
Kontrol manual
Di Cina,
pasukan sensor yang sangat nyata berjuang melawan konten media sosial yang tidak pantas dengan ratusan juta pengguna. Para peneliti di
Universitas Harvard menilai jumlah mereka pada puluhan ribu peserta yang belum pernah ada sebelumnya, termasuk blogger pemerintah dan yang disebut polisi Internet, yang menyaring konten dari sumber daya jaringan. Berkat aplikasi Cina yang berkembang pesat, pengaruh sensor meluas jauh melampaui batas Kerajaan Tengah: Pendiri Facebook Mark Zuckerberg
menuduh jejaring sosial TikTok memblokir konten yang terkait dengan protes di Hong Kong, bahkan di Amerika Serikat.
Jika konten berbahaya terletak di luar Kekaisaran Selestial,
Senapan Hebat digunakan , yang memperlambat kerja sumber daya yang tidak pantas. Sebagai contoh, menurut Pavel Durov, pemerintah Cina melakukan serangan DDoS untuk memperlambat Telegram pada 13 Juni, ketika ratusan ribu warga Hong Kong mengepung gedung pemerintah untuk
memprotes RUU tersebut , yang memungkinkan orang untuk diekstradisi ke pengadilan di daratan Tiongkok.
Tetapi bahkan suatu sistem yang kuat dan pasukan moderator tidak dapat secara manual melihat setiap file yang diunduh dalam jumlah waktu yang wajar, dan pertumbuhan penyiaran streaming membawa serta kesulitan baru dalam mengenali konten yang kejam, karena video dapat ditampilkan sebelum sensor tahu bahwa itu disiarkan.
Teknologi otomatis jauh dari sempurna dan memberikan satu-satunya peluang untuk menandai dan mencegah pengulangan hanya konten yang paling mengerikan di Web. Menurut statistik YouTube, hanya
73% dari video yang diberi tag otomatis dihapus sebelum setidaknya satu orang melihatnya.
Selama bertahun-tahun, baik Facebook maupun Google telah mengembangkan dan mengimplementasikan alat otomatis yang dapat mendeteksi dan menghapus foto, video, dan teks yang melanggar kebijakan mereka. Misalnya, Facebook menggunakan
PhotoDNA dari Microsoft untuk mendeteksi pornografi anak. Google telah mengembangkan
versinya sendiri
dari perangkat lunak sumber terbuka ini. Perusahaan-perusahaan ini juga berinvestasi dalam teknologi untuk mendeteksi pesan-pesan ekstremis, bergabung dengan sebuah kelompok bernama
Global Internet Forum on Counterterrorism untuk bertukar informasi tentang konten teroris yang diketahui. Untuk konten ilegal yang terdeteksi, dihasilkan tanda tangan digital yang memungkinkannya dikenali setelah pengunduhan berulang (dan melarangnya).
Tetapi moderasi otomatis menjadi jauh lebih sulit jika ini bukan tentang foto dan video, tetapi tentang streaming video. Seperti penasihat umum Google, Kent Walker menulis di
blognya pada tahun 2017, "mobil dapat membantu mengidentifikasi video yang bermasalah, tetapi faktor manusia masih memainkan peran yang menentukan dalam nuansa menentukan batas antara propaganda kekerasan dan ucapan agama." Perusahaan
- perusahaan teknologi
belum mampu menciptakan AI yang efektif untuk secara proaktif memblokir konten semacam itu, meskipun itu adalah industri terkaya di dunia. Karena itu, Facebook dan YouTube memiliki tim sensor yang menonton video di seluruh dunia, dan pada saat yang sama semakin dihadapkan dengan masalah volume data. Mungkin YouTube dan Facebook menjadi terlalu besar untuk dimoderasi.
Tampaknya Mark Zuckerberg sendiri tidak yakin dengan kemampuan sistem otomatis: ia siap
untuk mentransfer kendali atas aset yang tertekan
ke negara , termasuk konten "pembunuh" dan iklan politik. “Sampai baru-baru ini, Internet di hampir semua negara di luar China ditentukan oleh platform Amerika, di mana nilai-nilai kebebasan berbicara sangat kuat. Tidak ada jaminan bahwa nilai-nilai ini akan menang, "kata miliarder itu dalam pidatonya di Universitas Georgetown. Tetapi apakah ada jaminan bahwa dalam hal pengalihan kendali atas konten kepada pemerintah negara mana pun, kami tidak akan menerima sensor dari Jaringan Global sesuai dengan skenario China? Apakah ini jenis internet yang kita inginkan, Mark?
Nikita Tsaplin
Menit perawatan UFO
Bahan ini dapat menyebabkan perasaan yang saling bertentangan, jadi sebelum menulis komentar, segarkan sesuatu yang penting dalam ingatan Anda: