Pertama Kalinya, Facebook Umumkan Prevalensi Ujaran Kebencian hingga Penindasan Siber

Cyberthreat.id – Platform media sosial Facebook, yang baru-baru ini nama perusahaannya berganti Meta, untuk pertama kali mengeluarkan hasil risetnya terkait tingkat intimidasi dan pelecehan di aplikasi.

Wakil Presiden Integritas Facebook Guy Rosen mengatakan, prevalensi ujaran kebencian di Facebook menurun selama empat kuartal berturut-turut.

“Untuk pertama kalinya, kami membagikan metrik prevalensi untuk perundungan/penindasan siber (cyberbullying) dan pelecehan (harrasment) di Facebook dan Instagram, metrik prevalensi untuk ujaran kebencian di Instagram, dan semua metrik untuk kekerasan dan hasutan,” kata dia dalam laporan yang diunggah di Newsroom Facebook, Selasa (9 November 2021)..

Laporan metrik tersebut diukur mulai Juli-September 2021. Tim Facebook meninjau jutaan konten di seluruh dunia setiap hari menggunakan teknologi AI.

Terdapat lebih dari 70 bahasa yang diteliti oleh tim global mereka, sedangkan teknologi AI dipakai untuk mengkaji lebih dari 50 bahasa terkait ujaran kebencian.

“Kami menggunakan layar peringatan untuk mencegah dan mengedukasi orang saat mengunggah sesuatu…layar muncul setelah mengetik unggahan atau komentar yang menjelaskan bahwa konten tersebut mungkin melanggar aturan dan mungkin disembunyikan atau distribusinya dikurangi,” tutur Rosen.

“Mengunggah konten tersebut berulang kali dapat mengakibatkan akun dinonaktifkan atau dihapus,” ia menambahkan.

Ujaran kebencian

Di kuartal ketiga 2021, kata Rosen, terdapat 0,03 persen atau tiga tampilan ujaran kebencian per 10.000 tampilan konten di Facebook. Ia mengklaim prevalensi ini turun dari kuartal kedua, 0,05 persen atau 5 tampilan per 10.000 konten.

Sementara di Instagram ujaran kebencian sebesar 0,02 persen atau 2 tampilan di kuartal ketiga dan ini untuk pertama kalinya diumumkan.

Kekerasan dan hasutan

Untuk prevalensi kekerasan dan hasutan, Rosen mengatakan, terdapat antara 4-5 tampilan per 10.000 tampilan konten di Facebook. Sementara, di Instagram terpantau sebanyak 2 tampilan per 10.000 tampilan konten.

“Kami menghapus 13,6 juta konten di Facebook karena melanggar kebijakan kekerasan dan hasutan dan kami secara proaktif mendeteksi 96,7 persen konten sebelum ada (pengguna) yang melaporkannya kepada kami,” kata Rosen.

Sementara di Instagram, tim telah menghapus 3,3 juta konten dengan tingkat deteksi proaktif 96,4 persen.

Intimidasi/penindasan siber dan pelecehan

Rosen mengatakan, prevalensi konten intimidasi dan pelecehan mencapai 14-15 tampilan konten per 10.000 tampilan konten di Facebook. Sementara di Instagram, antara 5-6 tampilan per 10.000 tampilan konten.

“Kami menghapus 9,2 juta konten perundungan/penindasan dan pelecehan di Facebook dan 7,8 juta konten serupa di Instagram…Penindasan dan pelecehan adalah tantangan unik dan salah satu masalah paling kompleks untuk ditangani karena konteksnya sangat penting,” ujar Rosen.[]