Facebook Papers: Kelemahan Moderasi Facebook Picu Kekerasan Komunal di India
Kemampuan Facebook memoderasi konten ujaran kebencian, penyebaran informasi salah, dan sejenisnya di India dapat sorotan tajam seiring naiknya kasus kekerasan komunal. Partai penguasa diduga memanfaatkan kelemahan itu.
Oleh
MAHDI MUHAMMAD
·5 menit baca
AFP PHOTO / BIJU BORO
Foto tanggal 10 Juni 2018 ini memperlihatkan warga India berunjuk rasa di Guwahati, Negara Bagian Assam, India timur laut, menuntut penangkapan dan hukuman atas orang-orang yang terlibat pembunuhan dua orang di Distrik Karbi Anglong. Dua pria menjadi korban tewas dalam kasus pembunuhan itu akibat rumor yang tersebar di Facebook dan Whatsapp di India.
NEW DELHI, SENIN — Upaya platform media sosial Facebook untuk menangani ujaran kebencian, penyebaran informasi yang salah (misinformation), dan berbagai unggahan menghasut, khususnya konten anti-Muslim di India, menjadi sorotan. Kelemahan platform Facebook dalam memoderasi atau mencegah ujaran kebencian, penyebaran informasi yang salah, dan unggahan menghasut diduga dimanfaatkan oleh partai yang saat ini berkuasa, Bharatiya Janata Party (BJP), untuk keuntungan partainya selama pemilihan umum.
Berdasarkan bocoran penelitian internal Facebook, yang diperoleh The Associated Press, platform yang berdiri sejak 2004 itu mengklaim telah cukup selektif dalam mengekang ujaran kebencian, penyebaran informasi yang salah, dan berbagai unggahan menghasut yang berujung pada ketegangan komunal dan agama.
Namun, dalam dokumen yang dihasilkan dari penelitian internal perusahaan sejak Juli 2020 hingga setidaknya bulan Maret 2021, para karyawan sendiri meragukan motivasi dan kepentingan Facebook dalam memoderasi konten-kontennya. Dokumen itu juga menyebut kemungkinan ada kesalahan penanganan yang justru semakin memperburuk hubungan antarumat beragama di India, terutama antara warga mayoritas Hindu dan warga minoritas Muslim.
Bocoran dokumen tersebut memperlihatkan bahwa manajemen Facebook telah menyadari ada masalah itu selama bertahun-tahun. Dalam dokumen itu disebutkan bahwa ujaran kebencian dan penyebaran informasi yang salah dalam beberapa kasus diamplifikasi secara masif oleh fitur ”direkomendasikan” dan algoritma milik Facebook.
Kompas
Foto yang diambil pada 9 Juli 2018 ini menunjukkan Gopal Chandra Das, Ayah Nilotpal Das, korban amuk massa di kediamannya di Guwahati, ibu kota Negara Bagian Assam, India timur laut. Nilotpal Das adalah salah satu korban amuk massa yang dipicu oleh rumor yang tersebar di Facebook dan Whatsapp di India karena ia dicurigai sebagai penculik anak pada 8 Juni tahun itu.
Itu sebabnya, banyak kritikus dan pakar digital mengatakan bahwa manajemen Facebook telah gagal, terutama ketika kasus kekerasan komunal itu melibatkan anggota Partai BJP yang dipimpin oleh Perdana Menteri Narendra Modi.
Di seluruh dunia, Facebook telah menjadi semakin penting dalam politik, dan India tidak berbeda. Tahun lalu, media The Wall Street Journal mengeluarkan laporan yang membeberkan keterlibatan Modi dan kroninya untuk memanfaatkan Facebook dalam pemilu, terutama membangkitkan sentimen nasionalisme agama dan nasionalisme etnis.
Laporan tersebut juga meragukan kemampuan Facebook untuk menegakkan kebijakannya tentang ujaran kebencian, terutama setelah hubungan PM Modi dan CEO Facebook Mark Zuckerberg digambarkan sangat dekat pascakunjungan Modi ke kantor pusat Facebook tahun 2015.
AP PHOTO/JEFF CHIU, FILE
Perdana Menteri India Narendra Modi memeluk CEO Facebook Mark Zuckerberg dalam kunjungan Modi ke kantor pusat Facebook di Menlo Park, California, Amerika Serikat, 27 September 2015.
Profesor Tanvir Aeijaz, pakar ilmu politik di Universitas Delhi, yang dikutip dari laman BBC, mengatakan bahwa kekerasan komunal bukanlah fenomena yang muncul belakangan. ”Kondisi itu tumbuh selaras dengan strategi mereka yang berkuasa dan mobilisasi politik. Ketidakpercayaan itu selalu ada, tetapi perpecahan kini dipertajam oleh nasionalisme agama dan nasionalisme etnis,” kata Aeijaz.
Seorang politisi senior BJP, Prakash Javadekar, menilai media bersikap bias dengan memberi porsi lebih terhadap pemberitaan Muslim yang menjadi korban kekerasan komunal. Dia mengklaim, umat Hindu adalah warga yang lebih banyak menjadi korban dibandingkan dengan warga Muslim.
”Jika melihat data resmi, ada 160 umat Hindu di antara 200 orang yang digantung. Orang-orang dari semua agama menjadi sasaran," kata Javadekar. Namun, dia tidak memberikan rincian sumber data tersebut. Bahkan, Pemerintah India tidak pernah mengumpulkan data seperti itu.
Pada 2019, sebuah situs pemeriksa fakta yang menghitung ”kejahatan kebencian” di India melaporkan bahwa lebih dari 90 persen korban dalam 10 tahun terakhir adalah warga minoritas Muslim.
Kelemahan moderasi konten
Dalam dokumen tersebut, Facebook melihat India sebagai salah satu negara yang paling berisiko di dunia. Mereka juga mengidentifikasi bahasa Hindi dan Bengali sebagai dua bahasa yang diprioritaskan untuk dikenali secara lebih dalam dan ditandai apabila terkait dengan ujaran kebencian (Facebook flagged words).
Yang menjadi kendala adalah Facebook tidak memiliki cukup moderator bahasa lokal atau penanda konten untuk menghentikan penyebaran informasi yang salah, yang tidak jarang menyebabkan kekerasan di dunia nyata.
AP PHOTO/MAHESH KUMAR A
Perdana Menteri India Narendra Modi melambaikan tangan kepada pendukungnya saat kampanye Partai Bharatiya Janata (BJP) di Hyderabad, India, Senin, 1 April 2019.
Dalam sebuah pernyataan kepada AP, Facebook menyatakan telah berinvestasi secara signifikan dalam teknologi untuk menemukan ujaran kebencian dalam berbagai bahasa, termasuk Hindi dan Bengali. Langkah itu dipandang secara signifikan telah mengurangi jumlah ujaran kebencian hingga separuh tahun 2021.
”Ujaran kebencian terhadap kelompok-kelompok yang terpinggirkan, termasuk Muslim, sedang meningkat secara global. Jadi, kami meningkatkan penegakan dan berkomitmen untuk memperbarui kebijakan kami saat ujaran kebencian berkembang secara daring,” kata juru bicara Facebook.
Harian The New York Times, dalam laporan yang terbit pada 23 Oktober 2021 menulis, dari 22 bahasa resmi yang diakui oleh Pemerintah India, Facebook baru menggunakan teknologi kecerdasan buatan (artificial intelligence atau AI) untuk mengenali lima bahasa. Facebook mengklaim menggunakan tim bahasa untuk mengawasi penggunaan bahasa pada konten-kontennya. Namun, dalam laporan The New York Times yang mengutip bocoran dokumen penelitian, banyak konten yang menargetkan warga minoritas Muslim tidak pernah ditandai atau ditindaklanjuti.
Rekomendasi Facebook
Sebuah penelitian kecil dilakukan seorang karyawan Facebook menjelang pemilihan umum ketika penyebaran informasi yang salah semakin tinggi. Dia ingin memahami apa yang dilihat oleh pengguna baru di India pada umpan berita (newsfeed) yang dipilih berdasarkan rekomendasi oleh platform itu sendiri. Selama tiga pekan, beberapa peristiwa luar biasa mengguncang India, seperti serangan militan di Kashmir yang menewaskan lebih dari 40 tentara India dan membuat kemungkinan terjadi perang dengan Pakistan sangat terbuka.
Dalam catatan hasil penelitian itu juga disebutkan bahwa peneliti dan tim terkejut dengan konten yang membanjiri pengumpan berita pengguna. Konten yang disodorkan melalui kanal itu adalah rentetan konten nasionalis yang bias, informasi yang salah, dan penggunaan kekerasan yang berujung pada pertumpahan darah. Unggahan yang tampaknya santun dan tidak berbahaya, yang direkomendasikan oleh algoritma Facebook, dengan cepat berubah menjadi sesuatu yang berbeda, yakni berisi ujaran kebencian, desas-desus yang tidak terverifikasi, dan konten viral yang merajalela.
Singkat kata, para pengguna media sosial Facebook justru mendapat rekomendasi mengakses berita-berita palsu, retorika anti-Pakistan, dan konten Islamofobia. Sebagian besar isi konten-konten tersebut penuh dengan kekerasan yang brutal.
AFP/SAM PANTHAKY
Sejumlah pendukung Partai Bharatiya Janata menyalakan lilin saat merayakan keberhasilan India memberikan vaksin Covid-19 yang telah mencapai 1 miliar dosis di Ahmedabad, India, Kamis (21/10/2021).
Fitur ”Populer di Seluruh Facebook” juga menunjukkan banyak konten yang belum diverifikasi terkait dengan serangan balasan India ke Pakistan setelah pengeboman. Dalam konten itu, misalnya ada gambar bom napalm dari klip video game yang dibantah oleh salah satu mitra pemeriksa fakta Facebook.
”Mengikuti newsfeed pengguna uji ini, saya telah melihat lebih banyak gambar orang meninggal dalam tiga minggu terakhir daripada yang saya lihat sepanjang hidup saya,” tulis peneliti. Peneliti mempertanyakan tanggung jawab platform untuk mencegah terjadi kerusakan.
”Haruskah kita, sebagai perusahaan, memiliki tanggung jawab ekstra untuk mencegah kerusakan yang diakibatkan oleh konten yang direkomendasikan?” kata peneliti dalam kesimpulan mereka.
AFP/ARUN SANKAR
Foto ilustrasi yang diambil pada 22 Maret 2018 ini memperlihatkan app Facebook, Instagram, Whatsapp, dan platform media sosial lainnya di sebuah telepon pintar di Chennai, India.
Memo manajemen yang beredar bersama hasil penelitian tidak menjawab pertanyaan itu, tetapi mengekspos bagaimana algoritma platform berperan dalam menghasilkan konten yang tidak pantas. Karyawan tersebut mencatat bahwa ada ”titik buta” yang jelas, terutama dalam ”konten bahasa lokal".
Juru bicara Facebook mengatakan, studi uji ”mengilhami analisis yang lebih dalam dan lebih ketat” dari sistem rekomendasinya dan ”berkontribusi pada perubahan produk untuk meningkatkannya”.
”Secara terpisah, pekerjaan kami untuk mengekang ujaran kebencian terus berlanjut dan kami semakin memperkuat pengklasifikasian kebencian (di platform) kami untuk memasukkan empat bahasa India," kata juru bicara itu. (AP/AFP)
