Hidayatullah.com—Meta, pemilik Facebook dan Instagram, loloskan iklan politik yang dimanipulasi oleh artificial intelligence (AI) yang memicu kekerasan dan menyebarkan informasi yang salah selama Pemilu India, menurut laporan dari The Guardian.
Investigasi yang dilakukan oleh India Civil Watch International (ICWI) dan pengawas perusahaan Ekō mengungkapkan bahwa raksasa teknologi tersebut mengizinkan iklan-iklan yang menghasut yang menargetkan umat Islam.
Mengutip laporan The Guardian, iklan yang ditujukan untuk menguji sistem deteksi Meta menyertakan hinaan seperti “mari kita bakar hama ini” dan “darah Hindu tumpah, penyusup ini harus dibakar” serta klaim palsu tentang pemimpin politik.
Sebuah iklan secara keliru menuduh seorang pemimpin oposisi ingin “memusnahkan umat Hindu dari India” dan menyerukan hukuman mati bagi mereka.
Laporan tersebut mengungkapkan bahwa sistem Meta tidak dapat memblokir beberapa rangkaian iklan provokatif yang dirancang untuk meniru skenario kehidupan nyata yang diunggah oleh ICWI dan Ekō.
Baca Juga
Dari 22 iklan yang dikirimkan dalam berbagai bahasa, 14 telah disetujui Meta dan setelah beberapa perubahan kecil, tiga iklan lainnya juga disetujui.
Pada akhirnya, semua iklan yang disetujui Meta segera dihapus oleh ICWI dan Ekō. Sistem Meta gagal mendeteksi gambar yang dimanipulasi oleh AI meskipun raksasa teknologi itu berjanji untuk memblokir konten tersebut selama pemilu.
Juru kampanye di Ekō, Maen Hammad mengklaim bahwa Meta mengambil keuntungan dari ujaran kebencian.
“Para pendukung supremasi, rasis, dan otokrat (fanatik) tahu bahwa mereka dapat menggunakan iklan yang ditargetkan untuk menyebarkan ujaran kebencian, berbagi gambar masjid yang terbakar dan mendorong teori konspirasi kekerasan dan Meta akan dengan senang hati mengambil uang mereka, tanpa ada pertanyaan,” katanya.
Laporan tersebut juga menemukan bahwa iklan tersebut disetujui karena melanggar peraturan pemilu India yang melarang konten terkait pemilu 48 jam sebelum pemungutan suara dimulai.
Juru bicara Meta menegaskan bahwa iklan harus mematuhi undang-undang dan standar komunitas dan menyatakan bahwa iklan tentang pemilu atau politik “harus melalui proses otorisasi yang diwajibkan oleh platform kami dan bertanggung jawab untuk mematuhi semua undang-undang yang relevan”.
Raksasa teknologi ini sebelumnya telah dikritik karena gagal menghentikan penyebaran ujaran kebencian Islamofobia, seruan kekerasan, dan teori konspirasi anti-Muslim pada platformnya di India.
Pengiriman tersebut dalam beberapa kasus telah menyebabkan kerusuhan dan serangan yang mengakibatkan kematian.*
Bantu kami terus menyuarakan kebenaran!
Scan QRIS dan dukung #Journalism4Ummah
