JBNews.id — Investigasi BBC mengungkap bahwa Instagram meraup keuntungan dari iklan berbayar yang mempromosikan child sexual abuse material (CSAM) di India. Temuan ini memperlihatkan celah besar dalam upaya Meta, perusahaan induk Instagram, memberantas konten ilegal di platformnya.
Menurut laporan BBC yang dirilis pekan ini, sejumlah iklan yang ditinjau menggunakan istilah eksplisit seperti “rape video” dan “child video”. Iklan-iklan tersebut mengarahkan pengguna ke saluran Telegram ilegal, di mana materi tersebut bisa dibeli dengan harga semurah satu dolar AS.
Praktik ini berlangsung di tengah klaim Meta bahwa perusahaan telah beralih ke kecerdasan buatan (AI) untuk mengurangi ketergantungan pada moderator manusia pihak ketiga. Namun, sistem AI tersebut terbukti tidak mampu mendeteksi dan menyaring konten yang sangat mengganggu ini.
Pemerintah India langsung bereaksi keras. Kementerian Elektronik dan Teknologi Informasi India mengeluarkan pemberitahuan resmi kepada Meta, meminta perusahaan segera menonaktifkan semua iklan dan konten yang mempromosikan penjualan CSAM. Meta diberi waktu hingga 11 Juli untuk memberikan penjelasan terperinci.
Menanggapi BBC, Meta mengklaim telah menonaktifkan beberapa iklan dan menangguhkan akun terkait karena melanggar kebijakan. Seorang juru bicara Meta menyatakan, “Tidak ada sistem yang sempurna, dan proses peninjauan kami mungkin tidak mendeteksi semua pelanggaran kebijakan.”
Juru bicara itu menambahkan, “Kami terus menjalankan teknologi deteksi proaktif pada iklan setelah ditayangkan, dan siapa pun dapat melaporkan iklan yang dianggap melanggar aturan kami.” Telegram juga menyatakan telah menghapus lebih dari 274.000 grup dan saluran terkait CSAM sepanjang tahun 2026.
Kritik dari Mantan Eksekutif Meta
Mantan wakil presiden Facebook, Brian Boland, menuding algoritma Instagram dirancang untuk memaksimalkan keuntungan. “Yang menyedihkan dan tragis adalah seiring waktu, trade-off antara pendapatan dan pengalaman pengguna menjadi bagian inti dari percakapan,” ujarnya kepada BBC.
Boland sebelumnya bersaksi melawan Meta dalam persidangan di New Mexico, di mana juri memutuskan perusahaan bersalah menyesatkan pengguna tentang keamanan platformnya bagi anak-anak. Putusan pada Maret lalu menyimpulkan bahwa Meta membiarkan proliferasi CSAM dan mengubah platformnya menjadi pasar untuk perdagangan seks anak.
“Eksekutif Meta tahu produk mereka membahayakan anak-anak, mengabaikan peringatan dari karyawan mereka sendiri, dan berbohong kepada publik tentang apa yang mereka ketahui,” kata Jaksa Agung New Mexico, Raúl Torrez, dalam pernyataannya. “Hari ini juri bergabung dengan keluarga, pendidik, dan pakar keselamatan anak untuk mengatakan cukup sudah.”
Dampak dan Skala Masalah
India menempati posisi kedua setelah Amerika Serikat dalam jumlah laporan CSAM, dengan 1,9 juta laporan masuk ke saluran pelaporan utama. Kelompok advokasi hak anak memperingatkan bahwa masih banyak kejahatan yang luput dari deteksi.
Baca Juga:
Kasus ini menambah daftar panjang masalah moderasi konten yang dihadapi Meta. Perusahaan sebelumnya dituduh sengaja membongkar pedoman keselamatan anak dan meremehkan tingkat keparahan masalah CSAM di platformnya.
Bagi pengguna Instagram di Indonesia, temuan ini menjadi pengingat akan pentingnya kewaspadaan terhadap konten berbahaya. Meski Meta mengklaim telah meningkatkan sistem deteksi AI, efektivitasnya masih dipertanyakan. Pengguna dapat mempelajari cara blokir foto dari akses AI Meta untuk melindungi privasi mereka.
Selain itu, Meta baru-baru ini mengambil langkah untuk mematikan fitur AI yang menghasilkan gambar dari akun publik, sebagai respons terhadap kekhawatiran privasi. Namun, kasus iklan CSAM ini menunjukkan bahwa perlindungan terhadap konten ilegal masih jauh dari memadai.
Implikasi dari temuan BBC ini sangat jelas: sistem moderasi konten berbasis AI Meta belum cukup kuat untuk menghentikan penyebaran CSAM. Pemerintah India memberi tenggat waktu ketat, dan jika Meta gagal memberikan penjelasan yang memuaskan, sanksi lebih berat bisa dijatuhkan. Bagi publik, ini berarti tekanan kepada platform media sosial untuk meningkatkan keamanan anak harus terus didorong.
Meski Meta mengandalkan AI untuk moderasi, insiden terbaru seperti pencemaran air oleh pusat data AI menunjukkan bahwa infrastruktur AI perusahaan masih bermasalah. Sementara itu, Telegram yang menjadi saluran distribusi CSAM juga terus berupaya membersihkan platformnya dengan menghapus ratusan ribu grup ilegal.
Kasus ini menjadi ujian kredibilitas bagi Meta dalam menangani CSAM. Dengan tekanan dari regulator global dan publik, perusahaan harus membuktikan bahwa mereka serius memberantas konten ilegal, bukan sekadar menjalankan langkah-langkah kosmetik.
