JBNews.id — Lebih dari 50 iklan berbayar yang memuat materi pelecehan seksual anak (CSAM) yang dihasilkan kecerdasan buatan (AI) ditemukan beroperasi di platform Meta selama sembilan bulan terakhir. Temuan dari Tech Transparency Project (TTP) ini mengungkap bahwa iklan-iklan tersebut telah ditinjau, disetujui, dan diizinkan berjalan oleh Meta, dengan jangkauan hingga ribuan akun di Amerika Serikat, Inggris, dan lebih dari belasan negara Eropa.
Iklan-iklan yang ditemukan di pustaka iklan Meta—alat transparansi yang mengkatalogkan iklan di platform perusahaan—tersebar di Facebook, Instagram, Messenger, dan Threads. Beberapa di antaranya bahkan menautkan pengguna ke aplikasi “nudify” atau aplikasi yang digunakan untuk melepas pakaian secara digital. Temuan ini menjadi yang kedua kalinya dalam beberapa pekan terakhir iklan berbayar terkait CSAM ditemukan di platform Meta.
“Iklan-iklan ini tidak berusaha menyamarkan gambar atau menyembunyikan apa yang mereka promosikan,” kata Katie Paul, direktur TTP, sebuah kelompok pengawas independen. “Penting untuk menunjukkan bahwa ini bukan konten yang diunggah pihak ketiga di Facebook atau Instagram, ini adalah iklan yang ditinjau, disetujui, dan diizinkan berjalan oleh Meta, tanpa pernah mendapat hambatan sementara perusahaan mengumpulkan uang dari iklan tersebut.”
Temuan Iklan CSAM AI di Meta
Para peneliti menemukan iklan-iklan yang melanggar kebijakan Meta tentang materi pelecehan dan eksploitasi seksual anak ini dipublikasikan antara November tahun lalu hingga awal Agustus. Data dalam pustaka transparansi iklan Meta menunjukkan iklan-iklan tersebut sering berjalan selama beberapa hari dan sebagian hanya menargetkan pengguna pria.
Salah satu iklan video menggunakan gambar mini seorang anak duduk di lantai dengan teks di atasnya: “Realizing Deep Fantasies with Generation AI [sic]. There is so much more than what is shown, use your imagination.” Saat iklan diklik, video menampilkan orang dewasa dalam adegan seksual dan kemudian menempelkan wajah anak tersebut ke dalam adegan seksual tersebut. Iklan lain yang diposting berulang kali menampilkan gambar seorang gadis muda berbaring dengan kaki terbuka dalam posisi seksual dengan teks: “I can show you more.”
Sebagian besar iklan tidak lagi aktif ditayangkan saat peneliti menemukannya, tetapi iklan-iklan tersebut tetap tersedia di pustaka iklan Meta selama berbulan-bulan tanpa terdeteksi. Meskipun banyak iklan hanya menjangkau sedikit akun, setidaknya satu iklan menjangkau 2.563 akun di Eropa—termasuk di Prancis, Jerman, Irlandia, Italia, Belanda, Spanyol, Swedia, dan Inggris. Basis data pustaka iklan Meta tidak mencakup detail kinerja iklan di AS atau semua negara, sehingga jangkauan keseluruhan mungkin lebih tinggi.
Baca Juga:
Respons Meta dan Proses Peninjauan Iklan
Paul mengatakan TTP pertama kali menemukan iklan-iklan tersebut pekan lalu saat peneliti terus menyelidiki iklan aplikasi nudify di Meta, setelah menerbitkan laporan tentang mitra periklanan China yang mempostingnya. Organisasi tersebut segera melaporkan temuan itu ke CyberTipline National Center for Missing and Exploited Children (NCMEC), yang memungkinkan orang melaporkan materi pelecehan seksual anak secara online. Juru bicara NCMEC mengatakan pihaknya tidak berkomentar tentang laporan yang diterimanya.
Setelah WIRED menghubungi Meta, perusahaan menghapus iklan-iklan tersebut dari pustaka iklannya. “Eksploitasi seksual mengerikan, dan kami bekerja agresif untuk menjauhkannya dari platform kami,” kata juru bicara Meta. “Mayoritas iklan ini memiliki jangkauan minimal dan banyak yang dinonaktifkan sebelum WIRED membagikannya. Banyak iklan ini juga mendahului teknologi AI baru yang kami luncurkan baru-baru ini untuk mendeteksi dan memblokir iklan yang melanggar saat diunggah—dan kami terus meningkatkan sistem ini. Dari menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu hingga mengambil tindakan hukum terhadap pengembang aplikasi nudify, kami akan terus melawan penyalahgunaan ini tanpa henti.”
Seperti yang diisyaratkan perusahaan, sebagian iklan yang melanggar berhasil melewati teknologi AI baru Meta. Awalnya, peneliti TTP menemukan sekitar dua lusin iklan yang menampilkan konten kasar. Namun, beberapa jam sebelum publikasi, peneliti menemukan sekitar 30 iklan lagi. Banyak dari iklan ini diterbitkan setelah WIRED pertama kali bertanya kepada Meta tentang konten tersebut, dengan beberapa iklan aktif dan ditayangkan ke akun pada saat peneliti menemukannya. Paul mengatakan kelompok iklan tersebut mencakup beberapa kasus terburuk yang pernah dilihat peneliti.
Kebijakan Meta menyatakan bahwa semua iklan ditinjau sebelum dipublikasikan, dengan sistem yang “terutama” menggunakan “alat otomatis” untuk memeriksanya terhadap kebijakan perusahaan. Standar periklanan perusahaan menetapkan bahwa materi eksploitasi dan pelecehan seksual anak tidak diizinkan, dan ketika perusahaan mengetahuinya, perusahaan membuat laporan ke NCMEC. Pustaka iklan Meta kini menunjukkan iklan-iklan yang ditemukan peneliti TTP dihapus karena melanggar kebijakan perusahaan tentang “eksploitasi seksual anak, pelecehan dan ketelanjangan” dan “ketelanjangan dan aktivitas seksual orang dewasa.”
Temuan ini muncul setelah investigasi BBC pada awal Juli menemukan bahwa Instagram menjalankan iklan yang mempromosikan penjualan materi pelecehan seksual anak di India. Paul dari TTP mengatakan dalam cache iklan yang dilihat penelitinya, tampaknya ada beberapa iklan identik yang sebelumnya telah dihapus Meta karena melanggar kebijakannya. “Ini menimbulkan pertanyaan signifikan tentang seberapa serius Meta menangani eksploitasi anak dalam iklan berbayar jika sistemnya sendiri dapat mengidentifikasi iklan identik tetapi tidak menghapus iklan identik tersebut untuk materi CSAM,” kata Paul.
Jejaring Aplikasi Nudify dan Dampaknya
Iklan-iklan tersebut tampaknya sebagian besar diposting oleh akun Meta dengan nol atau sedikit pengikut; di mana pengiklan yang membayar diungkapkan, mereka terkait dengan perusahaan China. Dalam satu kasus—iklan yang menampilkan gadis berbaring—data Meta menunjukkan pengiklan adalah perusahaan China bernama Meet Social. Perusahaan ini pernah menjadi salah satu penjual ulang iklan Meta yang menangani iklan di China, di mana platform media sosial Meta diblokir. Menurut profil New York Times 2019, perusahaan ini menerbitkan ribuan iklan di Facebook per hari dan memperkirakan penjualan lebih dari $1 miliar.
Beberapa iklan Meta yang ditemukan peneliti TTP menautkan ke aplikasi bernama MaskAI yang muncul di App Store Apple. Aplikasi yang terkait dengan pengembang perangkat lunak China ini tidak menampilkan ketelanjangan sebelum diunduh, tetapi setelah dibuka, aplikasi ini secara eksklusif berisi pornografi yang dihasilkan AI dan mencakup fitur yang memungkinkan pengguna mengunggah gambar dan menukar wajah orang ke dalam situasi seksual. Setelah dihubungi WIRED, juru bicara Apple mengatakan perusahaan telah menghapus MaskAI dari App Store karena melanggar kebijakannya terhadap aplikasi nudifikasi.
Sejak sekitar 2020, seiring membaiknya teknologi machine learning dan generative AI, banyak layanan nudifikasi dan undress AI berbahaya muncul secara online—menghasilkan jutaan dolar bagi penciptanya dan menyebabkan kerugian besar bagi banyak perempuan. Layanan-layanan ini juga telah digunakan dalam pembuatan materi pelecehan seksual anak yang dihasilkan AI, yang ilegal di berbagai negara di dunia.
Alexios Mantzarlis, salah satu pendiri publikasi penipuan digital Indicator dan mantan pekerja trust and safety di Google, mengatakan dia telah menemukan dan melaporkan lebih dari 25.000 iklan untuk AI nudifier di platform Meta dalam beberapa tahun terakhir. Perusahaan sebelumnya mengatakan telah menghapus lebih dari 344.000 iklan untuk nudifier dan meluncurkan tindakan hukum terhadap perusahaan Hong Kong yang terkait dengan satu set platform nudifier. “Para aktor di sisi lain jelas diperlengkapi dengan baik untuk membuat akun pengiklan baru dan domain baru sehingga mereka dapat terus berjalan, memanfaatkan teknik yang sama yang digunakan oleh jaringan penipuan,” kata Mantzarlis.
Sean Litton, CEO Tech Coalition yang akan segera lengser, sebuah kelompok yang bekerja dengan perusahaan teknologi untuk mengatasi pelecehan online, mengatakan dalam sebuah pernyataan bahwa Meta telah berbagi “ribuan URL yang melanggar” ke layanan Lantern kelompok tersebut. Juru bicara Revenge Porn Helpline di Inggris juga merespons dengan pernyataan memuji kemitraan Meta dengan StopNCII.org dan beberapa upayanya untuk memerangi citra intim nonkonsensual. “Kami telah menjelaskan bahwa aplikasi nudify menghadirkan masalah yang benar-benar antagonistik, bukan hanya karena siapa yang ada di belakangnya, tetapi karena seberapa cepat ekosistem ini beradaptasi di sekitar setiap titik penegakan tunggal,” kata Revenge Porn Helpline.
Kasus ini menyoroti tantangan besar dalam penegakan kebijakan platform digital terhadap konten ilegal yang dihasilkan AI. Dengan sistem peninjauan yang mengandalkan alat otomatis dan kemampuan pelaku untuk terus membuat akun baru, pertanyaan tentang efektivitas pengawasan algoritma AI Meta menjadi semakin mendesak. Sementara itu, Meta terus berinvestasi besar dalam pengembangan AI, termasuk belanja AI senilai Rp2.100 triliun yang sempat membuat investor khawatir. Bagi pengguna platform, temuan ini menegaskan pentingnya kewaspadaan terhadap konten berbahaya, sementara bagi regulator, kasus ini menjadi bukti bahwa pengawasan iklan digital masih memiliki celah serius yang perlu segera ditutup.
