JBNews.id — Hampir setengah remaja usia sekolah di Amerika Serikat telah melihat konten seksual yang dihasilkan oleh kecerdasan buatan (AI), dan sebagian besar mengaku menemukannya secara tidak sengaja di media sosial. Temuan ini berasal dari survei nasional terbaru yang dirilis oleh Common Sense Media, sebuah organisasi nirlaba yang fokus pada dampak teknologi terhadap anak-anak.
Survei yang melibatkan 1.314 remaja berusia 13 hingga 17 tahun ini mengungkap realitas baru yang meresahkan: konten seksual buatan AI—mulai dari gambar deepfake telanjang hingga video porno yang dimanipulasi—telah menjadi bagian dari kehidupan remaja. “Untuk sebagian besar remaja, satu, mereka terpapar konten ini — tetapi dua, mereka juga menciptakan dan menyebarkan konten ini,” kata Supreet Mann, direktur riset Common Sense Media dan penulis utama laporan tersebut, seperti dikutip dari Futurism. “Dan ketika mereka melakukannya, seringkali konten itu menggambarkan orang yang mereka kenal secara pribadi atau diri mereka sendiri.”
Angka yang Mengkhawatirkan
Data dari survei ini menunjukkan skala masalah yang signifikan. Sekitar 64 persen remaja yang melaporkan melihat konten tersebut mengatakan bahwa materi itu menampilkan selebritas yang mereka kenali. Namun, yang lebih mengkhawatirkan, 24 persen lainnya mengungkapkan bahwa konten tersebut menunjukkan diri mereka sendiri atau seseorang yang mereka kenal di dunia nyata.
Lebih dari delapan persen remaja mengaku pernah membuat deepfake atau konten seksual buatan AI sendiri. Sementara itu, 13 persen lainnya mengatakan mereka mengenal seseorang yang pernah menghasilkan konten semacam itu. Dari kelompok pembuat konten ini, lebih dari 60 persen mencatat bahwa “konten tersebut menggambarkan diri mereka sendiri atau orang yang mereka kenal secara pribadi, seperti teman sebaya, teman, atau mantan pasangan romantis.”
Konten deepfake yang melibatkan anak di bawah umur termasuk dalam kategori materi pelecehan seksual anak ilegal berdasarkan hukum federal Amerika Serikat. Beberapa remaja yang membuat gambar porno deepfake telah ditangkap dan menghadapi tuntutan pidana.
Perubahan Perilaku Akibat Ketakutan
Kekhawatiran akan dampak deepfake telah mendorong banyak remaja mengubah perilaku online mereka. Survei mencatat bahwa sekitar 67 persen remaja setidaknya cukup khawatir bahwa mereka bisa terpengaruh oleh deepfake. Akibatnya, hampir 40 persen dari mereka telah membuat akun media sosial menjadi privat, membatasi apa yang mereka bagikan, atau bahkan menghapus akun media sosial sepenuhnya.
“Sekitar dua pertiga remaja menunjukkan bahwa mereka khawatir tentang hal ini, dan banyak dari mereka mengubah perilaku online karena ketakutan itu… itu adalah indikasi yang sangat menarik tentang bagaimana remaja memikirkan konten ini, dan mereka memikirkan kurangnya kendali yang mereka miliki di ruang ini,” jelas Mann.
Meskipun berpikir kritis tentang kehadiran online bukanlah hal yang buruk, Mann menambahkan bahwa saat ini beban perlindungan justru jatuh ke pundak remaja sendiri. “Mengapa remaja dipaksa untuk mengawasi diri mereka sendiri,” tanya peneliti tersebut, “padahal ini seharusnya bukan beban mereka?”
Akses Mudah ke Alat Pembuat Deepfake
Kemudahan akses menjadi faktor utama penyebaran konten ini. Aplikasi “nudify” yang dapat dengan mudah ditemukan secara online dan di toko aplikasi memungkinkan siapa saja untuk “menelanjangi” seseorang secara artifisial tanpa persetujuan hanya dengan satu foto dan beberapa klik tombol. Chatbot umum, termasuk Grok milik xAI, juga telah digunakan untuk membuat deepfake, termasuk yang menampilkan anak di bawah umur.
Skandal deepfake telah mengguncang berbagai kota di Amerika Serikat, yang sebagian besar berdampak pada anak perempuan. Para korban menggambarkan pengalaman kecemasan yang menghancurkan, serangan panik, pikiran untuk bunuh diri, dan hilangnya kepercayaan mendalam terhadap teman sebaya dan lingkungan sosial mereka.
Satu keluarga di Louisiana bahkan menggugat distrik sekolah setelah putri mereka yang berusia 13 tahun dikeluarkan karena secara fisik menghadapi teman sekelas yang telah membuat dan menyebarkan deepfake nonkonsensual dari dirinya dan teman-temannya. Gugatan tersebut menyebutkan bahwa anak laki-laki yang membuat gambar tersebut tidak mendapat sanksi disiplin apa pun.
Remaja Ingin Berbicara, Tapi Bingung Caranya
Ada satu titik terang dari survei ini. Mann mencatat bahwa banyak remaja sebenarnya ingin berbicara dengan orang dewasa tepercaya tentang dunia baru yang aneh ini, tetapi mereka tidak yakin bagaimana memulainya. “Hanya satu dari lima remaja yang mengatakan bahwa mereka pernah berbicara dengan orang dewasa tepercaya tentang hal ini. Namun, sepertiga remaja mengatakan bahwa mereka ingin berbicara dengan seseorang, mereka hanya tidak tahu bagaimana memulai percakapan itu,” kata Mann.
Remaja yang lebih muda cenderung lebih ingin berbicara dengan orang dewasa tepercaya dibandingkan remaja yang lebih tua. Sementara itu, satu dari sepuluh remaja mengaku akan lebih nyaman berbicara dengan chatbot tentang apa yang mereka lihat. Ini menunjukkan bahwa “anak-anak terbuka untuk melakukan percakapan ini,” dan bahwa “memulai sejak dini dan menciptakan ruang untuk percakapan adalah sangat penting,” tambah Mann.
“Ada jendela kesempatan unik bagi orang tua untuk memulai percakapan ini dengan anak-anak mereka, dan jangan menunda percakapan itu,” ujar Mann. “Kita tidak ingin anak-anak kita beralih ke chatbot AI untuk melakukan percakapan, atau tidak melakukan percakapan ini sama sekali.”
Perlu Pendekatan Multi-Pihak
Selain orang tua, sekolah, pembuat kebijakan, dan perusahaan teknologi—yang membangun alat yang digunakan untuk menghasilkan materi ini dan menjalankan platform tempat remaja menemukan konten tersebut—perlu proaktif dalam memahami dan mengurangi dampak buruknya. Salah satu tantangan adalah membatasi pembuatan deepfake sejak awal. Upaya ini telah mendorong pejabat lokal untuk melihat toko aplikasi sebagai titik pencekikan dalam rantai pasok deepfake: minggu lalu, kota San Francisco memerintahkan Apple dan Google untuk menghapus aplikasi “nudify” dari toko aplikasi masing-masing.
“Ini adalah sesuatu yang perlu ditangani dari semua sisi,” kata Mann. Sementara itu, remajalah yang menghadapi dampak langsung dari pornografi buatan AI dan deepfake dalam kehidupan pribadi dan sosial mereka. Seorang gadis berusia 17 tahun mengatakan kepada peneliti, “Kami tumbuh seiring AI tumbuh. Kami tumbuh bersama. Orang dewasa tidak memiliki pengalaman hidup yang sama seperti kami. Mereka tidak memahami seberapa maju dan seberapa intens AI sekarang.”
Implikasinya jelas: tanpa tindakan cepat dan terkoordinasi dari orang tua, sekolah, pembuat kebijakan, dan perusahaan teknologi, generasi muda akan terus menanggung beban psikologis dan sosial dari fenomena deepfake yang semakin merajalela.
