JBNews.id — Seorang pria menggunakan chatbot Grok milik Elon Musk untuk menghasilkan sekitar 7.000 gambar eksplisit secara seksual dari anak tirinya, dengan memasukkan foto korban yang diambil saat berusia 11 tahun ke dalam sistem kecerdasan buatan tersebut. Tuduhan ini terungkap dalam gugatan class action yang diajukan terhadap xAI, perusahaan yang kini dimiliki oleh SpaceX dan telah berganti nama menjadi SpaceXAI.
Gugatan tersebut, sebagaimana dilaporkan oleh Ars Technica, menuduh xAI membangun alat AI untuk “menelanjangi” orang tanpa persetujuan mereka dan melindungi pelaku kejahatan dari penegakan hukum. Gugatan diajukan oleh sekelompok anak perempuan yang mengaku menjadi korban dari generasi gambar obscene Grok.
Menurut dokumen gugatan, aktivitas mengerikan sang ayah tiri hampir tidak terdeteksi oleh sistem keamanan Grok. Sistem tersebut gagal menandai ribuan gambar yang menggambarkan inses dan pemerkosaan. Baru setelah prompt spesifik untuk “gang rape” (pemerkosaan beramai-ramai) sistem Grok mengirimkan laporan ke National Center for Missing and Exploited Children (NCMEC), yang kemudian memberi tahu pihak berwenang.
Namun, gugatan tersebut menuduh xAI “menghalangi” penyelidikan yang dilakukan polisi “di setiap kesempatan.” Perusahaan menolak memberikan informasi lebih lanjut tentang pengguna di balik permintaan tersebut, termasuk detail identitas kritis seperti alamat IP. Polisi akhirnya berhasil melacak pria tersebut dan menemukan koleksi besar gambar hasil AI dari anak tirinya, yang diidentifikasi sebagai Jane Doe 4.
Dua hari setelah dibebaskan dengan jaminan, pria tersebut menembak dirinya sendiri hingga tewas, semakin menghancurkan kehidupan gadis muda itu. “Dalam semalam, seluruh realitas Jane Doe 4 hancur oleh tragedi ganda eksploitasi seksual anak dan bunuh diri,” demikian bunyi gugatan. “Keluarganya tercerai-berai, dan hidupnya menjadi mimpi buruk.”
Kemampuan Grok untuk membuat deepfake seksual telah menarik perhatian nasional setelah periode beberapa pekan pada Desember lalu dan Januari tahun ini, ketika chatbot tersebut digunakan untuk menghasilkan puluhan ribu gambar AI telanjang nonkonsensual dari wanita dan anak-anak sungguhan. Setelah kejadian itu, firma Copyleaks memperkirakan bot tersebut menghasilkan gambar yang diseksualisasikan secara nonkonsensual setiap satu menit sekali.
Pusat Counter Digital Hate kemudian memperkirakan bahwa ini berarti sekitar 3.000.000 gambar AI telanjang, dengan lebih dari 23.000 gambar di antaranya menggambarkan anak-anak. Musk, CEO dan pemilik xAI, telah membantah bahwa Grok digunakan untuk menghasilkan materi eksploitasi seksual anak (CSAM).
Tanggapan awal perusahaan terhadap kemarahan publik adalah dengan membatasi pembuatan gambar hanya untuk pengguna berbayar. Lebih dari seminggu kemudian — ketika Grok terus menghasilkan CSAM dan deepfake telanjang — xAI mengatakan akan menerapkan pengaman yang lebih ketat untuk menghentikan Grok menghasilkan gambar seksual dari orang sungguhan, tanpa mengakui tren yang meresahkan ini.
Baca Juga:
Gugatan juga menuduh xAI melindungi pelaku kejahatan dengan mempersulit upaya penegakan hukum untuk melacak mereka. Dalam siaran pers yang dikutip Ars, tim hukum penggugat menunjuk pada temuan NCMEC bahwa 90 persen CyberTips xAI tidak “dapat ditindaklanjuti” karena hampir tidak memberikan informasi tentang pengguna yang ditandai.
“Mereka memiliki semua yang diperlukan untuk membantu penegak hukum menghentikan orang yang bertanggung jawab dan mencapai keadilan. Sebaliknya, mereka tetap diam dan membiarkan orang ini menggunakan Grok untuk mencuri masa kecil saya,” kata Jane Doe 4, seperti dikutip Ars. Kasus ini menjadi babak baru dalam kontroversi seputar keamanan AI Grok yang juga digunakan oleh militer AS untuk mengebom Iran.
Insiden ini memperkuat kekhawatiran tentang risiko Grok yang terus menghantui pengguna dan regulator. Belum ada pernyataan resmi dari SpaceXAI mengenai perkembangan terbaru dalam gugatan class action ini.
