JBNews.id — Perusahaan kecerdasan buatan milik Elon Musk, xAI, menggugat seorang pria berusia 67 tahun di South Carolina, Terry Wayne Harwood, atas penggunaan chatbot Grok untuk membuat deepfake seksual nonkonsensual yang melibatkan perempuan dan anak-anak. Harwood telah ditangkap pada Maret lalu dan menghadapi dakwaan eksploitasi seksual terhadap anak di bawah umur.
Menurut gugatan yang diajukan di Texas pada pekan ini, Harwood menggunakan dua akun Grok berbeda untuk menghasilkan materi pelecehan seksual anak (CSAM). Meskipun Grok menolak beberapa permintaan Harwood, ia mampu merancang prompt secara spesifik untuk menghindari sistem keamanan Grok dan menciptakan gambar-gambar ilegal tersebut.
Skandal Deepfake Grok yang Meluas
Gugatan ini muncul setelah skandal besar deepfake yang terungkap selama musim dingin lalu, ketika pengguna X menyadari bahwa Grok—yang telah diperbarui dengan fitur pengeditan foto dan video baru—dapat digunakan untuk mengubah gambar secara cepat dan mudah guna menelanjangi orang sungguhan serta menggambarkan mereka dalam pose seksual.
Beberapa gambar tersebut menggambarkan perempuan nyata dalam skenario kekerasan seksual yang merendahkan. Bahkan, beberapa deepfake nonkonsensual menggambarkan anak di bawah umur. Center for Countering Digital Hate memperkirakan bahwa selama periode 11 hari, Grok “menghasilkan sekitar 3 juta gambar seksual, termasuk 23.000 gambar anak-anak.”
Kasus ini mempertegas masalah serius yang dihadapi platform AI dalam mencegah penyalahgunaan teknologi. Untuk memahami lebih dalam tentang dampak ekspansi AI terhadap lingkungan, Anda dapat membaca artikel terkait tentang Emisi Karbon Microsoft.
xAI Hadapi Banyak Gugatan Hukum
Saat menggugat salah satu penggunanya atas pembuatan konten ilegal, xAI juga menghadapi beberapa gugatan lain terkait CSAM yang dihasilkan Grok. Pada Maret lalu, sekelompok remaja di Tennessee menggugat perusahaan tersebut dalam gugatan class action, menuduh Grok digunakan untuk membuat deepfake mereka dan lebih dari belasan anak di bawah umur lainnya.
Pekan lalu, gugatan tersebut diamendemen dengan menambahkan tuduhan bahwa seorang pria menggunakan Grok untuk menghasilkan lebih dari 7.000 deepfake seksual dari anak tirinya sendiri. Amandemen gugatan menyatakan bahwa sebagian besar prompt pria tersebut tidak terdeteksi oleh sistem keamanan Grok.
Dalam kasus lain yang menonjol, mantan influencer konservatif Ashley St. Clair—yang juga ibu dari salah satu anak Elon Musk—menggugat xAI setelah menjadi sasaran agresif deepfake seksual, termasuk satu gambar yang menggambarkannya sebagai anak di bawah umur. Kasus ini mengingatkan pada Grok Elon Musk Hasilkan 7.000 Gambar Eksplisit yang telah dilaporkan sebelumnya.
Baca Juga:
Dampak AI terhadap Penegakan Hukum
Para profesional penegak hukum dan pakar keamanan anak online mengatakan bahwa AI telah menyebabkan banjir besar CSAM yang luar biasa dan membingungkan. Seperti yang dirinci dalam laporan Bloomberg awal tahun ini, AI juga menciptakan tantangan baru bagi mereka yang berusaha menemukan dan menangkap predator anak, karena AI mempersulit penyidik untuk menentukan apakah seorang anak yang digambarkan dalam materi pelecehan adalah nyata atau hasil generasi AI.
Klaim xAI Soal Penegakan Aturan
Dalam gugatan terbarunya, xAI menuduh Harwood terlibat dalam “skema terencana untuk mempersenjatai alat Perusahaan untuk tujuan kriminal, mengekspos korban nyata pada bahaya yang mendalam dan abadi, sambil mengekspos Perusahaan pada risiko hukum signifikan dan kerusakan reputasi.”
xAI—yang kini dimiliki oleh SpaceX dan telah berganti nama menjadi SpaceXAI—juga mengklaim bahwa perusahaannya “menegakkan aturan terhadap pelanggar melalui penangguhan akun, penghentian akun, dan melaporkan materi pelecehan seksual anak yang dicurigai ke National Center for Missing and Exploited Children (NCMEC).”
Perusahaan juga mengklaim bahwa xAI “telah menangguhkan 52.222 akun dan membuat 73.604 laporan ke NCMEC pada tahun 2026, yang menghasilkan (setidaknya) 244 penangkapan.” Namun, terlepas dari upaya terbaiknya, jelas bahwa startup ini masih memiliki masalah deepfake yang serius.
Implikasi bagi Industri AI
Jika seorang pengguna terlibat dalam aktivitas kriminal yang sangat mengganggu menggunakan layanan perusahaan, adalah wajar bagi perusahaan untuk meminta pertanggungjawaban mereka. Namun, menggugat pengguna tidak memperbaiki sistem keamanan chatbot yang gagal, yang justru memfasilitasi kejahatan mereka.
Kasus ini menjadi pengingat bahwa pengembangan AI harus diimbangi dengan tanggung jawab keamanan yang ketat. Perkembangan ini juga menunjukkan bagaimana Rilis Game Mobile Premium Melonjak 77% menjadi salah satu tren yang kontras dengan masalah serius di industri teknologi lainnya.
Bagi pembaca, kasus ini menegaskan bahwa teknologi AI, meskipun menawarkan banyak manfaat, juga membawa risiko serius jika tidak diawasi dengan ketat. Regulasi yang lebih kuat dan sistem keamanan yang lebih baik menjadi kebutuhan mendesak untuk melindungi kelompok rentan dari penyalahgunaan teknologi.
