JBNews.id — Chatbot Grok milik Elon Musk masih digunakan untuk memproduksi dan menghosting gambar serta video eksplisit nonkonsensual, berbulan-bulan setelah perusahaan AI-nya, xAI, mengatakan akan memberlakukan pembatasan untuk menghentikan pembuatan deepfake seksual yang berpotensi berbahaya. Temuan ini muncul saat SpaceX, perusahaan induk xAI, bersiap melantai di bursa pada Jumat ini dalam salah satu IPO terbesar sepanjang masa.
Analisis WIRED terhadap kreasi publik menemukan bahwa sistem AI generatif Grok Imagine telah digunakan untuk membuat dan menghosting gambar serta video yang menggambarkan selebritas dan setidaknya satu politisi ditahan melawan kehendak mereka oleh seorang pria raksasa, menggambarkan wanita melakukan tindakan seksual, dan menampilkan ketelanjangan penuh. Sementara beberapa gambar dan video sepenuhnya dihasilkan AI atau dalam gaya animasi, lainnya bersifat fotorealistik dan menunjukkan skenario dunia nyata yang masuk akal.
WIRED meninjau ratusan tautan Grok Imagine publik yang dihosting di Grok.com dan menemukan puluhan di antaranya mengarah ke gambar dan video AI yang seksual, termasuk yang dibuat tanpa persetujuan subjek. Beberapa tautan yang dibuat di Grok.com kemudian dibagikan di X, termasuk dalam beberapa hari terakhir. Unggahan tersebut, yang tidak menunjukkan stempel waktu kapan dibuat, kemungkinan hanya gambaran sekilas dari apa yang dibuat oleh orang-orang yang menggunakan sistem Grok Imagine, karena generasi tampaknya tidak dibuat publik secara default.
Sistem AI generatif lain menggunakan lebih banyak pengaman daripada Grok, yang tersedia di situs webnya sendiri dan di X. “Sementara Grok dan X mungkin telah membuat beberapa amandemen pada model mereka, terutama setelah reaksi balik terkait nudifikasi di awal tahun, mereka masih belum melakukan pekerjaan yang memadai untuk meningkatkannya ke standar alat utama lain yang tersedia,” kata Henry Ajder, seorang pakar deepfake yang telah melacak konten AI eksplisit secara online selama hampir satu dekade.
Gelombang Gugatan dan Investigasi Regulator
xAI milik Musk telah menghadapi gelombang gugatan dan pengawasan dari regulator di seluruh dunia sejak Januari, ketika implementasi Grok di X digunakan untuk membuat banjir gambar “nudifikasi.” Orang-orang di X—terutama pria—meminta chatbot untuk mengedit gambar agar menunjukkan wanita dalam “bikini” atau “string bikini.” Dalam beberapa kasus, gambar anak di bawah umur diduga juga disexualisasikan, menurut gugatan class action yang diajukan di pengadilan federal California pada Maret. Sejak itu, xAI mengatakan telah memperkenalkan pengaman untuk membatasi dan mencegah pembuatan deepfake nonkonsensual dan seksual. Perusahaan secara konsisten mengatakan bahwa materi pelecehan seksual anak (CSAM) dilarang di platformnya.
Baik xAI maupun X tidak segera menanggapi permintaan komentar WIRED mengenai banyaknya gambar seksual yang dihosting di Grok.com. Setelah WIRED menghubungi perusahaan-perusahaan tersebut, gambar dan video eksplisit yang ditemukan WIRED dihosting di Grok.com tampaknya sudah tidak tersedia lagi, dan tautan Grok Imagine yang dibagikan di X dihapus karena melanggar kebijakan. “Kami dengan tegas melarang pengguna menghasilkan deepfake eksplisit nonkonsensual dan menggunakan alat kami untuk menelanjangi orang sungguhan,” kata akun keamanan di X pada bulan April menanggapi laporan NBC tentang deepfake seksual yang masih dibuat.
Di antara unggahan yang dihosting di Grok.com, WIRED mengidentifikasi gambar dan video yang menggambarkan banyak selebritas serta anggota DPR AS Alexandria Ocasio-Cortez. (Juru bicara Ocasio-Cortez tidak segera menanggapi permintaan komentar WIRED). Dalam video tersebut, para wanita digambarkan mengenakan pakaian minim sambil ditahan di kepalan tangan “raksasa” seorang pria. Salah satu prompt menggambarkan seorang selebritas ditahan melawan kehendaknya saat dia “memohon padanya untuk tidak melakukan ini.” Prompt itu menambahkan: “Cengkeraman tangan raksasa itu padanya mengencang, menahannya di tempat saat pria raksasa yang menahannya mencondongkan tubuh dan menjilati wajahnya dari atas ke bawah.”
Dua prompt yang digunakan untuk menghasilkan materi di Grok ditolak oleh ChatGPT milik OpenAI, Meta AI, dan Claude milik Anthropic sebagai tidak pantas saat diuji oleh WIRED. Gemini milik Google memang membuat gambar salah satu selebritas yang ditahan di tangan raksasa, meskipun menolak prompt lain. Google menolak berkomentar.
Baca Juga:
Dampak pada Korban dan Kritik Publik
Satu video Grok Imagine, yang juga diunggah ke X, tampaknya menggambarkan Ashley St. Clair yang diubah menjadi menari dalam bikini. St. Clair sebelumnya menjalin hubungan dengan Musk dan merupakan ibu dari salah satu anaknya. Pada Januari, dia memulai tindakan hukum terhadap xAI setelah deepfake seksualnya diduga muncul di X. Setelah WIRED menghubungi X, unggahan tersebut dihapus dari platform media sosial karena melanggar aturannya.
Carrie Goldberg, pengacara St. Clair dan advokat terkemuka melawan citra seksual nonkonsensual, mengatakan pembuatan materi pelecehan seksual yang menampilkan selebritas bukanlah hal baru—tetapi kemampuan untuk membuat jenis gambar ini dan segera membagikannya di media sosial adalah perkembangan yang “bersejarah.” “Jadi ada publikasi instan dari gambar telanjang digital,” kata Goldberg kepada WIRED. “Dan tidak hanya itu, tetapi orang terkaya di dunia mempromosikan teknologi nudifikasi kepada 240 juta pengikutnya di X, memonetisasinya, dan melakukannya di platform yang untuk usia 13+.”
Imran Ahmed, CEO dan pendiri Center for Countering Digital Hate, menggemakan kekhawatiran Goldberg. “Elon Musk dengan sengaja menambahkan fitur bejat ke platformnya yang membantu pengguna menelanjangi wanita dan anak-anak dengan sekali klik, tanpa memedulikan kerusakan yang dapat diprediksi akan ditimbulkannya,” klaim Ahmed. Pada Januari, CCDH memperkirakan dengan tingkat kepercayaan tinggi bahwa Grok menciptakan 3 juta gambar seksual, yang diduga termasuk lebih dari 20.000 gambar anak-anak. “Sekarang tampaknya konten eksplisit masih dihosting di Grok dan dibagikan di X, termasuk gambar yang mengejek ibu dari anak Musk.”
Tidak seperti sistem AI generatif lain dari OpenAI dan Google, Grok dan xAI milik Musk tidak mundur dari mengizinkan konten seksual secara umum, setelah sebelumnya memperkenalkan mode “Spicy” dan “Unhinged” dan awalnya menyertakan lebih sedikit pengaman. Musk telah menyatakan Grok “seharusnya mengizinkan ketelanjangan tubuh bagian atas dari manusia dewasa imajiner” dan konsisten dengan apa yang mungkin dilihat pemirsa di film berperingkat R. Persyaratan layanan terbaru dari xAI mengatakan sistem dapat merespons dengan “situasi seksual.” Namun, dokumentasi perusahaan mengatakan tidak mengizinkan orang menggunakan sistemnya untuk “menyebabkan bahaya atau terlibat dalam aktivitas kasar.”
Video Grok Imagine lain yang dilihat WIRED menunjukkan wanita, yang kemungkinan sepenuhnya dihasilkan AI, menanggalkan pakaian atau terlibat dalam tindakan seksual—beberapa sepenuhnya eksplisit. Prompt pengguna untuk banyak video tidak selalu secara langsung menggambarkan tindakan seksual, tetapi menggambarkannya dengan cara tidak langsung—kemungkinan upaya untuk menghindari pengaman yang digunakan di platform Grok.
Banyak peneliti memberi tahu WIRED bahwa sejak Januari tampaknya perubahan yang diperkenalkan oleh X dan Grok telah mempersulit pembuatan gambar “nudifikasi” atau “telanjangi” orang sungguhan. Jumlah gambar ini yang diposting ke X tampaknya telah menurun dalam beberapa bulan terakhir. Di Reddit dan satu forum deepfake AI khusus, pengguna telah mengeluh tentang peningkatan moderasi dari perusahaan milik SpaceX.
Namun demikian, pada bulan Mei, SpaceX memperingatkan calon investor bahwa mereka telah menyisihkan $530 juta untuk menangani keluhan hukum yang sedang berlangsung, termasuk yang terkait dengan Grok. “Karena mode ini mungkin lebih tidak sopan dan lebih keras daripada penawaran standar kami, mode ini menghadirkan risiko yang meningkat, termasuk kerusakan reputasi, pembuatan konten yang berpotensi eksplisit dan misinformasi atau keluaran yang menipu, citra nonkonsensual atau eksploitatif potensial, pelanggaran kekayaan intelektual, atau konten yang dapat dipandang sebagai eksploitatif, berbahaya, melecehkan, kasar, atau diskriminatif,” demikian bunyi pengajuannya pada bulan Mei.
Menjelang IPO SpaceX pada hari Jumat, Komisioner Privasi Kanada menerbitkan temuan awal investigasinya terhadap pelanggaran deepfake xAI dan Grok pada bulan Januari. Investigasi tersebut menuduh xAI melanggar undang-undang privasi sektor swasta federal Kanada dengan tidak menyertakan “pengaman yang tepat sejak awal.” Investigasi mengatakan xAI memberi tahu Komisioner Privasi bahwa mereka telah memperkenalkan pengaman baru untuk mencegah orang berhasil meminta Grok mengubah pakaian dalam gambar dan bahwa xAI telah memperkenalkan “pemeriksaan proaktif lebih lanjut” dari situs web media sosial untuk menemukan konten yang melanggar. Namun, investigasi mengatakan Komisioner Privasi tidak yakin dengan perubahan tersebut. “Para responden belum, hingga saat ini, menunjukkan efektivitas pengaman ini dalam mencegah dan mengurangi masalah ini,” kata investigasi tersebut.
Implikasi faktual dari temuan ini sangat luas. Gugatan class action yang sudah berjalan dan pengawasan global menunjukkan bahwa pengaman yang dijanjikan xAI belum efektif. Bagi pengguna biasa, ini berarti risiko penyalahgunaan AI generatif masih tinggi di platform yang mengklaim telah memperbaikinya. Bagi investor SpaceX yang akan masuk dalam IPO, ini adalah risiko litigasi senilai $530 juta yang belum terselesaikan.
