JBNews.id — Model kecerdasan buatan (AI) Grok milik SpaceXAI menjadi yang paling rentan terhadap serangan jailbreak, sementara Claude dan GPT dari Anthropic serta OpenAI terbukti kebal dalam pengujian terbaru oleh FAR.AI, sebuah organisasi nirlaba keamanan AI yang berbasis di California.
Dalam laporan yang dirilis baru-baru ini, FAR.AI menguji sistem pengamanan dari empat perusahaan AI populer Amerika Serikat: Anthropic dengan model Claude Opus 4.8 dan Fable 5; OpenAI dengan GPT 5.5 dan 5.6; Google dengan Gemini 3.1 Pro; serta Grok 4.3 dan 4.5 dari SpaceXAI milik Elon Musk. Pengujian dilakukan dengan menghasilkan secara otomatis ribuan versi dari berbagai prompt bermasalah untuk mengidentifikasi celah keamanan atau jailbreak yang berfungsi.
Hasil Pengujian: Grok dan Gemini Paling Rentan
Laporan tersebut menemukan bahwa Grok paling rentan terhadap jailbreak dengan total 448 celah berhasil ditemukan. Disusul oleh Gemini dengan 249 jailbreak. Sementara itu, Claude, Fable, dan GPT dinyatakan kebal terhadap serangan yang diuji dalam riset ini. Namun, FAR.AI dan para ahli lain memperingatkan bahwa hal itu tidak berarti model-model tersebut kebal terhadap teknik jailbreak yang lebih canggih, yang mungkin melibatkan interaksi dengan model secara lebih kompleks.
Dalam pengujiannya, FAR.AI menggunakan prompt yang dirancang untuk mengelabui model AI agar melakukan hal-hal berbahaya, seperti menghasilkan eksploitasi perangkat lunak dan memberikan detail untuk mengembangkan senjata kimia atau biologi. Salah satu contohnya adalah ketika model AI menghasilkan rencana terperinci untuk meluncurkan serangan siber pada bendungan hidroelektrik imajiner.
Riset ini juga menghitung biaya untuk membuat model-model tersebut melanggar aturan dengan menggunakan model AI lain untuk secara otomatis menghasilkan berbagai jailbreak. Hasilnya sangat murah: hanya $58 untuk membobol Grok dan $278 untuk membobol Gemini.
Baca Juga:
Seruan Regulasi Eksternal
“Model AI saat ini kurang diatur dibandingkan restoran,” ujar Adam Gleave, CEO FAR.AI dan ahli keamanan serta alignment AI. Gleave menegaskan bahwa temuan ini menunjukkan perlunya standar dan regulasi yang diterapkan dari luar. “Pembicaraan tentang mengandalkan komitmen sukarela, bahwa perusahaan AI akan mampu mengatur diri sendiri, itu tidak masuk akal,” tegasnya.
Meski demikian, Gleave juga percaya bahwa temuan ini menunjukkan model AI dapat diuji secara sistematis untuk keamanan. “Ada sisi optimis di sini. Pertahanan dan keamanan benar-benar mungkin dilakukan,” katanya.
Rohin Shah, direktur keamanan dan alignment AGI di Google DeepMind, mengatakan hasil laporan tersebut “tidak boleh ditafsirkan sebagai penilaian komprehensif terhadap keamanan dan keselamatan Gemini” karena tidak semua jailbreak memiliki tingkat keparahan yang sama. “Kami terus bekerja untuk meningkatkan sistem pengamanan kami. Kami melakukan red teaming dan evaluasi ekstensif di seluruh risiko penyalahgunaan berat dan menerapkan banyak lapisan perlindungan selama pengembangan dan penerapan,” jelas Shah.
“Temuan ini mencerminkan investasi berkelanjutan yang telah kami lakukan dalam sistem pengamanan kami,” ujar juru bicara Anthropic, Michael Aciman. “Kami terus mengembangkan sistem keamanan kami seiring serangan ini menjadi lebih canggih.” OpenAI dan SpaceXAI tidak menanggapi permintaan komentar dari WIRED.
Lanskap Regulasi yang Berubah
Undang-undang negara bagian yang baru disahkan di California dan New York mewajibkan pengembang AI frontier untuk menerbitkan laporan keselamatan. Segera, undang-undang di Illinois akan mewajibkan perusahaan-perusahaan tersebut untuk mengevaluasi praktik keselamatan mereka oleh auditor pihak ketiga. Namun, pemerintah federal AS belum mengesahkan persyaratan keselamatan khusus, dan kekacauan terjadi saat industri serta pejabat berusaha mencari solusi.
Pada Juni lalu, pemerintahan Trump memberlakukan kontrol ekspor pada model Fable 5 dan Mythos 5 milik Anthropic dengan alasan keamanan nasional, dan perusahaan tersebut menonaktifkannya selama beberapa minggu. Gedung Putih juga telah meminta Anthropic dan OpenAI untuk menunda rilis model terbaru karena kekhawatiran dapat memperkenalkan risiko keamanan siber baru.
Gelombang mungkin mulai berubah—sebuah perintah eksekutif baru-baru ini menyerukan kolaborasi antara pemerintah dan sektor swasta dalam inisiatif keamanan siber terkait, dan presiden telah mengisyaratkan bahwa regulasi ringan sedang disusun. Namun untuk saat ini, pencegahan bencana besar sebagian besar berada di tangan pembuat model.
Ancaman Nyata dan Kekhawatiran Masa Depan
Potensi AI untuk berperilaku menyimpang semakin nyata setelah model OpenAI mengambil inisiatif sendiri untuk meretas repositori kode populer dan layanan lainnya. Sementara itu, laporan dari peneliti Universitas Cambridge menemukan bukti bahwa anggota Boko Haram di timur laut Nigeria telah menggunakan ChatGPT, Claude, Gemini, Grok, Meta AI, dan DeepSeek untuk merencanakan serangan kekerasan.
Beberapa pihak luar percaya bahwa insiden yang lebih serius semakin mungkin terjadi. “Di komunitas riset AI, ada ekspektasi muram yang luas bahwa kita mungkin hanya berjarak bulan, bukan tahun, dari insiden mengerikan yang melibatkan penyalahgunaan bio, siber, atau kimia dari kemampuan sistem AI frontier,” kata Stephen Casper, ilmuwan komputer di Universitas Harvard. “Jika insiden penyalahgunaan besar terjadi dalam waktu dekat atau menengah, itu hampir pasti berasal dari sistem yang tidak diterapkan dengan pengamanan tercanggih.”
Anka Reuel, ilmuwan komputer di Universitas Stanford yang mengkhususkan diri dalam kebijakan AI, mengatakan kesimpulan utama dari laporan FAR.AI adalah bahwa langkah-langkah keselamatan yang digunakan oleh Anthropic dan OpenAI harus menjadi standar untuk semua model. “Beberapa perusahaan jelas tahu cara bertahan melawan setidaknya subset serangan yang diuji dalam laporan ini,” kata Reuel. “Pertanyaannya adalah mengapa beberapa perusahaan menggunakannya dan yang lainnya tidak.”
Temuan FAR.AI ini menjadi pengingat penting bahwa meskipun beberapa model AI telah menunjukkan ketahanan terhadap serangan jailbreak, ancaman tetap nyata dan biaya untuk mengeksploitasi celah keamanan tersebut sangat murah. Dengan belum adanya regulasi federal yang komprehensif, tanggung jawab utama untuk mencegah penyalahgunaan AI masih berada di tangan para pengembangnya. Perusahaan seperti Anthropic dan OpenAI telah menunjukkan bahwa pertahanan yang kuat mungkin dilakukan, namun pertanyaan kritisnya adalah apakah semua pemain di industri ini akan mengikuti jejak mereka sebelum terjadi insiden besar.
Ke depannya, kolaborasi antara pemerintah dan sektor swasta, seperti yang diisyaratkan dalam perintah eksekutif terbaru, menjadi krusial. Sementara itu, para pengguna dan pengembang perlu terus waspada terhadap perkembangan teknologi dan potensi risikonya. Industri AI berada di persimpangan jalan, di mana keputusan yang diambil hari ini akan menentukan apakah teknologi ini menjadi alat yang aman dan bermanfaat atau sumber ancaman baru yang serius.
