JBNews.id — Pemerintah Amerika Serikat memerintahkan Anthropic untuk menghentikan akses publik terhadap model AI terbarunya, Claude Fable 5, dengan alasan keamanan nasional. Perusahaan pengembang AI itu merespons dengan mengajukan gugatan hukum terhadap pemerintahan Trump.
Insiden yang belum pernah terjadi sebelumnya ini menandai titik api terbaru antara Anthropic dan pemerintahan Trump. Perusahaan mengatakan perintah tersebut memintanya untuk menangguhkan akses ke “setiap warga negara asing, baik di dalam maupun di luar Amerika Serikat, termasuk karyawan asing Anthropic.” Untuk memastikan kepatuhan, Anthropic telah menghapus akses bagi semua pelanggannya.
Pada Selasa pekan lalu, Anthropic secara publik merilis Claude Fable 5, versi model AI Mythos dengan pengaman yang mencegahnya menjawab pertanyaan tentang keamanan siber, biologi, dan kimia. Sebelum rilis publik—yang menurut Anthropic dilakukan bekerja sama dengan pemerintah AS—model Mythos Preview telah diluncurkan secara terbatas pada April lalu. Tujuannya adalah memberi perusahaan dan organisasi kesempatan menggunakan kemampuan keamanan sibernya yang kuat untuk meningkatkan pertahanan mereka, sekaligus meredakan kekhawatiran bahwa teknologi tersebut dapat dieksploitasi oleh aktor jahat untuk mengembangkan alat peretasan yang canggih.
Kronologi Konflik
Dalam sebuah unggahan blog pada Jumat, Anthropic mengatakan menerima surat dari pemerintah AS pada pukul 17.21 ET. “Surat tersebut tidak memberikan rincian spesifik tentang kekhawatiran keamanan nasionalnya,” tulis Anthropic. “Pemahaman kami adalah pemerintah percaya bahwa mereka telah mengetahui metode untuk melewati, atau ‘jailbreaking’ Fable 5,” tambah perusahaan itu. “Kami meninjau demonstrasi teknik spesifik ini yang digunakan untuk mengidentifikasi sejumlah kecil kerentanan kecil yang sebelumnya diketahui. Kerentanan ini semuanya tampak relatif sederhana, dan kami menemukan bahwa model lain yang tersedia untuk umum juga dapat menemukannya tanpa perlu bypass.”
Dalam unggahan blog tersebut, Anthropic berargumen bahwa mereka telah menerapkan pengaman yang kuat untuk mengurangi kemungkinan penyalahgunaan Claude Fable 5. Anthropic juga mengklaim bahwa jailbreak yang ditemukan pemerintah AS untuk Claude Fable 5 bersifat sempit dan tidak akan membuat penyerang menjadi lebih berbahaya secara berarti dibandingkan jika mereka menggunakan model AI lain.
“Hingga saat ini, pemerintah hanya memberi kami bukti verbal tentang potensi jailbreak sempit dan non-universal, yang pada dasarnya terdiri dari meminta model untuk membaca basis kode tertentu dan memperbaiki celah perangkat lunak apa pun,” kata perusahaan itu. “Pemahaman kami adalah bahwa satu potensi jailbreak telah dibagikan kepada pemerintah.” Juru bicara Gedung Putih dan Departemen Perdagangan AS tidak segera menanggapi permintaan komentar WIRED.
Latar Belakang Ketegangan
Sebelumnya tahun ini, Departemen Pertahanan AS di bawah Trump melabeli Anthropic sebagai “risiko rantai pasokan” setelah pembuat Claude berusaha menarik garis merah atas bagaimana militer AS dapat menggunakan teknologinya. Penetapan itu secara efektif melarang lembaga pemerintah dan kontraktor menggunakan teknologi Anthropic. Anthropic merespons dengan mengajukan gugatan terhadap pemerintahan Trump.
CEO Anthropic Dario Amodei mengatakan dalam esai kebijakan awal pekan ini bahwa ia dan perusahaannya mendukung proses pemerintah yang adil, terstruktur, dan transparan yang akan memblokir rilis model AI yang tidak aman. Namun dalam unggahan blog Jumat, Anthropic berargumen bahwa “tindakan ini tidak mematuhi prinsip-prinsip tersebut.”
Baca Juga:
Ketegangan ini juga menyoroti dilema regulasi AI yang lebih luas. Di satu sisi, seruan moratorium AI dari Anthropic sendiri menuai kritik karena dianggap inkonsisten. Di sisi lain, tindakan tegas pemerintah justru berpotensi menghambat inovasi dan pengembangan teknologi pertahanan siber yang sangat dibutuhkan.
Para pengamat menilai kasus ini bisa menjadi preseden penting bagi hubungan antara pengembang AI dan pemerintah. Jika Anthropic memenangkan gugatan, hal itu dapat membatasi wewenang pemerintah dalam mengatur rilis model AI. Namun jika pemerintah menang, perusahaan AI mungkin harus lebih berhati-hati dalam merilis teknologi canggih ke publik.
Implikasinya bagi industri AI global sangat besar. Keputusan akhir dalam kasus ini tidak hanya akan memengaruhi Anthropic dan model Claude Fable 5, tetapi juga dapat membentuk kerangka regulasi AI di Amerika Serikat dan negara-negara lain. Investor yang memiliki kepentingan di kedua kubu—seperti yang dibahas dalam strategi investor ganda—kini menghadapi ketidakpastian regulasi yang semakin tinggi.
Anthropic menegaskan bahwa mereka telah berkoordinasi dengan pemerintah AS sebelum rilis publik Claude Fable 5. Perusahaan berargumen bahwa kolaborasi itu seharusnya menjadi dasar kepercayaan, bukan justru menjadi alasan pemblokiran mendadak tanpa penjelasan rinci. “Kami siap bekerja sama dengan pemerintah untuk mengatasi kekhawatiran yang sah, tetapi prosesnya harus transparan dan berdasarkan bukti, bukan asumsi,” tulis Anthropic dalam pernyataannya.
Kisruh ini juga memunculkan pertanyaan tentang masa depan model AI canggih. Jika setiap rilis model baru berpotensi diblokir oleh pemerintah, inovasi di bidang AI bisa terhambat. Namun jika tidak ada pengawasan sama sekali, risiko penyalahgunaan teknologi oleh aktor jahat juga nyata. Keseimbangan antara keamanan dan inovasi menjadi isu sentral yang harus dipecahkan oleh para pembuat kebijakan dan pelaku industri.
