JBNews.id — Perusahaan kecerdasan buatan (AI) Anthropic telah mencapai kesepakatan dengan pemerintah Amerika Serikat untuk menerapkan lapisan pengamanan baru pada model AI canggihnya, Fable 5. Langkah ini memungkinkan model tersebut kembali beroperasi setelah sebelumnya terkena pembatasan ekspor.
Pengamanan baru ini memastikan bahwa setiap pengguna yang mencoba membuka kemampuan sensitif pada Fable 5 akan mendapatkan notifikasi bahwa permintaan mereka diblokir. Permintaan tersebut kemudian akan diproses oleh model AI yang kurang canggih, yaitu Opus 4.8. Sebelum Anthropic memutus akses ke Fable 5, permintaan pengguna terkait kemampuan keamanan siber dan biologi yang sensitif seharusnya diproses oleh Opus 4.8.
Kesepakatan ini menawarkan detail baru atas surat Menteri Perdagangan Howard Lutnick yang mengumumkan pencabutan pembatasan pada model AI Fable 5 dan Mythos 5 milik Anthropic. “Antara lain, Anthropic telah setuju untuk secara proaktif mendeteksi dan mengatasi risiko keamanan yang ditimbulkan oleh model-model ini,” tulis Lutnick, yang memimpin upaya untuk mengembalikan model-model tersebut.
WIRED pertama kali memperoleh surat tersebut dan membagikan detailnya pada Selasa malam. Departemen Perdagangan AS akhirnya membersihkan Fable 5 untuk dirilis setelah para peneliti di Pusat Standar dan Inovasi AI memutuskan bahwa pengamanan pada model tersebut sudah cukup kuat untuk saat ini.
Latar Belakang Pembatasan dan Pengamanan Baru
Pengamanan baru ini, menurut sumber, akan memperluas perlindungan ke permintaan yang terkait dengan perilaku spesifik yang diidentifikasi dalam sebuah makalah oleh Amazon. Analisis yang diterbitkan oleh Katie Moussouris, pendiri dan CEO Luta Security, setelah membaca makalah Amazon menunjukkan bahwa pengguna dapat mengelabui pembatasan pada Fable 5 dengan meminta model tersebut untuk memperbaiki kode, alih-alih mengidentifikasi masalah keamanan di dalamnya.
Meskipun para ahli keamanan siber umumnya tidak menganggap perilaku ini mengkhawatirkan, pengetahuan pemerintah tentang hal ini menyebabkan konfrontasi dengan Anthropic dan penerapan kontrol ekspor. Secara praktis, hal ini membuat model tersebut offline untuk sementara waktu.
Kesepakatan antara Anthropic dan pemerintah AS menandai langkah penting dalam regulasi model AI canggih. Perusahaan yang berbasis di San Francisco ini telah lama menjadi advokat untuk pengembangan AI yang aman dan bertanggung jawab. Namun, insiden ini menunjukkan bahwa bahkan perusahaan yang paling sadar keamanan pun dapat menghadapi tantangan regulasi yang kompleks.
Baca Juga:
Tantangan Berkelanjutan dengan Departemen Pertahanan
Meskipun Anthropic telah menyelesaikan kebuntuan dengan Departemen Perdagangan, tantangan lain masih menanti. Menteri Pertahanan Pete Hegseth telah memberi tahu para penasihatnya bahwa tidak ada jalan yang jelas untuk mencabut perintahnya pada 28 Februari yang menetapkan perusahaan tersebut sebagai risiko rantai pasokan, menurut seseorang yang mengetahui masalah ini.
Ini berarti bahwa sementara beberapa tantangan Anthropic dengan pemerintahan AS menjadi kurang mendesak, masalah tersebut belum sepenuhnya selesai. Perusahaan masih menghadapi pengawasan ketat dari lembaga pertahanan, yang memiliki kekhawatiran sendiri tentang keamanan nasional terkait teknologi AI canggih.
Keputusan untuk menerapkan pengamanan baru pada Fable 5 menunjukkan komitmen Anthropic untuk bekerja sama dengan regulator. Perusahaan telah menunjukkan kesediaan untuk mengakomodasi kekhawatiran pemerintah, bahkan ketika hal itu berarti membatasi kemampuan model AI mereka sendiri.
Para ahli memandang langkah ini sebagai preseden penting untuk industri AI secara keseluruhan. Ini menunjukkan bahwa perusahaan AI dapat mencapai keseimbangan antara inovasi dan keamanan, meskipun prosesnya mungkin rumit dan memakan waktu.
Ke depannya, Anthropic kemungkinan akan terus menghadapi pengawasan ketat dari berbagai lembaga pemerintah. Perusahaan yang ingin menjadi pemimpin dalam pengembangan AI yang aman ini harus menavigasi lanskap regulasi yang kompleks dan terus berubah.
Bagi pengguna, pengamanan baru ini berarti bahwa Fable 5 kini lebih aman untuk digunakan, terutama untuk aplikasi yang melibatkan keamanan siber dan biologi. Namun, mereka juga harus menyadari bahwa beberapa kemampuan model mungkin dibatasi untuk tujuan keamanan.
Implikasi dari kesepakatan ini melampaui Anthropic. Ini menetapkan standar baru untuk bagaimana perusahaan AI berinteraksi dengan regulator dan bagaimana model AI canggih dapat diatur. Pemerintah AS telah menunjukkan bahwa mereka bersedia untuk campur tangan ketika ada kekhawatiran keamanan yang signifikan.
Sementara itu, Anthropic terus mengembangkan model AI baru dan meningkatkan yang sudah ada. Perusahaan ini telah menjadi salah satu pemain kunci dalam industri AI, bersama dengan OpenAI, Google, dan lainnya. Fokus mereka pada keamanan dan keselamatan telah membedakan mereka dari pesaing.
Dengan pengamanan baru yang diterapkan, Fable 5 kini dapat kembali beroperasi penuh. Ini adalah berita baik bagi pengguna yang mengandalkan model ini untuk berbagai aplikasi, dari penelitian hingga pengembangan produk.
Namun, tantangan dengan Departemen Pertahanan menunjukkan bahwa masih ada jalan panjang sebelum Anthropic sepenuhnya memulihkan hubungan dengan semua lembaga pemerintah AS. Perusahaan harus terus bekerja untuk membangun kepercayaan dan menunjukkan bahwa model AI mereka dapat digunakan dengan aman dan bertanggung jawab.
Kesepakatan ini juga menyoroti pentingnya transparansi dalam pengembangan AI. Anthropic telah bersedia untuk berbagi detail tentang langkah-langkah keamanan mereka dengan regulator, yang membantu membangun kepercayaan dan memfasilitasi kesepakatan.
Ke depannya, perusahaan AI lainnya mungkin akan mengikuti jejak Anthropic dalam bekerja sama dengan regulator. Ini bisa menghasilkan lingkungan regulasi yang lebih stabil dan dapat diprediksi untuk industri AI secara keseluruhan.
Bagi Indonesia, perkembangan ini memiliki relevansi karena negara ini juga sedang mengembangkan strategi AI nasional. Pelajaran dari pengalaman Anthropic dapat membantu pembuat kebijakan Indonesia merancang kerangka regulasi yang efektif untuk AI.
Secara keseluruhan, kesepakatan antara Anthropic dan pemerintah AS adalah langkah positif untuk pengembangan AI yang aman dan bertanggung jawab. Ini menunjukkan bahwa dialog antara perusahaan dan regulator dapat menghasilkan solusi yang saling menguntungkan.
Dengan Fable 5 kembali beroperasi dengan pengamanan baru, pengguna dapat melanjutkan pekerjaan mereka dengan keyakinan bahwa model tersebut telah memenuhi standar keamanan yang ketat. Ini adalah kemenangan bagi inovasi dan keamanan.
