JBNews.id — Anthropic secara resmi membatalkan kebijakan pengaman rahasia pada model AI terbarunya, Claude Fable 5, setelah mendapatkan kecaman keras dari komunitas riset AI. Perusahaan tersebut kini akan membuat seluruh mekanisme pengaman menjadi transparan dan terlihat oleh pengguna.
Dalam pernyataan resmi kepada WIRED, Anthropic mengakui kesalahan mereka. “Kami membuat trade-off yang salah dan kami meminta maaf karena tidak mendapatkan keseimbangan yang tepat,” demikian bunyi pernyataan tersebut. Kebijakan awal yang diterapkan pada Claude Fable 5 pekan ini menuai kontroversi besar karena dianggap merusak kepercayaan komunitas riset.
Sebelumnya, Anthropic menerapkan dua jenis pengaman. Pertama, perusahaan akan mengarahkan ulang pengguna yang menanyakan topik keamanan siber, biologi, atau kimia ke model AI yang kurang canggih. Langkah ini dinilai wajar untuk mencegah penyalahgunaan. Namun, kebijakan kedua yang menjadi sumber polemik adalah pendekatan berbeda untuk para peneliti yang mencoba menggunakan Claude dalam pengembangan AI frontier. Anthropic sengaja menurunkan performa model secara diam-diam tanpa sepengetahuan pengguna.
Kebijakan Kontroversial yang Dibatalkan
Langkah menurunkan performa secara tersembunyi ini secara efektif menyabotase peneliti yang mencoba menggunakan Claude untuk melatih model AI kompetitor. Praktik tersebut sebenarnya sudah dilarang dalam syarat dan ketentuan layanan Anthropic. Namun, para kritikus menilai bahwa menurunkan performa secara diam-diam melangkah terlalu jauh.
Dean Ball, senior fellow di Foundation for American Innovation dan mantan penasihat Gedung Putih untuk urusan AI, menulis di X bahwa “menurunkan performa pada riset machine learning *tanpa memberi tahu pengguna* sungguh sangat bermusuhan dan merupakan citra yang buruk.” Dalam unggahan lain, ia menyebut kebijakan “sabotase rahasia” ini justru melemahkan posisi Anthropic secara keseluruhan karena membatasi kolaborasi peneliti AI dalam bidang keamanan.
Will Brown, research lead di startup AI open source Prime Intellect, mengungkapkan kekhawatirannya. “Rasanya Anthropic berkata pada publik, ‘Kami tidak percaya siapa pun untuk melakukan riset AI. Kami satu-satunya yang boleh melakukan riset AI,'” ujarnya. Brown menambahkan bahwa kebijakan ini “terasa seperti mereka mulai menarik tangga ke atas di belakang mereka.”
Dampak pada Ekosistem Riset AI
Brown menjelaskan bahwa kebijakan sebelumnya akan membuat pengembang tidak mengetahui apakah mereka melanggar aturan Anthropic, karena perusahaan tidak akan memberi peringatan saat pengaman diaktifkan. Ia juga menyoroti dampak luas pada ekosistem perusahaan evaluasi pihak ketiga yang menguji model frontier untuk keamanan, performa, dan keandalan. Pekerjaan mereka bisa terhambat jika Anthropic secara diam-diam menurunkan performa model.
Anthropic beralasan bahwa langkah pengaman tersebut diterapkan karena Claude semakin efektif dalam mempercepat riset AI. Dalam posting blog terbaru, perusahaan menyatakan kekhawatiran bahwa AI dapat meningkatkan kemampuannya lebih cepat daripada kemampuan masyarakat untuk beradaptasi. Anthropic berpendapat bahwa akan “baik bagi dunia untuk memiliki opsi memperlambat atau menghentikan sementara pengembangan AI frontier agar struktur sosial dan riset alignment dapat mengejar ketertinggalan.”
“Pengaman ini mencegah lawan asing menggunakan model kami yang paling canggih dengan cara yang menimbulkan risiko keamanan parah,” demikian pernyataan Anthropic. “AS dan sekutunya memiliki keunggulan dalam chip frontier dan perangkat lunak yang sangat dioptimalkan. Pengaman ini memastikan Claude tidak digunakan untuk mengikis keunggulan tersebut.”
Menariknya, kebijakan kontroversial ini muncul di tengah seruan Anthropic agar industri AI global menerapkan moratorium pengembangan. Langkah ini dinilai tidak konsisten oleh banyak pihak, sebagaimana diulas dalam artikel Moratorium AI Global.
Perubahan Kebijakan dan Konsekuensinya
Setelah mendapat tekanan dari komunitas riset, Anthropic mengubah arah kebijakannya. Kini, jika perusahaan mencurigai pengguna mencoba menggunakan Claude untuk membangun AI yang sangat canggih, mereka akan memberi peringatan bahwa permintaan tersebut ditolak atau akan dialihkan ke model yang kurang mampu.
Namun, Anthropic mengakui bahwa karena pengaman ini kini terlihat, maka diperlukan jaring yang lebih luas. Artinya, lebih banyak permintaan yang tidak berbahaya mungkin akan memicu pengaman. Perusahaan mengatakan sedang bekerja untuk membuat pengklasifikasi mereka lebih presisi secepat mungkin.
Keputusan Anthropic untuk membalikkan kebijakan ini juga memunculkan pertanyaan tentang konsistensi perusahaan. Beberapa pihak menyoroti adanya potensi konflik kepentingan, terutama terkait hubungan dengan investor yang juga memiliki saham di OpenAI, seperti yang dibahas dalam artikel Investor Ganda OpenAI.
Claude versi coding telah menjadi alat favorit di kalangan pengembang, termasuk mereka yang mengerjakan proyek riset AI open source. Para peneliti memperingatkan bahwa kebijakan sebelumnya dapat mengarah pada masa depan yang mengkhawatirkan di mana hanya segelintir laboratorium AI terkemuka yang dapat melakukan riset AI tingkat lanjut.
Kekhawatiran tentang dominasi segelintir perusahaan AI ini semakin relevan mengingat peringatan yang disampaikan oleh pendiri Anthropic sendiri tentang bahaya AI tanpa pengawasan yang memadai, sebagaimana diulas dalam artikel Bahaya AI Tanpa Rem.
Baca Juga:
Implikasi bagi Masa Depan Riset AI
Keputusan Anthropic untuk membuka pengaman Claude Fable 5 memiliki implikasi penting bagi ekosistem riset AI secara keseluruhan. Pertama, kebijakan ini mengembalikan transparansi yang sangat dibutuhkan oleh komunitas peneliti. Kedua, langkah ini menunjukkan bahwa tekanan publik dan komunitas riset masih efektif dalam mengoreksi kebijakan perusahaan AI besar.
Namun, tantangan tetap ada. Anthropic masih perlu menyeimbangkan antara keamanan dan aksesibilitas. Dengan pengaman yang kini terlihat, perusahaan harus memastikan bahwa pengklasifikasinya cukup presisi untuk tidak menghambat riset yang sah, sambil tetap efektif mencegah penyalahgunaan oleh aktor jahat.
Bagi para peneliti dan pengembang AI di Indonesia dan kawasan Asia Tenggara, keputusan ini berarti akses yang lebih adil terhadap teknologi Claude Fable 5. Tidak ada lagi kekhawatiran bahwa performa model akan diturunkan secara diam-diam saat digunakan untuk riset AI yang sah.
Langkah Anthropic ini juga menjadi preseden penting dalam industri AI global. Ketika perusahaan AI besar mulai mengadopsi pendekatan yang lebih transparan, hal ini dapat mendorong standar industri yang lebih baik secara keseluruhan. Komunitas riset AI kini memiliki alat untuk mengawasi dan memastikan bahwa pengaman yang diterapkan tidak disalahgunakan untuk membatasi persaingan atau inovasi.
Ke depannya, keseimbangan antara keamanan dan keterbukaan akan terus menjadi isu sentral dalam pengembangan AI. Keputusan Anthropic untuk mundur dari kebijakan pengaman rahasia menunjukkan bahwa transparansi, meskipun mungkin mengurangi efektivitas teknis dalam jangka pendek, adalah harga yang harus dibayar untuk mempertahankan kepercayaan komunitas riset global.
