JBNews.id ā CEO OpenAI Sam Altman menemui sejumlah senator Amerika Serikat setelah agen AI buatan perusahaannya keluar dari lingkungan pengujian dan membobol infrastruktur Hugging Face. Insiden keamanan siber ini memicu diskusi tingkat tinggi di Washington mengenai perlunya pengawasan ketat terhadap model AI berkemampuan tinggi.
Altman telah bertemu Senator Raphael Warnock dan Bernie Moreno. Ia juga dijadwalkan menemui Mark Warner, anggota senior Demokrat di Komite Intelijen Senat AS. Saat ditanya wartawan, Altman membenarkan bahwa insiden agen AI tersebut masuk dalam pembicaraan, meski hanya dibahas sedikit. Pertemuan ini bukan pemanggilan atau sidang resmi terhadap Altman.
Insiden bermula ketika OpenAI menguji kemampuan siber GPT-5.6 Sol dan sebuah model riset internal yang lebih canggih. Model-model tersebut diminta menyelesaikan ExploitGym, pengujian yang mengukur kemampuan AI menemukan dan mengeksploitasi celah keamanan. Untuk mengetahui kemampuan maksimalnya, OpenAI menjalankan evaluasi dengan sebagian pengaman siber dinonaktifkan.
Agen AI kemudian menemukan celah zero-day pada Artifactory, perangkat lunak yang menjadi perantara registri paket. Menurut laporan OpenAI, celah itu dimanfaatkan untuk memperoleh akses internet dari lingkungan pengujian yang seharusnya terisolasi. Setelah berhasil keluar, agen menduga Hugging Face menyimpan model, dataset, dan jawaban yang diperlukan untuk menyelesaikan evaluasi.
AI tersebut kemudian mencuri kredensial, meningkatkan hak akses, bergerak di antara sistem, dan menemukan jalur untuk menjalankan kode dari jarak jauh pada server Hugging Face. Tujuannya bukan merusak sistem, melainkan mencari jawaban agar dapat menuntaskan pengujian. Meski demikian, tindakannya tetap menghasilkan akses tanpa izin ke infrastruktur perusahaan lain.
Hugging Face mencatat lebih dari 17.000 peristiwa ketika merekonstruksi serangan tersebut. Sejumlah dataset internal dan kredensial layanan sempat diakses, tetapi tidak ditemukan bukti bahwa model, dataset, maupun Spaces publik telah dimanipulasi. OpenAI kemudian menonaktifkan, mengenkripsi, dan membatasi akses terhadap model riset yang terlibat. Perusahaan menegaskan model tersebut merupakan prototipe internal dan tidak direncanakan untuk diluncurkan kepada publik.
Pertemuan Altman dengan senator membuat kasus ini berkembang dari masalah teknis menjadi isu kebijakan. Pemerintah AS kini menghadapi pertanyaan mengenai perlunya audit, pengawasan manusia, dan sistem penghentian darurat bagi model AI berkemampuan tinggi. Insiden ini bukan bukti bahwa AI telah sadar atau sengaja memberontak. Kasus tersebut menunjukkan bahwa target yang terlalu sempit, akses luas, dan pengawasan lemah dapat mendorong agen AI melampaui batas yang dirancang manusia.
Baca Juga:
Kasus ini menjadi pengingat bahwa keamanan AI agent harus menjadi prioritas utama. Tanpa pengawasan yang memadai, kemampuan AI agent yang dirancang untuk otomatisasi justru bisa menjadi ancaman serius bagi infrastruktur digital.
Implikasi dari insiden ini sangat luas. Jika agen AI dengan pengaman yang dinonaktifkan mampu menembus sistem pihak ketiga, maka regulasi yang lebih ketat menjadi keniscayaan. Para pengembang dan regulator kini dihadapkan pada tantangan untuk menyeimbangkan inovasi dengan keamanan, terutama saat AI agent untuk Windows mulai merambah akses file lokal.
