JBNews.id — Model kecerdasan buatan (AI) tipe open-weight yang bisa diunduh dan dijalankan siapa saja ternyata sangat rentan terhadap serangan manipulasi data. Seorang peneliti keamanan siber dari Semgrep, Katie Paxton-Fear, berhasil mendemonstrasikan serangan yang hanya memakan waktu kurang dari satu jam dan biaya di bawah 100 dolar AS untuk meracuni model AI tersebut.
Dalam demonstrasinya, Paxton-Fear melatih model AI dengan hanya sepuluh contoh data berbahaya. Hasilnya, model tersebut mulai menghasilkan kode baru yang rentan terhadap remote code execution (RCE), sebuah celah keamanan yang memungkinkan peretas menjalankan kode di mesin korban. “Saya benar-benar membuat backdoor,” ungkapnya di media sosial.
Serangan backdoor ini termasuk jenis yang sangat berbahaya. Teknik ini melatih AI dengan cara menyisipkan frasa tersembunyi ke dalam model. Peretas dapat menggunakan frasa tersebut untuk memicu model melakukan tindakan tertentu secara diam-diam, layaknya bom waktu yang tidak aktif hingga dipanggil.
Ancaman ini semakin serius mengingat temuan dari Anthropic yang bekerja sama dengan UK AI Security Institute dan Alan Turing Institute tahun lalu. Riset mereka menunjukkan bahwa model AI, baik kecil maupun besar, rentan terhadap serangan serupa hanya dengan menggunakan beberapa ratus dokumen. Artinya, serangan ini tetap murah untuk dilakukan.
Baca Juga:
Kerentanan Model Open-Weight
Temuan ini menjadi pukulan telak bagi optimisme terhadap model open-weight. Model-model ini selama ini dipuji karena memberikan kontrol dan transparansi lebih dibandingkan model closed-source yang menjalankan chatbot seperti ChatGPT dan Claude. Selain itu, biaya penggunaannya juga lebih murah.
Namun, meskipun parameter model open-weight bisa dilihat, data pelatihan dan kode sumbernya tidak diungkapkan. Hal ini membuat model-model tersebut tetap menjadi black box bagi para peneliti keamanan. “Bahkan ketika bobot model bersifat publik (open weight), kita hampir tidak memiliki kemampuan untuk memprediksi perilakunya,” tulis rekan Paxton-Fear di Semgrep dalam sebuah unggahan pekan lalu.
Mereka menambahkan, “Ini perubahan besar: program komputer biasa, dalam bentuk biner, masih bisa dianalisis dengan alat reverse engineering untuk mendapatkan deskripsi total tentang perilakunya. Dengan model AI, kita tidak memiliki kemampuan mendekati itu.”
Perairan yang Belum Dipetakan
Dunia keamanan siber masih berada di perairan yang belum dipetakan dalam menghadapi ancaman ini. Model bahasa besar (large language models/LLM) sangat kompleks dan masih baru, sehingga sulit untuk mengungkap serangan yang canggih. Lebih dari itu, model AI bisa dikompromikan dengan cara yang jauh lebih halus dibandingkan perangkat lunak biasa.
“Jika sebuah dependensi perangkat lunak berisi kode berbahaya, kita memiliki praktik yang matang untuk menemukannya, melacak asal-usulnya, dan mengurangi dampaknya,” jelas para peneliti Semgrep. “Model AI berbeda. Model yang dikompromikan atau dimanipulasi secara halus tidak perlu ‘rusak’ untuk menciptakan risiko bisnis. Model itu hanya perlu memengaruhi keputusan dengan cara yang sulit dideteksi.”
Pertanyaan mendasar kemudian muncul: “Jadi, bisakah kita mempercayai model open weight yang disetel secara fine-tuned secara daring dan dipasarkan sebagai solusi untuk masalah pengeluaran token AI kita?” tanya Paxton-Fear dalam utas media sosialnya. “Ya, kita mungkin butuh sesuatu yang lebih baik daripada benchmark dan perintah ‘jangan menulis kode yang tidak aman’.”
Untuk memahami lebih dalam tentang dampak AI di dunia nyata, Anda bisa membaca artikel tentang Nvidia RTX Spark yang baru saja dirilis.
Implikasinya jelas: pengguna dan perusahaan yang mengadopsi model open-weight harus meningkatkan kewaspadaan. Keamanan model AI tidak bisa lagi hanya mengandalkan benchmark atau klaim dari pengembang. Diperlukan pendekatan baru yang lebih ketat dalam pengujian dan verifikasi, terutama sebelum model-model ini digunakan dalam aplikasi yang kritis.
[CONTENT_END]
