JBNews.id — Peneliti keamanan web James Kettle memaparkan temuan terbarunya di konferensi Black Hat di Las Vegas, Rabu, yang menggambarkan kemampuan kecerdasan buatan (AI) dalam keamanan siber. Hasilnya: AI memiliki kemampuan minimal namun sangat terbatas dalam merancang jalur serangan baru secara otonom. Namun, ketika dipadukan dengan bimbingan manusia, AI menjadi mitra yang sangat kuat dalam menemukan strategi peretasan baru.
Temuan ini lahir dari eksperimen berbulan-bulan yang dimulai September 2025 menggunakan model terbaru dari Anthropic dan OpenAI. Kettle, yang telah bertahun-tahun meneliti kerentanan keamanan web, ingin mengeksplorasi kemampuan AI dalam melakukan riset keamanan teoretis. Ia segera menyadari satu kendala: sistem AI kerap mengklaim riset yang sudah ada sebagai temuan orisinal dengan mengembalikan hasil tentang topik esoteris yang sulit diverifikasi.
Untuk mengatasi masalah ini, Kettle mempersempit cakupan pengujiannya ke area keahliannya sendiri di bidang keamanan web. Dengan cara ini, ia memiliki kendali penuh atas materi dan mengetahui bahwa AI tidak dapat menipunya. Selain itu, Kettle menyadari bahwa dengan mensintesis metodologi risetnya sendiri dan melatih model AI dengannya, ia dapat menyelidiki lebih dalam kemampuan sistem untuk mengekstrapolasi temuan secara mandiri.
Shared-Parser Confusion: Temuan Baru dari Kolaborasi AI-Manusia
Setelah bertahun-tahun meneliti kerentanan keamanan web, Kettle mengungkapkan area kerentanan baru yang disebut Shared-Parser Confusion. Temuan ini muncul sebagai hasil dari wawasan AI tentang server web yang menggunakan kode bersama untuk memproses permintaan dan respons.
“Ini masalah yang sangat besar, karena jika dipikir-pikir, permintaan ke situs web sepenuhnya tidak tepercaya, bisa berupa apa saja, tetapi respons tepercaya,” kata Kettle kepada WIRED menjelang presentasinya di konferensi. “Jadi ini adalah permukaan serangan utama dan berpotensi meluas ke berbagai jenis serangan.”
Kettle menekankan bahwa temuan Shared-Parser Confusion sangat signifikan karena menggambarkan realitas bagaimana sistem AI dapat berkontribusi paling kuat dalam pekerjaan keamanan siber saat ini, baik untuk peretasan defensif maupun ofensif. “AI tidak mampu membuktikannya sendiri, tetapi menganalisis beberapa temuan nyata dan menghasilkan hipotesis, lalu saya mengevaluasi dan mengonfirmasinya,” jelasnya.
Ia menambahkan, “Itu mungkin akan menjadi penemuan dengan dampak jangka panjang terbesar. AI tidak bisa melakukannya sendiri, tetapi saya juga yakin tidak akan pernah menemukannya sendiri. Bahkan jika Anda memberi saya satu baris dari dokumentasi, saya tidak akan melihatnya. Tetapi bersama-sama kami berhasil menemukannya.”
Baca Juga:
Batas Kemampuan AI dalam Riset Keamanan
Melalui eksperimennya, Kettle menemukan bahwa AI menghasilkan temuan pada tingkat yang jauh melampaui kemampuannya sendiri, menciptakan apa yang ia deskripsikan sebagai lingkaran umpan balik riset yang produktif. “Sangat menarik menjalani proses ini. AI memiliki temuan penting mungkin setiap dua hari tanpa saya masuk ke sistem, sampai-sampai membuat saya cemas,” ungkapnya.
“Saya hampir tidak ingin tahu. Ada begitu banyak arahan riset sehingga Anda mengalami FOMO karena tidak mengeksplorasi semuanya, yang memaksa Anda mengotomatiskan lebih banyak analisis,” tambah Kettle.
Selain menemukan lebih banyak contoh terbukti dari kerentanan tertentu dalam beberapa bulan dibandingkan yang mungkin ia temukan dalam beberapa tahun, Kettle juga berharap sistem AI dapat menemukan seluruh kelas baru dari jenis bug tersebut. Dalam beberapa hal, AI berhasil, tetapi temuannya terkait dengan jenis bug yang sangat langka dan tidak benar-benar dapat dieksploitasi pada satu target rentan yang tersedia.
“Saya tertarik mendorong AI hingga batas absolut untuk melihat di mana ia gagal dan di mana Anda membutuhkan manusia,” kata Kettle. “Masih sangat sedikit orang yang berbicara tentang batas-batas ini, terutama di ruang keamanan, karena tidak ada insentif untuk membicarakan sudut pandang itu. Semua orang ingin terlihat sebagai AI native, bukan membicarakan di mana sistem mereka benar-benar berantakan.”
Kettle menekankan bahwa meskipun AI memiliki keterbatasan signifikan dalam bekerja secara otonom, kolaborasi manusia-AI terbukti menjadi pendekatan paling efektif dalam riset keamanan siber saat ini. Temuan Shared-Parser Confusion menjadi bukti nyata bahwa kombinasi intuisi manusia dan kemampuan analisis AI dapat menghasilkan penemuan yang tidak mungkin dicapai oleh salah satu pihak saja.
Eksperimen ini juga menyoroti pentingnya metodologi yang tepat dalam memanfaatkan AI untuk riset keamanan. Dengan memberikan model data metodologis yang lebih banyak dan parameter yang lebih halus seiring waktu, serta seiring munculnya model yang lebih kuat, Kettle mengamati peningkatan signifikan dalam kualitas dan kuantitas temuan AI. Perkembangan ini menunjukkan bahwa regulasi hukum dan kerangka kerja yang jelas semakin dibutuhkan seiring meningkatnya kapabilitas AI dalam keamanan siber.
Bagi industri keamanan siber, temuan ini memiliki implikasi praktis yang jelas. Organisasi yang ingin memanfaatkan AI untuk teknologi terbaru dalam pertahanan siber perlu memahami bahwa AI bukan pengganti analis manusia, melainkan alat amplifikasi yang membutuhkan pengawasan dan bimbingan ahli. Pendekatan kolaboratif ini, sebagaimana dibuktikan Kettle, menghasilkan temuan yang jauh melampaui kemampuan masing-masing pihak secara terpisah.
Konteks yang lebih luas menunjukkan bahwa diskusi tentang batas kemampuan AI dalam keamanan siber masih jarang terjadi. Kettle mencatat bahwa sebagian besar pembicaraan di industri berfokus pada kapabilitas AI, bukan keterbatasannya. Padahal, pemahaman tentang batas-batas ini justru krusial untuk mengembangkan strategi keamanan yang efektif dan realistis.
Temuan Shared-Parser Confusion sendiri membuka area penelitian baru yang berpotensi memengaruhi banyak jenis serangan siber. Karena permintaan ke situs web sepenuhnya tidak tepercaya sementara respons dianggap tepercaya, kerentanan pada kode bersama ini menciptakan permukaan serangan yang luas. Para peneliti keamanan kini perlu mengevaluasi apakah sistem mereka rentan terhadap jenis serangan ini.
Bagi organisasi dan profesional keamanan siber, pelajaran utama dari riset Kettle adalah pentingnya membangun alur kerja kolaboratif antara AI dan analis manusia. AI dapat mempercepat identifikasi pola dan menghasilkan hipotesis dalam skala yang mustahil dilakukan manusia, tetapi validasi akhir dan konteks penilaian tetap membutuhkan keahlian manusia. Pendekatan ini, sebagaimana ditunjukkan dalam riset Kettle, menghasilkan temuan yang tidak mungkin dicapai oleh salah satu pihak saja.
Ke depan, pengembangan AI untuk keamanan siber kemungkinan akan semakin mengarah pada model kolaboratif semacam ini. Seiring model AI yang lebih kuat muncul, kapabilitas mereka dalam riset keamanan akan meningkat, tetapi peran manusia sebagai validator dan pemberi arah strategis tetap tak tergantikan. Isu privasi dan keamanan yang berkembang juga menambah urgensi pemahaman yang lebih baik tentang batas kemampuan AI dalam konteks ini.
Dengan demikian, jawaban atas pertanyaan Kettle—apakah AI siap menjadi peretas otonom—adalah belum. AI saat ini paling efektif ketika berperan sebagai asisten riset yang kuat di bawah bimbingan ahli manusia, bukan sebagai pengganti. Temuan Shared-Parser Confusion menjadi ilustrasi sempurna bagaimana kolaborasi manusia-AI dapat menghasilkan terobosan signifikan dalam keamanan siber.
