JBNews.id — Para peneliti kecerdasan buatan (AI) dari Amerika Serikat dan China menyerukan kerja sama global untuk mengawasi teknologi ini, karena khawatir perkembangannya yang tidak terkendali dapat memicu bencana yang tak terbayangkan. Kekhawatiran ini disuarakan dalam konferensi AI besar di Beijing, menandai meningkatnya urgensi di kalangan ilmuwan untuk mencegah dampak buruk yang bersifat sistemik.
Stephen Casper, seorang ilmuwan komputer dari MIT yang berbicara di konferensi tersebut, menyampaikan kekhawatiran mendalam. “AI adalah teknologi global dengan manfaat global, bahaya global, dan kecenderungan konsisten untuk kemampuan baru yang akhirnya menyebar luas,” ujarnya kepada Wired. Ia menambahkan, “Satu hal yang hampir semua orang di bidang AI bisa setujui saat ini adalah bahwa AI tidak membutuhkan momen Chernobyl.”
Pernyataan Casper tidak dijelaskan lebih lanjut, namun dengan merujuk pada bencana nuklir Chernobyl, ketakutan nyata bukan hanya pada bencana itu sendiri. Lebih dari itu, kekhawatiran terletak pada dampak ireversibel terhadap persepsi publik, yang dapat menghentikan pengembangan AI secara permanen, mirip dengan bagaimana Chernobyl membayangi industri tenaga nuklir hingga saat ini.
Spektrum Ancaman AI dan Dampak Siber
Berbagai skenario bencana AI sangat bervariasi, mulai dari skenario ala Skynet hingga pengangguran massal. Namun, yang paling mendesak akhir-akhir ini adalah potensi AI untuk mengganggu keamanan siber. Para ahli memperingatkan bahwa peretas dapat dengan mudah menyalahgunakan agen AI dan alat pembuatan kode untuk melancarkan serangan siber yang dahsyat, meningkatkan skala serangan dan menurunkan keterampilan yang dibutuhkan untuk melakukannya.
Narasi ini sebagian didorong oleh perusahaan AI itu sendiri. Contohnya, Anthropic mengumumkan model Claude Mythos, yang kemudian menolak untuk merilisnya secara publik. Model tersebut diklaim sangat kuat sehingga dapat dengan mudah membobol “setiap sistem operasi utama dan setiap browser web utama.”
Risiko ini semakin diperdalam oleh maraknya model AI sumber terbuka (open-source) dan model dengan bobot terbuka (open-weight). Model-model ini gratis digunakan dan disukai peneliti karena transparansinya, namun kekurangan pengawasan yang dimiliki model AI komersial terkemuka.
Respons China dan Seruan Kerja Sama Global
Seorang sumber di salah satu perusahaan AI terkemuka China mengatakan kepada Wired bahwa masalah keamanan adalah salah satu alasan model canggih di China tidak lagi dirilis sebagai sumber terbuka. Langkah ini menunjukkan adanya kesadaran akan risiko proliferasi teknologi yang tidak terkendali.
Lin Yun, seorang profesor di Shanghai Jiao Tong University, memperingatkan bahwa dalam jangka pendek, peretas akan lebih diuntungkan dengan menggunakan AI. Namun, dalam jangka panjang, AI juga dapat digunakan untuk memperkuat keamanan siber, menekankan perlunya kerja sama global.
“Jika berbagai negara memahami risiko dengan cara yang sama, akan lebih mudah untuk mengembangkan prinsip keselamatan bersama dan standar teknis,” kata Yun kepada Wired. “Kuncinya adalah menemukan area di mana berbagi informasi dapat mengurangi risiko sistemik tanpa mengekspos detail operasional yang sensitif.”
Perbandingan dengan Era Perang Dingin
Kerja sama antara dua rival geopolitik ini mungkin tampak mustahil, terutama karena AS dan China juga merupakan pemimpin mutlak dalam AI. Namun, Casper membandingkan situasi saat ini dengan bagaimana AS dan Uni Soviet bekerja sama untuk mengekang ancaman nuklir, meskipun kedua negara terus memperbesar persenjataan nuklir mereka.
Perbandingan ini memberikan secercah harapan bahwa meskipun ada persaingan sengit, kepentingan bersama untuk mencegah bencana global dapat mendorong dialog dan regulasi. Tanpa kerja sama semacam itu, risiko “momen Chernobyl” di bidang AI akan terus membayangi masa depan teknologi ini.
Implikasinya bagi pembaca: perkembangan AI bukan hanya soal inovasi, tetapi juga soal tata kelola risiko. Tanpa pengawasan global yang ketat, potensi penyalahgunaan AI, terutama di bidang siber, dapat menimbulkan konsekuensi yang sangat luas dan sulit dipulihkan.
