JBNews.id — Chad Jones, ekonom yang baru direkrut Anthropic, pernah menulis makalah yang menghitung tingkat risiko kepunahan manusia akibat kecerdasan buatan (AI) yang dapat ditoleransi demi pertumbuhan ekonomi. Perhitungan tersebut menunjukkan bahwa risiko 33 persen musnahnya umat manusia adalah harga yang “optimal” untuk dibayar.
Jones, yang sebelumnya merupakan profesor ekonomi lama di Universitas Stanford, mengemukakan perhitungan tersebut dalam sebuah makalah yang disorot oleh Financial Times. Dalam tulisannya, ia memperhitungkan probabilitas risiko eksistensial dari AI terhadap potensi manfaat ekonomi yang dihasilkan.
“Ingatlah bahwa kita akan menghadapi probabilitas aliran risiko eksistensial sebesar 1 persen per tahun selama 40 tahun, sehingga probabilitas kita bertahan dari ledakan AI ini adalah exp (−.01 × 40) ≈ 0,67,” tulis Jones dalam makalahnya. “Dengan kata lain, dengan utilitas log, adalah optimal untuk mengambil risiko 1 dari 3 kemungkinan berakhirnya eksistensi manusia sebagai imbalan atas kemungkinan 2/3 untuk meningkatkan standar hidup secara dramatis dengan faktor 55.”
Dengan kata lain, menurut perhitungan Jones, bermain-main dengan risiko kepunahan manusia dapat diterima — kemungkinan 33 persen memusnahkan seluruh umat manusia — karena AI secara ajaib dapat membuat ekonomi melonjak dan membuat semua orang tinggal di gedung pencakar langit bertenaga surya yang indah.
Pandangan ini menuai kritik tajam dari berbagai kalangan. Seorang pengguna Reddit meluapkan kemarahannya dengan mengatakan, “Ini bukan poker di mana Anda membiarkan matematika memandu Anda karena bahkan jika Anda kalah sekarang pada keputusan yang positif bersih, itu akan berhasil dalam jangka panjang. Mengakhiri eksistensi manusia membutuhkan kebijaksanaan yang lebih besar.”
Terlepas dari kontroversi pandangan Jones, pendekatan ini tampaknya sejalan dengan budaya perusahaan di Anthropic. Perusahaan yang dikenal vokal tentang keselamatan AI ini secara terbuka sering menyuarakan kekhawatiran tentang potensi konsekuensi AI, yang memungkinkannya mempertahankan posisi moral yang lebih tinggi dibandingkan pesaingnya.
Baca Juga:
Meskipun Anthropic mungkin memiliki komitmen terhadap keselamatan, pendekatan ini memiliki efek samping yang memperkuat anggapan bahwa AI sudah atau akan cukup kuat dan berdampak untuk menyebabkan skenario tersebut. Hal ini pada akhirnya memperkuat gagasan bahwa Anthropic adalah perusahaan penting dengan pertanyaan etis besar yang harus dijawab.
Kontroversi ini muncul di tengah ketegangan antara Anthropic dengan pemerintah AS. Sebelumnya, pemerintah AS sempat mengizinkan Anthropic mengaktifkan kembali model AI Mythos 5, sementara di sisi lain perusahaan juga terlibat dalam perselisihan publik dengan Pentagon terkait penggunaan teknologi AI secara aman.
Ironisnya, meskipun Anthropic gencar menyuarakan bahaya AI, teknologi Claude AI milik perusahaan tersebut diketahui digunakan untuk memilih target serangan di Iran. Hal ini menunjukkan adanya paradoks antara retorika keselamatan yang diusung dengan implementasi praktis teknologinya.
Para kritikus menilai bahwa kekhawatiran berlebihan tentang bagaimana AI dapat mengakhiri dunia justru didasarkan pada asumsi bahwa AI sudah cukup kuat untuk melakukan hal tersebut. Asumsi ini, pada gilirannya, menguntungkan Anthropic sebagai perusahaan yang dianggap penting dalam diskusi etika AI global.
Perdebatan tentang risiko eksistensial AI versus potensi manfaat ekonominya diperkirakan akan terus berlanjut seiring dengan semakin canggihnya teknologi ini. Sementara beberapa pihak melihat perhitungan Jones sebagai pendekatan rasional, yang lain menganggapnya sebagai langkah berbahaya yang mempertaruhkan masa depan umat manusia.
Implikasinya bagi industri AI dan publik secara luas adalah bahwa pertanyaan mendasar tentang seberapa besar risiko yang dapat diterima dalam pengembangan AI belum terjawab. Perdebatan ini menjadi semakin relevan ketika perusahaan seperti Anthropic terus mendorong batas-batas kemampuan AI sambil mempertahankan posisi sebagai penjaga keselamatan.
