Biaya AI Membengkak, Perusahaan Teknologi Mulai Rem Penggunaan

Penulis:Hamzah Nurhamzah
Terbit:
Diperbarui:
⏱️3 menit membaca
Bagikan:
Ilustrasi CEO dari belakang menggaruk kepala sambil mempertimbangkan opsi di tengah tagihan AI yang membengkak
  • Biaya penggunaan AI di perusahaan rata-rata mencapai $7.500 per karyawan per bulan
  • Seorang karyawan menghabiskan $150.000 per bulan untuk token AI, perusahaan lain kehilangan $500 juta
  • Amazon dan Meta hentikan leaderboard AI, Uber terapkan batas token $1.500 per bulan
  • OpenAI siap perang harga dengan Anthropic untuk mengamankan pelanggan
  • Para ahli sarankan batas token dan selektif dalam penggunaan AI
  • Era AI murah mungkin akan berakhir, harga token diprediksi naik

JBNews.id — Gelombang penggunaan kecerdasan buatan (AI) secara masif di perusahaan teknologi mulai menemui titik balik. Para eksekutif kini dihadapkan pada kenyataan pahit: tagihan AI yang membengkak di luar kendali, mendorong mereka untuk membatasi penggunaan alat-alat AI oleh karyawan.

Fenomena yang sebelumnya didorong oleh para CEO untuk memaksimalkan AI dalam setiap aspek operasional, dari coding hingga evaluasi kinerja, kini berubah menjadi kekhawatiran. “Ini akan menjadi mimpi buruk yang absolut,” ujar seorang eksekutif teknologi besar tanpa nama kepada The Economist, menggambarkan dilema perusahaan dalam menyeimbangkan biaya dan efisiensi AI.

Biaya Token AI Melonjak Drastis

Data terbaru dari Ramp AI Index menunjukkan bahwa perusahaan yang paling “kecanduan AI” menghabiskan rata-rata sekitar $7.500 per karyawan setiap bulannya. Angka ini mencerminkan betapa besarnya investasi yang dikeluarkan tanpa jaminan produktivitas yang sepadan.

Kasus paling ekstrem terjadi di beberapa perusahaan. Seorang karyawan tunggal di sebuah perusahaan menghabiskan lebih dari $150.000 per bulan hanya untuk token AI. Seorang eksekutif Nvidia bahkan mengakui bahwa biaya AI untuk tim risetnya melebihi gaji yang dibayarkan kepada karyawan sebenarnya. Satu perusahaan dilaporkan kehilangan $500 juta dalam sebulan karena biaya penggunaan Claude.

Ilustrasi ironis ini menjadi tamparan keras bagi para pendukung AI. Beberapa perusahaan seperti Amazon dan Meta sebelumnya bahkan menerapkan sistem papan peringkat (leaderboard) yang mendorong karyawan untuk menggunakan token AI sebanyak mungkin, seolah-olah sedang berkompetisi. Meta bahkan memasukkan penggunaan AI ke dalam evaluasi kinerja karyawan.

Namun, semua itu kini mulai ditinggalkan. Amazon dan Meta telah menghapus papan peringkat AI mereka. Seorang eksekutif puncak Uber menyatakan bahwa AI tidak memberikan peningkatan produktivitas yang jelas dibandingkan biayanya yang mahal. Tak lama setelah pernyataan itu, Uber menerapkan batas token bulanan sebesar $1.500 per karyawan.

Perang Harga Model AI Mengintai

Kekhawatiran akan biaya AI tidak hanya berdampak pada perusahaan pengguna, tetapi juga pada pembuat model AI itu sendiri. Biaya token saat ini mungkin merupakan yang termurah yang pernah ada, karena secara efektif disubsidi oleh perusahaan penyedia model untuk menarik pelanggan.

Pertanyaan kritis muncul: dapatkah perusahaan AI bertahan dengan harga rendah ketika jalan menuju profitabilitas masih belum jelas? OpenAI, yang dipimpin Sam Altman, dilaporkan sedang mempertimbangkan untuk memangkas tarifnya secara drastis untuk memicu perang harga dengan saingan utamanya, Anthropic. Langkah ini diambil untuk mengantisipasi langkah serupa dari Anthropic.

Strategi ini memang bisa mengamankan lebih banyak pelanggan dalam jangka pendek dan meyakinkan dunia bisnis bahwa model AI mereka masih layak untuk diinvestasikan. Namun, semua mata akan tertuju pada kedua perusahaan untuk melihat apakah akses AI murah dapat berkelanjutan dalam jangka panjang, atau hanya langkah putus asa sebelum mereka mulai mengenakan tarif lebih tinggi lagi.

Para ahli menyarankan perusahaan untuk menerapkan batas token pada karyawan, lebih selektif dalam penerapan AI, dan menggunakan model yang lebih murah. Langkah-langkah ini menjadi krusial di tengah sinyal perubahan yang jelas: dari euforia AI menuju kehati-hatian yang lebih besar dalam pengelolaan biaya.

Implikasinya bagi pembaca: era AI murah dan tanpa batas mungkin akan segera berakhir. Perusahaan dan individu perlu mulai menghitung biaya riil dari penggunaan AI dan mempersiapkan diri untuk skenario di mana harga token AI naik secara signifikan.