JBNews.id — Fitur AI Overview dari Google baru saja memberikan alasan sempurna bagi para pengacau untuk merusak kamera pelat nomor berteknologi AI milik Flock Safety. Hasil ringkasan pencarian yang dihasilkan kecerdasan buatan itu secara keliru menyatakan bahwa perangkat tersebut mengandung logam mulia dalam jumlah besar, sebuah klaim yang tidak didukung fakta dan berpotensi memicu aksi vandalisme terhadap alat pengawasan yang sudah kontroversial tersebut.
Kamera pembaca pelat nomor otomatis atau ALPR (Automatic License Plate Reader) buatan Flock memang sangat tidak populer, terutama di kalangan komunitas yang peduli privasi. Di dunia maya, beredar meme dan video yang merayakan perusakan peralatan pengawasan tersebut. Salah satu konten yang paling populer adalah gagasan bahwa ALPR Flock konon diisi dengan logam berharga seperti emas, tembaga, dan seng—sehingga beredar seruan bercanda untuk membongkar perangkat tersebut dan menjualnya ke tempat barang rongsokan.
Meme tersebut, meski terdengar cerdik, bertumpu pada klaim yang tidak berdasar. ALPR memang mengandung sedikit emas dan logam lainnya, tetapi jumlahnya tidak cukup untuk sepadan dengan usaha yang dikeluarkan. Kecuali Anda benar-benar ahli dalam membongkar papan sirkuit, hasil yang didapat bahkan tidak cukup untuk membeli satu porsi Big Mac, apalagi menutup biaya tenaga kerja Anda.
Google, yang juga merupakan contoh nyata pengawasan bertenaga AI, tampaknya tidak menangkap lelucon tersebut. Ketika mencari “berapa banyak emas yang dimiliki kamera Flock” (how much gold does a Flock camera have), AI Overview Google sama sekali tidak memberikan perlawanan. Sebaliknya, ringkasan itu dengan tegas menyatakan bahwa “kamera keamanan Flock mengandung sekitar 1 hingga 5 gram emas yang digunakan pada papan sirkuit internal dan kabelnya.” Dengan harga emas saat ini, klaim tersebut berarti setiap kamera Flock mengandung emas senilai hingga 650 dolar AS.
Lebih jauh lagi, Google juga mengklaim bahwa ALPR Flock menyimpan dua hingga 23 pon tembaga. Angka tersebut merupakan keajaiban teknik mengingat keseluruhan perangkat hanya berbobot tiga pon. Ketidaksesuaian data ini menunjukkan betapa tidak akuratnya informasi yang dihasilkan oleh AI Overview.
AI Overview Google mengutip dua sumber untuk mendukung ringkasannya, dan keduanya tidak dapat dipertanggungjawabkan. Sumber pertama adalah sebuah postingan Substack anonim dari akun bernama do.not.obey.do.not.comply, yang mengklaim “perkiraan nilai rongsokan logam-logam ini per kamera adalah 150 hingga 500 dolar AS.” Ringkasan Google melewatkan catatan kecil dari klaim tersebut: angka itu berasal dari “perkiraan berdasarkan diskusi nilai rongsokan”—dengan kata lain, sekadar perkiraan tanpa dasar, bukan hasil pelaporan atau informasi finansial yang nyata.
Sumber kedua adalah sebuah postingan Instagram yang dihasilkan AI, yang juga mengangkat meme yang sama dan menyemangati para pengacau untuk membongkar kamera tersebut demi mengakses isi yang dianggap berharga. Akun di balik postingan itu tampaknya milik seorang penanam ganja, dengan sebagian besar postingan lainnya membahas tentang kloning tanaman, hidroponik, dan bunga ganja yang sudah matang.
Ada ironi nyata yang terkubur dalam tumpukan sampah AI ini: mesin pencari milik satu perusahaan pengawasan AI diam-diam memproduksi pembenaran untuk menghancurkan produk perusahaan pengawasan AI lainnya. Jika itu tidak merangkum keadaan industri teknologi yang terobsesi dengan AI saat ini, tidak ada yang bisa.
Hingga berita ini diturunkan, Google belum memberikan tanggapan atas permintaan komentar terkait kesalahan informasi yang dihasilkan AI Overview tersebut. Insiden ini menimbulkan pertanyaan serius tentang keandalan ringkasan AI dalam menangani topik-topik yang sarat muatan sosial dan potensi dampaknya terhadap tindakan di dunia nyata.
Baca Juga:
Fenomena ini juga menegaskan bahwa produk-produk Google yang mengandalkan AI masih memiliki kelemahan mendasar dalam verifikasi fakta. Ketika teknologi AI digunakan untuk merangkum informasi sensitif, kesalahan kecil dapat memicu konsekuensi yang jauh lebih besar di lapangan.
Bagi pemilik properti yang memasang kamera Flock, klaim keliru ini menimbulkan risiko keamanan yang nyata. Langkah-langkah pengamanan menjadi semakin penting ketika perangkat fisik Anda menjadi target aksi vandalisme yang dipicu oleh informasi yang salah. Perusahaan yang mengandalkan sistem pengawasan ini perlu mewaspadai potensi kerusakan yang bisa terjadi tanpa dasar faktual yang benar.
Implikasi dari insiden ini melampaui sekadar kesalahan teknis. Ini menunjukkan bagaimana AI dapat memperkuat informasi yang salah, terutama ketika topiknya sudah emosional dan kontroversial. Alih-alih menjadi penjaga gerbang informasi yang andal, AI Overview justru menjadi corong bagi klaim yang tidak terverifikasi—dan dalam kasus ini, klaim tersebut bisa berujung pada aksi perusakan properti yang nyata.
Para pengamat industri teknologi melihat insiden ini sebagai contoh lain dari perlombaan AI yang mengabaikan akurasi demi kecepatan. Google, yang telah berinvestasi besar-besaran dalam teknologi AI, kini menghadapi dilema: seberapa jauh mereka bisa mempercayai sistem mereka sendiri sebelum sistem itu mulai merugikan pihak lain? Jawabannya mungkin belum jelas, tetapi kasus kamera Flock ini menjadi pengingat bahwa AI tanpa pengawasan manusia yang ketat adalah pedang bermata dua.
Bagi masyarakat umum, kejadian ini adalah pelajaran penting tentang cara mengonsumsi informasi dari mesin pencari. Tidak semua ringkasan AI dapat dipercaya begitu saja, terutama ketika menyangkut topik yang mengandung muatan emosional atau kontroversi. Verifikasi silang dengan sumber-sumber terpercaya tetap menjadi langkah yang tidak bisa diabaikan.
Sementara itu, Flock Safety belum mengeluarkan pernyataan resmi mengenai klaim keliru yang disebarkan oleh AI Overview. Namun, kerugian reputasi dan potensi kerusakan fisik yang ditimbulkan oleh informasi salah ini bisa menjadi preseden buruk bagi industri pengawasan berbasis AI secara keseluruhan. Jika satu perusahaan AI bisa dengan mudah memicu perusakan produk perusahaan AI lain, bagaimana nasib industri ini ke depannya?
Kesalahan Google ini juga membuka diskusi yang lebih luas tentang tanggung jawab platform dalam memoderasi konten yang dihasilkan AI. Ketika teknologi AI semakin terintegrasi dalam kehidupan sehari-hari, akuntabilitas atas informasi yang disebarkan menjadi semakin krusial. Google, sebagai pemimpin industri, memiliki tanggung jawab besar untuk memastikan bahwa produk AI-nya tidak menjadi alat penyebar informasi yang merugikan.
Insiden ini menjadi pengingat bahwa di balik gemerlap teknologi AI, ada konsekuensi nyata yang bisa terjadi ketika sistem gagal memahami konteks. Meme yang dimaksudkan sebagai lelucon bisa berubah menjadi pemicu aksi kriminal ketika AI tidak bisa membedakan antara fakta dan fiksi. Dan dalam kasus ini, yang menjadi korban adalah perangkat pengawasan yang sah—meski kontroversial—serta kepercayaan publik pada teknologi AI itu sendiri.
