**JBNews.id —** Seorang jurnalis otomotif bersama istrinya dikepung empat mobil polisi bersenjata saat test drive mobil di Minnesota, Amerika Serikat, akibat kesalahan sistem kamera pengawas Flock yang salah mengidentifikasi kendaraannya sebagai mobil curian. Insiden ini mengungkap celah serius dalam sistem pengawasan berbasis kecerdasan buatan (AI) yang kini telah menjangkau hampir seluruh wilayah Amerika Serikat.
Joel Feder, jurnalis dari The Drive, mengalami pengalaman mencekam saat tengah menjajal mobil Range Rover bersama istrinya di wilayah Plymouth, Minnesota. Tanpa peringatan, empat mobil patroli melakukan manuver terkoordinasi untuk memepet kendaraannya. Ketika Feder meminta penjelasan, petugas mengatakan bahwa mereka telah melacaknya selama berhari-hari menggunakan kamera Flock yang terintegrasi AI.
“Baik Anda benar-benar mencuri mobil atau sekadar berkendara tanpa melakukan kesalahan apa pun, seperti saya, begitu sistem ini membidik Anda, hampir pasti hanya satu jalan yang bisa ditempuh,” tulis Feder dalam laporannya. “Selamat datang di masa depan. Menakutkan di sini.”
Kejadian ini menjadi contoh mencolok betapa luasnya jangkauan sistem pengawasan kontroversial tersebut dan betapa rapuhnya kesimpulan yang dihasilkan oleh teknologinya. Saat berada di lokasi kejadian — tepatnya di parkiran Kohl’s — polisi menjelaskan bahwa plat nomor Range Rover Feder dilaporkan dicuri oleh dealer di Los Angeles.
Bagi Feder, ini “sama sekali tidak masuk akal” karena perusahaan mobil sangat teliti dalam meminjamkan kendaraan kepada awak media. Salah satu petugas menunjukkan foto yang diambil kamera Flock di aplikasi mereka yang memperlihatkan SUV Feder dengan plat nomor 34 10 DTM, mengonfirmasi bahwa mereka telah menangkap mobil yang benar — setidaknya menurut sistem Flock.
Namun, ketika Feder menghubungi Jaguar Land Rover, pabrikan mobil tersebut mengatakan bahwa plat nomor yang dilaporkan adalah 34 03 DTM, bukan 34 10 DTM. Pada plat nomor New Jersey, angka tengah ditulis lebih kecil dari yang lain, dan entah bagaimana, nomor yang dimasukkan ke sistem Flock tercatat sebagai 34 DTM. Hal ini membuat sistem AI Flock kacau balau.
“Sistem itu tidak mendaftarkan nomor kecil non-standar ketika mulai mendeteksi Range Rover di sekitar kota,” tulis Feder. “Ia hanya melihat 34 DTM dalam huruf besar dan mulai memberi peringatan kepada polisi setempat.”
Karena jaringan pengawasan Flock sangat luas, kesalahan ini menjadi masalah nasional. “Di mana pun departemen kepolisian bermitra dengan Flock,” tulis Feder, “mobil JLR lain dengan struktur plat yang sama akan ditandai sebagai curian.” Belakangan, Feder menemukan bahwa mobil yang dicari sebenarnya tidak dicuri; plat nomornya tidak sengaja salah tempat saat sesi pemotretan.
Jaringan Pengawasan yang Meluas
Flock telah melonjak menjadi perhatian nasional dalam setahun terakhir, dengan departemen kepolisian di seluruh negeri bermitra dengan perusahaan tersebut untuk menggunakan pembaca plat nomor dan kamera video yang dapat melacak kendaraan dan pejalan kaki. Kamera ini sering berbentuk tiang menjulang tinggi, seolah-olah Flock ingin warga tahu bahwa mereka sedang diawasi. Kehadirannya yang sangat terlihat telah menjadi pemicu kekhawatiran publik tentang privasi, pengawasan, dan pelanggaran wewenang polisi.
Warga telah memprotes keras pemasangan kamera Flock, bahkan membanjiri pertemuan dewan kota. Yang lain memilih untuk menutupi kamera dengan kantong sampah atau merusaknya. Bulan lalu, seorang insinyur Angkatan Udara AS mendapat simpati publik setelah didakwa memotong lebih dari selusin kamera Flock, dengan halaman GoFundMe untuk pembelaan hukumnya dengan cepat mengumpulkan puluhan ribu dolar.
Selain luas, kamera Flock terhubung ke jaringan terpusat, yang berarti rekaman yang mereka kumpulkan dapat dengan mudah diakses oleh polisi tanpa pengawasan ketat. Flock dan departemen kepolisian berargumen bahwa kamera hanya akan digunakan untuk menyelidiki kejahatan serius, tetapi sudah ada banyak kasus polisi yang ditangkap karena menggunakan Flock untuk menguntit perempuan. Investigasi tahun lalu mengungkapkan bahwa ICE (Imigrasi dan Bea Cukai) menyusup ke jaringan Flock untuk melakukan pencarian.
Jangkauan Flock sudah begitu luas sehingga dalam kasus Feder, ia diperingatkan untuk langsung pulang dan tidak melintasi kota tetangga — karena kamera Flock di sana juga akan salah menandai mobilnya dan mengirim polisi untuk mengejarnya. “Kamu beruntung berada di Plymouth,” kata petugas yang memperingatkannya. “Jika kamu di Minneapolis, mereka pasti akan mendatangimu dengan senjata terhunus.”
Baca Juga:
Implikasi Sistem yang Gagal
Kasus ini menyoroti bahaya laten dari sistem pengawasan massal yang tidak memiliki mekanisme verifikasi yang memadai. Kesalahan kecil dalam entri data — seperti nomor plat yang tidak terbaca sempurna — dapat berakibat fatal bagi warga yang tidak bersalah. Dalam kasus Feder, kesalahan itu berarti dikepung polisi bersenjata di siang bolong, di hadapan istrinya.
Yang lebih mengkhawatirkan, sistem Flock tidak memiliki mekanisme untuk mengoreksi diri sendiri. Bahkan setelah polisi di Plymouth menyadari kesalahan tersebut, Feder diperingatkan untuk tidak melintas ke kota lain karena sistem yang sama akan kembali menandai mobilnya. Ini menunjukkan bahwa teknologi pengawasan yang salah dapat menciptakan efek domino yang sulit dihentikan.
Bagi warga biasa, implikasi dari kasus ini jelas: sistem pengawasan yang diiklankan sebagai alat penegakan hukum yang canggih ternyata memiliki celah fatal yang dapat menjerat siapa saja. Tidak ada jaminan bahwa sistem AI yang salah membaca data tidak akan menarget Anda berikutnya. Di era di mana kamera pengawas ada di mana-mana dan data dibagikan lintas yurisdiksi, satu kesalahan kecil bisa berarti pertemuan yang mengancam jiwa dengan aparat bersenjata.
Insiden ini juga memicu pertanyaan mendasar tentang akuntabilitas perusahaan teknologi yang memasok sistem pengawasan ke lembaga penegak hukum. Siapa yang bertanggung jawab ketika algoritma AI salah mengidentifikasi warga negara yang tidak bersalah? Dan seberapa besar kerusakan yang harus terjadi sebelum ada tindakan korektif yang berarti?
Feder sendiri, meskipun selamat tanpa cedera fisik, harus hidup dengan trauma psikologis dari pengalaman dikepung polisi bersenjata karena kesalahan sistem. “Selamat datang di masa depan,” tulisnya. “Menakutkan di sini.”
