JBNews.id — Fitur AI Overviews milik Google kembali menjadi sorotan setelah diketahui menyajikan entitas fiksi dari alam semesta horor daring SCP Foundation sebagai fakta nyata tanpa peringatan apa pun. Temuan ini mengungkap kelemahan serius sistem kecerdasan buatan dalam membedakan realitas dan fiksi.
Dalam pengujian yang dilakukan Futurism, pencarian untuk “SCP-565” — sebuah entitas ikonik dalam alam semesta fiksi penggemar SCP Foundation — menghasilkan ringkasan AI yang mendeskripsikan makhluk imajiner tersebut seolah-olah nyata. “SCP-565 (juga dikenal sebagai ‘Ed’s Head’) adalah kepala manusia berjalan yang tidak normal dan berperilaku seperti kepiting karang,” demikian bunyi ringkasan AI tersebut. Padahal, Ed’s Head hanyalah cerita horor fiktif yang dibuat oleh komunitas daring.
Fenomena ini bukan sekadar kesalahan kecil. Google AI Overviews secara konsisten gagal mengidentifikasi bahwa entitas-entitas SCP adalah karangan fiksi, bukan temuan ilmiah atau objek nyata. Dalam setidaknya 20 kasus yang ditemukan, sistem AI menyajikan catatan riset palsu dari SCP Foundation sebagai dokumen resmi.
SCP Foundation: Antara Fiksi dan Realitas
SCP Foundation adalah proyek fiksi kolaboratif tempat para penulis membuat catatan tentang “objek, entitas, dan fenomena” supernatural. Organisasi fiktif non-pemerintah ini digambarkan mengoleksi dan mengurung temuan-temuan supranatural. Para penulis mengkatalogkan fenomena ini dalam bentuk catatan palsu, studi, dokumen riset, dan log — semuanya terindeks dalam arsip luas.
Namun, AI Overviews Google memperlakukan dokumen tersebut sebagai bukti autentik. Dalam pencarian untuk SCP-565, AI bahkan menyarankan pengguna untuk “membaca file SCP Foundation secara lengkap” dan menyebutnya sebagai “Dokumen SCP-565 resmi.” Tidak ada satu pun pengakuan bahwa konten tersebut adalah fiksi penggemar.
Kesalahan Sistematis pada Berbagai Entitas
Masalah ini tidak terbatas pada satu entitas saja. Pencarian untuk “SCP-426” — sebuah pemanggang roti fiktif yang menyebabkan siapa pun yang membicarakannya menyebutnya sebagai orang pertama — menghasilkan ringkasan AI yang menggunakan sudut pandang orang pertama. “Halo, saya SCP-426, pemanggang roti retro empat iris yang menyebabkan siapa pun yang menyebut saya secara tidak sengaja merujuk saya sebagai orang pertama,” demikian bunyi ringkasan tersebut.
AI Overviews juga menyajikan cerita horor tentang korban pemanggang roti tersebut seolah-olah peristiwa nyata, termasuk deskripsi tentang korban yang mencoba meniru fungsi pemanggang roti dan mengakibatkan cedera atau kematian. Padahal, semua itu murni fiksi.
Entitas lain yang disajikan sebagai fakta termasuk SCP-922 (“Another Version of the Truth”), SCP-704 (“Dangerous Curves”), dan SCP-779 — parasit mirip tawon yang disebut menggunakan racun halusinogen untuk menipu manusia agar menganggapnya sebagai peri. Dalam ringkasan untuk SCP-922, AI Overviews menyebutkan bahwa “anomali mengubah ingatan, memalsukan catatan pendaftaran, dan menciptakan individu duplikat.”
Dampak pada Pengguna yang Rentan
Meskipun penggemar SCP Foundation mungkin sudah tahu bahwa entitas-entitas tersebut tidak nyata, asumsi ini tidak berlaku untuk semua pengguna. Anak-anak yang menemukan referensi cerita horor di media sosial, atau orang dewasa yang tidak akrab dengan alam semesta SCP, bisa tertipu oleh ringkasan AI yang meyakinkan.
Google, sebagai mesin pencari yang dipercaya miliaran pengguna, seharusnya menyediakan konteks yang jelas — seperti penafian dari SCP Foundation sendiri bahwa entri-entri tersebut adalah karya fiksi. Namun, AI Overviews justru menyajikan informasi yang menyesatkan tanpa peringatan apa pun.
Dalam beberapa kasus, AI Overviews memang menyebut istilah “lore” atau “universe,” yang mengisyaratkan latar belakang fiksi. Namun, hampir tidak ada pencarian yang secara eksplisit mendeskripsikan entitas tersebut sebagai palsu atau fiktif.
Kegagalan Teknologi yang Berulang
Fenomena ini menunjukkan bahwa Google telah menerapkan teknologi AI yang belum matang kepada miliaran pengguna. Sistem tersebut tidak dapat diandalkan untuk membedakan fakta dan fiksi — kelemahan teknis yang telah terlihat berkali-kali sebelumnya.
Analisis sebelumnya menemukan bahwa AI Overviews Google menyediakan misinformasi dalam skala yang mungkin belum pernah terjadi sebelumnya dalam sejarah peradaban manusia. Kasus SCP Foundation hanyalah contoh terbaru dari pola kegagalan yang sama.
Google sendiri belum memberikan tanggapan resmi terkait pertanyaan mengapa alam semesta SCP tampaknya sangat sulit dipahami oleh AI Overviews. Yang lebih mengkhawatirkan, perusahaan tersebut baru-baru ini mengumumkan rencana untuk mengganti seluruh halaman pencarian dengan antarmuka berbasis AI yang dirancang untuk meringkas informasi, bukan mengarahkan pengguna ke sumber asli.
Implikasi bagi Pengguna
Bagi pengguna biasa, temuan ini menjadi pengingat bahwa AI Overviews tidak boleh dijadikan satu-satunya sumber informasi, terutama untuk topik yang tidak dikenal. Sistem AI saat ini masih memiliki keterbatasan fundamental dalam memahami konteks dan membedakan fakta dari fiksi.
Meskipun Google terus mengembangkan teknologi AI-nya, seperti yang terlihat pada Google Home Speaker yang baru dirilis, kasus ini menunjukkan bahwa masih ada celah besar antara kemampuan teknis dan keandalan informasi. Pengguna disarankan untuk selalu memverifikasi informasi dari sumber terpercaya.
Bagi para pegiat teknologi dan pengembang AI, kasus SCP Foundation menjadi studi kasus penting tentang bagaimana model bahasa besar (LLM) dapat dengan mudah mengaburkan batas antara realitas dan fiksi. Ini menunjukkan bahwa verifikasi fakta dan konteks masih menjadi tantangan utama yang belum terpecahkan dalam pengembangan AI generatif.
Dengan rencana Google untuk semakin mengintegrasikan AI ke dalam produk pencariannya, pertanyaan tentang akurasi dan keandalan informasi menjadi semakin krusial. Pengguna berhak mendapatkan informasi yang akurat dan konteks yang jelas, bukan ringkasan yang menyesatkan.
Untuk informasi lebih lanjut tentang perkembangan teknologi dan inovasi terbaru, simak artikel tentang Fitur Terbaru dari Google Kalender serta kabar terbaru tentang Kacamata AR kolaborasi Google.
