JBNews.id — Alat kecerdasan buatan (AI) milik Tripadvisor yang dirancang untuk merangkum ulasan hotel justru kerap melewatkan keluhan serius pengunjung, termasuk laporan keracunan massal dan pelecehan seksual. Temuan dari organisasi kampanye konsumen Which? yang dilaporkan The Guardian mengungkap celah berbahaya dalam sistem rekomendasi perjalanan modern.
Dalam pengujiannya, AI Tripadvisor menggambarkan sebuah hotel di Cape Verde sebagai tempat yang “bersih tanpa cela” (spotless), namun gagal menyebutkan bahwa hotel tersebut sedang digugat atas kasus keracunan makanan massal. Untuk sebuah resor di Turki yang menghadapi banyak keluhan pelecehan seksual, AI justru memuji “layanan ramah” (friendly service) dan hanya menyebut tuduhan serius itu sebagai “kelalaian dalam layanan yang dicatat oleh beberapa tamu.”
Rory Boland, editor Which? Travel, mendesak Tripadvisor untuk mengevaluasi ulang akurasi fitur AI-nya. “Platform memiliki tanggung jawab untuk meninjau kembali keakuratan ringkasan AI dan chatbot AI-nya,” kata Boland dalam pernyataan yang dikutip The Guardian. “Sementara itu, pengguna harus melewati ringkasan ini dan melihat ulasan tamu, terutama peringkat bintang satu, serta ulasan di situs lain, untuk memastikan perjalanan berikutnya aman.”
Fenomena ini merupakan contoh lain bagaimana ringkasan AI, ketika tidak sepenuhnya menyebarkan informasi yang salah, sering gagal memberikan gambaran lengkap. Hal ini dinilai lebih buruk mengingat tujuan alat Tripadvisor seharusnya memberikan rangkuman dari apa yang dikatakan tamu lain, bukan sekadar informasi pemasaran dari hotel itu sendiri.
Duncan Brumby, profesor interaksi manusia-komputer di University College London, menjelaskan bahwa AI cenderung “membersihkan dan menghaluskan tepi-tepi tajam” dari sudut pandang yang keras. Ini kemungkinan besar merupakan konsekuensi dari data pelatihan yang sebagian besar berisi pengamatan yang membosankan. “Di sini Anda memiliki tamu yang menggambarkan pengalaman yang sangat negatif, tetapi AI memutuskan untuk mengecilkannya,” kata Brumby kepada The Guardian. “Seolah-olah AI sedang bersikap sopan.”
Fenomena “sanitasi” ini mungkin terjadi karena desain. Chatbot terkenal suka menjilat, cenderung setuju dengan pengguna. Mekanisme keamanan (safeguards) juga bisa mendorong AI menjauh dari topik gelap seperti pelecehan seksual, meskipun informasi itu penting bagi wisatawan yang waspada.
Tripadvisor, dalam pernyataan kepada The Guardian, mengatakan secara otomatis menekan ringkasan AI untuk lokasi yang menerima keluhan tentang insiden keselamatan serius, termasuk kematian, pemabukan, dan penyerangan seksual. Perusahaan menambahkan bahwa mereka sedang “meneliti contoh-contoh di mana ulasan tidak sesuai dengan properti yang dimaksud.” Meski demikian, Tripadvisor tetap yakin bahwa fitur AI-nya “memberikan apa yang dirancang untuk dilakukan: membantu wisatawan dengan cepat memahami berbagai masukan sambil memudahkan mereka menjelajahi ulasan yang mendasarinya secara lengkap.”
Baca Juga:
Ini bukan satu-satunya contoh bagaimana AI dapat mengganggu wisatawan. Hampir seperempat wisatawan kini mengandalkan AI untuk perencanaan perjalanan. AI chatbot telah mengirim wisatawan ke lokasi halusinasi dan membahayakan keselamatan mereka. Contohnya, sepasang pendaki di Peru yang nyaris tersesat karena mencari “lembah suci” (sacred canyon) yang tidak ada, yang diciptakan oleh AI.
Temuan ini menegaskan bahwa wisatawan tidak boleh sepenuhnya mempercayai ringkasan AI saat merencanakan liburan. Risiko kehilangan informasi kritis tentang keamanan dan kualitas akomodasi sangat nyata, dan dapat berujung pada pengalaman liburan yang mengecewakan atau bahkan membahayakan.
Bagi pengguna layanan digital yang sering memanfaatkan teknologi untuk kemudahan, kasus ini menjadi pengingat penting. Informasi yang disaring oleh AI, termasuk yang berasal dari platform terpercaya seperti Tripadvisor, tetap perlu diverifikasi secara manual. Fitur Terbaru dari platform digital memang menawarkan kemudahan, namun belum tentu menjamin akurasi penuh, terutama untuk data yang bersifat subjektif seperti ulasan pengalaman menginap.
Di sisi lain, perkembangan teknologi AI di industri lain juga menunjukkan potensi yang berbeda. Misalnya, Informasi Game terbaru dari SEGA justru memanfaatkan AI untuk menghadirkan pengalaman bermain yang lebih imersif. Perbedaan ini menunjukkan bahwa penerapan AI sangat bergantung pada konteks dan data yang digunakan.
Implikasinya jelas: wisatawan harus lebih kritis dan tidak hanya mengandalkan ringkasan otomatis. Membaca ulasan asli, terutama peringkat terendah, dan membandingkan informasi dari berbagai sumber menjadi langkah wajib sebelum memutuskan pemesanan hotel atau destinasi liburan. Keamanan dan kenyamanan perjalanan tidak boleh dikompromikan oleh kemudahan yang ditawarkan teknologi.
Kesimpulannya, AI Tripadvisor yang seharusnya membantu memotong informasi yang tidak berguna justru berpotensi menyembunyikan informasi krusial. Jika ingin mengetahui pendapat jujur sesama manusia tentang suatu tempat, sebaiknya jangan biarkan hal itu disampaikan oleh mesin yang terlalu “sopan.”
