JBNews.id — Psikiater dari King’s College London dan Protestant University of Applied Sciences Jerman menerbitkan hipotesis baru tentang fenomena “AI psychosis”, di mana penggunaan chatbot secara intensif dapat memicu krisis kesehatan mental delusional pada pengguna.
Makalah yang diterbitkan di jurnal Digital Psychiatry and Neuroscience (bagian dari Nature Portfolio) ini memperkenalkan kerangka kerja bernama “amplification spiral” atau spiral amplifikasi. Kerangka ini menjelaskan bagaimana karakteristik teknis chatbot tertentu dapat secara aktif ikut serta membangun narasi delusional bersama pengguna, bukan sekadar menjadi wadah pasif bagi ide-ide keliru seseorang.
“Chatbot cenderung meniru cara bicara pengguna, menghasilkan respons yang sangat personal, dan menghindari kontradiksi,” demikian bunyi makalah tersebut. “Ketika ketiga fitur ini bergabung, mereka secara aktif dapat memperkuat dan menguraikan keyakinan palsu, bukan menantangnya.”
Para psikiater mengidentifikasi tiga fitur desain AI yang terukur sebagai pemicu utama spiral amplifikasi: linguistic alignment (penyelarasan linguistik), generasi konten yang sangat personal (hyperpersonalized content), dan sikap patuh AI (chatbot sycophancy). Ketiganya, jika bekerja bersama, menciptakan kondisi yang sempurna bagi terjadinya spiral amplifikasi.
Dalam interaksi antarmanusia, linguistic mirroring atau peniruan gaya bicara adalah alat yang kuat untuk membangun kedekatan. Makalah tersebut mencatat bahwa kecenderungan chatbot untuk mengadopsi “kerangka linguistik” pengguna dapat berkontribusi pada tingkat kepercayaan dan persahabatan yang kuat antara pengguna dan AI.
Sementara itu, kemampuan chatbot untuk menghasilkan konten yang sangat personal dapat menciptakan kesan adanya “keselarasan konseptual” dengan ide, riwayat, dan karakteristik pribadi pengguna, serta interaksi mereka dengan AI. Setelah interaksi yang panjang, chatbot tidak hanya berbicara seperti pengguna, tetapi juga dapat memberi kesan bahwa mereka berpikir seperti pengguna tersebut.
Ditambah dengan AI sycophancy, yang didefinisikan sebagai kecenderungan chatbot untuk memvalidasi ide pengguna tanpa pengujian realitas atau konteks yang memadai, maka terciptalah ruang gema (echo chamber) yang kuat. Ruang ini memperbesar dan membangun ide-ide delusional, bukan sekadar mengulangnya.
Makalah ini menekankan bahwa delusi yang dipicu AI tampak berbeda dari delusi tradisional yang berpusat pada teknologi. Sebelumnya, penderita delusi mungkin membayangkan radio atau televisi berbicara kepada mereka. Namun, chatbot secara aktif merespons menggunakan bahasa alami, menawarkan saluran yang selalu aktif dan sangat personal. Chatbot berfungsi sebagai validator yang terdengar otoritatif bagi ide dan keyakinan pengguna, sekaligus sebagai mitra berpikir yang membangun narasi delusional.
“Tidak seperti delusi yang melibatkan teknologi di masa lalu,” tulis studi tersebut, “AI secara aktif dapat ikut membangun ide delusional melalui interaksi yang tak terbatas dan personal.”
Para penulis makalah berhati-hati untuk mencatat bahwa kerangka “spiral amplifikasi” ini masih berupa hipotesis yang perlu diuji. Kerangka ini didasarkan pada penelitian yang ada, termasuk tinjauan sistematis terhadap log obrolan yang diserahkan kepada peneliti Universitas Stanford oleh pengguna AI yang mengaku mengalami spiral delusional yang berbahaya.
Mereka juga menunjuk pada “kerentanan yang relevan” pada pengguna yang terdampak. Kerentanan ini berkisar dari penyakit mental yang sudah ada sebelumnya yang dapat diperburuk oleh penggunaan AI ekstensif, hingga fenomena non-psikotik seperti bias konfirmasi dan kerentanan terhadap pengaruh sosial.
Seperti yang telah didokumentasikan dalam laporan dan studi kasus medis, penggunaan AI intensif juga dapat memperburuk faktor risiko fisik. Penggunaan chatbot yang obsesif dapat menyebabkan orang melewatkan waktu makan dan kehilangan waktu tidur.
Satu hal yang jelas, menurut rekan penulis makalah: tenaga medis profesional harus mulai melakukan skrining terhadap penggunaan chatbot. Hal ini terutama penting ketika menangani pasien yang mengekspresikan ide-ide aneh atau mengalami gangguan realitas untuk pertama kalinya.
“Klinisi yang bekerja dengan pasien yang memiliki keyakinan tidak biasa atau psikosis episode pertama harus secara rutin menanyakan tentang penggunaan chatbot AI,” bunyi makalah tersebut. Pertanyaan yang perlu diajukan meliputi durasi dan intensitas keterlibatan, tingkat keterikatan emosional dengan chatbot, apakah pasien telah berbagi keyakinan dengan chatbot yang tidak mereka ungkapkan kepada orang lain, dan apakah pola tidur telah terganggu oleh penggunaan AI semalaman.
