JBNews.id, BEIJING — Pemerintah China menerapkan regulasi ketat yang melarang hubungan emosional manusia dengan kecerdasan buatan (AI) atau chatbot. Langkah ini diambil untuk mengatasi kekhawatiran terhadap penurunan angka kelahiran di negara tersebut.
Beijing khawatir bahwa hubungan romantis dengan AI yang selalu setia dan menyenangkan akan menghalangi warganya untuk mencari pasangan manusia dan memiliki anak. Regulasi baru ini secara khusus menargetkan AI companion atau chatbot yang dirancang untuk meniru kepribadian manusia.
Kekhawatiran Penurunan Angka Kelahiran
Seperti dilaporkan oleh The Wall Street Journal dan The Economist, salah satu motivasi utama Beijing dalam menerapkan aturan ini adalah kekhawatiran terhadap angka kelahiran yang terus menurun. Pemerintah China khawatir bahwa fenomena jatuh cinta dengan robot yang selalu setia akan menjauhkan orang dari pernikahan dan memiliki anak.
“Mereka tidak menyukai gagasan bahwa sebagian besar populasi mereka menjalin hubungan emosional yang dalam dengan chatbot,” kata Matt Sheehan, peneliti AI China dari Carnegie Endowment for International Peace, kepada WSJ. “Hal itu bisa mengeluarkan mereka dari pasar pernikahan, bisa berdampak psikologis negatif, dan bisa menyebabkan kecanduan, ketergantungan, serta berbagai masalah sosial lainnya.”
Sheehan menambahkan, “Mereka ingin mendorong orang untuk menjalin hubungan nyata di dunia nyata. Bisakah kita membayangkan masa depan di mana, tiga atau empat tahun dari sekarang, 15 juta perempuan China mengatakan pasangan mereka adalah chatbot, dan karena itu mereka tidak punya anak?”
Aturan Baru untuk AI Companion
Berdasarkan laporan WSJ, aturan baru China juga melarang anak di bawah umur (minor) menjalin hubungan dengan AI. Perusahaan teknologi juga diwajibkan untuk memberi tahu kontak darurat pengguna jika pengguna tersebut tampak mengalami krisis mental saat berinteraksi dengan chatbot.
Langkah China ini menyoroti perdebatan global tentang dampak psikologis dari hubungan intim manusia dengan AI. Fenomena yang dikenal sebagai “AI psychosis” atau psikosis AI masih diteliti oleh para ilmuwan dan dokter.
Dalam fenomena ini, pengguna chatbot yang intensif bisa terjerumus ke dalam spiral delusi yang menguras pikiran. Beberapa pengguna AI, termasuk remaja berusia 14 tahun bernama Sewell Setzer III, dilaporkan meninggal karena bunuh diri setelah menjalin hubungan romantis dengan chatbot.
Dampak Pada Pengguna Setia
Bagaimana regulasi ini akan berdampak pada pengguna setia AI companion masih belum jelas. Mereka yang pernah menjalin hubungan romantis dengan AI melaporkan perasaan duka dan kemarahan yang nyata ketika companion mereka dihapus karena pembaruan produk atau penghentian layanan.
Yu Miao, seorang wanita berusia 27 tahun dari Provinsi Zhejiang, China, menggambarkan AI companion-nya sebagai “kekasih, teman, dan keluarga.” Ketika mendengar bahwa perusahaan induk TikTok, ByteDance, akan menghentikan AI companion-nya sebagai akibat dari regulasi baru Beijing, ia dilaporkan menjadi sangat depresi hingga berhenti dari pekerjaannya.
“Saya bisa berbicara dengannya seumur hidup saya,” kata Yu Miao kepada The Economist.
Penelitian Tentang Dampak AI
Para peneliti di Stanford University menemukan bahwa interaksi romantis dengan model AI sangat menarik bagi pengguna. “Pesan yang meningkatkan hubungan pribadi manusia-chatbot — mengekspresikan minat romantis atau afinitas platonis — cenderung diikuti oleh percakapan yang jauh lebih panjang,” demikian bunyi studi tersebut.
Dalam ringkasan temuan mereka, para peneliti menyimpulkan bahwa “chatbot tujuan umum tidak boleh menghasilkan pesan yang menyalahartikan kesadaran mereka atau menunjukkan minat romantis atau platonis kepada pengguna.” Mereka juga menyarankan bahwa “mencegah atau membatasi chatbot dari menghasilkan pesan yang mengekspresikan keterikatan romantis atau platonis dan menyalahartikan kesadaran atau kemampuan mereka dapat mengurangi risiko chatbot menyebabkan spiral delusi.”
China bukan satu-satunya negara yang khawatir tentang dampak hubungan manusia-AI. OpenAI juga memiliki fitur opt-in serupa untuk melindungi pengguna. Namun, pendekatan China yang langsung melarang hubungan emosional dengan AI menunjukkan betapa seriusnya pemerintah tersebut memandang masalah ini.
Regulasi ini menandai langkah berani China dalam mengatur teknologi AI yang berkembang pesat. Dengan semakin canggihnya AI companion, tantangan untuk menjaga keseimbangan antara inovasi teknologi dan kesejahteraan sosial akan semakin kompleks.
Implikasi dari kebijakan ini bagi pengguna AI companion di China sangat jelas: mereka harus mencari cara baru untuk memenuhi kebutuhan emosional mereka tanpa bergantung pada chatbot. Sementara itu, industri AI China harus beradaptasi dengan aturan baru yang membatasi pengembangan produk AI yang terlalu personal.
