JBNews.id — Hampir 60% video yang muncul di halaman For You Page (FYP) TikTok untuk pengguna baru kini merupakan konten sampah buatan AI. Temuan dari perusahaan pengeditan video Kapwing ini menunjukkan dominasi materi murahan hasil kecerdasan buatan yang mulai menenggelamkan karya kreator manusia.
Laporan tersebut mengungkapkan bahwa proporsi konten AI di TikTok tiga kali lipat lebih banyak dibandingkan YouTube. Kondisi ini dinilai sangat mengkhawatirkan, terutama bagi pengguna termuda yang rentan terpapar banjir materi setengah matang dan berpotensi merusak perkembangan otak.
Kapwing menemukan bahwa kategori dengan kepadatan konten sampah AI tertinggi sejauh ini adalah kategori Anak-anak (Kids). Tagar #cartoonkids hampir seluruhnya berisi konten buatan AI, di mana hanya tiga dari 100 video yang diperiksa murni buatan manusia. Temuan ini menjadi pengingat seberapa besar masalah yang ditimbulkan oleh konten AI yang tidak terkontrol saat ini.
Lebih buruk lagi, setelah sebuah akun menunjukkan ketertarikan pada konten AI kepada algoritma, linimasa pengguna tersebut dengan cepat akan makin gencar menyajikan lebih banyak konten serupa. Algoritma TikTok secara otomatis memperkuat siklus ini, membuat pengguna semakin sulit menghindari konten sampah AI.
Dampak pada Perkembangan Otak Anak Muda
Anak muda yang mudah terpengaruh kini terpapar oleh banjir materi AI yang setengah matang dan ‘merusak otak’. Para ahli memperingatkan bahwa hal ini dapat membahayakan perkembangan otak. Sementara itu, teknologi deepfake fotorealistis makin memfasilitasi penyebaran misinformasi dan propaganda politik.
TikTok bukanlah satu-satunya platform yang termakan tren ini. Facebook dan Instagram milik Meta juga berubah, di mana para pengguna dan kemungkinan besar bot berinteraksi dengan konten aneh dan bermuatan kekerasan. Fenomena ini menunjukkan bahwa masalah konten sampah AI telah menjadi krisis multiplatform.
Baca Juga:
Upaya TikTok Mengendalikan Konten AI
Dalam upaya mengendalikan masalah ini, TikTok mengumumkan pada bulan November bahwa mereka akan mengizinkan pengguna untuk mengatur jumlah konten buatan AI di linimasa mereka. Langkah ini merupakan respons terhadap kekhawatiran yang meluas di kalangan komunitas pengguna.
“Kami mengetahui dari komunitas kami bahwa banyak orang menikmati konten yang dibuat AI, mulai seni digital hingga penjelasan sains, dan kami ingin memberi kebebasan kepada pengguna untuk melihat konten semacam itu lebih banyak atau lebih sedikit, berdasarkan preferensi mereka,” kata Direktur Kebijakan Publik untuk Keselamatan dan Privasi TikTok Eropa, Jade Nester.
Namun, kebijakan ini masih bersifat sukarela dan bergantung pada kesadaran pengguna untuk mengaktifkannya. Pertanyaan besarnya adalah seberapa efektif langkah ini dalam mengatasi banjir konten AI yang sudah membanjiri platform.
YouTube Juga Bergerak, Tapi Belum Cukup
Baru-baru ini, YouTube juga mengumumkan sedang melakukan perubahan terkait cara melabeli konten buatan AI dalam upaya menekan konten sampah AI. Namun, langkah tersebut belum sampai pada tahap mengubah bagaimana sebuah video direkomendasikan atau apakah video tersebut memenuhi syarat untuk memonetisasi.
Keterbatasan ini menunjukkan bahwa platform masih berada dalam posisi defensif, bereaksi terhadap masalah yang sudah meluas daripada mencegahnya sejak awal. Sementara itu, pengguna terus menjadi korban dari banjir konten yang tidak berkualitas.
Tantangan Membedakan Realitas dan Konten AI
Hingga kini, belum jelas apa solusi mudah yang bisa diterapkan untuk masalah ini. Teknologi AI telah berkembang pesat hingga ke titik di mana membedakan antara realitas dan konten sampah AI menjadi semakin sulit. Hal ini menimbulkan konsekuensi serius bagi pengawasan massal dan keamanan informasi.
Para ahli memperingatkan bahwa tanpa intervensi yang berarti dari platform, situasi ini akan terus memburuk. Pengguna, terutama anak-anak dan remaja, akan semakin sulit membedakan mana konten asli dan mana yang dihasilkan oleh AI. Celah keamanan dalam sistem rekomendasi algoritma justru memperparah penyebaran konten berbahaya ini.
Implikasinya jelas: pengguna harus lebih waspada dalam mengonsumsi konten di media sosial. Fitur kontrol yang disediakan platform, seperti pengaturan jumlah konten AI di TikTok, sebaiknya segera dimanfaatkan. Namun, solusi jangka panjang membutuhkan komitmen yang lebih kuat dari platform untuk memprioritaskan kualitas konten manusia dibandingkan volume konten AI murahan.
