JBNews.id — Hampir 60 persen video yang ditayangkan ke pengguna baru di halaman “For You” TikTok kini merupakan konten buatan AI berkualitas rendah atau yang dikenal sebagai AI slop. Temuan ini berasal dari laporan terbaru Kapwing, perusahaan penyunting video asal San Francisco, yang menunjukkan bahwa algoritma TikTok menyajikan konten sintetis tiga kali lebih banyak dibandingkan YouTube kepada pengguna barunya.
Fenomena ini menjadi kekhawatiran serius, terutama bagi pengguna termuda platform tersebut. Kapwing menemukan bahwa kategori dengan kepadatan slop tertinggi adalah konten anak-anak. Tagar #cartoonkids, misalnya, hampir seluruhnya dipenuhi konten buatan mesin. Dari 100 video yang diperiksa, hanya tiga yang dibuat oleh manusia.
Lebih mengkhawatirkan lagi, ketika sebuah akun menunjukkan ketertarikan pada konten AI, algoritma TikTok akan langsung memperkuat sinyal tersebut dengan menyajikan lebih banyak slop. Temuan ini menjadi pengingat betapa besarnya masalah konten AI berkualitas rendah di media sosial saat ini.
Dampak pada Perkembangan Anak
Paparan terhadap konten AI yang setengah matang dan merusak otak ini dinilai para ahli dapat membahayakan perkembangan kognitif anak-anak. Pikiran muda yang masih dalam masa pertumbuhan kini dijejali dengan materi sintetis yang tidak terverifikasi kualitasnya. Sementara itu, deepfake yang fotorealistik semakin mempermudah penyebaran misinformasi dan propaganda politik.
TikTok bukan satu-satunya platform yang terdampak. Meta melalui Facebook dan Instagram juga telah berubah menjadi lahan yang nyaris tidak bisa dikenali. Pengguna, dan kemungkinan besar bot, berinteraksi dengan gambar-gambar absurd seperti anak-anak miskin yang memohon di jalan tanpa lengan, atau video kucing humanoid yang secara tidak sengaja membunuh keturunannya di penggiling daging.
Respons Platform
Dalam upaya mengendalikan masalah ini, TikTok pada November lalu mengumumkan akan memberikan opsi kepada pengguna untuk menambah atau mengurangi jumlah konten buatan AI di feed mereka. “Kami tahu dari komunitas kami bahwa banyak orang menikmati konten yang dibuat dengan alat AI, dari seni digital hingga penjelasan sains, dan kami ingin memberi orang kekuatan untuk melihat lebih banyak atau lebih sedikit dari itu, berdasarkan preferensi mereka sendiri,” ujar Jade Nester, direktur kebijakan publik Eropa untuk keamanan dan privasi TikTok, kepada The Guardian saat itu.
YouTube juga baru-baru ini mengumumkan perubahan dalam cara pelabelan konten buatan AI sebagai upaya lebih luas untuk menekan AI slop. Namun, langkah tersebut belum sampai mengubah “cara video direkomendasikan atau apakah video tersebut memenuhi syarat untuk menghasilkan uang.”
Tidak Ada Solusi Mudah
Belum jelas apa solusi tepat untuk masalah ini. Teknologi telah berkembang sedemikian rupa sehingga membedakan antara realitas dan slop menjadi semakin sulit. Seperti yang dilaporkan New York Times akhir pekan lalu, bahkan Hany Farid, yang dijuluki “ahli deepfake terkemuka dunia,” telah “berhenti mempercayai matanya sendiri.”
