JBNews.id — TikTok dikritik tajam setelah gagal menghapus siaran langsung yang menampilkan aksi menyakiti diri sendiri selama sekitar 15 menit. Insiden ini memicu pertanyaan besar tentang efektivitas sistem moderasi konten platform video pendek tersebut, terutama dalam menangani konten sensitif yang melanggar pedoman komunitas.
Siaran langsung tersebut dilakukan oleh Perez Lavandeira. Ribuan penonton menyaksikan aksi tersebut sebelum akhirnya akun diblokir. Pihak berwenang, dalam hal ini Kantor Sheriff Miami-Dade County, menerima banyak laporan dari warga yang khawatir dan segera mengirimkan unit respons krisis serta profesional kesehatan mental ke kediaman Lavandeira.
Juru bicara TikTok, Jamie Favazza, mengonfirmasi kepada WIRED bahwa sistem moderasi otomatis platform telah menandai siaran langsung tersebut beberapa menit setelah dimulai. Namun, terjadi “kesalahan moderator” yang menyebabkan keterlambatan penghapusan siaran dan pemblokiran akun. Favazza juga menyatakan bahwa TikTok telah menghubungi aparat penegak hukum segera setelah siaran ditandai.
Meski demikian, TikTok tidak menjawab pertanyaan lanjutan mengenai sifat kesalahan moderator tersebut dan seberapa lama kesalahan itu menunda penghapusan siaran langsung. Ketidakjelasan ini semakin memperdalam kekhawatiran publik tentang kemampuan platform dalam menegakkan kebijakannya sendiri.
Kronologi dan Respons Platform
Detektif Samantha Choon dari Kantor Sheriff Miami-Dade County menjelaskan bahwa pihaknya menerima “banyak panggilan mengenai seorang individu yang melakukan siaran langsung aksi menyakiti diri sendiri di media sosial.” Seorang petugas informasi publik kantor sheriff secara terpisah mengonfirmasi kepada WIRED bahwa individu tersebut adalah Lavandeira.
Pedoman konten resmi TikTok melarang “konten yang menampilkan, mempromosikan, atau memberikan instruksi untuk bunuh diri atau menyakiti diri sendiri” serta “konten grafis, kekerasan, atau mengganggu.” Platform ini mengklaim menggunakan “kombinasi” sistem otomatis dan moderasi manusia untuk menyaring konten semacam itu.
Menariknya, insiden ini terjadi setelah TikTok memasuki struktur kepemilikan baru pada Januari. Sebuah joint venture yang baru dibentuk kini bertanggung jawab atas moderasi konten dan keamanan data di AS. Namun, struktur baru ini tampaknya belum mampu mencegah insiden serupa.
Setelah kabar Lavandeira dirawat di rumah sakit menyebar, banyak pengguna media sosial mempertanyakan mengapa platform membiarkan siaran langsung tersebut tayang cukup lama hingga ribuan penonton melihatnya. Beberapa spekulasi menyebutkan siaran itu dibiarkan tayang selama 30 menit atau lebih sebelum akunnya diblokir.
Favazza membantah klaim tersebut. Ia menegaskan siaran hanya tayang selama “setengah” dari waktu yang dispekulasikan, dan siaran langsung berikutnya dari Perez dipotong dalam waktu 90 detik. Namun, bantahan ini tidak sepenuhnya meredakan kekhawatiran publik.
Kepala manajer Lavandeira sekaligus CEO Golden Artists Entertainment, Dante Rusciolelli, mengatakan timnya “tidak dalam posisi untuk berkomentar mengenai kebijakan internal TikTok, keputusan moderasi, atau komunikasinya dengan aparat penegak hukum.” Rusciolelli menambahkan bahwa fokus mereka sepenuhnya pada kesehatan dan kesejahteraan Perez.
Baca Juga:
Bukan Kasus Pertama
Ini bukan pertama kalinya TikTok, maupun platform siaran langsung pada umumnya, dituduh gagal memoderasi konten yang menampilkan bunuh diri atau aksi menyakiti diri sendiri. Pada 2020, The Intercept melaporkan bahwa seorang pria muda Brasil melakukan siaran langsung aksi bunuh dirinya di platform tersebut.
Di tahun yang sama, TikTok juga kesulitan menghapus klip grafis momen terakhir Ronnie McNutt, yang viral setelah mengakhiri hidupnya melalui Facebook Live. Kasus-kasus berulang ini menunjukkan adanya pola kegagalan sistematis dalam moderasi konten sensitif di platform media sosial.
Menariknya, masalah moderasi ini terjadi di tengah berbagai upaya TikTok meningkatkan keamanan platform. Platform ini juga sedang uji coba alat deteksi AI untuk melindungi kreator, yang menunjukkan keseriusan mereka dalam meningkatkan sistem otomatis. Namun, insiden terbaru ini membuktikan bahwa teknologi tersebut masih memiliki celah signifikan.
Di sisi lain, persaingan platform juga semakin ketat. YouTube menambah fitur mirip TikTok di Shorts, sementara NotebookLM menghadirkan fitur video AI dengan gaya serupa. Persaingan ini menempatkan tekanan lebih besar pada TikTok untuk menjaga reputasi moderasi kontennya.
Insiden ini juga menjadi pengingat penting tentang tanggung jawab platform media sosial dalam melindungi pengguna. Dengan jutaan siaran langsung yang tayang setiap hari, pertanyaan tentang bagaimana platform menyeimbangkan kebebasan berekspresi dengan keselamatan pengguna menjadi semakin mendesak untuk dijawab.
Bagi pengguna di Indonesia, kasus ini menjadi pelajaran berharga tentang pentingnya melaporkan konten berbahaya yang ditemui di platform media sosial. Respons cepat dari penonton yang melaporkan siaran langsung Lavandeira kepada pihak berwenang menunjukkan bahwa peran pengguna sangat krusial dalam situasi darurat.
Hingga berita ini ditulis, TikTok belum memberikan klarifikasi lebih lanjut mengenai detail kesalahan moderator yang menyebabkan keterlambatan penghapusan siaran langsung tersebut. Publik masih menunggu langkah konkret platform untuk mencegah terulangnya insiden serupa di masa mendatang.
Jika Anda atau seseorang yang Anda kenal sedang mengalami kesulitan dengan pikiran untuk menyakiti diri sendiri atau bunuh diri, hubungi Suicide and Crisis Lifeline di 988 untuk mendapatkan dukungan.
