Sisi Gelap Algoritma TikTok yang Mengancam Kesehatan Jiwa dan Pikiran Pengguna

"Tim kami terus berkonsultasi dengan organisasi non-profit dan partner lainnya untuk memperbaharui daftar kata kunci," ujar juru bicara TikTok.

Pengguna TikTok lainnya mengatakan ketika mencoba melaporkan video seorang pria bunuh diri, video itu dianggap tidak melanggar kebijakan aplikasi tersebut.

Video tersebut pertama kali muncul di Facebook, lalu dibagikan di kebanyakan platform media sosial.

TikTok menjadi aplikasi terakhir yang menghapusnya, baru setelah video itu viral di platform tersebut.

"Menakutkan sekali menyaksikan dari kacamata seorang pakar, atau orangtua, bahwa konten seperti ini tidak melanggar kebijakan aplikasi," kata Dr Suku.

Hanya butuh waktu 30 detik untuk menemukan konten berbahaya di TikTok, dan beberapa jam bagi algoritma untuk memenuhi halaman utama pengguna dengan video yang membahayakan, menurut beberapa pakar.

Organisasi advokasi teknologi bernama Reset Australia bereksperimen dan menemukan bahwa hanya butuh waktu empat jam bagi algoritma untuk mengetahui ketertarikan pengguna berusia 13 tahun terhadap konten berbau rasisme, dan sekitar tujuh jam bagi video seksis untuk membanjiri halaman utama seseorang.

Semakin lama pengguna menyaksikan konten seperti ini, semakin sering juga munculnya.