Sisi Gelap Algoritma TikTok yang Mengancam Kesehatan Jiwa dan Pikiran Pengguna

Salah satu peneliti di Reset Australia, Rys Farthing mengatakan konten berbahaya ini berlipat kali ganda dampaknya.

"Saya tidak bisa membayangkan bagaimana rasanya menjadi anak muda yang terjerumus ke dalam lubang kelinci ini dan terus disuapi konten seperti itu. Bahaya sekali."

'Shadow ban' dan bias

Sementara TikTok di bawah tekanan memusnahkan video yang merusak, aplikasi tersebut juga dituduh menggunakan algoritma untuk melarang dan mengurangi beberapa unggahan untuk alasan yang salah.

Unice Wani, pengguna TikTok di Perth, memiliki 600.000 pengikut dalam setahun. Ia suka menari dan melakukan lip-sync pada lagi hip-hop terbaru.

Unice yang berusia 18 tahun menggunakan platform tersebut untuk meningkatkan kesadaran orang terhadap masalah dalam komunitasnya.

"Semakin saya viral, semakin banyak kesempatan untuk menunjukkan pada generasi muda dan perempuan kulit berwarna bahwa saya bangga dengan warna kulit saya," katanya.

Namun, belakangan ini, ia menyadari videonya sering tidak muncul di halaman utama TikTok. Tidak ada yang melihatnya. Fenomena ini disebut TikTok sebagai "shadow banning", yang merupakan cerminan bias algoritma.

"Biasanya 'shadow bans' terjadi pada orang yang bersuara tentang beberapa hal, seperti rasisme ... saya rasa mereka lebih suka melihat perempuan berkulit putih menari, dan lain-lain."