Kecerdasan Buatan Mendefinisikan Perempuan yang Cantik, tetapi Malah Memicu Masalah

"Ini lebih yang dipikirkan setiap pria ketika mereka tergila-gila dengan perempuan berkulit coklat," ujarnya.

“Seringkali, platform AI ini dibuat oleh para laki-laki, yang sebagian besar coding-nya dimasukkan ke dalam algoritma dari penggunaan internet yang terpaku pada penggunaan di negara Barat.”

Ia mengatakan orang-orang seringkali menyangka dirinya adalah orang Spanyol, Meksiko, Maroko, atau dari negara Amerika Latin.

"Mengapa berasumsi soal etnis saya? Apa manfaatnya dengan pertanyaan seperti itu?" katanya.

"Saya hanya memberi tahu latar belakang ras saya jika merasa itu relevan dengan percakapan."

Seperti kebanyakan perempuan Asia Selatan di Australia, ia mengubah penampilannya dengan mewarnai rambutnya menjadi pirang dan menjadikan kulitnya lebih cokelat dengan berjemur.

"Tapi kalau saya akan pergi ke India, saya gunakan krim pemutih," ujarnya.

Bahaya bias rasial dalam kecerdasan buatan

Para pakar dan aktivis memperingatkan kalau kumpulan data yang digunakan untuk melatih model AI bersifat bias.