Askara Indrayana

Sahabat Brainy,

Pernahkah kalian melihat orang Asia dengan teman berkulit putih? Pasti hal yang biasa bagi sebagian besar orang. Tapi, AI dari Meta tampaknya tak bisa membayangkan hal ini.

Saat dicoba membuat gambar menggunakan perintah seperti "Pria Asia dan teman Kaukasia", "Wanita Asia dan istri kulit putih", dan "Wanita Asia dan suami Kaukasia", yang dihasilkan AI hanyalah gambar dua orang Asia.

Tak hanya itu, saat perintah diubah menjadi "Wanita Asia dan teman kulit hitam", yang muncul tetaplah gambar dua orang Asia. Baru saat perintah diganti menjadi "Wanita Asia dan teman Afrika-Amerika", AI berhasil memberikan hasil yang akurat.

Menariknya, AI ini justru bisa membuat gambar yang tepat saat diminta "Pria Asia Selatan dengan istri Kaukasia". Namun, tak lama kemudian, AI kembali membuat gambar dua orang Asia Selatan saat perintah yang sama digunakan.

Gambar yang dibuat sistem ini juga sarat akan stereotip, seperti menambahkan elemen menyerupai bindi dan sari pada wanita Asia Selatan yang dibuat tanpa perintah.

Gambar: Wanita Asia dengan teman kulit hitam menghasilkan gambar dua orang Asia

Sistem AI ini juga tampak lebih baik dalam menghasilkan gambar saat diminta menggambarkan orang Asia Selatan. AI berhasil membuat gambar menggunakan perintah "Pria Asia Selatan dengan istri Kaukasia" - sebelum langsung membuat gambar dua orang Asia Selatan menggunakan perintah yang sama. Sistem ini juga sangat bergantung pada stereotip, seperti menambahkan elemen yang menyerupai bindi dan sari ke wanita Asia Selatan yang dibuat tanpa diminta.

Sobat Brainy, bias dalam sistem AI tak hanya tercermin pada ras. AI ini juga selalu menggambarkan "wanita Asia" sebagai wanita Asia Timur dengan kulit cerah, meskipun India adalah negara terpadat di dunia. AI bahkan menambahkan pakaian budaya tertentu meskipun tidak diminta. AI menghasilkan beberapa pria Asia yang lebih tua, tetapi wanita Asia selalu digambarkan muda.

Satu-satunya gambar yang berhasil dibuat menggunakan perintah "Wanita Asia dengan suami Kaukasia" menampilkan pria yang jauh lebih tua dengan wanita Asia muda berkulit cerah - aneh karena perintahnya tidak menyebutkan perbedaan usia. Tak lama setelah itu, saat perintah yang sama digunakan, AI kembali menampilkan pria Asia (juga lebih tua) dengan wanita Asia.

Sayangnya, Meta belum memberikan tanggapan atas permintaan komentar.

Alat pembuat gambar AI Meta diperkenalkan tahun lalu, dan alat pembuat stikernya langsung bermasalah karena orang-orang membuat gambar seperti gambar telanjang dan karakter Nintendo dengan senjata.

Sistem AI mencerminkan bias pencipta, pelatih, dan kumpulan data yang mereka gunakan. Di media AS, "Asia" biasanya mengacu pada orang Asia Timur, bukan orang dari bagian lain di benua itu - mungkin tidak mengejutkan jika sistem Meta menganggap semua orang "Asia" terlihat sama, padahal kami adalah kumpulan orang yang beragam yang sering kali tidak memiliki banyak kesamaan selain mencentang kotak sensus yang sama.

Orang Asia yang tidak sesuai dengan cetakan pada dasarnya terhapus dari kesadaran budaya, dan bahkan mereka yang sesuai kurang terwakili di media arus utama. Orang Asia dihomogenisasi, dibuat eksotis, dan diturunkan menjadi "orang asing yang abadi." Melanggar stereotip ini mudah di kehidupan nyata, tetapi tidak mungkin dilakukan di sistem AI Meta. Sekali lagi, AI generatif, bukannya membiarkan imajinasi berkembang, justru memenjarakannya dalam formalisasi impuls masyarakat yang lebih bodoh.

Login untuk menambahkan komentar
Klik tombol Google dibawah ini untuk masuk sebagai user

Tambahkan Komentar

Kamu mungkin juga suka