Skip to content

Twitter menyelidiki bias rasial dalam pratinjau gambar

📅 September 22, 2020

⏱️2 min read

Twitter sedang menyelidiki setelah pengguna menemukan algoritme pemangkasan gambarnya terkadang lebih menyukai wajah putih daripada hitam. Pengguna memperhatikan ketika dua foto - satu wajah hitam dan satu lagi putih - berada di pos yang sama, Twitter sering hanya menampilkan wajah putih di ponsel.

Layar terbagi menampilkan Mitch McConnell, kiri, dan Barack Obama, kanan, dengan logo Twitter di antara merekaHAK CIPTA GAMBARPEMERINTAH AS

keterangan gambarSeorang pengguna menemukan bahwa Twitter tampaknya lebih suka menampilkan wajah Mitch McConnell daripada Barack Obama

Twitter mengatakan telah menguji bias rasial dan gender selama pengembangan algoritme. Tetapi ia menambahkan: "Jelas bahwa kami memiliki lebih banyak analisis yang harus dilakukan."

Sebuah tweet dari @TwitterComms berbunyi: Kami menguji bias sebelum mengirimkan model & tidak menemukan bukti bias rasial atau gender dalam pengujian kami.  Tetapi jelas bahwa kami memiliki lebih banyak analisis yang harus dilakukan.  Kami akan terus membagikan apa yang kami pelajari, tindakan apa yang kami ambil, & akan menjadi sumber terbuka sehingga orang lain dapat meninjau dan mereplikasi.HAK CIPTA GAMBARINDONESIA

Kepala bagian teknologi Twitter, Parag Agrawal, tweeted: "Kami melakukan analisis pada model kami ketika kami mengirimkannya - tetapi [itu] perlu perbaikan terus-menerus. "Cintai publik ini, tes terbuka, dan ketat - dan ingin belajar dari ini."

Rambut wajah

Kontroversi terbaru dimulai ketika manajer universitas Colin Madland, dari Vancouver, sedang memecahkan masalah hilangnya kepala kolega saat menggunakan aplikasi konferensi video Zoom. Perangkat lunak tersebut tampaknya secara keliru mengidentifikasi kepala pria kulit hitam itu sebagai bagian dari latar belakang dan menghapusnya.

Tetapi ketika Madland memposting tentang topik tersebut di Twitter, dia menemukan wajahnya - dan bukan rekannya - secara konsisten dipilih sebagai pratinjau di aplikasi seluler, bahkan jika dia membalik urutan gambar.

Penemuannya mendorong serangkaian eksperimen lain oleh pengguna, yang, misalnya, menyarankan:

  • Wajah pemimpin mayoritas Senat AS berkulit putih, Mitch McConnell, lebih disukai daripada wajah mantan Presiden AS Barack Obama yang berkulit hitam
  • foto stok pria kulit putih berjas lebih disukai daripada pria berkulit hitam

Kepala desain Twitter, Dantley Davis, menemukan bahwa mengedit rambut wajah dan kacamata Madland tampaknya memperbaiki masalah - "karena kontras dengan kulitnya".

Kicauan dari @Dantley berbunyi: Saya tahu Anda merasa senang mencelupkan saya ke saya, tetapi saya sama jengkelnya dengan orang lain.  Namun, saya dalam posisi untuk memperbaikinya dan saya akan melakukannya.HAK CIPTA GAMBARINDONESIA

Menanggapi kritik, dia tweeted: "Saya tahu Anda berpikir itu menyenangkan untuk mencelupkan pada saya - tapi saya jengkel tentang ini seperti orang lain. Namun, saya dalam posisi untuk memperbaikinya dan saya akan melakukannya. "Ini 100% salah kami. Tidak ada yang boleh mengatakan sebaliknya."

'Banyak pertanyaan'

Zehan Wang, pemimpin teknik penelitian dan salah satu pendiri perusahaan jaringan saraf Magic Pony, yang telah diakuisisi oleh Twitter, mengatakan pengujian algoritme pada 2017, menggunakan pasangan wajah yang berasal dari etnis berbeda, tidak menemukan "tidak ada bias yang signifikan antara etnis (atau jenis kelamin) "- tetapi Twitter sekarang akan meninjau penelitian itu. "Ada banyak pertanyaan yang perlu waktu untuk digali," katanya. Rincian lebih lanjut akan dibagikan setelah tim internal memiliki kesempatan untuk melihatnya.

Akhir tahun lalu, sebuah studi pemerintah AS menyarankan algoritma pengenalan wajah jauh lebih akurat dalam mengidentifikasi wajah kulit hitam dan Asia daripada wajah kulit putih. Di Inggris, petugas polisi tahun lalu menyuarakan keprihatinan tentang algoritme yang "memperkuat" prasangka dan menyerukan pedoman yang lebih jelas tentang penggunaan teknologi. Dan, pada bulan Juni tahun ini, kekhawatiran serupa membuat IBM mengumumkan tidak akan lagi menawarkan perangkat lunak pengenalan wajah untuk "pengawasan massal atau profil rasial".

← PrevNext →
  • Powered by Daily Planet News