Facebook setelah pria kulit hitam diberi label “primata”

Facebook mengatakan perangkat lunak rekomendasi telah diambil offline.

Facebook mengatakan Jumat bahwa mereka menonaktifkan fitur rekomendasi topik setelah mengira pria kulit hitam sebagai “primata” di video jejaring sosial.

Seorang juru bicara Facebook menyebutnya sebagai “bug yang jelas tidak dapat diterima” dan mengatakan perangkat lunak rekomendasi telah offline.

“Kami meminta maaf kepada semua orang yang telah melihat rekomendasi ofensif ini,” kata Facebook dalam menanggapi permintaan AFP.

“Kami mematikan semua fungsi rekomendasi topik segera setelah kami menentukan ini terjadi sehingga kami dapat menyelidiki penyebabnya dan mencegahnya terjadi lagi.”

Perangkat lunak pengenalan wajah telah diledakkan oleh aktivis hak-hak sipil yang menunjukkan masalah dengan akurasi, terutama di antara orang-orang yang tidak berkulit putih.

Pengguna Facebook yang telah menonton video tabloid Inggris dengan pria kulit hitam dalam beberapa hari terakhir telah melihat prompt yang dibuat secara otomatis menanyakan apakah mereka “ingin terus menonton video tentang primata,” menurut New York Times.

Video Juni 2020 yang dipermasalahkan, diterbitkan oleh Daily Mail, berjudul “Orang kulit putih memanggil polisi ke pria kulit hitam di marina”.

Sementara manusia adalah salah satu dari banyak spesies dalam keluarga primata, video itu tidak ada hubungannya dengan monyet, simpanse, atau gorila.

Tangkapan layar dari rekomendasi tersebut dibagikan di Twitter oleh mantan manajer desain konten Facebook Darci Groves.

“Permintaan untuk melihat lebih jauh ini tidak dapat diterima,” cuit Groves, yang menyampaikan pesan itu kepada mantan koleganya di Facebook.

“Itu mengerikan.”