Koran Facebook tentang berita palsu, ujaran kebencian: pemerintah mengerjakan laporan

“Jika perlu, kami memanggil eksekutif mereka untuk menjelaskan bagaimana algoritme mereka bekerja dan langkah-langkah apa yang telah mereka ambil sejauh ini untuk memerangi informasi yang salah dan ujaran kebencian. Untuk saat ini, kami perlu mempelajari (pengungkapan yang dibuat oleh Haugen),” kata sumber tersebut.

Laporan tersebut diharapkan akan diproduksi dan diselesaikan akhir pekan ini dan mencakup rincian seperti bagaimana Facebook gagal meninjau penyebaran informasi yang salah dan ujaran kebencian di platformnya di India, terutama karena tidak memiliki alat yang tepat untuk melaporkan konten atau memantaunya. Hindi dan Bengali.

Menurut sumber tersebut, temuan peneliti Facebook di Kerala dari akun pengguna yang dibuat sendiri, di mana beberapa kasus ujaran kebencian dan informasi yang salah ditemukan berdasarkan rekomendasi algoritme platform, juga harus mengalir ke dalam laporan.

Dalam pengaduannya kepada Komisi Sekuritas dan Pertukaran AS, Haugen menyatakan bahwa meskipun ada kesadaran bahwa “pengguna RSS, grup, dan situs mempromosikan narasi anti-Muslim yang menakutkan”, Facebook tidak dapat mengambil tindakan apa pun atau melaporkan konten ini, mengingat “kurangnya Pengklasifikasi Hindi dan Bengali ”.

Mengutip dokumen internal Facebook yang tidak bertanggal berjudul “Studi Kasus Jaringan Berbahaya yang Bermusuhan-India,” pengaduan yang diajukan ke SEC AS atas nama Haugen oleh kelompok hukum nirlaba Whistleblower Aid menyatakan, “Ada sejumlah kontribusi yang tidak manusiawi (melalui) Muslim . .. Kurangnya pengklasifikasi bahasa Hindi dan Bengali kami berarti sebagian besar konten ini tidak akan pernah ditandai atau diambil tindakan, dan kami belum mengajukan nominasi untuk menamai grup ini (RSS) karena kepekaan politik.”

Selain pengungkapan Haugen tentang dugaan kelambanan Facebook dalam menyebarkan ujaran kebencian dan informasi yang salah di India, New York Times melaporkan bahwa karyawan perusahaan itu sendiri bergulat dengan dampak platform pada pengguna di India, terutama menjelang pemilihan umum 2019.

Menanggapi pertanyaan dari The Indian Express, Facebook menyatakan bahwa perusahaan telah melakukan “analisis yang lebih dalam dan lebih menyeluruh” dari sistem rekomendasinya di India berdasarkan rekomendasi algoritmik ke akun pengguna uji yang dibuatnya.

“Eksplorasi akun uji hipotetis ini mengilhami analisis yang lebih dalam dan menyeluruh dari sistem rekomendasi kami dan berkontribusi pada perubahan produk untuk meningkatkannya. Perubahan produk karena kemudian, penelitian yang lebih ketat termasuk hal-hal seperti menghapus konten batas dan kelompok sipil dan politik dari sistem rekomendasi kami, ”kata juru bicara Facebook.

The New York Times dilaporkan bahwa laporan peneliti Facebook adalah “salah satu dari lusinan studi dan memo yang ditulis oleh karyawan Facebook yang meneliti dampak platform di India.”

“Mereka mendukung salah satu kritik paling serius terhadap korporasi global oleh aktivis hak asasi manusia dan politisi: Ia bergerak ke sebuah negara tanpa sepenuhnya memahami kemungkinan dampaknya terhadap budaya dan politik lokal, dan tidak menggunakan sumber daya untuk bereaksi terhadap masalah secepat mungkin. kemungkinan itu terjadi, ”kata laporan itu.