Skip to content

Terungkap: celah Facebook yang memungkinkan para pemimpin dunia menipu dan melecehkan warganya

📅 April 13, 2021

⏱️8 min read

Facebook telah berulang kali mengizinkan para pemimpin dunia dan politisi untuk menggunakan platformnya untuk menipu publik atau melecehkan lawannya meskipun telah diperingatkan akan bukti kesalahannya.

kolase gambar politik, termasuk Juan Orlando Hernández

Ilustrasi: Erre Gálvez

Investigasi menunjukkan bagaimana Facebook telah mengizinkan penyalahgunaan besar atas platformnya di negara-negara miskin, kecil dan non-barat untuk memprioritaskan penanganan pelanggaran yang menarik perhatian media atau mempengaruhi AS dan negara-negara kaya lainnya. Perusahaan bertindak cepat untuk mengatasi manipulasi politik yang memengaruhi negara-negara seperti AS, Taiwan, Korea Selatan, dan Polandia, sementara bergerak lambat atau tidak sama sekali pada kasus-kasus di Afghanistan, Irak, Mongolia, Meksiko, dan sebagian besar Amerika Latin.

"Ada banyak kerugian yang dilakukan di Facebook yang tidak ditanggapi karena dianggap tidak cukup sebagai risiko PR untuk Facebook," kata Sophie Zhang, mantan ilmuwan data di Facebook yang bekerja dalam organisasi "integritas" perusahaan. untuk memerangi perilaku tidak autentik. “Biaya tidak ditanggung oleh Facebook. Ini ditanggung oleh dunia yang lebih luas secara keseluruhan. "

Facebook berjanji untuk memerangi manipulasi politik yang didukung negara atas platformnya setelah kegagalan bersejarah pemilu AS 2016, ketika agen Rusia menggunakan akun Facebook yang tidak autentik untuk menipu dan memecah belah pemilih Amerika.

Tetapi perusahaan telah berulang kali gagal mengambil tindakan tepat waktu ketika dihadapkan dengan bukti manipulasi yang merajalela dan penyalahgunaan alat oleh para pemimpin politik di seluruh dunia.

Facebook memecat Zhang karena kinerjanya yang buruk pada September 2020. Pada hari terakhirnya, dia menerbitkan memo perpisahan sepanjang 7.800 kata yang menggambarkan bagaimana dia telah "menemukan banyak upaya terang-terangan oleh pemerintah nasional asing untuk menyalahgunakan platform kami dalam skala besar untuk menyesatkan warga negara mereka sendiri" dan mencela perusahaan karena gagal menangani pelanggaran tersebut. "Saya tahu tangan saya berlumuran darah sekarang," tulisnya. Berita memo pertama kali dilaporkan pada bulan September oleh BuzzFeed News.

Zhang sekarang maju dengan harapan bahwa pengungkapannya akan memaksa Facebook untuk memperhitungkan dampaknya di seluruh dunia.

“Facebook tidak memiliki insentif yang kuat untuk menangani ini, kecuali ketakutan bahwa seseorang mungkin membocorkannya dan membuat keributan besar, itulah yang saya lakukan,” katanya kepada Guardian. “Inti dari aktivitas tidak autentik tidak dapat ditemukan. Anda tidak dapat memperbaiki sesuatu kecuali Anda tahu bahwa itu ada. ”

Liz Bourgeois, juru bicara Facebook, berkata: “Kami pada dasarnya tidak setuju dengan karakterisasi Zhang tentang prioritas kami dan upaya untuk membasmi penyalahgunaan di platform kami.

“Kami secara agresif mengejar pelecehan di seluruh dunia dan memiliki tim khusus yang berfokus pada pekerjaan ini. Akibatnya, kami telah menghapus lebih dari 100 jaringan perilaku tidak autentik terkoordinasi. Sekitar setengahnya adalah jaringan domestik yang beroperasi di negara-negara di seluruh dunia, termasuk di Amerika Latin, Timur Tengah, dan Afrika Utara, serta di kawasan Asia Pasifik. Memerangi perilaku tidak autentik yang terkoordinasi adalah prioritas kami. Kami juga menangani masalah spam dan keterlibatan palsu. Kami menyelidiki setiap masalah sebelum mengambil tindakan atau membuat klaim publik tentangnya. "

Facebook tidak membantah pernyataan faktual Zhang tentang waktunya di perusahaan.

Sophie Zhang adalah ilmuwan data Facebook yang melaporkan penyalahgunaan platform oleh para pemimpin politik.  Dia dipecat pada September 2020.

Sophie Zhang adalah ilmuwan data Facebook yang melaporkan penyalahgunaan platform oleh para pemimpin politik. Foto: Jason Henry

Dengan 2,8 miliar pengguna, Facebook memainkan peran dominan dalam wacana politik hampir di setiap negara di dunia. Tetapi algoritme dan fitur platform dapat dimanipulasi untuk mendistorsi debat politik.

Salah satu cara untuk melakukannya adalah dengan membuat "keterlibatan" palsu - suka, komentar, bagikan, dan reaksi - menggunakan akun Facebook yang tidak autentik atau disusupi. Selain membentuk persepsi publik tentang popularitas seorang pemimpin politik, keterlibatan palsu dapat memengaruhi algoritme umpan berita Facebook yang sangat penting. Berhasil memainkan algoritme dapat membuat perbedaan antara menjangkau jutaan penonton - atau berteriak ke arah angin.

Zhang dipekerjakan oleh Facebook pada Januari 2018 untuk bekerja dalam tim yang didedikasikan untuk membasmi pengguna palsu. Dia menemukan bahwa sebagian besar dari keterlibatan palsu muncul di posting oleh individu, bisnis atau merek, tetapi itu juga digunakan pada apa yang disebut Facebook sebagai "sipil" - yaitu target politik -.

Contoh paling mencolok adalah Juan Orlando Hernández, presiden Honduras, yang pada Agustus 2018 menerima 90% dari semua ketrlibatan palsu sipil yang diketahui di negara kecil Amerika Tengah itu. Pada Agustus 2018, Zhang menemukan bukti bahwa staf Hernández terlibat langsung dalam kampanye untuk meningkatkan konten di halamannya dengan ratusan ribu suka palsu.

Salah satu administrator Halaman Facebook resmi Hernández juga mengelola ratusan Halaman lain yang telah diatur agar menyerupai profil pengguna. Staf tersebut menggunakan Halaman tiruan untuk mengirimkan suka palsu ke kiriman Hernández, padanan digital dari berdesak-desakan di kerumunan palsu untuk berpidato.

Metode memperoleh keterlibatan palsu ini, yang disebut Zhang "penyalahgunaan Halaman", dimungkinkan oleh celah dalam kebijakan Facebook. Perusahaan mengharuskan akun pengguna untuk menjadi asli dan melarang pengguna memiliki lebih dari satu, tetapi tidak memiliki aturan yang sebanding untuk Halaman, yang dapat melakukan banyak keterlibatan yang sama dengan akun, termasuk menyukai, berbagi, dan mengomentari.

Celah tersebut tetap terbuka karena kurangnya penegakan hukum, dan tampaknya saat ini digunakan oleh partai yang berkuasa di Azerbaijan untuk meninggalkan jutaan komentar yang melecehkan di Halaman Facebook outlet berita independen dan politisi oposisi Azerbaijan.

img

img

img

img

img

Bagaimana cara kerja keterlibatan palsu?

Ini adalah kiriman Facebook di halaman berita Azerbaijan Azad Soz .

Ini tentang aktivis yang dihukum 8 bulan penjara karena menulis hal-hal kritis tentang politisi Azerbaijan.

Lebih dari seribu orang mengomentari postingan itu - kebanyakan mendukung pemerintah Azerbaijan. Namun jika digali lebih jauh, ternyata ada yang mencurigakan. Komentar teratas berasal dari seseorang bernama Zeyneb Babayeva .

Jika kami mengklik profilnya, kami melihat bahwa ini bukan akun pengguna.

Ini Halaman Facebook untuk kedai kopi . Dan itu dibuat kurang dari dua minggu sebelum mereka mengomentari postingan ini.

Facebook memiliki aturan bahwa setiap orang hanya boleh memiliki satu akun . Tapi Halaman ini memanfaatkan celah. Seorang pengguna dapat dengan mudah membuat banyak Halaman seperti ini, menyamar sebagai orang yang berbeda. Dan Halaman ini dapat melakukan apa yang dapat dilakukan akun biasa: berkomentar, berbagi, dan bereaksi .

Berikut adalah 301 komentar teratas di posting ini. Berapa banyak dari mereka yang berasal dari Halaman yang diatur agar terlihat seperti akun pengguna?

Hampir semuanya adalah Halaman yang menyamar sebagai manusia - 294 dari 301 . Setengah dari Halaman berumur kurang dari satu bulan ketika diposting di sini; semua Halaman berumur kurang dari satu tahun.

Facebook dapat membentuk persepsi kita tentang opini publik - dan kenyataan. Tapi apa yang kami lihat di posting ini, dan banyak lainnya, adalah fatamorgana.

Penyalahgunaan halaman terkait dengan apa yang dilakukan Badan Riset Internet Rusia selama pemilu AS 2016, ketika membuat akun Facebook yang dimaksudkan untuk mewakili orang Amerika dan menggunakannya untuk memanipulasi individu dan memengaruhi perdebatan politik. Facebook menyebut ini " perilaku tidak autentik terkoordinasi " (CIB) dan menugaskan tim penyelidik elit, yang dikenal sebagai intelijen ancaman, dengan mengungkap dan menghapusnya. Facebook sekarang mengungkapkan kampanye CIB yang ditemukannya dalam laporan bulanan , sambil menghapus akun dan Halaman palsu.

Tetapi intelijen ancaman - dan banyak manajer dan eksekutif Facebook - menolak menyelidiki kasus penyalahgunaan Halaman Honduras dan Azerbaijan, meskipun bukti dalam kedua kasus tersebut mengaitkan pelecehan tersebut dengan pemerintah nasional. Di antara para pemimpin perusahaan yang diberitahu Zhang tentang temuannya adalah Guy Rosen, wakil presiden integritas; Katie Harbath, mantan direktur kebijakan publik untuk pemilihan global; Samidh Chakrabarti, kepala integritas sipil saat itu; dan David Agranovich, pemimpin gangguan ancaman global.

Kasus-kasus tersebut sangat memprihatinkan karena sifat dari para pemimpin politik yang terlibat. Hernández terpilih kembali pada tahun 2017 dalam kontes yang secara luas dianggap curang. Pemerintahannya diwarnai dengan tuduhan korupsi yang merajalela dan pelanggaran hak asasi manusia . Azerbaijan adalah negara otoriter tanpa kebebasan pers atau pemilihan bebas.

Hernández tidak menanggapi pertanyaan yang dikirim ke petugas pers, pengacara, dan menteri transparansi. Partai penguasa Azerbaijan tidak menanggapi pertanyaan.

Facebook membutuhkan waktu hampir setahun untuk menghapus jaringan Honduras , dan 14 bulan untuk menghapus kampanye Azerbaijan . Dalam kedua kasus tersebut, Facebook kemudian mengizinkan kembali pelecehan tersebut. Facebook mengatakan bahwa mereka menggunakan metode deteksi manual dan otomatis untuk memantau kasus penegakan CIB sebelumnya, dan "terus menerus" menghapus akun dan Halaman yang terhubung ke jaringan yang sebelumnya dihapus.

Penundaan yang lama sebagian besar disebabkan oleh sistem prioritas Facebook untuk melindungi wacana politik dan pemilu.

“Kami benar-benar mengalami ratusan atau ribuan jenis pelecehan (keamanan pekerjaan berdasarkan integritas eh!),” Kata Rosen kepada Zhang dalam obrolan April 2019 setelah dia mengeluh tentang kurangnya tindakan di Honduras. “Itulah mengapa kita harus mulai dari akhir (negara teratas, area prioritas utama, hal-hal yang mendorong prevalensi, dll) dan mencoba untuk menurunkannya.”

Zhang memberi tahu Rosen pada Desember 2019 bahwa dia telah diberi tahu bahwa intelijen ancaman hanya akan memprioritaskan penyelidikan yang dicurigai jaringan CIB di "AS / Eropa Barat dan musuh asing seperti Rusia / Iran / dll".

Rosen mendukung kerangka kerja tersebut, dengan mengatakan: "Saya pikir itu adalah prioritas yang tepat."

Zhang mengajukan lusinan eskalasi dalam sistem manajemen tugas Facebook untuk memperingatkan tim intelijen ancaman ke jaringan akun palsu atau Halaman yang mendistorsi wacana politik, termasuk di Albania, Meksiko, Argentina, Italia, Filipina, Afghanistan, Korea Selatan, Bolivia, Ekuador. , Irak, Tunisia, Turki, Taiwan, Paraguay, El Salvador, India, Republik Dominika, Indonesia, Ukraina, Polandia dan Mongolia.

Jaringan tersebut sering gagal memenuhi kriteria perubahan Facebook untuk diprioritaskan untuk penghapusan CIB, namun tetap melanggar kebijakan perusahaan dan seharusnya dihapus.

Dalam beberapa kasus yang diungkap Zhang, termasuk di Korea Selatan, Taiwan, Ukraina, Italia, dan Polandia, Facebook mengambil tindakan cepat, menghasilkan investigasi oleh staf dari intelijen ancaman dan, dalam banyak kasus, penghapusan akun yang tidak autentik.

Dalam kasus lain, Facebook menunda pengambilan tindakan selama berbulan-bulan. Ketika Zhang menemukan jaringan akun palsu yang membuat keterlibatan palsu berkualitas rendah dengan skrip pada politisi di Filipina pada Oktober 2019, Facebook membiarkannya merana. Tetapi ketika sebagian kecil dari jaringan itu mulai membuat jumlah keterlibatan palsu yang tidak signifikan di Halaman Donald Trump pada Februari 2020, perusahaan itu bergerak cepat untuk menghapusnya.

Dalam beberapa kasus, Facebook tidak mengambil tindakan apa pun.

Seorang penyelidik intelijen ancaman menemukan bukti bahwa jaringan Albania, yang menghasilkan komentar tidak autentik secara massal, terkait dengan individu di pemerintahan, kemudian membatalkan kasus tersebut.

Jaringan akun palsu Bolivia yang mendukung calon presiden menjelang pemilihan umum Oktober 2019 yang disengketakan di negara itu sepenuhnya diabaikan; hingga hari terakhir Zhang bekerja pada September 2020, jaringan tersebut terus beroperasi.

Jaringan di Tunisia dan Mongolia juga tidak diinvestigasi, meskipun terjadi pemilihan umum di Tunisia dan krisis konstitusional di Mongolia.

Di tengah protes massal dan krisis politik di Irak pada 2019, spesialis pasar Facebook untuk Irak meminta agar dua jaringan yang menurut Zhang diprioritaskan. Seorang penyelidik setuju bahwa akun tersebut harus dihapus, tetapi tidak ada yang pernah melakukan tindakan penegakan hukum, dan pada hari terakhir Zhang, dia menemukan sekitar 1.700 akun palsu terus mendukung tokoh politik di negara tersebut.

Pada akhirnya, Zhang berpendapat bahwa Facebook terlalu enggan untuk menghukum politisi yang kuat, dan ketika itu benar-benar bertindak, konsekuensinya terlalu ringan.

“Misalkan hukuman ketika Anda berhasil merampok bank adalah alat perampokan bank Anda disita dan ada pemberitahuan publik di koran yang mengatakan, 'Kami menangkap orang ini merampok bank. Mereka seharusnya tidak melakukan itu, '”kata Zhang. “Pada dasarnya itulah yang terjadi di Facebook. Jadi yang terjadi adalah banyak presiden nasional telah mengambil keputusan bahwa risiko ini cukup bagi mereka untuk terlibat di dalamnya.

“Dalam analogi ini, uang sudah dikeluarkan. Itu tidak bisa ditarik kembali. "

← PrevNext →
  • Powered by Daily Planet News