Skip to content

Perangkat lunak pendeteksi emosi AI diuji pada Uighur

📅 May 27, 2021

⏱️5 min read

`

`

Sebuah sistem kamera yang menggunakan AI dan pengenalan wajah yang dimaksudkan untuk mengungkapkan keadaan emosi telah diuji pada Uighur di Xinjiang,.

Sebuah gerbang dari apa yang secara resmi dikenal sebagai "pusat pendidikan keterampilan kejuruan" di XinjiangHAK CIPTA GAMBARREUTERS keterangan gambar Sebuah gerbang dari apa yang secara resmi dikenal sebagai "pusat pendidikan keterampilan kejuruan" di Xinjiang

Seorang insinyur perangkat lunak mengklaim telah memasang sistem seperti itu di kantor polisi di provinsi tersebut.

Seorang pembela hak asasi manusia yang diperlihatkan bukti menggambarkannya sebagai hal yang mengejutkan.

Kedutaan China di London belum menanggapi secara langsung klaim tersebut tetapi mengatakan hak politik dan sosial di semua kelompok etnis dijamin.

Xinjiang adalah rumah bagi 12 juta etnis minoritas Uighur, yang sebagian besar beragama Islam.

Warga di provinsi ini diawasi setiap hari. Daerah ini juga menjadi rumah bagi "pusat pendidikan ulang" yang sangat kontroversial, yang disebut kamp penahanan dengan keamanan tinggi oleh kelompok hak asasi manusia, di mana diperkirakan lebih dari satu juta orang telah ditahan.

Beijing selalu berpendapat bahwa pengawasan diperlukan di wilayah tersebut karena dikatakan separatis yang ingin mendirikan negara mereka sendiri telah membunuh ratusan orang dalam serangan teror.

Kota di XinjiangHAK CIPTA GAMBARGETTY IMAGES keterangan gambar Xinjiang diyakini sebagai salah satu daerah yang paling banyak diawasi di dunia

Insinyur perangkat lunak setuju untuk berbicara dengan program Panorama BBC tanpa menyebut nama, karena dia khawatir akan keselamatannya. Perusahaan tempat dia bekerja juga tidak diungkapkan.

Tapi dia menunjukkan Panorama lima foto tahanan Uighur yang dia klaim telah diuji sistem pengenalan emosi pada mereka.

Pie chart

keterangan gambar Data dari sistem dimaksudkan untuk menunjukkan keadaan pikiran seseorang, dengan warna merah menunjukkan keadaan pikiran yang negatif atau cemas

"Pemerintah China menggunakan Uyghur sebagai subjek uji untuk berbagai eksperimen seperti tikus yang digunakan di laboratorium," katanya.

Dan dia menjelaskan perannya dalam memasang kamera di kantor polisi di provinsi tersebut: "Kami menempatkan kamera pendeteksi emosi 3m dari subjek. Ini mirip dengan pendeteksi kebohongan tetapi teknologi yang jauh lebih maju."

Dia mengatakan petugas menggunakan "kursi penahan" yang banyak dipasang di kantor polisi di seluruh China.

"Pergelangan tangan Anda terkunci di tempatnya dengan pengekang logam, dan [hal] yang sama berlaku untuk pergelangan kaki Anda."

Dia memberikan bukti tentang bagaimana sistem AI dilatih untuk mendeteksi dan menganalisis perubahan kecil pada ekspresi wajah dan pori-pori kulit.

Menurut klaimnya, perangkat lunak tersebut membuat diagram lingkaran, dengan segmen merah mewakili keadaan pikiran yang negatif atau cemas.

Dia mengklaim perangkat lunak itu dimaksudkan untuk "pra-penilaian tanpa bukti yang dapat dipercaya".

Kedutaan Besar China di London tidak menanggapi pertanyaan tentang penggunaan perangkat lunak pengenalan emosi di provinsi tersebut tetapi mengatakan: "Hak-hak politik, ekonomi, dan sosial serta kebebasan berkeyakinan beragama di semua kelompok etnis di Xinjiang dijamin sepenuhnya.

"Orang-orang hidup dalam harmoni tanpa memandang latar belakang etnis mereka dan menikmati kehidupan yang stabil dan damai tanpa batasan kebebasan pribadi."

Buktinya diperlihatkan kepada Sophie Richardson, direktur Human Rights Watch China.

"Ini adalah materi yang mengejutkan. Bukan hanya orang-orang yang direduksi menjadi diagram lingkaran, tetapi orang-orang yang berada dalam keadaan yang sangat memaksa, di bawah tekanan yang sangat besar, merasa gugup dan itu dianggap sebagai indikasi rasa bersalah, dan saya pikir, itu sangat dalam. bermasalah."

`

`

Perilaku mencurigakan

Menurut Darren Byler, dari Universitas Colorado, orang Uighur secara rutin harus memberikan sampel DNA kepada pejabat lokal, menjalani pemindaian digital, dan sebagian besar harus mengunduh aplikasi telepon pemerintah, yang mengumpulkan data termasuk daftar kontak dan pesan teks.

"Kehidupan Uyghur sekarang tentang menghasilkan data," katanya.

"Semua orang tahu bahwa smartphone adalah sesuatu yang harus Anda bawa, dan jika Anda tidak membawanya, Anda dapat ditahan, mereka tahu bahwa Anda sedang dilacak olehnya. Dan mereka merasa seperti tidak ada jalan keluar," katanya. .

Sebagian besar data dimasukkan ke dalam sistem komputer yang disebut Platform Operasi Bersama Terpadu, yang menurut Human Rights Watch menandai perilaku yang diduga mencurigakan.

"Sistem ini mengumpulkan informasi tentang lusinan jenis perilaku legal yang berbeda termasuk hal-hal seperti apakah orang keluar dari pintu belakang dan bukan dari pintu depan, apakah mereka memasukkan bensin ke dalam mobil yang bukan milik mereka," kata Ms Richardson.

"Pihak berwenang sekarang menempatkan kode QR di luar pintu rumah orang sehingga mereka dapat dengan mudah mengetahui siapa yang seharusnya berada di sana dan siapa yang tidak."

Orwellian?

Telah lama ada perdebatan tentang seberapa erat perusahaan teknologi China dengan negara. Kelompok riset IPVM yang berbasis di AS mengklaim telah menemukan bukti dalam paten yang diajukan oleh perusahaan yang menyarankan produk pengenalan wajah dirancang khusus untuk mengidentifikasi orang Uyghur.

Paten yang diajukan pada Juli 2018 oleh Huawei dan China Academy of Sciences menggambarkan produk pengenalan wajah yang mampu mengidentifikasi orang berdasarkan etnis mereka.

Sebagai tanggapan, Huawei mengatakan bahwa pihaknya "tidak membenarkan penggunaan teknologi untuk mendiskriminasi atau menindas anggota komunitas mana pun" dan bahwa itu "independen dari pemerintah" di mana pun ia beroperasi.

Grup tersebut juga menemukan dokumen yang menunjukkan bahwa perusahaan tersebut mengembangkan teknologi untuk apa yang disebut sistem Satu Orang, Satu File.

"Untuk setiap orang, pemerintah akan menyimpan informasi pribadi mereka, kegiatan politik mereka, hubungan ... apa pun yang mungkin memberi Anda wawasan tentang bagaimana orang itu akan berperilaku dan jenis ancaman yang mungkin mereka tunjukkan," kata Conor Healy dari IPVM.

Kamera HikvisionHAK CIPTA GAMBARVCG keterangan gambar Hikvision membuat berbagai produk termasuk kamera

"Itu membuat segala jenis pembangkangan berpotensi menjadi tidak mungkin dan menciptakan prediktabilitas yang sebenarnya bagi pemerintah dalam perilaku warganya. Saya tidak berpikir bahwa [George] Orwell akan pernah membayangkan bahwa pemerintah dapat mampu melakukan analisis semacam ini."

Huawei tidak secara khusus menjawab pertanyaan tentang keterlibatannya dalam mengembangkan teknologi untuk One Person, One File system, tetapi mengatakan: "Huawei menentang diskriminasi dari semua jenis, termasuk penggunaan teknologi untuk melakukan diskriminasi etnis.

"Sebagai perusahaan swasta, Huawei tidak bergantung pada pemerintah di mana pun kami beroperasi. Kami tidak membenarkan penggunaan teknologi untuk mendiskriminasi atau menindas anggota komunitas mana pun."

Kedutaan Besar China di London mengatakan "tidak mengetahui" program-program ini.

IPVM juga mengklaim telah menemukan materi pemasaran dari perusahaan China Hikvision yang mengiklankan kamera AI pendeteksi Uyghur, dan paten untuk perangkat lunak yang dikembangkan oleh Dahua, raksasa teknologi lain, yang juga dapat mengidentifikasi orang Uyghur.

Dahua mengatakan patennya merujuk pada 56 etnis yang diakui di China dan tidak dengan sengaja menargetkan salah satu dari mereka.

Ia menambahkan bahwa mereka menyediakan "produk dan layanan yang bertujuan untuk membantu orang-orang tetap aman" dan mematuhi "hukum dan peraturan di setiap pasar" di mana ia beroperasi, termasuk Inggris.

Hikvision mengatakan rincian di situsnya salah dan "diunggah secara online tanpa tinjauan yang sesuai", menambahkan bahwa ia tidak menjual atau memiliki "fungsi pengenalan minoritas atau teknologi analitik" dalam rangkaian produknya.

Dr Lan Xue, ketua Komite Nasional China untuk tata kelola AI, mengatakan dia tidak mengetahui hak paten tersebut.

"Di luar China ada banyak tuduhan semacam itu. Banyak yang tidak akurat dan tidak benar," katanya kepada BBC.

"Saya pikir pemerintah lokal Xinjiang memiliki tanggung jawab untuk benar-benar melindungi orang-orang Xinjiang ... jika teknologi digunakan dalam konteks itu, itu cukup bisa dimengerti," katanya.

Kedutaan besar Inggris di China memiliki pertahanan yang lebih kuat, mengatakan kepada BBC: "Tidak ada yang disebut teknologi pengenalan wajah yang menampilkan analitik Uyghur sama sekali."

`

`

Pengawasan harian

Hu Liu di jalan di Chongqing

keterangan gambar Hu Liu merasa hidupnya di bawah pengawasan konstan

China diperkirakan menjadi rumah bagi setengah dari hampir 800 juta kamera pengintai di dunia.

Ia juga memiliki sejumlah besar kota pintar, seperti Chongqing, tempat AI dibangun menjadi fondasi lingkungan perkotaan.

Jurnalis investigasi yang berbasis di Chongqing, Hu Liu, memberi tahu Panorama tentang pengalamannya sendiri: "Begitu Anda meninggalkan rumah dan masuk ke lift, Anda ditangkap oleh kamera. Ada kamera di mana-mana."

“Ketika saya meninggalkan rumah untuk pergi ke suatu tempat, saya memanggil taksi, perusahaan taksi mengunggah data ke pemerintah. Saya kemudian dapat pergi ke kafe untuk bertemu beberapa teman dan pihak berwenang mengetahui lokasi saya melalui kamera di kafe.

"Ada saat-saat ketika saya bertemu dengan beberapa teman dan segera setelah seseorang dari pemerintah menghubungi saya. Mereka memperingatkan saya, 'Jangan lihat orang itu, jangan lakukan ini dan itu.'

"Dengan kecerdasan buatan kami tidak punya tempat untuk bersembunyi," katanya.

`

`
← PrevNext →
  • Powered by Daily Planet News