Peneliti: Huawei Uji Pengenal Wajah Muslim Uighur dan Mengirim Peringatan ke Polisi

Cyberthreat.id - Raksasa teknologi China, Huawei, dikabarkan telah menguji perangkat lunak pengenal wajah yang dapat mengirim notifikasi "peringatan Uighur" secara otomatis ke otoritas pemerintah ketika sistem kameranya mengidentifikasi muslim Uighur.

Dilansir dari Washington Post, hal itu terungkap dalam sebuah dokumen yang ditandatangani oleh perwakilan Huawei bersama startup pengenalan wajah Megvii. Ditemukan oleh lembaga penelitian IPVM, dokumen itu menunjukkan kedua perusahaan telah bekerja sejak 2018 utuk mnguji sistem kamera kecerdasan buatan (artificial inteligence/AI) yang dapat memindai wajah di kerumunan dan memperkirakan usia, jenis kelamin, dan etnis setiap orang.

Jika sistem mendeteksi wajah anggota dari kelompok minoritas yang sebagian besar Muslim, laporan pengujian mengatakan, itu dapat memicu "peringatan Uighur" dan mengirimnya ke polisi di China.

Catatan Cyberthreat.id, China telah lama menghadapi kecaman internasional karena mendirikan kamp-kamp penahanan kaum minoritas Muslim di Xinjiang. Para kritikus menyebut kamp-kamp ini bertujuan untuk menghomogenkan penduduk Uighur untuk mencerminkan budaya Han mayoritas China.

Namun, China telah berulang kali membantah tempat itu dijadikan tempat penahanan. Menurut pemerintah China, tempat itu sebagai fasilitas pusat pendidikan kejuruan di mana peserta pelatihan mempelajari keterampilan kerja dan bahasa Mandarin untuk menjauhkan mereka dari ekstremisme.

Menurut Washington Post, dokumen kerjasama Huawei dengan Megvii itu awalnya ditemukan oleh peneliti IPVM di situs web Huawei, Namun, dokumen itu belakangan dihapus setelah pihak Washington Post dan IPVM meminta komentar perusahaan. Namun, dokumen itu masih tersedia di sini.

Tangkapan layar dokumen pengujian perangkat lunak pengenalan wajah Huawei dan Megvii | Cyberthreat.id/YAS

Menurut para aktivis hak asasi manusia, teknologi pengenalan wajah semacam itu dalam beberapa tahun terakhir banyak digunakan oleh kepolisian China. Namun dokumen tersebut memberi penjelasan baru tentang bagaimana Huawei, pembuat peralatan telekomunikasi terbesar di dunia, juga berkontribusi pada pengembangannya, menyediakan server, kamera, infrastruktur komputasi awan, dan alat lain yang mendukung teknologi mata-mata itu.

John Honovich, pendiri IPVM, sebuah perusahaan yang berbasis di Pennsylvania yang meninjau dan menyelidiki peralatan pengawasan video, mengatakan bahwa dokumen itu menunjukkan bagaimana teknologi diskriminatif seperti itu “menakutkan” dan “benar-benar normalisasi”.

“Ini bukan perusahaan yang terisolasi. Ini sistematis, ”kata Honovich. “Banyak pemikiran yang masuk untuk memastikan 'Alarm Uighur' ini berfungsi.”

Huawei dan Megvii telah mengumumkan tiga sistem pengawasan yang menggunakan teknologi kedua perusahaan dalam beberapa tahun terakhir. Namun, belum terkonfirmasi apakah sistem dengan "peringatan  Uighur" yang diuji pada tahun 2018 adalah salah satu dari tiga sistem yang saat ini dijual.

Kedua perusahaan telah mengakui bahwa dokumen itu asli. Tak lama setelah Washington Post mempublikasi cerita ini pada Selasa pagi, juru bicara Huawei Glenn Schloss mengatakan laporan itu “hanyalah sebuah tes dan belum diterapkan di dunia nyata. Huawei hanya memasok produk tujuan umum untuk pengujian semacam ini. Kami tidak menyediakan algoritme atau aplikasi khusus. ”

Juga setelah publikasi, juru bicara Megvii mengatakan sistem perusahaan tidak dirancang untuk menargetkan atau memberi label pada kelompok etnis.

Tangkapan layar dokumen pengujian perangkat lunak pengenalan wajah Huawei dan Megvii | Cyberthreat.id/YAS

Pejabat China mengatakan sistem seperti itu mencerminkan kemajuan teknologi negara, dan  penggunaannya yang diperluas dapat membantu menjaga keamanan orang. Tetapi bagi para pembela hak internasional, itu adalah tanda impian China akan kontrol sosial - cara untuk mengidentifikasi anggota masyarakat yang tidak menguntungkan dan menekan perbedaan pendapat publik.

Kementerian luar negeri China tidak segera menanggapi permintaan komentar dari Washington Post.

Peneliti kecerdasan buatan dan pendukung hak asasi manusia mengatakan mereka khawatir perkembangan teknologi dan normalisasi dapat menyebar ke seluruh dunia, karena otoritas pemerintah di tempat lain mendorong cara cepat dan otomatis untuk mendeteksi anggota kelompok etnis yang mereka anggap tidak diinginkan atau berbahaya untuk kontrol politik mereka.

Maya Wang, seorang peneliti senior China di kelompok advokasi Human Rights Watch, mengatakan negara itu semakin sering menggunakan pengawasan yang dibantu AI untuk memantau masyarakat umum dan menindas minoritas, pengunjuk rasa dan lainnya yang dianggap mengancam negara.

“Ambisi pengawasan Tiongkok melampaui penganiayaan minoritas,” kata Wang, tetapi “penganiayaan terhadap minoritas jelas tidak hanya terjadi di Tiongkok. ... Dan sistem ini akan sangat cocok untuk negara-negara yang ingin mengkriminalisasi minoritas. ”

Dilatih pada sejumlah besar foto wajah, sistem itu dapat mulai mendeteksi pola tertentu yang mungkin membedakan, misalnya, wajah minoritas Uighur dari mayoritas Han di China. Dalam sebuah makalah tahun 2018, "Penemuan fitur wajah untuk pengenalan etnis," para peneliti AI di China merancang algoritma yang dapat membedakan antara "landmark wajah" dari wajah Uighur, Korea, dan Tibet.

Sistem ini menguji bagaimana campuran perangkat lunak pengenal wajah Megvii dan kamera, server, peralatan jaringan, platform komputasi awan, serta perangkat keras dan perangkat lunak lain Huawei bekerja pada lusinan "fungsi dasar", termasuk dukungannya untuk "pengenalan berdasarkan usia, jenis kelamin, etnis dan sudut gambar wajah, ”kata laporan itu.

Laporan pengujian juga mengatakan bahwa sistem tersebut dapat mengambil snapshot pejalan kaki secara real-time, menganalisis file video dan memutar ulang rekaman 10 detik sebelum dan setelah wajah Uighur terdeteksi.

Dokumen tidak memberikan informasi di mana atau seberapa sering sistem digunakan. Tetapi sistem serupa digunakan oleh departemen kepolisian di seluruh China, menurut dokumen resmi yang ditinjau tahun lalu oleh New York Times, yang menemukan satu sistem kota yang telah memindai wajah Uighur setengah juta kali dalam satu bulan.

Perangkat lunak itu telah memicu perdebatan etis besar di antara para peneliti AI yang mengatakan itu dapat membantu dalam diskriminasi, pembuatan profil atau hukuman. Mereka juga berpendapat bahwa sistem pasti akan mengembalikan hasil yang tidak akurat, karena kinerjanya akan sangat bervariasi berdasarkan pencahayaan, kualitas gambar, dan faktor lainnya - dan karena keragaman etnis dan latar belakang orang tidak begitu rapi dipecah menjadi pengelompokan sederhana.

Perangkat lunak pendeteksi etnis semacam itu tidak tersedia di Amerika Serikat. Namun algoritma yang dapat menganalisis fitur wajah atau gerakan mata seseorang semakin populer di software wawancara kerja dan sistem pemantauan anti-kecurangan.

Clare Garvie dari Pusat Privasi dan Teknologi Hukum Georgetown yang telah mempelajari perangkat lunak pengenalan wajah, mengatakan bahwa perangkat lunak "alarm Uighur" mewakili langkah berbahaya menuju otomatisasi diskriminasi etnis pada skala yang menghancurkan.

Huawei dan Megvii adalah dua pelopor teknologi paling terkemuka di China. Namun, keduanya menghadapi tekanan dari pemerintah Amerika Serikat yang  berpendapat bahwa keduanya menjadi ancaman keamanan bagi Amerika Serikat atau telah berkontribusi pada penindasan etnis di China.

Delapan perusahaan China, termasuk Megvii, terkena sanksi oleh Departemen Perdagangan AS tahun lalu karena keterlibatan mereka dalam "pelanggaran hak asasi manusia dan pelanggaran dalam pelaksanaan kampanye represi China, penahanan sewenang-wenang massal, dan pengawasan teknologi tinggi" terhadap orang Uighur dan kelompok minoritas Muslim lainnya.

Pemerintah AS juga telah mengeluarkan sanksi terhadap Huawei, melarang ekspor teknologi AS ke perusahaan dan melobi negara lain untuk mengecualikan sistemnya dari jaringan telekomunikasi mereka.[]