Gara-gara Alat Facial Recognition Salah Identifikasi, Pemuda Ini Meringkuk Dipenjara

Cyberthreat.id – Cerita di bawah ini membuktikanteknologi facial recognition (pengenalan wajah) sangat rentan dan bias ketika dipakai aparat hukum.

Ini bermula dari Kepolisian Detroit, Michigan, Amerika Serikat melacak sebuah kasus pencurian pada Juni 2020.

Alat pengenal wajah yang dipakai polisi ternyata mengarahkan pada seorang laki-laki kulit hitam bernama Michael Oliver (26). Padahal, ia sama sekali tak tahu-menahu soal pencurian.

Ia sempat mendekam 2,5 hari di penjara karena algoritma yang keliru dan kelalaian polisi.

Kasus salah tangkap bukan kali ini saja dilakukan Kepolisian Detroit. Masih memakai alat serupa, pada bulan sebelumnya, polisi juga salah tangkap terhadap Robert Williams (42). Ada apa dengan teknologi FR ini?

Seperti dikutip dari Vice.com, Jumat (4 September), karena tindakan sewenang-wenang polisi, Oliver pun menggugat Kepolisian Detroit. Gugatan diajukan ke Pengadilan Sirkuit Wayne County pada Jumat pekan lalu.

Baca:

• Sistem Facial Recognition Masih Lemah, Ini Bukti Risetnya
• Militer AS Kembangkan Software Pelindung Facial Recognition
• Senator AS Usulkan RUU Moratorium Facial Recognition

"[Polisi mengandalkan] teknologi pengenalan wajah yang gagal karena ilmu pengenalan wajah memiliki tingkat kesalahan yang substansial untuk identifikasi orang kulit hitam dan coklat, sehingga akan mengarah pada penangkapan dan penahanan yang salah," begitu gugatan tersebut.

Oliver marah dengan tindakan polisi. Pemenjaraan dirinya juga berimbas drastis di kehidupannya.

"[Tindakan polisi benar-benar] salah," kata Oliver kepada Motherboard, media daring teknologi di bawah naungan grup Vice.com

“Saya kehilangan pekerjaan dan mobil saya; seluruh hidup saya harus ditunda ... Teknologi itu tidak boleh digunakan lagi oleh polisi,” ia menambahkan.

Oliver yang memiliki wajah berbentuk oval dan tato di atas alis kirinya hanya mirip dengan tersangka sebenarnya—tidak memiliki tato yang terlihat, wajah yang lebih bulat, dan kulit yang lebih gelap, sesuai bukti foto.

“Terus terang saja, detektif [putih] itu gagal,” kata pengacara Oliver, David Robinson.

Menurut Robinson, detektif itu pasti memiliki foto penjahat yang sebenarnya, tetapi untuk beberapa alasan tidak dapat membedakan perbedaan di antara mereka.

Kasus Oliver menimbulkan kekhawatiran tentang teknologi pengenalan wajah. Banyak kritik terhadap alat FR sebagai salah satu bentuk pengawasan polisi AS yang paling mengganggu.

Departemen Kepolisian New York, misalnya, menggunakan sistem pengenalan wajah bulan lalu untuk melacak aktivis berusia 28 tahun Derrick Ingram, yang dituduh melakukan penyerangan setelah diduga berteriak ke telinga petugas polisi dengan pengeras suara.

Baca:

• Meski Wajah Ditutupi Masker, Mesin AI Israel Ini Mampu Kenali Siapa Anda
• Polisi London Bantah AI Facial Recognition-nya Rasialis
• Clearview AI Setop Jual Sistem Pengenal Wajahnya ke Swasta

Bermula dari tawuran

Kasus kesalahan identitas Oliver dimulai pada 15 Mei 2019 ketika seorang guru yang melewati sekelompok siswa yang bertengkar, lalu menggunakan ponselnya merekam perkelahian di dekat sekolah di Detroit, menurut surat perintah penangkapan Oliver.

Seorang lelaki kulit hitam muda yang terlibat dalam perkelahian melihat guru yang bernama Stephen Cassini itu sedang merekam. Lelaki itu lalu mengambil ponselnya dan memecahkannya, menurut surat perintah.

Namun, Cassini merekam video kejadian itu di teleponnya sebelum memberikan rekaman itu ke polisi.

Meski kepolisian Detroit tidak memiliki "kebijakan tertulis" yang mengizinkan polisi menggunakan teknologi pengenalan wajah, detektif Donald Bussa meminta seorang letnan untuk menjalankan gambar tersangka melalui basis data foto untuk mencari kecocokan, menurut gugatan tersebut.

Algoritma mengirimkan bidikan kepada Oliver dan "Bussa berasumsi [dia] adalah orang yang merebut ponsel Cassini," demikian bunyi gugatan Oliver.

Setelah menjalankan perangkat lunak yang dikembangkan oleh perusahaan DataWorks Plus, Bussa menunjukkan kepada Cassini daftar foto tersangka dan guru tersebut diduga mengidentifikasi Oliver.

Detektif itu kemudian mendapat surat perintah penangkapannya "tanpa penyelidikan lebih lanjut," kata gugatan tersebut.

Oliver yang sedang mengemudi untuk bekerja pada 31 Juli 2019 seketika dihentikan, diborgol, dan dibawa ke penjara," menurut dokumen pengadilan.

Mobilnya disita dan dia terpaksa menunggu dengan cemas di balik jeruji besi selama 2,5 hari dengan sedikit informasi tentang apa yang seharusnya dia lakukan.

"Saya gugup karena saya tahu orang-orang masuk penjara karena hal-hal yang tidak mereka lakukan," kata Oliver. "Tidak ada penjelasan kepada polisi bahwa itu bukan saya. Mereka tidak mencoba untuk memahami itu. "

Di penjara, dia tidur di lantai semen dan makan sandwich bologna — satu-satunya pilihan — untuk sarapan, makan siang, dan makan malam, kata dia.

Saat berada di balik jeruji besi, "Bussa tidak pernah berusaha untuk mengambil pernyataan dari [Oliver] atau melakukan apa pun untuk menawarkan [dia] kesempatan untuk membuktikan bahwa dia tidak bersalah," menurut gugatan tersebut.

Untungnya, ada tanda-tanda bahwa polisi telah menangkap orang yang salah. Tanda-tanda itu berupa tato. Bahwa, pelaku tak memiliki tato seperti yang dimiliki Oliver di kedua lengannya.

Meski begitu, saat sidang pertama Oliver pada Agustus 2019, aparat penegak hukum menolak untuk mundur.

“Jaksa tidak yakin. Dia berkata, 'Dia bisa saja mendapat tato setelah kejahatan itu’," kata pengacara Oliver, Patrick Nyenhuis.

Pada pertengahan September, Kantor Kejaksaan Wayne County mencabut tuduhan pencurian, tapi Oliver merasa telah “malu, marah, takut, cemas, dan kehilangan reputasi dan rugi secara ekonomi,” menurut gugatan tersebut.

Pengacara Oliver lain, Robinson menuding teknologi pengenalan wajah milik Kepolisian Detroit telah secara keliru menargetkan banyak orang kulit berwarna. Ia khawatir kasus-kasus serupa lain akan terjadi lagi di masa depan.

“Para perancang algoritma adalah orang kulit putih, jadi [jangakuan alat] itu sempit; alat itu bekerja untuk ras mayoritas," kata Robinson.

Dalam kasus Robert Julian-Borchak Willams, Kantor Kejaksaan Wayne County meminta maaf setelah New York Times memuat berita itu. Kepala Polisi Detroit James Craig kemudian mengakui teknologi tersebut salah mengidentifikasi tersangka dalam 96 persen kasus.

Menurut Robinson, Oliver menginginkan lebih dari sekadar permintaan maaf. “Dia menginginkan keadilan," kata Robinson.[]

Redaktur: Andi Nugroho