Kematian George Floyd Bikin IBM Hentikan Teknologi Pengenalan Wajah
Cyberthreat.id - Produsen komputer IBM memutuskan untuk tidak lagi menawarkan teknologi pengenalan wajah termasuk perangkat lunaknya. Hal itu disampaikan oleh CEO IBM Arvind Krisna dalam sebuah surat yang ditujukan kepada Kongres Amerika tertanggal 8 Juni 2020.
Dalam surat yang ditujukan untuk lima senator Amerika itu, Krisna mengatakan keputusan itu didorong oleh keinginan melawan rasisme.
Surat itu dibuka dengan memutar ingatan ke bulan September 1953 ketika Presiden IBM Thomas J. Watson Junior mengatakan kepada karyawannya,"Setiap warga negara ini memiliki hak yang sama untuk hidup dan bekerja di Amerika. Kebijakan perusahaan adalah untuk mempekerjakan orang yang memiliki kepribadian, bakat, dan latar belakang yang diperlukan untuk mengisi pekerjaan tertentu, terlepas dari ras, warna kulit, atau kepercayaan."
Watson mengucapkan hal itu satu dekade sebelum Amerika memberlakukan Undang-undang Hak-hak Sipil pada 1964 yang mengakui setiap orang berhak mendapat perlakuan dan fasilitas umum yang sama tanpa memandang warna kulitnya. Saat Watson mengucapkan itu, sejumlah negara bagian di Amerika memberlakukan 'Hukum Jim Crow' yang memisahkan fasilitas umum untuk orang kulit putih dengan kulit hitam.
"Watson menolak memberlakukan Hukum Jim Crow di IBM. Namun hampir tujuh dekade kemudian, kematian George Floyd yang mengerikan dan tragis, Ahmaud Arbery, Breonna Taylor dan masih banyak lagi yang lain, mengingatkan kita bahwa perjuangan melawan rasisme sama mendesaknya seperti sebelumnya," tulis Kresna.
Karena itu, kata Kresna, IBM ingin bekerja sama dengan Kongres dalam mengejar keadilan rasial yang pada tahap awal berfokus pada tiga kebijakan utama: reformasi kepolisian, penggunaan teknologi yang bertanggung jawab, dan perluasan ketrampilan dan peluang pendidikan.
"IBM dengan tegas menentang dan tidak akan memaafkan penggunaan teknologi [pengenalan wajah] apa pun, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak konsisten dengan kami, nilai-nilai dan Prinsip-prinsip Kepercayaan dan Transparansi, ”kata Krishna dalam surat itu. "Kami percaya sekarang adalah saatnya untuk memulai dialog nasional tentang apakah dan bagaimana teknologi pengenalan wajah harus digunakan oleh lembaga penegak hukum domestik."
Penggunaan perangkat lunak pengenalan wajah telah meningkat pesat selama dekade terakhir berkat kemajuan dalam kecerdasan buatan. Pada saat yang sama, teknologi - karena sering disediakan oleh perusahaan swasta dengan sedikit peraturan atau pengawasan federal - telah terbukti mengalami bias terkait usia, ras, dan etnis, yang dapat membuat alat tidak dapat diandalkan untuk penegakan hukum dan keamanan serta berpotensi melanggar hak-hak sipil.
Dilansir dari The Verge, sebuah studi Institut Teknologi dan Standar Nasional Desember 2019 menemukan bukti empiris ketidakakuratan dan bias rasial dalam mayoritas algoritma pengenalan wajah yang dievaluasi. Teknologi itu juga mendapat kecaman karena perannya dalam pelanggaran privasi.
Studi itu tidak memasukkan teknologi dari Amazon, yang merupakan salah satu dari sedikit perusahaan teknologi besar yang menjual perangkat lunak pengenalan wajah kepada penegak hukum. Namun Rekognition, nama programnya, juga telah dikritik karena akurasinya. Pada tahun 2018, Uni Kebebasan Sipil Amerika menemukan bahwa Rekognition secara tidak benar mencocokkan 28 anggota Kongres dengan wajah-wajah yang diambil dari 25.000 foto publik, misalnya.
Perusahaan lain, Clearview AI, telah diawasi ketat mulai awal tahun ini ketika ditemukan bahwa alat pengenal wajah, yang dibangun dengan lebih dari 3 miliar gambar yang dikompilasi dari situs media sosial, telah banyak digunakan oleh perusahaan-perusahaan sektor swasta dan agensi penegak hukum. Clearview saat ini juga sedang menghadapi tuntutan di pengadilan terkait privasi. Facebook juga diperintahkan pada Januari lalu untuk membayar US$ 550 juta guna menyelesaikan gugatan class action atas penggunaan teknologi pengenalan wajah yang melanggar hukum.
IBM telah mencoba membantu mengatasi bias dalam pengenalan wajah dengan merilis kumpulan data publik pada tahun 2018 yang dirancang untuk membantu mengurangi bias sebagai bagian dari data melatih model pengenalan wajah. Tetapi IBM juga ditemukan berbagi set data dari hampir satu juta foto pada Januari 2019 yang diambil dari Flickr tanpa persetujuan dari subyek - meskipun foto tersebut dibagikan di bawah lisensi Creative Commons.
Saat itu, IBM mengatakan kepada The Verge bahwa kumpulan data wajah itu hanya akan diakses oleh peneliti yang diverifikasi dan hanya mencakup gambar yang tersedia untuk umum. Perusahaan juga mengatakan bahwa individu dapat memilih keluar dari kumpulan data.
Selain itu, Krishna mengatakan bahwa "kita perlu menciptakan jalur yang lebih terbuka dan adil bagi semua orang Amerika untuk memperoleh keterampilan dan pelatihan yang dapat dijual."[]