Facebook Biayai Riset Pendeteksi Video Deepfake
Demonstrasi video deepfake dari Facebook. | Foto: Facebook
Cyberthreat.id – Hoaks atau berita palsu tak hanya teks atau gambar, kini bahkan telah merambah audi dan video. Dari sini, muncullah istilah video “deepfake”.
Video tersebut biasanya menggunakan figur terkenal. Seseorang memanipulasi dengan teknologi kecerdasan buatan (AI) untuk membuat gerak dan ucapan tertentu, tapi masih memakai wajah figur artis atau politikus.
Jika video-video tersebut ke depan merambat bagai api dan membanjiri media sosial, ini ancaman nyata bagi informasi di dunia maya. Pesan-pesan seperti itu bisa sangat mudah kita jumpai di Facebook, Twitter, YouTube, Instagram, dan WhatsApp.
Untuk mendeteksi video deepfake, tentu butuh teknologi khusus, karena mata manusia sulit mengenalinya. Saat ini Facebook telah meluncurkan Deepfake Detection Challenge yang menawarkan US$ 10 juta dalam bentuk hibah penelitian dan penghargaan.
Upaya tersebut didukung oleh Partnership on AI, Microsoft, dan akademisi dari Cornell Tech, MIT, Universitas Oxford, UC Berkeley, Universitas Maryland, College Park, dan Universitas Negeri New York di Albany.
Facebook sebelumnya telah melakukan percobaan kepada pengguna, tapi kurang mendapatkan persetujuan mereka. Kali ini, Facebook mencoba lagi. Mereka menjamin tidak ada data pengguna Facebook yang akan digunakan.
“Tidak ada data pengguna Facebook yang akan digunakan dalam kumpulan data ini,” kata Facebook.
“Kami juga mendanai kolaborasi penelitian dan hadiah untuk tantangan untuk membantu mendorong lebih banyak partisipasi. Secara total, kami mendedikasikan lebih dari US$ 10 juta untuk mendanai upaya industri ini,” Facebook menambahkan.
Facebook akan menugaskan tim khusus yang membuat dataset video deepfake. Karena sejauh ini industri tidak memiliki tolok ukur untuk mendeteksi deepfake, menurut Facebook. Jadi, Facebook akan membantu membuat dataset video dan audio deepfake.
Secara sederhana, dataset adalah sesuatu yang mewakili data dan relasinya; berisi koleksi dari datatable dan datarelation untuk menganalisis data.
Tujuan Facebook dengan database itu untuk menciptakan teknologi yang dapat digunakan semua orang, untuk mendeteksi ketika video telah dimanipulasi dengan AI.
Untuk memastikan kualitas dataset, mereka akan mengujinya dan menargetkan analisis dataset pada Oktober mendatang di Konferensi Internasional tentang Visi Komputer (ICCV). Rilis kumpulan data akan dilakukan pada Konferensi Sistem Pemrosesan Informasi Saraf Tiruan (NeurIPS) Desember mendatang.
Baru-baru ini seorang CEO Inggris ditipu oleh audio deepfake dari atasannya untuk mengirimkan US$ 243.000 ke akun penipu. Audio itu dikirimkan penipu modus business email compromise (BEC) atau serangan phishing. Penipu berpura-pura menjadi pengirim asli.data pelatihan.
Kliki di sini nerikut demonstrasi video deepfake dari Facebook:
