Alat Pendeteksi Teks Palsu Buatan AI

New York, Cyberthreat.id - Hoaks dan berita palsu di mana-mana. Teknologi kecerdasan buatan (AI) membuat produksi teks palsu semakin mudah dan otomatis. OpenAI misalnya. Grup riset yang didanai Elon Musk ini menciptakan  kecerdasan buatan yang mampu membuat kalimat dari teks atau frasa yang diberikan pengguna. Teknologi ini mencoba membuat kalimat lengkap bahkan alinea berdasarkan prediksi tentang kata berikutnya yang cocok untuk membentuk kalimat.

Cukup menakutkan karena kalimat yang dibentuk oleh GPT-2, demikian nama sistem bahasa OpenAI yang terbaru, lumayan komprehensif dan sulit dibedakan dengan kalimat yang dibuat manusia. Jika Anda ingin mencoba GPT-2, silakan masuk ke TalkToTransformer.com. Di situs yang dibuat Adam King, engineer dari Kanada ini Anda bisa mencoba AI membuat tulisan berdasarkan kata yang Anda berikan.

Alinea buatan AI dari frasa "cyber threat".

Dari demo di atas, frasa awal "cyber threat" diteruskan AI menjadi beberapa alinea. Hasilnya cukup mengintimidasi: kalimatnya tanpa cela dari sisi tata bahasa namun dari segi makna terkesan terlalu "mengambang". Namun, GPT-2 adalah fase awal AI pembuat teks dan masih akan terus disempurnakan. Versi selanjutnya mungkin akan lebih canggih dan semakin mirip dengan tulisan yang dibuat penulis andal. Untuk tulisan singkat seperti post di Twitter dan status Facebook, GPT-2 akan sulit dikenali sebagai teks buatan AI.

Syukurlah periset dari Harvard University dan MIT-IBM Watson AI Lab telah menciptakan alat untuk memerangi penyebaran informasi palsu. Alat yang disebut GLTR (for Giant Language Model Test Room) ini akan mendeteksi pola teks yang dibuat AI. Alat ini diyakini bisa mengenali teks buatan bot di Twitter dan Facebook. Kodenya bisa didapatkan di Github: https://github.com/HendrikStrobelt/detecting-fake-text.

Sebastian Gehrmann, peneliti di belakang GLTR menyatakan bahwa metode pembuatan teks oleh AI semakin maju dan orang bisa menyalahgunakannya untuk menyebarkan informasi palsu dan propaganda. "Seseorang yang memiliki komputer berdaya besar bisa membuat ribuan situs web yang berisi teks yang terkesan asli tentang topik apa pun yang mereka pilih," kata Gehrmann seperti dikutip cnet.com pada 2 Agustus lalu. "Model bahasa yang lebih canggih telah menciptakan teks yang tak bisa dibedakan dari teks buatan manusia."

Bagaimana GLTR bekerja? Masukkan teks yang Anda curigai sebagai teks buatan bot di http://gltr.io/dist/ lalu klik "analyze". Teks yang disorot warna hijau merupakan teks yang kemungkinan besar buatan bot, yang berwarna kuning dan merah kemungkinan kecil dibuat bot, dan yang berwarna ungu kemungkinan tidak dibuat bot.

Cyberthreat.id  mencoba memasukkan teks buatan TalkToTransformer.com, hasilnya 95% lebih teks berwarna hijau dan kuning, 5% merah. Tidak ada yang berwarna ungu. 

Hasil analisis GLTR