Peneliti: Regulator Harus Pantau Penggunaan Teknologi AI

Cyberthreat.id- Teknologi kecerdasan buatan (Artificial Intelligent/AI) dan pembelajaran mesin (Machine Learning/ML)semakin banyak didopsi oleh manusia untuk berbagai kebutuhan. Tak terkecuali disektor kesehatan.

Di sektor kesehatan, teknologi ini mampu melihat tumor ganas hingga membaca CT scan dan mammogram. Teknologi ini diklaim lebih cepat dan lebih akurat daripada perangkat tradisional. Namun seiring dengan manfaatnya, muncul risiko baru dan tantangan regulasi.

Sejumlah pakar dan juga peneliti, menulis dalam sebuah artikel yang berjudul Algoritma tentang penguncian peraturan dalam kedokteran. Artikel ini, baru-baru ini diterbitkan di Science.

Para pakar dan penulis tersebut adalah, Boris Babic, Asisten Profesor Ilmu Keputusan di INSEAD, Theodoros Evgeniou, Profesor INSEAD dari Ilmu Keputusan dan Manajemen Teknologi, Sara Gerke, Peneliti di Pusat Petrie-Flom Pusat Kebijakan Hukum Kesehatan, Bioteknologi, dan Bioetika di Harvard Law School, dan I. Glenn Cohen, Profesor di Fakultas Hukum Harvard dan Direktur Fakultas di Petrie-Flom Center.

Para pakar dan peneliti tersebut melihat tantangan baru yang dihadapi regulator ketika mereka menavigasi jalur AI / ML yang tidak dikenal.
Beberapa pertanyaan yang diajukan dalam artikel tersebut, diantaranya, perangkat AI / ML dikembangkan dan diimplementasikan? Bagaimana mereka harus dikelola? Faktor-faktor apa yang perlu difokuskan oleh regulator untuk memastikan nilai maksimum dengan risiko minimal?

Hingga saat ini badan pengawas seperti Badan Pengawasan Obat dan Makanan AS (FDA) telah menyetujui perangkat lunak berbasis AI / ML medis dengan algoritma terkunci, yaitu algoritma yang memberikan hasil yang sama setiap kali dan tidak berubah dengan penggunaan.

Namun, kekuatan utama dan manfaat potensial dari sebagian besar teknologi AI / ML berasal dari kemampuannya untuk berevolusi ketika model belajar dalam menanggapi data baru.

Algoritma adaptif ini, dimungkinkan karena AI / ML, menciptakan apa yang pada dasarnya adalah sistem layanan kesehatan pembelajaran, di mana batas-batas antara penelitian dan praktik berpori.

Mengingat nilai signifikan dari sistem adaptif ini, pertanyaan mendasar bagi para regulator saat ini adalah apakah otorisasi harus dibatasi pada versi teknologi yang diajukan dan dievaluasi sebagai aman dan efektif, atau apakah mereka mengizinkan pemasaran suatu algoritma di mana nilai yang lebih besar adalah dapat ditemukan dalam kemampuan teknologi untuk belajar dan beradaptasi dengan kondisi baru.

Para penulis melihat secara mendalam risiko yang terkait dengan masalah pembaruan ini, dengan mempertimbangkan bidang-bidang khusus yang memerlukan fokus dan cara-cara di mana tantangan dapat diatasi. Kunci regulasi yang kuat, kata mereka, adalah memprioritaskan pemantauan risiko secara terus menerus.

"Untuk mengelola risiko, regulator harus fokus terutama pada pemantauan dan penilaian risiko yang berkelanjutan, dan kurang pada perencanaan untuk perubahan algoritma di masa depan," kata penulis melalui siaran pers, Selasa, (10 Desember 2019).

Ketika regulator bergerak maju, penulis merekomendasikan mereka mengembangkan proses baru untuk terus memantau, mengidentifikasi, dan mengelola risiko terkait.

Mereka menyarankan elemen-elemen kunci yang dapat membantu dengan hal ini, dan yang di masa depan sendiri dapat diotomatisasi menggunakan AI / ML  mungkin memiliki sistem AI / ML yang saling memonitor.

"Tujuan kami adalah untuk menekankan risiko yang dapat timbul dari perubahan tak terduga dalam bagaimana sistem AI / ML medis bereaksi atau beradaptasi dengan lingkungan mereka," ungap para penulis,

Para penulis juga mengingatkan,  bahwa, pembaruan parametrik yang halus, sering tidak dikenal, atau tipe data baru dapat menyebabkan kesalahan besar dan mahal.