Wamenkominfo Soroti Pentingnya Pengawasan AI di Sektor Kesehatan

Wakil Menteri Komunikasi dan Digital Nezar Patria. (Dok. Ist)

Jakarta, Pewarta.co.id – Pemanfaatan kecerdasan buatan (AI) dalam dunia kesehatan terus berkembang pesat.

Namun, menurut Wakil Menteri Komunikasi dan Informatika, Nezar Patria, dibutuhkan pengawasan ketat dalam penerapan teknologi tersebut.

Salah satu pendekatan yang disarankan adalah melalui mekanisme sandboxing, yang memungkinkan teknologi diuji dalam lingkungan terbatas sebelum diterapkan secara luas.

“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” ujar Nezar Patria dalam pernyataan resminya di Jakarta, Sabtu.

Ia menegaskan bahwa proses pengujian semacam ini sangat krusial untuk memastikan teknologi AI memenuhi standar regulasi, mampu mengelola risiko, dan sesuai dengan kebutuhan penggunaannya.

Sebelum diimplementasikan secara luas, sistem AI perlu diuji coba dalam ruang yang terkontrol agar berbagai dampaknya dapat dikaji dengan lebih matang.

Nezar juga mengajak seluruh pihak terkait, mulai dari regulator hingga pelaku industri, untuk terlibat dalam proses sandboxing.

Keterlibatan mereka dinilai penting agar pengembangan AI dapat mempertimbangkan aspek teknis, etika, kesiapan operasional, hingga dampaknya terhadap masyarakat luas.

Sebagai contoh, ia menyoroti keberhasilan China yang menerapkan sandboxing sejak awal di tingkat domestik, sebelum teknologi AI mereka diperkenalkan ke pasar global.

“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxingnya sudah berlangsung di negara mereka lebih dulu,” jelasnya.

Meski begitu, Nezar tidak menutup mata terhadap sejumlah tantangan yang menyertai kemajuan AI, terutama dalam bentuk Agentic AI jenis AI yang mampu mengambil keputusan secara otonom.

Ia menekankan bahwa dalam bidang kesehatan, risiko yang muncul tidak hanya berkaitan dengan teknis, tetapi juga menyangkut persoalan sosial dan etika.

"AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” ujar Nezar.

Sebagai solusi, ia menyarankan agar pengembangan AI di Indonesia mengacu pada data nasional yang telah dikurasi dan divalidasi oleh para pakar dalam negeri.