JAKARTA - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria memandang penyalahgunaan kecerdasan buatan (AI) lewat teknologi "deepfake" menjadi salah satu tantangan etis serta keamanan digital yang harus diwaspadai secara sungguh-sungguh lantaran berpotensi menaikkan ancaman penipuan digital.
Teknologi "deepfake" memfasilitasi pembuatan video, gambar, ataupun suara tiruan yang mirip aslinya sehingga kian sukar dipisahkan dari kenyataan.
"Sekarang suara kami bisa ditiru, gambar wajah kami bisa ditiru, dan tampil dalam bentuk 'deepfake' video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, dikutip pada Kamis (18/6/2026).
Berdasarkan penuturan Nezar, kemajuan kecerdasan buatan saat ini berjalan amat pesat, bahkan sudah melewati fase kecerdasan buatan generatif (generative AI) mengarah ke kecerdasan buatan otonom (agentic AI) dan bermacam teknologi mutakhir lainnya.
Kemajuan itu mendatangkan profit besar untuk pelbagai sektor, namun di waktu yang sama pun memicu risiko-risiko anyar yang membutuhkan atensi serius.
Pada aspek keamanan siber, Nezar menitikberatkan pemanfaatan AI oleh aktor kriminal digital demi melancarkan aksi penipuan dengan memakai teknologi "deepfake".
Menurut Nezar, produk manipulasi berbasis AI saat ini telah bertransformasi menjadi apa yang dinamakan sebagai realitas sintetik (synthetic reality), yakni konten hasil modifikasi digital yang kian sukar dibedakan dari aslinya.
Nezar berpendapat minimnya literasi publik terkait kemajuan AI menjadikan banyak orang gampang tertipu oleh konten hasil modifikasi tersebut.
"Awamnya masyarakat kami tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya 'scam' saat ini luar biasa," ujarnya.
Nezar pun mewanti-wanti krusialnya partisipasi manusia dalam proses penarikan keputusan (human in the loop) pada rancangan kecerdasan buatan otonom yang mempunyai kapabilitas melakukan penalaran dan menarik keputusan secara independen (decision making).
Menurut Nezar, beberapa ahli telah menyarankan implementasi protokol yang lebih tegas supaya keputusan-keputusan krusial tetap berada di bawah kendali manusia.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip 'human in the loop' dalam 'decision making'," jelasnya.
Selanjutnya, Nezar memandang pendekatan etika AI tidak lagi memadai jika cuma bersifat sukarela layaknya pada fase awal kemajuan teknologi itu.
Nezar menegaskan bahwa asas-asas seperti transparansi, akuntabilitas, serta keamanan wajib direalisasikan secara konkret dalam proses perancangan produk AI lewat pendekatan etika sejak fase perencanaan (ethics by design).
Oleh sebab itu, Nezar memotivasi para pengembang, pelaku industri, akademisi, dan komunitas pemakai AI untuk memperkokoh tata kelola sekaligus mitigasi risiko sejak tahap awal.
"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.