Penipuan digital berbasis AI kini bergerak ke level yang lebih sulit dikenali, dan Komdigi menilai risiko itu sudah berdampak langsung pada kerugian besar. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa deepfake membuat suara, wajah, dan video palsu terlihat makin meyakinkan.
Dampaknya tidak lagi sebatas ancaman teknis. Nezar merujuk catatan OJK yang menyebut kerugian akibat scam tahun ini sekitar Rp9 triliun, dan banyak di antaranya memanfaatkan manipulasi AI.
Deepfake Mengaburkan Batas Asli Dan Buatan
Nezar menyebut deepfake sebagai salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan. Teknologi ini bisa meniru suara seseorang, menghidupkan wajah dalam gambar, lalu menyusunnya menjadi video yang tampak natural.
Ia menggambarkan kondisi itu sebagai synthetic reality atau realitas sintetis. Dalam situasi seperti ini, batas antara konten asli dan buatan AI menjadi semakin tipis di mata masyarakat.
“Sekarang suara kita bisa ditiru, gambar wajah kita juga bisa dihidupkan,” kata Nezar dalam Indonesia Ethical AI Summit, Rabu (17/6/2026).
Kelompok Yang Belum Paham AI Jadi Sasaran Empuk
Menurut Nezar, masyarakat yang belum memahami perkembangan AI menjadi pihak yang paling rentan. Pelaku kejahatan siber dapat memanfaatkan celah itu untuk menyusun penipuan yang lebih meyakinkan daripada modus lama.
Konten palsu yang menyerupai orang dipercaya, mulai dari suara, wajah, hingga video, bisa dipakai untuk menipu korban. Karena itu, literasi digital tetap menjadi lapisan perlindungan penting di tengah teknologi yang bergerak cepat.
AI Berkembang Cepat, Etika Harus Menyusul Sejak Awal
Nezar menjelaskan bahwa AI berkembang sangat cepat, dari generative AI menuju agentic AI. Dalam beberapa tahun ke depan, teknologi itu juga diperkirakan memasuki fase physical AI hingga quantum AI.
Kemajuan tersebut membuka peluang besar bagi banyak sektor, tetapi juga membawa tantangan baru di sisi keamanan dan etika. Karena itu, Nezar menekankan bahwa pengembangan AI tidak boleh hanya mengejar kemampuan teknis.
Ia mendorong penerapan ethics by design agar keamanan tidak dipasang belakangan. Tiga unsur utama yang harus melekat dalam pengembangan produk AI adalah transparansi, akuntabilitas, dan keamanan.
“Jadi apa yang kita sebut sebagai transparency, accountability, safety, itu harus ada di dalam implementasi, di dalam pengembangan suatu produk AI,” ujarnya.
Pembahasan etika AI, kata Nezar, juga tidak boleh berhenti di level konsep. Pengembang, regulator, dan pengguna perlu memastikan prinsip itu benar-benar dijalankan agar risiko penipuan digital, termasuk yang memakai deepfake, bisa ditekan sejak dini.