Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan bahwa perkembangan kecerdasan artifisial atau Artificial Intelligence (AI) turut meningkatkan kompleksitas ancaman penipuan digital. Salah satu yang menjadi perhatian adalah penyalahgunaan teknologi deepfake yang mampu menghasilkan konten palsu dengan tingkat kemiripan tinggi terhadap kondisi sebenarnya.
Peringatan tersebut disampaikan Nezar Patria dalam Indonesia Ethical AI Summit yang berlangsung di Jakarta Selatan, Rabu (17/6/2026).
Menurutnya, teknologi AI saat ini mampu meniru suara, wajah, hingga gerakan seseorang secara sangat realistis sehingga berpotensi dimanfaatkan untuk berbagai bentuk kejahatan digital.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya.
Nezar menjelaskan perkembangan AI berlangsung sangat cepat. Bahkan, teknologi tersebut dinilai telah bergerak melampaui fase generative AI menuju pengembangan agentic AI dan berbagai inovasi baru lainnya.
Meski membawa banyak manfaat bagi berbagai sektor, kemajuan teknologi tersebut juga menghadirkan tantangan baru yang perlu diantisipasi secara serius.
Dalam konteks keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk menjalankan berbagai modus penipuan melalui teknologi deepfake.
Menurutnya, hasil manipulasi berbasis AI kini berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik. Kondisi tersebut membuat masyarakat semakin sulit membedakan antara konten asli dan konten hasil rekayasa.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Selain itu, Nezar juga menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI yang memiliki kemampuan melakukan penalaran dan pengambilan keputusan secara mandiri.
Ia menyebut sejumlah pakar mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap berada dalam pengawasan manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Nezar menilai pendekatan etika AI tidak lagi cukup bersifat sukarela seperti pada tahap awal perkembangan teknologi tersebut.
Menurutnya, prinsip-prinsip dasar seperti transparansi, akuntabilitas, dan keamanan harus diterapkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Karena itu, Nezar mendorong pengembang teknologi, pelaku industri, akademisi, hingga komunitas pengguna AI untuk memperkuat tata kelola dan mitigasi risiko sejak tahap perencanaan.
Ia berharap Indonesia Ethical AI Summit dapat menjadi momentum untuk merumuskan langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.
Belum ada komentar