Jakarta, Warnaberita.com – Fenomena deepfake kian mengkhawatirkan. Data Sensity AI mencatat peningkatan 550 persen konten deepfake dalam lima tahun terakhir.
Kondisi ini diungkapkan Wakil Menteri Komunikasi dan Digital Nezar Patria dikutip dari laman Komdigi, Kamis (11/9).
Ia pun meminta platform digital global menghadirkan fitur pengecekan dalam mengenali konten yang dibuat oleh kecerdasan artifisial atau artificial intelligence (AI) untuk membantu masyarakat menangkal hoaks dan deepfake.
“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” kata Nezar.
Ia pun berkeyakinan jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif. Nezar mengutarakan platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.
“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” jelasnya.
Nezar menekankan pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.
Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis.
Saat ini, pemerintah juga menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.
Selain regulasi, Kementerian Komdigi juga menggandeng ekosistem luas, termasuk Mafindo dan media, dalam program cek fakta.
“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar Patria.
Ketua Mafindo Septiaji Eko Nugroho menyatakan fenomena deepfake pertama kali muncul di Indonesia pada tahun 2023 dan semakin berkembang pesat saat ini.
Konten deepfake kerap disalahgunakan untuk melakukan penipuan digital dan menggiring opini publik, terutama pada isu-isu politik.
“Untuk isu politik juga ada tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” jelasnya. (*)
