ABNnews — Masyarakat Antifitnah Indonesia (Mafindo) mengingatkan bahaya deepfake atau konten manipulasi gambar, video maupun suara menggunakan kecerdasan buatan (AI) yang muncul dalam setahun terakhir sehingga perlu segera diantisipasi.
“Itu kalau kita tidak antisipasi dari sisi regulasi, dari tata kelola, dari praktik moderasi konten, ini bisa menjadi bom waktu. Ini adalah sebagai early warning.(peringatan dini). Ini ancaman yang sangat serius,” kata Ketua Presidium Mafindo Septiaji Eko Nugroho di Jakarta, Rabu.
Hasil riset Mafindo menunjukkan deepfake dan scam (penipuan) mewarnai konten informasi bohong atau hoaks selama periode Oktober 2024 hingga Oktober 2025. Frekuensi deepfake pada 2025, menurut Septiaji, lebih mengkhawatirkan dibanding tahun lalu.
“Yang kita khawatirkan adalah ada ekskalasi deepfake nanti dan kemudian ada ekskalasi deepfake dengan tema-tema yang menyasar ke topik-topik yang paling fundamental dan sensitif di negeri ini: topik kultural, agama, SARA,” ucap dia.
Mafindo mendapati bahwa 202 dari total 1.593 konten hoaks yang ditemukan dalam setahun terakhir dibuat menggunakan AI. Meski jumlahnya kecil, dampak dari konten itu seringkali luas bahkan membahayakan kehidupan personal maupun masyarakat.
Teknologi AI memfasilitasi hoaks dalam beberapa cara, yakni deepfake dan generative AI. Teknologi deepfake dapat mengubah wajah, bibir, suara tokoh publik agar tampak mengucapkan atau melakukan sesuatu yang nyatanya tidak pernah mereka lakukan. Sementara, generative AI menghasilkan teks, narasi, atau konten yang tampak meyakinkan.
Mafindo mencontohkan kasus deepfake yang menimpa mantan Menteri Keuangan Sri Mulyani. Pada Agustus lalu, beredar video Sri Mulyani yang seolah mengatakan “guru itu beban negara” di tengah sorotan terhadap isu anggaran pendidikan dan kesejahteraan guru.
Pada faktanya, menurut Mafindo, Sri Mulyani memang membahas tantangan keuangan negara terkait guru maupun dosen di Institut Teknologi Bandung, tetapi ia tidak menggunakan frasa “beban negara”.
Dikarenakan isu itu mengarah ke profesi guru dan anggaran negara yang tengah disoroti publik, video palsu tersebut dengan cepat memancing reaksi berbagai kalangan.
Menurut Septiaji seperti dilansir dari antaranews, publik Indonesia masih gelagapan merespons deepfake. Maka dari itu, perlu antisipasi segera yang tidak hanya menjadi tanggung jawab pemerintah, tetapi juga platform digital dan masyarakat itu sendiri.
“Kita melihat Indonesia masih belum punya framework (kerangka kerja) untuk bisa melakukan mitigasi dengan kompleks. Ini yang harus kita dorong, kita lakukan, supaya pemerintah sigap, platform digital lebih bertanggung jawab, dan kemudian masyarakat,” tuturnya.
Dari hasil risetnya, Mafindo memberi rekomendasi kepada pemerintah untuk meningkatkan edukasi literasi digital, khususnya dalam keamanan digital, termasuk antisipasi konten scam dan deepfake.
Mafindo juga merekomendasikan pemerintah memperbaiki komunikasi publik dengan membuka jalur dialog, baik virtual maupun langsung guna mengurangi asimetri informasi.
Selain itu, negara turut diminta mengantisipasi potensi scam yang dibuat aktor jahat untuk menempel pada kebijakan maupun program-program pemerintah.
Sementara itu, masyarakat diharapkan dapat memprioritaskan sumber informasi dari kanal media terverifikasi serta tidak mudah membagikan informasi sebelum melakukan verifikasi sumber.
Kepada platform digital, Mafindo merekomendasikan adanya penandaan otomatis (auto label) untuk konten yang dibuat dengan AI. Hal itu agar memudahkan masyarakat dalam membedakan antara konten AI dan organik.
