Teknologi kecerdasan buatan generatif membuka pintu bagi kreasi konten tanpa batas, namun juga melahirkan senjata baru dalam perang informasi: deepfake. Di Indonesia, ancaman ini bukan lagi sekadar teori. Pemilu 2024 menjadi panggung nyata bagaimana video dan audio sintetis digunakan untuk memanipulasi opini publik, menjatuhkan lawan politik, hingga memicu ketegangan sosial.
Senjata Baru Propaganda Digital
Deepfake memanfaatkan generative adversarial network (GAN) untuk menghasilkan gambar, suara, atau video yang sulit dibedakan dari rekaman asli. Pada masa kampanye pemilu, beredar video sejumlah tokoh yang mengucapkan pernyataan kontroversial—belakangan terbukti hasil rekayasa AI. Deteksi forensik digital dari beberapa lembaga independen, seperti Mafindo, menemukan bahwa produksi deepfake di Indonesia meningkat hampir tiga kali lipat sepanjang 2023–2024 dibanding periode sebelumnya.
Yang berbahaya, kecepatan penyebaran konten sintetis ini sering kali melampaui kecepatan klarifikasi. Dalam ekosistem media sosial yang mengutamakan sensasi, satu unggahan deepfake dapat meraih jutaan tayangan sebelum hoaks terverifikasi. Akibatnya, persepsi publik terbentuk di atas fondasi palsu, dan polarisasi politik semakin sulit dibendung.
Regulasi yang Belum Siap Tempur
Indonesia telah memiliki Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) yang dapat menjerat penyebar konten hoaks. Namun, UU ITE tidak secara spesifik mengatur pembuatan atau distribusi deepfake, apalagi menetapkan standar forensik digital untuk pembuktian di pengadilan. Kementerian Komunikasi dan Informatika sempat mengeluarkan panduan etika AI, tetapi panduan tersebut bersifat sukarela dan tidak memiliki kekuatan hukum mengikat.
Di sisi lain, Badan Siber dan Sandi Negara (BSSN) terus memperkuat kapasitas deteksi anomali digital. Data dari Indonesia Cybersecurity Outlook 2024 yang dirilis BSSN menyebutkan bahwa serangan berbasis disinformasi yang melibatkan AI generatif akan menjadi ancaman siber paling signifikan hingga 2026. Tanpa regulasi setingkat undang-undang, ruang digital Indonesia ibarat medan perang tanpa aturan keterlibatan.
Jalan Tengah: Edukasi dan Teknologi Forensik
Selain mengejar ketertinggalan regulasi, literasi publik menjadi benteng pertama. Kemampuan mengenali konten sintetis—dari gerakan bibir yang tidak sinkron hingga artefak visual aneh—perlu dimasukkan dalam kurikulum literasi digital nasional. Di level teknologi, kolaborasi antara platform media sosial, akademisi, dan pemerintah untuk membangun perangkat deteksi deepfake berbasis AI menjadi kebutuhan mendesak.
Sebuah studi dari Journal of Online Trust & Safety (2023) mengonfirmasi bahwa kombinasi alat otomatis dan verifikasi manusia jauh lebih efektif mengidentifikasi deepfake dibandingkan hanya mengandalkan sistem AI semata. Artinya, investasi pada teknologi deteksi harus beriringan dengan penguatan kapasitas sumber daya manusia.
