Video Palsu, Suara Pemilih, dan Ancaman Demokrasi: Bawaslu Denpasar Angkat Isu Deepfake

Denpasar - Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) menghadirkan tantangan baru bagi demokrasi. Salah satunya adalah penyalahgunaan teknologi deepfake yang berpotensi digunakan sebagai instrumen kampanye hitam (black campaign) dan disinformasi pada pemilu. Menyikapi fenomena tersebut, Bawaslu Kota Denpasar menyelenggarakan Diskusi Hukum Triwulan II bertajuk “Urgensi Pengaturan Penyalahgunaan AI (Deepfake) sebagai Instrumen Black Campaign dalam Melawan Ancaman Citra Diri Palsu di Pusaran Demokrasi Pemilu Indonesia” pada Jumat (29/5/2026). Kegiatan dilakukan secara daring melalui Zoom Meeting dengan menghadirkan sekitar 190 peserta yang berasal dari Universitas Udayana, Universitas Warmadewa, dan Universitas Pendidikan Nasional (Undiknas).

Dalam sambutannya, Anggota Bawaslu Provinsi Bali I Gede Sutrawan menegaskan bahwa perkembangan AI dan deepfake menjadi tantangan baru bagi penyelenggara pemilu. Menurutnya, teknologi tersebut memiliki kemampuan memengaruhi persepsi publik secara luas sehingga berpotensi berdampak terhadap pilihan politik masyarakat.
“Kalau itu terjadi di masa kampanye, AI sangat berdampak sekali terhadap pemungutan suara. Efeknya sangat besar ke rakyat, dapat membuat suara turun ataupun naik,” ujarnya.

Sutrawan menilai perkembangan AI dan deepfake telah menjadi tantangan serius dalam pengawasan pemilu. Karena itu, diperlukan landasan hukum yang jelas untuk mendukung pengawasan di ruang digital. Menurutnya, pembentukan regulasi AI masih memerlukan berbagai masukan dari banyak pihak, termasuk kalangan mahasiswa yang dekat dengan perkembangan teknologi.

Pada kesempatan yang sama, Ketua Bawaslu Kota Denpasar I Putu Hardy Sarjana menyampaikan apresiasi kepada seluruh peserta dan narasumber yang terlibat dalam kegiatan tersebut. Hardy menjelaskan bahwa teknologi AI kini tidak hanya mampu memanipulasi wajah seseorang, tetapi juga merekayasa suara dan pernyataan secara realistis. Kondisi tersebut berpotensi merusak reputasi maupun citra peserta pemilu.
“Ketika publik tidak bisa membedakan mana yang asli dan mana yang hoaks, maka dampaknya akan sangat besar terhadap demokrasi,” ungkapnya.

Ia juga mengajak generasi muda untuk berperan aktif dalam meningkatkan literasi digital masyarakat agar lebih kritis dalam menerima maupun menyebarluaskan informasi di ruang digital.

Dalam sesi materi, Tenaga Ahli Divisi Hukum dan Penyelesaian Sengketa Bawaslu RI, Kurniawan, S.H.,M.H sebagai narasumber menyoroti meningkatnya risiko penyalahgunaan AI untuk memproduksi berita palsu, manipulasi audio visual, hingga berbagai bentuk disinformasi yang tampak meyakinkan. Menurutnya, teknologi deepfake dapat digunakan untuk menciptakan video tokoh politik yang seolah-olah menyampaikan pernyataan kontroversial atau melakukan tindakan yang tidak pernah terjadi.
“Penggunaan AI untuk menghasilkan berita palsu yang meyakinkan, deepfake, dan bentuk-bentuk disinformasi lainnya dalam skala besar merupakan ancaman besar terhadap integritas pemilu,” jelasnya.

Kurniawan juga menjelaskan bahwa Indonesia saat ini belum memiliki pengaturan khusus terkait penggunaan AI dalam pemilu. Namun demikian, Mahkamah Konstitusi melalui Putusan Nomor 166/PUU-XXI/2023 telah memberikan penegasan mengenai penggunaan citra diri dalam kampanye yang harus bersifat asli dan tidak direkayasa secara berlebihan dengan bantuan AI.

Lebih lanjut, ia menekankan bahwa pengawasan terhadap penyalahgunaan AI tidak dapat dilakukan oleh Bawaslu sendiri. Diperlukan kolaborasi dengan platform digital, komunitas, akademisi, lembaga teknologi, serta peningkatan literasi digital masyarakat sebagai langkah mitigasi bersama.

Senada dengan hal tersebut, Akademisi FISIP Universitas Udayana, Dr. Efatha Filomeno Borromeu Duarte, S.IP., M.Sos, menekankan bahwa ancaman deepfake dan manipulasi algoritma tidak semata-mata persoalan teknologi. Fenomena tersebut juga berkaitan erat dengan aspek psikologis, sosial, hingga hukum yang memengaruhi kualitas demokrasi modern.

Ia menjelaskan bahwa perkembangan AI telah membawa masyarakat memasuki era baru ketika kebohongan dapat diproduksi oleh mesin, disebarluaskan tanpa pengarang yang jelas, dan dipersonalisasi kepada setiap individu.

Dalam kesempatan tersebut, Efatha memperkenalkan konsep Cetak Biru Tata Kelola AI dalam Pemilu yang menekankan pentingnya sinergi antara teknologi, regulasi hukum, dan sistem pengawasan demokrasi yang adaptif terhadap perkembangan zaman. Menurutnya, Indonesia membutuhkan sistem pengawasan digital yang lebih responsif, termasuk melalui registrasi kampanye digital, audit perilaku sistem, serta mekanisme pengawasan algoritma yang mampu menjaga kualitas demokrasi di ruang digital.

Selain itu, Efatha mengingatkan pentingnya membangun kesadaran masyarakat untuk menerapkan prinsip “saring sebelum sharing” dalam menghadapi derasnya arus informasi digital.

“Kecepatan perkembangan AI tidak bisa dilawan, yang bisa melawan adalah diri kita sendiri dengan membatasi dan menyaring informasi yang kita terima,” tegasnya.

Melalui kegiatan ini, Bawaslu Kota Denpasar berharap kesadaran masyarakat terhadap bahaya penyalahgunaan AI dalam proses demokrasi semakin meningkat, sehingga integritas pemilu di Indonesia tetap terjaga di era digital dan kecerdasan buatan.