Deep Fake Mengancam Jelang Pemilu 2024, Wamenkominfo Upayakan Perlindungan Kelompok Rentan

Suara.com - Wamenkominfo Nezar Patria menegaskan telah mengantisipasi peluang penyebaran disinformasi yang menggunakan teknologi AI dan Deep Fake, terutama menjelang Pemilihan Umum atau Pemilu 2024.

“Melalui algoritma dan otomasi yang dapat menghasilkan bias maupun otomasi yang bersifat preskriptif serta penyalahgunaan algoritma yang berpotensi menimbulkan disinformasi,” ungkap Nezar dalam Seminar Nasional bertajuk Disinformasi dan Kelompok Rentan di Era Manipulasi Media Digital di Wisma Magister Manajemen Universitas Gadjah Mada, Yogyakarta, Kamis (16/11/2023).

Selama 2023, data Home Security Heroes menunjukkan terdapat 95.820 video Deep Fake yang tersebar secara global. Teknik Depp Fake bisa memanipulasi video, gambar, dan suara secara digital sesuai dengan pesan yang tidak pernah terjadi di dunia nyata.

“Ada peningkatan sebesar 550 persen dari tahun 2019 secara global. Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi,” tandas Wamenkominfo.

Mengutip hasil survei UNESCO & IPSOS (2023), Nezar menujukkan lebih dari 80 persen masyarakat yang akan menghadapi pemilihan umum percaya bahwa disinformasi telah berdampak pada politik di negara masing-masing dan khawatir akan dampak dari disinformasi tersebut.

"Terlebih, dampak disinformasi bisa sangat luas, mulai dari potensi polarisasi politik, penurunan kepercayaan terhadap jurnalisme hingga proses demokrasi sendiri," tegasnya.

Di era proliferasi AI dan ancaman disinformasi yang makin intensif, Wamenkominfo menilai kelompok rentan memiliki risiko yang lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi.

Menurutnya, ada tiga dampak dan viktimisasi yang mungkin terjadi, pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan. Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan kelompok rentan.

"Ketiga, perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi Deep Fake," ujarnya.

Baca Juga: Teknologi Hijau Berbasis AI Bisa Dorong Ekonomi Global hingga Rp 81 Ribu Triliun

Oleh karena itu, Kementerian Kominfo memberikan perhatian penuh pada kelompok rentan seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda.

"Pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman," tandasnya.

Acara seminar juga dihadiri Guru Besar Sosiologi UGM Heru Nugroho, Guru Besar Universitas Negeri Yogyakarta Sugeng Bayu Wahyono, Peneliti Senior Depertemen Politik dan Perubahan Sosial Centre For Strategic and International Studies (CSIS) Vidhyandika Djati Perkasa, Wakil Dekan Bidang Keuangan, Aset dan Sumber Daya Manusia Khabib Mustofa UGM dan Manajer Program RUAS Indonesia Tarlen Handayani.