Kekerasan Seksual dengan AI Telah Marak, SafeNet Soroti Masih Ada Polisi 'Gaptek': Gak Tahu Chat Bisa Dimanipulasi

Suara.com - Kasus kekerasan seksual dengan memanfaatkan artificial intelligence (Ai) di Indonesia disebut sulit dibawa ke ranah hukum. Pandangan SafeNet, salah satu penyebabnya karena masih ada aparat penegak hukum yang tidak 'melek' terhadap teknologi.

"Tidak mudah menangani kasus kekerasan yang gunakan Ai. Polisinya aja gak ngerti, itu masalahnya. Polisi gak ngerti kalau screenshoot pesan itu bisa dimanipulasi," kata Direktur eksekutif SafeNet Nenden S Arum dalam diskusi 16 Hari Anti Kekerasan Terhadap Perempuan bersama UNiTE di Jakarta, Minggu (8/12/2024).

Nenden menjelaskan kalau Indonesia sebenarnya sudah punya aturan untuk kasus kekerasan yang terjadi di internet atau memanfaatkan teknologi. Yakni, melalui Kekerasan Berbasis Gender Online (KBGO) dalam Pasal 14 UU No. 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual (TPKS).

Namun, SafeNet menilai kalau aparat penegak hukum nampaknya belum paham dengan ranah hukum tersebut.

"Sehingga yang masih digunakan itu undang-undang favorit, yaitu UU ITE," imbuhnya.

Nenden menyebutkan kalau kekerasan seksual dengan Ai paling banyak terjadi ialah deepfake, yakni dengan mengedit suara, video, maupun foto seseorang menjadi unsur pornografi.

"Banyak kasus selfie diedit jadi sensual kemudian disalahgunakan. Itu menunjukan, di samping Ai harusnya dimanfaatkan, tapi ternyata mengandung dampak bahaya," ucapnya.

Sebelumnya, Deputi Perlindungan Hak Perempuan Kementerian PPPA Ratna Susianawati menyebutkan bahwa kekerasan seksual menggunakan Ai sebagai bentuk Kekerasan Seksual Berbasis Elektronik (KSBE). Dia juga mengatakan kalau deepfake menjadi salah satu kejahatan seksual yang paling banyak dilakukan dengan memanfaatkan Ai.

"Kalau bicara dampak kekerasan seksual yang timbul dari pengaruh digital teknonologi nggak bisa dipungkiri. Teknologi ada dua sisi, ada positif dan negatifnya," kata Ratna saat mediatalk di kantor KemenPPPA, Jakarta, pada Jumat (29/11/2024).

Baca Juga: Laki-laki Juga Jadi Korban Kekerasan Seksual di Medsos, SafeNet: Paling Banyak di MiChat

Ratna menjelaskan kekerasan seksual menggunakan Ai sudah menjadi atensi KemenPPPA. Hal itu turut dibahas dalam penyusunan UU TPKS. Tujuannya agar pelakunya dapat diganjar hukuman yang layak.