Meresahkan! Konten Porno Berbasis AI Deepfake Marak di Korsel, Korban Perempuan Dewasa dan Remaja

Suara.com - Korea Selatan diguncang oleh gelombang gambar deepfake yang mengandung unsur seksual yang dibuat dan dibagikan secara daring, yang secara membabi buta menyasar perempuan dan anak perempuan menggunakan foto sekolah, swafoto di media sosial, dan bahkan foto wajah militer. Sebuah kanal Telegram dengan lebih dari 220.000 peserta dilaporkan digunakan untuk membuat dan membagikan gambar-gambar pornografi yang dihasilkan oleh kecerdasan buatan ini, yang berfungsi sebagai pengingat global akan konsekuensi yang lebih buruk dari meluasnya penggunaan teknologi ini.

Pengguna dapat mengunggah foto dan dalam hitungan detik membuat konten eksplisit dengan wajah teman, teman sekelas, atau pasangan romantis mereka. Pelaporan awal dari media berita lokal mendorong lebih banyak perempuan untuk maju sebagai korban dan lebih banyak kanal Telegram yang terekspos, yang mengungkap skala sebenarnya dari masalah ini. Banyak korban yang terlibat adalah anak di bawah umur. Para pengunjuk rasa yang mengenakan topeng putih menutupi mata mereka berkumpul di Seoul untuk menuntut keadilan akhir bulan lalu.

Ketika kemarahan meningkat, Presiden Korea Selatan Yoon Suk Yeol meminta pemerintahnya untuk menindak pelecehan digital, dan pihak berwenang mengatakan mereka akan membentuk satuan tugas untuk menangani masalah tersebut. Sementara polisi melakukan penyelidikan, tren mengganggu lainnya muncul. Data awal menunjukkan sebagian besar tersangka pelaku dari gelombang kasus baru-baru ini berusia remaja.

"Beberapa orang mungkin menganggapnya sebagai lelucon belaka, tetapi jelas merupakan tindakan kriminal yang mengeksploitasi teknologi dengan kedok anonimitas," kata Yoon dalam rapat kabinet akhir bulan lalu, mengakui bahwa banyak korban dan pelaku adalah anak di bawah umur.

Yoon benar. Ini bukan sekadar lelucon, dan dampak dari jenis kekerasan seksual digital ini dapat menghancurkan bagi para korban. Banyak kesalahan yang pantas ditimpakan pada Telegram, terutama karena skandal ini mencapai puncaknya pada saat yang sama ketika Kepala Eksekutif platform tersebut Pavel Durov telah ditangkap dan didakwa di Prancis atas dugaan keterlibatan dalam kejahatan, termasuk berbagi pornografi anak, yang dilakukan di aplikasinya. Pihak berwenang Korea mengatakan Telegram bekerja sama dengan penyelidikan dan permintaan untuk menghapus konten.

Namun, kata-kata Yoon akan terdengar tidak masuk akal bagi sebagian orang, mengingat ia berkuasa pada tahun 2022 dengan merayu para pemilih muda laki-laki dengan proposal untuk menghapus kementerian kesetaraan gender, yang ia tuduh memperlakukan laki-laki seperti "calon penjahat seks." Ia juga mengklaim bahwa diskriminasi gender sistemik tidak terjadi di Korea Selatan, dan feminisme tersirat sebagai penyebab rendahnya angka kelahiran di negara tersebut. Sementara itu, perempuan memperoleh sekitar 30% lebih sedikit daripada rekan laki-laki mereka, yang menandai kesenjangan upah gender tertinggi di negara maju. Bahkan di rumah tangga dengan dua pendapatan, perempuan menanggung beban pekerjaan rumah tangga dan tanggung jawab mengasuh anak.

Dan sebelum munculnya perangkat AI terkini yang membuat pembuatan gambar eksplisit deepfake menjadi jauh lebih mudah, kelompok advokasi telah menyoroti serangkaian kejahatan seks digital, yang biasanya melibatkan gambar intim tanpa persetujuan atau kamera tersembunyi.

Ada banyak alasan mengapa perempuan Korea Selatan, seperti rekan-rekan mereka di seluruh dunia maju, memilih untuk tidak memiliki anak, termasuk meningkatnya partisipasi dalam angkatan kerja dan beban membesarkan anak yang tidak merata. Daripada menyalahkan feminisme, mungkin lebih bermanfaat untuk melihat tumpukan data yang sangat meresahkan ini. Ironisnya, salah satu grup Telegram utama yang menyebarkan gambar-gambar ini dilaporkan memiliki sekitar 227.000 anggota - jumlah tersebut hampir sama dengan jumlah bayi yang lahir tahun lalu.

Perempuan Korea Selatan dengan berani mengangkat isu ini ke permukaan dengan protes dan aktivisme, langkah pertama dalam memberlakukan perubahan untuk krisis yang berdampak pada orang-orang di seluruh dunia. Dibandingkan dengan yurisdiksi lain, negara ini juga lebih maju dalam hal mengatur pornografi deepfake. Negara ini sebenarnya memiliki undang-undang, termasuk hukuman hingga lima tahun penjara dan denda bagi orang yang terbukti bersalah membuat gambar dengan maksud untuk mendistribusikannya. Di AS, undang-undang federal telah mengumpulkan dukungan bipartisan di antara para anggota parlemen tetapi masih berjalan sangat lambat di Kongres.

Baca Juga: Perusahaan China Ciptakan Aplikasi AI Serba Bisa, Mulai dari Order Makanan hingga Panggil Taksi

Peraturan itu penting, tetapi kasus-kasus di Korea juga memperlihatkan betapa sulitnya penegakan hukum untuk masalah yang begitu meluas, serta betapa mudahnya konten ini dibuat dan dibagikan sejak awal. Memperluas undang-undang untuk melarang kepemilikan materi semacam itu dapat membantu. Namun, hal ini tetap memberikan banyak tanggung jawab kepada korban untuk melacak secara digital siapa yang membuat konten yang mengubah hidup mereka.

Penangkapan CEO Telegram baru-baru ini menunjukkan adanya peningkatan momentum global untuk meminta pertanggungjawaban perusahaan teknologi atas peran mereka dalam kerugian yang terjadi di platform mereka. Ini adalah langkah ke arah yang benar; karena semakin banyak regulator mengalihkan tanggung jawab kepada perusahaan-perusahaan yang kuat ini, lebih banyak solusi yang dipimpin industri akan diterima dengan baik. Universitas dan pusat penelitian sedang mengembangkan beberapa alat yang menjanjikan untuk melindungi gambar dari manipulasi AI. Namun, tidak cukup sumber daya yang dikhususkan untuk memastikan peluncuran AI yang bertanggung jawab dari industri yang menciptakannya.

Perusahaan teknologi harus lebih bertanggung jawab untuk menghasilkan solusi proaktif. Banyak raksasa teknologi telah menarik kembali tim AI yang beretika dan bertanggung jawab dalam beberapa tahun terakhir di tengah pemangkasan biaya yang lebih luas. Namun, martabat perempuan dan anak perempuan bukanlah sesuatu yang harus dikorbankan demi keuntungan.

Korea Selatan adalah episentrum krisis ini saat ini. Namun, ini adalah masalah global yang dapat memengaruhi siapa saja, mulai dari selebritas seperti Taylor Swift hingga anak-anak sekolah menengah dari Seoul hingga New Jersey. Sektor teknologi tidak dapat terus-menerus menghindari tanggung jawab.