Apple Hapus Aplikasi Hasilkan Gambar Bugil Menggunakan AI Generatif dari App Store

Suara.com - Hanya beberapa hari setelah tersiar kabar tentang fitur AI yang bermasalah dalam melepas pakaian di ponsel Huawei, berita serupa juga muncul mengenai Apple (melalui 404 Media).

Perusahaan tersebut dilaporkan telah menghapus tiga aplikasi dari App Store yang diiklankan sebagai “generator seni”.

Namun, aplikasi tersebut mempromosikan di Instagram dan situs dewasa yang mengklaim bahwa mereka dapat “menjadikan gadis mana pun bugil secara gratis.”

Baca Juga: Riset: Penjualan iPhone Awal 2024 Terburuk sejak 6 Tahun Terakhir, HP Android Bangkit

Aplikasi-aplikasi ini mengeksploitasi AI generatif untuk membuat gambar bugil palsu dari individu yang berpakaian.

Meskipun gambar tersebut tidak menggambarkan bugil yang sebenarnya, aplikasi ini dapat menghasilkan gambar yang dapat digunakan untuk pelecehan, pemerasan, dan pelanggaran privasi.

Hal yang mengkhawatirkan adalah tanggapan Apple muncul setelah 404 Media membagikan tautan ke aplikasi dan iklan mereka.

Anehnya, aplikasi ini telah tersedia di App Store sejak 2022, mengiklankan fitur “menanggalkan pakaian” di situs dewasa.

Laporan tersebut juga menunjukkan bahwa aplikasi-aplikasi ini awalnya diizinkan untuk tetap berada di App Store jika mereka menghapus iklan dari situs dewasa.

Baca Juga: Kolaborasi Alibaba Cloud dan MediaTek Hadirkan AI Generatif di Smartphone

Namun, salah satu aplikasi tersebut menjalankan iklan hingga 2024, ketika Google menariknya dari Play Store.

Dilansir dari laman Gizmochina, Senin (29/4/2024), Apple kini akhirnya memutuskan untuk menghapusnya dari App Store.

Baca Juga: Penjualan Menurun, Apple Disarankan Rilis iPhone Murah

Namun agak mengkhawatirkan melihat sifat reaktif dari moderasi toko aplikasi dan potensi pengembang untuk mengeksploitasi celah.

Insiden ini terjadi pada saat yang sensitif bagi Apple. WWDC 2024 sudah dekat dan perusahaan diperkirakan akan membuat pengumuman AI besar-besaran untuk iOS 18 dan Siri.

Apple telah secara aktif membangun reputasi untuk pengembangan AI yang bertanggung jawab, sampai melisensikan data pelatihan secara etis.

Sebaliknya, Google dan OpenAI menghadapi tuntutan hukum karena diduga menggunakan konten berhak cipta untuk melatih sistem AI mereka.

Penundaan penghapusan aplikasi NCI oleh Apple berpotensi merusak citra yang dikembangkan dengan hati-hati.