8 Prediksi Kaspersky, Bagaimana AI Menjadi Ancaman dan Pertahanan Siber Ini Wajib Dilakukan

Kualitas visual deepfake sudah tinggi, sementara audio realistis tetap menjadi area utama untuk pertumbuhan di masa depan.

Pada saat yang sama, alat pembuatan konten menjadi lebih mudah digunakan, bahkan non-ahli pun sekarang dapat membuat deepfake berkualitas menengah hanya dalam beberapa klik.

Akibatnya, kualitas rata-rata terus meningkat, pembuatan menjadi lebih mudah diakses oleh khalayak yang jauh lebih luas, dan kemampuan ini pasti akan terus dimanfaatkan oleh penjahat siber.

3. Upaya mengembangkan sistem yang andal untuk memberi label pada konten yang dihasilkan AI akan terus berlanjut.

Masih belum ada kriteria terpadu untuk mengidentifikasi konten sintetis secara andal, dan label saat ini mudah untuk dilewati atau dihapus, terutama saat bekerja dengan model sumber terbuka.

Karena alasan ini, inisiatif teknis dan regulasi baru yang bertujuan untuk mengatasi masalah ini kemungkinan akan muncul.

4. Deepfake daring akan terus berkembang tetapi tetap menjadi alat untuk pengguna tingkat lanjut.

Teknologi pertukaran wajah dan suara secara real-time semakin meningkat, tetapi pengaturannya masih membutuhkan keterampilan teknis yang lebih canggih.

Adopsi secara luas tidak mungkin terjadi, namun risiko dalam skenario yang ditargetkan akan meningkat, yakni peningkatan realisme dan kemampuan untuk memanipulasi video melalui kamera virtual membuat serangan tersebut lebih meyakinkan.

Baca Juga: 7 HP Kamera AI Terbaik Harga Rp1 Jutaan, Foto Auto Jernih Tanpa Editing

5. Model sumber terbuka akan mendekati model tertutup dalam banyak tugas terkait keamanan siber, yang menciptakan lebih banyak peluang untuk penyalahgunaan.

Model tertutup masih menawarkan mekanisme kontrol dan perlindungan yang lebih ketat, membatasi penyalahgunaan.

Namun, sistem sumber terbuka dengan cepat mengejar ketertinggalan dalam fungsionalitas dan beredar tanpa batasan yang sebanding.

Hal ini mengaburkan perbedaan antara model berpemilik dan model sumber terbuka, yang keduanya dapat digunakan secara efisien untuk tujuan yang tidak diinginkan atau berbahaya.

6. Batasan antara konten yang dihasilkan AI yang sah dan palsu akan semakin kabur.

AI sudah dapat menghasilkan email penipuan yang dibuat dengan baik, identitas visual yang meyakinkan, dan halaman phishing berkualitas tinggi.