Ledakan GenAI : Adopsi Meroket 890 Persen di 2024, Siapkah Indonesia dengan Risikonya?

Tom Scully, Director and Principal Architect for Government and Critical Industries, Asia Pacific & Japan, at Palo Alto Networks, mengatakan bahwa adopsi AI menawarkan peluang transformatif di seluruh sektor komersial dan pemerintah di kawasan ini.

"Namun, seperti yang disoroti dalam laporan ini, kami juga melihat adanya attack surface yang berkembang, terutama dengan penggunaan aplikasi GenAI yang berisiko tinggi di sektor infrastruktur penting," bebernya dalam keterangan resminya, Jumat (11/7/2025).

Menurut dia, organisasi harus menyeimbangkan inovasi dengan tata kelola yang kuat, mengadopsi arsitektur keamanan yang memperhitungkan risiko-risiko unik dari AI.

Mulai dari shadow AI, ditambahkannya, kebocoran data, hingga ancaman lebih kompleks yang ditimbulkan oleh model AI agentik.

"Pengawasan proaktif dan kontrol keamanan yang adaptif sangat penting untuk memastikan bahwa manfaat AI dapat direalisasikan sepenuhnya tanpa mengorbankan keamanan nasional, kepercayaan publik, atau integritas operasional," ujar Tom Scully.

Laporan State of GenAI 2025, berdasarkan analisis traffic dari 7.051 pelanggan perusahaan global, memberikan gambaran mendalam tentang bagaimana perusahaan mengadopsi GenAI dan di mana mereka paling rentan.

Dari laporan itu terungkap bahwa referensi pengguna yang tinggi untuk platform produktivitas terlihat jelas dalam lanskap GenAI di Indonesia.

Aplikasi Grammarly memimpin sebagai tiga aplikasi teratas yang paling banyak digunakan (52,05 persen), diikuti oleh Microsoft 365 Copilot (16,84 persen) dan Microsoft Power Apps (14,49 persen).

Traffic GenAI meningkat lebih dari 890 persen pada tahun 2024. Setelah peluncuran DeepSeek-R1 pada Januari 2025, traffic yang terkait dengan DeepSeek saja melonjak 1.800 persen dalam kurun waktu dua bulan.

Baca Juga: 5 Rekomendasi HP Murah dengan Fitur AI: Modal Rp1 Jutaan Ngonten Jadi Gampang

Namun, insiden data loss prevention (DLP) yang terkait dengan GenAI meningkat lebih dari dua kali lipat, sekarang mencapai 14 persen dari semua insiden keamanan data.

Selain itu, penggunaan GenAI yang tidak sah dan tidak disetujui, yang disebut “Shadow AI”, telah menciptakan sejumlah blind spot bagi tim IT dan keamanan, sehingga menyulitkan untuk mengontrol aliran data yang sensitif.

Terungkap pula banyak model AI berisiko tinggi yang tetap rentan terhadap serangan jailbreak yang menghasilkan konten yang tidak aman, termasuk materi ofensif dan instruksi untuk aktivitas ilegal.

Diketahui bahwa sektor teknologi dan manufaktur menyumbang 39 persen dari transaksi coding AI, sehingga menciptakan risiko tambahan bagi industri yang bergantung pada kekayaan intelektual.

Adi Rusli, Country Manager, Indonesia, Palo Alto Networks, mengungkapkan, tanpa adanya perlindungan dan kontrol keamanan yang memadai, aplikasi GenAI dapat menjadi vektor bagi serangan siber.

"Kekayaan intelektual dan data pribadi berisiko terekspos, disimpan, atau disalahgunakan, sehingga menimbulkan kekhawatiran terhadap privasi, kehilangan data sensitif, dan ketidakpatuhan regulasi," katanya.

Untuk mengatasinya, dia menambahkan, perusahaan perlu mengambil langkah proaktif guna memitigasi risiko.

"Kolaborasi yang kuat antar pemangku kepentingan akan membuka peluang bagi organisasi di Indonesia untuk menanamkan kepercayaan, transparansi, dan akuntabilitas untuk strategi AI mereka," ujarnya.

Adi Rusli mengungkapkan bahwa pendekatan ini akan membuka jalan bagi adopsi AI yang lebih aman dan tangguh di seluruh lanskap perusahaan.

Sumber data untuk laporan ini diperoleh dari analisis Palo Alto Networks terhadap traffic GenAI di seluruh basis pelanggan global yang terdiri dari 7.051 organisasi sepanjang tahun 2024.