Kenali Cara Mengelola Risiko Penerapan AI dalam Perusahaan

Suara.com - Menerapkan teknologi AI dewasa ini bukan hanya membantu pekerjaan kita, namun juga membuat pekerjaan kita menjadi efektif. Namun, bukan berarti menggunakan AI tidak memilki risiko.

Ada beberapa risiko yang menjadi sebuah tantangan bagi perusahaan khuusnya. Ramprakash Ramamoorthy, Direktur Riset ManageEngine mengungkap beberapa tantangan dan juga membagikan cara mengelola resiko tersebut.

Menurut Ramprakash atau yang akrab disapa dengan Ram menyebutkan tantangan yang signifikan adalah kurangnya sumber daya manusia yang berbakat, sehingga perusahaan-perusahaan terkemuka bersedia membayar mahal untuk mendapatkan hasil terbaik meskipun ada ketidakpastian ekonomi. Maka perusahaan harus memikirkan kembali paket remunerasi, kesejahteraan, dan lingkungan kerja yang mereka tawarkan untuk menarik talenta yang banyak dibutuhkan.

Menurutnya kekurangan SDM berbakat ini jika terus berlanjut akan berdampak serius pada keamanan siber, yang merupakan wilayah penerapan utama AI. Namun, perusahaan bisa lebih kreatif dalam mengatasi masalah ini. Platform berkode rendah dan tanpa kode, misalnya, sudah tersedia dan dirancang untuk memberdayakan perusahaan yang bergulat dengan kekurangan keterampilan. Selain bekerja sama dengan mitra dan vendor yang memang memiliki keahlian dan alat untuk menggunakan AI secara maksimal, mereka juga dapat mengembangkan keterampilan AI melalui kemitraan dengan lembaga pelatihan.

Dalam hal ini, Ram juga menyebutkan priortitas utama dalam mengatasi masalah keamanan. Untuk melindungi data dari risiko AI, penting untuk mengetahui data apa yang dibagikan.  Ram mencontohkan dengan perusahaan yang menaunginya, menurutnya ManageEngine menangani hal ini dengan sangat serius dan memperjuangkan akuntabilitas algoritma, transparansi, dan keadilan.

Selain itu, metodologi ManageEngine dalam merancang produk dan layanan didasarkan pada pendekatan privasi yang dirancang khusus, yang berarti bahwa privasi selalu menjadi prioritas utama. Perusahaan harus berpegang teguh pada pedoman etis AI, memastikan bahwa AI dikembangkan dan digunakan secara bertanggung jawab.

“Jadi yang terakhir tapi juga tidak kalah pentingnya, sangat penting untuk mengatasi risiko keamanan AI dengan menerapkan Zero Trust. Perusahaan perlu memastikan akses tidak didasarkan pada kepercayaan implisit, dan memanfaatkan autentikasi multifaktor yang kuat serta proses masuk yang lancar tanpa kata sandi,” ujarnya, Selasa (20/2/2024).

Ia juga menambahkan direktori Aktif akan sangat membantu karena hanya memberikan pada setiap pengguna akses ke sumber daya penting yang mereka perlukan, dan tidak lebih. Selain itu, solusi SIEM yang memanfaatkan analisis perilaku pengguna dan entitas secara real-time, intelijen ancaman, serta deteksi dan respons insiden dapat menempatkan perusahaan pada posisi yang lebih aman di tengah kemajuan AI.

Perusahaan perlu memahami betapa pentingnya privasi data saat ini, lebih dari sebelumnya, karena era AI yang kita jalani. Masalah ini sangat penting untuk diperhatikan para pemimpin perusahaan. Di tengah pengawasan ketat dari regulator dan masyarakat, model AI dilatih secara khusus untuk menjaga privasi pelanggan tetap utuh, yang merupakan hal penting bagi tujuan perusahaan kami untuk menghadirkan model AI yang memaksimalkan nilai bisnis dan pengalaman pengguna akhir yang positif.

Baca Juga: Epson Tekankan Kepedulian Pada Tujuan Pembangunan Berkelanjutan

Selain itu, selama dekade terakhir, ManageEngine telah memberikan perhatian khusus untuk membangun solusi AI dari awal, tanpa komponen apa pun yang hak patennya dimiliki pihak ketiga. Hal ini dilakukan untuk memastikan bahwa kerangka kerja AI mengoptimalkan kehadiran teknologi AI yang lebih baik dan memenuhi kebutuhan operasional TI perusahaan, mulai dari analisis akar masalah hingga pengurangan dampak. Penting bagi perusahaan untuk terlibat dengan komunitas AI yang lebih luas guna mendorong pengembangan AI yang bertanggung jawab dan beretika untuk membantu upaya memitigasi risiko AI.

Perusahaan memerlukan pendekatan yang komprehensif. Membangun kerangka etika dan pagar internal yang kuat adalah hal penting dalam pengembangan AI yang mengutamakan transparansi, keadilan, dan akuntabilitas. Ram juga menyampaiakan, perusahaan dapat mendorong inklusivitas dan keberagaman untuk meminimalkan bias melalui keterlibatan publik dan kolaborasi dengan pemerintah, industri, akademisi, dan masyarakat sipil.

“Pendekatan yang melibatkan seluruh masyarakat ini membuka jalan bagi praktik perusahaan yang lebih bertanggung jawab, peningkatan investasi di bidang pendidikan, dan promosi AI untuk kebaikan sosial. Hal ini akan mendorong para pemangku kepentingan di masyarakat mencapai keseimbangan antara inovasi dan etika, yang akan membawa kita bersama menuju integrasi teknologi AI yang lebih adil dan bermanfaat ke dalam masyarakat” Pungkasnya.

Keberadaan AI yang dapat menghasilkan kekhawatiran jika tidak dapat digunakan dengan bijak misalnya, hilangnya beberapa jenis pekerjaan menjadi sebuah kekhawatiran yang nyata, namun melalui pendekatan yang komprehensif, inisiatif pelatihan ulang keterampilan dapat disesuaikan untuk meminimalkan dampaknya.

Pada saat yang sama, perusahaan dapat mengambil kendali dengan melakukan penilaian dampak sosial. Misalnya, sebelum menerapkan AI, mereka dapat melakukan penilaian menyeluruh terhadap kebijakan privasi data.

Di sisi lain, dunia usaha harus terus memantau dampak sosial dari penerapan AI. Menekankan perilaku perusahaan yang bertanggung jawab, meningkatkan kesadaran masyarakat, dan mengatasi berkurangnya lapangan pekerjaan melalui inisiatif pelatihan ulang keterampilan merupakan aspek integral dari pendekatan komprehensif. Dengan mengadopsi strategi ini, dunia usaha dapat memainkan peran utama dalam membantu masyarakat memanfaatkan potensi transformatif AI.