- Penggunaan AI berisiko membocorkan data rahasia perusahaan dan menghasilkan informasi keliru atau penipuan deepfake.
- Reza Aminy menyatakan perusahaan wajib menerapkan pengawasan ketat serta pemeriksaan manusia untuk mencegah kesalahan.
- Pekerja perlu memahami batasan penggunaan AI sebelum menjadikannya bagian dari rutinitas kerja.
Suara.com - Penggunaan kecerdasan buatan atau artificial intelligence (AI) semakin memudahkan pekerjaan, mulai dari merangkum dokumen, menyusun laporan, hingga mencari ide. Namun, di balik kemudahan tersebut, ada risiko yang perlu diperhatikan, terutama ketika pengguna memasukkan informasi internal perusahaan atau data pelanggan ke layanan AI.
Tanpa memahami kebijakan pengelolaan data pada layanan yang digunakan, informasi sensitif berpotensi tidak terlindungi sebagaimana mestinya. Karena itu, pekerja perlu memahami batasan penggunaan AI sebelum menjadikannya bagian dari rutinitas kerja.
Risiko penggunaan AI tidak hanya berkaitan dengan keamanan data. Teknologi ini juga dapat menghasilkan informasi yang keliru, termasuk jawaban yang mencantumkan referensi yang sebenarnya tidak ada. Jika hasil tersebut langsung digunakan tanpa pemeriksaan, kesalahan bisa terbawa ke laporan, komunikasi bisnis, hingga pengambilan keputusan.
AI juga dapat disalahgunakan untuk penipuan digital. Salah satu contohnya adalah penggunaan teknologi deepfake untuk meniru sosok pimpinan dalam rapat daring. Dalam situasi seperti ini, verifikasi identitas dan instruksi menjadi penting, terutama jika berkaitan dengan permintaan transfer dana atau informasi rahasia.
Pahami Risiko Sebelum Menggunakan AI
Associate Director IT & Digital BDO di Indonesia, Reza Aminy, menjelaskan bahwa perusahaan perlu menyiapkan tata kelola sebelum menerapkan AI. Penggunaannya perlu disertai kejelasan tujuan, penanggung jawab, serta pengendalian yang disesuaikan dengan tingkat risiko.
“Tata kelola perlu disiapkan sebelum AI diterapkan. Semakin tinggi risiko penggunaannya, semakin ketat pengendalian yang dibutuhkan, termasuk pemeriksaan oleh manusia agar hasil dan keputusan dapat dipertanggungjawabkan,” ujar Reza.
Bagi pekerja, salah satu langkah yang dapat dilakukan adalah tidak sembarangan memasukkan dokumen internal, data pelanggan, atau informasi rahasia ke chatbot AI. Pengguna juga perlu memahami kebijakan layanan yang dipakai serta mengikuti aturan perusahaan terkait penggunaan teknologi tersebut.
Selain itu, hasil AI sebaiknya tidak langsung dianggap benar. Informasi penting, angka, dan referensi tetap perlu diperiksa sebelum digunakan atau disebarkan. Jika AI menghasilkan rekomendasi yang memengaruhi keputusan penting, pemeriksaan oleh manusia tetap diperlukan.
Perusahaan juga perlu mengevaluasi penggunaan AI secara berkala, termasuk memastikan karyawan memahami risiko keamanan data dan cara menggunakan teknologi secara bertanggung jawab.
Pentingnya pengawasan AI turut dibahas dalam forum IKAI Morning Coffee bertema “AI Governance: Practical Oversight Strategies for Audit Committee” yang diselenggarakan BDO di Indonesia bersama Ikatan Komite Audit Indonesia (IKAI) di Jakarta, 19 Oktober 2026.
Melalui forum tersebut, BDO di Indonesia dan IKAI menyoroti pentingnya tata kelola dan pengawasan agar pemanfaatan AI dapat mendukung produktivitas tanpa mengabaikan perlindungan data, keamanan, dan kepercayaan pemangku kepentingan.