Selain memberi manfaat, AI ternyata membawa risiko. Ada sejumlah kasus yang berdampak buruk. Misalnya baru-baru ini ada penyalahgunaan video deepfake melaui penyalahgunaan AI, pengenalan wajah yang tidak pada tempatnya atau tidak bertanggung jawab dan sehingga bakal melanggar HAM, dll. Pokoknya AI memunculkan risiko yang bisa berdampak terhadap hukum, etika, perlindungan data.
Kini semakin banyak perusahaan Indonesia yang menggunakan sistem AI. Pastinya pengelolaan sistem AI dalam rangka mendukung operasional perusahaan wajib menerapkan tata kelola yang bagus supaya tidak terkena risiko-risiko yang saya sebut di atas.
ISO 42001 adalah standar internasional untuk penerapan Sistem Manajemen Kecerdasan Buatan (Artificial Intelligence Management System, singkatannya AIMS). Standar 42001 dirancang buat perusahaan yang menyediakan atau memanfaatkan produk atau layanan berbasis AI, dan memastikan pengembangan dan penggunaan sistem AI yang bertanggung jawab.