Ilustrasi Agen AI (foto: Salesforce) JAKARTA - Data State of IT terbaru dari Salesforce menunjukkan optimisme yang kuat terhadap agen AI, dengan 100% pemimpin keamanan TI mengidentifikasi setidaknya satu tantangan keamanan dapat ditingkatkan dengan agen AI.Di Indonesia sendiri, lebih dari 51% tim keamanan TI mengaku telah menggunakan agen AI dalam pekerjaan sehari-hari. Jumlah ini diperkirakan akan lebih dari dua kali lipat dalam dua tahun ke depan. Meskipun begitu, survei terhadap lebih dari 150 pemimpin TI di Indonesia, termasuk 75 profesional yang bertanggung jawab atas keamanan, privasi, dan kepatuhan regulasi, menyoroti tantangan besar dalam hal implementasi. Hampir 1 dari 3 organisasi (29%) mengkhawatirkan fondasi data mereka belum siap untuk memaksimalkan agentic AI, dan lebih dari setengah (57%) tidak sepenuhnya yakin memiliki pengamanan (guardrail) yang memadai untuk menerapkan agen AI.“49% pemimpin keamanan TI di Indonesia mengatakan bahwa pelanggan masih ragu mengadopsi AI karena masalah keamanan dan privasi, jelas bahwa pengelolaan data yang kuat bukan lagi pilihan, tapi keharusan,” kata Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce.Di sisi lain, laporan ini juga melihat bahwa ancaman siber berbasis AI ikut berkembang cepat, dan 71% pemimpin TI Indonesia khawatir ancaman ini akan segera menaklukkan sistem perlindungan tradisional. Selain serangan yang sudah umum seperti peretasan keamanan cloud, malware, dan phishing, mereka kini semakin waspada terhadap data poisoning, di mana penjahat siber merusak data yang digunakan untuk melatih AI, sehingga menghasilkan keputusan yang tidak akurat atau berbahaya. Meski 71% pemimpin TI Indonesia mengklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar, dan hanya 43% percaya bahwa sistem pengamanan mereka sudah memadai.Maka dari itu, sangat penting untuk meningkatkan tata kelola data sesuai dengan regulasi yang telah diterapkan seperti Undang-Undang Perlindungan Data Pribadi (PDP), untuk mencegah insiden siber. Bagi perusahaan, ini berarti mereka harus menyesuaikan sistem internal, kebijakan, dan praktik penggunaan AI agar terhindar dari risiko hukum dan reputasi. Di mana regulasi ini mewajibkan organisasi untuk memperoleh izin eksplisit dari pengguna sebelum memproses data, menunjuk petugas perlindungan data, segera melaporkan pelanggaran, serta memenuhi ketentuan ketat dalam transfer data lintas negara.