Penggunaan Agentic AI, Wamen Komdigi Tekankan Know Your Agent
JAKARTA, PODIUMNEWS.com – Penggunaan agentic artificial intelligence (agentic AI) yang dapat memproses data dan mengambil keputusan secara mandiri menuntut perusahaan mengenali agen AI yang berinteraksi dengan pelanggan maupun sistem bisnisnya.
Wakil Menteri Komunikasi dan Digital Nezar Patria menekankan pentingnya pendekatan Know Your Agent (KYA) untuk mengantisipasi risiko penyalahgunaan data dan tindakan agen AI yang melampaui batas kewenangannya.
“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Wamen Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10/2026).
Wamen Nezar Patria menjelaskan perusahaan semakin banyak menggunakan agentic AI untuk membantu layanan pelanggan, transaksi, dan berbagai proses bisnis.
Teknologi ini tidak hanya mengandalkan model AI generatif, tetapi juga dilengkapi algoritma dan otorisasi untuk memproses data serta menjalankan tindakan tertentu. “Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.
Menurut Wamen Nezar, penggunaan agen AI perlu diikuti pemahaman mengenai identitas, kepemilikan, dan batas kewenangannya. Hal ini penting karena agen AI dapat berinteraksi dengan sistem perusahaan dan memproses data berdasarkan otorisasi yang diberikan.
“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Wamen Nezar.
Ia menilai perusahaan perlu mengantisipasi risiko tersebut seiring meluasnya penggunaan agen AI, termasuk ketika teknologi ini digunakan untuk berinteraksi dengan pelanggan atau menjalankan transaksi.
“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI,” ujarnya.
Wamen Nezar juga mengingatkan bahwa penggunaan AI perlu memperhatikan pelindungan data pribadi.
Menurutnya, risiko kebocoran dan penyalahgunaan data tidak hanya berkaitan dengan keamanan sistem, tetapi juga dapat muncul dari cara teknologi baru diberi akses dan kewenangan untuk memproses data.
Oleh karena itu, ia menekankan arti penting penerapan prinsip security by design dan privacy by design sejak tahap perancangan sistem.
“Kedua prinsip tersebut, perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi,” tegasnya.
Wamenkomdigi Nezar Patria menyatakan pemerintah terbuka terhadap masukan dari pelaku usaha mengenai persoalan baru yang muncul dalam penerapan teknologi. “Masukan tersebut diperlukan untuk membantu mengidentifikasi risiko dan mendalami kebutuhan pengaturan teknis seiring perkembangan AI,” ungkapnya.
(riki/kturnip)
