INDUSTRY.co.id - Jakarta - Perkembangan artificial intelligence (AI) kini memasuki babak baru. Teknologi ini tak lagi sekadar digunakan untuk mengolah data atau melakukan otomatisasi sederhana, tetapi mulai berkembang menjadi AI agent yang mampu menjalankan tugas dan mengambil tindakan atas nama pengguna maupun organisasi.
Kemampuan tersebut membuka peluang besar bagi perusahaan untuk meningkatkan produktivitas dan efisiensi. Namun, di balik kemudahan itu muncul tantangan baru, terutama terkait keamanan identitas dan hak akses AI.
Senior Vice President (SVP) & General Manager Asia Pasifik dan Jepang (APJ) Ping Identity, Akkasha Sultan mengatakan, semakin kompleks tugas yang diberikan kepada AI, semakin penting bagi perusahaan memastikan setiap manusia, mesin, maupun agen AI memiliki identitas dan kewenangan yang tepat.
"Identitas merupakan pusat kendali. Identitas sama pentingnya dengan data yang dimiliki sebuah organisasi. Perusahaan perlu memastikan siapa yang telah diidentifikasi, siapa yang bertindak atas nama pengguna, kewenangan apa yang diberikan, berapa lama kewenangan tersebut berlaku, serta bagaimana seluruh aktivitas itu terus dipantau," kata Akkasha.
Menurutnya, kebutuhan tersebut semakin penting seiring perusahaan menerapkan konsep zero trust dalam sistem keamanan digital.
Salah satu tantangan terbesar muncul ketika AI agent mulai diberi kewenangan untuk menjalankan pekerjaan tertentu secara mandiri.
Jika sebelumnya sistem Identity and Access Management (IAM) lebih banyak digunakan untuk mengelola identitas manusia, kini perusahaan juga harus mengelola non-human identities atau identitas non-manusia.
AI agent, misalnya, dapat diberi akses untuk menjalankan tugas tertentu atas nama pengguna atau perusahaan. Karena itu, organisasi harus mengetahui siapa atau apa agen tersebut, siapa yang memberikan kewenangan, akses apa yang dimiliki, serta tindakan apa saja yang boleh dilakukan.
"Kami membantu perusahaan membangun kerangka kerja agar identitas manusia dan non-manusia dapat dikelola dengan prinsip yang sama. Tujuannya agar perusahaan dapat membangun kepercayaan terhadap agen AI sebagaimana mereka memberikan kepercayaan kepada manusia," ujarnya.
Akkasha mengibaratkan sistem tersebut seperti perjalanan menggunakan pesawat.
Paspor menjadi bukti identitas seseorang, sedangkan boarding pass menentukan penerbangan, rute, dan kursi yang dapat digunakan. Namun, penumpang tetap harus melewati pemeriksaan keamanan sebelum memperoleh akses.
Prinsip yang sama perlu diterapkan kepada AI agent. Perusahaan harus memastikan agen yang menjalankan suatu tindakan benar-benar memiliki identitas yang valid dan memperoleh otorisasi yang sesuai.
Menurut Akkasha, model keamanan tradisional yang hanya memberikan akses satu kali semakin tidak relevan dengan perkembangan AI agent.
Perusahaan perlu mengelola siklus hidup agen AI secara menyeluruh, mulai dari identifikasi, otorisasi, pengendalian akses, pemberian hak istimewa hingga tata kelola.
Pemantauan berkelanjutan atau continuous monitoring juga menjadi semakin penting. Artinya, perusahaan tidak cukup hanya melakukan verifikasi ketika AI pertama kali mendapatkan akses. Aktivitas AI harus terus dipantau selama menjalankan tugas.
"Akses tidak bisa hanya diberikan satu kali lalu agen dibiarkan menjalankan semuanya. Akses harus diberikan sesuai kebutuhan dan pada saat dibutuhkan, bahkan perlu dievaluasi kembali sebelum agen menjalankan suatu tindakan," jelasnya.
Hal ini menjadi sangat penting ketika AI mulai digunakan untuk menjalankan tindakan yang memiliki konsekuensi finansial atau bisnis besar.
Misalnya, AI secara teknis mungkin mampu menaikkan kelas tiket pesawat dengan biaya ribuan dolar, meningkatkan batas kredit, hingga melakukan transfer uang.
Namun, kemampuan teknis tersebut bukan berarti seluruh keputusan harus diserahkan kepada AI.
Untuk tindakan berisiko tinggi, perusahaan tetap membutuhkan human-in-the-loop, yakni keterlibatan manusia sebelum keputusan final dijalankan.
Dengan mekanisme ini, perusahaan tetap dapat memanfaatkan kecepatan dan otomatisasi AI tanpa kehilangan kendali terhadap keputusan yang berdampak besar.
Meningkatnya penggunaan AI juga mendorong perubahan dalam sistem pengelolaan identitas dan akses perusahaan.
Selama ini, IAM banyak berfokus pada pengelolaan identitas manusia. Namun, perkembangan AI membuat sistem tersebut harus mampu menangani agen AI dan berbagai identitas non-manusia.
Ping Identity salah satunya mengembangkan Ping Identity Runtime Control, yang dirancang untuk memantau berbagai fungsi penting selama siklus hidup manusia maupun identitas non-manusia ketika menjalankan suatu tugas.
Bagi perusahaan di Indonesia yang masih menggunakan sistem IAM lama, modernisasi tidak berarti harus membongkar seluruh infrastruktur yang sudah ada.
"Strateginya bukan membongkar dan mengganti seluruh sistem yang ada, tetapi memodernisasi infrastruktur agar dapat memenuhi kebutuhan dunia baru yang semakin dipengaruhi AI," kata Akkasha.
Pendekatan ini memungkinkan perusahaan memperkuat sistem keamanan identitas tanpa harus meninggalkan seluruh investasi teknologi yang telah dimiliki.
Perkembangan AI agent pada akhirnya membuat konsep keamanan identitas ikut berubah. Jika sebelumnya identitas hanya dipandang sebagai mekanisme autentikasi untuk memastikan seseorang dapat masuk ke sistem, kini identitas menjadi lapisan kepercayaan dalam ekosistem AI.
Semakin besar kewenangan yang diberikan kepada AI, semakin penting pula perusahaan mengetahui siapa atau apa yang sedang bertindak, atas nama siapa tindakan tersebut dilakukan, dan sejauh mana kewenangannya.
Fondasi keamanan identitas yang kuat dinilai akan menjadi salah satu kunci bagi perusahaan untuk memperluas pemanfaatan AI secara aman, tanpa mengorbankan keamanan data, tata kelola, maupun kendali terhadap proses bisnis.
