INDUSTRY.co.id - JAKARTA – Perkembangan kecerdasan buatan (AI) berbasis agen mulai mengubah lanskap risiko keamanan siber perusahaan. Ketika agen AI semakin banyak digunakan untuk menjalankan tugas secara otonom melalui berbagai API dan sistem, perusahaan menghadapi tantangan baru yang tidak lagi sebatas mengamankan identitas dan akses pengguna manusia.

Kondisi tersebut disoroti Akamai Technologies Inc. dalam laporan terbaru State of the Internet (SOTI) bertajuk The Agentic Frontier: Speed, Scale, and Nonhuman Identity. Laporan yang ditujukan kepada Chief Information Security Officer (CISO) tersebut menilai pengamanan bisnis modern kini bergeser menuju tata kelola perilaku entitas non-manusia.

Akamai mengidentifikasi dua tantangan utama dalam penerapan AI berbasis agen. Pertama, perusahaan semakin kesulitan menetapkan batasan bagi agen otonom. Kedua, kemampuan model AI dalam mengidentifikasi kerentanan berkembang dengan kecepatan yang berpotensi melampaui siklus pembaruan keamanan yang dilakukan secara konvensional oleh manusia.

Salah satu persoalan yang disoroti adalah kesenjangan visibilitas pada Model Context Protocol (MCP), yakni protokol yang memungkinkan agen AI berinteraksi dengan berbagai sistem perangkat lunak. Meskipun MCP membuka ruang bagi agen AI untuk melakukan tindakan otonom lintas sistem, pengawasan terhadap MCP justru masih berada di posisi terakhir dalam prioritas keamanan CISO saat ini.

Menurut Akamai, kondisi tersebut menciptakan kesenjangan visibilitas yang perlu segera diatasi. Terlebih, para pemimpin keamanan memperkirakan agen AI yang tidak terkendali dapat menjadi salah satu ancaman siber utama pada 2030.

Risiko lain muncul dari penggunaan chatbot AI di lingkungan perusahaan. Akamai menemukan lebih dari 6% percakapan chatbot AI di lingkungan perusahaan mengandung data perusahaan yang sensitif, terutama informasi yang dapat mengidentifikasi individu. Dari interaksi tersebut, sebanyak 47% dilakukan melalui akun pribadi yang tidak berada dalam pengawasan perusahaan.

Percepatan kemampuan AI dalam menemukan celah keamanan juga menjadi perhatian. Inisiatif Frontier AI menunjukkan model AI dapat dengan cepat mengidentifikasi dan menghubungkan berbagai kelemahan sistem. Kondisi ini membuat pendekatan keamanan yang hanya mengandalkan patching secara reaktif dinilai semakin tidak memadai.

Akamai menilai perusahaan perlu mengandalkan mitigasi di sisi edge secara real-time untuk menghadapi kecepatan eksploitasi yang semakin tinggi. Dengan demikian, perusahaan tidak harus menunggu proses penambalan pada sistem backend selesai sebelum dapat memberikan perlindungan terhadap potensi serangan.

Risiko juga merambah browser yang kini semakin banyak digunakan sebagai ruang kerja. Lebih dari 40% pengguna korporat telah memasang ekstensi browser berbasis AI. Dari jumlah tersebut, 25% mengubah izin ekstensi dalam kurun waktu 12 bulan.

Akamai mencatat alat-alat tersebut memiliki kemungkinan 60% lebih besar mengandung kerentanan dan paparan umum atau Common Vulnerabilities and Exposures (CVE) yang telah diketahui dibandingkan ekstensi browser standar.

“AI menghadirkan momen ‘everything, everywhere, all at once’ atau situasi yang sangat merepotkan karena banyak hal muncul secara bersamaan bagi ekosistem keamanan secara keseluruhan,” kata Boaz Gelbord, Chief Security Officer Akamai.

Gelbord mengatakan setidaknya terdapat tiga ancaman utama yang harus menjadi perhatian perusahaan. Pertama adalah penggunaan AI secara internal, mulai dari kode yang dihasilkan AI hingga penggunaan berbagai alat produktivitas berbasis AI.

“Kedua, integrasi AI secara langsung ke dalam produk yang berinteraksi dengan pelanggan dan beban kerja cloud, yang mengubah profil risiko operasional Anda. Ketiga, ada serangan yang didorong oleh AI yang menargetkan perusahaan,” ujarnya.

Menurut dia, program keamanan perusahaan perlu beradaptasi dengan perubahan tersebut karena kecepatan perkembangan AI menciptakan tekanan baru terhadap sistem keamanan. “Ini akan menjadi topik utama bagi dewan direksi, pelanggan, dan regulator dalam waktu dekat,” kata Gelbord.

Di sisi lain, perkembangan AI agen juga mengubah pola interaksi antara perusahaan dan konsumen di ruang digital. Akamai mencatat semakin banyak agen AI menggantikan traffic web tradisional untuk melakukan penemuan terhadap brand.

Perubahan tersebut mendorong perusahaan untuk memperluas perlindungan keamanan tidak hanya terhadap malware, tetapi juga terhadap aspek Generative Engine Optimization (GEO), termasuk kutipan, akurasi, sentimen, serta pengelolaan bot.

Steve Winterfeld, Advisory CISO Akamai, mengatakan kemunculan web berbasis agen menjadi perubahan mendasar dalam cara nilai bisnis dan logika operasional diciptakan.

“Munculnya web berbasis agen menandai perubahan mendasar dalam cara nilai bisnis dan logika operasional diciptakan. Seiring dengan perkembangan AI otonom dari sekadar menjawab pertanyaan menjadi pelaksanaan strategi bisnis bertahap, kepemimpinan di bidang keamanan harus berkembang sejalan dengan hal tersebut,” kata Winterfeld.

Untuk merespons perubahan tersebut, Akamai mendorong CISO menerapkan tata kelola edge yang adaptif melalui perlindungan runtime native edge, filter API, serta mekanisme isolasi. Pendekatan ini memungkinkan perusahaan menetralkan kerentanan secara cepat sembari proses penambalan pada sistem backend tetap berjalan.

Perusahaan juga perlu memperkuat keamanan pada edge browser dengan membangun visibilitas dan kontrol terhadap perilaku di dalam browser. Langkah ini ditujukan untuk mengendalikan penggunaan ekstensi AI yang tidak dikelola serta model yang di-hosting di web oleh tenaga kerja.

Dalam menghadapi ekonomi tanpa klik, perusahaan juga didorong menerapkan strategi GEO dan lapisan data yang dapat dibaca mesin pada jaringan edge. Tujuannya untuk mengurangi risiko crawler AI dan pembeli sintetis menyajikan informasi brand perusahaan secara tidak akurat.

Selain itu, Akamai menekankan pentingnya menyesuaikan tingkat otonomi AI dengan kemampuan perusahaan dalam melakukan verifikasi. Agen AI dapat diberikan otonomi operasional berdasarkan seberapa mudah tindakan yang dilakukan dapat diverifikasi dan seberapa mudah dampak kegagalannya dibalikkan. Untuk tindakan berisiko tinggi, kontrol manusia atau human-in-the-loop tetap diperlukan.

Memasuki tahun ke-12, laporan SOTI Akamai terus menyajikan analisis mengenai tren keamanan siber dan performa web berdasarkan serangan yang terdeteksi di seluruh infrastruktur keamanan siber perusahaan tersebut. Infrastruktur Akamai menangani sebagian besar trafik web global, sehingga perubahan pola serangan dan penggunaan AI menjadi salah satu indikator penting bagi perusahaan dalam memetakan risiko keamanan digital ke depan.