INDUSTRY.co.id - JAKARTA – TrendAI™, unit bisnis keamanan siber berbasis kecerdasan buatan (AI) dari Trend Micro Incorporated, mengumumkan dukungannya terhadap NVIDIA Agent Safety Platform, infrastruktur keamanan full-stack yang dikembangkan NVIDIA untuk mendukung pengoperasian agen AI otonom secara aman dalam skala enterprise.

Kolaborasi ini ditujukan untuk menjawab kebutuhan perusahaan yang mulai beralih dari proyek uji coba menuju implementasi agen AI otonom di lingkungan produksi. Seiring meningkatnya penggunaan teknologi tersebut di berbagai tim dan unit bisnis, keamanan menjadi faktor penting untuk memastikan agen AI dapat bekerja sesuai dengan kebijakan dan tujuan organisasi.

TrendAI™ dan NVIDIA menilai keamanan agen AI tidak dapat bergantung pada satu mekanisme perlindungan saja. Pengamanan harus diterapkan secara menyeluruh, mulai dari model AI, sistem yang mengatur operasional agen, hingga perangkat, aplikasi, dan sumber data yang dapat diaksesnya.

Agen AI memiliki tiga komponen utama, yakni model yang berfungsi melakukan penalaran, harness yang mengatur koordinasi agen dan sub-agen, serta tool dan data yang digunakan untuk menjalankan tugas. Kombinasi komponen tersebut memungkinkan agen menyimpan kredensial, mempertahankan konteks lintas sesi, hingga mengeksekusi tindakan pada sistem produksi tanpa memerlukan persetujuan manusia pada setiap langkah.

Kondisi tersebut membuat pengamanan menjadi semakin penting ketika perusahaan memperluas penggunaan agen AI secara masif. Tanpa kontrol yang memadai, kemampuan agen untuk mengakses sistem dan menjalankan tindakan secara mandiri berpotensi meningkatkan risiko penyalahgunaan akses, kebocoran data, serta serangan siber.

Chief Platform and Business Officer sekaligus Head of TrendAI™, Rachel Jin, mengatakan perkembangan agentic AI menjadi salah satu perubahan besar dalam teknologi perusahaan yang membutuhkan pendekatan keamanan menyeluruh.

"Agentic AI merupakan pergeseran terpenting dalam teknologi enterprise dalam satu generasi terakhir, sehingga kebutuhan keamanan dan guardrail sangat krusial untuk memastikan agen AI tetap selaras dengan tujuan organisasi," ujar Rachel Jin.

Menurut Rachel, keamanan agen AI harus mencakup seluruh komponen yang mendukung operasionalnya, bukan hanya berfokus pada satu titik pengamanan. Pendekatan tersebut diperlukan untuk memastikan setiap tindakan agen tetap berada dalam batas kewenangan yang ditetapkan organisasi.

"Keamanan tidak bisa hanya berfokus di satu titik, melainkan harus mencakup model, harness, serta setiap tool dan sumber data yang diakses oleh agen. NVIDIA membangun batasan yang menentukan apa yang dapat dilakukan oleh agen, sementara TrendAI™ menghadirkan threat intelligence dan pengawasan untuk membantu tim keamanan menentukan batasan tersebut serta memantau aktivitas di dalamnya," kata Rachel.

Melalui NVIDIA Agent Safety Platform, kontrol keamanan ditempatkan pada lapisan infrastruktur di bawah lingkungan eksekusi agen. NVIDIA menyebut OpenShell menerapkan kebijakan di luar lingkungan eksekusi sehingga aturan keamanan tidak dapat dimanipulasi melalui prompt maupun dilewati oleh agen. Sementara itu, NVIDIA BlueField-4 Data Processing Unit (DPU) dan NVIDIA DOCA menyediakan lapisan perlindungan independen pada tingkat perangkat keras.

TrendAI™ melengkapi mekanisme tersebut melalui intelijen ancaman, visibilitas terhadap aktivitas agen, serta kemampuan deteksi dan respons untuk membantu tim keamanan menentukan kebijakan dan mengambil tindakan ketika ancaman teridentifikasi.

Country Manager TrendAI™ Indonesia, Fetra Syahbana, mengatakan kebutuhan pengamanan perlu menjadi bagian dari perencanaan sejak awal, terutama ketika perusahaan di Indonesia mulai menerapkan agen AI otonom untuk operasional bisnis.

"Seiring langkah enterprise di Indonesia yang kian pesat bertransisi dari proyek uji coba ke penerapan agen AI otonom di fase produksi, faktor keamanan tidak boleh lagi sekadar menjadi pertimbangan belakangan," ujar Fetra.

Ia menjelaskan, kemitraan dengan NVIDIA dirancang untuk memberikan perlindungan pada setiap lapisan AI factory, mulai dari perangkat keras hingga tool yang digunakan agen. Pendekatan tersebut diharapkan membantu perusahaan mengembangkan pemanfaatan AI tanpa mengabaikan pengelolaan risiko dan kepatuhan terhadap ketentuan yang berlaku.

Fetra menambahkan, ketersediaan local instance TrendAI Vision One™ memungkinkan perusahaan di Indonesia memanfaatkan sistem perlindungan tersebut dengan dukungan penyimpanan dan pemrosesan data sesuai persyaratan residensi data di dalam negeri.

"Didukung oleh local instance TrendAI Vision One™, enterprise di Indonesia kini dapat mengimplementasikan sistem perlindungan berbasis hardware ini dengan jaminan data residency di dalam negeri secara penuh, membantu tim manajemen risiko dan kepatuhan berinovasi tanpa ragu sembari tetap memenuhi ekspektasi regulasi lokal," katanya.

Dalam implementasinya, TrendAI Vision One™ memperluas perlindungan NVIDIA Agent Safety Platform ke seluruh ekosistem AI factory, termasuk agen, model, container, penyimpanan, dan jaringan dalam satu platform terpadu.

Pada lapisan model, sistem ini melakukan inspeksi terhadap prompt dan respons untuk memblokir serangan prompt injection dan jailbreak, sekaligus menyensor informasi sensitif guna mengurangi risiko kebocoran data. Perlindungan tersebut ditujukan untuk mencegah manipulasi terhadap perilaku model serta penyalahgunaan informasi yang diproses oleh agen.

Dari sisi tata kelola harness dan tool, TrendAI Vision One™ memungkinkan tim keamanan mengendalikan tool dan server Model Context Protocol (MCP) yang dapat diakses agen. Platform ini juga mendukung pemeriksaan setiap pemanggilan tool serta analisis perilaku skill dan artefak AI ketika sistem berjalan.

Perlindungan turut mencakup pengelolaan data dan identitas. TrendAI Vision One™ dapat menemukan serta mengklasifikasikan data sensitif yang menjadi masukan bagi AI, mencegah agen mengakses informasi di luar kewenangannya, dan memperluas mekanisme keamanan berkas serta pencegahan kebocoran data atau data loss prevention (DLP) terhadap berkas yang dibaca maupun ditulis oleh agen. Platform ini juga mendukung pencabutan hak akses berlebih yang dimiliki agen dan identitas non-manusia lainnya.

Sementara itu, pada lapisan deteksi dan respons, TrendAI Vision One™ memanfaatkan telemetri NVIDIA BlueField DPU dan DOCA untuk mendukung pemantauan ancaman, termasuk ketika sistem operasi host telah mengalami kompromi. Sistem tersebut juga mengorelasikan sinyal aktivitas AI dengan data telemetri endpoint, jaringan, dan identitas untuk membantu mendeteksi pergerakan lateral yang dilakukan agen apabila berhasil diambil alih penyerang.

Melalui integrasi ini, TrendAI™ dan NVIDIA berupaya membangun pendekatan keamanan proaktif yang tidak hanya membatasi aktivitas agen AI, tetapi juga membantu organisasi memantau perilaku dan merespons ancaman secara lebih menyeluruh. Kolaborasi tersebut diharapkan dapat mendukung perusahaan dalam memperluas penerapan agentic AI dengan tetap memperhatikan keamanan, pengendalian akses, perlindungan data, dan kepatuhan terhadap regulasi.