INDUSTRY.co.id - JAKARTA – Akamai Technologies (Nasdaq: AKAM) memperluas ekosistem kecerdasan buatan (AI) melalui peluncuran dua produk inti, yakni Akamai Inference dan Akamai Agent Sandbox. Kedua solusi tersebut dirancang untuk membantu perusahaan membangun, menjalankan, dan mengamankan aplikasi serta agen AI dalam satu platform cloud terintegrasi.

Peluncuran yang diumumkan pada 30 Oktober 2026 ini menjadi bagian dari strategi Akamai dalam memperkuat infrastruktur AI, terutama untuk memenuhi kebutuhan perusahaan yang mulai mengoperasikan teknologi AI pada tahap produksi.

Melalui Akamai Inference, perusahaan dapat mengakses dan menjalankan model AI open-weight maupun model kustom melalui layanan terkelola. Sementara itu, Akamai Agent Sandbox menyediakan lingkungan eksekusi terisolasi agar agen AI dapat menjalankan tugas dan kode secara lebih aman.

Kedua produk tersebut melengkapi infrastruktur Akamai Cloud yang mencakup CPU, GPU, penyimpanan cloud, jaringan, serta layanan edge. Infrastruktur ini tersebar secara global dengan dukungan lebih dari 4.350 lokasi edge.

Chief Operating Officer dan General Manager Akamai Cloud Adam Karon mengatakan, pengembangan infrastruktur AI perusahaan berangkat dari keyakinan bahwa inference atau proses menjalankan model AI untuk menghasilkan respons akan menjadi fokus utama investasi perusahaan.

"Kami telah menjalankan strategi infrastruktur AI berdasarkan keyakinan bahwa AI inference akan menjadi fokus utama dan area investasi terbesar bagi perusahaan. Pelanggan kami membuktikan bahwa keyakinan tersebut benar dan mendorong kami untuk melangkah lebih jauh," ujar Adam Karon.

Menurut dia, pelanggan membutuhkan platform terpadu untuk membangun, menjalankan, sekaligus melindungi aplikasi dan agen AI. Karena itu, Akamai Inference dan Akamai Agent Sandbox dikembangkan untuk melengkapi infrastruktur AI yang telah dimiliki perusahaan.

"Mereka ingin membangun, menjalankan, dan melindungi AI pada platform yang sama. Akamai Inference dan Akamai Agent Sandbox menambahkan lapisan inference dan eksekusi yang melengkapi infrastruktur AI kami menjadi sebuah ekosistem AI yang utuh, sementara portofolio keamanan kami melindungi setiap lapisannya," katanya.

Dari sisi layanan inference, Akamai Inference menyediakan akses terkelola terhadap model open-weight dan model kustom melalui API yang kompatibel dengan OpenAI. Dengan demikian, perusahaan dapat mengintegrasikan layanan tersebut ke aplikasi yang sudah digunakan tanpa harus melakukan penulisan ulang sistem.

Akamai menyediakan dua pilihan penerapan, yakni layanan tanpa server dengan skema pembayaran berdasarkan penggunaan atau pay-per-use, serta penerapan menggunakan infrastruktur khusus.

Saat diluncurkan, katalog Akamai Inference mencakup 12 model open-weight dengan kapasitas mulai dari 8 miliar hingga 2,8 triliun parameter. Sejumlah model yang tersedia antara lain NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4, termasuk model embedding untuk mendukung teknologi retrieval-augmented generation (RAG).

Layanan ini juga terhubung dengan basis data terkelola dan penyimpanan objek Akamai Cloud, serta dapat diintegrasikan dengan platform private cloud maupun public cloud. Integrasi tersebut memungkinkan model AI memanfaatkan data internal perusahaan dalam proses pengolahan informasi.

Akamai Inference turut menangani orkestrasi, eksekusi model, dan autentikasi. Permintaan diproses melalui jaringan global Akamai untuk membantu menekan latensi, menjaga ketersediaan layanan, serta mempertahankan konsistensi kinerja.

Sementara itu, Akamai Agent Sandbox menyasar kebutuhan keamanan dalam pengoperasian agen AI. Seiring meningkatnya kemampuan agen AI untuk melakukan tindakan atas nama pengguna hingga menulis dan menjalankan kode secara mandiri, perusahaan membutuhkan mekanisme pembatasan akses terhadap sumber daya dan sistem internal.

Melalui solusi ini, agen AI berjalan di Akamai Functions, sedangkan kode yang dihasilkan agen dieksekusi dalam lingkungan terisolasi yang terpisah dari runtime agen. Teknologi isolasi WebAssembly yang digunakan memungkinkan pengembang menetapkan batasan terhadap penggunaan komputasi, memori, koneksi keluar, dan kapabilitas sistem.

Akamai Agent Sandbox merupakan komponen open source dari kerangka kerja Spin. Teknologi tersebut memungkinkan perusahaan mengendalikan lingkungan operasional agen sekaligus membatasi akses terhadap sumber daya yang tidak diperlukan.

Akamai juga mengembangkan dukungan isolasi agen melalui sejumlah arsitektur, mulai dari microVM dengan kemampuan snapshot dan fork, kontainer berbasis kebijakan, hingga fungsi berbasis WebAssembly. Pengembang dapat memilih arsitektur sesuai kebutuhan workload melalui infrastruktur CPU khusus, akselerasi NVIDIA, Kubernetes terkelola, maupun Akamai Functions.

Senior Vice President Cloud Technology Akamai Jon Alexander mengatakan, perusahaan membutuhkan fleksibilitas dalam mengembangkan AI tanpa harus mengorbankan kecepatan maupun kendali operasional.

"Perusahaan seharusnya tidak perlu memilih antara kecepatan dan kendali ketika menerapkan AI pada fase produksi," ujar Jon Alexander.

Dia menjelaskan, sebagian perusahaan membutuhkan platform terkelola untuk segera menghadirkan fitur AI, sedangkan perusahaan lain memerlukan GPU khusus untuk mengoperasikan dan mengembangkan model sendiri. Di sisi lain, seluruh perusahaan yang menjalankan agen AI membutuhkan sistem keamanan yang mampu membatasi eksekusi kode.

Dari sisi infrastruktur, Akamai turut memperluas kapasitas komputasi GPU dengan menghadirkan klaster NVIDIA Blackwell Ultra. Perusahaan juga mempersiapkan pusat datanya untuk mendukung platform NVIDIA Vera Rubin pada 2027.

Kumpulan GPU Akamai saat ini mencakup NVIDIA RTX PRO 6000 Blackwell Server Edition untuk kebutuhan inference berlatensi rendah serta klaster GPU NVIDIA Blackwell Ultra bagi perusahaan yang ingin membangun, menyempurnakan, dan menghosting model AI sendiri.

Setiap node Blackwell Ultra yang terdiri dari delapan GPU memiliki kapasitas memori HBM3e sebesar 288 GB per GPU atau total 2,3 TB. Kapasitas tersebut dirancang untuk menangani model AI berukuran besar, termasuk workload yang membutuhkan pemrosesan konteks panjang, penalaran bertahap, dan peningkatan skala komputasi saat inferensi.

Penggunaan GPU khusus juga memberikan perusahaan kendali lebih besar terhadap versi model dan jadwal penghentian dukungan model. Selain itu, perusahaan dapat menghindari keterbatasan laju pemrosesan maupun antrean yang berpotensi muncul akibat penggunaan infrastruktur secara bersama-sama.

Akamai menyebutkan, infrastruktur Akamai Cloud telah membantu perusahaan memperoleh kontrak multi-tahun dengan nilai kumulatif lebih dari US$14 miliar. Capaian tersebut mencerminkan meningkatnya kebutuhan pasar terhadap infrastruktur cloud yang mampu mendukung workload AI dalam skala besar.

Adapun Akamai Inference dan Akamai Agent Sandbox saat ini telah tersedia dalam versi beta. Versi beta Akamai Inference mencakup opsi penerapan tanpa server, sedangkan Akamai Agent Sandbox dapat diakses melalui Spin SDK. Untuk informasi mengenai ketersediaan klaster GPU NVIDIA B300, perusahaan dapat menghubungi tim penjualan Akamai.