INDUSTRY.co.id - Jakarta – Akamai Technologies (AKAM) menandai tonggak penting dalam evolusi kecerdasan buatan dengan meluncurkan implementasi skala global pertama dari desain referensi NVIDIA AI Grid. Melalui integrasi infrastruktur AI NVIDIA ke dalam jaringan miliknya serta pemanfaatan orkestrasi beban kerja cerdas, perusahaan ini berupaya membawa industri melampaui konsep “pabrik AI” terpusat menuju grid terpadu dan terdistribusi untuk kebutuhan inferensi AI.
Langkah ini menjadi fase lanjutan dari pengembangan Akamai Inference Cloud yang diperkenalkan pada akhir tahun lalu. Dalam implementasi tersebut, Akamai mengoperasikan ribuan GPU NVIDIA RTX PRO6000 Blackwell Server Edition untuk mendukung berbagai kebutuhan AI berbasis agen dan fisik, dengan kecepatan respons komputasi lokal sekaligus jangkauan jaringan global.
Chief Operating Officer dan General Manager Cloud Technology Group Akamai, Adam Karon, menjelaskan bahwa pendekatan terpusat masih relevan untuk pelatihan model AI. Namun, kebutuhan aplikasi modern menuntut pendekatan yang berbeda. “Pabrik AI telah dirancang khusus untuk beban kerja pelatihan dan model terdepan — dan infrastruktur terpusat akan terus memberikan tokenomics terbaik untuk kasus penggunaan tersebut,” ujarnya.
Ia menambahkan, kebutuhan akan pengalaman real-time seperti video interaktif dan personalisasi tingkat tinggi membuat inferensi harus dilakukan lebih dekat ke pengguna. “Namun, video real-time, AI fisik, dan pengalaman personalisasi dengan tingkat koneksi yang sangat tinggi menuntut proses inferensi di titik kontak, bukan melalui perjalanan bolak-balik ke klaster terpusat. Orkestrasi cerdas AI Grid kami memberikan cara bagi pabrik AI untuk memperluas inferensi ke luar,” kata Karon.
Di inti AI Grid terdapat orkestrator cerdas yang bertindak sebagai perantara real-time untuk permintaan AI. Sistem ini mengoptimalkan efisiensi biaya per token, mempercepat waktu respons hingga token pertama, serta meningkatkan throughput secara signifikan. Dengan pendekatan ini, perusahaan dapat menyesuaikan beban kerja ke tingkat komputasi yang paling efisien melalui teknik seperti caching semantik dan routing cerdas.
Keunggulan utama Akamai terletak pada jangkauan edge globalnya yang luas, mencakup lebih dari 4.400 lokasi. Infrastruktur ini memungkinkan berbagai sektor memanfaatkan AI secara real-time, mulai dari studio game yang menghadirkan interaksi karakter non-pemain dalam hitungan milidetik, hingga lembaga keuangan yang melakukan deteksi penipuan dan personalisasi layanan secara instan.
Selain itu, kebutuhan komputasi berat tetap didukung oleh klaster GPU terpusat berbasis NVIDIA RTX PRO 6000 Blackwell Server Edition, yang memungkinkan pemrosesan intensif seperti pelatihan lanjutan dan inferensi multimodal. Dengan demikian, Akamai menggabungkan kekuatan komputasi inti dan edge dalam satu kontinum yang fleksibel.
Global Vice President Business Development Telco NVIDIA, Chris Penrose, menilai pendekatan ini sebagai langkah penting dalam perkembangan AI. “Aplikasi AI-native yang baru membutuhkan latensi yang dapat diprediksi dan efisiensi biaya yang lebih baik dalam skala global,” ujarnya. Ia menambahkan, “Dengan mengimplementasikan NVIDIA AI Grid, Akamai sedang membangun jembatan penghubung bagi AI generatif, AI agen, dan AI fisik.”
Adopsi awal terhadap Akamai Inference Cloud tercatat cukup kuat di berbagai industri. Sektor gaming memanfaatkan teknologi ini untuk interaksi real-time, sementara perbankan menggunakannya untuk personalisasi layanan. Di bidang media, teknologi ini digunakan untuk transkoding dan dubbing secara langsung, sedangkan sektor ritel mulai menerapkannya untuk aplikasi AI di dalam toko.
Permintaan dari korporasi juga tercermin dalam kesepakatan layanan senilai 200 juta dolar AS selama empat tahun untuk pembangunan klaster GPU berskala besar di pusat data khusus AI di jaringan edge perkotaan.
Akamai menilai bahwa gelombang pertama infrastruktur AI yang terpusat mulai menghadapi keterbatasan seiring meningkatnya kebutuhan inferensi. Dengan pendekatan jaringan terdistribusi dan orkestrasi cerdas, perusahaan berupaya menghadirkan model baru yang menyatukan komputasi dan data lebih dekat ke pengguna.
Melalui Akamai Inference Cloud, perusahaan kini dapat mengembangkan agen AI yang lebih responsif dan kontekstual, sekaligus membuka jalan bagi transformasi industri menuju layanan AI global yang terdistribusi. Platform ini telah tersedia bagi pelanggan korporat yang memenuhi syarat, dengan demonstrasi teknologi yang turut diperkenalkan dalam ajang NVIDIA GTC 2026 di San Jose.