INDUSTRY.co.id - SHANGHAI - Huawei resmi memperkenalkan OceanStor M900 Context Memory Storage dalam ajang HUAWEI CONNECT 2026. David Wang, Deputy Chairman of the Board sekaligus Rotating Chairman Huawei, memperkenalkan produk tersebut melalui presentasi.
Dirancang untuk inferensi AI di pusat data hyperscale, OceanStor M900 menyediakan ruang memori bersama bagi SuperPoD dengan kapasitas hingga skala PB dan performa hingga TB/detik. Solusi ini menandai pergeseran infrastruktur AI dari pendekatan berfokus komputasi menuju kolaborasi erat antara komputasi, jaringan, dan penyimpanan data.
Pada 2026, AI beralih dari terobosan teknologi menuju implementasi skala besar. Aplikasi AI berkembang dari chatbot menjadi agen AI yang mampu menyelesaikan tugas kompleks secara mandiri, menandai era _agentic AI_.
Setelah model AI mencapai skala 10 triliun parameter dan context window lebih dari satu juta token, volume KV cache terus membengkak. Memori on-chip dan DRAM semakin terbatas, sehingga industri membutuhkan sistem penyimpanan bertingkat yang mengoordinasikan memori on-chip, DRAM, dan SSD untuk membentuk ruang memori bersama berkapasitas sangat besar.
Huawei menghadirkan OceanStor M900 untuk menjawab keterbatasan tersebut. Memanfaatkan jaringan UnifiedBus, solusi ini membangun KV cache global berjenjang berskala PB melalui koneksi satu hop.
Tiga keunggulan utama OceanStor M900:
1. Kapasitas Masif 64 PB: Dengan interkoneksi UnifiedBus, KV cache dihimpun dan digunakan bersama secara global. Satu klaster mampu menyediakan 64 PB, dengan kapasitas per NPU meningkat dari gigabita menjadi terabita. Rasio hit KV cache meningkat signifikan.
2. Performa Tinggi: Arsitektur pertama di industri yang mengintegrasikan CPU, network controller unit, dan NAND controller unit. NPU SuperPoD terhubung langsung ke SSD tanpa konversi protokol. Latensi turun dari milidetik menjadi 60 mikrodetik atau berkurang 90 persen, bandwidth agregat hingga 40 TB/detik atau 1,5 kali lebih tinggi. Token throughput berlipat dan waktu menghasilkan token pertama terpangkas separuh.
3. Biaya Lebih Ekonomis: Menggunakan teknologi penyimpanan adaptif berbasis KV pertama di industri yang memprediksi siklus hidup KV cache dan mendistribusikannya secara cerdas. Mendukung 24 DWPD, ketahanan SSD meningkat 16 kali dan stabil selama tiga tahun, menekan biaya O&M jangka panjang.
Infrastruktur AI kini berkembang dari model berpusat komputasi menuju kolaborasi erat komputasi, jaringan, dan penyimpanan. Context memory storage akan menjadi komponen penting untuk meningkatkan efisiensi KV cache pada sistem inferensi hyperscale.
