OpenAI Jalapeño: Chip Custom yang Kalahkan Nvidia GB300 dalam Benchmark Pertama

OpenAI baru saja merilis hasil benchmark pertama untuk chip AI custom mereka yang diberi nama Jalapeño. Hasilnya mengejutkan: chip ini berhasil mengalahkan sistem Nvidia GB300 Blackwell dalam tes efisiensi inferensi. Ini adalah langkah besar OpenAI untuk mengurangi ketergantungan pada Nvidia dan menekan biaya operasional AI mereka.

Bagi kalian yang mengikuti perkembangan industri AI, berita ini tentu sangat menarik. OpenAI yang selama ini bergantung pada GPU Nvidia untuk menjalankan model-model AI mereka, kini mulai mandiri dengan chip buatan sendiri. Mari kita bahas lebih dalam tentang apa itu Jalapeño dan mengapa ini penting.

Apa Itu Chip OpenAI Jalapeño?

Jalapeño adalah chip AI custom pertama yang dibuat oleh OpenAI bekerja sama dengan Broadcom. Chip ini dirancang khusus untuk inference atau proses menjalankan model AI yang sudah dilatih, bukan untuk training atau pelatihan model.

OpenAI mengumumkan Jalapeño pertama kali pada 24 Juni 2026, dan baru merilis hasil benchmark pertamanya pada 25 Agustus 2026. Proses desain chip ini memakan waktu hanya 9 bulan, yang diklaim sebagai siklus ASIC tercepat yang pernah ada.

Yang membuat Jalapeño menarik adalah chip ini dirancang dari awal khusus untuk matematika inferensi large language model (LLM). Berbeda dengan GPU Nvidia yang bersifat general-purpose, Jalapeño dioptimalkan sepenuhnya untuk menjalankan model AI seperti GPT-5.6 dan model open-source lainnya.

Benchmark: Jalapeño vs Nvidia GB300

Dalam benchmark yang dirilis pada 25 Agustus 2026, OpenAI menunjukkan bahwa Jalapeño berhasil mengalahkan sistem Nvidia GB300 Blackwell dalam beberapa metrik kunci:

• Throughput per watt: Jalapeño menunjukkan efisiensi energi yang lebih baik, artinya bisa memproses lebih banyak permintaan AI dengan daya yang sama
• Throughput per dolar: Biaya per permintaan inferensi lebih rendah dibandingkan menggunakan GPU Nvidia
• Latency: Waktu respons yang kompetitif bahkan untuk model-model besar

OpenAI mengklaim bahwa Jalapeño bisa menurunkan biaya inferensi hingga 50% dibandingkan menggunakan GPU Nvidia generasi saat ini. Ini adalah angka yang sangat signifikan mengingat biaya inferensi adalah salah satu pengeluaran terbesar bagi perusahaan AI.

Benchmark ini dilakukan dengan menjalankan beberapa model open-source populer, dan hasilnya menunjukkan bahwa Jalapeño unggul konsisten di semua tes. Tom's Hardware bahkan melaporkan bahwa chip 700W ini berhasil mengungguli Nvidia GB300 dalam tes pertama yang dipublikasikan.

Spesifikasi dan Teknologi

Berikut adalah spesifikasi utama chip Jalapeño:

• Proses manufaktur: TSMC 3nm
• Konsumsi daya: 700W
• Jenis chip: ASIC (Application-Specific Integrated Circuit) khusus inferensi
• Networking: Menggunakan teknologi Tomahawk
• Integrator sistem: Celestica
• Co-designer: Broadcom

Yang menarik, Jalapeño bukan sekadar chip biasa. OpenAI bisa merancang model, produk, software serving, chip, memori, networking, dan sistem secara bersamaan. Ini memberikan keuntungan full-stack yang tidak dimiliki oleh kompetitor.

OpenAI menggunakan data dari beban kerja nyata (real workloads) untuk meningkatkan setiap lapisan stack mereka. Artinya, chip ini benar-benar dioptimalkan untuk kebutuhan spesifik OpenAI, bukan untuk kebutuhan umum.

Dampak untuk Industri AI

Kehadiran Jalapeño memiliki beberapa dampak penting untuk industri AI secara keseluruhan:

• Persaingan dengan Nvidia: Ini adalah sinyal kuat bahwa perusahaan AI besar mulai mengembangkan chip sendiri untuk mengurangi ketergantungan pada Nvidia
• Biaya AI lebih murah: Dengan biaya inferensi yang turun 50%, harga layanan AI berpotensi lebih terjangkau
• Inovasi lebih cepat: OpenAI bisa lebih fleksibel dalam mengoptimalkan infrastruktur mereka
• Tren custom silicon: Google, Amazon, dan Meta juga sudah mengembangkan chip custom, dan OpenAI kini bergabung dalam tren ini

Nvidia memang masih mendominasi pasar chip AI, tetapi tren perusahaan besar membuat chip sendiri adalah ancaman serius. Jalapeño membuktikan bahwa chip custom bisa mengungguli GPU general-purpose dalam tugas spesifik inferensi.

Kapan Jalapeño Akan Digunakan?

OpenAI berencana mulai menggunakan Jalapeño di infrastruktur mereka secara bertahap. Berikut timeline yang diketahui:

• Juni 2026: Pengumuman resmi Jalapeño bersama Broadcom
• Agustus 2026: Rilis benchmark pertama
• Akhir 2026: Rencana deployment di Azure
• 2027 dan seterusnya: Ramping multi-tahap untuk infrastruktur yang lebih luas

OpenAI menekankan bahwa Jalapeño adalah awal dari platform multi-generasi. Artinya, mereka akan terus mengembangkan chip generasi berikutnya yang lebih cepat dan efisien.