- Visa menguji 22 model AI dari 12 lab pada 15 skenario belanja.
- Secara keseluruhan, 42,8 persen percobaan gagal.
- 54 persen percobaan yang gagal tetap berakhir dengan pembelian.
- Model terbaik lulus 82,2 persen percobaan, yang terburuk 28,9 persen.
- Hanya 34,2 persen kasus yang lulus di ketiga percobaan.
Menyuruh AI belanja ternyata belum sepenuhnya aman. Benchmark terbaru Visa menemukan agen AI gagal dalam 42,8 persen percobaan, dan lebih dari separuh kegagalan itu tetap berakhir dengan pembelian.
Visa Agentic Commerce Benchmark diumumkan pada 5 November 2026. Pengujiannya meminta model AI membeli televisi, laptop, atau alat perawatan diri sesuai kebutuhan pelanggan yang tidak dijelaskan seluruhnya sejak awal.
Hasil Benchmark Visa dalam Angka
Setiap model mendapat tiga kesempatan untuk setiap skenario belanja. Berikut angka utama yang dipublikasikan Visa.
| Ukuran | Hasil |
|---|---|
| Model AI yang diuji | 22 model dari 12 lab |
| Skenario belanja | 15 skenario, masing-masing tiga percobaan |
| Tingkat lulus keseluruhan | 57,2 persen |
| Tingkat gagal keseluruhan | 42,8 persen |
| Model terbaik | 82,2 persen percobaan lulus |
| Model terburuk | 28,9 persen percobaan lulus |
| Lulus di ketiga percobaan | 34,2 persen |
| Kegagalan yang tetap berakhir dengan pembelian | 54 persen |
Angka berasal dari rilis resmi Visa tertanggal 5 November 2026.
Cara Visa Menguji Agen Belanja
Sebuah percobaan dinyatakan lulus hanya bila AI menemukan semua kebutuhan pelanggan dan mengambil keputusan beli atau tidak beli yang tepat. Bila tidak ada produk yang cocok, AI seharusnya memilih untuk tidak membeli. AI juga harus menggali cukup informasi supaya keputusannya tidak sekadar tebakan yang kebetulan benar.
Dalam skenario televisi, misalnya, pelanggan menyebut merek yang direkomendasikan kerabat dan keanggotaan di pemasok pihak ketiga, tetapi tidak menyebut detail lain. AI harus bertanya sendiri soal anggaran, kompatibilitas format, dukungan HDR10+ untuk video keluarga, dan kemampuan untuk bermain gim.
AI yang Rajin Bertanya Lebih Sering Lulus
Salah satu temuan paling menarik adalah pentingnya percakapan. Lima model yang paling banyak menggali faktor tersembunyi rata-rata lulus 70,2 persen, sedangkan lima model yang paling sedikit menggali hanya lulus 44,4 persen.
Harga juga berpengaruh, meski tidak menjamin. Lima model dengan biaya per percobaan tertinggi lulus 67,1 persen, sementara lima model termurah lulus 50,2 persen. Masalah terbesarnya adalah konsistensi. Visa mencatat model yang sudah lulus suatu skenario sering gagal ketika diminta mengulanginya.
Model Mana yang Paling Baik?
Visa tidak menyebut nama model dalam rilisnya. The Next Web, mengutip Fortune, melaporkan agen dari Google dan Meta berbagi skor teratas 82 persen, agen Claude di posisi ketiga dengan 76 persen, dan agen OpenAI di posisi keenam dengan 64 persen. Peringkat ini berasal dari laporan media, bukan rilis resmi Visa.
Apa Artinya bagi Konsumen?
Rubail Birwadker, Global Head of Growth Visa, mengatakan agen AI berpotensi menggerakkan era perdagangan berikutnya, tetapi kepercayaan menjadi kuncinya. Visa menegaskan hasil ini tidak berarti agen AI belum siap, dan menyebut benchmark tersebut sebagai peta jalan bagi industri.
Kepercayaan publik memang masih rendah. Visa Trust Index edisi September 2026 mencatat 72 persen konsumen AS pernah memakai asisten AI, tetapi hanya 23 persen yang memercayai AI untuk menangani pembayaran atas nama mereka. Angka ini khusus Amerika Serikat, bukan Indonesia.
Bagi pengguna di Indonesia, pelajarannya sederhana: bila memakai AI untuk mencari barang, tetap periksa spesifikasi dan harga sebelum membayar. Sampaikan kebutuhan selengkap mungkin sejak awal, dan jangan berikan izin pembayaran otomatis tanpa konfirmasi. Saran ini adalah catatan redaksi, bukan rekomendasi dari Visa.
Langkah Visa Berikutnya
Visa berencana menambah skenario dan kategori produk, serta memperluas pengujian ke proses checkout, pembayaran, dan pemesanan. Perusahaan itu juga sudah membagikan benchmark kepada penyedia model untuk mendapat masukan. Publik bisa mencoba tes yang sama dan menonton ulang percobaan AI melalui Visa Payments Frontier.
FAQ
1. Berapa model AI yang diuji Visa?
Sebanyak 22 model dari 12 lab, masing-masing pada 15 skenario belanja dengan tiga percobaan.
2. Apa arti 54 persen dalam benchmark ini?
Dari seluruh percobaan yang gagal, 54 persen tetap berakhir dengan AI melakukan pembelian. Angka ini bukan persentase dari semua percobaan.
3. Apakah Visa menyebut agen AI belum siap?
Tidak. Visa menyebut hasilnya menjanjikan, tetapi konsistensi dan keandalan masih menjadi tantangan.
4. Apakah Visa menyebut nama model yang diuji?
Tidak dalam rilis resminya. Peringkat Google, Meta, Claude, dan OpenAI berasal dari laporan Fortune yang dikutip The Next Web.
5. Apakah data kepercayaan 23 persen berlaku di Indonesia?
Tidak. Angka itu berasal dari survei konsumen Amerika Serikat dalam Visa Trust Index.
Kesimpulan
Benchmark Visa menunjukkan agen belanja AI sudah cukup mampu, tetapi belum cukup konsisten untuk dilepas tanpa pengawasan. Kesalahan terbesar bukan gagal menemukan barang, melainkan tetap membeli ketika kebutuhan pelanggan belum terpenuhi.
- Agen AI gagal pada 42,8 persen percobaan belanja versi Visa.
- Mayoritas kegagalan tetap berakhir dengan pembelian.
- Model yang rajin bertanya lebih sering lulus.
- Konsistensi menjadi kelemahan terbesar.
- Visa akan memperluas tes ke checkout dan pembayaran.