1× DGX Spark üzerinde GPT-OSS 120B — MXFP4, vLLM, TP1 çıkarım benchmark'ı
Bu yapılandırmayı LLM Çıkarım Benchmark Gezgini'nde aç
| Model | GPT-OSS 120B |
|---|---|
| Parametre | 120B |
| Zekâ Endeksi | 11.6 |
| Agentic Endeksi | 3.7 |
| Cihaz | 1× DGX Spark |
| Kuantizasyon | MXFP4 |
| Maks C | 4 |
| Chat Kapasitesi | 16 |
| Agentic Kapasitesi | 6 |
| TP | — |
| DP | — |
| PP | — |
| Inference Engine | vLLM |
| Spekülatif Kod Çözme | — |
| C | TTFT (ms) | TPS (tok/s) | Durum |
|---|---|---|---|
| 1 | 220 | 55.65 | PASS |
| 2 | 294 | 37.05 | PASS |
| 4 | 321 | 25.20 | PASS |
| 8 | 395 | 16.88 | FAIL |
| 16 | 444 | 11.67 | FAIL |
| 32 | 552 | 8.26 | FAIL |
OpenZeka'nın ölçümünde, 1× DGX Spark üzerinde vLLM ile MXFP4 formatında sunulan GPT-OSS 120B (120B parametre), tek istekte istek başına 55,6 tok/s üretim hızına ve 220 ms ilk token süresine (TTFT) ulaştı.
Hız hedefleri ve kullanılabilir KV önbelleği kapasitesi göz önünde bulundurulduğunda, tahmini kapasite chat kullanımı için 16, agentic kullanım için 6 kullanıcıdır. Gerçekçi kapasite muhtemelen bu iki değer arasında olacaktır. Kodlama, araç kullanımı, uzun iş akışları ve çoklu ajan kullanımının ağırlıklı olduğu senaryolarda kapasite agentic tahmine yaklaşırken; daha kısa etkileşimlerin, standart sohbetlerin ve daha hafif görevlerin ağırlıkta olduğu kullanımlarda chat tahminine yaklaşacaktır.
Notlar: CUTLASS MoE, FlashInfer attn, GMU 0.7, KV fp8, Ray
Zekâ Endeksi ve Agentic Endeksi değerleri Artificial Analysis tarafından yayımlanmıştır ve kaynak belirtilerek burada aktarılmıştır.
OpenZeka'nın ölçümünde, 1× DGX Spark üzerinde vLLM ile MXFP4 formatında sunulan GPT-OSS 120B (120B parametre), tek istekte istek başına 55,6 tok/s üretim hızına ve 220 ms ilk token süresine (TTFT) ulaştı.
Hız hedefleri ve kullanılabilir KV önbelleği kapasitesi göz önünde bulundurulduğunda, tahmini kapasite chat kullanımı için 16, agentic kullanım için 6 kullanıcıdır. Gerçekçi kapasite muhtemelen bu iki değer arasında olacaktır. Kodlama, araç kullanımı, uzun iş akışları ve çoklu ajan kullanımının ağırlıklı olduğu senaryolarda kapasite agentic tahmine yaklaşırken; daha kısa etkileşimlerin, standart sohbetlerin ve daha hafif görevlerin ağırlıkta olduğu kullanımlarda chat tahminine yaklaşacaktır.