Wijzigingslogboek

Nieuwe whitepapers en nieuwe LLM-, VLM- en CV-benchmarkresultaten, van nieuw naar oud. Elke vermelding linkt naar waar zij over gaat.

november 2026

  1. 17 novemberNieuwe VLM-benchmarkAlpamayo2-Super — Jetson AGX ThorAlpamayo2-Super op Jetson AGX Thor: het vision-language-deel in BF16 geserveerd met vLLM, responstijd gemeten van 1 tot 176 gelijktijdige camera's en tot 256 beelden per verzoek, met een rijtest met zes camera's van het hele model via zijn officiële PyTorch-inferentie (13.3 s per beslissing).
  2. 17 novemberNieuwe VLM-benchmarkAlpamayo2-Edge — Jetson AGX ThorAlpamayo2-Edge op Jetson AGX Thor: het vision-language-deel in BF16 geserveerd met vLLM, responstijd gemeten van 1 tot 1,408 gelijktijdige camera's en tot 512 beelden per verzoek, met een rijtest met zes camera's van het hele model via zijn TensorRT Edge-LLM-recept (331 ms per beslissing).
  3. 13 novemberNieuwe VLM-benchmarkQwen3-VL-30B-A3B-Instruct — DGX B300 (1 GPU)Qwen3-VL-30B-A3B-Instruct op DGX B300 (1 GPU): FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 384 gelijktijdige camera's en tot 256 beelden per verzoek.
  4. 9 novemberNieuwe LLM-benchmarkKimi-K3.1-Pro — DGX B300Kimi-K3.1-Pro op DGX B300: MXFP4-gewichten geserveerd met SGLang over 8 GPU's, met DFlash2 speculatieve decodering (k=8) en een context van 1M, gemeten tot 128 gelijktijdige verzoeken.
  5. 6 novemberNieuwe LLM-benchmarkMistral-Large-4-1T-A52B — DGX B300Mistral-Large-4-1T-A52B op DGX B300: FP8-gewichten geserveerd met SGLang over 8 GPU's, met DSpark speculatieve decodering (k=3) en een context van 1M, gemeten tot 128 gelijktijdige verzoeken.
  6. 6 novemberNieuwe LLM-benchmarkRipple-65B-Preview — DGX B300Ripple-65B-Preview op DGX B300: NVFP4-gewichten geserveerd met SGLang op één GPU, met DFlash2 speculatieve decodering (k=16) en een context van 2M, gemeten tot 256 gelijktijdige verzoeken.
  7. 4 novemberNieuwe whitepaperSystem One in productie: besliskwaliteit, betrouwbaarheid en prestaties op DGX Spark met vLLM en SGLangZes typed-decision-modellen van 0.6B tot 27B geëvalueerd op één NVIDIA DGX Spark met vLLM en SGLang: Turkse nauwkeurigheid, kalibratie van het vertrouwen, parafraseconsistentie, multimodale grenzen, overdraagbaarheid tussen engines en de vertrouwensdrempels die een productiebeleid nodig heeft.
  8. 4 novemberNieuwe CV-benchmarkYOLOV5-X FP16 — Jetson Orin NanoYOLOV5-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  9. 4 novemberNieuwe CV-benchmarkYOLOV5-S FP16 — Jetson Orin NanoYOLOV5-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  10. 4 novemberNieuwe CV-benchmarkYOLOV5-N FP16 — Jetson Orin NanoYOLOV5-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  11. 4 novemberNieuwe CV-benchmarkYOLOV5-M FP16 — Jetson Orin NanoYOLOV5-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  12. 4 novemberNieuwe CV-benchmarkYOLOV5-L FP16 — Jetson Orin NanoYOLOV5-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  13. 4 novemberNieuwe CV-benchmarkYOLO11-L FP16 — Jetson Orin NanoYOLO11-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  14. 3 novemberNieuwe CV-benchmarkYOLOX-X FP16 — Jetson Orin NX 16GBYOLOX-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  15. 3 novemberNieuwe CV-benchmarkYOLOX-S FP16 — Jetson Orin NX 16GBYOLOX-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  16. 3 novemberNieuwe CV-benchmarkYOLOX-M FP16 — Jetson Orin NX 16GBYOLOX-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  17. 3 novemberNieuwe CV-benchmarkYOLOX-L FP16 — Jetson Orin NX 16GBYOLOX-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  18. 3 novemberNieuwe CV-benchmarkYOLOV9-S FP16 — Jetson Orin NX 16GBYOLOV9-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  19. 3 novemberNieuwe CV-benchmarkYOLOV9-M FP16 — Jetson Orin NX 16GBYOLOV9-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  20. 3 novemberNieuwe CV-benchmarkYOLOV8-X FP16 — Jetson Orin NX 16GBYOLOV8-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  21. 3 novemberNieuwe CV-benchmarkYOLOV8-S FP16 — Jetson Orin NX 16GBYOLOV8-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  22. 3 novemberNieuwe CV-benchmarkYOLOV8-N FP16 — Jetson Orin NX 16GBYOLOV8-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  23. 3 novemberNieuwe CV-benchmarkYOLOV8-M FP16 — Jetson Orin NX 16GBYOLOV8-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  24. 3 novemberNieuwe CV-benchmarkYOLOV8-L FP16 — Jetson Orin NX 16GBYOLOV8-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  25. 3 novemberNieuwe CV-benchmarkYOLOV6-S FP16 — Jetson Orin NX 16GBYOLOV6-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  26. 3 novemberNieuwe CV-benchmarkYOLOV6-N FP16 — Jetson Orin NX 16GBYOLOV6-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  27. 3 novemberNieuwe CV-benchmarkYOLOV6-M FP16 — Jetson Orin NX 16GBYOLOV6-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  28. 3 novemberNieuwe CV-benchmarkYOLOV6-L FP16 — Jetson Orin NX 16GBYOLOV6-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  29. 3 novemberNieuwe CV-benchmarkYOLOV5U-X FP16 — Jetson Orin NX 16GBYOLOV5U-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  30. 3 novemberNieuwe CV-benchmarkYOLOV5U-S FP16 — Jetson Orin NX 16GBYOLOV5U-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  31. 3 novemberNieuwe CV-benchmarkYOLOV5U-M FP16 — Jetson Orin NX 16GBYOLOV5U-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  32. 3 novemberNieuwe CV-benchmarkYOLOV5U-L FP16 — Jetson Orin NX 16GBYOLOV5U-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  33. 3 novemberNieuwe CV-benchmarkYOLOV5-X FP16 — Jetson Orin NX 16GBYOLOV5-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  34. 3 novemberNieuwe CV-benchmarkYOLOV5-S FP16 — Jetson Orin NX 16GBYOLOV5-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  35. 3 novemberNieuwe CV-benchmarkYOLOV5-N FP16 — Jetson Orin NX 16GBYOLOV5-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  36. 3 novemberNieuwe CV-benchmarkYOLOV5-M FP16 — Jetson Orin NX 16GBYOLOV5-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  37. 3 novemberNieuwe CV-benchmarkYOLOV5-L FP16 — Jetson Orin NX 16GBYOLOV5-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  38. 3 novemberNieuwe CV-benchmarkYOLOV10-X FP16 — Jetson Orin NX 16GBYOLOV10-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  39. 3 novemberNieuwe CV-benchmarkYOLOV10-S FP16 — Jetson Orin NX 16GBYOLOV10-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  40. 3 novemberNieuwe CV-benchmarkYOLOV10-N FP16 — Jetson Orin NX 16GBYOLOV10-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  41. 3 novemberNieuwe CV-benchmarkYOLOV10-M FP16 — Jetson Orin NX 16GBYOLOV10-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  42. 3 novemberNieuwe CV-benchmarkYOLOV10-L FP16 — Jetson Orin NX 16GBYOLOV10-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  43. 3 novemberNieuwe CV-benchmarkYOLO11-X FP16 — Jetson Orin NX 16GBYOLO11-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  44. 3 novemberNieuwe CV-benchmarkYOLO11-S FP16 — Jetson Orin NX 16GBYOLO11-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  45. 3 novemberNieuwe CV-benchmarkYOLO11-N FP16 — Jetson Orin NX 16GBYOLO11-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  46. 3 novemberNieuwe CV-benchmarkYOLO11-L FP16 — Jetson Orin NX 16GBYOLO11-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  47. 3 novemberNieuwe CV-benchmarkTrafficCamNet INT8 — Jetson Orin NX 16GBTrafficCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  48. 3 novemberNieuwe CV-benchmarkPeopleNet INT8 — Jetson Orin NX 16GBPeopleNet-persoonsdetectie (INT8, invoer 960×544) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  49. 3 novemberNieuwe CV-benchmarkLPDNet INT8 — Jetson Orin NX 16GBLPDNet-kentekenplaatdetectie (INT8, invoer 640×480) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  50. 3 novemberNieuwe CV-benchmarkDashCamNet INT8 — Jetson Orin NX 16GBDashCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson Orin NX 16GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  51. 3 novemberNieuwe CV-benchmarkYOLOX-X FP16 — Jetson Orin NanoYOLOX-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  52. 3 novemberNieuwe CV-benchmarkYOLOX-S FP16 — Jetson Orin NanoYOLOX-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  53. 3 novemberNieuwe CV-benchmarkYOLOX-M FP16 — Jetson Orin NanoYOLOX-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  54. 3 novemberNieuwe CV-benchmarkYOLOX-L FP16 — Jetson Orin NanoYOLOX-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  55. 3 novemberNieuwe CV-benchmarkYOLOV9-S FP16 — Jetson Orin NanoYOLOV9-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  56. 3 novemberNieuwe CV-benchmarkYOLOV9-M FP16 — Jetson Orin NanoYOLOV9-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  57. 3 novemberNieuwe CV-benchmarkYOLOV8-S FP16 — Jetson Orin NanoYOLOV8-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  58. 3 novemberNieuwe CV-benchmarkYOLOV8-N FP16 — Jetson Orin NanoYOLOV8-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  59. 3 novemberNieuwe CV-benchmarkYOLOV8-M FP16 — Jetson Orin NanoYOLOV8-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  60. 3 novemberNieuwe CV-benchmarkYOLOV8-L FP16 — Jetson Orin NanoYOLOV8-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  61. 3 novemberNieuwe CV-benchmarkYOLOV6-S FP16 — Jetson Orin NanoYOLOV6-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  62. 3 novemberNieuwe CV-benchmarkYOLOV6-N FP16 — Jetson Orin NanoYOLOV6-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  63. 3 novemberNieuwe CV-benchmarkYOLOV6-M FP16 — Jetson Orin NanoYOLOV6-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  64. 3 novemberNieuwe CV-benchmarkYOLOV6-L FP16 — Jetson Orin NanoYOLOV6-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  65. 3 novemberNieuwe CV-benchmarkYOLOV5U-X FP16 — Jetson Orin NanoYOLOV5U-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  66. 3 novemberNieuwe CV-benchmarkYOLOV5U-S FP16 — Jetson Orin NanoYOLOV5U-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  67. 3 novemberNieuwe CV-benchmarkYOLOV5U-M FP16 — Jetson Orin NanoYOLOV5U-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  68. 3 novemberNieuwe CV-benchmarkYOLOV5U-L FP16 — Jetson Orin NanoYOLOV5U-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  69. 3 novemberNieuwe CV-benchmarkYOLOV10-X FP16 — Jetson Orin NanoYOLOV10-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  70. 3 novemberNieuwe CV-benchmarkYOLOV10-S FP16 — Jetson Orin NanoYOLOV10-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  71. 3 novemberNieuwe CV-benchmarkYOLOV10-N FP16 — Jetson Orin NanoYOLOV10-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  72. 3 novemberNieuwe CV-benchmarkYOLOV10-M FP16 — Jetson Orin NanoYOLOV10-M-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 2 gelijktijdige camera's.
  73. 3 novemberNieuwe CV-benchmarkYOLOV10-L FP16 — Jetson Orin NanoYOLOV10-L-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  74. 3 novemberNieuwe CV-benchmarkYOLO11-X FP16 — Jetson Orin NanoYOLO11-X-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 1 gelijktijdige camera's.
  75. 3 novemberNieuwe CV-benchmarkYOLO11-S FP16 — Jetson Orin NanoYOLO11-S-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  76. 3 novemberNieuwe CV-benchmarkYOLO11-N FP16 — Jetson Orin NanoYOLO11-N-objectdetectie (FP16, invoer 640×640) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  77. 3 novemberNieuwe CV-benchmarkTrafficCamNet INT8 — Jetson Orin NanoTrafficCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  78. 3 novemberNieuwe CV-benchmarkPeopleNet INT8 — Jetson Orin NanoPeopleNet-persoonsdetectie (INT8, invoer 960×544) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  79. 3 novemberNieuwe CV-benchmarkLPDNet INT8 — Jetson Orin NanoLPDNet-kentekenplaatdetectie (INT8, invoer 640×480) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  80. 3 novemberNieuwe CV-benchmarkDashCamNet INT8 — Jetson Orin NanoDashCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson Orin Nano met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  81. 3 novemberNieuwe CV-benchmarkYOLOX-X FP16 — Jetson AGX Orin 64GBYOLOX-X-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 4 gelijktijdige camera's.
  82. 3 novemberNieuwe CV-benchmarkYOLOX-S FP16 — Jetson AGX Orin 64GBYOLOX-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  83. 3 novemberNieuwe CV-benchmarkYOLOX-M FP16 — Jetson AGX Orin 64GBYOLOX-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  84. 3 novemberNieuwe CV-benchmarkYOLOX-L FP16 — Jetson AGX Orin 64GBYOLOX-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  85. 3 novemberNieuwe CV-benchmarkYOLOV9-S FP16 — Jetson AGX Orin 64GBYOLOV9-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  86. 3 novemberNieuwe CV-benchmarkYOLOV9-M FP16 — Jetson AGX Orin 64GBYOLOV9-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  87. 3 novemberNieuwe CV-benchmarkYOLOV8-M FP16 — Jetson AGX Orin 64GBYOLOV8-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  88. 3 novemberNieuwe CV-benchmarkYOLOV8-L FP16 — Jetson AGX Orin 64GBYOLOV8-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  89. 3 novemberNieuwe CV-benchmarkYOLOV6-S FP16 — Jetson AGX Orin 64GBYOLOV6-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  90. 3 novemberNieuwe CV-benchmarkYOLOV6-N FP16 — Jetson AGX Orin 64GBYOLOV6-N-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  91. 3 novemberNieuwe CV-benchmarkYOLOV6-M FP16 — Jetson AGX Orin 64GBYOLOV6-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  92. 3 novemberNieuwe CV-benchmarkYOLOV6-L FP16 — Jetson AGX Orin 64GBYOLOV6-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  93. 3 novemberNieuwe CV-benchmarkYOLOV5U-S FP16 — Jetson AGX Orin 64GBYOLOV5U-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  94. 3 novemberNieuwe CV-benchmarkYOLOV5U-M FP16 — Jetson AGX Orin 64GBYOLOV5U-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  95. 3 novemberNieuwe CV-benchmarkYOLOV5U-L FP16 — Jetson AGX Orin 64GBYOLOV5U-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  96. 3 novemberNieuwe CV-benchmarkYOLOV10-S FP16 — Jetson AGX Orin 64GBYOLOV10-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  97. 3 novemberNieuwe CV-benchmarkYOLOV10-N FP16 — Jetson AGX Orin 64GBYOLOV10-N-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  98. 3 novemberNieuwe CV-benchmarkYOLOV10-M FP16 — Jetson AGX Orin 64GBYOLOV10-M-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  99. 3 novemberNieuwe CV-benchmarkYOLOV10-L FP16 — Jetson AGX Orin 64GBYOLOV10-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  100. 3 novemberNieuwe CV-benchmarkYOLOX-X FP16 — GB10YOLOX-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  101. 3 novemberNieuwe CV-benchmarkYOLOX-S FP16 — GB10YOLOX-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  102. 3 novemberNieuwe CV-benchmarkYOLOX-M FP16 — GB10YOLOX-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  103. 3 novemberNieuwe CV-benchmarkYOLOX-L FP16 — GB10YOLOX-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  104. 3 novemberNieuwe CV-benchmarkYOLOV9-S FP16 — GB10YOLOV9-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  105. 3 novemberNieuwe CV-benchmarkYOLOV9-M FP16 — GB10YOLOV9-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  106. 3 novemberNieuwe CV-benchmarkYOLOV8-X FP16 — GB10YOLOV8-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  107. 3 novemberNieuwe CV-benchmarkYOLOV8-S FP16 — GB10YOLOV8-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  108. 3 novemberNieuwe CV-benchmarkYOLOV8-N FP16 — GB10YOLOV8-N-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  109. 3 novemberNieuwe CV-benchmarkYOLOV8-M FP16 — GB10YOLOV8-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  110. 3 novemberNieuwe CV-benchmarkYOLOV8-L FP16 — GB10YOLOV8-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  111. 3 novemberNieuwe CV-benchmarkYOLOV6-S FP16 — GB10YOLOV6-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  112. 3 novemberNieuwe CV-benchmarkYOLOV6-N FP16 — GB10YOLOV6-N-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  113. 3 novemberNieuwe CV-benchmarkYOLOV6-M FP16 — GB10YOLOV6-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  114. 3 novemberNieuwe CV-benchmarkYOLOV6-L FP16 — GB10YOLOV6-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  115. 3 novemberNieuwe CV-benchmarkYOLOV5U-X FP16 — GB10YOLOV5U-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  116. 3 novemberNieuwe CV-benchmarkYOLOV5U-S FP16 — GB10YOLOV5U-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  117. 3 novemberNieuwe CV-benchmarkYOLOV5U-M FP16 — GB10YOLOV5U-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  118. 3 novemberNieuwe CV-benchmarkYOLOV5U-L FP16 — GB10YOLOV5U-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  119. 3 novemberNieuwe CV-benchmarkYOLOV5-X FP16 — GB10YOLOV5-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  120. 3 novemberNieuwe CV-benchmarkYOLOV5-S FP16 — GB10YOLOV5-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  121. 3 novemberNieuwe CV-benchmarkYOLOV5-N FP16 — GB10YOLOV5-N-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  122. 3 novemberNieuwe CV-benchmarkYOLOV5-M FP16 — GB10YOLOV5-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  123. 3 novemberNieuwe CV-benchmarkYOLOV5-L FP16 — GB10YOLOV5-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  124. 3 novemberNieuwe CV-benchmarkYOLOV10-X FP16 — GB10YOLOV10-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  125. 3 novemberNieuwe CV-benchmarkYOLOV10-S FP16 — GB10YOLOV10-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  126. 3 novemberNieuwe CV-benchmarkYOLOV10-N FP16 — GB10YOLOV10-N-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  127. 3 novemberNieuwe CV-benchmarkYOLOV10-M FP16 — GB10YOLOV10-M-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  128. 3 novemberNieuwe CV-benchmarkYOLOV10-L FP16 — GB10YOLOV10-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  129. 3 novemberNieuwe CV-benchmarkYOLO11-X FP16 — GB10YOLO11-X-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  130. 3 novemberNieuwe CV-benchmarkYOLO11-S FP16 — GB10YOLO11-S-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  131. 3 novemberNieuwe CV-benchmarkYOLO11-N FP16 — GB10YOLO11-N-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  132. 3 novemberNieuwe CV-benchmarkYOLO11-L FP16 — GB10YOLO11-L-objectdetectie (FP16, invoer 640×640) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  133. 3 novemberNieuwe CV-benchmarkLPDNet INT8 — GB10LPDNet-kentekenplaatdetectie (INT8, invoer 640×480) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 64 gelijktijdige camera's.
  134. 2 novemberNieuwe CV-benchmarkYOLOX-X FP16 — RTX 3090YOLOX-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  135. 2 novemberNieuwe CV-benchmarkYOLOX-S FP16 — RTX 3090YOLOX-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  136. 2 novemberNieuwe CV-benchmarkYOLOX-M FP16 — RTX 3090YOLOX-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  137. 2 novemberNieuwe CV-benchmarkYOLOX-L FP16 — RTX 3090YOLOX-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  138. 2 novemberNieuwe CV-benchmarkYOLOV9-S FP16 — RTX 3090YOLOV9-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  139. 2 novemberNieuwe CV-benchmarkYOLOV9-M FP16 — RTX 3090YOLOV9-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  140. 2 novemberNieuwe CV-benchmarkYOLOV8-X FP16 — RTX 3090YOLOV8-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  141. 2 novemberNieuwe CV-benchmarkYOLOV8-S FP16 — RTX 3090YOLOV8-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  142. 2 novemberNieuwe CV-benchmarkYOLOV8-N FP16 — RTX 3090YOLOV8-N-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  143. 2 novemberNieuwe CV-benchmarkYOLOV8-M FP16 — RTX 3090YOLOV8-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  144. 2 novemberNieuwe CV-benchmarkYOLOV8-L FP16 — RTX 3090YOLOV8-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  145. 2 novemberNieuwe CV-benchmarkYOLOV6-S FP16 — RTX 3090YOLOV6-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  146. 2 novemberNieuwe CV-benchmarkYOLOV6-N FP16 — RTX 3090YOLOV6-N-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  147. 2 novemberNieuwe CV-benchmarkYOLOV6-M FP16 — RTX 3090YOLOV6-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  148. 2 novemberNieuwe CV-benchmarkYOLOV6-L FP16 — RTX 3090YOLOV6-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  149. 2 novemberNieuwe CV-benchmarkYOLOV5U-X FP16 — RTX 3090YOLOV5U-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  150. 2 novemberNieuwe CV-benchmarkYOLOV5U-S FP16 — RTX 3090YOLOV5U-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  151. 2 novemberNieuwe CV-benchmarkYOLOV5U-M FP16 — RTX 3090YOLOV5U-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  152. 2 novemberNieuwe CV-benchmarkYOLOV5U-L FP16 — RTX 3090YOLOV5U-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  153. 2 novemberNieuwe CV-benchmarkYOLOV5-X FP16 — RTX 3090YOLOV5-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  154. 2 novemberNieuwe CV-benchmarkYOLOV5-S FP16 — RTX 3090YOLOV5-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  155. 2 novemberNieuwe CV-benchmarkYOLOV5-N FP16 — RTX 3090YOLOV5-N-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  156. 2 novemberNieuwe CV-benchmarkYOLOV5-M FP16 — RTX 3090YOLOV5-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  157. 2 novemberNieuwe CV-benchmarkYOLOV5-L FP16 — RTX 3090YOLOV5-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  158. 2 novemberNieuwe CV-benchmarkYOLOV10-X FP16 — RTX 3090YOLOV10-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  159. 2 novemberNieuwe CV-benchmarkYOLOV10-S FP16 — RTX 3090YOLOV10-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  160. 2 novemberNieuwe CV-benchmarkYOLOV10-N FP16 — RTX 3090YOLOV10-N-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  161. 2 novemberNieuwe CV-benchmarkYOLOV10-M FP16 — RTX 3090YOLOV10-M-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  162. 2 novemberNieuwe CV-benchmarkYOLOV10-L FP16 — RTX 3090YOLOV10-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  163. 2 novemberNieuwe CV-benchmarkYOLO11-X FP16 — RTX 3090YOLO11-X-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  164. 2 novemberNieuwe CV-benchmarkYOLO11-S FP16 — RTX 3090YOLO11-S-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  165. 2 novemberNieuwe CV-benchmarkYOLO11-N FP16 — RTX 3090YOLO11-N-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  166. 2 novemberNieuwe CV-benchmarkYOLO11-L FP16 — RTX 3090YOLO11-L-objectdetectie (FP16, invoer 640×640) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  167. 2 novemberNieuwe CV-benchmarkTrafficCamNet INT8 — RTX 3090TrafficCamNet-voertuigdetectie (INT8, invoer 960×544) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  168. 2 novemberNieuwe CV-benchmarkPeopleNet INT8 — RTX 3090PeopleNet-persoonsdetectie (INT8, invoer 960×544) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 42 gelijktijdige camera's.
  169. 2 novemberNieuwe CV-benchmarkLPDNet INT8 — RTX 3090LPDNet-kentekenplaatdetectie (INT8, invoer 640×480) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  170. 2 novemberNieuwe CV-benchmarkDashCamNet INT8 — RTX 3090DashCamNet-voertuigdetectie (INT8, invoer 960×544) op RTX 3090 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 40 gelijktijdige camera's.
  171. 2 novemberNieuwe CV-benchmarkYOLOV8-S FP16 — Jetson AGX Orin 64GBYOLOV8-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  172. 2 novemberNieuwe CV-benchmarkYOLOV8-N FP16 — Jetson AGX Orin 64GBYOLOV8-N-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  173. 2 novemberNieuwe CV-benchmarkYOLO11-S FP16 — Jetson AGX Orin 64GBYOLO11-S-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  174. 2 novemberNieuwe CV-benchmarkYOLO11-N FP16 — Jetson AGX Orin 64GBYOLO11-N-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  175. 2 novemberNieuwe CV-benchmarkYOLO11-L FP16 — Jetson AGX Orin 64GBYOLO11-L-objectdetectie (FP16, invoer 640×640) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 8 gelijktijdige camera's.
  176. 2 novemberNieuwe CV-benchmarkTrafficCamNet INT8 — Jetson AGX Orin 64GBTrafficCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  177. 2 novemberNieuwe CV-benchmarkPeopleNet INT8 — Jetson AGX Orin 64GBPeopleNet-persoonsdetectie (INT8, invoer 960×544) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  178. 2 novemberNieuwe CV-benchmarkLPDNet INT8 — Jetson AGX Orin 64GBLPDNet-kentekenplaatdetectie (INT8, invoer 640×480) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  179. 2 novemberNieuwe CV-benchmarkDashCamNet INT8 — Jetson AGX Orin 64GBDashCamNet-voertuigdetectie (INT8, invoer 960×544) op Jetson AGX Orin 64GB met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  180. 2 novemberNieuwe CV-benchmarkTrafficCamNet INT8 — GB10TrafficCamNet-voertuigdetectie (INT8, invoer 960×544) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  181. 2 novemberNieuwe CV-benchmarkPeopleNet INT8 — GB10PeopleNet-persoonsdetectie (INT8, invoer 960×544) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  182. 2 novemberNieuwe CV-benchmarkDashCamNet INT8 — GB10DashCamNet-voertuigdetectie (INT8, invoer 960×544) op GB10 met een opnieuw afgespeelde 1080p20-clip: frames per seconde per camera, gemeten van 1 tot 48 gelijktijdige camera's.
  183. 2 novemberNieuwe LLM-benchmarkMiniMax-M3.1-Flash — DGX B300MiniMax-M3.1-Flash op DGX B300: MXFP8 dense lagen en NVFP4-expertgewichten geserveerd met vLLM op TP=2, met DSpark speculatieve decodering (k=8) en een context van 1M, gemeten tot 256 gelijktijdige verzoeken.
  184. 2 novemberNieuwe LLM-benchmarkMiniMax-M3.1-Flash — 4× DGX SparkMiniMax-M3.1-Flash op 4× DGX Spark: MXFP8 dense lagen en NVFP4-expertgewichten geserveerd met vLLM op TP=4, met DSpark speculatieve decodering (k=8) en een context van 1M, gemeten tot 8 gelijktijdige verzoeken.
  185. 2 novemberNieuwe LLM-benchmarkNVIDIA-Nemotron-3.5-Bolt-74B-A9B — DGX B300NVIDIA-Nemotron-3.5-Bolt-74B-A9B op DGX B300: BF16-gewichten geserveerd met vLLM op TP=1, met een context van 256K, gemeten tot 256 gelijktijdige verzoeken.

oktober 2026

  1. 28 oktoberNieuwe LLM-benchmarkDeepSeek-V4.1-Flash-1017 — DGX B300DeepSeek-V4.1-Flash-1017 op DGX B300: FP8-gewichten geserveerd met vLLM op TP=2, met DSpark speculatieve decodering (k=3) en een context van 1M, gemeten tot 256 gelijktijdige verzoeken.
  2. 26 oktoberNieuwe LLM-benchmarkMuse-Spark-Open-816B-A42B — 8× DGX SparkMuse-Spark-Open-816B-A42B op 8× DGX Spark: NVFP4-gewichten geserveerd met vLLM op TP=8, met DSpark speculatieve decodering en een context van 128K, gemeten tot 8 gelijktijdige verzoeken.
  3. 23 oktoberNieuwe VLM-benchmarkd1-3B — DGX Sparkd1-3B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 256 gelijktijdige camera's en tot 32 beelden per verzoek.
  4. 23 oktoberNieuwe VLM-benchmarkFara1.5-27B — DGX SparkFara1.5-27B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 40 gelijktijdige camera's en tot 128 beelden per verzoek.
  5. 23 oktoberNieuwe VLM-benchmarkGemma-4-26B-A4B-it — DGX SparkGemma-4-26B-A4B-it op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 120 gelijktijdige camera's en tot 128 beelden per verzoek.
  6. 23 oktoberNieuwe VLM-benchmarkGLM-4.6V-Flash — DGX SparkGLM-4.6V-Flash op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 48 gelijktijdige camera's en tot 64 beelden per verzoek.
  7. 23 oktoberNieuwe VLM-benchmarkGranite-Vision-4.1-4B — DGX SparkGranite-Vision-4.1-4B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 32 beelden per verzoek.
  8. 23 oktoberNieuwe VLM-benchmarkH2O-Lightning-4B — DGX SparkH2O-Lightning-4B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 144 gelijktijdige camera's en tot 128 beelden per verzoek.
  9. 23 oktoberNieuwe VLM-benchmarkLensVLM-9B — DGX SparkLensVLM-9B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 80 gelijktijdige camera's en tot 128 beelden per verzoek.
  10. 23 oktoberNieuwe VLM-benchmarkLFM2.5-VL-3B — DGX SparkLFM2.5-VL-3B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 256 gelijktijdige camera's en tot 32 beelden per verzoek.
  11. 23 oktoberNieuwe VLM-benchmarkLlama-4-Scout-17B-16E-Instruct — DGX SparkLlama-4-Scout-17B-16E-Instruct op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 28 gelijktijdige camera's en tot 64 beelden per verzoek.
  12. 23 oktoberNieuwe VLM-benchmarkMiMo-V2.6-Distill-Qwen-9B — DGX SparkMiMo-V2.6-Distill-Qwen-9B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 128 beelden per verzoek.
  13. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.6 — DGX SparkMiniCPM-V-4.6 op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 384 gelijktijdige camera's en tot 128 beelden per verzoek.
  14. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.7-1B — DGX SparkMiniCPM-V-4.7-1B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 352 gelijktijdige camera's en tot 128 beelden per verzoek.
  15. 23 oktoberNieuwe VLM-benchmarkMistral-Small-4-119B-2603 — DGX SparkMistral-Small-4-119B-2603 op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 88 gelijktijdige camera's en tot 64 beelden per verzoek.
  16. 23 oktoberNieuwe VLM-benchmarkNVIDIA-Nemotron-3.5-Bolt-74B-A9B — DGX SparkNVIDIA-Nemotron-3.5-Bolt-74B-A9B op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 64 gelijktijdige camera's en tot 32 beelden per verzoek.
  17. 23 oktoberNieuwe VLM-benchmarkNVIDIA-Nemotron-3.5-Super-VL-120B-A12B — DGX SparkNVIDIA-Nemotron-3.5-Super-VL-120B-A12B op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 56 gelijktijdige camera's en tot 64 beelden per verzoek.
  18. 23 oktoberNieuwe VLM-benchmarkQwen3.5-0.8B — DGX SparkQwen3.5-0.8B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 416 gelijktijdige camera's en tot 128 beelden per verzoek.
  19. 23 oktoberNieuwe VLM-benchmarkQwen3.5-122B-A10B — DGX SparkQwen3.5-122B-A10B op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 20 gelijktijdige camera's en tot 128 beelden per verzoek.
  20. 23 oktoberNieuwe VLM-benchmarkQwen3.5-27B — DGX SparkQwen3.5-27B op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 56 gelijktijdige camera's en tot 128 beelden per verzoek.
  21. 23 oktoberNieuwe VLM-benchmarkQwen3.5-2B — DGX SparkQwen3.5-2B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 240 gelijktijdige camera's en tot 128 beelden per verzoek.
  22. 23 oktoberNieuwe VLM-benchmarkQwen3.5-35B-A3B — DGX SparkQwen3.5-35B-A3B op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 112 gelijktijdige camera's en tot 128 beelden per verzoek.
  23. 23 oktoberNieuwe VLM-benchmarkQwen3.5-9B — DGX SparkQwen3.5-9B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 128 beelden per verzoek.
  24. 23 oktoberNieuwe VLM-benchmarkQwen3.6-27B — DGX SparkQwen3.6-27B op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 56 gelijktijdige camera's en tot 128 beelden per verzoek.
  25. 23 oktoberNieuwe VLM-benchmarkd1-3B — Jetson Orin NX 16GBd1-3B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  26. 23 oktoberNieuwe VLM-benchmarkGLM-4.6V-Flash — Jetson Orin NX 16GBGLM-4.6V-Flash op Jetson Orin NX 16GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  27. 23 oktoberNieuwe VLM-benchmarkGranite-Vision-4.1-4B — Jetson Orin NX 16GBGranite-Vision-4.1-4B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  28. 23 oktoberNieuwe VLM-benchmarkLensVLM-9B — Jetson Orin NX 16GBLensVLM-9B op Jetson Orin NX 16GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  29. 23 oktoberNieuwe VLM-benchmarkLFM2.5-VL-3B — Jetson Orin NX 16GBLFM2.5-VL-3B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  30. 23 oktoberNieuwe VLM-benchmarkMiMo-V2.6-Distill-Qwen-9B — Jetson Orin NX 16GBMiMo-V2.6-Distill-Qwen-9B op Jetson Orin NX 16GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  31. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.6 — Jetson Orin NX 16GBMiniCPM-V-4.6 op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  32. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.7-1B — Jetson Orin NX 16GBMiniCPM-V-4.7-1B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  33. 23 oktoberNieuwe VLM-benchmarkQwen-Drive-1.0-4B — Jetson Orin NX 16GBQwen-Drive-1.0-4B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  34. 23 oktoberNieuwe VLM-benchmarkQwen3.5-0.8B — Jetson Orin NX 16GBQwen3.5-0.8B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  35. 23 oktoberNieuwe VLM-benchmarkQwen3.5-2B — Jetson Orin NX 16GBQwen3.5-2B op Jetson Orin NX 16GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  36. 23 oktoberNieuwe VLM-benchmarkQwen3.5-9B — Jetson Orin NX 16GBQwen3.5-9B op Jetson Orin NX 16GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  37. 23 oktoberNieuwe VLM-benchmarkd1-3B — Jetson AGX Orin 32GB Developer Kitd1-3B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  38. 23 oktoberNieuwe VLM-benchmarkGLM-4.6V-Flash — Jetson AGX Orin 32GB Developer KitGLM-4.6V-Flash op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  39. 23 oktoberNieuwe VLM-benchmarkGranite-Vision-4.1-4B — Jetson AGX Orin 32GB Developer KitGranite-Vision-4.1-4B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  40. 23 oktoberNieuwe VLM-benchmarkLensVLM-9B — Jetson AGX Orin 32GB Developer KitLensVLM-9B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  41. 23 oktoberNieuwe VLM-benchmarkLFM2.5-VL-3B — Jetson AGX Orin 32GB Developer KitLFM2.5-VL-3B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  42. 23 oktoberNieuwe VLM-benchmarkMiMo-V2.6-Distill-Qwen-9B — Jetson AGX Orin 32GB Developer KitMiMo-V2.6-Distill-Qwen-9B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  43. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.6 — Jetson AGX Orin 32GB Developer KitMiniCPM-V-4.6 op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  44. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.7-1B — Jetson AGX Orin 32GB Developer KitMiniCPM-V-4.7-1B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  45. 23 oktoberNieuwe VLM-benchmarkMiniCPM-V-4.7-35B-A3B — Jetson AGX Orin 32GB Developer KitMiniCPM-V-4.7-35B-A3B op Jetson AGX Orin 32GB Developer Kit: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  46. 23 oktoberNieuwe VLM-benchmarkQwen-Drive-1.0-4B — Jetson AGX Orin 32GB Developer KitQwen-Drive-1.0-4B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  47. 23 oktoberNieuwe VLM-benchmarkQwen3.5-0.8B — Jetson AGX Orin 32GB Developer KitQwen3.5-0.8B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  48. 23 oktoberNieuwe VLM-benchmarkQwen3.5-27B — Jetson AGX Orin 32GB Developer KitQwen3.5-27B op Jetson AGX Orin 32GB Developer Kit: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  49. 23 oktoberNieuwe VLM-benchmarkQwen3.5-2B — Jetson AGX Orin 32GB Developer KitQwen3.5-2B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  50. 23 oktoberNieuwe VLM-benchmarkQwen3.5-35B-A3B — Jetson AGX Orin 32GB Developer KitQwen3.5-35B-A3B op Jetson AGX Orin 32GB Developer Kit: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  51. 23 oktoberNieuwe VLM-benchmarkQwen3.5-9B — Jetson AGX Orin 32GB Developer KitQwen3.5-9B op Jetson AGX Orin 32GB Developer Kit: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  52. 23 oktoberNieuwe VLM-benchmarkQwen3.6-27B — Jetson AGX Orin 32GB Developer KitQwen3.6-27B op Jetson AGX Orin 32GB Developer Kit: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 32 beelden per verzoek.
  53. 21 oktoberNieuwe LLM-benchmarkMuse-Spark-Open-816B-A42B — DGX B300Muse-Spark-Open-816B-A42B op een DGX B300: NVFP4-gewichten geserveerd met vLLM op TP=4, met DSpark speculatieve decodering, gemeten tot 64 gelijktijdige verzoeken.
  54. 21 oktoberNieuwe LLM-benchmarkNVIDIA-Nemotron-3.5-Super-VL-120B-A12B — DGX B300NVIDIA-Nemotron-3.5-Super-VL-120B-A12B op een DGX B300: BF16-gewichten geserveerd met vLLM op TP=2, met de ingebouwde MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
  55. 21 oktoberNieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300: FP8-gewichten geserveerd met vLLM op TP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
  56. 21 oktoberNieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300 met expertparallelisme: FP8-gewichten geserveerd met vLLM met EP=4 over TP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
  57. 21 oktoberNieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300 met dataparallellisme: FP8-gewichten geserveerd met vLLM op DP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
  58. 21 oktoberNieuwe whitepaperOffloading van de KV-cache met LMCache bij LLM-inferentieWat LMCache aan vLLM toevoegt wanneer dezelfde contexten terugkomen: een drietraps KV-cache (GPU, CPU, NVMe) op DGX Spark, gemeten TTFT — 1.95× bij hergebruik, 3.3× na een herstart van de service — en de instellingen en grenzen die daarbij horen.
  59. 15 oktoberNieuwe whitepaperNetwerklinksnelheid voor tensorparallelle inferentie op 8× DGX Spark (200G vs 100G)Hoeveel netwerkbandbreedte een tensorparallel cluster van 8 Sparks werkelijk gebruikt, en wat het kost om elke DGX Spark op 100G in plaats van 200G te laten draaien: het mechanisme, een schatting op basis van de architectuur van het model, en metingen met GLM-5.3 op TP8.
  60. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason1-7B — Jetson AGX ThorCosmos-Reason1-7B op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 16 gelijktijdige camera's en tot 64 beelden per verzoek.
  61. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-2B — Jetson AGX ThorCosmos-Reason2-2B op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 256 gelijktijdige camera's en tot 256 beelden per verzoek.
  62. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-8B — Jetson AGX ThorCosmos-Reason2-8B op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 112 gelijktijdige camera's en tot 256 beelden per verzoek.
  63. 15 oktoberNieuwe VLM-benchmarkCosmos3-Edge — Jetson AGX ThorCosmos3-Edge op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 208 gelijktijdige camera's en tot 128 beelden per verzoek.
  64. 15 oktoberNieuwe VLM-benchmarkCosmos3-Nano — Jetson AGX ThorCosmos3-Nano op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 112 gelijktijdige camera's en tot 256 beelden per verzoek.
  65. 15 oktoberNieuwe VLM-benchmarkEagle2.5-8B — Jetson AGX ThorEagle2.5-8B op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 52 gelijktijdige camera's en tot 64 beelden per verzoek.
  66. 15 oktoberNieuwe VLM-benchmarkGemma-4-31B-it — Jetson AGX ThorGemma-4-31B-it op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 60 gelijktijdige camera's en tot 64 beelden per verzoek.
  67. 15 oktoberNieuwe VLM-benchmarkGemma-4-31B-it — Jetson AGX ThorGemma-4-31B-it op Jetson AGX Thor: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 80 gelijktijdige camera's en tot 64 beelden per verzoek.
  68. 15 oktoberNieuwe VLM-benchmarkLlama-3.1-Nemotron-Nano-VL-8B — Jetson AGX ThorLlama-3.1-Nemotron-Nano-VL-8B op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 40 gelijktijdige camera's en tot 32 beelden per verzoek.
  69. 15 oktoberNieuwe VLM-benchmarkMedGemma-1.5-4B-it — Jetson AGX ThorMedGemma-1.5-4B-it op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 192 gelijktijdige camera's en tot 256 beelden per verzoek.
  70. 15 oktoberNieuwe VLM-benchmarkNemotron-Nano-12B-v2-VL — Jetson AGX ThorNemotron-Nano-12B-v2-VL op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 88 gelijktijdige camera's en tot 128 beelden per verzoek.
  71. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-30B-A3B-Instruct — Jetson AGX ThorQwen3-VL-30B-A3B-Instruct op Jetson AGX Thor: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 256 beelden per verzoek.
  72. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-4B-Instruct — Jetson AGX ThorQwen3-VL-4B-Instruct op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 160 gelijktijdige camera's en tot 256 beelden per verzoek.
  73. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-8B-Instruct — Jetson AGX ThorQwen3-VL-8B-Instruct op Jetson AGX Thor: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 104 gelijktijdige camera's en tot 256 beelden per verzoek.
  74. 15 oktoberNieuwe VLM-benchmarkQwen3.6-35B-A3B — Jetson AGX ThorQwen3.6-35B-A3B op Jetson AGX Thor: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 104 gelijktijdige camera's en tot 256 beelden per verzoek.
  75. 15 oktoberNieuwe VLM-benchmarkQwen3.6-35B-A3B — Jetson AGX ThorQwen3.6-35B-A3B op Jetson AGX Thor: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 104 gelijktijdige camera's en tot 256 beelden per verzoek.
  76. 15 oktoberNieuwe VLM-benchmarkQwen3.8-27B — Jetson AGX ThorQwen3.8-27B op Jetson AGX Thor: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 44 gelijktijdige camera's en tot 256 beelden per verzoek.
  77. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason1-7B — DGX SparkCosmos-Reason1-7B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 16 gelijktijdige camera's en tot 64 beelden per verzoek.
  78. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-2B — DGX SparkCosmos-Reason2-2B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 224 gelijktijdige camera's en tot 256 beelden per verzoek.
  79. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-8B — DGX SparkCosmos-Reason2-8B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 256 beelden per verzoek.
  80. 15 oktoberNieuwe VLM-benchmarkCosmos3-Edge — DGX SparkCosmos3-Edge op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 16 gelijktijdige camera's en tot 128 beelden per verzoek.
  81. 15 oktoberNieuwe VLM-benchmarkCosmos3-Nano — DGX SparkCosmos3-Nano op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 256 beelden per verzoek.
  82. 15 oktoberNieuwe VLM-benchmarkEagle2.5-8B — DGX SparkEagle2.5-8B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 44 gelijktijdige camera's en tot 64 beelden per verzoek.
  83. 15 oktoberNieuwe VLM-benchmarkGemma-4-31B-it — DGX SparkGemma-4-31B-it op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 64 gelijktijdige camera's en tot 128 beelden per verzoek.
  84. 15 oktoberNieuwe VLM-benchmarkGemma-4-31B-it — DGX SparkGemma-4-31B-it op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 96 gelijktijdige camera's en tot 128 beelden per verzoek.
  85. 15 oktoberNieuwe VLM-benchmarkLlama-3.1-Nemotron-Nano-VL-8B — DGX SparkLlama-3.1-Nemotron-Nano-VL-8B op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 32 gelijktijdige camera's en tot 32 beelden per verzoek.
  86. 15 oktoberNieuwe VLM-benchmarkMedGemma-1.5-4B-it — DGX SparkMedGemma-1.5-4B-it op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 240 gelijktijdige camera's en tot 256 beelden per verzoek.
  87. 15 oktoberNieuwe VLM-benchmarkNemotron-Nano-12B-v2-VL — DGX SparkNemotron-Nano-12B-v2-VL op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 72 gelijktijdige camera's en tot 128 beelden per verzoek.
  88. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-30B-A3B-Instruct — DGX SparkQwen3-VL-30B-A3B-Instruct op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 104 gelijktijdige camera's en tot 256 beelden per verzoek.
  89. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-4B-Instruct — DGX SparkQwen3-VL-4B-Instruct op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 128 gelijktijdige camera's en tot 256 beelden per verzoek.
  90. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-8B-Instruct — DGX SparkQwen3-VL-8B-Instruct op DGX Spark: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 88 gelijktijdige camera's en tot 256 beelden per verzoek.
  91. 15 oktoberNieuwe VLM-benchmarkQwen3.6-35B-A3B — DGX SparkQwen3.6-35B-A3B op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 104 gelijktijdige camera's en tot 256 beelden per verzoek.
  92. 15 oktoberNieuwe VLM-benchmarkQwen3.6-35B-A3B — DGX SparkQwen3.6-35B-A3B op DGX Spark: NVFP4-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 120 gelijktijdige camera's en tot 256 beelden per verzoek.
  93. 15 oktoberNieuwe VLM-benchmarkQwen3.8-27B — DGX SparkQwen3.8-27B op DGX Spark: FP8-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 48 gelijktijdige camera's en tot 256 beelden per verzoek.
  94. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason1-7B — Jetson AGX Orin 32GBCosmos-Reason1-7B op Jetson AGX Orin 32GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  95. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-2B — Jetson AGX Orin 32GBCosmos-Reason2-2B op Jetson AGX Orin 32GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  96. 15 oktoberNieuwe VLM-benchmarkCosmos-Reason2-8B — Jetson AGX Orin 32GBCosmos-Reason2-8B op Jetson AGX Orin 32GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  97. 15 oktoberNieuwe VLM-benchmarkCosmos3-Edge — Jetson AGX Orin 32GBCosmos3-Edge op Jetson AGX Orin 32GB: BF16-gewichten geserveerd met vLLM, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  98. 15 oktoberNieuwe VLM-benchmarkGemma-4-26B-A4B-it — Jetson AGX Orin 32GBGemma-4-26B-A4B-it op Jetson AGX Orin 32GB: Q4_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  99. 15 oktoberNieuwe VLM-benchmarkGemma-4-E4B-it — Jetson AGX Orin 32GBGemma-4-E4B-it op Jetson AGX Orin 32GB: Q4_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  100. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-4B-Instruct — Jetson AGX Orin 32GBQwen3-VL-4B-Instruct op Jetson AGX Orin 32GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  101. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-8B-Instruct — Jetson AGX Orin 32GBQwen3-VL-8B-Instruct op Jetson AGX Orin 32GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  102. 15 oktoberNieuwe VLM-benchmarkQwen3-VL-8B-Instruct — Jetson AGX Orin 32GBQwen3-VL-8B-Instruct op Jetson AGX Orin 32GB: Q8_0 GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  103. 15 oktoberNieuwe VLM-benchmarkQwen3.5-4B — Jetson AGX Orin 32GBQwen3.5-4B op Jetson AGX Orin 32GB: Q4_K_M GGUF-gewichten geserveerd met llama.cpp, responstijd gemeten van 1 tot 8 gelijktijdige camera's en tot 5 beelden per verzoek.
  104. 12 oktoberNieuwe whitepaperKeuzegids voor LLM-kwantisatieBeslisgids voor LLM-kwantisatie: hoe workload, kwantisatieformaat, GPU-architectuur en betrouwbaarheid van checkpoints de keuze bepalen — met de keuzestroom, veelgemaakte fouten, voorbeelden en een snelle opdrachtenreferentie.
  105. 8 oktoberNieuwe LLM-benchmarkGLM-5.3-Flash — 4× DGX SparkGLM-5.3-Flash (321B) op 4× DGX Spark: FP8-gewichten geserveerd met SGLang over vier nodes (TP4), met DFlash speculatieve decodering (k=7) en een context van 256K.
  106. 8 oktoberNieuwe LLM-benchmarkMiMo-V2.6-Pro-RL — 8× DGX SparkMiMo-V2.6-Pro-RL (1.02T) op 8× DGX Spark: FP4-gewichten geserveerd met SGLang over acht nodes (TP8), met DFlash speculatieve decodering (k=7) en een context van 256K.
  107. 7 oktoberNieuwe whitepaperApparaatadviesBeschrijf uw camera's en kies een vision-languagemodel: de pagina noemt het kleinste gemeten apparaat dat elke camera binnen uw doel antwoordt, en speelt de resulterende stroom daarna af als een live tijdlijn — hoe vaak elke camera antwoord krijgt en hoeveel van haar frames het model ooit ziet.
  108. 6 oktoberNieuwe LLM-benchmarkQwen3.8-27B — RTX PRO 6000Qwen3.8-27B op één RTX PRO 6000: NVFP4-gewichten geserveerd met vLLM, met MTP voor speculatieve decodering (k=3), gemeten tot 128 gelijktijdige verzoeken.
  109. 6 oktoberNieuwe LLM-benchmarkQwen3.8-27B — RTX PRO 6000Qwen3.8-27B op één RTX PRO 6000: BF16-gewichten geserveerd met vLLM, met MTP voor speculatieve decodering (k=3), gemeten tot 128 gelijktijdige verzoeken.
  110. 6 oktoberNieuwe whitepaperDe eerste open-gewichtsalternatieven voor JevZes open-weight typed-decision-modellen, vergeleken op één NVIDIA DGX Spark (GB10) via één gedeelde state + questions-interface en één set van 25 vragen: nauwkeurigheid, kalibratie, gevoeligheid voor de optievolgorde en latentie — plus welk model bij welke taak past.
  111. 6 oktoberNieuwe whitepaperVLM Inference Benchmark ExplorerVerken inferentiebenchmarks van vision-languagemodellen op RTX PRO 6000 Blackwell, Jetson AGX Orin en Jetson Orin NX. Kies het beeldformaat, stel in hoe lang een camera op zijn antwoord mag wachten, en zie hoeveel camera's elke configuratie bijhoudt.
  112. 1 oktoberNieuwe LLM-benchmarkGemma-4-31B-it — ThorGemma-4-31B-it op Jetson AGX Thor: NVFP4-gewichten geserveerd met vLLM, met MTP voor speculatieve decodering (k=3) en een context van 256K.
  113. 1 oktoberNieuwe LLM-benchmarkQwen3-VL-30B-A3B-Instruct — ThorQwen3-VL-30B-A3B-Instruct, een vision-languagemodel, op Jetson AGX Thor: FP8-gewichten geserveerd met vLLM, met speculatieve decodering en een context van 256K.
  114. 1 oktoberNieuwe LLM-benchmarkQwen3.8-27B — RTX PRO 6000Qwen3.8-27B op één RTX PRO 6000: FP8-gewichten geserveerd met vLLM, met MTP voor speculatieve decodering (k=3), gemeten tot 128 gelijktijdige verzoeken.
  115. 1 oktoberNieuwe LLM-benchmarkMiMo-V2.6-Pro-MOPD — DGX B300MiMo-V2.6-Pro-MOPD (1.02T) op DGX B300: FP4-gewichten geserveerd met vLLM op vier GPU's (TP4), met DFlash speculatieve decodering (k=7) en een context van 1M tokens, gemeten tot 256 gelijktijdige verzoeken.
  116. 1 oktoberNieuwe LLM-benchmarkMiMo-V2.6-Flash-RL — 2× DGX SparkMiMo-V2.6-Flash-RL (310B) op 2× DGX Spark: FP4-gewichten geserveerd met vLLM over beide nodes (TP2), met DFlash speculatieve decodering (k=7) en een context van 256K.
  117. 1 oktoberNieuwe LLM-benchmarkMiMo-V2.6-Flash-RL — 4× DGX SparkMiMo-V2.6-Flash-RL (310B) op 4× DGX Spark: FP4-gewichten geserveerd met vLLM over vier nodes (TP4), met DFlash speculatieve decodering (k=7) en een context van 500K.

september 2026

  1. 29 septemberNieuwe whitepaperEngram-offloading bij LLM-inferentieEngram-tabellen zijn groot, maar per token worden er maar een paar rijen uit gelezen; daarom kunnen ze van het GPU-geheugen naar systeem-RAM of NVMe. Wat dat betekent op DGX Spark, RTX PRO 6000 en DGX B300, en meetresultaten met DeepSeek-V4.1-Flash en Qwen3.8-Flash-Next.
  2. 28 septemberNieuwe LLM-benchmarkQwen3.8-Flash-Next — 1× DGX SparkQwen3.8-Flash-Next (176B) op één DGX Spark: NVFP4-gewichten geserveerd met SGLang, met MTP voor speculatieve decodering (k=3) en de n-gram-embeddingtabel van 47.7 GiB gelezen vanaf NVMe.
  3. 28 septemberNieuwe LLM-benchmarkQwen3.8-Flash-Next — RTX PRO 6000Qwen3.8-Flash-Next (176B) op één RTX PRO 6000: NVFP4-gewichten geserveerd met SGLang, met MTP voor speculatieve decodering (k=3) en de n-gram-embeddingtabel van 47.7 GiB in systeem-RAM.
  4. 28 septemberNieuwe LLM-benchmarkMiMo-V2.6-Pro-RL — DGX B300MiMo-V2.6-Pro-RL (1.02T) op DGX B300: FP4-gewichten geserveerd met vLLM op vier GPU's (TP4), met DFlash speculatieve decodering (k=7) en een context van 1M tokens.
  5. 18 septemberNieuwe CV-benchmarkPeopleNet INT8 — Jetson AGX ThorPeopleNet-persoonsdetectie (INT8, invoer 960×544) op Jetson AGX Thor: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  6. 18 septemberNieuwe CV-benchmarkYOLO11-N FP16 — Jetson AGX ThorYOLO11-N-objectdetectie (invoer 640×640) op Jetson AGX Thor: frames per seconde per camera, gemeten van 1 tot 30 gelijktijdige camera's.
  7. 18 septemberNieuwe CV-benchmarkYOLO11-S FP16 — Jetson AGX ThorYOLO11-S-objectdetectie (invoer 640×640) op Jetson AGX Thor: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  8. 18 septemberNieuwe CV-benchmarkYOLO11-M FP16 — Jetson AGX ThorYOLO11-M-objectdetectie (invoer 640×640) op Jetson AGX Thor: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  9. 18 septemberNieuwe CV-benchmarkYOLO11-L FP16 — Jetson AGX ThorYOLO11-L-objectdetectie (invoer 640×640) op Jetson AGX Thor: frames per seconde per camera, gemeten van 1 tot 32 gelijktijdige camera's.
  10. 17 septemberNieuwe whitepaperDeepSeek-V4.1-Flash-deployment op 8× DGX Spark met TP8Deployment van DeepSeek-V4.1-Flash (763B MoE, FP8, DSpark k=5) op 8× NVIDIA DGX Spark (GB10) met TP8: twee configuraties (300K met Engram in het geheugen, 1M met Engram-on-disk), NCCL-optimalisatie, benchmarkresultaten en vergelijking met TP4.
  11. 17 septemberNieuwe LLM-benchmarkDeepSeek-V4.1-Flash — 8× DGX SparkDeepSeek-V4.1-Flash (763B) op 8× DGX Spark: FP8-gewichten geserveerd met vLLM over acht nodes (TP8), met DSpark speculatieve decodering (k=5) en een context van 300K, de Engram-tabel in het geheugen.
  12. 17 septemberNieuwe LLM-benchmarkDeepSeek-V4.1-Flash — 8× DGX SparkDeepSeek-V4.1-Flash (763B) op 8× DGX Spark: dezelfde TP8-opstelling met een context van 1M tokens, de Engram-tabel verplaatst naar schijf.
  13. 16 septemberNieuwe whitepaperDeepSeek-V4.1-Flash-deployment op 4× DGX SparkDeployment van DeepSeek-V4.1-Flash (763B MoE, FP8, DSpark k=5) op 4× NVIDIA DGX Spark (GB10) met tensorparallellisme: vLLM-buildketen, 7 patches voor SM 12.1a, Engram-on-disk, benchmarkresultaten en vergelijking met B300.
  14. 16 septemberNieuwe LLM-benchmarkDeepSeek-V4.1-Flash — 4× DGX SparkDeepSeek-V4.1-Flash (763B) op 4× DGX Spark: FP8-gewichten geserveerd met vLLM over vier nodes (TP4), met DSpark speculatieve decodering (k=5) en een context van 300K.
  15. 16 septemberNieuwe CV-benchmarkPeopleNet INT8 — RTX 3060PeopleNet-persoonsdetectie (INT8, invoer 960×544) op RTX 3060: frames per seconde per camera, gemeten van 1 tot 16 gelijktijdige camera's.
  16. 14 septemberNieuwe LLM-benchmarkDeepSeek-V4.1-Flash — DGX B300DeepSeek-V4.1-Flash (763B) op DGX B300: FP8-gewichten geserveerd met vLLM op vier GPU's (TP4), met DSpark speculatieve decodering (k=3) en een context van 1M tokens.
  17. 14 septemberNieuwe LLM-benchmarkTencent-Hy4-preview — DGX B300Tencent-Hy4-preview (780B) op DGX B300: BF16-gewichten geserveerd met vLLM op alle acht GPU's (TP8), met MTP voor speculatieve decodering (k=3) en een context van 512K.
  18. 14 septemberNieuwe LLM-benchmarkDeepSeek-V4-Flash-Vision-Exp — 2× DGX SparkDeepSeek-V4-Flash-Vision-Exp (305B) op 2× DGX Spark: FP8-gewichten geserveerd met vLLM over beide nodes (TP2), met DSpark speculatieve decodering (k=3) en een context van 131K.
  19. 4 septemberNieuwe LLM-benchmarkGLM-5.3 — 8× DGX SparkGLM-5.3 (753B) op 8× DGX Spark: NVFP4-gewichten geserveerd met vLLM over acht nodes (TP8), met de ingebouwde MTP van het model voor speculatieve decodering (k=4) en een context van 256K.
  20. 4 septemberNieuwe LLM-benchmarkMuse-Glimmer-30B — RTX PRO 6000Muse-Glimmer-30B op één RTX PRO 6000: BF16-gewichten geserveerd met vLLM, met DFlash speculatieve decodering via de ingebouwde MTP van het model (k=15).
  21. 1 septemberNieuwe LLM-benchmarkGLM-5.3 — DGX B300GLM-5.3 (753B) op DGX B300: FP8-gewichten geserveerd met SGLang op vier GPU's (TP4), met een context van 1M tokens.

augustus 2026

  1. 3 augustusNieuwe whitepaperNVIDIA DGX B300 vs GB300 NVL72: vergelijking van clusterarchitecturenTechnische vergelijking van twee NVIDIA Blackwell Ultra-architecturen, DGX B300 en GB300 NVL72: systeemontwerp, schaalaanpak, netwerkfabric, stroom en koeling, en welke workloads bij welk platform passen.

juli 2026

  1. 30 juliNieuwe whitepaperKimi K3-inferentiebenchmark op DGX-B300Prestatie-evaluatie van Moonshot AI Kimi K3 (2.8T MoE, MXFP4) op NVIDIA DGX-B300 (8x Blackwell Ultra, TP=8): vLLM versus SGLang, direct versus DSpark speculatieve decodering, met capaciteitsplanning op basis van SLO's.
  2. 30 juliNieuwe whitepaperInstallatiehandleiding voor een DGX Spark AI-cluster met 3 nodesInstallatie van een AI-cluster in ringtopologie (mesh) met 3 NVIDIA DGX Spark-nodes: management- en compute-netwerk, RoCEv2/RDMA, sparkrun-configuratie.
  3. 30 juliNieuwe whitepaperInstallatiehandleiding voor een DGX Spark AI-cluster met 2 nodesInstallatie van een AI-cluster in point-to-point-topologie met 2 NVIDIA DGX Spark-nodes: management- en compute-netwerk, RoCEv2/RDMA, sparkrun-configuratie.
  4. 24 juliNieuwe whitepaperInstallatiehandleiding voor een DGX Spark AI-cluster met 8 nodesInstallatie van een switchgebaseerd AI-cluster met 8 NVIDIA DGX Spark-nodes via een MikroTik CRS804 met 200G-breakout: management- en compute-netwerk, RoCEv2/RDMA, sparkrun en NAS.
  5. 24 juliNieuwe whitepaperInstallatiehandleiding voor een DGX Spark AI-cluster met 4 nodesInstallatie van een switchgebaseerd AI-cluster met 4 NVIDIA DGX Spark-nodes via een MikroTik CRS812: management- en compute-netwerk, RoCEv2/RDMA, sparkrun en NAS.
  6. 6 juliNieuwe whitepaperSchaling van Qwen3.6-27B op een DGX Spark-clusterSchalingsstudie over meerdere nodes van Qwen3.6-27B-NVFP4 op 1x, 2x en 4x NVIDIA DGX Spark (GB10): tensorparallellisme over 200GbE, capaciteitsplanning op basis van SLO's en advies voor de keuze tussen TP en replicatie bij deployment.
  7. 3 juliNieuwe whitepaperQwen3.6-27B DGX Spark-benchmarkPrestatie-evaluatie van het Qwen3.6-27B-model op het NVIDIA DGX Spark (GB10)-platform met de kwantisatievarianten FP8, FP8-MTP, AWQ-MTP, NVFP4 en NVFP4-MTP.

juni 2026

  1. 30 juniNieuwe whitepaperHandleiding voor lokaal LLM-gebruikIntegrale beslisgids voor lokaal LLM-gebruik: hardware (NVIDIA Jetson, RTX PRO, DGX Spark, DGX/HGX), modelkeuze, softwarestack en koppeling aan scenario's.