White Papers
Aşağıdaki teknik white paper’lar Openzeka Teknoloji A.Ş. tarafından yayımlanmaktadır.
| Başlık | Konu | Platform |
|---|---|---|
| Yerel LLM Kullanım Rehberi | Donanım → model → yazılım karar rehberi | Jetson, RTX PRO, DGX Spark, DGX/HGX |
| LLM Quantization Seçim Rehberi | Quantization seçimi: iş yükü × format × GPU mimarisi × checkpoint güvenilirliği; seçim akışı ve vaka örnekleriyle | NVIDIA Ampere → Blackwell (Jetson, RTX, DGX) |
| LLM Çıkarımında Engram Offloading | Token başına birkaç satırı okunan büyük embedding tabloları: sistem RAM’ine veya NVMe’ye taşınmaları ve ölçülen sonuçlar | DGX Spark, RTX PRO 6000; DGX B300 bellek mimarisi |
| NVIDIA DGX B300 ve GB300 NVL72 Cluster Mimarisi Karşılaştırması | İki Blackwell Ultra mimarisinin teknik karşılaştırması, iş yükü bazlı platform seçim rehberi | NVIDIA DGX B300, GB300 NVL72 (Blackwell Ultra) |
| DGX Spark 2-Node AI Cluster Kurulum Rehberi | Point-to-point topolojisinde cluster kurulumu, RoCEv2/RDMA, sparkrun | 2x NVIDIA DGX Spark (GB10) |
| DGX Spark 3-Node AI Cluster Kurulum Rehberi | Ring (mesh) topolojisinde cluster kurulumu, RoCEv2/RDMA, sparkrun | 3x NVIDIA DGX Spark (GB10) |
| DGX Spark 4-Node AI Cluster Kurulum Rehberi | Switch tabanlı cluster kurulumu, RoCEv2/RDMA, sparkrun, NAS | 4x NVIDIA DGX Spark (GB10) |
| DGX Spark 8-Node AI Cluster Kurulum Rehberi | Switch tabanlı cluster kurulumu, RoCEv2/RDMA, sparkrun, NAS | 8x NVIDIA DGX Spark (GB10) |
| Qwen3.6-27B DGX Spark Benchmark | LLM quantization karşılaştırması (FP8/AWQ/NVFP4 + MTP) | NVIDIA DGX Spark (GB10) |
| Qwen3.6-27B DGX Spark Cluster Scaling | Multi-node ölçekleme (TP1/TP2/TP4), SLO temelli kapasite planlama | 1x/2x/4x NVIDIA DGX Spark (GB10) |
| LMCache ile LLM Çıkarımında KV Cache Taşıma | Tekrar kullanılan bağlamlar ve GPU belleğine sığmayan KV cache: üç önbellek katmanı (GPU, CPU, NVMe), ölçülen TTFT ve üretim öncesi doğrulanacak ayarlar | NVIDIA DGX Spark (GB10) |
| 8× DGX Spark Üzerinde Tensör Paralel Çıkarım İçin Ağ Bağlantı Hızı (200G ve 100G) | Tensör paralel çıkarımda 200G ve 100G bağlantı hızının TTFT ve decode hızına etkisi: teori, tahmin ve ölçüm | 8× NVIDIA DGX Spark (GB10) |
| Jev’e Açık Ağırlıklı İlk Alternatifler | Altı açık ağırlıklı typed-decision modelinin tek bir DGX Spark üzerinde karşılaştırılması: doğruluk, kalibrasyon, şık sırasına duyarlılık ve gecikme — ve hangi işe hangi modelin uyduğu | NVIDIA DGX Spark (GB10) |
| DeepSeek-V4.1-Flash 4× DGX Spark Dağıtımı | 763B MoE modelin 4× DGX Spark (GB10) üzerinde TP4 dağıtımı: vLLM build zinciri, 7 SM121 patch’i, Engram-on-disk, DSpark k=5 | 4× NVIDIA DGX Spark (GB10) |
| DeepSeek-V4.1-Flash 8× DGX Spark TP8 Dağıtımı | 763B MoE modelin 8× DGX Spark (GB10) üzerinde TP8 dağıtımı: iki yapılandırma (300K Engram-bellekte, 1M Engram-diskte), NCCL optimizasyonu, benchmark sonuçları ve TP4 karşılaştırması | 8× NVIDIA DGX Spark (GB10) |
| Kimi K3 DGX-B300 Inference Benchmark | Inference engine + speculative decoding karşılaştırması (vLLM vs SGLang, direct vs DSpark) | NVIDIA DGX-B300 (8x Blackwell Ultra, TP=8) |
| LLM Çıkarım Benchmark Gezgini | Etkileşimli benchmark tablosu: cihaz, model ve kuantizasyona göre filtreleyin, kendi hizmet seviyesi eşiklerinizi girin | DGX Spark (GB10), DGX B300, RTX PRO 6000, Jetson Thor |
| CV Çıkarım Benchmark Gezgini | Etkileşimli görüntü işleme benchmark’ı: bir cihaz ve tespit modeli seçin; sürdürülen FPS’i, kamera eklendikçe nasıl düştüğünü ve hedef FPS’inizde kaç kamera taşıdığını görün | DGX Spark (GB10), Jetson AGX Thor, Jetson Orin Nano, RTX 3060, RTX 3090 |
| VLM Çıkarım Benchmark Gezgini | Etkileşimli görüntü-dil modeli benchmark’ı: görüntü boyutunu ve bir kameranın yanıtı için en fazla ne kadar bekleyebileceğini seçin; her yapılandırmanın kaç kameraya yetiştiğini görün | RTX PRO 6000 Blackwell, Jetson AGX Orin 32GB, Jetson Orin NX 16GB |
Bu sayfada
- Yerel LLM Kullanım Rehberi
- LLM Quantization Seçim Rehberi
- LLM Çıkarımında Engram Offloading
- NVIDIA DGX B300 ve GB300 NVL72 Cluster Mimarisi Karşılaştırması
- DGX Spark 2-Node AI Cluster Kurulum Rehberi
- DGX Spark 3-Node AI Cluster Kurulum Rehberi
- DGX Spark 4-Node AI Cluster Kurulum Rehberi
- DGX Spark 8-Node AI Cluster Kurulum Rehberi
- Qwen3.6-27B DGX Spark Benchmark
- Qwen3.6-27B DGX Spark Cluster Scaling
- LMCache ile LLM Çıkarımında KV Cache Taşıma
- 8× DGX Spark Üzerinde Tensör Paralel Çıkarım İçin Ağ Bağlantı Hızı (200G ve 100G)
- Jev'e Açık Ağırlıklı İlk Alternatifler
- DeepSeek-V4.1-Flash 4× DGX Spark Dağıtımı
- DeepSeek-V4.1-Flash 8× DGX Spark TP8 Dağıtımı
- Kimi K3 DGX-B300 Inference Benchmark