Bestel een GPU-server met NVIDIA H100 Alle benchmarks voor GPU-servers
Bezig met het laden van benchmarkgegevens...
Onze benchmarks worden automatisch verzameld van servers met GPU's van het type H100 en A100 in ons wagenpark. In tegenstelling tot synthetische labtests, komen deze resultaten van echte productieservers die daadwerkelijke AI-workloads verwerken - waardoor u transparante, real-world performance data krijgt.
vLLM (Hoogdoorvoerscapaciteit) en Ollama (Enkele-Gebruiker)-frameworks worden getest. De vLLM-benchmarks tonen hoe de H100 en A100 presteren bij 16–64 gelijktijdige verzoeken – ideaal voor productiechatbots, meerdelige AI-systemen en API-servers. Bij de Ollama-benchmarks wordt de snelheid van een enkel verzoek gemeten voor persoonlijke AI-assistenten en lokale ontwikkeling. Er zijn onder andere modellen zoals Llama 3.1, Qwen3, DeepSeek-R1 getest.
Flux, SDXL en SD3.5-architecturen worden getest in de beeldgeneratie-benchmarks. Dit is cruciaal voor kunst op basis van AI, ontwerpconcepten en creatieve toepassingen. Concentreer je op de snelheid bij het genereren van een enkele prompt om te begrijpen hoe H100- en A100-modellen met jouw afbeeldingsbelasting omgaan.
Visuele benchmarks testen multimodaal en documentverwerken onder zware gelijktijdige belasting (16-64 tegelijkertijd lopende aanvragen) met behulp van echte testdata. LLaVA 1.5 7B (vision-language model met 7 miljard parameters) analyseert een foto van een ouderwetse dame in een veld vol bloemen samen met een goudkleurige retriever, waarbij scènevatten en visuele logica getest worden bij batchsize 32 om het aantal beelden per minuut vast te stellen. TrOCR-base (OCR-model met 334 miljoen parameters) verwerkt 2.750 bladzijden uit Shakespeares Hamlet afkomstig uit historisch gedrukte boeken met lettertypes uit die periode, bij batchsize 16, waarna de snelheid gemeten wordt in bladeren per minuut voor digitalisering van documenten. Bekijk hoe de H100 en A100 productieschaal-visuele AI-taken aanpakken – essentieel voor contentcontrole, documentbewerking en automatische beelddigitalisatie.
We nemen ook CPU-rekenkracht (van invloed op tokenisatie en voorbewerking) en NVMe-opslagsnelheden (cruciaal voor het laden van grote modellen en datasets) mee - het complete beeld voor uw AI-workloads.
De TAIFlops-score (Trooper AI FLOPS) in de eerste rij combineert alle AI-benchmarkresultaten tot één getal. Met de RTX 3090 als referentiepunt (100 TAIFlops) laat deze score je direct zien hoe de H100 en A100 presteren bij AI-taken. Lees meer over TAIFlops →
Opmerking: De resultaten kunnen variëren op basis van systeembelasting en configuratie. Deze benchmarks vertegenwoordigen mediaanwaarden uit meerdere testruns.
Bestel een GPU-server met H100 Bestel een GPU-server met A100 Bekijk alle benchmarks