Bestel een GPU-server met A100 Alle benchmarks voor GPU-servers
Bezig met het laden van benchmarkgegevens...
Onze benchmarks worden automatisch verzameld van servers met GPU's van het type A100 en H100 in onze vloot. In tegenstelling tot synthetische labtests, komen deze resultaten van echte productieservers die daadwerkelijke AI-workloads verwerken - waardoor u transparante, real-world prestatiegegevens krijgt.
vLLM (Hoogdoorvoerscapaciteit) en Ollama (Enkele-Gebruiker)-frameworks worden getest. De vLLM-benchmarks tonen hoe de A100 en H100 presteren bij 16–64 gelijktijdige verzoeken – ideaal voor productiechatbots, meerdelige AI-systemen en API-servers. Bij de Ollama-benchmarks wordt de snelheid van een enkele aanvraag gemeten, bedoeld voor persoonlijke AI-assistenten en lokale ontwikkeling. Er zijn onder andere modellen zoals Llama 3.1, Qwen3, DeepSeek-R1 getest.
Flux, SDXL en SD3.5-architecturen worden getest in de beeldgeneratie-benchmarks. Dat is cruciaal voor kunstwerken met AI, ontwerpconcepten en creatieve toepassingen. Concentreer je op de snelheid van het genereren uit een enkele prompt om te begrijpen hoe A100 en H100 jouw afbeeldingsbelasting verwerken.
Visuele benchmarks testen multimodaal en documentverwerken onder zware gelijktijdige belasting (16-64 tegelijkertijd lopende aanvragen) met behulp van echte testdata. LLaVA 1.5 7B (visietaalmodel met 7 miljard parameters) analyseert een foto van een ouderwetse dame in een veld vol bloemen samen met een goudkleurige retriever, waarbij scènevatten en visuele logica worden getoetst bij een batchomvang van 32 om zo beelden per minuut vast te leggen. TrOCR-base (OCR-model met 334 miljoen parameters) verwerkt 2.750 bladzijden uit Shakespeares Hamlet afkomstig uit historisch gedrukte boeken met lettertypes uit die periode, bij een batchomvang van 16, terwijl er bladzijden per minuut worden gemeten ten behoeve van digitalisering van documenten. Ontdek hoe de A100 en H100 omgaan met grote schaal aan visuele AI-taken – essentieel voor contentcontrole, documentbewerking en automatische beeldanalyses.
We nemen ook CPU-rekenkracht (van invloed op tokenisatie en voorbewerking) en NVMe-opslagsnelheden (cruciaal voor het laden van grote modellen en datasets) mee - het complete beeld voor uw AI-workloads.
De TAIFlops (Trooper AI FLOPS)-score weergegeven in de eerste rij combineert alle AI-benchmarkresultaten tot één getal. Met behulp van de RTX 3090 als referentie (100 TAIFlops) laat deze score je direct zien hoe de A100 en H100 presteren bij AI-taken. Lees meer over TAIFlops →
Opmerking: De resultaten kunnen variëren op basis van systeembelasting en configuratie. Deze benchmarks vertegenwoordigen mediaanwaarden uit meerdere testruns.
Bestel een GPU-server met A100 Bestel een GPU-server met H100 Bekijk alle benchmarks