Commander un serveur GPU avec A100 Tous les benchmarks des serveurs GPU
Chargement des données de référence...
Nos benchmarks sont collectés automatiquement à partir de serveurs équipés de GPU de type A100 et H100 de notre flotte. Contrairement aux tests en laboratoire synthétiques, ces résultats proviennent de serveurs de production réels traitant des charges de travail d'IA réelles – vous offrant des données de performance transparentes et du monde réel.
Nous testons les deux cadres vLLM (Haute Disponibilité) et Ollama (Utilisateur Unique). Les benchmarks de vLLM montrent comment les A100 et H100 se comportent avec des requêtes simultanées allant de 16 à 64 – idéaux pour les chatbots en production, systèmes d’IA multi-agents et serveurs API. Les benchmarks d’Ollama mesurent la vitesse des requêtes uniques pour les assistants IA personnels et le développement local. Parmi les modèles testés figurent Llama 3.1, Qwen3, DeepSeek-R1, ainsi que bien d’autres.
Les benchmarks de génération d'images couvrent les architectures Flux, SDXL et SD3.5. Cela est crucial pour la création artistique par IA, la conception de prototypes et les applications créatives. Concentrez-vous sur la vitesse de génération à partir d'une seule invite pour comprendre comment les A100 et H100 gèrent vos charges de travail en images.
Les tests de vision évaluent le traitement multimodal et des documents sous charge concurrente élevée (16 à 64 requêtes parallèles), en utilisant des données réelles. Le modèle LLaVA 1.5 7B (modèle Vision-Langage avec 7 milliards de paramètres) analyse une photographie d’une femme âgée dans un champ de fleurs aux côtés d’un golden retriever, testant la compréhension de scène et le raisonnement visuel avec une taille de lot de 32 pour rapporter les résultats en images par minute. Le modèle TrOCR-base (modèle OCR avec 334 millions de paramètres) traite quant à lui 2 750 pages du Hamlet de Shakespeare numérisées depuis des livres historiques dotés d’une typographie ancienne, mesurant les performances en pages par minute pour la numérisation documentaire. Découvrez comment les cartes A100 et H100 gèrent les charges de travail IA visuelle à grande échelle – essentielles pour la modération de contenu, le traitement documentaire et l’analyse automatisée d’images.
Nous incluons également la puissance de calcul du CPU (affectant la tokenisation et le prétraitement) et les vitesses de stockage NVMe (essentielles pour le chargement de modèles et d'ensembles de données volumineux) - l'ensemble complet pour vos charges de travail d'IA.
Le score TAIFlops (Trooper AI FLOPS) affiché dans la première ligne combine tous les résultats des benchmarks d'IA en un seul chiffre. En prenant comme référence le RTX 3090 (100 TAIFlops), ce score vous indique immédiatement comment les cartes A100 et H100 se comparent globalement pour les charges de travail liées à l’IA. En savoir plus sur les TAIFlops →
Remarque : Les résultats peuvent varier en fonction de la charge du système et de sa configuration. Ces benchmarks représentent des valeurs médianes issues de plusieurs séries de tests.
Commander un serveur GPU avec A100 Commander un serveur GPU avec H100 Voir tous les benchmarks