Nos Blibs Trooper.AI sont préconfigurés avec les pilotes NVIDIA installés et testés lors du processus de provisionnement, garantissant une compatibilité immédiate et des performances optimales. Nous utilisons les derniers pilotes stables pour Ubuntu 22.04 LTS afin de prendre en charge une large gamme d'applications et de charges de travail. Bien que nous gérions la configuration initiale, les utilisateurs avancés ont la possibilité de modifier les versions des pilotes de manière indépendante via un accès SSH ou en utilisant notre modèle dédié de mise à jour des pilotes GPU. Cela permet une personnalisation en fonction des exigences spécifiques de l'application ou une expérimentation avec les nouvelles versions des pilotes. Nous recommandons de tester tout changement de pilote personnalisé dans un environnement non de production en premier.
Ceci powerai.l1 Blib, servant notre LLM interne et fonctionnant sous Ubuntu 22.04, est préconfiguré avec la version du pilote NVIDIA 565.57.01, prenant en charge CUDA 12.7 et une consommation électrique complète de 450W pour des performances optimales. Tous les clients réguliers disposent d'un accès root complet et peuvent mettre à niveau indépendamment vers des versions de pilotes plus récentes, telles que 570 ou supérieure, afin de répondre aux exigences spécifiques des applications comme CUDA 12.8+.
Pour en savoir plus sur le support officiel des pilotes pour Linux, cliquez ici. Ceci est une publication en cours, qui sera régulièrement mise à jour par les développeurs de Nvidia : https://forums.developer.nvidia.com/t/unix-graphics-feature-deprecation-schedule/60588