GPU-drivere

Vores Trooper.AI Blibs leveres forudkonfigurerede med installerede og testede NVIDIA-drivere under provisioning-processen, hvilket sikrer øjeblikkelig kompatibilitet og optimal ydeevne. Vi bruger de nyeste stabile drivere til Ubuntu 22.04 LTS for at understøtte en bred vifte af applikationer og arbejdsbelastninger. Selvom vi håndterer den indledende konfiguration, har avancerede brugere fleksibiliteten til at ændre driverversioner uafhængigt via SSH-adgang eller ved at bruge vores dedikerede GPU-driveropdateringsskabelon. Dette giver mulighed for tilpasning baseret på specifikke applikationskrav eller eksperimentering med nyere driverudgivelser. Vi anbefaler at teste alle brugerdefinerede driverændringer i et ikke-produktionsmiljø først.

Eksempel på driveroutput

Dette powerai.l1 Denne Blib, der understøtter vores interne LLM og kører Ubuntu 22.04, er forudkonfigureret med NVIDIA driverversion 565.57.01, der understøtter CUDA 12.7 og et fuldt strømforbrug på 450W for optimal ydeevne. Alle almindelige kunder har fuld root-adgang og kan uafhængigt opgradere til nyere driverversioner, såsom 570 eller højere, for at opfylde specifikke applikationskrav som CUDA 12.8+.

nvidia-smi output example
nvidia-smi output eksempel

Officiel Nvidia Driver Support og SLA

Læs mere om officiel driverunderstøttelse til Linux her. Dette er et løbende indlæg, som regelmæssigt vil blive opdateret af Nvidia-udviklere: https://forums.developer.nvidia.com/t/unix-graphics-feature-deprecation-schedule/60588