GPU Server Blibs

1. Adgang og Oversigt

Efter login på https://james.trooper.ai/manage, vises der en liste over aktive og frysede Blibs til brugeren. Hver serverindgang indeholder følgende oplysninger:

• Navn på Blib og status (kørende, standset, fryset), læs mere: Liste over Blib-statusse
• GPU-konfiguration (f.eks. 1× RTX 3090, 2× A100)
• CPU og hukommelse (f.eks. 12 kerner, 86 GB RAM)
• NVMe SSD-kapacitet
• Tildelt værtsnavn (f.eks. connect01.trooper.ai)
• Tildelt offentlig portområde (TCP, valgfri UDP)
• Installeret software: Skabeloner (f.eks. Jupyter Notebook, ComfyUI-skabelon til GPU Server Blibs)
• ✅ Sikker HTTPS-adgang – læs mere om, hvordan du tilgår din Blib via SSL
• GPU-drivere
• Sikkerhedskopier og snapshots
• 🛡️ Indbygget brandvæg før din GPU-server

Systemtemperatur og faktureringsperioder vises også, hvor det er relevant.

2. Oprettelse og start af en server

For at implementere en ny GPU Server Blib:

1. Gå til afsnittet Bestil GPU-server eller brug funktionen Opret ny server i oversigten.
2. Vælg den ønskede serverkonfiguration (f.eks. sparbox.m1, infinityai.m2).
3. Valgfrit kan du vælge én eller flere maler til forinstallation:
   
   • Jupyter Notebook
   • OpenWebUI & Ollama
   • ComfyUI-mal til GPU-serverbiblioteker (Blibs)
4. Bekræft valget og accepter betingelserne.
5. Start serveren.

Klargøringen tager typisk 1-5 minutter, afhængigt af den valgte server. Derefter vil systemet installere drivere og overvågningsværktøjer, hvilket kan tage yderligere 2-10 minutter afhængigt af hastigheden på den eksterne APT-mirror. Du kan forvente en automatisk genstart under denne proces, da GPU-driverne konfigureres.

❌ Serverstyringssoftware: Installér IKKE en serverstyringssoftware som Dokploy, CapRover, Plesk osv. Dette vil ikke fungere på en GPU-server. Disse typer af værktøjer er kun beregnet til dine webservere!

🚫 Neddowngradering af Blackwell-drivere: Ifølge vore betingelser må du ikke ændre drivere til Blackwell-kort (50xx, RTX Pro xx00) på din maskine til en version LAVERE end 580-server-open. En nedgradering kan føre til systems ustabilitet og mulig tjenesteafbrydelse. Din server vil blive stoppet indtil problemet er løst. Ingen erstatning udbetales. CUDA's baglæns kompatibilitet eliminerer behovet for ældre driverversioner.

Nuværende priser på vores GPU-servere:

** Kampagnepriser afspejler den maksimale rabat, der er tilgængelig via forudbetalte budgetmuligheder. I øjeblikket +50% Ekstra Kredit! Se funktionen “Tilføj Budget” for detaljer.

Bestil nu

3. Stop, Frysning, Nulstilling og Opsigelse af GPU-servere

Trooper.AI (Introduktion af tjenesten) giver fleksible livscyklusmuligheder for hver Blib:

Produktive tilstande:

• Start: Starter serveren.
• Stop: Standser serveren. Ressourcerne (GPU'er, CPU-kerner, RAM) forbliver tilgængelige, og instansen kan genstartes indenfor sekunder.

Valgfrie tilstande:

• Fryse: Tjenesten arkiveres og ressourceallokeringen frigives. Opsætningstid kan variere, og genattribuering af porte kan være nødvendig. Overvej at bruge tilstanden stoppet, hvis der kræves forudsigelige opsætningstider! FRYSE ANBEFALES IKKE TIL VIRKSOMHEDSKUNDER PÅ GRUND AF ÆNDRINGER I PORTE OG LØNGERE PERIODER MED UADGANGLIGHED!
• Nulstil: Sletter alle data på serveren og geninstallerer den oprindelige konfiguration. Porte kan ændre sig. CPU-model og hastighed kan ændre sig. Din prissætning forbliver uændret. ALLE DATA GÅR TABT! Denne handling kan ikke angres.
• Afslut: Sletter permanent serveren og alt tilknyttet data. Denne handling kan ikke angres.

Se mere: Blibs-statusliste

Alle livscyklushandlinger er tilgængelige via kontekstmenuen i dashboardet.

4. Skabelonhåndtering

Software skabeloner kan vælges under serveroprettelsen eller installeres efterfølgende. Skabeloner installerer automatisk afhængigheder, konfigurerer tjenester og åbner de nødvendige porte.

Almindelige skabeloner inkluderer:

• Jupyter Notebook
• OpenWebUI & Ollama
• ComfyUI-skabelon til GPU-server-Blibs
• Ubuntu Desktop og adgang til fjernskrivebord (RDP)
• Framepack
• Nogen Docker
• ... og mange flere Skabeloner

Flere skabeloner kan kombineres efter behov på én server blib.

5. Offentlig netværksadgang

Hver Blib tildeles et dedikeret udvalg af offentlige TCP-porte (typisk 10–40 åbne 1:1 NAT-porte). Disse kan tilgås via det tildelte værtsnavn (f.eks. connectXX.trooper.ai) og vises i dashboardet.

Forbindelsesbegrænsninger (udgående):
For at sikre platformstabilitet og forhindre misbrug eller dårligt konfigurerede arbejdsbelastninger i at generere overdreven ekstern trafik, er alle Blibs underlagt maskinspecifikke begrænsninger for udgående hastighed og forbindelsessporing. Dette omfatter:

• Maksimalt antal samtidige udgående forbindelser (2048 pr. GPU)
• TCP SYN hastighedsbegrænsning (nye udgående forbindelser)
• UDP-pakke hastighedsbegrænsning (NY status)
• ICMP hastighedsbegrænsning

Hvis din maskine overskrider disse grænser, kan yderligere udgående trafik midlertidigt blive droppet eller afvist af routinglaget.

Håndtering af tidsudløb:
Af sikkerhedsmæssige årsager kan langvarige forbindelser blive lukket periodisk af vores routingsystem. Vi anbefaler at implementere robust genforbindelse og håndtering af tidsudløb i din software for at sikre fortsat drift.

UDP-trafik (Valgfrit):
UDP-trafik er ikke aktiveret som standard. Du kan aktivere adgang til UDP for din Blib via de Brandvægregler, hvis det er nødvendigt. Sørg venligst for, at din applikation er designet til sikkert at håndtere eksponering af UDP.

For detaljeret information om adgang til din Blib, henvises der til følgende dokumentation:

• SSH-adgang (inkl. filoverførsel)
• Adgang via RDP
  • valgfrit: Real-time-adgang med NoMachine
• 🌍 HTTPS-adgang (Hvordan du får adgang til din Blib via SSL)
• Om SSL-certifikater
• 🛡️ Indbygget brandvæg før din GPU-server

6. Overvågning og Systeminformation

Brugergrænsefladen giver følgende realtidsmonitoreringsfunktioner:

• CPU- og GPU-temperaturvisning
• Netværkstrafikinformation
• Ressourceudnyttelse (CPU, RAM, GPU)
• Skabelonstatus og version
• Oppetid og livscyklustilstand

7. Adfærd ved utilstrækkelig kredit

Blibs fungerer på et forudbetalt kreditsystem. Hvis den forudbetalte saldo er opbrugt:

• Serveren stoppes automatisk og kan muligvis fryses.
• Hvis saldoen ikke genopfyldes inden for 72 timer, kan serveren og alle tilknyttede data permanent slettes.

Bemærk: Serverne vil ikke pådrage sig gebyrer uden tilgængelig kredit. Dog er GPU-ressourcer ikke garanteret, medmindre saldoen er tilstrækkelig.

8. Kontraktmodeller og Ressourceforbrug

• Alle GPU-servere inkluderer 5 TB månedlig trafik pr. GPU. For eksempel inkluderer en 2-GPU-server 10 TB.
• Hvis forbruget overstiger denne bløde grænse, kan båndbredden blive begrænset, eller der kan pålægges yderligere gebyrer.
• Rabat er tilgængelig ved ugentlige, månedlige og årlige kontrakter.
• Årlige kontrakter og faktureringsmuligheder for virksomheder er tilgængelige efter anmodning.

10. Support

Ved tekniske problemer eller forespørgsler om tilpasset provisionering, bedes du kontakte:

• E-mail: support@trooper.ai
• WhatsApp: +49 6126 9289991

11. Migration / Opgradering af Blibs

At opgradere din eksisterende GPU-server til en mere kraftfuld konfiguration er en fantastisk funktion på Trooper.AI og meget unik for os. Dette giver dig mulighed for problemfrit at skifte til kraftigere hardware uden at miste din eksisterende opsætning eller data.

Under migreringen vil din server blive midlertidigt frosset. Du vil kun se konfigurationer med bedre eller tilsvarende ressourcer tilgængelige. Et migrationsservicegebyr plus yderligere resterende intervalomkostninger, som vist under processen, kan forekomme.

Portene kan ændre sig.

Vælg blot “Migrer til bedre Blib” fra rullemenuen “Handlinger” på din server.

12. Bare Metal og Virtualiseringsarkitektur

Blibs anvender en hybridarkitektur, der kombinerer dedikerede bare-metal-ressourcer med virtualiserede komponenter:

Denne tilgang leverer 100 % af GPU'ens, CPU'ens og RAM'ens ydeevne, samtidig med at den udnytter fleksibiliteten ved virtualiseret NVMe-lager og netværk til strømlinet provisionering, robuste backups og forbedret sikkerhed.

Du får også fuld kontrol over NVIDIA-drivere, kernelmoduler og APT-pakkehåndtering. Dette gør din GPU Server Blib til en pålidelig og skalerbar AI-maskine til daglig brug og produktionsmiljøer.