GPU Server Blibs

1. Zugriff und Überblick

Nach dem Einloggen unter https://james.trooper.ai/manage Benutzern wird eine Liste der aktiven und eingefrorenen Blibs angezeigt. Jeder Servereintrag enthält die folgenden Informationen:

• Blib-Name und Status (running, stopped, frozen), mehr dazu: Blibs-Statusliste
• GPU-Konfiguration (z.B. 1× RTX 3090, 2× A100)
• CPU und Speicher (z.B. 12 Kerne, 86 GB RAM)
• NVMe SSD-Kapazität
• Zugewiesener Hostname (z.B. connect01.trooper.ai)
• Zugewiesener öffentlicher Portbereich (TCP, optional UDP)
• Installierte Software Vorlagen (e.g. Jupyter Notebook, ComfyUI-Vorlage für GPU-Server-Blibs)
• Sicherer HTTPS-Zugriff, mehr dazu: 🌍 HTTPS-Zugriff (SSL-Proxy)
• GPU-Treiber
• Backups und Snapshots
• 🛡️ Native Firewall vor Ihrem GPU-Server

Systemtemperatur und Abrechnungszeiträume werden, falls zutreffend, ebenfalls angezeigt.

2. Erstellen und Starten eines Servers

Um einen neuen GPU Server Blib bereitzustellen:

1. Navigieren Sie zu GPU Server bestellen Abschnitt oder verwenden Sie die Neuen Server erstellen Funktion im Dashboard.
2. Wählen Sie die gewünschte Serverkonfiguration (z.B. sparbox.m1, infinityai.m2).
3. Optional können Sie eine oder mehrere Vorlagen zur Vorinstallation auswählen:
   • Jupyter Notebook
   • OpenWebUI & Ollama
   • ComfyUI-Vorlage für GPU-Server-Blibs
4. Bitte bestätigen Sie die Auswahl und akzeptieren Sie die Bedingungen.
5. Server starten.

Die Bereitstellung dauert normalerweise 1-5 Minuten, je nach dem von Ihnen gewählten Server. Danach installiert das System Treiber und Überwachungstools, was je nach Geschwindigkeit des externen APT-Spiegels weitere 2-10 Minuten dauern kann. Sie können während dieses Vorgangs einen automatischen Neustart erwarten, da die GPU-Treiber eingerichtet werden.

🚫 Server-Management-Software: Installieren Sie keine Server-Management-Software wie Dokploy, CapRover, Plesk usw. Dies funktioniert nicht auf einem GPU-Server. Diese Art von Tools ist nur für Ihre Webserver gedacht!

🚫 Blackwell-Treiber-Downgrades: Gemäß unseren Nutzungsbedingungen dürfen Sie die Treiber für Blackwell-Karten (50xx, RTX Pro xx00) auf Ihrer Maschine nicht ändern. DARUNTER Version 580-server-open. Das Herunterstufen eines Treibers kann zu Systeminstabilität und potenziellen Dienstunterbrechungen führen. Ihr Server bleibt bis zur Lösung des Problems gestoppt. Keine Rückerstattung. CUDA’s Abwärtskompatibilität macht ältere Treiberversionen unnötig.

Aktuelle Preise unserer GPU-Server:

**Aktionspreise berücksichtigen den maximalen Rabatt, der durch Prepaid-Budgetoptionen verfügbar ist. Derzeit +50% zusätzliche Guthaben! Siehe die Funktion „Budget hinzufügen“ für Details.**

Jetzt bestellen

3. Anhalten, Einfrieren, Zurücksetzen und Beenden von GPU Server Blibs

Trooper.AI (Serviceeinführung) bietet flexible Lifecycle-Optionen für jeden Blib:

Produktive Zustände:

• StartStartet den Server.
• StoppHält den Server an. Ressourcen (GPUs, CPU-Kerne, RAM) bleiben reserviert, und die Instanz kann innerhalb von Sekunden neu gestartet werden.

Optionale Zustände:

• EinfrierenDer Server wird archiviert und die Ressourcenfreigabe erfolgt. Die Startzeit kann variieren und eine Neuzuweisung der Ports kann erforderlich sein. Verwenden Sie den gestoppten Zustand, wenn vorhersehbare Startzeiten benötigt werden! Das Einfrieren wird für Unternehmenskunden aufgrund von Portänderungen und längeren Ausfallzeiten nicht empfohlen!
• Zurücksetzen: Löscht alle Daten auf dem Server und stellt die ursprüngliche Konfiguration wiederher. Ports können sich ändern. CPU-Modell und Geschwindigkeit können sich ändern. Ihre Preisgestaltung bleibt bestehen. ALLE DATEN WERDEN GELÖSCHT! Diese Aktion kann nicht rückgängig gemacht werden.
• BeendenLöscht den Server und alle zugehörigen Daten dauerhaft. Diese Aktion kann nicht rückgängig gemacht werden.

Mehr dazu: Blibs-Statusliste

Alle Lifecycle-Aktionen sind über das Kontextmenü im Dashboard zugänglich.

4. Vorlagenverwaltung

Softwarevorlagen können bei der Servererstellung ausgewählt oder nachträglich installiert werden. Vorlagen installieren automatisch Abhängigkeiten, konfigurieren Dienste und öffnen erforderliche Ports.

Zu den gängigen Vorlagen gehören:

• Jupyter Notebook
• OpenWebUI & Ollama
• ComfyUI-Vorlage für GPU-Server-Blibs
• Ubuntu Desktop und RDP-Zugriff
• Framepack
• Beliebiges Docker
• … und vieles mehr Vorlagen

Mehrere Vorlagen können bei Bedarf auf einem Server Blib kombiniert werden.

5. Öffentlicher Netzwerkkzugriff

Jedem Blib wird ein dedizierter Bereich öffentlicher TCP-Ports zugewiesen (typischerweise 10–40 offene 1:1 NAT-Ports). Diese sind über den zugewiesenen Hostnamen zugänglich (z.B. connectXX.trooper.ai) und werden im Dashboard angezeigt.

Verbindungslimits (ausgehend):
Um die Plattformstabilität zu gewährleisten und Missbrauch oder fehlerhaft konfigurierte Arbeitslasten, die übermäßigen ausgehenden Datenverkehr erzeugen, zu verhindern, unterliegen alle Blibs maschinenspezifischen Ratenbegrenzungen und Verbindungstracking-Beschränkungen. Dies beinhaltet:

• Maximale Anzahl gleichzeitiger ausgehender Verbindungen (2048 pro GPU)
• TCP SYN-Ratenbegrenzung (neue ausgehende Verbindungen)
• UDP-Paketratenbegrenzung (NEUER Status)
• ICMP-Ratenbegrenzung

Wenn Ihr Server diese Grenzwerte überschreitet, kann zusätzlicher ausgehender Datenverkehr vorübergehend verworfen oder von der Routing-Schicht abgelehnt werden.

Timeout-Behandlung:
Aus Sicherheitsgründen können lang andauernde Verbindungen in regelmäßigen Abständen von unserem Routing-System geschlossen werden. Wir empfehlen, eine robuste Wiederverbindungs- und Timeout-Behandlung in Ihrer Software zu implementieren, um einen kontinuierlichen Betrieb sicherzustellen.

UDP-Traffic (Optional):
UDP-Traffic ist standardmäßig nicht aktiviert. Sie können den UDP-Zugriff für Ihren Blib über die Firewall-Regeln falls erforderlich. Bitte stellen Sie sicher, dass Ihre Anwendung sicher mit UDP-Exposition umgehen kann.

Detaillierte Informationen zum Zugriff auf Ihren Blib finden Sie in der folgenden Dokumentation:

• SSH-Zugriff (inkl. Dateiübertragung)
• RDP-Zugriff
  • optional: Echtzeit-Zugriff mit NoMachine
• 🌍 HTTPS-Zugriff (SSL-Proxy)
• Über SSL-Zertifikate
• 🛡️ Native Firewall vor Ihrem GPU-Server

6. Überwachung und Systeminformationen

Die Managementoberfläche bietet folgende Echtzeit-Überwachungsfunktionen:

• CPU- und GPU-Temperaturanzeige
• Netzwerkverkehrsinformationen
• Ressourcenauslastung (CPU, RAM, GPU)
• Vorlagenstatus und -version
• Uptime und Lebenszyklusstatus

7. Verhalten bei unzureichendem Guthaben

Blibs arbeiten mit einem Prepaid-Guthabensystem. Wenn das Guthaben aufgebraucht ist:

• Der Server wird automatisch gestoppt und kann eingefroren werden.
• Wenn das Guthaben innerhalb von 72 Stunden nicht aufgefüllt wird, können der Server und alle zugehörigen Daten dauerhaft gelöscht werden.

Hinweis: Server fallen keine Kosten an, solange Guthaben vorhanden ist. Allerdings ist die Verfügbarkeit von GPU-Ressourcen nicht garantiert, wenn das Guthaben nicht ausreichend ist.

8. Vertragsmodelle und Ressourcennutzung

• Alle GPU-Server beinhalten 5 TB monatlichen Traffic pro GPU. Beispielsweise beinhaltet ein 2-GPU-Server 10 TB.
• Bei Überschreitung dieses Soft-Limits kann die Bandbreite gedrosselt oder es können zusätzliche Gebühren anfallen.
• Es sind Rabatte für wöchentliche, monatliche und jährliche Verträge verfügbar.
• Jährliche Verträge und Rechnungsoptionen für Unternehmen sind auf Anfrage erhältlich.

10. Support

Bei technischen Problemen oder individuellen Bereitstellungsanfragen wenden Sie sich bitte an:

• E-Mail: support@trooper.ai
• WhatsApp: +49 6126 9289991

11. Migration / Upgrade von Blibs

Die Aufrüstung Ihres bestehenden GPU-Servers auf eine leistungsstärkere Konfiguration ist ein großer Vorteil bei Trooper.AI und einzigartig. Dies ermöglicht Ihnen einen nahtlosen Übergang zu leistungsfähigerer Hardware, ohne Ihre bestehende Einrichtung oder Daten zu verlieren.

Während der Migration wird Ihr Server vorübergehend angehalten. Ihnen werden nur Konfigurationen mit besseren oder gleichwertigen Ressourcen angezeigt. Eine Migrationsgebühr sowie zusätzliche Kosten für den verbleibenden Zeitraum können anfallen, wie während des Prozesses dargestellt.

Ports können sich ändern.

Wählen Sie einfach "Migrate to better Blib" aus dem Aktions-Dropdown-Menü auf Ihrem Server.

12. Bare Metal- und Virtualisierungsarchitektur

Blibs nutzen eine hybride Architektur, die dedizierte Bare-Metal-Ressourcen mit virtualisierten Komponenten kombiniert:

Dieser Ansatz bietet 100 % der Leistungspotenziale der GPU, CPU und des RAM, während er die Flexibilität von virtualisiertem NVMe-Speicher und Netzwerkfunktionen für optimierte Bereitstellung, robuste Backups und erhöhte Sicherheit nutzt.

Sie profitieren außerdem von der vollständigen Kontrolle über NVIDIA-Treiber, Kernelmodule und die APT-Paketverwaltung. Dies macht Ihren GPU Server Blib zu einer zuverlässigen und skalierbaren KI-Maschine für den täglichen Gebrauch und Produktionsumgebungen.