GPU Server Blibs

1. Zugriff und Überblick

Nach dem Einloggen unter https://james.trooper.ai/manage erhalten Sie eine Liste der aktiven und eingefrorenen Blibs. Jeder Servereinträge enthält folgende Informationen:

• Blib-Name und Status (laufend, gestoppt, eingefroren), mehr erfahren unter: Liste der Blib-Statusseiten
• GPU-Konfiguration (z.B. 1× RTX 3090, 2× A100)
• CPU und Speicher (z.B. 12 Kerne, 86 GB RAM)
• NVMe SSD-Kapazität
• Zugewiesener Hostname (z.B. connect01.trooper.ai)
• Zugewiesener öffentlicher Portbereich (TCP, optional UDP)
• Installierte Software Vorlagen (z. B. Jupyter Notebook, ComfyUI-Vorlage für GPU-Server-Blibs)
• Sicherer HTTPS-Zugriff, mehr erfahren: 🌍 HTTPS-Zugang (Wie greifen Sie auf Ihren Blib über SSL zu?)
• GPU-Treiber
• Sicherungen und Snapshots
• 🛡️ Nativer Firewall vor Ihrem GPU-Server

Systemtemperatur und Abrechnungszeiträume werden, falls zutreffend, ebenfalls angezeigt.

2. Erstellen und Starten eines Servers

Um einen neuen GPU Server Blib bereitzustellen:

1. GPU-Server bestellen-Abschnitt aufrufen oder die Funktion Neuen Server erstellen im Dashboard verwenden.
2. Wählen Sie die gewünschte Serverkonfiguration (z.B. sparbox.m1, infinityai.m2).
3. Optional können Sie eine oder mehrere Vorlagen zur Vorkonfiguration auswählen:
   • Jupyter Notebook
   • OpenWebUI & Ollama
   • ComfyUI-Vorlage für GPU-Server-Bibliotheken
4. Bitte bestätigen Sie die Auswahl und akzeptieren Sie die Bedingungen.
5. Server starten.

Die Bereitstellung dauert normalerweise 1-5 Minuten, je nach dem von Ihnen gewählten Server. Danach installiert das System Treiber und Überwachungstools, was je nach Geschwindigkeit des externen APT-Spiegels weitere 2-10 Minuten dauern kann. Sie können während dieses Vorgangs einen automatischen Neustart erwarten, da die GPU-Treiber eingerichtet werden.

❌ Server-Management-Software: Installieren Sie KEINE Server-Management-Software wie z. B. Dokploy, CapRover oder Plesk usw. Dies funktioniert nicht auf einem GPU-Server. Solche Tools sind ausschließlich für Ihre Webserver gedacht!

🚫 Treiber-Herunterstufungen für Blackwell: Gemäß unseren Nutzungsbedingungen dürfen Sie die Treiber für Blackwell-Karten (50xx, RTX Pro xx00) auf Ihrem System UNTER Version 580-server-open nicht modifizieren. Eine Herunterstufung der Treiber kann zu Systeminstabilität oder Dienstunterbrechungen führen. Ihr Server bleibt so lange deaktiviert, bis das Problem behoben ist. Es wird keine Rückerstattung gewährt. Dank von CUDA bereitgestellter Abwärtskompatibilität besteht kein Bedarf für ältere Treiberversionen.

Aktuelle Preise unserer GPU-Server:

Aktuelle Sonderpreise spiegeln das maximale Rabattpotenzial durch vorab bezahlte Budgetoptionen wider. Derzeit gibt es +33 % Extra-Credits!* Weitere Details finden Sie unter der Funktion „Budget hinzufügen“*.

Jetzt bestellen

3. Anhalten, Einfrieren, Zurücksetzen und Beenden von GPU Server Blibs

Trooper.AI (Dienstvorstellung) bietet flexible Lebenszyklusoptionen für jede(n) Blib:

Produktive Zustände:

• Starten: Startet den Server.
• Stoppen: Setzt den Server herunter. Die Ressourcen (GPUs, CPU-Kerne, RAM) bleiben zugewiesen und der Instanzenstart ist innerhalb von Sekunden möglich.

Optionale Zustände:

• Einfrieren: Der Server wird archiviert und die Ressourcenallokation freigegeben. Die Startzeit kann variieren, und eine Neuzuweisung der Ports kann erforderlich sein. Nutzen Sie ggf. den gestoppten Zustand, wenn vorhersagbare Startzeiten benötigt werden! EINFRIEREN WIRD UNTERNEHMENSKUNDEN DUE ZU MÖGLICHEN PORTÄNDERUNGEN UND LÄNGEREN AUSFALLZEITEN NICHT EMPFOHLEN!
• Zurücksetzen: Löscht alle Daten auf dem Server und installiert die ursprüngliche Konfiguration neu. Die Ports können sich ändern. Das CPU-Modell und die Geschwindigkeit können variieren. Ihre Preise bleiben unverändert. ALLE DATEN GEHEN VERLOREN! Diese Aktion lässt sich nicht rückgängig machen.
• Beenden: Löscht den Server und alle damit verbundenen Daten dauerhaft. Diese Aktion lässt sich nicht rückgängig machen.

Blibs-Statusliste

Alle Lifecycle-Aktionen sind über das Kontextmenü im Dashboard zugänglich.

4. Vorlagenverwaltung

Softwarevorlagen können bei der Servererstellung ausgewählt oder nachträglich installiert werden. Vorlagen installieren automatisch Abhängigkeiten, konfigurieren Dienste und öffnen erforderliche Ports.

Zu den gängigen Vorlagen gehören:

• Jupyter Notebook
• OpenWebUI & Ollama
• ComfyUI-Vorlage für GPU-Server-Blibs
• Ubuntu Desktop und RDP-Zugriff
• Framepack
• Jeder Docker
• ... und viele weitere Vorlagen

Mehrere Vorlagen können bei Bedarf auf einem Server Blib kombiniert werden.

5. Öffentlicher Netzwerkkzugriff

Jedem Blib wird ein dedizierter Bereich öffentlicher TCP-Ports zugewiesen (typischerweise 10–40 offene 1:1 NAT-Ports). Diese sind über den zugewiesenen Hostnamen zugänglich (z.B. connectXX.trooper.ai) und werden im Dashboard angezeigt.

Verbindungslimits (Ausgehend):
Um die Plattformstabilität zu gewährleisten und Missbrauch oder falsch konfigurierte Workloads daran zu hindern, übermäßigen externen Traffic zu generieren, unterliegen alle Blibs maschinenspezifischen Ausgeh-Geschwindigkeitsbegrenzungen sowie Verbindungsspuringslimits. Dies umfasst:

• Maximale Anzahl gleichzeitiger ausgehender Verbindungen (2048 pro GPU)
• TCP SYN-Ratenbegrenzung (neue ausgehende Verbindungen)
• UDP-Paketratenbegrenzung (NEUER Status)
• ICMP-Ratenbegrenzung

Wenn Ihr Server diese Grenzwerte überschreitet, kann zusätzlicher ausgehender Datenverkehr vorübergehend verworfen oder von der Routing-Schicht abgelehnt werden.

Zeitüberschreitungsbehandlung:
Aus Sicherheitsgründen können langlebige Verbindungen durch unser Routingsystem periodisch geschlossen werden. Wir empfehlen Ihnen, eine robuste Neuanmeldung sowie eine zuverlässige Behandlung von Zeitüberschreitungen in Ihrer Software umzusetzen, um einen kontinuierlichen Betrieb sicherzustellen.

UDP-Verkehr (optional):
Standardmäßig ist der UDP-Verkehr nicht aktiviert. Sie können den UDP-Zugriff für Ihre Blib über die Firewall-Regeln freischalten, falls erforderlich. Stellen Sie bitte sicher, dass Ihre Anwendung so gestaltet ist, dass sie eine sichere Handhabung von UDP-Exposition ermöglicht.

Detaillierte Informationen zum Zugriff auf Ihren Blib finden Sie in der folgenden Dokumentation:

• SSH-Zugriff (inkl. Dateiübertragung)
• Remotezugriff über RDP
  • optional: Echtzeitzugriff mit NoMachine
• 🌍 HTTPS-Zugriff (So greifen Sie auf Ihren Blib über SSL zu)
• Zu SSL-Zertifikaten
• 🛡️ Nativer Firewall vor Ihrem GPU-Server

6. Überwachung und Systeminformationen

Die Managementoberfläche bietet folgende Echtzeit-Überwachungsfunktionen:

• CPU- und GPU-Temperaturanzeige
• Netzwerkverkehrsinformationen
• Ressourcenauslastung (CPU, RAM, GPU)
• Vorlagenstatus und -version
• Uptime und Lebenszyklusstatus

7. Verhalten bei unzureichendem Guthaben

Blibs arbeiten mit einem Prepaid-Guthabensystem. Wenn das Guthaben aufgebraucht ist:

• Der Server wird automatisch gestoppt und kann eingefroren werden.
• Wenn das Guthaben innerhalb von 72 Stunden nicht aufgefüllt wird, können der Server und alle zugehörigen Daten dauerhaft gelöscht werden.

Hinweis: Server fallen keine Kosten an, solange Guthaben vorhanden ist. Allerdings ist die Verfügbarkeit von GPU-Ressourcen nicht garantiert, wenn das Guthaben nicht ausreichend ist.

8. Vertragsmodelle und Ressourcennutzung

• Alle GPU-Server beinhalten 5 TB monatlichen Traffic pro GPU. Beispielsweise beinhaltet ein 2-GPU-Server 10 TB.
• Bei Überschreitung dieses Soft-Limits kann die Bandbreite gedrosselt oder es können zusätzliche Gebühren anfallen.
• Es sind Rabatte für wöchentliche, monatliche und jährliche Verträge verfügbar.
• Jährliche Verträge und Rechnungsoptionen für Unternehmen sind auf Anfrage erhältlich.

10. Support

Bei technischen Problemen oder individuellen Bereitstellungsanfragen wenden Sie sich bitte an:

• support@trooper.ai
• WhatsApp: +49 6126 9289991

11. Migration / Upgrade von Blibs

Die Aufrüstung Ihres bestehenden GPU-Servers auf eine leistungsstärkere Konfiguration ist ein großer Vorteil bei Trooper.AI und einzigartig. Dies ermöglicht Ihnen einen nahtlosen Übergang zu leistungsfähigerer Hardware, ohne Ihre bestehende Einrichtung oder Daten zu verlieren.

Während der Migration wird Ihr Server vorübergehend angehalten. Ihnen werden nur Konfigurationen mit besseren oder gleichwertigen Ressourcen angezeigt. Eine Migrationsgebühr sowie zusätzliche Kosten für den verbleibenden Zeitraum können anfallen, wie während des Prozesses dargestellt.

Die Ports können sich ändern.

Wählen Sie einfach "Migrate to better Blib" aus dem Aktions-Dropdown-Menü auf Ihrem Server.

12. Bare Metal- und Virtualisierungsarchitektur

Blibs nutzen eine hybride Architektur, die dedizierte Bare-Metal-Ressourcen mit virtualisierten Komponenten kombiniert:

Dieser Ansatz bietet 100 % der Leistungspotenziale der GPU, CPU und des RAM, während er die Flexibilität von virtualisiertem NVMe-Speicher und Netzwerkfunktionen für optimierte Bereitstellung, robuste Backups und erhöhte Sicherheit nutzt.

Sie profitieren außerdem von der vollständigen Kontrolle über NVIDIA-Treiber, Kernelmodule und die APT-Paketverwaltung. Dies macht Ihren GPU Server Blib zu einer zuverlässigen und skalierbaren KI-Maschine für den täglichen Gebrauch und Produktionsumgebungen.