GPU Server Blibs

1. Zugriff und Überblick

Nach dem Einloggen unter https://james.trooper.ai/manage Benutzern wird eine Liste der aktiven und eingefrorenen Blibs angezeigt. Jeder Servereintrag enthält die folgenden Informationen:

• Blib-Name und Status (running, stopped, frozen), mehr dazu: Blibs-Statusliste
• GPU-Konfiguration (z.B. 1× RTX 3090, 2× A100)
• CPU und Speicher (z.B. 12 Kerne, 86 GB RAM)
• NVMe SSD-Kapazität
• Zugewiesener Hostname (z.B. connect01.trooper.ai)
• Zugewiesener öffentlicher TCP-Portbereich
• Installierte Software Vorlagen (e.g. Jupyter Notebook, ComfyUI)
• Sicherer HTTPS-Zugriff, mehr dazu: HTTPS-Zugriff (SSL-Proxy)
• GPU-Treiber

Systemtemperatur und Abrechnungszeiträume werden, falls zutreffend, ebenfalls angezeigt.

2. Erstellen und Starten eines Servers

Um einen neuen GPU Server Blib bereitzustellen:

1. Navigieren Sie zu GPU Server bestellen Abschnitt oder verwenden Sie die Neuen Server erstellen Funktion im Dashboard.
2. Wählen Sie die gewünschte Serverkonfiguration (z.B. sparbox.m1, infinityai.m2).
3. Optional können Sie eine oder mehrere Vorlagen zur Vorinstallation auswählen:
   • Jupyter Notebook
   • OpenWebUI & Ollama
   • ComfyUI
4. Bitte bestätigen Sie die Auswahl und akzeptieren Sie die Bedingungen.
5. Server starten.

Die Bereitstellung dauert je nach ausgewählter Hardware etwa 1 bis 5 Minuten. Während des ersten Starts werden Systemtreiber und Überwachungstools installiert. Nach der Einrichtung des GPU-Treibers ist ein automatischer Neustart zu erwarten.

🚫 Server-Management-Software: Installieren Sie keine Serververwaltungssoftware wie Dokploy, CapRover, Plesk usw. Dies funktioniert nicht auf einem GPU-Server. Diese Tools sind für Ihren Webserver konzipiert und verbinden dann die Apps über eine API mit Ihrem GPU-Server.

Aktuelle Preise unserer GPU-Server:

Aktionspreise berücksichtigen den maximalen Rabatt, der durch Prepaid-Budgetoptionen verfügbar ist. Weitere Details finden Sie in der Funktion „Budget hinzufügen“.

Jetzt bestellen

3. Anhalten, Einfrieren, Zurücksetzen und Beenden von GPU Server Blibs

Trooper.AI (Serviceeinführung) bietet flexible Lifecycle-Optionen für jeden Blib:

Produktive Zustände:

• StartStartet den Server.
• StoppHält den Server an. Ressourcen (GPUs, CPU-Kerne, RAM) bleiben reserviert, und die Instanz kann innerhalb von Sekunden neu gestartet werden.

Optionale Zustände:

• EinfrierenDer Server wird archiviert und die Ressourcenfreigabe erfolgt. Die Startzeit kann variieren und eine Neuzuweisung der Ports kann erforderlich sein. Verwenden Sie den gestoppten Zustand, wenn vorhersehbare Startzeiten benötigt werden! Das Einfrieren wird für Unternehmenskunden aufgrund von Portänderungen und längeren Ausfallzeiten nicht empfohlen!
• Zurücksetzen: Löscht alle Daten auf dem Server und stellt die ursprüngliche Konfiguration wiederher. Ports können sich ändern. CPU-Modell und Geschwindigkeit können sich ändern. Ihre Preisgestaltung bleibt bestehen. ALLE DATEN WERDEN GELÖSCHT! Diese Aktion kann nicht rückgängig gemacht werden.
• BeendenLöscht den Server und alle zugehörigen Daten dauerhaft. Diese Aktion kann nicht rückgängig gemacht werden.

Mehr dazu: Blibs-Statusliste

Alle Lifecycle-Aktionen sind über das Kontextmenü im Dashboard zugänglich.

4. Vorlagenverwaltung

Softwarevorlagen können bei der Servererstellung ausgewählt oder nachträglich installiert werden. Vorlagen installieren automatisch Abhängigkeiten, konfigurieren Dienste und öffnen erforderliche Ports.

Zu den gängigen Vorlagen gehören:

• Jupyter Notebook
• OpenWebUI & Ollama
• ComfyUI
• Ubuntu Desktop und RDP-Zugriff
• Framepack
• Beliebiges Docker
• … und vieles mehr Vorlagen

Mehrere Vorlagen können bei Bedarf auf einem Server Blib kombiniert werden.

5. Öffentlicher Netzwerkkzugriff

Jedem Blib wird ein dedizierter Bereich öffentlicher TCP-Ports zugewiesen (typischerweise 10–40 offene 1:1 NAT-Ports). Diese sind über den zugewiesenen Hostnamen zugänglich (z.B. connectXX.trooper.ai) und werden im Dashboard angezeigt.

Timeout-Behandlung: Aus Sicherheitsgründen können lang andauernde Verbindungen in regelmäßigen Abständen von unserem Routing-System geschlossen werden. Wir empfehlen, eine robuste Wiederverbindungs- und Timeout-Behandlung in Ihrer Software zu implementieren, um einen kontinuierlichen Betrieb sicherzustellen.

UDP-Verkehr wird nicht unterstützt! Unsere Netzwerkinfrastruktur ist ausschließlich für TCP konfiguriert.

Detaillierte Informationen zum Zugriff auf Ihren Blib finden Sie in der folgenden Dokumentation:

• SSH-Zugriff (inkl. Dateiübertragung)
• RDP-Zugriff
• HTTPS-Zugriff (SSL-Proxy)
• Über SSL-Zertifikate
• Benötige ich eine Firewall auf dem GPU-Server?

6. Überwachung und Systeminformationen

Die Managementoberfläche bietet folgende Echtzeit-Überwachungsfunktionen:

• CPU- und GPU-Temperaturanzeige
• Netzwerkverkehrsinformationen
• Ressourcenauslastung (CPU, RAM, GPU)
• Vorlagenstatus und -version
• Uptime und Lebenszyklusstatus

7. Verhalten bei unzureichendem Guthaben

Blibs arbeiten mit einem Prepaid-Guthabensystem. Wenn das Guthaben aufgebraucht ist:

• Der Server wird automatisch gestoppt und kann eingefroren werden.
• Wenn das Guthaben innerhalb von 72 Stunden nicht aufgefüllt wird, können der Server und alle zugehörigen Daten dauerhaft gelöscht werden.

Hinweis: Server fallen keine Kosten an, solange Guthaben vorhanden ist. Allerdings ist die Verfügbarkeit von GPU-Ressourcen nicht garantiert, wenn das Guthaben nicht ausreichend ist.

8. Vertragsmodelle und Ressourcennutzung

• Alle GPU-Server beinhalten 5 TB monatlichen Traffic pro GPU. Beispielsweise beinhaltet ein 2-GPU-Server 10 TB.
• Bei Überschreitung dieses Soft-Limits kann die Bandbreite gedrosselt oder es können zusätzliche Gebühren anfallen.
• Es sind Rabatte für wöchentliche, monatliche und jährliche Verträge verfügbar.
• Jährliche Verträge und Rechnungsoptionen für Unternehmen sind auf Anfrage erhältlich.

10. Support

Bei technischen Problemen oder individuellen Bereitstellungsanfragen wenden Sie sich bitte an:

• E-Mail: support@trooper.ai
• WhatsApp: +49 6126 9289991

11. Migration / Upgrade von Blibs

Die Aufrüstung Ihres bestehenden GPU-Servers auf eine leistungsstärkere Konfiguration ist ein großer Vorteil bei Trooper.AI und einzigartig. Dies ermöglicht Ihnen einen nahtlosen Übergang zu leistungsfähigerer Hardware, ohne Ihre bestehende Einrichtung oder Daten zu verlieren.

Während der Migration wird Ihr Server vorübergehend angehalten. Ihnen werden nur Konfigurationen mit besseren oder gleichwertigen Ressourcen angezeigt. Eine Migrationsgebühr sowie zusätzliche Kosten für den verbleibenden Zeitraum können anfallen, wie während des Prozesses dargestellt.

Ports können sich ändern.

Wählen Sie einfach "Migrate to better Blib" aus dem Aktions-Dropdown-Menü auf Ihrem Server.

12. Bare Metal- und Virtualisierungsarchitektur

Blibs nutzen eine hybride Architektur, die dedizierte Bare-Metal-Ressourcen mit virtualisierten Komponenten kombiniert:

Dieser Ansatz bietet 100 % der Leistungspotenziale der GPU, CPU und des RAM, während er die Flexibilität von virtualisiertem NVMe-Speicher und Netzwerkfunktionen für optimierte Bereitstellung, robuste Backups und erhöhte Sicherheit nutzt.

Sie profitieren außerdem von der vollständigen Kontrolle über NVIDIA-Treiber, Kernelmodule und die APT-Paketverwaltung. Dies macht Ihren GPU Server Blib zu einer zuverlässigen und skalierbaren KI-Maschine für den täglichen Gebrauch und Produktionsumgebungen.