Vorlagen

Trooper.AI bietet eine Vielzahl vorinstallierter Softwarevorlagen, die die Einrichtung Ihres Projekts beschleunigen sollen. Sie können bei der Erstellung Ihres GPU Server Blibs ein oder mehrere Templates auswählen oder sie später über die Managementoberfläche hinzufügen.

Wichtig: Setzen Sie keinen manuellen Port oder erstellen Sie einen Systemdienst für eine Template-Installation. Das Template übernimmt dies automatisch und sorgt bei jedem Update dafür!

⚠️🛡️ ACHTUNG! Falls Sie Ihre Firewall aktivieren und die Regeln zu restriktiv konfigurieren, können Template-Installationen fehlschlagen. Wir empfehlen Ihnen – während der Template-Installation –, die Firewall auf die Standardeinstellungen zurückzusetzen. Fehlgeschlagene Installationen bei aktiven Firewall-Regeln sind das erwartete Verhalten und beweisen, dass die Firewall tatsächlich funktioniert.

So fügen Sie eine Vorlage hinzu

Klicken Sie auf Ihrem Server auf das Aktionsmenü und wählen Sie „Vorlage hinzufügen“:

Actions Menue
Aktionen-Menü

Klicken Sie im Popup einfach auf den Namen der gewünschten Vorlage:

Select a template (list shown here can change)
Vorlage auswählen (die hier gezeigte Liste kann sich ändern)

Nehmen Sie bei Bedarf Änderungen an der Konfiguration vor:

Options of a template
Optionen einer Vorlage

Starten Sie die Installation mit dem blauen Button!

Wiederholen Sie dies für jede Vorlage, die Sie auf dem Server installieren möchten. Stellen Sie sicher, dass die GPU genügend VRAM hat, um diese Vorlagen und ihre Modelle zu verarbeiten.

Starten/Stoppen und Debuggen einer Template-Installation

Jede Vorlage wird als dedizierter Ubuntu-Systemdienst verwaltet, was eine einfache Steuerung und Fehlersuche ermöglicht. Sie können diese Dienste mit Standard-Linux-Befehlen verwalten. Zum Beispiel:

bash
sudo service comfyui status

Dieser Befehl ruft den aktuellen Status der Vorlage ab.

bash
sudo service comfyui stop

Dieser Befehl stoppt comfyui Dienst. Ersetzen comfyui mit dem Namen der Vorlage, die Sie verwalten möchten. Alle Vorlagen werden standardmäßig gestartet.

Um den Dienstprotokoll mit den 100 letzten Einträgen anzuzeigen, verwenden Sie den folgenden Befehl:

bash
sudo journalctl -u comfyui -f -n 100

Verwenden journalctl Um Tools auf Ihrem GPU-Server effizient zu debuggen und potenzielle Probleme zu identifizieren.

Vorlageninstallationsverfahren

Successfully installs
Installation erfolgreich

Das Template durchläuft einige Farben, die den aktuellen Status während des Installationsprozesses anzeigen. Mehr dazu erfahren Sie unter Installstatus von Vorlagen. Die Installation dauert jedoch meistens zwischen 3 bis 10 Minuten, abhängig von der Downloadgröße sowie bereits installierten Abhängigkeiten oder gemeinsam genutzten Paketen. So könnte es aussehen, wenn der Vorgang abgeschlossen ist:

Template-Trennung für die KI-Entwicklung

Trooper.AI Templates auf Ihrem Blib Server ermöglichen Ihnen die Ausführung mehrerer KI-Anwendungen oder Versionen derselben Anwendung auf einem einzigen Server ohne Konflikte. Betrachten Sie sie als isolierte Container für jede App.

So funktioniert es:

  • Isolierung: Jedes Template kapselt die notwendige Installation für eine spezifische KI-Anwendung. Das bedeutet, dass alle benötigten Bibliotheken, Abhängigkeiten und Einstellungen von anderen Anwendungen auf dem Server getrennt gehalten werden.
  • Virtuelle Umgebungen: Vorlagen nutzen virtuelle Umgebungen (wie venv bei Python oder conda) zur Erstellung isolierter Bereiche für die Abhängigkeiten jeder Anwendung. Dadurch werden Konflikte vermieden, die auftreten können, wenn verschiedene Anwendungen unterschiedliche Versionen derselben Bibliothek benötigen.
  • Docker-Container (optional): Für noch mehr Isolation und Portabilität können Vorlagen Docker-Container nutzen. Docker verpackt eine Anwendung samt aller Abhängigkeiten zu einer Einheit, sodass diese konsistent über verschiedene Umgebungen hinweg läuft.
  • Persistente Daten: Vorlagen sind immer so konfiguriert, dass sie Daten dauerhaft speichern – das bedeutet, Ihre Anwendungsdaten bleiben erhalten, selbst wenn der Server pausiert oder neu gestartet wird.

Dieser Ansatz bietet mehrere Vorteile:

  • Organisation: Hält Ihre KI-Entwicklungsumgebung sauber und strukturiert.
  • Wiederholbarkeit: Garantiert konsistente Ergebnisse durch Isolierung der Abhängigkeiten.
  • Flexibilität: Ermöglicht Ihnen das einfache Wechseln zwischen verschiedenen KI-Anwendungen oder das Experimentieren mit unterschiedlichen Versionen.
  • Ressourceneffizienz: Maximiert die Auslastung der Ressourcen durch das Betreiben mehrerer Anwendungen auf einem einzelnen Server.

Vorkonfigurierte GPU Server Blib Vorlagen

Im Folgenden finden Sie einen Überblick über die verfügbaren Vorlagen, zu denen auf ihren jeweiligen Dokumentationsseiten detaillierte Informationen bereitgestellt werden:

ComfyUI-Vorlage für GPU-Server-Blibs

Eine visuelle, knotenbasierte Workflow-Lösung für Flux und Stable Diffusion – ideal für die fortgeschrittene KI-Bildgenerierung und das Prototyping.

vLLM OpenAI-Kompatibler Server

Schneller und einfacher Betrieb von LLMs mit hohem Durchsatz mit einer einfachen API für Produktionsumgebungen.

OpenWebUI & Ollama

Lokale Large Language Models (LLMs) wie LLaMA und Gemma können über eine benutzerfreundliche, vollständig private Weboberfläche ausgeführt und verwaltet werden.

Framepack

Eine KI-gestützte Lösung, die Bilder schnell und effektiv in flüssige und konsistente Videosequenzen umwandelt.

Ubuntu Desktop

Ubuntu Desktop-Umgebung, vollständig über xRDP zugänglich – inklusive funktionierender GPU-Treiber, Chrome-Browser sowie Unterstützung für GPU-Anwendungen wie Blender oder DaVinci Resolve. Für die beste und schnellste Verbindung zur Oberfläche empfehlen wir zudem unseren RDP-Zugriff.

InvokeAI

Ein browserbasierter KI-Bildeditor mit erweiterten Funktionen, einschließlich Multi-Prompting, integrierten Flux-Modelldownloads und mehr.

Automatic1111 für SDXL

Setzen Sie Stable Diffusion Workflows schnell mit der SDXL-kompatiblen Version von Automatic1111 um – perfekt für die Erzeugung hochwertiger Bilder aus Textprompts.

Jupyter Notebook

Interaktive Python-Notebooks, vollständig durch die GPU beschleunigt, ideal für Data Science, Machine-Learning-Workflows und schnelles Prototyping.

Qdrant

Skalierbare Vektordatenbank, entwickelt für Hochleistungssimilaritätssuche, die effizientes Abrufen für KI-Anwendungen und fortschrittliche Datenanalyse ermöglicht.

n8n

Eine No-Code-Workflow-Automatisierungsplattform, mit der Sie Apps verbinden und Aufgaben automatisieren können – ideal für den Aufbau benutzerdefinierter KI-Pipelines und -Integrationen.

Jeder Docker

Flexible Docker-basierte Vorlage für einfaches Starten von GPU-kompatiblen Docker-Images.

Web-Proxy mit SSL

Der Web-Proxy beinhaltet ein öffentliches SSL-Zertifikat, das sichere Verkehrsleitung über das Internet von einem internen Port ermöglicht.


Vorlage entfernen

Remove template button in template settings
Entferne Vorlagen-Button in den Vorlageneinstellungen

Sie können eine Vorlage entfernen, indem Sie auf die Schaltfläche „Vorlage entfernen“ in den Einstellungen der Vorlage klicken (zugänglich über das Zahnradsymbol in der Zeile der Vorlageninstallation im Blib-Dashboard – siehe Screenshot). Diese Aktion entfernt nur die Vorlagenkonfiguration; die zugehörige Software oder die Dienste bleiben unberührt und müssen manuell entfernt werden. Ihre Daten bleiben während dieses Vorgangs sicher.


Anfordern zusätzlicher Vorlagen

Wenn Sie zusätzliche Templates oder individuelle Setups benötigen, kontaktieren Sie bitte unser Support-Team per E-Mail oder WhatsApp und geben Sie die entsprechende GitHub-Repository-URL an. Unser Team wird die gewünschte Umgebung schnell konfigurieren.

Für weitere Unterstützung oder individuelle Anfragen wenden Sie sich bitte an uns unter: Kontaktmöglichkeiten für Support

🔒 Authentifizierungsüberlegungen

Bitte priorisieren Sie stets die Sicherheit Ihres Servers. Während Anwendungen wie OpenWebUI und n8n integrierte Authentifizierungsfunktionen bieten, ermöglichen ComfyUI und Automatic1111 konfigurierbare Authentifizierungsoptionen – verweisen Sie hierfür auf deren offizielle Dokumentation für Implementierungshinweise. Andere Anwendungen wie z. B. InvokeAI verfügen möglicherweise über keine eingebaute Authentifizierung. Beachten Sie bitte: Die Verantwortung für die Sicherstellung der Server-Sicherheit liegt bei Ihnen.
Kontakt zu Unterstützung