Sjablonen

Trooper.AI biedt een verscheidenheid aan vooraf geïnstalleerde softwaretemplates die zijn ontworpen om uw projectconfiguratie te versnellen. U kunt een of meer templates selecteren bij het maken van uw GPU server Blib, of ze later toevoegen via het beheerdersinterface.

Belangrijk: Stel geen handmatige poort in of maak een systeemdienst aan voor de installatie van een sjabloon. De sjabloon regelt dit zelf en zorgt ervoor dat deze dingen bij elke update worden bijgewerkt!

⚠️🛡️ AANDACHT! Als je de Firewall activeert en de regels te strikt configureert, kunnen template-installaties mislukken. Wij raden aan – tijdens het installeren van templates – om de firewall terug te zetten naar standaardinstellingen. Mislukte template-installaties met actieve firewallregels zijn verwacht gedrag dat aantoont dat de firewall daadwerkelijk werkt.

Hoe voeg je een template toe

Klik op uw server op het actiemenu en selecteer “Template toevoegen”:

Actions Menue
Acties Menu

Klik in het pop-upvenster op de naam van de gewenste template:

Select a template (list shown here can change)
Selecteer een template (lijst hieronder kan veranderen)

Pas indien nodig de configuratie aan:

Options of a template
Opties van een template

Start de installatie met de blauwe knop!

Herhaal dit voor elke template die je op de server wilt installeren. Zorg ervoor dat de GPU voldoende VRAM heeft om deze templates en hun modellen te verwerken.

Template installeren, stoppen en debuggen

Elke template wordt beheerd als een speciale Ubuntu-systeemservice, waardoor eenvoudige controle en foutopsporing mogelijk is. U kunt deze services beheren met behulp van standaard Linux-opdrachten. Bijvoorbeeld:

bash 
sudo service comfyui status

Deze opdracht haalt de huidige status van de template op.

bash 
sudo service comfyui stop

Deze opdracht stopt de comfyui service. Vervang comfyui met de naam van de template die u wilt beheren. Alle templates worden standaard gestart.

Om de servicelog te bekijken, inclusief de 100 meest recente vermeldingen, gebruikt u het volgende commando:

bash 
sudo journalctl -u comfyui -f -n 100

Gebruik journalctl om tools die op uw GPU-server draaien efficiënt te debuggen en potentiële problemen te identificeren.

Template installatieprocedure

Successfully installs
Succesvol geïnstalleerd

De sjabloon gaat door verschillende kleuren die de huidige status tijdens het installatieproces aangeven. Lees er meer over in Installatiestatus van sjablonen. Het duurt meestal tussen de 3 en 10 minuten om een sjabloon te installeren, afhankelijk van de grootte van de download en reeds geïnstalleerde gedeelde afhankelijkheidspakketten. Zo ziet het eruit als het klaar is:

Templatescheiding voor AI-ontwikkeling

Trooper.AI Templates op uw Blib Server stellen u in staat om meerdere AI-applicaties of versies van dezelfde applicatie op een enkele server te draaien zonder conflicten. Zie ze als geïsoleerde containers voor elke app.

Zo werkt het:

  • Isolatie: Elke sjabloon omvat de benodigde installatie voor een specifieke AI-toepassing. Dit betekent dat alle vereiste bibliotheken, afhankelijkheden en instellingen gescheiden blijven van andere applicaties op de server.
  • Virtuele Omgevingen: Sjablonen gebruiken virtuele omgevingen (zoals venv in Python of conda) om geïsoleerde ruimtes te creëren voor de afhankelijkheden van elke applicatie. Dit voorkomt conflicten die kunnen ontstaan wanneer verschillende apps andere versies nodig hebben van dezelfde bibliotheek.
  • Docker-containers (Optioneel): Voor nog meer isolatie en draagbaarheid kunnen sjablonen gebruikmaken van Docker-containers. Docker bundelt een applicatie en alle afhankelijkheden in één eenheid, waardoor deze consistente resultaten levert op verschillende omgevingen.
  • Duurzaam opslaan van gegevens: Sjablonen zijn altijd ingesteld om gegevens persistent op te slaan, wat betekent dat de applicatiegegevens behouden blijven, zelfs als de server wordt gepauzeerd of herstart.

Deze aanpak biedt verschillende voordelen:

  • Organisatie: Houdt uw AI-ontwikkelomgeving schoon en georganiseerd.
  • Herhaalbaarheid: Zorgt voor consistente resultaten door afhankelijkheden te isoleren.
  • Flexibiliteit: Laat toe om gemakkelijk tussen verschillende AI-applicaties te wisselen of met andere versies te experimenteren.
  • Hulpbronnefficiëntie: Optimaliseert het gebruik van hulpbronnen door meerdere applicaties op een enkele server uit te voeren.

Voorgeconfigureerde GPU Server Blib Templates

Hieronder vindt u een overzicht van de beschikbare templates, met gedetailleerde informatie op de bijbehorende documentatiepagina:

ComfyUI-sjabloon voor GPU-serverblibs

Een visuele, op nodes gebaseerde workflow oplossing voor Flux en Stable Diffusion – ideaal voor geavanceerde AI-beeldgeneratie en prototyping.

vLLM-server compatibel met OpenAI

Snelle en eenvoudige implementatie van LLM's met hoge doorvoer met een eenvoudige API voor productieomgevingen.

OpenWebUI & Ollama

Draai en beheer lokale large language models (LLM's), zoals LLaMA en Gemma, via een gebruiksvriendelijke, volledig private webinterface.

Framepack

Een AI-gestuurde oplossing die afbeeldingen snel en effectief omzet in vloeiende en consistente videoreeksen.

Ubuntu Desktop

Ubuntu Desktop met volledige Ubuntu-bureaubladomgeving toegankelijk via xRDP, inclusief werkende GPU-drivers, de Chrome-browser en ondersteuning voor GPU-applicaties zoals Blender of DaVinci Resolve. Bekijk ook RDP-toegang voor de beste en snelste verbinding met het gebruikersinterface.

InvokeAI

Een op de browser gebaseerde AI-afbeeldingseditor met geavanceerde mogelijkheden, waaronder multi-prompting, geïntegreerde Flux-modeldownloads, en meer.

Automatic1111 voor SDXL

Implementeer snel Stable Diffusion workflows met de SDXL-compatibele versie van Automatic1111 – perfect voor het genereren van hoogwaardige afbeeldingen vanuit tekstprompts.

Jupyter Notebook

Interactieve Python notebooks volledig versneld door GPU, ideaal voor data science, machine learning workflows en snelle prototyping.

Qdrant

Schaalbare vectordatabase ontworpen voor high-performance similariteitszoekopdrachten, waardoor efficiënte retrieval mogelijk is voor AI-applicaties en geavanceerde data-analyse.

n8n

Een platform voor workflowautomatisering zonder code waarmee je apps kunt verbinden en taken kunt automatiseren - ideaal voor het bouwen van aangepaste AI-pipelines en -integraties.

Any Docker

Flexibele Docker-gebaseerde template voor het eenvoudig starten van GPU-compatibele Docker images.

Web Proxy met SSL

De webproxy bevat een publiek SSL-certificaat, waardoor beveiligd verkeer via internet vanaf een interne poort mogelijk is.

Een template verwijderen

Remove template button in template settings
Knop 'Template verwijderen' in template-instellingen

U kunt een template verwijderen door op de knop “Template verwijderen” te klikken binnen de configuratie (toegankelijk via het tandwielpictogram op de rij template-installatie in het Blib-dashboard – zie screenshot). Deze actie verwijdert alleen de template-configuratie; eventuele bijbehorende software of services blijven onaangetast en moeten handmatig worden verwijderd. Uw data blijft gedurende dit proces veilig.

Extra sjablonen aanvragen

Als u aanvullende templates of aangepaste configuraties nodig heeft, neem dan contact op met ons supportteam via e-mail of WhatsApp, met de relevante GitHub repository URL. Ons team zal de gevraagde omgeving snel configureren.

Neem voor verdere ondersteuning of maatwerkverzoeken contact met ons op:

🔒 Authenticatieoverwegingen

Zorg ervoor dat de beveiliging van uw server voorop staat. Terwijl applicaties zoals OpenWebUI en n8n authentificatiefunctionaliteit bevatten, bieden ComfyUI en Automatic1111 instelbare authenticatie-opties aan – raadpleeg hun officiële documentatie voor implementatiedetails. Andere applicaties, zoals InvokeAI, kunnen mogelijk geen ingebouwde authenticatie hebben. Onthoud dat het behouden van de beveiliging van uw server uw verantwoordelijkheid is. Heeft u vragen? Neem contact met ons op bij Support Contacts