Skabeloner

Sådan tilføjes en skabelon

På din server klikker du på handlingsmenuen og vælger “Tilføj skabelon”:

I pop-up-vinduet skal du blot klikke på navnet på den ønskede skabelon:

Foretag ændringer i konfigurationen, hvis det er nødvendigt:

Start installationen med den blå knap!

Gentag for hvert skabelon, du ønsker at installere på serveren. Sørg for, at GPU'en har tilstrækkelig VRAM til at håndtere disse skabeloner og deres modeller.

Start/Stop og fejlfinding af skabeloninstallation

Hver skabelon administreres som en dedikeret Ubuntu-systemtjeneste, hvilket muliggør nem kontrol og fejlfinding. Du kan administrere disse tjenester ved hjælp af standard Linux-kommandoer. For eksempel:

sudo service comfyui status

Denne kommando henter den aktuelle status for skabelonen.

sudo service comfyui stop

Denne kommando stopper comfyui service. Erstat comfyui med navnet på den skabelon, du ønsker at administrere. Alle skabeloner startes som standard.

For at se serviceloggen, inklusive de 100 seneste poster, skal du bruge følgende kommando:

sudo journalctl -u comfyui -f -n 100

Udnyt journalctl for effektivt at debugge værktøjer, der kører på din GPU-server, og identificere potentielle problemer.

Skabeloninstallationsprocedure

Skabelonen går igennem forskellige farver, der angiver den aktuelle status under installationsprocessen. Læs mere om det i Installationsstatus for skabeloner. Det tager dog typisk 3 til 10 minutter at installere skabelonen, afhængigt af nedlastningsstørrelse og allerede installerede fælles afhængighedspakker. Se her, hvordan det skal se ud når det er færdig:

Template Separation for AI Development

Trooper.AI Templates på din Blib Server giver dig mulighed for at køre flere AI-applikationer eller versioner af den samme applikation på en enkelt server uden konflikter. Tænk på dem som isolerede containere for hver app.

Sådan fungerer det:

• Isolering: Hver skabelon indeholder den nødvendige installation til en specifik AI-applikation. Det betyder, at alle krævede biblioteker, afhængigheder og indstillinger holdes adskilt fra andre applikationer på serveren.
• Virtuelle miljøer: Skabeloner bruger virtuelle miljøer (som fx venv i Python eller conda) til at oprette isolerede rum for hver applikations afhængigheder. Dette forhindrer konflikter, der kan opstå når forskellige apps kræver forskellige versioner af samme bibliotek.
• Docker-containere (valgfrit): For yderligere isolering og transportabilitet kan skabeloner bruge Docker-containere. Docker pakker en applikation og alle dens afhængigheder sammen i én enkelthed, så den kører konsistenter på tværs af forskellige miljøer.
• Varig data: Skabeloner er altid konfigureret til at gemme data permanent – det betyder, at din applikationers data vil blive bevaret selvom serveren sættes i pause eller genstartes.

Denne tilgang giver flere fordele:

• Organisering: Holder din AI-udviklingsmiljø rent og overskueligt.
• Gengivelse: Sikrer ensartede resultater ved at isolere afhængigheder.
• Fleksibilitet: Giver dig mulighed for nemt at skifte mellem forskellige AI-applikationer eller eksperimentere med forskellige versioner.
• Ressourceeffektivitet: Optimerer ressourcenytelsen ved at køre flere applikationer på en enkelt server.

Forudkonfigurerede GPU Server Blib Skabeloner

Her er en oversigt over de tilgængelige skabeloner, der hver især indeholder detaljerede oplysninger på deres dedikerede dokumentationsside:

ComfyUI-skabelon til GPU-server-Blibs

En visuel, nodebaseret workflow-løsning til Flux og Stable Diffusion – ideel til avanceret AI-billedgenerering og prototyping.

vLLM OpenAI-Kompatibel Server

Hurtig og nem servering af LLM'er med høj gennemstrømning med en simpel API til produktionsmiljøer.

OpenWebUI & Ollama

Kør og administrer lokale store sprogmodeller (LLM'er) som LLaMA og Gemma via en brugervenlig, fuldt privat webgrænseflade.

Framepack

En AI-drevet løsning, der hurtigt og effektivt omdanner billeder til glatte og konsistente videosekvenser.

Ubuntu Desktop

Ubuntu Desktop med fuld miljø adgang via xRDP, inklusive fungerende GPU-drivere, Chrome-browser og støtte til GPU-applikationer som Blender eller DaVinci Resolve. Se også på RDP Access for den bedste og hurtigste forbindelse til brugergrænsefladen.

InvokeAI

En browserbaseret AI-billededitor med avancerede funktioner, herunder multi-prompting, integrerede Flux-modeldownloads og mere.

Automatic1111 til SDXL

Implementer hurtigt Stable Diffusion workflows ved hjælp af SDXL-kompatible versionen af Automatic1111 – perfekt til generering af billeder af høj kvalitet fra tekstprompter.

Jupyter Notebook

Interaktive Python-notesbøger fuldt accelereret af GPU, ideelle til datavidenskab, machine learning-workflows og hurtig prototyping.

Qdrant

Skalerbar vektordatabase udviklet til højtydende similaritetssøgning, der muliggør effektiv hentning til AI-applikationer og avanceret dataanalyse.

n8n

En no-code workflow automatiseringsplatform, der giver dig mulighed for at forbinde apps og automatisere opgaver - ideel til at bygge brugerdefinerede AI-pipelines og integrationer.

Nogen Docker

Fleksibel Docker-baseret skabelon til nemt at starte GPU-kompatible Docker-billeder.

Web Proxy med SSL

Webproxyen inkluderer et offentligt SSL-certifikat, der muliggør sikker trafikrouting over internettet fra en intern port.

Fjernelse af en skabelon

Du kan fjerne en skabelon ved at klikke på knappen “Fjern skabelon” i dens konfiguration (tilgængelig via tandhjulsikonet på skabeloninstallationsrækken i Blib-dashboardet – se skærmbillede). Denne handling fjerner kun skabelonkonfigurationen; eventuel tilknyttet software eller tjenester forbliver uændret og skal fjernes manuelt. Dine data er sikre under hele processen.

Anmodning om yderligere skabeloner

Hvis du har brug for yderligere skabeloner eller brugerdefinerede opsætninger, bedes du kontakte vores supportteam via e-mail eller WhatsApp, og inkluder den relevante GitHub-repository-URL. Vores team vil hurtigt konfigurere det ønskede miljø.

Kontakt os for yderligere støtte eller tilpassede henvendelser: