Modelli

Come aggiungere un modello

Nella Sua macchina, clicchi sul menù azioni e selezioni «Aggiungi Template»:

Nella finestra pop-up clicchi semplicemente sul nome del template desiderato:

Ora proceda con le modifiche alla configurazione se necessario:

Avvii l'installazione premendo il pulsante blu!

Ripeta per ogni modello che desidera installare sul server. Assicuri che la GPU abbia sufficiente VRAM per gestire tali modelli e i loro modelli.

Avvio/Arresto e risoluzione dei problemi di un'installazione di Template

Ogni modello è gestito come un servizio di sistema dedicato di Ubuntu, che consente il controllo e la risoluzione dei problemi in modo semplice. Lei può gestire questi servizi utilizzando comandi standard di Linux. Ad esempio:

sudo service comfyui status

Questo comando recupera lo stato corrente del template.

sudo service comfyui stop

Questo comando arresta il comfyui servizio. Sostituisca comfyui con il nome del template che desidera gestire. Tutti i template partono attivi per impostazione predefinita.

Per visualizzare il log del servizio, inclusi gli ultimi 100 ingressi, utilizzi il seguente comando:

sudo journalctl -u comfyui -f -n 100

Utilizzi journalctl per debuggare efficacemente gli strumenti in esecuzione sul Suo GPU server e individuare eventuali problemi.

Procedura di installazione del template

Il template passa attraverso alcuni colori che indicano lo stato corrente durante il processo di installazione. Legga di più al riguardo in Install Status of Templates. Tuttavia, in generell, ci vogliono da 3 a 10 minuti per installare il template, a seconda delle dimensioni del download e dei pacchetti dipendenze condivise già installati. Ecco come dovrebbe apparire una volta completato:

Separazione dei Template per lo Sviluppo AI

I Trooper.AI Templates sul Suo Blib Server Le permettono di eseguire più applicazioni AI o versioni diverse della stessa applicazione su un singolo server senza conflitti. Pensi a essi come contenitori isolati per ogni app.

Ecco come funziona:

• Isolamento: Ogni template incapsula l'installazione necessaria per una specifica applicazione AI. Ciò significa che tutte le librerie richieste, le dipendenze e le impostazioni vengono mantenute separate da altre applicazioni sulla macchina.
• Virtual Environments: I template utilizzano ambienti virtuali (come venv in Python o conda) per creare spazi isolati per le dipendenze di ogni applicazione. Questo evita conflitti che possono verificarsi quando applicazioni diverse richiedono versioni differenti della stessa libreria.
• Contenitori Docker (Opzionale): Per un’isolamento e una portabilità ancora maggiori, i template possono utilizzare contenitori Docker. Docker impacchetta un’applicazione e tutte le sue dipendenze in una singola unità, garantendo che esegua in modo coerente su diversi ambienti.
• Dati Persistenti: I modelli sono sempre configurati per salvare i dati in modo persistente, il che significa che i dati della Sua applicazione verranno conservati anche se il server viene sospeso o riavviato.

Questo approccio offre diversi vantaggi:

• Organizzazione: Mantiene il Suo ambiente di sviluppo AI pulito e organizzato.
• Reproducibilità: Garantisce risultati coerenti isolando le dipendenze.
• Flessibilità: Le consente di passare facilmente tra diverse applicazioni AI o sperimentare con versioni differenti.
• Efficienza delle risorse: Massimizza l'utilizzo delle risorse eseguendo più applicazioni su un singolo server.

Modelli pre-configurati GPU Server Blib

Di seguito è riportata una panoramica dei template disponibili, ciascuno con informazioni dettagliate fornite nella relativa pagina di documentazione:

Server compatibile con OpenAI di vLLM

Servizio veloce e semplice di LLMs ad alta throughput con un'API semplice per ambienti di produzione.

OpenWebUI & Ollama

Esegua e gestisca modelli linguistici locali di grandi dimensioni (LLM), come LLaMA e Gemma, tramite un'interfaccia web amichevole e completamente privata.

Proxy Web con SSL

Il web proxy include un certificato SSL pubblico, consentendo il routing sicuro del traffico su internet da una porta interna.

Strumenti di sicurezza di Trooper.AI

Monitoraggio in tempo reale delle connessioni in entrata e in uscita con protezione brute-force tramite fail2ban. Inoltra nuovi flussi TCP/UDP in diretta a una dashboard web protetta da token e mantiene log ruotati giornalmente. È possibile gestire anche l’accesso SSH con chiave pubblica (pub-key) (opzionale).

Ambiente Desktop Ubuntu

Ambiente desktop completo di Ubuntu accessibile tramite xRDP, con driver GPU funzionanti, browser Chrome e supporto per applicazioni GPU come Blender o DaVinci Resolve. Per una connessione ottimale e veloce all'interfaccia, Le consigliamo di consultare il RDP Access.

Modello ComfyUI per macchine GPU Server Blibs

Una soluzione di workflow visiva e basata su nodi per Flux e Stable Diffusion—ideale per la generazione avanzata di immagini AI e la prototipazione.

Invokeai

Un editor di immagini AI basato su browser con funzionalità avanzate tra cui il multiprompting, download integrati dei modelli Flux e molto altro.

Jupyter Notebook

Quaderni Python interattivi completamente accelerati da GPU, ideali per la data science, i flussi di lavoro di machine learning e la prototipazione rapida.

Qdrant

Database vettoriale scalabile progettato per ricerche di similarità ad alte prestazioni, che consente il recupero efficiente per applicazioni AI e analisi dati avanzate.

n8n

Una piattaforma di automazione dei flussi di lavoro no-code che Le consente di collegare app e automatizzare compiti – ideale per la creazione di pipeline e integrazioni AI personalizzate.

Any Docker

Modello basato su Docker flessibile per avviare facilmente immagini Docker compatibili con la GPU.

Eliminazione di un Modello

Può rimuovere un template facendo clic sul pulsante «Remove Template» all'interno della sua configurazione (accessibile tramite l'icona a forma di ingranaggio nella riga di installazione del template nel dashboard del GPU Blib – vedere screenshot). Questa azione elimina solo la configurazione del template; qualsiasi software o servizio associato rimane intatto e deve essere rimosso manualmente. I suoi dati restano al sicuro durante tutto il processo.

La rimozione di una configurazione del template dal GPU Blib non è un metodo di "disinstallazione"!

Richiedere Modelli Aggiuntivi

Se Lei richiede ulteriori template o configurazioni personalizzate, La preghiamo di contattare il nostro team di supporto tramite email o WhatsApp, includendo l’URL del repository GitHub pertinente. Il nostro team provvederà a configurare rapidamente l’ambiente richiesto.

Per ulteriori supporto o richieste personalizzate, contatti Contatti di Assistenza.