OpenWebUI & Ollama

Deploy con funzionalità enterprise di OpenWebUI ⚙️🔒

OpenWebUI offre una solida base per implementare soluzioni di chat interne di livello aziendale 📊✨. La sua architettura consente alle organizzazioni di sviluppare sicure, scalabili workflow di comunicazione alimentati da AI, personalizzate in base ai requisiti aziendali.

Implementato all'interno di una infrastruttura conforme al GDPR 🛡️🌍, OpenWebUI garantisce la protezione end-to-end dei dati mantenendo al contempo l'efficienza operativa. La piattaforma combina misure di sicurezza standard del settore con opzioni di configurazione flessibili, rendendola ideale per ambienti aziendali in cui riservatezza e aderenza normativa sono priorità critiche 🎯📋.

Principali vantaggi includono:

• ✅ Protocolli di autenticazione sicuri
• ✅ Controllo degli accessi basato su ruoli
• ✅ Funzionalità di registrazione delle attività di audit
• ✅ Integrazione con ecosistemi IT esistenti

Caratteristiche e Funzionalità Principali

• Interfaccia Web Avanzata: Esperienza di chat intuitiva accessibile direttamente tramite il Suo browser.
• Capacità API Potenziate: Gestione migliorata dei contesti di chat e integrazione semplificata con applicazioni esterne.
• Utilizzo Ottimizzato dei Modelli: Modelli pre-installati pronti per l'uso immediato.
• Ambiente Integrato: Ambiente completamente pre-configurato con impostazioni delle porte e configurazioni necessarie.
• Sicuro e Personalizzabile: Configurazione semplice per credenziali sicure e impostazioni specifiche dell’utente.

Installazione

Basta aggiungere il template «OpenWebUI & Ollama» al Suo Trooper.AI GPU Server e l’installazione avviene completamente automaticamente. Se lo desidera, può anche scaricare direttamente un modello LLM da ollama.com. Può configurare tutto ciò nel dialogo di Configurazione del Template.

Ma naturalmente Lei può comunque scaricare i modelli tramite l’OpenWebUI dopo l’installazione.

Opzioni aggiuntive:

• Aggiornamenti Installati:
  Questa opzione recupera la versione più recente di Ollama e OpenWebUI. Utilizzi questa funzione solo se necessario e assicuri sempre di verificare tutto successivamente.
  Naturalmente, può anche eseguire il recupero manuale tramite terminale, ma ricordi di installare anche le dipendenze.
  Questa funzione gestisce tutto per Lei — comoda e automatizzata!

• Attiva Controllo Salute:
  Imposti questo su sì per abilitare un controllo di salute che assicura che il servizio Ollama sia in esecuzione e risponda tramite la sua API interna.
  Se non è così, il controllo di salute riavvia automaticamente il servizio.
  Lo script si trova in /usr/local/bin/ollama-health.sh, e il servizio può essere gestito con:
  sudo service ollama-health stop/start/status.
  Questo è particolarmente utile per i server di produzione.

Accedere a OpenWebUI

Dopo aver distribuito la Sua istanza del server Trooper.AI con il template OpenWebUI & Ollama, acceda tramite il Suo URL sicuro:

🔒 https://your-secure-hostname.trooper.ai

Oppure clicchi sul numero di porta accanto al modello OpenWebUI Template:

Al primo accesso, Lei configurerà le credenziali di login iniziali. Assicuri che queste vengano conservate in modo sicuro, poiché saranno necessarie per gli accessi successivi.

Casi d'uso consigliati

Il template OpenWebUI & Ollama è ideale per:

• Collaborazione di squadra tramite AI chat
• Deploy di AI-assistenti personali
• Sviluppo rapido e prototipazione di applicazioni AI conversazionali
• Utilizzo dell'API e sviluppo/connesione di agenti come alternativa all'API di OpenAI
• Scopi educativi e attività di ricerca

LLM che Lei dovrebbe provare

A nostro parere – ecco alcuni modelli per cominciare:

• GPT-OSS: Modello open-weight di OpenAI, adatto al ragionamento, compiti agentici e sviluppo. Funziona efficacemente su istanze Explorer, Conqueror (16 GB VRAM) e Sparbox (24 GB VRAM). https://ollama.com/library/gpt-oss:20b
• DeepSeek-R1: Un modello ad alte prestazioni di ragionamento aperto, comparabile a O3 e Gemini 2.5 Pro. Ottimizzato per macchine StellarAI con 48 GB di VRAM. https://ollama.com/library/deepseek-r1:70b
• Gemma 3: Attualmente uno dei modelli più performanti per l’utilizzo su singola GPU. Alimenta James di Trooper.AI su istanze Sparbox. https://ollama.com/library/gemma3:27b

Trovi più LLMs qui: https://ollama.com/search (Questi sono tutti compatibili con OpenWebUI!)

Considerazioni tecniche

Requisiti di sistema

Assicuri che l’utilizzo di VRAM del modello non superi l’85% della capacità per evitare una significativa degradazione delle prestazioni.

• VRAM GPU consigliata: 24 GB
• Spazio di archiviazione: almeno 180 GB disponibili

Ambiente preconfigurato

• Ollama e OpenWebUI sono preinstallati e completamente integrati.
• Le impostazioni dei Port e tutte le configurazioni necessarie sono già stabilite, senza richiedere ulteriori operazioni manuali.
• Le cartelle di installazione e le variabili d'ambiente sono predefinite per un utilizzo immediato.

Persistenza dei dati

Tutte le interazioni di chat, le configurazioni del modello e le impostazioni dell’utente persistono in modo sicuro sul Suo server.

Collegamento tramite API compatibile con OpenAI

OpenWebUI offre un'interfaccia API compatibile con OpenAI, consentendo un'integrazione fluida con strumenti e applicazioni che supportano il formato OpenAI. Ciò permette agli sviluppatori di interagire con modelli auto-ospitati come llama3 come se stessero comunicando con l’OpenAI API ufficiale — ideale per integrare l’intelligenza artificiale conversazionale nei Suoi servizi, script o flussi di automazione.

Primi passaggi: Preparazione

L'API è abilitata per impostazione predefinita, ma verifichi nella configurazione del modello:

Successivamente, abiliti la creazione di chiavi API per tutti gli utenti:

Poi vada su Gruppo e Gruppo Predefinito, attivi la creazione di API Key, clicchi su Salva:

Questo attiverà l’Endpoint:

Di seguito sono riportati due esempi funzionanti: uno che utilizza Node.js e l'altro che utilizza curl.

Esempio con Node.js

const axios = require('axios');

const response = await axios.post('https://your-secure-hostname.trooper.ai/api/chat/completions', {
  model: 'llama3',
  messages: [{ role: 'user', content: 'Hello, how are you?' }],
}, {
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_API_KEY'
  }
});

console.log(response.data);

Assicuri che le chiamate all'API utilizzino /api/... invece che /v1/... poiché questo è il formato richiesto per OpenWebUI.

Esempio di richiesta cURL

curl https://your-secure-hostname.trooper.ai/api/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "llama3",
    "messages": [
      { "role": "user", "content": "Hello, how are you?" }
    ]
  }'

Sostituisca YOUR_API_KEY con il token effettivo generato nell'interfaccia di OpenWebUI sotto Utente → Impostazioni → Account → Chiavi API. Non acceda al pannello amministrativo, l'accesso API è specifico per l'utente! Veda qui:

Dopo questo vada qui:

Può utilizzare questo API con strumenti come LangChain, N8N, FlowWise, NodeJS-OpenAI, LlamaIndex o qualsiasi base di codice che supporta la specifica dell’OpenAI API.

Aggiornamento di OpenWebUI

Lei può semplicemente cambiare la versione del Suo OpenWebUI. Attenzione, i downgrade possono danneggiare il Suo database! Proceda sempre con aggiornamenti o contatti il supporto.

Visionare tutte le release su GitHub qui: https://github.com/open-webui/open-webui/releases

Se Lei non desidera aggiornare tramite il sistema di template, può eseguire in qualsiasi momento i seguenti comandi per aggiornare sia OpenWebUI che Ollama:

# Update OpenWebUI:
# 1. Zum OpenWebUI-Verzeichnis wechseln
cd /home/trooperai/openwebui
 
# 2. Repository aktualisieren
git pull
 
# 3. Frontend-Abhängigkeiten installieren und neu bauen
npm install
npm run build
 
# 4. Backend: Python-Venv aktivieren
cd backend
source venv/bin/activate
 
# 5. Pip aktualisieren & Abhängigkeiten neu installieren
pip install --upgrade pip
pip install -r requirements.txt -U
 
# 6. OpenWebUI systemd-Dienst neu starten
sudo systemctl restart openwebui.service
 
# (optional) Update Ollama:
curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl restart ollama.service

Disattivi OpenWebUI

Se desidera risparmiare un po’ di VRAM, può disabilitare OpenWebUI come segue:

sudo systemctl disable --now openwebui.service

Per riattivare OpenWebUI, esegua tramite Terminal:

sudo systemctl enable --now openwebui.service

Assistenza e Documentazione Ulteriore

Per assistenza all'installazione, supporto alla configurazione o risoluzione dei problemi, La preghiamo di contattare direttamente il supporto di Trooper.AI:

• E-mail: [email protected]
• WhatsApp: +49 6126 9289991

Risorse aggiuntive e guide di configurazione avanzata:

• OpenWebUI Repositorio GitHub
• Documentazione Ufficiale di Ollama