Server GPU Blibs

1. Accesso e Panoramica

Dopo aver effettuato l’accesso a https://james.trooper.ai/manage , Lei si trova di fronte a una lista di Blib attivi e congelati. Ogni voce del server include le seguenti informazioni:

• Nome del Blib e stato (in esecuzione, fermato, congelato), legga di più: Elenco Stati dei Blib
• Configurazione GPU (es. 1× RTX 3090, 2× A100)
• CPU e memoria (es. 12 core, 86 GB RAM)
• Capacità NVMe SSD
• Nome host assegnato (ad es. connect01.trooper.ai)
• Intervallo di porte pubbliche allocato (TCP, UDP facoltativo)
• Software installato Modelli (es. Jupyter Notebook, Modello ComfyUI per GPU Server Blibs)
• Accesso sicuro HTTPS, legga di più: 🌍 HTTPS Access (Come accedere al Suo Blib tramite SSL)
• Driver per GPU
• Backup e Ripristini istantanei
• 🛡️ Firewall di livello rete personalizzabile di Trooper.AI
• Console di emergenza VNC
• Utilizzi facilmente le chiavi SSH, Fail2Ban e gli Insight sulle Connessioni tramite: Security Tools by Trooper.AI

La temperatura del sistema e i periodi di fatturazione vengono visualizzati dove applicabile.

2. Creazione e Avvio di una Macchina

Per distribuire un nuovo GPU Server Blib:

1. Acceda alla sezione Order GPU Server oppure utilizzi la funzione Crea Nuova Macchina nel cruscotto.
2. Selezioni la configurazione del server desiderata (ad es. sparbox.m1, infinityai.m2).
3. Facoltativamente, scegli uno o più modelli da preinstallare:
   • Jupyter Notebook
   • OpenWebUI & Ollama
   • ComfyUI Template per GPU Server Blibs
4. Confermi la selezione e accetti i termini.
5. Avviare la macchina.

La configurazione della macchina solitamente richiede 1-5 minuti, a seconda del server scelto da Lei. Successivamente, il sistema installerà i driver e gli strumenti di monitoraggio, operazione che può richiedere altri 2-10 minuti in base alla velocità dello specchio APT esterno. Durante questo processo, potrà verificarsi un riavvio automatico poiché vengono configurati i driver della GPU.

🚫 Software di Gestione del Server: Non installare un software di gestione del server come Dokploy, CapRover, Plesk ecc. Questo non funzionerà su un {{N}}GPU Server{{/N}}. Questi tipi di strumenti sono pensati esclusivamente per i {{N}}Web Server{{/N}} di Lei!

🚫 Downgrade dei driver per schede Blackwell: Ai sensi dei nostri termini di servizio, non modificare i driver per le schede Blackwell (50xx, RTX Pro xx00) sulla Sua macchina INFERIORE alla versione 580-server-open. Un downgrade del driver potrebbe causare instabilità del sistema e potenziali interruzioni del servizio. Il Suo server rimarrà fermo fino a quando il problema non sarà risolto. Nessun rimborso. La compatibilità all'indietro di CUDA elimina la necessità di versioni di driver più vecchie.

Prezzi correnti dei nostri GPU Server:

** La tariffa promozionale riflette lo sconto massimo disponibile tramite opzioni di budget prepagato. Attualmente +15% Extra Credits! Vedere la funzione «Add Budget» per i dettagli.

Ordini ora

3. Interruzione, Congelamento, Ripristino e Termine dei GPU Server Blibs

Trooper.AI (Introduzione del Servizio) offre opzioni flessibili di ciclo di vita per ogni Blib:

Stati operativi:

• Avvia: Avvia la macchina.
• Arresta: Ferma la macchina. Le risorse (GPUs, CPU Cores, RAM) rimangono allocate e l’istanza può essere riavviata in pochi secondi.

Stati opzionali:

• Freeze: La macchina viene archiviata e l’allocazione delle risorse viene rilasciata. Il tempo di avvio può variare e potrebbe essere necessario il riassignmento delle porte. Si consiglia di utilizzare lo stato stopped se sono necessari tempi di avvio prevedibili! FREEZING NON È CONSIGLIATO PER CLIENTI AZIENDALI A CAUSA DI CAMBIAMENTI DELLE PORTE E TEMPI PIÙ LUNGHI DI INACCESSIBILITÀ!
• Ripristina: Elimina tutti i dati sulla macchina e reinstallerà la configurazione iniziale. I Ports potrebbero cambiare. Il modello e la velocità della CPU potrebbero variare. Il Suo prezzo rimane invariato. TUTTI I DATI ANDRANNO PERDUTI! Questa azione non può essere annullata.
• Terminate: Elimina permanentemente il server e tutti i dati ad esso associati. Questa azione non può essere annullata.

Legga di più: Elenco dello stato dei Blibs

Tutte le azioni del ciclo di vita sono accessibili tramite il menu contestuale nel cruscotto.

4. Gestione dei template

I template software possono essere selezionati durante la creazione della macchina o installati successivamente. I template installano automaticamente le dipendenze, configurano i servizi e aprono le porte richieste.

Modelli comuni includono:

• Jupyter Notebook
• OpenWebUI & Ollama
• Modello ComfyUI per macchine GPU Server Blibs
• Ubuntu Desktop e Accesso RDP
• Framepack
• Any Docker
• ... e molti altri Modelli preconfigurati

È possibile combinare più template secondo necessità su un server blib.

5. Accesso alla rete pubblica

Ogni Blib Le viene assegnata una gamma dedicata di porte TCP pubbliche (tipicamente 10–40 porte NAT aperte 1:1). Queste sono accessibili tramite l'hostname assegnato (ad es. connectXX.trooper.ai) e vengono visualizzati nel dashboard.

Limiti di Connessione (Outbound):
Per garantire la stabilità della piattaforma e prevenire abusi o workload mal configurati che generino traffico esterno eccessivo, tutti i Blibs sono soggetti a limiti di velocità outbound e limiti di tracciamento delle connessioni per macchina. Ciò include:

• Numero massimo di connessioni uscenti concorrenti (2048 per GPU)
• Limite di rate su TCP SYN (nuove connessioni in uscita)
• Limite di tasso di pacchetti UDP (stato NEW)
• limitazione della velocità ICMP

Se la Sua macchina supera queste soglie, il traffico in uscita aggiuntivo potrebbe essere temporaneamente bloccato o rifiutato dallo strato di instradamento.

Gestione Timeout:
Per motivi di sicurezza, le connessioni a lunga durata potrebbero essere periodicamente chiuse dal nostro sistema di instradamento. Le raccomandiamo di implementare una gestione robusta della riconnessione e dei Timeout all'interno del Suo software per garantire il funzionamento continuo.

Traffico UDP (Facoltativo):
Il traffico UDP non è abilitato per impostazione predefinita. Potrà abilitare l’accesso UDP per il Suo Blib tramite le Firewall Rules se necessario. Le raccomandiamo di assicurarsi che la Sua applicazione sia progettata per gestire in modo sicuro l’esposizione UDP.

Per informazioni dettagliate sull’accesso al Suo Blib, si prega di fare riferimento alla seguente documentazione:

• Accesso SSH (inclusi Trasferimenti File)
• Accesso RDP
  • opzionale: Accesso in tempo reale con NoMachine
• 🌍 Accesso HTTPS (Come accedere al Suo Blib tramite SSL)
• Informazioni sugli Certificati SSL
• 🛡️ Firewall di livello rete personalizzabile di Trooper.AI

6. Monitoring e Informazioni di Sistema

L'interfaccia di gestione offre le seguenti funzionalità di monitoraggio in tempo reale:

• Visualizzazione temperatura CPU e GPU
• Informazioni sul traffico di rete
• Utilizzo delle risorse (CPU, RAM, GPU)
• Stato e versione del template
• Disponibilità e stato del ciclo di vita

7. Comportamento in caso di credito insufficiente

I Blibs operano con un sistema di credito prepagato. Se il saldo prepagato è esaurito:

• La macchina viene automaticamente arrestata e potrebbe essere congelata.
• Se il saldo non viene reintegrato entro 72 ore, la macchina e tutti i dati ad essa associati potrebbero essere cancellati in modo permanente.

Nota: I Servers non accumuleranno addebiti senza credit disponibile. Tuttavia, le risorse GPU non sono garantite a meno che il balance sia sufficiente.

8. Modelli contrattuali e utilizzo delle risorse

• Tutte le macchine con GPU includono 5 TB di traffico mensile per GPU. Ad esempio, una macchina 2-GPU include 10 TB.
• Se l’utilizzo supera questo limite morbido, la banda larga può essere ridotta o possono essere applicate ulteriori addebite.
• Sconti sono disponibili per contratti settimanali, mensili e annuali.
• Contratti annuali e opzioni di fatturazione aziendale sono disponibili su richiesta.

10. Assistenza

Per problemi tecnici o richieste di provisioning personalizzato, La preghiamo di contattarci:

• E-mail: [email protected]
• WhatsApp: +49 6126 9289991

11. Migrazione / Upgrade dei Blibs

Elevare il Suo GPU Server esistente a una configurazione più potente è una cosa eccellente su Trooper.AI e molto unica per noi. Questo Le consente di passare senza soluzione di continuità a hardware più potente senza perdere la Sua configurazione o i dati esistenti.

Durante la migrazione, il Suo GPU Server sarà temporaneamente congelato. Vedrà solo configurazioni con risorse migliori o uguali disponibili. Potrebbe applicarsi una tariffa per il servizio di migrazione più i costi aggiuntivi del periodo residuo, come visualizzati durante il processo. La capacità di archiviazione NVMe non può essere ridotta; pertanto, le migrazioni richiedono la selezione di una configurazione target con capacità di archiviazione uguale o maggiore.

I {{Ports}} potrebbero cambiare.

Semplicemente selezioni «Migra a Blib migliore» dal menu a tendina Azioni della Sua macchina.

12. Architettura focalizzata su Bare Metal GPU

I Blib utilizzano un'architettura ibrida, che combina risorse dedicate bare-metal con componenti virtualizzati:

Questo approccio garantisce il 100% del potenziale prestazionale della GPU, CPU e RAM, sfruttando la flessibilità dello storage virtualizzato NVMe e della rete per una gestione semplificata delle risorse, backup affidabili e sicurezza migliorata.

Lei trae inoltre vantaggio dal pieno controllo sui driver NVIDIA, moduli del kernel e gestione dei pacchetti APT. Questo rende il Suo GPU Server Blib una macchina AI affidabile e scalabile per l’uso quotidiano e ambienti produttivi.