🌍 Accesso HTTPS (Come accedere al Suo Blib tramite SSL)

🌐 Assegnazione porte pubbliche

Ogni GPU Server include porte TCP+UDP pubbliche assegnate automaticamente ai template e disponibili per app personalizzate. L'UDP deve essere attivato tramite il pannello di gestione solo se necessario.

URL diretta grezza:

http://connectXX.trooper.ai:PORT

Esempio visualizzato nella dashboard:

In questa visualizzazione:

• Intervalli di porte pubbliche
• Nomi host pubblici
• Nomi dei template
• Icona di lucchetto = disponibile HTTPS sicuro
• Info = collegamento alla documentazione
• Impostazioni = configurazione

🤖 Il port forwarding è un processo automatizzato con controlli integrati. La preghiamo di istruire il Suo AI Agent a concentrarsi sulla configurazione e l’associazione dei Ports, poiché il port forwarding funziona correttamente. Non sono possibili problemi di NAT se lo stato della Sua macchina è verde.

🚀 Accesso Diretto alle Porte Grezze (Opzione Veloce)

Assegni la Sua applicazione a 0.0.0.0 utilizzando una qualsiasi delle porte pubbliche assegnate:

Esempio Flask:

flask run --host=0.0.0.0 --port=11307

Esempio Gradio:

app.launch(server_name="0.0.0.0", server_port=11307)

Risultato:

http://connectXX.trooper.ai:11307

Questo approccio rimane disponibile per test rapidi e comodità interna. Le porte grezze non sono crittografate; legga di più per HTTPS.

🔐 HTTPS sicuro con Webproxy (Raccomandato)

Per ambienti di produzione, autenticazione, interfacce utente, embeddings, cruscotti di monitoraggio e utilizzo dell'API:

1️⃣ Eseguire l’app internamente su una porta interna sicura:

0.0.0.0:8080

2️⃣ Installare il Webproxy Template

3️⃣ Configuri:

• porta interna → porta dell’app (e.g. 8080)
• porta esterna Webproxy → selezionata durante l'installazione

4️⃣ HTTPS pubblico creato:

https://<token>.secure.trooper.ai

📌 Vantaggi:

• certificati SSL automatici
• supporto WebSocket
• routing interno esclusivo (percorso sicuro)
• nessuna configurazione di Nginx necessaria
• Non sono richiesti proxy inversi locali

Ogni modello include un Webproxy pre-configurato e sicuro con endpoint associato. Per esporre in modo sicuro applicazioni personalizzate ospitate sulla Sua macchina GPU, utilizzi il modello Webproxy: Web Proxy con SSL

⚠️ Uso delle porte 80 / 443

Collegamento diretto alle porte 80 or 443 Non è automaticamente esposta a Internet pubblica. Utilizzi il template Webproxy per stabilire endpoint HTTPS. L'installazione di certificati SSL personalizzati non è supportata. Il collegamento di domini personalizzati non è supportato. Le raccomandiamo di utilizzare la porta 8080 per la Sua applicazione, una scelta comunemente preferita tra gli sviluppatori.

Legga di più: Web Proxy with SSL

⏱️ Classi di Timeout del Proxy

Lo strato di instradamento HTTPS/Webproxy regola automaticamente il comportamento in base al tipo di traffico. Ciò garantisce che le chiamate interattive brevi rimangano veloci, mentre i lavori di AI/streaming mantengono la stabilità.

💡 Il proxy si regola dinamicamente se le condizioni di risposta cambiano. Esempio: Servire un file = automatico upgrade al timeout di download.

📝 Requisiti dell'applicazione

Per lo streaming con SSE/NDJSON

Invii il tipo di contenuto corretto:

• text/event-stream
• application/x-ndjson

Includere un output di heartbeat ogni 15–30 secondi.

Per WebSockets

Mantenga attivo il ping/pong (20–30s tipico).

Per i download

Assistenza Range richieste e stato 206. Add Content-Disposition: attachment quando necessario.

🧪 Test delle modalità di streaming

Esempio di richiesta SSE con curl:

curl -N -H "Accept: text/event-stream" https://<ssl-id>.secure.trooper.ai/api/stream

Esempio NDJSON:

curl -N -H "Accept: application/x-ndjson" https://<ssl-id>.secure.trooper.ai/generate

Esempio di download riprendibile:

curl -O -H "Range: bytes=0-" https://<ssl-id>.secure.trooper.ai/files/model.bin

🧪 Test di raggiungibilità delle porte

Interno:

ss -tlnp | grep :11307

Esterno:

curl http://connectXX.trooper.ai:11307

Le porte grezze richiedono solo:

• applicazione in esecuzione
• associazione 0.0.0.0
• utilizzo corretto della porta

🔁 Porte Pubbliche e Modelli

I Ports pubblici vengono assegnati automaticamente e visualizzati nel cruscotto accanto agli installazioni dei template.

Per i Suoi progetti personali, utilizzi:

8080→ Webproxy → HTTPS endpoint

🧯 Risoluzione dei problemi

Problemi comuni riscontrati durante l'impostazione di una connessione HTTPS pienamente funzionale sono spesso legati a semplici dettagli di configurazione.

❌ Non raggiungibile: verifichi il port e la binding
❌ Porta errata: usi solo le porte assegnate
❌ Nessun HTTPS: usi il modello Webproxy
❌ Firewall all'interno del container: disabilitare o regolare
❌ UDP non attivato: TCP è il nostro protocollo predefinito, attivi UDP tramite il cruscotto di gestione se Lei ha davvero bisogno di UDP
❌ Operazioni di calcolo lunghe: trasmetta l’output in streaming o utilizzi il formato SSE/NDJSON
❌ Tentativo di connessione con un dominio proprio: non supportiamo domini propri.

🧑‍💻 Esempio: FastAPI con Webproxy

App interna:

uvicorn.run("main:app", host="0.0.0.0", port=8080)

HTTPS pubblico:

https://<token>.secure.trooper.ai

Legga di più: Web Proxy with SSL

📎 Collegamenti utili

• Proxy Web con SSL
• Jupyter Notebook
• Accesso SSH (inclusi Trasferimenti File)
• Informazioni sugli Certificati SSL
• Contatti di Supporto