Jupyter Notebook

Panoramica del Template di Jupyter Notebook

Una volta distribuito, Jupyter Notebook viene eseguito come servizio di sistema sotto l’utente non-root trooperai trooperai. Il servizio è sempre disponibile dopo il riavvio e non richiede alcuna riattivazione manuale. Potrà iniziare a lavorare immediatamente tramite l'interfaccia basata sul browser.

Caratteristiche principali

• Ambiente Python preinstallato usando virtualenv
• Supporto integrato GPU con installazione opzionale di CUDA/cuDNN
• Directory di lavoro persistente ubicato in /home/trooperai
• Avvio basato su servizio: Jupyter viene eseguito come servizio di sistema e si avvia automaticamente
• Accesso con Token o senza Token per una sicurezza semplificata
• Caricamento file semplice e immediato nel Suo GPU Server Blib
• Terminale SSH nel Suo browser web con sessioni concorrenti multiple

Accedere a Jupyter Notebook

Dopo il deployment, il Suo GPU Server Blib assegna automaticamente una porta pubblica disponibile. Per accedere a Jupyter Notebook, apra il Suo browser e rechi in:

http://your-hostname.trooper.ai:assigned-port

Troverà il numero della porta assegnata accanto al modello nei dettagli della Sua macchina presso james.trooper.ai . Veda qui:

Dopo aver cliccato sulla porta, una nuova finestra del browser si aprirà mostrando l'elenco dei file della cartella home o dello spazio di lavoro:

Se l’autenticazione tramite token è abilitata, l’interfaccia richiederà un token al primo accesso. Altrimenti, il notebook sarà disponibile direttamente. Di solito questo token viene aggiunto automaticamente all’URL, quindi non dovrà preoccuparsi dell’authentificazione. Potrà modificare o reimpostare il token nella Template Configuration.

Jupyter apre la seguente directory come workspace principale:

/home/trooperai

Può modificare questo nella Template Configuration, veda qui:

Le raccomandiamo la cartella home dell’utente (predefinita) o /workspace.

Inoltre Lei può attivare l’esecuzione automatica di onstart.sh nella Sua cartella di lavoro all'avvio della macchina per avviare la Sua app.

Verifica GPU e supporto CUDA

Il template include un notebook denominato gpu_check.ipynb Per verificare la disponibilità della GPU e l'impostazione di TensorFlow. Inoltre installa tutti gli strumenti necessari per l'utilizzo di CUDA in Python.

Esempio di contenuto di gpu_check.ipynb:

!nvidia-smi
!pip install tensorflow[and-cuda]

import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'
os.environ['TF_FORCE_GPU_ALLOW_GROWTH'] = 'true'

import tensorflow as tf
print("TF Version:", tf.__version__)
print("GPU-Cards:", tf.config.list_physical_devices('GPU'))

Lei può estendere questo per utilizzare altri framework come PyTorch o JAX.

Terminale nel Browser

Lei può semplicemente collegare una sessione di terminale in Jupyter Notebook che è persistente fino al riavvio! Che comodità! Anche se chiude il browser, il terminale rimane lì in esecuzione con ciò che desidera. Molto utile. Vada su FILE > NUOVO Terminal come qui:

Vedrà una finestra di terminale con shell interattivo come in questa immagine:

Utilizziamo spesso questa funzione per verificare rapidamente qualcosa sulla macchina GPU.

Queste sessioni di terminale continuano ad essere attive anche se chiude il Suo browser – non è necessario utilizzare strumenti come nohub per mantenere i processi in esecuzione. Inoltre, tutto l’output viene salvato, rendendo la prototipazione più semplice senza perdere informazioni preziose.

Casi d'uso consigliati

• Esplorazione e visualizzazione dei dati
• Prototipazione di deep learning e machine learning
• flussi di lavoro di training alimentati da GPU
• Insegnamento e laboratori
• Caricare e scaricare file sul GPU Server

Guida all'importazione e all'installazione

Se Lei ha bisogno di installare librerie aggiuntive nel Suo Jupyter Notebook, utilizzi semplicemente il !pip install comando come questo:

Questo controlla sempre se tutto è installato e, in caso contrario, provvede all'installazione.

Importante: Assicurati sempre di installare Tensorflow con CUDA come segue: !pip install tensorflow[and-cuda]. Altrimenti non funzionerà con la GPU.

Ha ricevuto avvisi?

Ci sono sempre alcuni avvisi colorati di rosso in Jupyter Notebook. Questi di solito non sono un problema. Veda qui:

Lei dovrebbe esaminare il messaggio e verificare se un avviso riguarda l’utilizzo della GPU e accertarsi che non stia riducendo le prestazioni. Può anche disattivare gli avvisi, ma ciò dipende dalla libreria e talvolta risulta difficile. Raccomandiamo di ignorarli semplicemente.

Dettagli del sistema

Configurazione predefinita

• Interfaccia Jupyter Notebook su una porta assegnata automaticamente
• Ambiente virtuale Python in ~/jupyter-notebook/venv
• Cartella di lavoro: /home/trooperai
• Si avvia automaticamente dopo il riavvio

Stack GPU opzionale

Se la Sua istanza ha installato CUDA, Jupyter rileverà automaticamente il supporto per GPU. Sono disponibili CUDA 12.8 e cuDNN 9.8 con compatibilità TensorFlow.

Q&A

❓ Come posso installare sia PyTorch che TensorFlow con supporto per GPU utilizzando pip?

✅ Risposta:

Lei dovrebbe installare TensorFlow e PyTorch separatamente per evitare conflitti di dipendenze CUDA. Ecco il metodo consigliato utilizzando pip:

# Install TensorFlow with GPU support
!pip install tensorflow[and-cuda]

# Then install PyTorch with CUDA 11.8 (example)
!pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

Non combinare entrambi in un singolo comando pip come questo:

# ❌ Not recommended — may cause conflicts!
!pip install torch tensorflow[and-cuda]

Invece, installi li separatamente, nell'ordine corretto.

Dopo l'installazione, verifichi la disponibilità della GPU all'interno del Suo notebook:

import torch, tensorflow as tf

print("Torch CUDA:", torch.cuda.is_available())
print("TF GPUs:", tf.config.list_physical_devices('GPU'))

❓ Come installa pacchetti tramite pip tramite terminale per utilizzarlo nel Jupyter Notebook?

✅ Risposta:

Il Suo Jupyter Notebook è stato configurato utilizzando un ambiente virtuale dedicato Python virtual environment! Pertanto, deve eseguire pip da quell'ambiente nel terminale. Ad esempio:

/home/trooperai/jupyter-notebook/venv/bin/pip install tensorflow[and-cuda]

Per attivare l'ambiente e installare interattivamente:

source /home/trooperai/jupyter-notebook/venv/bin/activate
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

Dopo l'installazione, riavvii il Suo notebook kernel per rendere disponibili i nuovi pacchetti.

Assistenza

Per assistenza all'installazione, recupero del token o risoluzione di problemi nello spazio di lavoro, contatti:

• E-mail: [email protected]
• WhatsApp: +49 6126 9289991