Notatnik Jupyter

Ten szablon zapewnia gotowe do użycia środowisko Jupyter Notebook z obsługą GPU, zainstalowane na Twoim serwerze Trooper.AI. Został zaprojektowany, aby zapewnić płynne działanie, w tym przepływy pracy związane z nauką o danych, tworzeniem modeli AI, prototypowaniem i obliczeniami z obsługą CUDA.

Example of user interface
Przykład interfejsu użytkownika

Przegląd szablonu Jupyter Notebook

Po wdrożeniu, Jupyter Notebook uruchamia się jako usługa systemowa pod użytkownikiem innym niż root. trooperaiUsługa jest zawsze dostępna po ponownym uruchomieniu i nie wymaga ręcznej reaktywacji. Możesz natychmiast rozpocząć pracę za pośrednictwem interfejsu przeglądarkowego.

Główne cechy

  • Wstępnie zainstalowane środowisko Pythona za pomocą virtualenv
  • Zintegrowane wsparcie dla GPU z opcjonalną instalacją CUDA/cuDNN
  • Trwały katalog roboczy zlokalizowany pod ścieżką /home/trooperai
  • Uruchamianie jako usługa: Jupyter działa jako usługa systemowa i automatycznie się uruchamia
  • Dostęp z użyciem tokena lub bez niego dla uproszczonej bezpieczeństwa
  • Prosty w użyciu przesył plików do Twojego serwera GPU Blib
  • Terminal SSH w przeglądarce z wieloma sesjami równoległymi

Dostęp do Jupyter Notebook

Po wdrożeniu, Twój serwer GPU Blib automatycznie przypisuje dostępny port publiczny. Aby uzyskać dostęp do Jupyter Notebook, otwórz przeglądarkę i przejdź do:

bash 
http://your-hostname.trooper.ai:assigned-port

Znajdziesz przypisany numer portu obok szablonu w szczegółach twojego serwera pod adresem james.trooper.ai. Zobacz tutaj:

How to find the port of Jupyter Notebook
Jak znaleźć port Jupyter Notebook

Po kliknięciu portu otworzy się nowe okno przeglądarki z listą plików katalogu domowego lub obszaru roboczego:

Example file list
Przykładowa lista plików

Jeśli włączona jest uwierzytelnianie tokenem, interfejs poprosi o token przy pierwszym dostępie. W przeciwnym razie notes będzie dostępny bezpośrednio. Zazwyczaj ten token jest automatycznie dodawany do adresu URL, więc nie musisz się martwić o uwierzytelnianie. Możesz zmienić lub zresetować token w Konfiguracji Szablonu.

Jupyter otwiera następujący katalog jako główny obszar roboczy:

bash 
/home/trooperai

Możesz to zmienić w Konfiguracji Szablonu, zobacz tutaj:

Template Configuration of Jupyter Notebook
Konfiguracja szablonu Jupyter Notebook

Polecamy folder domowy użytkownika (domyślnie) lub /workspace.

Możesz również aktywować automatyczne uruchamianie onstart.sh w Twoim folderze roboczym przy uruchomieniu serwera, aby uruchomić aplikację.

Weryfikacja GPU i obsługa CUDA

Szablon zawiera notes o nazwie gpu_check.ipynb aby zweryfikować dostępność GPU i konfigurację TensorFlow. Dodatkowo instaluje wszystkie niezbędne narzędzia do korzystania z CUDA w Pythonie.

Przykładowa zawartość gpu_check.ipynb:

python 
!nvidia-smi
!pip install tensorflow[and-cuda]

import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'
os.environ['TF_FORCE_GPU_ALLOW_GROWTH'] = 'true'

import tensorflow as tf
print("TF Version:", tf.__version__)
print("GPU-Cards:", tf.config.list_physical_devices('GPU'))

Możesz rozszerzyć to, aby korzystać z innych frameworków, takich jak PyTorch lub JAX.

Terminal w przeglądarce

Możesz prosto uruchomić sesję terminala w Jupyter Notebook, która jest trwała aż do restartu! Jak to świetnie? Nawet jeśli zamkniesz przeglądarkę, terminal dalej działa i wykonuje wszystko, co chcesz. Bardzo przydatne. Idź do PLIK > NOWY → Terminal jak tutaj:

New Terminal session
Nowa sesja terminala

Zobaczysz okno terminala z interaktywną powłoką jak to:

Terminal example
Przykład terminala

Często używamy tego, aby szybko sprawdzić coś na serwerze GPU.

Te sesje terminala kontynuują działanie, nawet jeśli zamkniesz przeglądarkę – nie ma potrzeby używania narzędzi takich jak nohub aby procesy działały w tle. Dodatkowo wszystkie dane wyjściowe są zapisywane, co ułatwia prototypowanie bez utraty cennych informacji.

Zalecane przypadki użycia

  • Eksploracja i wizualizacja danych
  • Prototypowanie uczenia głębokiego i uczenia maszynowego
  • Workflowy szkoleniowe oparte na GPU
  • Szkolenia i warsztaty
  • Przesyłaj i pobieraj pliki na serwer GPU

Import i pomoc w instalacji

Jeśli potrzebujesz zainstalować dodatkowe biblioteki w swoim Jupyter Notebook, po prostu użyj polecenia !pip install, na przykład: !pip install polecenie takie jak to:

Example install with PIP inside Jupyter Notebook
Przykład instalacji za pomocą PIP w Jupyter Notebook

Zawsze sprawdzi, czy wszystko jest zainstalowane, a jeśli nie, to to zrobi.

Ważne: Zawsze upewnij się, że instalujesz TensorFlow z obsługą CUDA w ten sposób:
!pip install tensorflow[and-cuda]. W przeciwnym razie nie będzie działał z kartą GPU.

Czy pojawiły się ostrzeżenia?

W Jupyter Notebook zawsze pojawiają się ostrzeżenia w kolorze czerwonym. Zazwyczaj nie stanowią one problemu. Zobacz tutaj:

Warnings are mostly okay
Ostrzeżenia zazwyczaj nie są problemem

Warto to sprawdzić i upewnić się, czy ostrzeżenie dotyczy użycia GPU i czy nie obniża wydajności. Można również wyłączyć ostrzeżenia, ale zależy to od biblioteki i czasami jest to trudne. Zalecamy pozostanie przy nich.

Szczegóły systemu

Konfiguracja domyślna

  • Interfejs Jupyter Notebook na automatycznie przypisanym porcie
  • Środowisko wirtualne Python ~/jupyter-notebook/venv
  • Katalog roboczy: /home/trooperai
  • Uruchamia się automatycznie po ponownym uruchomieniu

Opcjonalny stos GPU

Jeśli Twoja instancja ma zainstalowany CUDA, Jupyter automatycznie wykryje obsługę GPU. Dostępne są CUDA 12.8 i cuDNN 9.8 z kompatybilnością z TensorFlow.

Dostosowanie i skrypt uruchamiany przy starcie

Plik o nazwie onstart.sh jest zawarty w Twoim obszarze roboczym. Można go zmodyfikować, aby uruchamiać niestandardowe polecenia powłoki przy każdym uruchomieniu systemu. Aby go aktywować, skontaktuj się z działem wsparcia, aby włączyć wykonywanie skryptu onstart.

Q&A

❓ Jak zainstalować zarówno PyTorch, jak i TensorFlow z obsługą GPU używając pip?

✅ Odpowiedź:

TensorFlow i PyTorch należy zainstalować oddzielnie, aby uniknąć konfliktów zależności CUDA. Oto zalecany sposób korzystając z pip:

bash 
# Install TensorFlow with GPU support
!pip install tensorflow[and-cuda]

# Then install PyTorch with CUDA 11.8 (example)
!pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

Nie łącz obu w jedno polecenie pip, np.:

bash 
# ❌ Not recommended — may cause conflicts!
!pip install torch tensorflow[and-cuda]

Oddzielnie, w właściwej kolejności.

Po instalacji przetestuj dostępność GPU w swoim notatniku:

python 
import torch, tensorflow as tf

print("Torch CUDA:", torch.cuda.is_available())
print("TF GPUs:", tf.config.list_physical_devices('GPU'))

Example run of Pytorch and Tensorflow in Jupyter Notebook
Przykładowe uruchomienie Pytorch i Tensorflow w Jupyter Notebook

❓ Jak zainstalować pakiety przez pip przez terminal, aby użyć w Jupyter Notebook?

✅ Odpowiedź:

Twoje środowisko Jupyter Notebook zostało skonfigurowane z użyciem dedykowanego środowiska wirtualnego Python! Dlatego musisz uruchomić polecenie pip z tego środowiska przez terminal. Na przykład:

bash 
/home/trooperai/jupyter-notebook/venv/bin/pip install tensorflow[and-cuda]

Aby aktywować środowisko i zainstalować interaktywnie:

bash 
source /home/trooperai/jupyter-notebook/venv/bin/activate
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

Po instalacji uruchom ponownie jądro swojego notebooka, aby nowe pakiety były dostępne.

Wsparcie

W przypadku problemów z instalacją, odzyskiwaniem tokenów lub rozwiązywaniem problemów z obszarem roboczym, skontaktuj się z: