Qdrant

Qdrant er en vektorlighedssøgemaskine designet til at accelerere AI- og maskinlæringsarbejdsgange. Den er særligt kraftfuld, når den kombineres med dedikeret GPU-serverinfrastruktur som den, der tilbydes af Trooper.AI, hvilket muliggør hurtig prototypering og implementering af komplekse AI-løsninger.

Dashboard of Qdrant
Qdrant dashboard

Qdrant udmærker sig ved at finde de mest lignende vektorer til en given forespørgselsvektor, hvilket gør det ideelt til applikationer som semantisk søgning, anbefalingssystemer og billed-/videohindring.

Hvorfor Qdrant med GPU-servere?

Traditionelle databasesystemer kæmper med den høje dimensionalitet og komplekse lighedsberegninger, der er iboende i vektorembeddings. Qdrant, optimeret til vektordata, kombineret med GPU'ernes parallelle processorkraft, leverer betydelige præstationsforbedringer. En Trooper.AI GPU-server leverer den nødvendige processorkraft til at håndtere storskala vektordatasets og levere søgeresultater med lav latenstid.

GPU-beschleunigung er aktiveret som standard i vores forkonfigurerede Qdrant-skabelon og sikrer dermed optimal ydeevne til dine søgninger.

Anvendelseseksempler

Her er nogle specifikke use cases, hvor Qdrant, drevet af Trooper.AI GPU-servere, excellerer:

  • Semantisk søgning: I stedet for nøgleordsmatchning tillader Qdrant dig at søge efter dokumenter eller indhold baseret på deres betydning. Embeddings fanger den semantiske kerne i teksten, og Qdrant finder de mest semantisk lignende resultater. For eksempel vil en søgning efter «måder at forbedre modellens nøjagtighed» returnere resultater om regulering, justering af hyperparametre og datastørrelse, selvom disse præcise nøgleord ikke er til stede.
  • Anbefalingssystemer: Fremstil brugere og genstande som vektorer. Qdrant kan hurtigt identificere genstande lignende dem, en bruger tidligere har interageret med, og give personlige anbefalinger. Dette er relevant for e-handel, streamingtjenester og meget mere.
  • Billede og videoopslag: Træk trækkemodeller fra billeder og videoer ved hjælp af modeller som CLIP. Qdrant gør det muligt at søge efter visuelt lignende indhold. Forestil dig, du søger på "en kat der leger med en bold" og får relevante billeder og videoer frem – selvom de ikke har disse præcise tag.

API

Her er et eksempel på en typisk API-workflow med Qdrant, efterfulgt af et Python-eksempel til at forespørge efter lignende vektorer:

Standard API-arbejdsgang med Qdrant:

  1. Autentificering: De fleste Qdrant-implementeringer kræver en API-nøgle til autentificering. Denne nøgle skal inkluderes i Authorization-headeren af dine anmodninger.
  2. Valg af endpoint: Qdrant tilbyder forskellige endpoints til operationer som søgning, opsætning (tilføjelse) af vektorer og administration af samlinger.
  3. Dataformatering: Data sendes og modtages typisk i JSON-format.
  4. Håndtering af respons: API'et returnerer JSON-responser med resultaterne af din anmodning eller fejlmeddelelser, hvis der sker noget galt.

Her er et eksempel på et Python-kald til Qdrant for at søge efter lignende vektorer:

python
import requests
import json
import numpy as np

# Qdrant API endpoint and collection name
QDRANT_API_URL = "https://SECURE-TROOPER-APP-URL"  # Replace with your Qdrant endpoint
QDRANT_COLLECTION_NAME = "my_collection"

# Your API Key
API_KEY = "YOUR_QDRANT_API_KEY" # Replace with your Qdrant API key

# Payload for the search request
payload = {
    "vectors": (np.random.rand(128).tolist()),  # Replace with your query vector
    "limit": 10  # Number of results to return
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

try:
    response = requests.post(f"{QDRANT_API_URL}/collections/{QDRANT_COLLECTION_NAME}/search",
                             headers=headers,
                             data=json.dumps(payload))

    response.raise_for_status()  # Raise HTTPError for bad responses (4xx or 5xx)

    results = response.json()
    print(json.dumps(results, indent=2))

except requests.exceptions.RequestException as e:
    print(f"Error: {e}")
    print(f"Response text: {response.text}")
except Exception as e:
    print(f"An unexpected error occurred: {e}")

Dette eksempel viser, hvordan man spørger Qdrant efter lignende vektorer. Husk at erstatte "https://SECURE-TROOPER-APP-URL", "my_collection", "YOUR_QDRANT_API_KEY" og eksemplet på vektor med din faktiske Qdrant-endpoint, samlingnavn, API-nøgle samt søgevæktor. Se i [Qdrant API-dokumentationen](https://qdrant.tech/documentation/) for flere endpoints og funktioner.

Qdrant Dashboard

Dashboard Startscreen
Dashboard Startside

Qdrant leverer en brugervenlig web-dashboard til at administrere dine vektorer og samlinger. Dashboardet giver dig mulighed for:

  • Visualiser vektordata: Udforsk dine vektorer i et højdimensionalt rum ved hjælp af spredningsdiagrammer og andre visualiseringer.
  • Administrer samlinger: Opret, ændr og slej samlinger for at organisere dine vektordata.
  • Søg og Filtrer: Udfør hurtige søgninger og anvend filtre for at finde specifikke vektorer.
  • Overvåg Ydeevne: Følg nøglemetrikker som spørgsmålslatens og ressourceforbrug.
  • Undersøg vektorer: Vis detaljeret information om enkeltvektorer, herunder deres embedding og payload.

Sådan får du adgang til dashboardet

Du kan få adgang til Qdrant-dashboardet via din Qdrant-implementerings webinterface.

Tilføj /dashboard til din API-URL for at få adgang til den.

Henvis til Qdrant-dokumentationen for detaljerede instruktioner om adgang og brug af dashboards: https://qdrant.tech/documentation/. Brug af dashboards i forbindelse med en Trooper.AI GPU-server sikrer en glat og responsiv oplevelse ved arbejde med store vektorbaserede datamængder.