Qdrant

Qdrant er en vektorlighedssøgemaskine designet til at accelerere AI- og maskinlæringsarbejdsgange. Den er særligt kraftfuld, når den kombineres med dedikeret GPU-serverinfrastruktur som den, der tilbydes af Trooper.AI, hvilket muliggør hurtig prototypering og implementering af komplekse AI-løsninger.

Dashboard of Qdrant
Qdrant dashboard

Qdrant udmærker sig ved at finde de mest lignende vektorer til en given forespørgselsvektor, hvilket gør det ideelt til applikationer som semantisk søgning, anbefalingssystemer og billed-/videohindring.

Hvorfor Qdrant med GPU-servere?

Traditionelle databasesystemer kæmper med den høje dimensionalitet og komplekse lighedsberegninger, der er iboende i vektorembeddings. Qdrant, optimeret til vektordata, kombineret med GPU'ernes parallelle processorkraft, leverer betydelige præstationsforbedringer. En Trooper.AI GPU-server leverer den nødvendige processorkraft til at håndtere storskala vektordatasets og levere søgeresultater med lav latenstid.

GPU-acceleration er aktiveret som standard inden for vores forkonfigurerede Qdrant-skabelon, hvilket sikrer optimal ydeevne for dine søgninger.

Anvendelseseksempler

Her er nogle specifikke use cases, hvor Qdrant, drevet af Trooper.AI GPU-servere, excellerer:

  • Semantisk Søgning: I stedet for søgning efter nøgleord giver Qdrant dig mulighed for at søge efter dokumenter eller indhold baseret på deres betydningIndlejringer indfanger den semantiske essens af tekst, og Qdrant finder de mest semantisk lignende resultater. For eksempel vil søgning efter 'måder at forbedre modelnøjagtigheden' returnere resultater, der diskuterer regularisering, hyperparameteroptimering og dataforøgelse, selvom disse nøjagtige nøgleord ikke er til stede.
  • Anbefalingssystemer: Repræsentér brugere og varer som vektorer. Qdrant kan hurtigt identificere varer, der ligner dem, en bruger tidligere har interageret med, og dermed levere personlige anbefalinger. Dette er anvendeligt inden for e-handel, streaming af indhold og mere.
  • Billede- og videohhentning: Uddrag embeddings fra billeder og videoer ved hjælp af modeller som CLIP. Qdrant muliggør søgning efter visuelt lignende indhold. Forestil dig at søge efter “en kat, der leger med en bold” og hente relevante billeder og videoer, selvom de ikke har de præcise tags.

API

Her er et eksempel på en typisk API-workflow med Qdrant, efterfulgt af et Python-eksempel til at forespørge efter lignende vektorer:

Normal API-workflow med Qdrant:

  1. Godkendelse: De fleste Qdrant-implementeringer kræver en API-nøgle til godkendelse. Denne nøgle skal medtages i Authorization header på dine anmodninger.
  2. Endepunktvalg: Qdrant eksponerer forskellige endpoints til forskellige operationer såsom søgning, upserting (tilføjelse) af vektorer og administration af collections.
  3. Anmodningsformatering: Data sendes og modtages typisk i JSON-format.
  4. Svarhåndtering: API'en returnerer JSON-svar, der indeholder resultaterne af din anmodning, eller fejlmeddelelser, hvis der opstår et problem.

Her er et eksempel på et Python-kald til Qdrant for at søge efter lignende vektorer:

python
import requests
import json
import numpy as np

# Qdrant API endpoint and collection name
QDRANT_API_URL = "https://SECURE-TROOPER-APP-URL"  # Replace with your Qdrant endpoint
QDRANT_COLLECTION_NAME = "my_collection"

# Your API Key
API_KEY = "YOUR_QDRANT_API_KEY" # Replace with your Qdrant API key

# Payload for the search request
payload = {
    "vectors": (np.random.rand(128).tolist()),  # Replace with your query vector
    "limit": 10  # Number of results to return
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

try:
    response = requests.post(f"{QDRANT_API_URL}/collections/{QDRANT_COLLECTION_NAME}/search",
                             headers=headers,
                             data=json.dumps(payload))

    response.raise_for_status()  # Raise HTTPError for bad responses (4xx or 5xx)

    results = response.json()
    print(json.dumps(results, indent=2))

except requests.exceptions.RequestException as e:
    print(f"Error: {e}")
    print(f"Response text: {response.text}")
except Exception as e:
    print(f"An unexpected error occurred: {e}")

Dette eksempel demonstrerer forespørgsel af Qdrant for lignende vektorer. Husk at erstatte "https://SECURE-TROOPER-APP-URL", "my_collection", "YOUR_QDRANT_API_KEY" og eksempelvektoren med dit faktiske Qdrant-slutpunkt, samlingsnavn, API-nøgle og forespørgselsvektor. Se Qdrant API-dokumentationen for flere slutpunkter og funktionaliteter: https://qdrant.tech/documentation/ .

Qdrant Dashboard

Dashboard Startscreen
Dashboard Startside

Qdrant leverer en brugervenlig web-dashboard til at administrere dine vektorer og samlinger. Dashboardet giver dig mulighed for:

  • Visualiser Vektordata: Udforsk dine vektorer i et højdimensionelt rum ved hjælp af scatter plots og andre visualiseringer.
  • Administrer Samlinger: Opret, rediger og slet samlinger for at organisere dine vektordata.
  • Søg og Filtrer: Udfør hurtige søgninger og anvend filtre for at finde specifikke vektorer.
  • Overvåg Ydelse: Overvåg nøglemålinger som forespørgselstræthed og ressourceforbrug.
  • Inspicer Vektorer: Se detaljerede oplysninger om individuelle vektorer, inklusive deres indlejringer og nyttelast.

Sådan får du adgang til dashboardet

Du kan få adgang til Qdrant-dashboardet via din Qdrant-implementerings webinterface.

Tilføj /dashboard til din API-URL for at få adgang til den.

Se Qdrant-dokumentationen for detaljerede instruktioner om, hvordan du får adgang til og bruger dashboardet: https://qdrant.tech/documentation/ Ved at bruge dashboardet sammen med en Trooper.AI GPU-server sikres en jævn og responsiv oplevelse, når du arbejder med store vektor datasæt.