Elke Docker

Voorbeeld: Qdrant uitvoeren op een GPU-server

Qdrant is een hoogprestatie vector database die similarity search, semantische zoekopdrachten en embeddings op schaal ondersteunt.
Wanneer Qdrant wordt ingezet op een GPU-gestuurde Trooper.AI server, kan deze miljoenen vectoren extreem snel indexeren en doorzoeken – perfect voor RAG-systemen, LLM-geheugen, personalisatie-engines en aanbevelingssystemen.

De volgende handleiding laat zien hoe Qdrant via Docker uit te voeren, hoe het eruit ziet in het dashboard en hoe je het correct kunt bevragen Node.js.

De Qdrant Docker Container uitvoeren

Je kunt eenvoudig de officiële qdrant/qdrant Docker container met de instellingen hieronder.
Deze screenshots tonen een typische configuratie die gebruikt wordt op Trooper.AI GPU servers, inclusief:

• Blootgestelde REST API-poort
• Dashboardtoegang
• Gegevenspersistentie
• Optionele GPU-versnelling (indien ingeschakeld in uw omgeving)

Zodra het is gestart, heeft u direct toegang tot zowel de Qdrant Dashboard en de REST API.

Qdrant Dashboard Voorbeeld

Het dashboard stelt u in staat om collecties, vectoren, payloads en indexen te inspecteren.
Een typische dashboard-instelling ziet er als volgt uit:

Vanaf hier kunt u:

• Collecties maken
• Vectoren toevoegen
• Voer voorbeeldzoekopdrachten uit
• Inspecteer metadata
• Prestaties monitoren

Qdrant bevragen vanuit Node.js

Hieronder vindt u werkend en gecorrigeerd Node.js voorbeeld met de Qdrant REST API.

Belangrijke correcties ten opzichte van het originele voorbeeld:

• Qdrant vereist het aanroepen van een endpoint zoals:
  /collections/<collection_name>/points/search
• vector moet een matrix, niet (a, b, c)
• Moderne Node.js heeft native fetch, dus geen behoefte aan node-fetch

NODEJS VOORBEELD

// Qdrant Vector Search Example – fully compatible with Qdrant 1.x and 2.x

async function queryQdrant() {
  // Replace "my_collection" with your actual collection name
  const url = 'https://AUTOMATIC-SECURE-URL.trooper.ai/collections/my_collection/points/search';

  const payload = {
    vector: [0.1, 0.2, 0.3, 0.4],  // Must be an array
    limit: 5
  };

  try {
    const response = await fetch(url, {
      method: 'POST',
      headers: {
        'Content-Type': 'application/json'
      },
      body: JSON.stringify(payload)
    });

    if (!response.ok) {
      throw new Error(`Qdrant request failed with status: ${response.status}`);
    }

    const data = await response.json();
    console.log('Qdrant Response:', data);
    return data;

  } catch (error) {
    console.error('Error querying Qdrant:', error);
    return null;
  }
}

queryQdrant();

Geldige Qdrant Zoek Payload

Qdrant verwacht een JSON body zoals dit:

{
  "vector": [0.1, 0.2, 0.3, 0.4],
  "limit": 5
}

Waar:

• vector → je embedding
• limiet → maximaal aantal geretourneerde resultaten

U kunt ook geavanceerde filters toevoegen indien nodig:

{
  "vector": [...],
  "limit": 5,
  "filter": {
    "must": [
      { "key": "category", "match": { "value": "news" } }
    ]
  }
}

Opmerkingen voor Trooper.AI Gebruikers

• Vervang AUTOMATIC-SECURE-URL.trooper.ai met uw toegewezen beveiligde eindpunt
• Zorg ervoor dat uw collectie bestaat voordat u de query uitvoert

Voorbeeld: N8N uitvoeren met Any Docker

In dit voorbeeld configureren we Any Docker met uw configuratie voor N8N en persistente dataopslag, zodat herstarts mogelijk zijn met intacte data. Deze configuratie omvat geen webhooks. Als u webhooks nodig heeft, ga dan naar de speciale vooraf geconfigureerde template: n8n

Deze handleiding is uitsluitend bedoeld ter verduidelijking. U kunt elke Docker-container starten die u wilt.

Bekijk de screenshots van de configuratie hieronder:

Het Docker Commando ‘Under The Hood’

Deze template automatiseert de volledige setup van een GPU-geactiveerde Docker container, inclusief de installatie van alle benodigde Ubuntu pakketten en afhankelijkheden voor NVIDIA GPU ondersteuning. Dit vereenvoudigt het proces, met name voor gebruikers die gewend zijn aan Docker deployments voor webservers, welke vaak een complexere configuratie vereisen.

Het volgende docker run De command wordt automatisch gegenereerd door de template om uw gekozen GPU-container te lanceren. Het omvat alle vereiste instellingen voor optimale prestaties en compatibiliteit met uw Trooper.AI server.

Deze opdracht dient als een illustratief voorbeeld om ontwikkelaars inzicht te geven in de onderliggende processen:

docker run -d \
  --name ${CONTAINER_NAME} \
  --restart always \
  --gpus ${GPUS} \
  --add-host=host.docker.internal:host-gateway \
  -p ${PUBLIC_PORT}:${DOCKER_PORT} \
  -v ${LOCAL_DATA_DIR}:/home/node/.n8n \
  -e N8N_SECURE_COOKIE=false \
  -e N8N_RUNNERS_ENABLED=true \
  -e N8N_HOST=${N8N_HOST} \
  -e WEBHOOK_URL=${WEBHOOK_URL} \
  docker.n8n.io/n8nio/n8n \
  tail -f /dev/null

Gebruik dit commando niet handmatig als u geen Docker-expert bent! Vertrouw gewoon op de template.

Wat maakt N8N mogelijk op de private GPU-server?

n8n ontgrendelt het potentieel om complexe workflows rechtstreeks op uw Trooper.AI GPU-server uit te voeren. Dit betekent dat u taken kunt automatiseren met betrekking tot beeld-/videoverwerking, data-analyse, LLM-interacties en meer – waarbij u gebruikmaakt van de kracht van de GPU voor versnelde prestaties.

Concreet kunt u workflows uitvoeren voor:

• Afbeelding/Video Manipulatie: Automatiseer het wijzigen van de grootte, watermerken, objectdetectie en andere visuele taken.
• Gegevensverwerking: Data extraheren, transformeren en laden vanuit verschillende bronnen.
• LLM-integratie: Maak verbinding met en communiceer met Large Language Models voor taken zoals tekstgeneratie, vertaling en sentimentanalyse.
• Webautomatisering: Automatiseer taken over verschillende websites en API's.
• Aangepaste workflows: Bouw en implementeer elk geautomatiseerd proces afgestemd op uw behoeften.

Houd er rekening mee dat u AI-tools zoals ComfyUI en Ollama moet installeren om ze te integreren in uw N8N-workflows op de server lokaal. U heeft ook voldoende GPU VRAM nodig om alle modellen van stroom te voorzien. Geef die GPU's niet aan de docker die N8N uitvoert.

Wat is Docker in relatie tot een GPU-server?

Op een Trooper.AI GPU-server stelt Docker u in staat om applicaties met hun afhankelijkheden te verpakken in gestandaardiseerde eenheden die containers worden genoemd. Dit is bijzonder krachtig voor GPU-versnelde workloads, omdat het consistentie over verschillende omgevingen waarborgt en de implementatie vereenvoudigt. In plaats van afhankelijkheden rechtstreeks op het hostbesturingssysteem te installeren, bevatten Docker-containers alles wat een applicatie nodig heeft om te draaien – inclusief bibliotheken, systeemtools, runtime en instellingen.

Voor GPU-toepassingen maakt Docker het mogelijk om de GPU-bronnen van de server efficiënt te benutten. Door gebruik te maken van de NVIDIA Container Toolkit, kunnen containers toegang krijgen tot de GPU's van de host, waardoor versnelde berekeningen mogelijk worden voor taken zoals machine learning, deep learning inference en data-analyse. Deze isolatie verbetert ook de beveiliging en het resourcebeheer, waardoor meerdere applicaties de GPU kunnen delen zonder elkaar te verstoren. Het implementeren en schalen van GPU-gebaseerde applicaties wordt aanzienlijk eenvoudiger met Docker op een Trooper.AI server.