🚀 API Blibs – LLM-Inferentie-API

Snelstart

Gebruik een SDK die compatibel is met OpenAI. Wijs deze simpelweg toe aan je Trooper.AI route-endpoint:

curl https://router.trooper.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TROOPER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "clara",
    "messages": [{"role": "user", "content": "Hello!"}],
    "max_tokens": 512
  }'

Waarom GPU-loze LLM-inferentie beter scoort dan zelfhosten

Eigen grote taalmodellen draaien op je eigen infrastructuur betekent dat je rekening moet houden met GPU's, stuurprogramma-updates, CUDA-versies, modelgewichten, schaalbaarheid en beveiligingspatches – alles voordat er een enkel token gegenereerd wordt. Met API Blibs sla je alle lagen van die stack over. Onze volledig beheerde LLM-inferentie-endpoints geven je toegang tot state-of-the-art open-source modellen – zoals Google Gemma 4, Mistral Ministral 3 en NVIDIA Nemotron 3 Nano – zonder dat je één enkele GPU hoeft te configureren. Verzoeken worden verwerkt via geoptimaliseerde vLLM-backends met automatische lastenverdeling, wat consistente responsen met lage latenties garandeert, zelfs bij zwaar verkeer. Geen kosten voor stilstaande GPU’s als de API niet gebruikt wordt, geen operationele lasten en geen verrassingsrekeningen – alleen puur inferentie op aanvraag.

Voor teams die zelfgehoste LLM-deployments afwegen tegenover beheerde AI-inferentie, is de berekening eenvoudig: API Blibs elimineren volledig het GPU-aankoopproces en de MLOps-laag, terwijl ze u dezelfde modellen, dezelfde kwaliteit en snellere tijd tot productie bieden.

API Blibs vs. OpenAI, Azure OpenAI & AWS Bedrock

Een beheerde LLM-inferentieprovider in Europa kiezen betekent afwegen tussen prijs, gegevensresidentie en operationele eenvoud. Hier zie je hoe API Blibs zich verhoudt tot de drie belangrijkste alternatieven.

Kernpunt: OpenAI, Azure en Bedrock bieden allemaal gegevensresidentie in de EU — maar dat gaat gepaard met eisen aan toelating, prijsverhogingen of afhankelijkheid van het ecosysteem. API Blibs leveren je direct EU-gestuurde, GDPR-voldoende inferentie op zonder enige instellingsoverlast en zonder verborgen kosten.

Ondersteunde modellen – Geoptimaliseerde open-source LLMs voor productie

API Blibs bieden u toegang tot zorgvuldig geselecteerde open-source modellen, geoptimaliseerd voor productieworkloads op onze vLLM-inferentie-backends. Elk model wordt gekozen omwille van zijn prijs-prestatieverhouding, dekking van Europese talen en heldere licenties.

liv – Google Gemma 4

De meest kosteneffectieve optie – een compacts multimodaal model dat tekst, afbeeldingen, audio en redeneren in één oproep verwerkt. Ideaal voor hoogvolume-taken waar de kosten per token het belangrijkst zijn, van classificatie en samenvatting tot beeldondertiteling en audiotranscriptie.

clara — Mistral Ministral 3

Een snel visiegeoriënteerd model, ontworpen voor hoge doorvoer. Met sterke prestaties op het gebied van Europese talen, analyse van meerdere afbeeldingen en gestructureerde extractie tegen een middenklasseprijs – ideaal voor documentverwerking, OCR-pijplijnen en klantgerichte chatbots die beeldinformatie moeten verwerken.

nikola — NVIDIA Nemotron 3 Nano

De krachtpatser voor redeneren. Een mixture-of-experts-architectuur die diepgaande redeneringskracht en sterke codering mogelijk maakt bij efficiënte inferentiekosten. Ideaal voor codegeneratie, complexe redenatieketen, functieaanroepen en agent-based workflows.

Alle modellen worden aangeboden via OpenAI-compatibele endpoints. Wissel tussen routes door de parameter voor het model aan te passen. model geen aanpassingen in de code vereist.

LLM-API-toepassingen voor Europese bedrijven

Documentextractie & RAG-pijplijnen

Voer PDF's, afbeeldingen en gescande documenten toe aan visiegeoptimaliseerde routes zoals clara of liv. API Blibs converteren automatisch PDF's naar pagina-afbeeldingen en normaliseren beeldinputs – uw RAG-pijplijn ontvangt zo schonere, gestructureerde gegevens zonder voorafgaande verwerkingsstappen. Gecombineerd met gegarandeerde JSON-modus verkrijgt u betrouwbare gestructureerde uitvoer voor verdere indexering.

Klantgerichte chatbots en virtuele assistenten

Implementeer AI-gedreven chat met reactietijden van minder dan een seconde en volstrekte GDPR-voldoening. Configureer een vrije systeemprompt via het beheerdashboard, maak gebruik van functie-aanroepen voor achtergrondintegraties en laat automatisch contextcompressie langere conversaties beheren zonder reikwijdtebeperkingen. Met nul gegevensretentie blijven klantgesprekken volledig onopgeslagen.

Codegeneratie & Ontwikkelaarsgereedschappen

Nikola verwerkt complexe coderingstaken met diepgaand redeneren en nauwkeurige functieaanroepen. De OpenAI-compatibele API integreert direct met ontwikkelaarsomgevingen – zoals VS Code-extensies, CI/CD-pijplijnen en codebeoordelingsbots – door slechts de basis-URL aan te passen.

Meermodale workflows – Visie, Audio & PDF

liv verwerkt afbeeldingen, audiobestanden en PDF's in een enkele API-aanroep. clara richt zich specifiek op hoogresolutie-visietaken. Afbeeldingen worden automatisch geoptimaliseerd (metagegevens verwijderd, aangepast aan formaat, SSRF-g gevalideerd) en PDF’s worden serverside omgezet naar pagina-afbeeldingen. Er is geen voorverwerking nodig aan de kant van de client.

Batchclassificatie & Gegevensverrijking

Voer classificatie, taggen, sentimentele analyse of entiteitsherkenning op grote schaal uit. Met prijsberekening per token en geen vaste kosten betaal je alleen tijdens de verwerking. Combineer dit met gegarandeerde JSON-modus voor machinaal leesbare output die rechtstreeks in jouw datapipeline kan worden geïntegreerd.

Veelgestelde vragen over API Blibs

Word mijn gegevens opgeslagen of gebruikt voor trainen?

Nee. API Blibs maakt gebruik van een volledig staatloze, alleen-RAM-architectuur. Jouw prompts en afwerkingen worden in het geheugen verwerkt en direct na teruggave van de respons verwijderd. Geen logs, geen opslag, geen trainen op jouw gegevens. Ooit.

Kan ik functieaanroepen en tool use gebruiken?

Ja. Alle API Blib-routes ondersteunen OpenAI-compatibel functie-aanroepen. Definieer uw tools in het standaardparameterveld. tools de parameter en het model geeft gestructureerde functie-aanroepen terug in het antwoord. Werkt op alle routes.

Wat gebeurt er als mijn invoer de contextwindow overschrijdt?

In plaats van je verzoek af te wijzen, comprimeert API Blib automatisch het midden van het gesprek om binnen de contextwindow van het model te passen. Je ontvangt een compleet antwoord zonder dat het begin of einde van jouw conversatie wordt weggelaten.

Ondersteunt u streaming?

Ja. Standaard SSE-streaming via de stream: true parameter, volledig compatibel met de OpenAI SDK-streaminginterface.

Hoe schakel ik over van OpenAI naar Trooper.AI?

Éénregelige aanpassing. Pas je base_url to https://router.trooper.ai/v1 en vervang je API-sleutel. Het aanvraagformaat, responsschema en het gedrag van de streaming blijven identiek.

Welke EU-regio's zijn beschikbaar?

Je kunt verzoeken doorsturen naar Duitsland (DE), Nederland (NL) of bredere EU-endpoints. Kies je voorkeurregio in het beheerdashboard of via de API.

Wat als het model vastloopt in een redeneringslus?

API Blibs bevat een 'thinking rescue'-functie – wij detecteren wanneer het model vastloopt in een redeneringslus en herstellen automatisch, zodat je altijd een bruikbare reactie ontvangt in plaats van een timeout of leeg antwoord.

Is de gegarandeerde JSON-modus echt gegarandeerd?

Ja. Bij een verzoek om JSON-output controleren wij de structuur van het antwoord. Mocht het model geen geldig JSON produceren, dan wordt u niet in rekening gebracht voor die aanvraag.

Moet ik afbeeldingen of PDF’s voorverwerken voordat ik ze verstuur?

Nee. Afbeeldingen worden automatisch genormaliseerd (metagegevens verwijderd, aangepast op het maximale resolutie van het model en beveiligd gecontroleerd). PDF’s worden serverside omgezet naar pagina-afbeeldingen. U stuurt ruwe bestanden; wij regelen de rest.

Welke certificeringen hebben uw datacenters?

Alle infrastructuur draait in ISO/IEC 27001-gecertificeerde datacenters in Duitsland en de EU. Gecombineerd met GDPR-naleving, nul gegevensretentie en een geharde API-oppervlakte voldoet API Blibs uit de doos aan ondernemingsbeveiligingseisen.

Integratiehandleidingen – Sluit uw stack aan op API Blibs

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

response = client.chat.completions.create(
    model="clara",
    messages=[{"role": "user", "content": "Summarize this document."}],
    max_tokens=1024
)

print(response.choices[0].message.content)

Node.js (OpenAI-SDK)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://router.trooper.ai/v1",
  apiKey: "YOUR_TROOPER_KEY",
});

const response = await client.chat.completions.create({
  model: "nikola",
  messages: [{ role: "user", content: "Write a unit test for this function." }],
  max_tokens: 2048,
});

console.log(response.choices[0].message.content);

LangChain (Python)

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="clara",
    max_tokens=1024
)

response = llm.invoke("Extract all dates from the following text: ...")
print(response.content)

LlamaIndex

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    api_base="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="nikola",
    max_tokens=2048
)

response = llm.complete("Explain the EU AI Act in simple terms.")
print(response.text)

cURL met Visie (Afbeelding als invoer)

curl https://router.trooper.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TROOPER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "clara",
    "messages": [{
      "role": "user",
      "content": [
        {"type": "image_url", "image_url": {"url": "https://example.com/invoice.png"}},
        {"type": "text", "text": "Extract all line items from this invoice as JSON."}
      ]
    }],
    "max_tokens": 2048,
    "response_format": {"type": "json_object"}
  }'

AI-Compliantie voor Duitse en EU-bedrijven

De EU AI-wet – Wat het betekent voor uw AI-infrastructuur

De EU AI-verordening (Verordening 2024/1689) treedt op 2 augustus 2026 breed in werking en introduceert het eerste uitgebreide juridische kader ter wereld voor kunstmatige intelligentie. Voor bedrijven die actief zijn in Duitsland en de EU betekent dit nieuwe verplichtingen op gebied van transparantie, documentatie en risicobeheer – met boetes tot maximaal €35 miljoen of 7% van de mondiale jaaromzet.

Hoewel de wet voornamelijk gericht is op leveranciers en gebruikers van hoogrisico-AI-systemen (zoals AI die wordt toegepast bij werving, kredietwaardigheidsbepaling of kritieke infrastructuur), moet elke organisatie die AI gebruikt begrijpen waar hun systemen zich bevinden in het risicopyramide-model – en ervoor zorgen dat hun inferentie-infrastructuur voldoet aan de compliance-eisen.

Waarom uw inferentieprovider van belang is

Zelfs voor minimale en beperkte risico-AI-toepassingen benadrukt de EU AI-wet transparantie en databestuur. Het kiezen van een inferentieleverancier die opereert binnen de EU, geen gegevens opslaat en heldere documentatie biedt, vereenvoudigt uw nalevingspositie:

• Gegevensresidentie: De wet moedigt verwerking binnen de EU aan. API Blibs draaien uitsluitend op ISO/IEC 27001-gecertificeerde datacenters in Duitsland en de EU – er vertrekt geen gegevens uit het gebied.
• Geen gegevensretentie: API Blibs maakt gebruik van stateloze, RAM-enkelvoudige inferentie. Prompts en afrondingen worden nooit opgeslagen, waardoor zorgen over datalogging, retentietermijnen en verzoeken om toegang tot persoonsgegevens volgens de AVG verdwijnen.
• Doorzichtigheid: Heldere prijsstelling per token, gedocumenteerde modellspecificaties en een beveiligde API-omgeving maken het eenvoudig om uw AI-keten te documenteren – een cruciale vereiste voor Auftragsverarbeitung (gegevensverwerkingsovereenkomsten) volgens de AVG en de transparantie-eisen van de komende AI-wet.
• Geen modellering op uw gegevens: Uw invoer wordt nooit gebruikt voor het trainen of verfijnen van modellen. Volledige scheiding van gegevens vanaf ontwerp.

GDPR + AI-wet: Dubbele naleving

Duitslandse ondernemingen dragen een dubbel conformiteitsrisico: de AVG (van kracht sinds 2018) en de AI-verordening (fasegewijs handhaving tot 2027). Beide kaders vergen dat u aantoonbaar maakt dat persoonsgegevens rechtmatig, transparant én met voldoende beschermingsmaatregelen worden verwerkt. Een Amerikaans inference-aanbieder zonder EU-dataresidentie schept onnodige regelgevingscomplexiteit – u dient afhankelijk te zijn van Standaard Contractuele Bepalingen, adequatiebeoordelingen uit te voeren en grensoverschrijdende gegevensstromen te documenteren.

API Blibs elimineert deze complexiteit: alle verwerking vindt plaats binnen de EU, met nul opslag en ISO-gecertificeerde infrastructuur. Uw databeschermingsverantwoordelijke kan een schone, uitsluitend binnen de EU gevestigde dataflow documenteren zonder overdrachten naar derde landen.

Bedrijven uit de financiële sector (onderworpen aan BaFin-regulering), gezondheidszorg en andere gereguleerde branches

Voor bedrijven in gereguleerde sectoren – zoals fintech (onderworpen aan BaFin-regulering), healthtech, legal tech en de publieke sector – zijn de eisen nog hoger. Auditeurs verwachten:

• Aantoonbare gegevensresidentie binnen de EU of specifieke lidstaten
• Geen gegevenslekken naar derdenystemen of trainingspijplijnen
• Duidelijke documentatie van de AI-keten en subverwerkers
• Incidentresponsprocedures en herstelmechanismen

API Blibs voldoen aan alle vier punten: landelijk routingsbeheer (DE, NL), architectuur zonder gegevensretentie, gepubliceerde modelspecificaties en automatische herstelprocedures met zelfherstellende eindpunten.

Klaar om te beginnen met Compliant AI Inferentie

Je hoeft geen langdurig aanbestedingsproces door te lopen om een GDPR- en AI Act-conforme LLM-inferentie te implementeren. Maak een Trooper.AI-account aan, vul vooraf betaalde crediten bij en begin met het maken van API-oproepen – de hele infrastructuur is al gecertificeerd, alle gegevens blijven binnen de EU, en er is niets op het vlak van compliance die je moet configureren.

Voor vragen over een Auftragsverarbeitungsvertrag (AVV / DPA) of specifieke compliance-eisen, neem contact met ons op via sales@trooper.ai of bel +49 6126 9289991.