API-Blibs – Entwickler-Integrationsleitfaden

Modelle & Preise

Unser Grundpreis sieht wie folgt aus. Je nach Land können zusätzliche Gebühren bei der Bestellung von API Blib anfallen. Zudem profitieren Sie von unseren regelmäßigen Extra-Credits-Aktionen.

* Aktuelle Aktion: Bei einer Zahlung von €150 diesen Monat erhalten Sie +33 % Bonus-Credits. Zahlen Sie €150, um €200 auf Ihr Konto zu bekommen!

Wie Sie Ihren API-Blob bestellen

Bevor Sie unsere API nutzen können, müssen Sie Ihren API-Blob auf unserer Website bestellen: API Blob bestellen

Sie können Ihr Modell sowie Ihre Region auswählen und sollten nach dem Bereitstellen Ihres gewünschten Modells etwas Ähnliches wie dies in Ihrem Management-Dashboard sehen:

Kostenloser Statischer System-Prompt

Wir bieten einen kostenlosen System-Prompt mit bis zu 1.024 Zeichen an. Der kostenlose System-Prompt ist ausschließlich über das Dashboard verfügbar! Dynamische Systemnachrichten, die über die API gesendet werden, werden wie üblich berechnet. Klicken Sie auf Aktionen, um das Dialogfeld zur Bearbeitung des System-Prompts einzusehen:

Los geht’s – bestellen Sie jetzt Ihre API Blib:

Jetzt API Blib bestellen

KI-Modell-Benchmark 🧪

Wenn Sie unsere LLM-Endpunkte mit anderen KI-Plattformen vergleichen möchten, können Sie hier unser kostenloses Tool für den LLM-Qualitätsbenchmark nutzen: Dies sieht wie folgt aus:

Testen Sie jeden mit OpenAI kompatiblen KI-Endpoint mit 25 automatisierten Qualitätsprüfungen – Logik, Programmierung, Mehrsprachigkeit, strukturierte Ausgabe, Tool-Aufrufe und mehr.

Basis-URL

https://eu.router.trooper.ai/v1

Regionale Endpunkte für länderspezifische Datenhoheit:

Authentifizierung

Alle Anfragen erfordern einen Bearer-Token. Holen Sie sich Ihren API-Schlüssel aus dem .

Authorization: Bearer YOUR_TROOPER_KEY

Verfügbare Modelle

Schalten Sie Routen über trooper.ai/order-apiblib. Jede aktivierte Route stellt Ihnen einen Modellnamen zur Verfügung, den Sie in Ihren API-Anfragen verwenden.

API-Endpunkte

POST /v1/chat/completions

Standard-kompatibler OpenAI-Chat-Completion-Endpoint.

GET /v1/models

Listet Ihre aktivierten Modelle auf. Erfordert Authentifizierung. Gibt nur Modelle zurück, die zur Region der von Ihnen angerufenen Domain passen.

Jedes Modellobjekt enthält:

Eigenschaften-Objekt:

Verwenden capabilities.thinking um zu prüfen, ob ein Modell Reasoning-Parameter akzeptiert, bevor diese gesendet werden.

Beispielantwort:

{
  "object": "list",
  "data": [
    {
      "id": "clara",
      "object": "model",
      "owned_by": "trooper_42",
      "created": 1700000000,
      "base_models": ["Ministral-3"],
      "context_length": 131072,
      "max_tokens": 131072,
      "capabilities": {
        "tools": true,
        "vision": true,
        "audio": false,
        "thinking": false,
        "json_mode": true,
        "token_budget": false
      },
      "supported_parameters": [
        "temperature", "top_p", "max_tokens", "stream",
        "response_format", "tools", "tool_choice"
      ]
    }
  ]
}

GET /health

Gibt Auskunft über die Verfügbarkeit des Endpunkts sowie regionale Informationen.

Jetzt API Blib bestellen

Anfrageparameter

Alle Parameter entsprechen dem Format der OpenAI Chat Completions API.

Erforderlich

Optionale

Funktionen

Streaming

Standard-SSE-Streaming, vollständig kompatibel mit der OpenAI-SDK.

{ "stream": true }

Antwortformat: data: {...}\n\n Zeilen, beendet durch data: [DONE]\n\n.

Modus JSON

Fordern Sie eine strukturierte JSON-Ausgabe an. Stellen Sie sicher, dass nicht nur der JSON-Anfrage im Textnachricht gesetzt wird – Sie müssen mindestens auch das response_format auf json_object festlegen!

Falls das Modell ungültiges JSON erzeugt, werden Ihnen keine Kosten berechnet.

{ "response_format": { "type": "json_object" } }

Mit einem Schema:

{
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "my_schema",
      "schema": {
        "type": "object",
        "properties": {
          "name": { "type": "string" },
          "age": { "type": "integer" }
        },
        "required": ["name", "age"]
      }
    }
  }
}

Bildverarbeitung (Bilder & PDFs)

Bilder können über eine URL oder als Base64 gesendet werden. PDFs werden automatisch serverseitig in Seitenbilder umgewandelt.

{
  "messages": [{
    "role": "user",
    "content": [
      { "type": "image_url", "image_url": { "url": "https://example.com/photo.jpg" } },
      { "type": "text", "text": "Describe this image." }
    ]
  }]
}

Base64:

{
  "type": "image_url",
  "image_url": { "url": "data:image/png;base64,iVBOR..." }
}

• Bilder werden automatisch skaliert und von Metadaten bereinigt (SSRF-sicher).
• Die maximale Anzahl und Größe der Bilder hängt von Ihrer Routenkonfiguration ab.
• Verfügbar auf den Routen liv und clara.

Stärken: Audio

Audio-Dateien können in multimodalen Nachrichten gesendet werden. Unterstützt auf der Route liv.

Denken / Logikschlüsse

Steuern Sie, ob und wie tief das Modell vor der Antwort nachdenkt (Chain-of-Thought).

Standarddenkprozess aktivieren:

{ "reasoning_effort": "medium" }

Für maximale Qualität tiefgründiges Denken aktivieren:

{ "reasoning_effort": "high" }

Oder über das reasoning Objekt:

{ "reasoning": { "effort": "high" } }

Denkprozess explizit deaktivieren:

{ "reasoning_effort": "none" }

Um die Begründung aus der Antwort zu entfernen (das Denken findet weiterhin statt, aber die Begründungstoken werden nicht zurückgegeben):

{ "reasoning": { "effort": "high", "exclude": true } }

Denkverhalten kann ebenfalls pro Route im Management-Dashboard konfiguriert werden. Die Dashboard-Einstellung steuert das Standardverhalten sowie die Rückgabe der Begründung:

• Deaktiviert – Standardmäßig ist das Denken ausgeschaltet. Kann pro-Anfrage über "reasoning_effort": "medium" oder "high" aktiviert werden.
• Strippen – Denkprozess aktiviert, aber die Begründungstokens werden aus der Antwort entfernt.
• Denkverlauf (Reasoning) — Denken aktiviert, Begründung wird in einem separaten Feld reasoning_content zurückgegeben.
• Denk-Tag — Denken aktiviert, Begründung wird als <denke>-Tags im Inhalt zurückgegeben.

Denkschutz (Reasoning Rescue): Falls das Modell eine Denkschleife durchläuft, erholt sich der Router automatisch und gibt eine nutzbare Antwort zurück.

Funktionsaufrufe / Werkzeuge

Standardformat der OpenAI-Tools. Funktioniert mit allen Routen.

{
  "tools": [{
    "type": "function",
    "function": {
      "name": "get_weather",
      "description": "Get current weather for a location",
      "parameters": {
        "type": "object",
        "properties": {
          "location": { "type": "string" }
        },
        "required": ["location"]
      }
    }
  }],
  "tool_choice": "auto"
}

Automatische Kontextkomprimierung

Falls Ihre Eingabe das Kontextfenster überschreitet, komprimiert der Router automatisch den mittleren Teil des Gesprächs, um alles unterzubringen – eine manuelle Kürzung ist nicht erforderlich. Sie erhalten stets eine Antwort.

Statischer System-Prompt

Ein kostenloser System-Prompt kann pro Route im Management-Dashboard konfiguriert werden. Er wird jeder Anfrage automatisch vorangestellt und ist nicht berechnet.

Antwortformat

Standard-Antwortformat von OpenAI:

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1700000000,
  "model": "clara",
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "content": "Hello! How can I help you?"
    },
    "finish_reason": "stop"
  }],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 8,
    "total_tokens": 20
  }
}

Bei aktivierter Begründung kann die Antwort zusätzlich eine Begründungsinhalte enthalten. reasoning_content neben content.

Transaktions-ID

Jede Antwort enthält einen x-transaction-id Header für Abrechnungsreferenz und Fehlersuche.

Fehlerbehandlung

Fehler folgen dem OpenAI-Fehlerformat:

{
  "error": {
    "message": "The model 'nonexistent' does not exist.",
    "type": "invalid_request_error",
    "param": "model",
    "code": "model_not_found"
  }
}

Fehlercodes

Abrechnung / Preisgestaltung

• Preis pro Token – Eingabe- und Ausgabetokens werden separat pro Million Tokens abgerechnet.
• Keine Leerkosten – Sie zahlen nur bei API-Aufrufen.
• Vorgeladene Guthaben – laden Sie Ihr Konto auf und nutzen Sie das Guthaben nach Verbrauch.
• System-Prompt-Tokens sind kostenlos (werden nicht berechnet).
• Fehlerhafte JSON-Anfragen werden bei Nutzung des JSON-Modus nicht berechnet.
• Bildinputs werden pro Einheit (verarbeitete Bilder) abgerechnet.

Jetzt API Blib bestellen

Beispiel-Integrationen

Sehen Sie sich beliebte Codebeispiele an, wie man eine mit OpenAI kompatible API für Large-Language-Modell-Inferenz nutzt. Ersetzen Sie dabei router.trooper.ai durch die Endpunkt-URL aus Ihrer API-Bestellung!

Python (OpenAI-SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

response = client.chat.completions.create(
    model="clara",
    messages=[{"role": "user", "content": "Summarize this document."}],
    max_tokens=1024
)

print(response.choices[0].message.content)

Node.js (OpenAI-SDK)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://router.trooper.ai/v1",
  apiKey: "YOUR_TROOPER_KEY",
});

const response = await client.chat.completions.create({
  model: "nikola",
  messages: [{ role: "user", content: "Write a unit test for this function." }],
  max_tokens: 2048,
});

console.log(response.choices[0].message.content);

Python mit Stream-Verarbeitung

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

stream = client.chat.completions.create(
    model="liv",
    messages=[{"role": "user", "content": "Explain quantum computing."}],
    max_tokens=2048,
    stream=True
)

for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Modus JSON

import json
from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

response = client.chat.completions.create(
    model="clara",
    messages=[{"role": "user", "content": "List the 3 largest EU countries as JSON with name and population."}],
    max_tokens=512,
    response_format={"type": "json_object"}
)

data = json.loads(response.choices[0].message.content)
print(data)

Bildanalyse

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

response = client.chat.completions.create(
    model="clara",
    messages=[{
        "role": "user",
        "content": [
            {"type": "image_url", "image_url": {"url": "https://example.com/invoice.png"}},
            {"type": "text", "text": "Extract all line items from this invoice as JSON."}
        ]
    }],
    max_tokens=2048,
    response_format={"type": "json_object"}
)

print(response.choices[0].message.content)

Funktionsaufruf

from openai import OpenAI

client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get weather for a location",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {"type": "string", "description": "City name"}
            },
            "required": ["location"]
        }
    }
}]

response = client.chat.completions.create(
    model="nikola",
    messages=[{"role": "user", "content": "What's the weather in Berlin?"}],
    tools=tools,
    tool_choice="auto",
    max_tokens=512
)

tool_calls = response.choices[0].message.tool_calls
if tool_calls:
    print(tool_calls[0].function.name, tool_calls[0].function.arguments)

LangChain

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="clara",
    max_tokens=1024
)

response = llm.invoke("Extract all dates from the following text: ...")
print(response.content)

LlamaIndex

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    api_base="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY",
    model="nikola",
    max_tokens=2048
)

response = llm.complete("Explain the EU AI Act in simple terms.")
print(response.text)

cURL

curl https://router.trooper.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_TROOPER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "clara",
    "messages": [{"role": "user", "content": "Hello!"}],
    "max_tokens": 512
  }'

Migration von OpenAI zu Trooper.AI

Einzeilige Änderung – Base-URL und API-Schlüssel aktualisieren:

# Before (OpenAI)
client = OpenAI(api_key="sk-...")

# After (Trooper.AI)
client = OpenAI(
    base_url="https://router.trooper.ai/v1",
    api_key="YOUR_TROOPER_KEY"
)

Alles andere bleibt gleich: Anfrageformat, Antwortschema, Streaming, Tools sowie JSON-Modus.

Datenhoheit & Konformität

• ISO/IEC 27001-zertifizierte Rechenzentren in Deutschland und der EU
• Keine Datenretention – Anfragen und Antworten werden ausschließlich im Arbeitsspeicher (RAM) verarbeitet und nie gespeichert.
• DSGVO-konform – keine grenzüberschreitenden Datenübermittlungen, kein Training des Modells mit Ihren Daten.
• Länderspezifische Routingoptionen verfügbar (DE, NL oder gesamte EU).

Jetzt API Blib bestellen