Jede App, jedes SDK und jedes Tool, das mit OpenAI spricht, kann mit Xcellerate AIG sprechen, sobald Sie zwei Einstellungen ändern: die Base URL und den API-Schlüssel. Teams mit den SDKs von Anthropic, Google oder AWS Bedrock können diese behalten, denn AIG antwortet im Format des jeweiligen Anbieters. Jeder Aufruf erhält dann Budgets, Rate Limits, Guardrails, Routing, Failover und einen Protokolleintrag.
TL;DR
- Legen Sie einen virtuellen Schlüssel pro App, Team oder Agent an.
- Richten Sie den Client auf die passende Base URL:
/v1,/anthropic,/genai,/bedrockoder/v1/mcp.- Prüfen Sie den ersten Aufruf in den Logs. Ihre echten Provider-Schlüssel erreichen die Clients nie.
Bevor Sie beginnen
- Ein Administrator, der virtuelle Schlüssel anlegen darf (Berechtigung Governance).
- Mindestens ein aktivierter Provider in AIG und ein synchronisierter Modellkatalog.
- Netzwerkzugriff von der App auf
https://<your-gateway>(TLS, Port 443). - Ein Client, in dem Sie eine eigene Base URL oder einen eigenen Endpoint setzen können.
App oder Tool anbinden
1. Virtuellen Schlüssel anlegen
Öffnen Sie Govern → Governance → Virtual keys (Steuern → Governance → Virtuelle Schlüssel) und klicken Sie auf New virtual key (Neuer virtueller Schlüssel). Begrenzen Sie bei Bedarf Provider und Modelle und legen Sie Budget, Rate Limit, Ablauf (von 30 Minuten bis nie), MCP-Tools und IP-Richtlinie fest. Kopieren Sie das sk-xc-…-Token sofort: Es wird nur einmal angezeigt.
2. Client auf AIG ausrichten
| Client / SDK | Base URL | Schlüssel in |
|---|---|---|
| OpenAI-SDKs, LangChain, LlamaIndex, Continue, Aider, Cursor, jedes OpenAI-kompatible Tool | https://<your-gateway>/v1 |
Authorization: Bearer |
| Anthropic-SDK, Claude Code | https://<your-gateway>/anthropic |
x-api-key oder Bearer |
| Google Gen AI SDK | https://<your-gateway>/genai |
x-goog-api-key oder ?key= |
AWS Bedrock (boto3 bedrock-runtime) |
https://<your-gateway>/bedrock |
Authorization: Bearer (virtueller Schlüssel, kein SigV4) |
| MCP-Clients (z. B. Copilot Studio) | https://<your-gateway>/v1/mcp |
Authorization: Bearer <virtual key> |
- Claude Code: Setzen Sie
ANTHROPIC_BASE_URLaufhttps://<your-gateway>/anthropicundANTHROPIC_AUTH_TOKENauf Ihren virtuellen Schlüssel. - Microsoft Copilot Studio: Endpoint
https://<your-gateway>/v1/mcp, Authentifizierung „API key“, HeaderAuthorization: Bearer <virtual key>. Tools erscheinen alsmcp__<server>__<tool>.
3. Modellnamen aus AIG verwenden
Nehmen Sie den Modellnamen aus Connect → Models (Verbinden → Modelle), zum Beispiel openai/gpt-4o-mini, oder den Kurznamen, wenn er eindeutig ist.
4. Ersten Aufruf prüfen
Senden Sie eine Anfrage und öffnen Sie Traffic → Logs (Datenverkehr → Protokolle). Der Filter „Arrived as“ zeigt, über welchen Einstiegspunkt der Aufruf kam. Jede Antwort enthält die Request-ID im Header x-xc-request-id.
Was nach dem Verbinden passiert
GET /v1/modelslistet nur die Modelle, die dieser Schlüssel aufrufen darf./v1umfasst Chat Completions (auch Streaming), Embeddings, Bilderzeugung, Sprachausgabe, Transkription, Rerank, Models, Responses, Files, Batches, Feedback und MCP.- Das Routing kann eine Anfrage über einen anderen Provider bedienen als den angefragten; die Antwort behält das Format des Aufrufers.
- Optionale Header:
x-xc-tags(z. B.prod,checkout) für die Kostenzuordnung,x-xc-agent-nameundx-xc-agent-run-idfür Agenten-Zeitleisten,X-Request-Idundtraceparentzur Verknüpfung mit Ihren eigenen Logs und Traces.
Gut zu wissen
- Gestreamte Anfragen brauchen
stream_options: {"include_usage": true}, damit sie bepreist werden. - Bedrock-SDK-Clients müssen den SigV4-Header Authorization durch den virtuellen Schlüssel ersetzen, etwa mit einem boto3-Event-Hook. Nur invoke und invoke-with-response-stream werden bedient.
- Gemini-Funktionsaufrufe kommen vollständig, nicht gestreamt. Anthropic-Streams melden die Eingabe-Tokens erst am Ende.
- Beta-Endpoints der Provider sind nicht abgebildet. Ein Pass-through pro Schlüssel und Provider existiert, ist aber standardmäßig aus.
- Im kostenlosen Modus: höchstens 5 aktive virtuelle Schlüssel und 5 Anfragen pro Schlüssel und Tag.
- Chat-Oberflächen wie Open WebUI haben keine eigene Integration. Binden Sie sie wie jeden OpenAI-kompatiblen Client an.
Fehlerbehebung
- 401 „Incorrect API key provided.“ oder „This API key has expired.“: Der Schlüssel ist unbekannt, widerrufen oder abgelaufen.
- 403 „This API key is not permitted to use the model '…'.“: Das Modell liegt außerhalb des Schlüssel-Scopes. Auch eine Guardrail-Sperre liefert 403.
- 404 „The model '…' does not exist or you do not have access to it.“: Prüfen Sie den Namen auf dem Bildschirm Models.
- 402 oder 429: Budget oder Rate Limit des Schlüssels ist erschöpft; warten Sie die retry-after-Zeit ab.
Fehler auf /anthropic und /genai kommen im Fehlerformat des jeweiligen Anbieters zurück.
Mehr über eine API für alle Modelle, virtuelle Schlüssel und Request-Logs.
Sollen die KI-Tools Ihres Teams über ein einziges, kontrolliertes Gateway laufen? Sprechen Sie mit uns über AIG.
