Свързване на приложения и инструменти с Xcellerate AIG: OpenAI-съвместим API, Claude Code, Cursor и Copilot Studio

Всяко приложение, SDK или инструмент, който работи с OpenAI, може да работи с Xcellerate AIG, щом смените две настройки: base URL и API ключа. Екипите, които ползват SDK на Anthropic, Google или AWS Bedrock, могат да ги запазят, защото AIG отговаря във формата на всеки доставчик. Всяко извикване получава бюджети, rate limits, guardrails, маршрутизация, failover и запис в журнала.

TL;DR

• Създайте по един виртуален ключ за всяко приложение, екип или агент.
• Насочете клиента към правилния base URL: /v1, /anthropic, /genai, /bedrock или /v1/mcp.
• Проверете първото извикване в журналите. Истинските ключове на доставчиците никога не стигат до клиентите.

Преди да започнете

• Администратор с право да създава виртуални ключове (право Governance).
• Поне един активиран доставчик в AIG и синхронизиран каталог с модели.
• Мрежов достъп от приложението до https://<your-gateway> (TLS, порт 443).
• Клиент, в който можете да зададете собствен base URL или endpoint.

Свързване на приложение или инструмент

1. Създайте виртуален ключ

Отворете Govern → Governance → Virtual keys (Управление → Governance → Виртуални ключове) и натиснете New virtual key (Нов виртуален ключ). При нужда ограничете доставчиците и моделите и задайте бюджет, rate limit, срок на валидност (от 30 минути до никога), MCP инструменти и IP политика. Копирайте токена sk-xc-… веднага: показва се само веднъж.

2. Насочете клиента към AIG

• Claude Code: задайте ANTHROPIC_BASE_URL на https://<your-gateway>/anthropic и ANTHROPIC_AUTH_TOKEN на виртуалния ключ.
• Microsoft Copilot Studio: endpoint https://<your-gateway>/v1/mcp, удостоверяване „API key“, header Authorization: Bearer <virtual key>. Инструментите се показват като mcp__<server>__<tool>.

3. Използвайте име на модел от AIG

Вземете името от Connect → Models (Свързване → Модели), например openai/gpt-4o-mini, или краткото име, ако е уникално.

4. Проверете първото извикване

Изпратете заявка и отворете Traffic → Logs (Трафик → Журнали). Филтърът „Arrived as“ показва през коя входна точка е дошло извикването. Всеки отговор съдържа ID на заявката в header-а x-xc-request-id.

Какво се случва след свързването

• GET /v1/models показва само моделите, които този ключ може да извиква.
• /v1 покрива chat completions (включително streaming), embeddings, генериране на изображения, синтез на реч, транскрипция, rerank, models, responses, files, batches, feedback и MCP.
• Маршрутизацията може да обслужи заявка през друг доставчик, а не през поискания; отговорът запазва формата на извикващия.
• Незадължителни header-и: x-xc-tags (напр. prod,checkout) за разпределяне на разходите, x-xc-agent-name и x-xc-agent-run-id за времеви линии на агенти, X-Request-Id и traceparent за връзка с вашите журнали и traces.

Добре е да знаете

• Заявките със streaming изискват stream_options: {"include_usage": true}, за да бъдат остойностени.
• Клиентите на Bedrock SDK трябва да заменят SigV4 header-а Authorization с виртуалния ключ, например чрез boto3 event hook. Обслужват се само invoke и invoke-with-response-stream.
• Извикванията на функции от Gemini пристигат цели, не на части. Потоците на Anthropic отчитат входните токени в края.
• Beta endpoints на доставчиците не са моделирани. Съществува pass-through за ключ и доставчик, но по подразбиране е изключен.
• В безплатния режим: до 5 активни виртуални ключа и до 5 заявки на ключ на ден.
• Чат интерфейси като Open WebUI нямат отделна интеграция. Свържете ги като всеки OpenAI-съвместим клиент.

Отстраняване на проблеми

• 401 „Incorrect API key provided.“ или „This API key has expired.“: ключът е непознат, отменен или изтекъл.
• 403 „This API key is not permitted to use the model '…'.“: моделът е извън обхвата на ключа. Блокиране от guardrail също връща 403.
• 404 „The model '…' does not exist or you do not have access to it.“: проверете името в екрана Models.
• 402 или 429: бюджетът или rate limit на ключа е изчерпан; изчакайте времето от retry-after.

Грешките на /anthropic и /genai се връщат във формата за грешки на съответния доставчик.

Научете повече за един API за всички модели, виртуалните ключове и журналите на заявките.

Искате AI инструментите на екипа ви да минават през един управляем gateway? Говорете с нас за AIG.