Підключення застосунків та інструментів до Xcellerate AIG: OpenAI-сумісний API, Claude Code, Cursor і Copilot Studio

Будь-який застосунок, SDK чи інструмент, що працює з OpenAI, може працювати з Xcellerate AIG, щойно ви зміните два налаштування: base URL і API-ключ. Команди, які користуються SDK від Anthropic, Google чи AWS Bedrock, можуть їх залишити, бо AIG відповідає у форматі кожного постачальника. Кожен виклик отримує бюджети, rate limits, guardrails, маршрутизацію, failover і запис у журналі.

TL;DR

• Створіть по одному віртуальному ключу на застосунок, команду чи агента.
• Спрямуйте клієнт на відповідний base URL: /v1, /anthropic, /genai, /bedrock або /v1/mcp.
• Перевірте перший виклик у журналах. Справжні ключі ваших постачальників ніколи не потрапляють до клієнтів.

Перш ніж почати

• Адміністратор із правом створювати віртуальні ключі (право Governance).
• Щонайменше один увімкнений постачальник в AIG і синхронізований каталог моделей.
• Мережевий доступ із застосунку до https://<your-gateway> (TLS, порт 443).
• Клієнт, у якому можна задати власний base URL або endpoint.

Підключення застосунку чи інструмента

1. Створіть віртуальний ключ

Відкрийте Govern → Governance → Virtual keys (Керування → Governance → Віртуальні ключі) і натисніть New virtual key (Новий віртуальний ключ). За потреби обмежте постачальників і моделі та задайте бюджет, rate limit, термін дії (від 30 хвилин до безстроково), MCP-інструменти й IP-політику. Одразу скопіюйте токен sk-xc-…: він показується лише раз.

2. Спрямуйте клієнт на AIG

• Claude Code: задайте ANTHROPIC_BASE_URL як https://<your-gateway>/anthropic і ANTHROPIC_AUTH_TOKEN як ваш віртуальний ключ.
• Microsoft Copilot Studio: endpoint https://<your-gateway>/v1/mcp, автентифікація «API key», header Authorization: Bearer <virtual key>. Інструменти з'являються як mcp__<server>__<tool>.

3. Використовуйте назву моделі з AIG

Візьміть назву з Connect → Models (Підключення → Моделі), наприклад openai/gpt-4o-mini, або коротку назву, якщо вона унікальна.

4. Перевірте перший виклик

Надішліть запит і відкрийте Traffic → Logs (Трафік → Журнали). Фільтр «Arrived as» показує, через яку точку входу надійшов виклик. Кожна відповідь містить ID запиту в header x-xc-request-id.

Що відбувається після підключення

• GET /v1/models показує лише моделі, які може викликати цей ключ.
• /v1 охоплює chat completions (зокрема streaming), embeddings, генерацію зображень, синтез мовлення, транскрипцію, rerank, models, responses, files, batches, feedback і MCP.
• Маршрутизація може обслужити запит через іншого постачальника, ніж той, якого вказав клієнт; відповідь зберігає формат того, хто викликав.
• Необов'язкові header: x-xc-tags (напр. prod,checkout) для розподілу витрат, x-xc-agent-name і x-xc-agent-run-id для часових шкал агентів, X-Request-Id і traceparent для зв'язку з вашими журналами й traces.

Варто знати

• Запити зі streaming потребують stream_options: {"include_usage": true}, щоб їх можна було тарифікувати.
• Клієнти Bedrock SDK мають замінити SigV4 header Authorization на віртуальний ключ, наприклад через boto3 event hook. Обслуговуються лише invoke та invoke-with-response-stream.
• Виклики функцій Gemini надходять цілими, не частинами. Потоки Anthropic повідомляють вхідні токени наприкінці.
• Beta endpoints постачальників не змодельовані. Pass-through для ключа й постачальника існує, але типово вимкнений.
• У безкоштовному режимі: до 5 активних віртуальних ключів і 5 запитів на ключ на день.
• Чат-інтерфейси на кшталт Open WebUI не мають окремої інтеграції. Підключайте їх як будь-який OpenAI-сумісний клієнт.

Усунення несправностей

• 401 «Incorrect API key provided.» або «This API key has expired.»: ключ невідомий, відкликаний або прострочений.
• 403 «This API key is not permitted to use the model '…'.»: модель поза межами ключа. Блокування guardrail також повертає 403.
• 404 «The model '…' does not exist or you do not have access to it.»: перевірте назву на екрані Models.
• 402 або 429: бюджет або rate limit ключа вичерпано; зачекайте час із retry-after.

Помилки на /anthropic і /genai повертаються у форматі помилок відповідного постачальника.

Дізнайтеся більше про один API для всіх моделей, віртуальні ключі і журнали запитів.

Хочете, щоб AI-інструменти вашої команди працювали через один керований gateway? Поговоріть з нами про AIG.