Підключення Azure OpenAI до Xcellerate AIG

Підключивши Azure OpenAI до Xcellerate AIG, ви спрямовуєте трафік ШІ до власного ресурсу Azure OpenAI: ваша підписка, ваш регіон, ваші розгортання. Застосунки й далі звертаються до OpenAI-сумісного API AIG з віртуальним ключем, а AIG перетворює кожен запит у формат Azure. Цей посібник для адміністраторів, які налаштовують AIG для MSP, малого бізнесу чи сервісної компанії.

Коротко

• Потрібні endpoint ресурсу, API-ключ і назви ваших розгортань (deployments).
• Клієнти звертаються до розгортання як <назва-провайдера>/<назва-розгортання>.
• Один провайдер може обслуговувати кілька ресурсів Azure або версій API, по одній на ключ.

Перш ніж почати

• Ресурс Azure OpenAI з принаймні одним розгортанням моделі. Запишіть кожну назву розгортання точно так, як ви задали її на порталі Azure.
• Endpoint ресурсу, наприклад https://<your-resource>.openai.azure.com, і один з його API-ключів. Обидва є на сторінці Keys and Endpoint ресурсу.
• За бажанням версія API. Якщо залишити поле порожнім, AIG використовує 2024-10-21. Це нижня межа, а не рекомендація.
• Роль Admin в AIG або власна роль із правом створювати та редагувати провайдерів.
• Вихідний HTTPS-трафік від AIG до вашого endpoint. Callback-адреси не потрібні.

Налаштування Azure OpenAI

1. Створіть провайдера

Відкрийте Connect → Providers (Підключення → Провайдери) і натисніть Connect a provider (Підключити провайдера) або Add provider (додати провайдера). Оберіть тип Azure OpenAI і задайте назву, наприклад «Azure Західна Європа». Для Azure немає типової Base URL (базова URL-адреса): endpoint задається на ключі. Base URL провайдера слугує лише запасним варіантом.

2. Вставте API-ключ

Вставте ключ Azure у поле API key (API-ключ).

3. Заповніть поля Azure

Ці поля відображаються з технічними назвами всіма мовами:

• endpoint (обов'язково): URL-адреса вашого ресурсу.
• api_version (необов'язково): версія API.
• deployment (необов'язково): прив'язує цей ключ до одного розгортання.

4. Перевірте й увімкніть

Натисніть Test connection (перевірити з'єднання), а потім Enable provider (увімкнути провайдера).

5. Зверніться до розгортання

Клієнти використовують <назва-провайдера>/<назва-розгортання>. Наприклад, azure_openai/prod-gpt4o потрапляє до розгортання prod-gpt4o. Отже, частина «модель» в адресі — це назва розгортання.

6. Задайте свої ціни

У Cost → Pricing (Витрати → Ціни) додайте власну ціну. Приватної назви розгортання може не бути в публічному довідковому листі, а узгоджені ціни відрізняються.

Що відбувається після підключення

AIG надсилає кожен запит на <endpoint>/openai/deployments/<deployment>/<operation>?api-version=<version>, з вашим ключем у заголовку api-key. Доступні чат, embeddings, зображення, мовлення та транскрипція. Якщо у вашому ресурсі менше розгортань, обмежте провайдера через What this provider serves (що надає цей провайдер); тоді інші запити відхиляються ще в AIG. Керування, журналювання, бюджети й резервні маршрути діють, як і для будь-якого іншого провайдера.

Корисно знати

• Azure потребує назву розгортання, а не моделі. AIG передає частину «модель» з адреси як розгортання, якщо ви не заповнили deployment на ключі.
• Дві підписки з різними версіями API? Додайте два ключі, кожен зі своїми endpoint і api_version.
• AIG автентифікується в Azure OpenAI за допомогою API-ключа.
• Ваші дані обробляються в регіоні вашого ресурсу Azure.
• Ключі доступні лише для запису й ніколи не повертаються в браузер.
• Без ліцензії AIG працює в безкоштовному режимі: 5 віртуальних ключів, по 5 запитів на ключ на день.

Усунення проблем

• Azure provider '<name>' has no endpoint configured on its key. Заповніть endpoint на ключі або Base URL на провайдері.
• <model> did not answer (<ms> ms): <message> під час перевірки. Зазвичай неправильні endpoint, назва розгортання або версія API.
• No healthy API key is available for provider '…' Azure відхилив ключ, і AIG позначив його як Dead. Виправте ключ і натисніть Clear health flags (скинути позначки стану).

Поговоріть з нами про AIG

Хочете дізнатися, як AIG поєднує ваше середовище Azure з іншими провайдерами? Поговоріть з нами про AIG. Докладніше про усіх постачальників в одному каталозі та віртуальні ключі.