Свързване на Azure OpenAI с Xcellerate AIG

Като свържете Azure OpenAI с Xcellerate AIG, изпращате AI трафика към собствения си Azure OpenAI ресурс: вашият абонамент, вашият регион, вашите deployments. Приложенията продължават да извикват OpenAI-съвместимия API на AIG с виртуален ключ, а AIG превръща всяка заявка във формата на Azure. Ръководството е за администратори, които настройват AIG за MSP, малка фирма или компания за услуги.

Накратко

• Нужни са ви endpoint на ресурса, API ключ и имената на вашите deployments.
• Извикващите адресират deployment като <име-на-доставчик>/<име-на-deployment>.
• Един доставчик може да обслужва няколко Azure ресурса или версии на API, по една на ключ.

Преди да започнете

• Azure OpenAI ресурс с поне едно внедряване (deployment) на модел. Запишете всяко име точно както сте го задали в портала на Azure.
• Endpoint на ресурса, например https://<your-resource>.openai.azure.com, и един от API ключовете му. И двете са на страницата Keys and Endpoint на ресурса.
• По избор версия на API. Ако я оставите празна, AIG използва 2024-10-21. Това е долна граница, а не препоръка.
• Ролята Admin в AIG или собствена роля с право да създава и редактира доставчици.
• Изходящ HTTPS трафик от AIG към вашия endpoint. Не са нужни callback URL адреси.

Настройка на Azure OpenAI

1. Създайте доставчика

Отворете Connect → Providers (Свързване → Доставчици) и натиснете Connect a provider (Свържи доставчик) или Add provider (добави доставчик). Изберете типа Azure OpenAI и дайте име, например „Azure Западна Европа“. Azure няма Base URL (базов URL) по подразбиране: endpoint се задава на ключа. Base URL на доставчика служи само като резервен вариант.

2. Поставете API ключа

Поставете ключа от Azure в API key (API ключ).

3. Попълнете полетата на Azure

Тези полета се показват с техническите си имена на всички езици:

• endpoint (задължително): URL адресът на ресурса ви.
• api_version (по избор): версията на API.
• deployment (по избор): обвързва този ключ с едно конкретно deployment.

4. Тествайте и активирайте

Натиснете Test connection (тест на връзката), след това Enable provider (активирай доставчика).

5. Извикайте deployment

Извикващите използват <име-на-доставчик>/<име-на-deployment>. Например azure_openai/prod-gpt4o стига до deployment prod-gpt4o. Частта „модел“ в адреса е името на deployment.

6. Задайте цените си

В Cost → Pricing (Разходи → Цени) добавете собствена цена. Частно име на deployment може да липсва в публичния информационен лист, а договорените цени са различни.

Какво се случва след свързването

AIG изпраща всяка заявка към <endpoint>/openai/deployments/<deployment>/<operation>?api-version=<version>, с ключа ви в заглавката api-key. Налични са чат, embeddings, изображения, реч и транскрипция. Ако ресурсът ви има по-малко deployments, ограничете доставчика чрез What this provider serves (какво предлага този доставчик); тогава другите заявки се отказват още в AIG. Управлението, записите, бюджетите и резервните маршрути работят както при всеки друг доставчик.

Добре е да знаете

• Azure изисква името на deployment, а не на модела. AIG подава частта „модел“ от адреса като deployment, освен ако не попълните deployment на ключа.
• Два абонамента с различни версии на API? Добавете два ключа, всеки със собствени endpoint и api_version.
• AIG се удостоверява пред Azure OpenAI с API ключ.
• Данните ви се обработват в региона на вашия Azure ресурс.
• Ключовете са само за запис и никога не се връщат към браузъра.
• Без лиценз AIG работи в безплатен режим: 5 виртуални ключа с по 5 заявки на ключ на ден.

Отстраняване на проблеми

• Azure provider '<name>' has no endpoint configured on its key. Попълнете endpoint на ключа или Base URL на доставчика.
• <model> did not answer (<ms> ms): <message> при теста. Обикновено endpoint, името на deployment или версията на API са грешни.
• No healthy API key is available for provider '…' Azure е отхвърлил ключа и AIG го е маркирал като Dead. Поправете ключа и натиснете Clear health flags (изчисти маркерите за състояние).

Говорете с нас за AIG

Искате да разберете как AIG обединява вашата Azure среда и другите ви доставчици? Говорете с нас за AIG. Прочетете още за всички доставчици в един каталог и виртуалните ключове.