Свързване на OpenAI, Anthropic, Gemini, Mistral, Groq или OpenRouter с Xcellerate AIG

Като свържете OpenAI, Anthropic, Google Gemini, Mistral, Groq или OpenRouter с Xcellerate AIG, екипът ви получава една управлявана входна точка към хостваните AI модели. Приложенията ви извикват AIG със собствен виртуален ключ и никога не виждат ключа на доставчика. Ръководството е за администратора, който настройва AIG за MSP, малка фирма или компания за услуги.

Накратко

• Настройката е еднаква и за шестте доставчика: изберете типа, дайте име, поставете един API ключ.
• Новият доставчик започва деактивиран, така че първо го тествате с една малка заявка.
• След активирането синхронизирате каталога с модели и издавате виртуален ключ за всяко приложение.

Преди да започнете

• Акаунт при доставчика и стандартен API ключ: ключ за OpenAI, ключ от конзолата на Anthropic, ключ от Google AI Studio (Gemini API) или ключ за Mistral, Groq или OpenRouter.
• Ролята Admin в AIG или собствена роля с право да създава и редактира доставчици.
• Изходящ HTTPS трафик от сървъра на AIG към доставчика. Адресите по подразбиране са api.openai.com/v1, api.anthropic.com/v1, generativelanguage.googleapis.com/v1beta, api.mistral.ai/v1, api.groq.com/openai/v1, openrouter.ai/api/v1. Ако трафикът трябва да минава през прокси, задайте го в General settings → Network egress (Общи настройки → изходящ мрежов трафик).
• Не са нужни callback URL адреси или уебхукове.

Настройка на доставчика

1. Стартирайте съветника

В страничното меню отворете Connect → Providers (Свързване → Доставчици) и натиснете Connect a provider (Свържи доставчик). Ако предпочитате пълната форма, изберете Set up manually (ръчна настройка) или Add provider (добави доставчик).

2. Изберете доставчика и го наименувайте

В Provider type (тип доставчик) изберете OpenAI, Anthropic, Google Gemini, Mistral, Groq или OpenRouter. Задайте Display name (показвано име), което всички ще разпознаят, например „OpenAI продукция“. Оставете Base URL (базов URL) празно, за да се ползва адресът по подразбиране на доставчика.

3. Поставете API ключа

Поставете ключа в полето API key (API ключ). AIG записва доставчика като деактивиран, така че към него още не отива трафик.

4. Тествайте

С Try it (опитай) изпратете една малка реална заявка. Тя струва няколко токена. Можете да изберете и Continue anyway (продължи въпреки това); тогава доставчикът остава деактивиран. По-късно Test connection (тест на връзката) прави същата проверка.

5. Активирайте, синхронизирайте и издайте ключ

Натиснете Enable provider (активирай доставчика). След това заредете каталога с модели чрез Models → Sync (Модели → Синхронизиране) и създайте ключ за приложението си в Governance → Virtual keys → New virtual key (нов виртуален ключ).

По избор: повече ключове, по-тесен обхват

• С Add key (добави ключ) слагате няколко ключа на доставчика към един доставчик и давате на всеки Weight (тегло), за да разпределите трафика.
• Ограничете ключ до определени модели с Allowed models (разрешени модели).
• В What this provider serves (какво предлага този доставчик) отметнете само нужното.

Какво се случва след свързването

Приложенията ви адресират модел като <име-на-доставчик>/<модел>, например openai/gpt-4o-mini, или с кратко име на модел, което AIG намира в каталога. AIG превежда всяка заявка във формата на доставчика. Така една заявка в стил OpenAI може да стигне до OpenAI, Anthropic или Gemini.

Синхронизирането на каталога взема имената на моделите, контекстните прозорци и цените от публикуван информационен лист, по график (най-много веднъж на час) или при поискване. Ако имате договорени цени, можете да ги замените.

Какво предлага всеки тип:

• OpenAI: чат, embeddings, изображения, реч, транскрипция, rerank
• Anthropic: чат
• Google Gemini: чат, embeddings
• Mistral: чат, embeddings, транскрипция
• Groq: чат, транскрипция, реч
• OpenRouter: чат, embeddings, изображения

Добре е да знаете

• Max retries (максимален брой повторни опити) е 0 по подразбиране. Включвайте повторните опити съзнателно.
• При няколко ключа AIG ги редува автоматично. Отхвърлен ключ получава статус Dead или Suspect; ключ, достигнал лимит, показва Cooling down и се връща сам.
• Деактивирането на доставчик спира трафика от следващата заявка, като ключовете се запазват. Изтриването на доставчик изтрива и ключовете му.
• Стрийм заявките в стил OpenAI се остойностяват само ако извикващият изпрати stream_options: {"include_usage": true}.
• API ключовете са само за запис: след запазване виждате само маскирана подсказка като sk-…4f2a, а ключовете на доставчика никога не се появяват в съобщенията за грешки.
• Без лиценз AIG работи в безплатен режим: 5 виртуални ключа с по 5 заявки на ключ на ден. Лицензът премахва ограничението.

Отстраняване на проблеми

• „No enabled key to test with.“ Добавете ключ или активирайте съществуващия и тествайте отново.
• „No model to try. Sync the catalog first…“ Изпълнете Models → Sync и опитайте отново.
• <model> did not answer (<ms> ms): <message> Съобщението идва от доставчика. Проверете ключа и дали акаунтът ви има достъп до този модел.
• No healthy API key is available for provider '…' (503) или Every API key configured for '…' failed for this request. (502): проверете статуса на ключовете (Healthy, Dead, Cooling down, Suspect), поправете ключа и натиснете Clear health flags (изчисти маркерите за състояние). No enabled provider is configured for '…' (400) означава, че няма активиран доставчик с това име.

Говорете с нас за AIG

Искате да видите как AIG пасва на вашия MSP или бизнес с услуги? Говорете с нас за AIG. Прочетете още за всички доставчици в един каталог и виртуалните ключове.