Адаптивна маршрутизація
Надсилайте кожен запит до потрібної моделі
Пишіть правила маршрутизації, зрозумілі оператору: надсилайте частину трафіку на canary, проводьте A/B-тести, надавайте перевагу провайдеру з найнижчою затримкою, зберігайте дані в регіоні або маршрутизуйте на основі змісту запиту.
Включено
Чому це важливо
Безпечно впроваджуйте зміни моделей за допомогою canary та A/B-тестів
Автоматично підтримуйте низьку затримку та утримуйте трафік у регіоні
Перемикайтеся миттєво, щойно провайдер починає деградувати
Що входить до складу
Canary та A/B
Перенаправте контрольований відсоток трафіку на нову модель і порівняйте результати перед фіксацією змін.
Врахування затримки та геолокації
Надавайте перевагу найшвидшому справному провайдеру або закріплюйте трафік за регіоном для дотримання вимог резидентності.
Семантична маршрутизація
Маршрутизуйте на основі змісту запиту, надсилаючи різні теми до найбільш відповідних моделей.
Автоматичний вимикач
Коли провайдер починає давати збої, маршрутизатор автоматично обходить його та перемикається на резервні варіанти.
Готові побачити це в дії?
Поговоріть з нашою командою, і ми покажемо, як Xcellerate AIG вписується у вашу інфраструктуру.
Почати безкоштовно