Adaptacyjne routing
Kieruj każde żądanie do właściwego modelu
Pisz reguły routingu czytelne dla operatora: kieruj część ruchu do canary, przeprowadzaj testy A/B, preferuj dostawcę o najniższym opóźnieniu, utrzymuj dane w regionie lub routuj na podstawie tego, czego żądanie faktycznie dotyczy.
Zawarte
Dlaczego to ważne
Bezpiecznie wdrażaj zmiany modeli za pomocą canary i testów A/B
Automatycznie utrzymuj niskie opóźnienia i ruch w regionie
Przełączaj awaryjnie w momencie degradacji dostawcy
Co jest zawarte
Canary i A/B
Przenieś kontrolowany procent ruchu do nowego modelu i porównaj wyniki przed zatwierdzeniem.
Świadomość opóźnień i lokalizacji
Preferuj najszybszego sprawnego dostawcę lub przypnij ruch do regionu ze względu na rezydencję danych.
Routing semantyczny
Routuj na podstawie treści żądania, kierując różne tematy do najlepiej dopasowanych modeli.
Wyłącznik automatyczny
Gdy dostawca zaczyna zawodzić, router omija go i automatycznie przechodzi przez kolejne opcje awaryjne.
Gotowy, aby zobaczyć to w akcji?
Porozmawiaj z naszym zespołem, a pokażemy Ci, jak Xcellerate AIG pasuje do Twojego stosu.
Zacznij za darmo