Adaptieve routering
Stuur elk verzoek naar het juiste model
Schrijf routeringsregels die een operator kan begrijpen: stuur een deel van het verkeer naar een canary, voer een A/B-test uit, geef de voorkeur aan de provider met de laagste latentie, houd gegevens in een regio, of routeer op basis van waar het verzoek werkelijk over gaat.
Inbegrepen
Waarom het belangrijk is
Rol modelwijzigingen veilig uit met canaries en A/B-tests
Houd latentie laag en verkeer automatisch in de regio
Schakel direct over zodra een provider verslechtert
Wat er inbegrepen is
Canary en A/B
Verschuif een gecontroleerd percentage van het verkeer naar een nieuw model en vergelijk voordat u vastlegt.
Latentie- en geo-bewust
Geef de voorkeur aan de snelste gezonde provider, of vergrendel verkeer aan een regio voor gegevensresidentie.
Semantische routering
Routeer op basis van waar het verzoek over gaat en stuur verschillende onderwerpen naar de meest geschikte modellen.
Stroomonderbreker
Wanneer een provider begint te falen, omzeilt de router deze automatisch en doorloopt uw fallbacks.
Klaar om het in actie te zien?
Praat met ons team en we laten u zien hoe Xcellerate AIG in uw stack past.
Gratis aan de slag