Routage adaptatif
Envoyez chaque requête au bon modèle
Rédigez des règles de routage lisibles par un opérateur : envoyez une portion du trafic vers un canary, exécutez un test A/B, privilégiez le fournisseur à la latence la plus faible, conservez les données dans une région, ou routez selon le contenu réel de la requête.
Inclus
Pourquoi c'est important
Déployez les changements de modèle en toute sécurité avec des canaries et des tests A/B
Maintenez une faible latence et gardez le trafic en région automatiquement
Basculez dès qu'un fournisseur se dégrade
Ce qui est inclus
Canary et A/B
Déplacez un pourcentage contrôlé du trafic vers un nouveau modèle et comparez avant de valider.
Latence et géolocalisation
Privilégiez le fournisseur sain le plus rapide, ou épinglez le trafic dans une région pour la résidence des données.
Routage sémantique
Routez selon le contenu de la requête, en dirigeant différents sujets vers les modèles les mieux adaptés.
Disjoncteur
Lorsqu'un fournisseur commence à échouer, le routeur le contourne et parcourt automatiquement vos solutions de repli.
Prêt à le voir en action ?
Parlez à notre équipe et nous vous montrerons comment Xcellerate AIG s'intègre à votre stack.
Commencer gratuitement