Connecter AWS Bedrock à Xcellerate AIG

En connectant AWS Bedrock à Xcellerate AIG, vous placez les modèles de votre propre compte AWS derrière la même passerelle que vos autres fournisseurs. AIG signe chaque requête avec AWS Signature Version 4 et utilise l'API Converse de Bedrock, pour que chaque modèle Bedrock parle le même format. Vos applications continuent d'utiliser l'API compatible OpenAI d'AIG avec une clé virtuelle. Ce guide s'adresse aux administrateurs de MSP, de PME et d'entreprises de services.

En bref

• Il vous faut une région AWS, un access key ID et une secret access key.
• Le chat (sans streaming) et le rerank fonctionnent via Bedrock.
• Le streaming via Bedrock n'est pas encore disponible : orientez les clients en streaming vers un autre fournisseur via une solution de repli.

Avant de commencer

• L'accès aux modèles souhaités, activé dans Bedrock pour la région AWS choisie.
• Une paire de clés IAM : Access key ID et Secret access key, plus un session token si vous utilisez des identifiants temporaires. Elle doit pouvoir appeler le runtime Bedrock (Converse) et, pour le rerank, l'opération Rerank du Bedrock agent runtime. Définissez la politique IAM exacte avec votre administrateur AWS.
• La région AWS, par exemple eu-central-1.
• Un accès HTTPS sortant vers bedrock-runtime.<region>.amazonaws.com (et bedrock-agent-runtime.<region>.amazonaws.com pour le rerank), ou un endpoint VPC.
• Le rôle Admin dans AIG, ou un rôle personnalisé autorisé à créer et modifier des fournisseurs.

Configurer AWS Bedrock

1. Créez le fournisseur

Allez dans Connexion → Fournisseurs et cliquez sur Connecter un fournisseur (ou Ajouter un fournisseur). Choisissez le type AWS Bedrock et donnez un nom, par exemple « Bedrock Francfort ». Laissez URL de base vide : elle est déduite de la région. Si vous utilisez un endpoint VPC, saisissez-le ici.

2. Saisissez les identifiants AWS sur la clé

Ce type ne demande pas de clé API classique. Remplissez ces champs sur la clé ; ils s'affichent avec leur nom technique dans toutes les langues :

• region
• access_key_id
• secret_access_key
• session_token

Les trois premiers sont obligatoires. session_token ne sert que pour des identifiants temporaires.

3. Testez et activez

Cliquez sur Tester la connexion, puis sur Enable provider (activer le fournisseur).

4. Appelez un modèle

Utilisez l'identifiant de modèle Bedrock après le nom du fournisseur, par exemple <provider-name>/anthropic.claude-3-5-sonnet-…-v1:0. Les identifiants Bedrock contiennent des points et des deux-points. Si l'identifiant manque au catalogue, ajoutez un tarif personnalisé sous Cost → Pricing (coûts → tarifs).

5. Rerank

Pour le rerank, le modèle peut être un simple identifiant ; AIG le complète en ARN de foundation model dans votre région. Un ARN complet fonctionne aussi.

Ce qui se passe après la connexion

• Chat via Converse : prompt système, temperature, top-p, max tokens, séquences d'arrêt et définitions d'outils sont traduits. Les appels d'outils reviennent au format OpenAI. Les jetons d'entrée lus depuis le cache sont remontés pour la tarification.
• Rerank : renvoie tous les documents classés, sauf si l'appelant précise top_n.
• Vos données restent dans la région AWS que vous choisissez.

Bon à savoir

• Le streaming est refusé pour Bedrock. Si un client veut du streaming, prévoyez une solution de repli vers un autre fournisseur.
• Via Bedrock, seuls le chat et le rerank sont disponibles : pas d'embeddings, d'images ni d'audio.
• Le fournisseur fonctionne avec un access key ID et une secret access key sur la clé.
• Les identifiants sont en écriture seule et ne sont plus jamais affichés. Le secret n'apparaît jamais dans les messages d'erreur.
• Sans licence, AIG fonctionne en mode gratuit : 5 clés virtuelles, 5 requêtes par clé et par jour.

Dépannage

• Bedrock provider '<name>' has no region configured on its key. Renseignez region sur la clé.
• Une erreur d'identifiants peut venir d'une signature calculée pour le mauvais service ou le mauvais hôte. Vérifiez d'abord la région et l'URL de base avant de remplacer les clés.
• <model> did not answer (<ms> ms): <message> lors du test. Vérifiez que l'accès au modèle est activé dans cette région et que l'identifiant est correct.
• Streaming is not available through AWS Bedrock on this gateway yet. Retry without "stream": true, or address a fallback that supports it. Le client a demandé du streaming. Réessayez sans streaming, ou utilisez une solution de repli.

Parlons d'AIG

Vous voulez savoir comment AIG réunit Bedrock et vos autres fournisseurs sous une même gouvernance ? Parlez-nous d'AIG. Pour aller plus loin : tous les fournisseurs dans un catalogue et les clés virtuelles.