Conectar AWS Bedrock a Xcellerate AIG

Al conectar AWS Bedrock a Xcellerate AIG, los modelos de su propia cuenta de AWS quedan detrás de la misma pasarela que sus otros proveedores. AIG firma cada solicitud con AWS Signature Version 4 y usa la Converse API de Bedrock, de modo que todos los modelos de Bedrock hablan el mismo formato. Sus aplicaciones siguen usando la API compatible con OpenAI de AIG con una clave virtual. Esta guía es para administradores de MSP, pymes y empresas de servicios.

En resumen

• Necesita una región de AWS, un access key ID y una secret access key.
• El chat (sin streaming) y el rerank funcionan a través de Bedrock.
• El streaming a través de Bedrock aún no está disponible: envíe a los clientes con streaming a otro proveedor mediante una alternativa.

Antes de empezar

• Acceso a los modelos que quiera, activado en Bedrock en la región de AWS elegida.
• Credenciales IAM: Access key ID y Secret access key, más un session token si usa credenciales temporales. Deben poder llamar al runtime de Bedrock (Converse) y, para rerank, a la operación Rerank del Bedrock agent runtime. Acuerde la política IAM exacta con su administrador de AWS.
• La región de AWS, por ejemplo eu-central-1.
• Tráfico HTTPS saliente hacia bedrock-runtime.<region>.amazonaws.com (y bedrock-agent-runtime.<region>.amazonaws.com para rerank), o un endpoint de VPC.
• El rol Admin en AIG, o un rol personalizado con permiso para crear y editar proveedores.

Configurar AWS Bedrock

1. Cree el proveedor

Vaya a Connect → Providers (Conectar → Proveedores) y haga clic en Connect a provider (conectar un proveedor) o Add provider (añadir proveedor). Elija el tipo AWS Bedrock y asigne un nombre, por ejemplo «Bedrock Fráncfort». Deje Base URL (URL base) vacío: se deduce de la región. Si usa un endpoint de VPC, introdúzcalo aquí.

2. Introduzca las credenciales de AWS en la clave

Este tipo no necesita una clave API normal. Rellene estos campos en la clave; aparecen con su nombre técnico en todos los idiomas:

• region
• access_key_id
• secret_access_key
• session_token

Los tres primeros son obligatorios. Rellene session_token solo con credenciales temporales.

3. Pruebe y active

Haga clic en Test connection (probar conexión) y después en Enable provider (activar proveedor).

4. Llame a un modelo

Ponga el ID de modelo de Bedrock tras el nombre del proveedor, por ejemplo <provider-name>/anthropic.claude-3-5-sonnet-…-v1:0. Los ID de Bedrock contienen puntos y dos puntos. Si el ID no está en el catálogo, añada un precio personalizado en Cost → Pricing (Costes → Precios).

5. Rerank

Para rerank, el modelo puede ser un ID simple; AIG lo completa como ARN del foundation model en su región. Un ARN completo también funciona.

Qué ocurre después de conectar

• Chat vía Converse: el prompt de sistema, temperature, top-p, max tokens, las secuencias de parada y las definiciones de herramientas se traducen. Las llamadas a herramientas vuelven en formato OpenAI. Los tokens de entrada leídos de caché se informan para el cálculo de precios.
• Rerank: devuelve todos los documentos ordenados, salvo que quien llama indique top_n.
• Sus datos se quedan en la región de AWS que elija.

Conviene saber

• El streaming se rechaza para Bedrock. Si un cliente necesita streaming, configure una alternativa hacia otro proveedor.
• A través de Bedrock solo hay chat y rerank: ni embeddings, ni imágenes, ni audio.
• El proveedor funciona con un access key ID y una secret access key en la clave.
• Las credenciales son de solo escritura y no se vuelven a mostrar. El secreto nunca aparece en los mensajes de error.
• Sin licencia, AIG funciona en modo gratuito: 5 claves virtuales con 5 solicitudes por clave y día.

Solución de problemas

• Bedrock provider '<name>' has no region configured on its key. Rellene region en la clave.
• Un error de credenciales puede deberse a una firma calculada para el servicio o el host equivocado. Revise la región y la Base URL antes de cambiar claves.
• <model> did not answer (<ms> ms): <message> durante la prueba. Compruebe que el acceso al modelo está activado en esa región y que el ID es correcto.
• Streaming is not available through AWS Bedrock on this gateway yet. Retry without "stream": true, or address a fallback that supports it. El cliente pidió streaming. Inténtelo sin streaming o use una alternativa.

Hable con nosotros sobre AIG

¿Quiere saber cómo AIG reúne Bedrock y sus otros proveedores bajo las mismas reglas? Hable con nosotros sobre AIG. Más información sobre todos los proveedores en un catálogo y las claves virtuales.