Met Xcellerate AIG komt je AI-verkeer terecht in de monitoringtools die je al gebruikt: Prometheus en Grafana voor metrics, elke OpenTelemetry-tracestore voor traces per verzoek, JSON-containerlogs voor je logshipper en ondertekende webhooks voor je SIEM, SOAR of ITSM. Alerting verwittigt de juiste mensen via e-mail, Slack of webhook als een budget op is, een providersleutel niet meer werkt of een guardrail een prompt blokkeert.
TL;DR
- Prometheus scrapet
/metrics, traces gaan via OTLP/HTTP naar buiten en logs zijn JSON op stderr.- Ondertekende webhooks (HMAC-SHA256) voeden je SIEM, SOAR of ITSM. Een aparte SIEM-connector is er niet.
- Alerts gaan via e-mail, Slack of webhook.
Voordat je begint
- Je hebt de rol Admin in AIG. Metrics & tracing, Webhooks en Waarschuwingen zijn beheerschermen.
- Prometheus kan
https://<your-gateway>/metricsbereiken op je interne netwerk. Dat endpoint is niet bereikbaar via het publieke toegangspunt. - Voor traces: een OTLP/HTTP-endpoint (Tempo, Jaeger, OpenTelemetry Collector of een gehoste APM), meestal eindigend op
/v1/traces, plus eventuele ingest-header of token. - Voor webhooks: een HTTPS-ontvanger (intern mag) die HMAC-handtekeningen controleert. Voor Slack: een incoming-webhook-URL. Voor e-mailalerts: uitgaande mail ingesteld in de algemene instellingen.
Je monitoring koppelen
1. Metrics voor Prometheus en Grafana
Open Alle schermen → Algemene instellingen → Metrics & tracing en schakel metrics in. Je kunt scrapen beperken tot IP-adressen of CIDR-bereiken, tot basic auth, of beide. Voeg in Prometheus een scrape-job toe voor /metrics. Importeer het Grafana-dashboard dat met de deploymentbestanden meekomt en plak het adres ervan in Dashboard URL.
2. Traces via OpenTelemetry
Zet op dezelfde pagina Traces exporteren aan. Plak het OTLP/HTTP-endpoint en, indien nodig, een ingest-token bij Extra verzoekheaders. Stel Servicenaam en Steekproef (%) in. Vul Sjabloon voor tracelink in met {trace_id}, zodat de loglade rechtstreeks naar de trace linkt.
3. Webhooks voor je SIEM, SOAR of ITSM
Ga naar Alle schermen → Webhooks en klik op Add endpoint (endpoint toevoegen). Geef een naam en URL op en vink de events aan die je nodig hebt; standaard is niets geabonneerd. Kopieer het ondertekeningsgeheim (wordt één keer getoond), druk op Test en volg Recent deliveries (recente leveringen).
4. Alerts via e-mail, Slack of webhook
Ga naar Alle schermen → Waarschuwingen en klik op Add a channel (kanaal toevoegen): een e-maillijst, een Slack-incoming-webhook of een URL. Druk op Send a test (test versturen). Schakel daarna een van de vijf standaardregels in (die staan allemaal uit) of maak een eigen regel: event, optionele voorwaarde, throttle in minuten en kanalen.
5. Healthchecks voor self-hosted AIG
Laat je load balancer of uptime-monitor /up (liveness) en /up/ready (readiness) controleren.
Wat gebeurt er na het koppelen
- Metrics: aantallen verzoeken en fouten, histogrammen voor latency en eerste token, tokens, kosten, retries, sleutelrotaties en sleutelgezondheid, lopende verzoeken, wachtrijdiepte, cache hit rate, circuitstatus, guardrail-evaluaties en toolaanroepen. Het aantal labelwaarden is begrensd.
- Traces: één span per verzoek (model, provider, tokens, kosten, sleutel, team), met child spans per upstream-poging, toolaanroep en guardrail-oordeel. Een binnenkomende
traceparentwordt voortgezet. - Logs: één JSON-regel op stderr met node en request-ID.
X-Request-Idverbindt de aanroeper, je logs en het requestlog van AIG. - Webhooks: een JSON-POST met
X-XC-Event,X-XC-Delivery,X-XC-TimestampenX-XC-Signature: sha256=…, een HMAC-SHA256 van<timestamp>.<body>. Mislukte leveringen worden met toenemende tussenpozen opnieuw geprobeerd en daarna op Given up gezet; dan kun je ze zelf opnieuw versturen. - Live grafieken vind je onder Verkeer → Observability.
Goed om te weten
- Er is geen aparte connector voor Splunk, Microsoft Sentinel of Elastic. Je SIEM neemt AIG op via deze standaarduitvoer.
- Alertkanalen zijn e-mail, Slack en webhook; een kanaal voor Microsoft Teams is er niet.
- Ligt de tracestore plat, dan laat AIG die batches vallen en maakt het een event aan waarop je kunt alerten. Verzoeken worden nooit trager.
- Een webhookgeheim roteren heeft geen overgangsperiode: pas eerst de ontvanger aan. Loopback- en cloud-metadata-adressen worden altijd geweigerd als webhookdoel.
- Een regel met een onleesbare voorwaarde gaat nooit af. Throttle 0 betekent: bij elk voorval.
Probleemoplossing
/metricsgeeft 404 "metrics are disabled" (zet metrics aan), 403 "forbidden" (IP niet toegestaan) of 401 "unauthorised" (controleer basic auth).- Observability toont "Nothing sampled yet…": controleer of de scheduler-container draait en of metrics aanstaan.
- Een regel toont "No channels — nobody would be told": voeg minstens één kanaal toe.
- Een webhook blijft op Retrying of Given up: controleer de ontvanger en gebruik dan Retry.
Lees meer over observability, het audit log en request logs.
Wil je AIG in je eigen Grafana en SIEM zien? Praat met ons over AIG.
