Om AI-systemen veilig en betrouwbaar te houden, implementeren bedrijven zoals Red Hat zogeheten guardrails. Deze capaciteit wordt nu versterkt door de overname van Chatterbox Labs. De tooling van Chatterbox brengt ingebouwde beveiliging naar cloudomgevingen, zowel hybride als volledig cloud-based.
Het in 2011 opgerichte Chatterbox Labs specialiseert zich in AI-beveiliging, transparantie van AI-activiteiten en kwantitatieve risicoanalyses. De technologie biedt geautomatiseerde security- en safetytests die risicometrics genereren voor enterprise-implementaties. Dit vormt een essentieel onderdeel voor het veilig opschalen van AI-initiatieven. IDC voorspelt voor 2025 AI-uitgaven van 227 miljard dollar in de enterprise-markt, maar het opschalen van pilots naar productie blijft kostbaar en complex. De beveiligingslaag van Chatterbox kan organisaties helpen deze stap veiliger te maken.
Drie pijlers van AI-beveiliging
De technologiestack van Chatterbox Labs bestaat uit drie componenten. AIMI for Gen AI levert kwantitatieve risicometrics voor large language models (LLM’s). AIMI for Predictive AI valideert AI-architecturen op robuustheid, eerlijkheid en verklaarbaarheid. De Guardrails-component identificeert en blokkeert onveilige, toxische of bevooroordeelde prompts voordat modellen in productie gaan.
Deze laatste functie is cruciaal. Veel organisaties worstelen met de vraag hoe ze generatieve AI veilig kunnen inzetten zonder voortdurend handmatig toezicht. De guardrails-technologie automatiseert dit proces en voorkomt dat problematische content het model bereikt. Gezien de volatiele aard van onderliggende LLM’s en persistente uitdagingen rondom hallucinaties, is het inperken van deze problemen via betrouwbare methoden essentieel.
Strategische focus op agentic AI
Red Hat beschouwt de overname als een logische stap om agentic AI-toepassingen te versterken. Het Model Context Protocol (MCP) faciliteert bijvoorbeeld communicatie tussen modellen en applicaties, maar biedt geen ingebouwde beveiliging. Chatterbox Labs heeft al onderzoek verricht naar agentic security, zoals het monitoren van agent-responses en het detecteren van MCP server action triggers. Deze technologie sluit aan bij Red Hats roadmap voor Llama Stack en MCP-ondersteuning.
Hybride cloud als fundament
Red Hat heeft eerder samenwerkingen aangekondigd met Nvidia, Intel en AMD om diverse AI-infrastructuren te ondersteunen. Deze strategie van flexibiliteit boven vendor lock-in wordt nu uitgebreid naar de beveiligingskant met de integratie van Chatterbox Labs.
