Om AI in bedwang te houden, proberen partijen als Red Hat voor vangrails te zorgen. De vaardigheid om dat te doen wordt nu bij dat bedrijf uitgebreid via een overname van Chatterbox Labs. Cloudomgevingen, hybride of niet, ontvangen via de tooling van Chatterbox ingebouwde beveiliging.
Het in 2011 opgerichte Chatterbox Labs richt zich op AI-security, transparantie over AI-activiteit en kwantitatieve risicoanalyse. De technologie van het bedrijf biedt geautomatiseerde security- en safetytests die risicometrics genereren voor enterprise-implementaties. Dat is een belangrijk puzzelstukje om de AI-opmars te voorzien van de vereiste stabiliteit. Zo voorspelt IDC voor 2025 AI-uitgaven van 227 miljard dollar in de enterprise-markt, maar het opschalen van pilots naar productie blijft kostbaar en complex. Om die stap veilig uit te voeren, kan de beschermlaag van Chatterbox bijzonder nuttig zijn.
Drie pijlers van AI-beveiliging
De stack van Chatterbox Labs rust op drie componenten. AIMI for gen AI levert kwantitatieve risicometrics voor LLM’s. AIMI for predictive AI valideert AI-architecturen op robuustheid, eerlijkheid en verklaarbaarheid. Tot slot identificeren en verhelpen de Guardrails onveilige, toxische of bevooroordeelde prompts voordat modellen in productie gaan.
Die laatste functie is cruciaal geworden. Veel organisaties worstelen met de vraag hoe ze generatieve AI veilig kunnen inzetten zonder constant handmatig toe te zien. De guardrails-technologie automatiseert dat proces en voorkomt dat problematische content überhaupt het model bereikt. Gezien de veranderlijke aard van onderliggende LLM’s en de relatief harde grens die de technologie lijkt te bereiken als het om hallucinaties gaat, is het inperken van die problemen via stabiele methoden broodnodig.
Strategische focus op agentic AI
Red Hat ziet de overname als een logische stap om agentic AI te verrijken. Het Model Context Protocol (MCP) is bijvoorbeeld enkel bedoeld om modellen te laten communiceren met applicaties, maar biedt daarbij geen ingebouwde veiligheid. Chatterbox Labs heeft al onderzoek gedaan naar agentic security, zoals het monitoren van agent-responses en het detecteren van MCP server action triggers. Die technologie past bij Red Hats roadmap voor Llama Stack en MCP-ondersteuning.
Hybrid cloud als fundament
Red Hat kondigde eerder al samenwerkingen aan met Nvidia, Intel en AMD om diverse AI-infrastructuren te ondersteunen. Die strategie van keuze boven lock-in trekt zich nu door naar de security-kant met Chatterbox Labs.