Als het aan SAS ligt, hoeft governance absoluut geen rem op innovatie te zijn. Integendeel. De juiste aanpak moet verantwoord AI-gebruik aantrekkelijk en haast onweerstaanbaar maken. Daarom staat SAS op het punt de AI Navigator te lanceren. We spraken over de nieuwe tool met Reggie Townsend, Vice President of AI Ethics, Governance and Social Impact.
Een tool als de AI Navigator is wat Townsend betreft broodnodig. Dat blijkt alleen al uit IDC-onderzoek dat SAS liet uitvoeren. Maar liefst 46 procent van de bedrijven worstelt met een gebrek aan afstemming tussen investeringen in verantwoorde AI en het daadwerkelijke vertrouwen in AI. Townsend spreekt hierbij over de “Trust Imperative”: zonder de juiste balans hebben AI-initiatieven op z’n zachtst gezegd weinig kans van slagen. De onzekerheid leidt ertoe dat ongeveer de helft van het ware potentieel van AI binnen bedrijven onbenut blijft.
Tegelijkertijd kampen organisaties met de toenemende dreiging van shadow AI. Vergelijkbaar met het fenomeen shadow IT, verwijst dit naar medewerkers die op eigen houtje AI-tools en -modellen gebruiken buiten het officiële IT-ecosysteem van de organisatie. Het gevolg is een verhoogd risico op data- en IP-lekken. “Je vergroot hiermee simpelweg het risico-oppervlak voor de hele organisatie”, stelt Townsend.
De use case als fundamenteel ankerpunt
Een bewuste ontwerpkeuze binnen AI Navigator is dat niet het onderliggende AI-model, maar de specifieke use case (de zakelijke toepassing) centraal staat. Modellen, agents en Large Language Models (LLM’s) worden rondom deze use case gegroepeerd en direct gekoppeld aan het bijbehorende interne of externe beleid.
Je kunt dan denken aan een open-source LLM dat gecompromitteerd is door data poisoning. Via het dashboard van AI Navigator is dan inzichtelijk welke specifieke use cases door het gecompromitteerde model worden aangedreven. Het kan gaan om meerdere gebruikstoepassingen, zoals een interne tool voor het samenvatten van vergaderingen en een brede enterprise-tool voor het opstellen van Request for Proposal (RFP) en Request for Information (RFI).
Op het niveau van de use case toont de tool alle assessments, de operationele status en de toegepaste beleidsregels, waaronder beleid voor third-party vendors en de eisen van de EU AI Act. Een enterprise-use case vereist aanzienlijk meer due diligence dan een eenvoudige interne tool, zelfs als ze in de basis op hetzelfde model draaien. “Elk van die use cases brengt een ander risico met zich mee, ook al zijn ze gekoppeld aan exact hetzelfde model”, aldus Townsend. Dat onderscheid moet voor organisaties altijd zichtbaar én traceerbaar zijn.
Zo kan een RFP-toepassing, zoals we net als voorbeeld aanhaalden, probleemloos blijven functioneren, omdat AI Navigator het mogelijk maakt om razendsnel over te schakelen naar een alternatieve agent. De nieuwe agent beschikt dan over de juiste autorisaties, kent geen openstaande veiligheidswaarschuwingen en de documentatie is volledig op orde. Voor dit soort agents legt het platform gedetailleerde parameters vast, zoals het autonomieniveau, ingestelde guardrails, specifieke vaardigheden en bekende beperkingen. Dit wordt aangevuld met compliancerapporten, een model card en financiële data.
Grip op de uit de hand lopende AI-economie
Naast het mitigeren van operationele en ethische risico’s, benadrukt Townsend dat de economische kant van AI minstens zo belangrijk is voor de C-suite. Het verdienmodel van aanbieders van foundation models verschuift van gesubsidieerde introductietarieven naar een consumptiegebaseerd pay-to-use-model. Veel bedrijven hebben nog geen adequaat budget gereserveerd voor de gigantische hoeveelheden ’tokens’ die momenteel dagelijks door hun afdelingen worden verbruikt.
Wanneer deze stijgende en onvoorspelbare kosten worden gecombineerd met de mogelijke securityproblemen van shadow AI, kunnen de operationele uitgaven van een organisatie exponentieel oplopen. Dat is waar de AI Navigator zich kan bewijzen. “Het belangrijkste verhaal hier is de capaciteit van Navigator om organisaties te helpen bij de bedrijfseconomische aspecten”, vertelt Townsend.
Doordat de use case wordt meegenomen, kunnen organisaties de precieze kosten per specifieke zakelijke behoefte in kaart brengen. Dit geeft bedrijven de wendbaarheid om eenvoudig van model te wisselen als dat financieel of qua prestaties aantrekkelijker is. Zo kan een goedkoper challengermodel ineens de voorkeur krijgen. De gebruiker houdt de regie over hoeveel technische data-engineering in een extern platform blijft en hoeveel direct wordt gekoppeld aan de governance-laag in AI Navigator.Â
Verantwoordelijkheid en een lichtgewicht architectuur
Bij AI-governance blijft wel de vraag hangen wie nou daadwerkelijk de eindverantwoordelijkheid draagt. Hoewel het aanwijzen van één aanspreekpunt voor de hand lijkt te liggen, waarschuwt Townsend voor de valkuilen van sterke centralisatie. Het benoemen van een gecentraliseerde Chief AI Officer of één exclusief ‘AI-team’ kan de illusie wekken dat AI een geïsoleerde afdeling is, terwijl het juist een capaciteit is die door alle lagen van een organisatie heen loopt. SAS kiest intern bijvoorbeeld bewust voor een cross-functioneel adviescomité.
Om bedrijven hierin te faciliteren, werkt AI Navigator met vooraf gedefinieerde persona’s. Hierdoor kan een organisatie zelf inregelen wie optreedt als beslisser en wie als uitvoerder. Of de eindverantwoordelijke persoon uiteindelijk ook wettelijk aansprakelijk moet zijn, blijft een complexe en moeilijk te voorspellen kwestie. Townsend vergelijkt de adoptie van AI in dit kader met elektriciteit. Ook daar is binnen een groot bedrijf niet één individuele persoon verantwoordelijk voor alle mogelijke nadelen en risico’s.
Om te voorkomen dat de governance-tool transformeert in een bureaucratisch obstakel, is AI Navigator bewust ‘nimble’ en lichtgewicht gehouden. Townsend schetst overbodige ballast te willen vermijden. Te veel functionaliteit maakt een product log en wekt weerstand op. Hij trekt de vergelijking met de iPhone. Dat apparaat beschikt over een enorme capaciteit, maar je ziet niet alles in één oogopslag. Voor executives is de landingspagina strak en functioneel ingericht, met een focus op snelle acties zonder eindeloos klikken. De grootste uitdaging voor de roadmap is de balans vinden. Oftewel, hoeveel workflow de tool moet aannemen versus enkel faciliteren, zonder per ongeluk zelf een dwingende workflowtool te worden.
De bredere governance-strategie
SAS richt zich in wezen al jaren op het doorvoeren van governance in de analytics-benadering van bedrijven. Viya ondersteunt daarin als data- en AI-platform van SAS, terwijl AI Navigator een aparte, lichtgewicht SaaS-oplossing is die zich richt op AI-governance, -inzicht en -toezicht. AI Navigator helpt organisaties bij het inventariseren en beheren van AI-modellen, -agents en -gebruiksscenario’s binnen de gehele organisatie, inclusief AI-assets die mogelijk niet op Viya draaien. De twee oplossingen vullen elkaar aan. Viya helpt organisaties bij het bouwen, implementeren en beheren van AI, terwijl AI Navigator een gecentraliseerd overzicht biedt van AI-gebruik, -governance en -compliance binnen het bredere AI-ecosysteem.
SAS fungeerde tijdens de ontwikkeling van AI Navigator als zijn eigen customer zero. Tijdens interne voorbereidingen op de EU AI Act zocht het bedrijf naar meer grip op het eigen AI-gebruik. Er bleek op de markt weinig te zijn dat direct voldeed. Bestaande oplossingen waren vaak te log of misten hun doel. De tool die SAS daarop intern ontwikkelde, vormt nu de blauwdruk voor dit nieuwe product.
Visie spoedig verwezenlijken
AI Navigator is na een previewfase voor een selecte groep bedrijven bijna klaar om breed te worden uitgerold via de Microsoft Azure Marketplace. Volgens Townsend zijn er tijdens de testperiodes geen verrassende gebruikspatronen opgedoken, al bevestigen sommige signalen vanuit klanten wel alvast toekomstige updates voor de roadmap.
Townsend vat de visie achter AI Navigator uiteindelijk kernachtig samen. AI-systemen zijn ontworpen om de menselijke capaciteit op te schalen, wat het risico met zich meebrengt dat ze het menselijk oordeel geleidelijk verdringen. Juist dat oordeel moet behouden blijven. Het platform draait dan ook niet om het afremmen van innovatie. “Governance is simpelweg een manier om goed oordeel op te schalen”, aldus Townsend. Blind technologie adopteren is niet het doel, verantwoord oordeel wel.
Tip: SAS-analytics zit steeds korter op Snowflake, Databricks en Fabric