Encryptie is van levensbelang om data veilig te houden. Toch is het in de wereld van AI geen vanzelfsprekendheid. Met name als het gaat om de accelerators waar de AI-modellen draaien, is er nog sprake van een gat. VAST Data wil dat met DataEnclave dichten.
Bij het draaien van AI-workloads waarbij proprietaire AI-modellen gebruikmaken van gevoelige enterprise-data, gaan er twee dingen niet zo soepel. Allereerst mogen of willen enterprises vaak niet dat dergelijke modellen bij hun data kunnen. De makers van de AI-modellen willen op hun beurt niet dat hun zogeheten model weights geopenbaard worden in omgevingen waar zij niet de controle hebben. Dat is echter wel wat er nodig is om de modellen hun werk te laten doen.
Een oplossing voor bovenstaande uitdagingen ligt in confidential compute. Binnen de CPU-wereld is dit al een jaar of tien iets wat mogelijk is, middels Trusted Execution Environments. Voor GPU’s is het equivalent daarvan er nog niet, horen we van John Mao, VP of Global Business Development bij VAST Data. Dat is waar VAST Data’s nieuwe DataEnclave om de hoek komt kijken.
VAST DataEnclave is een confidential runtime
Met DataEnclave doet VAST iets waar het al een tijdje over praat. In een eerder artikel vertelden we al dat het bedrijf dichter naar de GPU-laag wil toekruipen. Dat doet het met DataEnclave zeker. Dit is namelijk een confidential runtime voor Nvidia GPU’s. Met andere woorden, de propriëtaire AI-modellen doen hun werk binnen de confidentiële VM’s die opgezet worden binnen Trusted Execution Environments. Op deze manier hoeven de modelbouwers niet te vrezen en wordt de data van organisaties eveneens goed beschermd, is het verhaal.
In de praktijk moet VAST DataEnclave workloads beschermen binnen de confidentiële VM’s/containers/runtime die het aanbiedt. Dat houdt in dat geheugen en NVLink-verkeer (tussen GPU’s) wordt voorzien van encryptie. Dit doet het terwijl het data en modellen isoleert. Ook op gedeelde resources (wat heel vaak het geval is) moet dit dus betekenen dat alles binnen dezelfde confidentiële omgeving blijft.
Een belangrijke andere component van VAST DataEnclave is dat er naar eigen zeggen observability aan is toegevoegd waar niet mee geknoeid kan worden. Dat kan ook bewezen worden aan de hand van logs die opgeslagen worden in de VAST DataBase. Het is ook mogelijk om dit te auditen. Op deze manier moet het confidentiële karakter van DataEnclave ook aantoonbaar zijn.
Interessant aan DataEnclave is dat de CPU een belangrijke rol speelt. De Trusted Execution Environments van CPU’s van Intel, AMD, maar ook Nvidia vormen namelijk de basis voor de confidentiële omgevingen die DataEnclave biedt.
Het OS voor AI, onderdeel van ecosysteem
Met DataEnclave zet VAST Data een volgende stap in de missie om het besturingssysteem voor AI te worden. Om dat te worden, is het belangrijk dat het een rol kan spelen in de hele lifecycle van AI-workloads. Dat is op zich ook belangrijk, want zonder dat je de volledige keten onder controle hebt, is het lastig om modellen en data optimaal met elkaar te laten samenwerken. AI naar de data brengen, iets wat veel spelers in de AI-markt tegenwoordig roepen, is ook alleen maar mogelijk als dit op een verantwoorde en veilige manier kan. Daarvoor is controle over de hele keten eveneens belangrijk.
VAST Data richt zich uiteraard alleen op het ontwikkelen van wat het zelf het OS noemt voor AI. Het verkoopt geen hardware en bouwt zelf geen modellen. Uiteraard is het bredere ecosysteem wel belangrijk om lokale AI op lokale data mogelijk te maken zoals het dit voor ogen heeft met DataEnclave. Het is dan ook belangrijk om tot slot te vermelden dat dit ecosysteem er ook is.
Uiteraard zijn de hardware-leveranciers waar VAST al jaren mee samenwerkt, zoals Cisco en Supermicro, onderdeel van het esosysteem. Interessanter is wat ons betreft echter dat er ook modellen uit allerlei gebieden beschikbaar zijn. Modellen van onder andere Nvidia, Crowdstrike, TwelveLabs, Cohere en Deepgram kunnen ingezet worden binnen DataEnclave.
VAST DataEnclave moet zoals het er nu naar uitziet in Q1 van 2027 beschikbaar komen.