Private en soevereine AI van Nederlandse bodem heeft storage nodig die kan voldoen aan de strikte eisen die Nebul en wetgeving eraan stellen.
AI heeft toegang nodig tot data om effectief te zijn. Dit is niet zelden gevoelige data die organisaties niet zomaar overal willen en kunnen neerzetten. Private AI en soevereine AI worden dus steeds belangrijker. Serie-ondernemer Arnold Juffer, de CEO van het Nederlandse Nebul, zag dat samen met zijn team al jaren geleden aankomen (ver voordat ChatGPT beschikbaar kwam) en ging aan de slag.
Het resultaat van de inspanningen van Juffer en Nebul is een PaaS met als doel om organisaties naadloos gebruik te kunnen laten maken van AI in combinatie met hun eigen omgeving. De nadruk ligt primair op inference, niet zozeer op training. Op het gebied van storage koos Nebul voor NetApp. We spraken met Juffer en Pascal de Wild, Senior Solutions Engineer bij NetApp, onder andere over deze samenwerking.
Nebul is een bijzondere neocloud
De vraag die Juffer zich samen met zijn team stelde voordat Nebul uiteindelijk het levenslicht zag was duidelijk. In de woorden van Juffer: “Hoe maak je private clouds performant en compliant?” Public clouds vooral gebouwd voor gemak, niet zozeer voor de beste prestaties, terwijl HPC-omgevingen weliswaar enorm krachtig zijn, maar heel erg op maat gemaakt zijn voor de workloads die ze draaien. Daartussenin zag Juffer ruimte voor wat nu dus Nebul is.
Interessant detail in de achtergrond van Juffer en dus ook van Nebul is dat hij altijd bezig is geweest met high-performance infrastructuur. Dat ging van de pure hardware, via software-defined naar een cloudmodel, maar de basis bleef altijd HPC. Dat maakt Nebul een bijzondere neocloud. Veel andere neoclouds (waarvan CoreWeave de bekendste is) vinden hun oorsprong in crypto.
Nebul heeft partnerships met Nederlandse datacenterspelers zoals Eurofiber, NorthC Datacenters en Switch Datacenters. Daarvandaan levert het bedrijf de platformdiensten aan klanten.
Je zou dus kunnen zeggen dat de overheid helemaal geen 200 miljoen euro hoeft vrij te maken voor het bouwen van een AI factory. Die is er al, verspreid over meerdere locaties in Nederland. Volgens Juffer zal deze investering alleen maar voor verstoring zorgen. De overheid moet vooral faciliteren, is hij van mening, en zich niet bemoeien met de daadwerkelijke bouw van (in dit geval) een AI factory.
De uitdaging van het hosten van AI inferencing
We gaven hierboven al aan dat Nebul zich primair bezighoudt met het aanbieden van een AI-platform voor inferencing. Op deze PaaS-omgeving draait de eigen cloud die Nebul aanbiedt, maar klanten kunnen er ook gebruik van maken. Daarnaast biedt Nebul ook Model-as-a-Service aan, waarmee klanten bijvoorbeeld soeverein Deepseek kunnen draaien. En er is een RAG-model beschikbaar, dat hoeven klanten ook niet meer zelf te doen. Dit gaat door het leven als AI Studio Search.
Een dergelijke omgeving is op allerlei vlakken iets totaal anders dan een infrastructuur bouwen voor het trainen van AI-modellen. Kijken we naar supercomputers die gebruikt worden om AI-modellen te trainen, dan zijn dat enorm gespecialiseerde single-tenant systemen. Wil je inferencing aan gaan bieden, dan moet het multi-tenant zijn. De inferencing-markt bestaat namelijk wel uit veel kleinere klanten die je allemaal vanuit een enkele omgeving wilt kunnen bedienen.
Een dergelijke omgeving bouw je niet alleen anders op, maar stelt ook andere eisen op het gebied van security, klantisolatie en bestaande infrastructuur bij klanten. Alleen als deze optimaal is ingericht kan Nebul schaalbaar en soeverein Private AI aanbieden in een enkele instance die uitsluitend draait voor een enkele klant.
De rol van NetApp
Dan komen we nu bij de rol die NetApp speelt in het bouwen van de soevereine AI-cloud die Nebul in de markt zet. Nebul heeft in 2024 gekozen voor de AFF-A90 als storage. De A90 is een van de topmodellen uit de serie, die sowieso met name in de markt is gezet voor precies de doeleinden die Nebul voor ogen heeft, waaronder AI-inferencing en RAG.
De focus van NetApp op AI met de AFF-A90 (eigenlijk de hele AFF-serie) is niet alleen maar een marketingkreet. NetApp kan met deze lijn voldoen aan de eisen die een partij zoals Nebul stelt aan de storagelaag. De prestaties zijn uitstekend en (belangrijker nog) NetApp heeft multi-tenancy uitstekend voor elkaar. Sterker nog, Nebul heeft meerdere aanbieders getest en de combinatie van de prestaties die ze zochten en de multi-tenancy die ze eisten “hebben we alleen met NetApp voor elkaar gekregen”, geeft Juffer aan.
Meeliften op schaal van NetApp
Tot slot is het ook niet onbelangrijk om te vermelden dat NetApp met meer dan 30 jaar aan ervaring en dus ook klanten in de enterprise-markt een grote installed base heeft. Met name in de wat meer gereguleerde omgevingen zoals overheid, healthcare, biotech, die doorgaans op zoek zijn naar soevereine oplossingen, is dit een groot voordeel. Daar zijn de compliance-eisen hoog, eisen waar NetApp mee overweg kan. Alle certificeringen op het gebied van soevereiniteit en security die Nebul heeft, heeft NetApp ook. Dus ook op dit punt is het een goede match tussen de twee partijen.
Nebul kan de schaal van NetApp dus goed gebruiken. In eerste instantie gaat het dan vooral om het verhaal te kunnen vertellen. “We hebben best een beetje last van onbegrip in de markt”, geeft Juffer aan. Met andere woorden, de kennis op het gebied van (generatieve) AI is vrij laag. ChatGPT kennen de mensen nog wel, maar dan houdt het wel een beetje op. Als Nebul her en der via het bereik van NetApp deze kennis wat meer op kan krikken, is dat voor iedereen positief, is het idee.
Wacht niet op een AI factory
Nebul laat zien dat het, mede dankzij de inzet van NetApp-systemen en -software, nu al prima mogelijk is om vrij laagdrempelig gebruik te maken van een platform voor (onder andere) AI-inferencing en RAG. Organisaties die nu nog zitten te wachten op wat de overheid van het fenomeen AI factory gaat maken (sowieso geen goed idee, wat ons betreft, maar dat terzijde), zouden ook eens naar het platform van Nebul kunnen kijken. Daar heb je in feite al een AI factory tot je beschikking.
Nebul loopt met het aanbod dat het heeft ontwikkeld, met een nadruk op compliance, voor de troepen uit. Dat is zonder meer een moedige zet. Het is ook een noodzakelijke zet als we organisaties in Nederland in staat willen stellen om echt gebruik te gaan maken van AI inferencing. Het zal echt niet meteen storm gaan lopen, daarvoor moet er ook simpelweg nog meer kennis komen in de markt. Het begin is er echter. Met de ingangen die NetApp biedt aan Nebul ziet de toekomst er ook goed uit. Wordt ongetwijfeld vervolgd.
Lees ook: NetApp bouwt aan een Intelligent Data Infrastructure: wat is dat?