De kosten van AI-gebruik hebben tot uiteenlopende ideeën geleid rondom ’tokenomics’. De enige manier om de controle over AI-kosten te houden, is door te kiezen voor lokale rekenkracht. ASUS biedt hiervoor een eigen AI-supercomputer aan, inclusief volledig beheer van de AI-modellen en -workloads. Wat is er mogelijk met de ASUS ExpertCenter Pro ET900N G3?
Lokale AI heeft via open-weight modellen de afgelopen jaren gigantische sprongen gemaakt. Daar waar ChatGPT, Gemini en Claude achter gesloten deuren beschikbaar zijn via de API, is het open-weight aanbod vanuit DeepSeek, Mistral, Moonshot AI en vele andere partijen divers. Maar voor de beste prestaties is er meer nodig dan alleen een download en een chatvenster.
De ASUS ExpertCenter Pro ET900N G3 is gebaseerd op de NVIDIA DGX Station-architectuur. Het kloppende hart van dit systeem is de NVIDIA GB300 Grace Blackwell Ultra Superchip. Deze bestaat uit een Grace CPU met 72 Arm Neoverse V2-cores en een Blackwell Ultra GPU. Deze twee chips beschikken samen over een coherente geheugenpool van 748 GB. Dat is een capaciteit die de meest geavanceerde modellen op supersnel HBM3e-geheugen plaatst (252 GB) en 496 GB aan LPDDR5X bij de CPU.
De rekenkracht komt uit op maximaal 20 petaFLOPS voor FP4-berekeningen, de meest voorkomende voor AI-gebruik. Indien er nog meer rekenkracht gewenst is, zijn er twee ASUS ExpertCenter Pro ET900N G3-systemen te koppelen via de ingebouwde NVIDIA ConnectX-8 SuperNIC, die tot 800 Gb/s aan netwerkbandbreedte levert. Zo ontstaat een opstelling met ruim 1,4 TB aan coherent geheugen en tot wel 40 petaFLOPS aan AI-rekenkracht.
Lees ook: Hoe ASUS van AI-ambitie een ASUS AI POD maakt
Een AI-datacenter in een tower-formaat
Lokale AI is in veel gevallen een kwestie van compromissen. Op de schaal van de ASUS ExpertCenter Pro ET900N G3 is dit niet het geval. Feitelijk is de Grace Blackwell Superchip van NVIDIA een datacenterproduct, evenals de RAM-capaciteit. Het draaien van grote modellen op volle precisie en hoge snelheid maakt het mogelijk om een cloudervaring te krijgen voor complexe agentic workflows zonder dat er een API-call nodig is.
Bij dat proces moet de CPU niet onderschat worden. In agentic loops wisselen tool calls en inferencing elkaar voortdurend af, waarbij het geheugen continu wordt aangesproken. NVLink-C2C verbindt CPU en GPU met een doorvoersnelheid van 900 GB/s, zodat beide in dezelfde coherente geheugenpool werken en niet data hoeven te kopiëren. Bij interne tests met een groot Qwen-model van honderden miljoenen paraemters behaalde het systeem 864 tokens per seconde aan output, met 1.600 tokens per seconde voor input en output samen.
Dit alles is niet in een serverrack te vinden, maar in een regulier ogende tower. Closed loop liquid cooling en een 1.600 Watt Titanium-voeding moeten het systeem ook bij langdurige workloads stabiel houden. Voor koeling zijn er dus geen gierende ventilatoren in een aparte ruimte nodig. De ASUS ExpertCenter Pro ET900N G3 kan dus gewoon bij een bureau staan.
De AI-stack in één pakket
De juiste hardware is enkel optimaal te benutten met de juiste software. Dit bestaat uit een mengelmoes van ASUS-, NVIDIA- en opensource-software. NVIDIA DGX OS maakt gebruik van Ubuntu 24.04 LTS met de NVIDIA AI Developer Tools. Drivers, CUDA en de belangrijkste CUDA-X libraries zijn vooraf geïnstalleerd en op elkaar afgestemd, waaronder cuDNN, TensorRT, NCCL en de data science-libraries cuDF en cuML. ASUS wil met deze configuratie tijdrovend werk wegenemen waarbij ontwikkelaars of systeembeheerders allerlei versies moeten matchen met elkaar en dependency-conflicten moeten oplossen.
De stack bestaat daarnaast uit een reeks bouwstenen. Denk aan Multi-Instance GPU (MIG), bedoeld om de AI-rekenkracht op te splitsen in maximaal zeven geïsoleerde instances. Dit maakt het mogelijk voor ontwikkelaars om workloads naast elkaar te draaien op dezelfde hardware. Kubernetes en Run:ai vormen de orkestratielaag, terwijl NVIDIA Sync en Brew werk met het systeem op afstand mogelijk maken. NVIDIA heeft tevens ondersteuning voor NIM-microservices en Blueprints: kant-en-klare modelcontainers en reference workflows voor agents en andere AI-systemen.
Bij AI-agents speelt security een sleutelrol. Is dit niet op orde, dan kan een zakelijke uitrol niet plaatsvinden. Het ExpertCenter Pro ET900N G3-systeem ondersteunt NVIDIA NemoClaw, een open-source stack die NVIDIA’s OpenShell-runtime installeert. Daarmee leggen organisaties via beleidsregels vast hoe agents zich gedragen en met data omgaan. De open modellen draaien zoals gezegd lokaal en werkt niet anders dan welke andere workload op eigen hardware dan ook. Voor bedrijven die productie-workloads met enterprise support willen draaien, is NVIDIA AI Enterprise los te licenseren. ASUS geeft aan dat het in de toekomst ook Windows-gebaseerde AI-ontwikkeling mogelijk zal maken.
Conclusie
De ASUS ExpertCenter Pro ET900N G3 is een voorbeeld van een AI-systeem dat datacentercapaciteit levert in een compact formaat. Het is gebaseerd op dezelfde standaarden en best practices die we bij cloudgebaseerde open-weight opties zien. Dat betekent ook dat als een AI-ontwikkelteam een model lokaal bouwt en in de cloud wil deployen, de uitrol zonder problemen plaats kan vinden.
Vanuit ASUS ligt de nadruk op de functionele inzetbaarheid in een zakelijke omgeving. Het systeem richt zich nadrukkelijk op enterprise-klanten en wordt geleverd met on-site hardwaresupport.
Zo komen we terug bij tokenomics. Een eigen AI-supercomputer vraagt een investering vooraf, maar maakt de kosten van intensief AI-gebruik voorspelbaar en houdt gevoelige data binnen de eigen muren. Voor organisaties die lokale AI serieus willen inzetten, biedt de ExpertCenter Pro ET900N G3 daarvoor zowel de hardware als de software in één pakket.
Meer weten over de ASUS ExpertCenter Pro ET900N G3? Bekijk hier alle specificaties en mogelijkheden.