Om data-intensieve workloads bij te staan, introduceerde Speedata haar Analytics Processing Unit (APU). De Nederlandse neocloud Nebul zal als eerste de hardware integreren voor Apache Spark-workloads. De snelheidswinst is volgens beide partijen honderdvoudig.
De APU is vanaf nu beschikbaar in Nebul’s soevereine cloud-infrastructuur. Deze IT-infrastructuur is gericht op organisaties die geavanceerde analytics en AI-dataverwerking op grote schaal willen draaien, maar daarbij binnen de landsgrenzen moeten blijven.
Europeanen snakken naar extra AI-capaciteit, zo stellen de twee partijen. Dat blijkt ook uit onderzoek, dat concludeerde dat de vraag naar deze infrastructuur het afgelopen jaar is verdrievoudigd. Tegelijkertijd zal niemand het ontgaan zijn dat digitale soevereiniteit op zowel landelijk als continentaal niveau een hoofdthema is geworden. Om de data-intensieve workloads voor AI te huisvesten buiten de Amerikaanse hyperscalers om, is een reëel alternatief nodig. De APU van Speedata moet Nebul helpen dat te zijn.
100x sneller dan CPU’s en GPU’s
De APU is ontworpen voor grote hoeveelheden data en advanced analytics-workloads. Het is een gespecialiseerde ASIC die Apache Spark SQL native uitvoert. Complexe queries, joins, aggregaties en transformaties draaien direct op het silicium in plaats van dat een abstractielaag via het geheugen opereert. In standaard benchmarks haalt de APU tot 100 keer betere prestaties dan CPU’s en GPU’s. Dat is geen verrassing: GPU’s zijn bovenal parallelle dataverwerkers en CPU’s dienen manusjes-van-alles te zijn.
Die specialisatie van de APU vertaalt zich ook naar kosten. Speedata-CEO Adi Gelvan stelt dat een klant kon consolideren van 38 servers naar 3 en daarmee 90 procent goedkoper uit was. Het laat zien hoe groot de overhead van de datalaag is, met een aanzienlijk deel van conventionele hardware dat enkel bezig is met data-intensieve taken. Opslag naar compute brengen vraagt echter weinig van de APU, die ontworpen is om precies die stap te maken.
Hoewel de Speedata-chip speciaal voor een bepaalde taak ontworpen is, dient de complexiteit van die taak niet onderschat te worden. Naast traditionele batch ETL-workloads accelereert de APU AI-datapreparatie en -opschoning. Ook real-time query-georiënteerde RAG en TAG (Table Oriented Generation) worden ondersteund, waarmee gestructureerde data en gegevens uit tabellen versneld aan LLM’s kunnen worden aangeboden. Deze versnelling helpt overigens ook andere hardware uit de brand, zoals GPU’s, doordat deze apparatuur een groter deel van de tijd spendeert aan berekeningen in plaats van wachten op de data.
Soevereiniteit als operationele eis
Nebul host de APU-technologie in haar Europese datacenternetwerk. Daarbij draait het op groene energie. Als preferred partner in EMEA biedt Nebul de APU aan binnen haar Data Platform.
“Soevereiniteit is geen waardeoordeel, het is een operationele eis”, stelt Arnold Juffer, CEO van Nebul. “Echte datasoevereiniteit gaat verder dan GDPR-compliance en EU-gebaseerde datacenters. Het omvat eigendomsstructuur, operationele controle en jurisdictie. Onze klanten moeten weten wie hun infrastructuur bezit, wie het bedient, en wie gedwongen kan worden om toegang te krijgen.”
Die urgentie is voelbaar. Eerder liet de Nederlandse overheid juristen AWS Sovereign Cloud onderzoeken op juridische kwetsbaarheden. De conclusie was als volgt: Amerikaanse wetgeving maakt toegang tot metadata technisch mogelijk, ook binnen Europese soevereine clouds van hyperscalers. Dit zorgt ervoor dat zelfs de zo soeverein mogelijke oplossingen van Amerikaanse cloudproviders, slechts beperkt soeverein zijn.