AI-chip Cerebras is ’s werelds grootste processor met 1,2 biljoen transistors

Start-up Cerebras heeft een nieuwe AI-chip gelanceerd. De Wafer Scale Engine (WSE) is voorzien van 1,2 biljoen transistors en meet 46.225 vierkante millimeter. De WSE is daarmee ’s werelds grootste processor.

De AI-chip is 57 keer groter dan de V100-gpu, het vlaggenschip van chipfabrikant Nvidia, die ‘slechts’ 21,1 miljard transistors kent, aldus Silicon Angle. Bovendien beschikt de WSE over 400.000 rekenkernen, geoptimaliseerd voor AI, en 18 gigabytes aan high-speed intern geheugen.

150 meer rekenkracht dan Nvidia

Volgens Andrew Feldman, chief executive van Cerebras, is de chip op de markt gebracht als onderdeel van een datacenterapparaat, voorzien van een eigen waterkoelsysteem om de warmte van al die cores te absorberen. Feldman beweert dat de WSE 150 keer de rekenkracht biedt van een server voorzien van meerdere Nvidia-kaarten. Daarbij verbruikt de innovatieve chip slecht 2 tot 3 procent meer ruimte en energie, dan nodig voor een op Nvidia gebaseerde server-farm met dezelfde verwerkingscapaciteit.

Het is een opvallende ontwikkeling, gezien chipfabrikanten de afgelopen jaren chipsnelheden verhoogden door juist het aantal transistoren te verkleinen. Hierdoor konden er steeds meer op een processor worden geplaatst. Cerebras hanteert nu dus een andere aanpak: in plaats van de transistors kleiner te maken, heeft de start-up de processor juist groter gemaakt.

Supersized vormfactor

De efficiëntieslag is het directe resultaat van de supersized vormfactor van de WSE. Een traditionele AI-omgeving bestaat uit meerdere individuele gpu’s, waardoor gegevens die worden verwerkt constant moeten reizen tussen de verschillende chips. Een proces dat zich afspeelt via relatief trage netwerkverbindingen en dat veelal eindigt in een knelpunt. Voor de WSE mag dat geen issue zijn, gezien alle berekeningen op dezelfde printplaat worden uitgevoerd.

Het idee op zich om verwerkingsactiviteiten op één grote chip te centraliseren, bestaat al tientallen jaren. Waar anderen door ontmoedigende technische uitdagingen bij de implementatie van het concept keer op keer faalden, heeft Cerebras het nu dus voor elkaar gekregen. Al ligt één van de grootste obstakels wel in het productieproces. 

Netwerk routeert defecte onderdelen

Het is nagenoeg onmogelijk om een ​​processor ter grootte van de WSE te produceren zonder dat ten minste enkele van zijn 1,2 biljoen transistors verkeerd uitvallen. Zeker gelet op het feit dat defecte transistors normaal gesproken een hele processor onbruikbaar kunnen maken. Cerebras heeft dat probleem weten te omzeilen, door een netwerk in de WSE te bouwen dat gegevens rond defecte onderdelen kan routeren.

“Het ontwerp van de chip neemt de fundamentele eigenschappen van kernen, geheugen en interconnecties tot hun logische uitersten. Door alles on-die te verbinden, is communicatie duizenden keren sneller dan wat mogelijk is met off-chip-technologieën, zoals InfiniBand”, aldus Andy Hock, directeur productbeheer van Cerebras, in een blogpost. 

200 miljoen dollar

De innovatieve technologie van de start-up heeft inmiddels serieuze aandacht vanuit de industrie weten te trekken. Cerebras heeft tijdens investeringsrondes inmiddels meer dan 200 miljoen dollar opgehaald.

Cerebras is van plan om in september zijn WSE-gebaseerde datacenter-apparaat op de markt te brengen. Prototype-versies zijn inmiddels al aan verschillende early adopters geleverd.

Gerelateerd: Met de neus tegen de muur: het einde van de grote sprongen in computerkracht