Microsoft Brainwave gebruikt FPGA om AI-ontwikkeling te accelereren

Dankzij Brainwave noteert Microsoft machine learningprestaties die tienmaal sneller zijn om de Bing zoekmachine te verbeteren. De nieuwe techniek is een getraind neuraal netwerk dat zo snel mogelijk werkt aan een bijzonder lage latency. Het doel is om bijna realtime voorspellingen te doen op basis van artificiële intelligentie.

Microsoft gebruikt Field-Programmable Gate Arrays (FPGA) van Intel (Stratix 10 FPGA) voor al zijn AI-berekeningen. FPGA’s zijn in principe chips met lege canvassen waar ontwikkelaars een breed scala aan verschillende circuits kunnen uitrollen door middel van nieuwe software. Deze combinatie is bijzonder boeiend omdat nieuwe programmaties rechtstreeks voor prestatiewinsten kunnen zorgen. Elk circuit is namelijk 100 procent geoptimaliseerd voor specifieke toepassingen zoals AI, en kan worden aangepast zonder dat er een nieuwe chip nodig is.

TPU-chips en FPGAs

Microsoft kiest hier resoluut een andere route dan bijvoorbeeld Google, dat specifieke Tensor Processing Unit (TPU) chips bakt met gelijkaardige functionaliteiten. In tegenstelling tot FPGA kunnen TPU-chips niet worden aangepast na fabricage. Google lost dit probleem op door de architectuur van de chips zo algemeen mogelijk te houden om in bijna elke situatie van dienst te zijn.

De FPGA-chips die Microsoft gebruikt, hebben dedicated signal-processors aan boord die geoptimaliseerd zijn voor specifieke vormen van wiskunde die belangrijk is voor AI. Op deze manier kan Microsoft genieten van dezelfde voordelen die Application-Specific Integrated Circuit (ASIC) zoals TPU-chips.

Google Tensor Processing Unit (TPU)

Microsoft is niet de enige die met FPGA experimenteert; ook Amazon heeft IaaS-toepassingen waar FPGA’s actief zijn in de cloud. Wat Amazon hier specifiek mee doet, is voorlopig echter nog niet bekend.

Succes voor Intel

Het is moeilijk om de resultaten van Microsoft te vergelijken met die van Google’s TPU-chips of GPU’s van Nvidia of AMD. Het grote voordeel van FPGA is echter dat ze weinig nood hebben aan intensieve batchberekeningen, maar andere fabrikanten zoals Nvidia willen dit probleem op korte termijn oplossen met nieuwe chips.

Het nieuws rond het succes van Brainwave is goed voor Intel, dat FPGA-maker Altera in 2015 heeft gekocht voor 16,7 miljard dollar. De Intel Stratix 10 FPGA is namelijk een van de chips die in de datacenters van Microsoft wordt geïntegreerd.

Microsoft wil Brainwave nu ook openstellen aan de buitenwereld om mee te experimenteren. De FPGA voeden nu al delen van het Cognitive Services-portfolio van intelligente API’s zegt Venturebeat. Hiermee kunnen mensen intelligente eigenschappen in hun applicaties embedden zonder enige AI-expertise. We verwachten overigens dat de Brainwave-service op termijn ook beschikbaar is via Microsoft Azure zodat klanten hun eigen modellen op Microsofts FPGA kunnen uitrollen.