Apple heeft een tweetal eigen AI-foundationmodellen voor zijn AI-infrastructuur Apple Intelligence niet met de bekende Nvidia GPU’s, maar met Google Tensor (TPU)-processors getraind. Dit blijkt uit een recente researchpaper van de techgigant.
Apple is op dit moment bezig met het optuigen van een eigen AI-infrastructuur voor alle komende AI-tools en features. Twee belangrijke foundationmodellen blijken niet met de bekende GPU’s van marktleider Nvidia te zijn getraind, maar met Tensor Processing Units (TPU’s) van Google. Dit schrijft Reuters op basis van een recent gepubliceerde onderzoekspaper van de techgigant uit Cuppertino.
Clusters van TPU’s
Uit de beschrijving in de onderzoekspaper blijkt dat nergens Nvidia wordt vermeld als ondersteunend voor het trainen van de specifieke AI-modellen. Wel is aangegeven dat het foundationmodel dat onder meer op iPhones moet gaan draaien is getraind op een cluster van 2.048 Google TPUv5p-chips. Het foundationmodel voor servers is getraind op een cluster van 8.192 Google TPUv4-processors.
Apple heeft de betreffende processors niet zelf aangeschaft, zoals de zaken lopen bij de Nvidia GPU’s. Google stelt zijn TPU-capaciteit alleen beschikbaar via het Google Cloud Platform.
Lees meer: Apple WWDC24: AI staat voor Apple Intelligence en partnership met OpenAI
Overige details
Andere details van het onderzoek zijn dat Apple aangeeft dat het mogelijk is om met de TPU’s van Google grotere en meer krachtige modellen te trainen, dan nu zijn uitgevoerd.
Apple zelf geeft geen commentaar op de onderzoekspaper. De Apple Intelligence AI-infrastructuur heeft de eerste features al gepresenteerd tijdens de recente dev-bijeenkomst in juni dit jaar. Of Apple Intelligence op tijd is voor de lanceerdatum van iOS 18 is nog ongewis. Deze Apple Intelligence AI-mogelijkheden komen naast de aangekondigde integratie van OpenAI-features in de diverse Apple-producten.
In onze podcast Techzine Talks hebben we deze week een aflevering gewijd aan hoe Apple mogelijk de AI-race wil gaan winnen. Luister hier naar de aflevering: