xAI, het AI-bedrijf van Elon Musk, heeft het Grok 2.5-model open-source vrijgegeven. Het model is beschikbaar via het platform Hugging Face en kan door ontwikkelaars en onderzoekers worden gedownload en lokaal uitgevoerd.
Dat meldt Engadget. Het Grok 2.5-model is in 2024 door xAI getraind en gebruikt en wordt nu als community release beschikbaar gesteld. Het pakket bestaat uit 42 bestanden met een totale omvang van circa 500 GB. Daarmee richt xAI zich vooral op organisaties en ontwikkelaars met zware hardware-infrastructuur. Voor een volledige deployment zijn namelijk acht GPU’s nodig, elk met minimaal 40 GB geheugen. Voor de uitvoering is de SGLang-inference-engine vereist, die het mogelijk maakt een inference-server te draaien en Grok direct in te zetten voor chattoepassingen.
De gewichten van Grok 2.5 vallen onder de Grok 2 Community License Agreement. Die licentie staat toe dat het model vrij wordt gebruikt en aangepast, maar verbiedt expliciet het gebruik voor het trainen, creëren of verbeteren van andere AI-modellen. Daarmee kiest xAI voor een hybride benadering: de code en gewichten zijn open beschikbaar, maar het gebruik blijft onder voorwaarden beperkt.
Contrast met OpenAI
Het is niet de eerste keer dat xAI een model publiekelijk vrijgeeft. In maart 2024 stelde het bedrijf ook al het ruwe basismodel van Grok-1 beschikbaar. Dit gebeurde zonder specifieke finetuning. Daarmee zet xAI zich neer als tegenpool van OpenAI, dat slechts beperkte en minder krachtige varianten van zijn ChatGPT-modellen deelt met onderzoekers en bedrijven. Musk positioneert Grok juist als toegankelijk alternatief, al vraagt het model om aanzienlijke rekenkracht.
De vrijgave komt op een moment dat xAI nog steeds werkt aan het verbeteren van de stabiliteit en betrouwbaarheid van Grok. Eerder ontstond commotie toen het model antisemitische antwoorden gaf en zichzelf aanduidde als MechaHitler. Volgens het team was dit het gevolg van verouderde code, die inmiddels verwijderd is. Door Grok nu open-source te maken, kunnen externe ontwikkelaars en onderzoekers het model verder analyseren en mogelijk verbeteren, al blijft de controle over de kernontwikkeling bij xAI.
Musk benadrukte dat Grok 3 binnen zes maanden eveneens open-source zal worden vrijgegeven. Of dat tijdspad realistisch is, valt nog te bezien, gezien de wisselende betrouwbaarheid van eerdere beloften van de CEO. Toch laat de huidige release van Grok 2.5 zien dat xAI doorzet met zijn strategie om de AI-markt open te breken en ontwikkelaars toegang te geven tot krachtige modellen die doorgaans alleen binnen gesloten systemen beschikbaar zijn.