Meta maakt voor interne ontwikkelpraktijken niet alleen gebruik van de eigen Llama-LLM’s, maar ook van GPT-4 van concurrent OpenAI.
Dit schrijft zakenblad Fortune op basis van bronnen. Meta positioneert zijn eigen Llama-LLM’s als een sterk alternatief voor de modellen van andere techbedrijven. In de promotie benadrukt CEO Mark Zuckerberg dat de open-source-aanpak van Llama een belangrijk concurrentievoordeel biedt ten opzichte van ‘closed’ LLM’s van onder andere OpenAI, Google en Anthropic.
Gebruik OpenAI-LLM’s
Het ligt daarom voor de hand dat Meta intern uitsluitend zijn eigen modellen zou gebruiken. Toch blijkt dit niet het geval. Volgens Fortune gebruikt Meta intern een generatieve AI-tool voor coderen, genaamd Metamate, vergelijkbaar met GitHub Copilot of Anthropic Sonnet. Deze tool draait op de Llama-LLM’s van Meta, maar maakt daarnaast ook gebruik van GPT-4 van OpenAI om antwoorden en code te genereren. GPT-4 is naar verluidt begin dit jaar toegevoegd.
De combinatie met GPT-4 verbetert volgens de bronnen de kwaliteit van de antwoorden en code die Metamate genereert, afhankelijk van de vraag en de interactie van medewerkers met de tool. De nieuwste versie van Metamate is getraind op biljarden tokens en bevat vier keer meer computercode dan de vorige editie.
Hoewel medewerkers redelijk tevreden zijn over Metamate, wordt de tool omschreven als van het niveau van een menselijke stagiair. Het systeem presteert goed bij het ontwikkelen van eenvoudige code, maar schiet tekort bij complexe programmeertaken.
ChatGPT ook gebruikt
Het gebruik van OpenAI’s technologie beperkt zich niet tot Metamate. Volgens Fortune maakt de filantropische stichting van Mark Zuckerberg en Priscilla Chan, het Chan Zuckerberg Initiative, gebruik van ChatGPT voor zijn werkzaamheden.
De stichting ontwikkelt momenteel een educatieve generatieve AI-tool op basis van ChatGPT. Deze tool wordt voorzien van een zelfontwikkelde schil of ‘wrapper’ met aanvullende AI-functionaliteit, maar de kern blijft ChatGPT.
Meta heeft geen commentaar gegeven op het mogelijke gebruik van generatieve AI-tools van concurrenten naast of in combinatie met de eigen Llama-LLM’s. Het gebruik van meerdere LLM’s naast elkaar is echter niet ongewoon, aangezien deze elkaar vaak kunnen versterken bij het genereren van betere antwoorden.
Lees ook: Meta introduceert eerste multimodale modellen van Llama