De afgelopen maanden volgden lanceringen van nieuwe frontier-modellen elkaar in hoog tempo op. In juni lanceerde Anthropic de veelbesproken Mythos-klasse modellen, en in september volgde OpenAI met GPT-6 Astra. De introductie van deze krachtige modellen zorgde direct voor discussie onder onderzoekers en ontwikkelaars over de impact van deze ontwikkelingen. De modellen zijn aanzienlijk krachtiger dan eerdere generaties.
Voor organisaties kan het verleidelijk zijn om automatisch het meest geavanceerde model voor hun bedrijfsprocessen te adopteren. Maar het kiezen van een AI-model zou geen standaardkeuze moeten zijn. Krachtige modellen hebben andere eigenschappen dan hun lichtere tegenhangers. Sta je op het punt een nieuw AI-model te adopteren? Houd dan rekening met deze vier punten:
1. Stem het model af op de taak
Hoe goed een model past, hangt sterk af van de taak die het moet uitvoeren. Frontier-modellen hebben hun waarde bewezen bij bedrijfskritische taken, waarbij organisaties anders veel tijd en middelen zouden besteden aan het oplossen van fouten. Ze zijn sterk in langdurige, gestructureerde onderzoeksopdrachten zoals het uitvoeren van een literatuuronderzoek naar een technisch onderwerp of het identificeren van relevante open-source implementaties, maar minder geschikt voor snelle patroonherkenning bij op zichzelf staande problemen.
Lichtere modellen zijn daarom beter geschikt voor duidelijk afgebakend werk, zoals het verhelpen van kleine bugs in een codebase, en presteren in sommige gevallen zelfs beter. Bepaal dus eerst wat een taak vereist, en weeg dan af welk model daarbij past.
2. Kijk naar kosten per taak, niet per token
Frontier-modellen van OpenAI en Anthropic zijn per miljoen tokens veel duurder dan hun lichtere tegenhangers. Toch is het belangrijk om niet alleen naar de prijs per token te kijken. Een duurder model kan in de praktijk goedkoper uitpakken als het een complexe taak in één keer correct uitvoert. Zo kan de toepasbaarheid van GPT-6 Astra sterk variëren afhankelijk van het effort-niveau. Astra op een lage effort-instelling kan kostenefficiënter zijn dan goedkopere modellen op een hoge effort-instelling.
Dat geldt niet voor Claude Fable 5.1, dat relatief duur is voor eenvoudige taken. Kijk dus vooral naar de kosten per taak. Het is ook verstandig om budgetcontroles in het proces in te bouwen, omdat tokenkosten bij intensief gebruik snel kunnen oplopen.
3. Houd rekening met latency
Frontier-modellen hebben over het algemeen meer tijd nodig om taken te voltooien. Ze bieden meer diepgang, maar ten koste van snelheid. Een test van ML6 toonde aan dat Claude Fable 5 problemen vond die lichtere modellen misten, maar daarvoor ongeveer drie keer zoveel tijd nodig had. Is snelheid belangrijk? Overweeg dan een lichter model.
Doorgaans heeft hetzelfde model bij hogere effort-niveaus een hogere latency voor een taak. Bij een hoger effort-niveau besteden modellen meer tokens, en dus tijd, aan het nadenken en redeneren over een taak voordat ze deze daadwerkelijk aanpakken. Dit is mogelijk niet merkbaar bij eenvoudigere, kortere taken, maar is zeker merkbaar bij taken met een langere tijdsduur. Een test van ML6 wees uit dat bij GPT-5.6 Sol het verhogen van het effort-niveau van laag naar hoog leidde tot een 4x hogere latency bij een langdurige taak. Als snelheid belangrijk is, kan het de moeite waard zijn een lager effort-niveau te overwegen, met de kanttekening dat dit de kwaliteit kan verlagen.
4. Beoordeel dataretentie en governance-vereisten
Breng voordat je gevoelige informatie verwerkt in kaart hoe lang data wordt bewaard, wie toegang heeft tot die data, en of dit aansluit bij je interne compliancebeleid. Anthropics Mythos-modellen zijn bijvoorbeeld onderworpen aan bewaarverplichtingen. Prompts en output worden 30 dagen bewaard om veiligheidsredenen. Als content wordt geacht het gebruiksbeleid te schenden, kan de bewaartermijn worden verlengd tot maximaal twee jaar, zonder uitzondering.
Voordat je organisatie een model adopteert, is het belangrijk te beoordelen of deze bewaartermijn, inclusief een eventuele verlenging, aansluit bij de datagovernance-vereisten van je organisatie.
De technische capaciteit van een model is daarmee slechts één onderdeel van de beslissing. De manier waarop het model wordt geïntegreerd in bestaande systemen, de waarborgen eromheen, en de mate waarin medewerkers controle houden, zijn minstens zo belangrijk.
De vraag zou niet moeten zijn: Welk model is het meest geavanceerd? Maar eerder: Wat moet het model kunnen, wat kost het, en wat zijn de gevolgen als het misgaat? Om dat te beantwoorden, moeten organisaties verder kijken dan alleen modelprestaties. Aspecten als betrouwbaarheid, snelheid, kosten, datasensitiviteit en de vereiste menselijke controle moeten ook worden afgewogen. Organisaties die hun AI-strategie puur rond één ‘beste’ model bouwen, lopen het risico dat processen onnodig duur, traag of moeilijk te beheersen worden.
Dit is een ingezonden bijdrage van ML6. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.