De inzet van AI moet softwareontwikkeling versnellen, maar blijkt binnen Amazon soms juist een onverwachte kostenpost. Interne voorbeelden laten zien dat projecten hun budget fors overschreden doordat ontwikkelaars onvoldoende zicht hadden op de kosten van AI-modellen en AI-agents. Het concern werkt daarom aan strengere beheersmaatregelen.
Volgens de Financial Times bespraken senior engineers deze week tijdens een interne bijeenkomst meerdere incidenten waarbij AI-projecten veel duurder uitpakten dan voorzien. Amazon ontwikkelt inmiddels geautomatiseerde controles die moeten voorkomen dat projecten ongemerkt uit de hand lopen.
Een medewerker vatte het probleem kernachtig samen: “Het is moeilijk vast te stellen hoeveel iets dat met AI te maken heeft daadwerkelijk kost.”
Mislukt project kost 1,8 miljoen dollar
Een van de voorbeelden betrof een project waarbij Anthropics Claude Sonnet-model auteursgegevens moest koppelen aan productvermeldingen in Amazons webwinkel. Hoewel de implementatie mislukte, liep de rekening op tot ongeveer 1,8 miljoen dollar. Dat betekende een budgetoverschrijding van 860 procent. Opvallend is dat het volgens de interne presentatie vijf maanden duurde voordat de extra kosten werden ontdekt.
Ook andere projecten liepen financieel uit de hand. Bij de ontwikkeling van software voor financiële audits ontstond onverwacht ruim 541.000 dollar aan extra kosten. Een AI-project om de bezorgprestaties van het logistieke netwerk te verbeteren leverde nog eens 134.000 dollar aan onbedoelde uitgaven op. Die afwijking werd pas na ruim twee weken ontdekt.
Volgens Tom’s Hardware liepen de kosten vooral op doordat AI-agents zelfstandig taken uitvoerden en daarbij veel meer tokens verbruikten dan traditionele AI-toepassingen. Volgens de engineers kunnen fouten die in traditionele softwareontwikkeling nauwelijks geld kosten, bij AI-workloads grote financiële gevolgen hebben.
Tijdens de bijeenkomst werd gewaarschuwd dat programmeerfouten die vroeger “vrijwel niets kostten”, bij het gebruik van AI-modellen “catastrofaal duur” kunnen uitpakken. De besproken incidenten zouden bovendien geen geïsoleerde gevallen zijn.
Amazon reageert dat het de inzet van AI blijft verbeteren. “Zoals bij elke nieuwe technologie experimenteren we, leren we en verbeteren we voortdurend hoe we deze inzetten, inclusief manieren om kosten efficiënter te beheersen.”
Tegelijkertijd benadrukt het bedrijf dat de voorbeelden afkomstig zijn uit slechts een klein aantal teams en geen representatief beeld geven van het AI-gebruik binnen Amazon. “Het uitlichten van enkele kleine, geïsoleerde voorbeelden waarin teams van elkaar leren en die presenteren alsof dit de normale gang van zaken is, geeft geen juist beeld van hoe teams binnen Amazon AI gebruiken.”
Hoewel de bedragen fors lijken, zijn ze voor Amazon relatief beperkt. Het concern behaalde afgelopen kwartaal een omzet van ruim 181 miljard dollar.
AI-prijzen veranderen snel
De incidenten illustreren een bredere ontwikkeling. Steeds meer organisaties krijgen moeite om AI-kosten onder controle te houden, mede doordat leveranciers overstappen op prijsmodellen waarbij per token wordt afgerekend. Daardoor kunnen programmeerfouten of inefficiënte AI-agents sneller tot onverwacht hoge rekeningen leiden.
Amazon schafte eerder dit jaar al een intern klassement rond het gebruik van zijn Kiro-ontwikkelplatform af. Dat leidde volgens de Financial Times tot zogenoemd tokenmaxxing, waarbij medewerkers hun AI-verbruik opvoerden om hoger op de ranglijst te eindigen. Daardoor stegen ook de gebruikskosten. Volgens Amazon was het initiatief met goede bedoelingen gestart, maar werkte het uiteindelijk averechts.
Het is bovendien niet de eerste keer dat Amazon tegen onverwachte gevolgen van AI-ontwikkeling aanloopt. Eerder dit jaar veroorzaakten AI-codingagents meerdere storingen binnen AWS. Het bedrijf beperkte daarop de bevoegdheden van deze AI-agents, om zowel beveiligingsrisico’s als kostbare fouten te verkleinen.