Volgens onderzoeksbureau Gartner zullen de kosten voor ai code assistants tegen 2028 het gemiddelde salaris van een softwareontwikkelaar overtreffen. De oorzaak is het stijgende verbruik van tokens, de eenheden die generatieve AI-modellen verwerken. En dit in combinatie met de shift naar verbruiksgebaseerde prijsmodellen.
Organisaties stappen snel over van experimenteren naar grootschalige inzet van ai code assistants, maar veel onderschatten de financiële impact van stijgend tokenverbruik, aldus Nitish Tyagi, senior principal analyst bij Gartner.
Het probleem zit ook enerzijds in degenen die de ai tools gebruiken, en anderzijds die ervoor betalen. Dat zijn vaak verschillende verantwoordelijkheden. ‘Tokenbeheersing zal niet ontstaan door keuzes van ontwikkelaars, aangezien zij doorgaans snelheid en gemak boven kostenefficiëntie stellen’, oppert Nitish Tyagi. ‘Zonder goed beheerde engineeringprocessen kunnen kosten sneller stijgen dan de productiviteitswinsten.’ Het kernprobleem: veel leveranciers van ai code assistants ontbreekt transparantie over hoe tokens worden berekend en gefactureerd. Dit maakt kostprognoses en budgetbeheer vaak zo goed als onmogelijk.
Bovendien blijken veel organisaties onvoldoende inzicht te hebben in hoe hun ontwikkelaars deze tools gebruiken. Het is deze combinatie van ongecontroleerde agent-workflows met gebrekkige kostmonitoringmechanismen die leiden tot een ongecontroleerde uitgavengroei.
Volwassenheid ontbreekt nog
Organisaties zetten dit best op de agenda, meent de analist. ‘De meeste organisaties hebben nog niet de volwassenheid en frameworks om kosten versus zakelijke waarde effectief te meten’, zegt Tyagi. ‘Software-engineers maken zich zorgen, want budgetten raken eerder dan verwacht op.’
Gartner adviseert organisaties een gedisciplineerd beheermodel in te stellen: definieer duidelijk wanneer ai nuttig is, richt taken intelligenter naar kleinere modellen en train ontwikkelaars op effectieve contextverzending. ‘Zo zou je kleinere modellen best voor routineuze taken gebruiken, en alleen frontier models voor het complexe werk’, klinkt het.
Ook regelmatige reviews van high-token-workflows kunnen helpen kostengroei in bedwang te houden. Zonder actie riskeren organisaties budgetoverschrijdingen, waarschuwt Gartner.
