AI-kosten beheersen begint met zichtbaarheid

Voor wie? CTO’s, IT-managers en operationeel verantwoordelijken die AI-projecten in productie hebben of er naartoe willen — en die merken dat de kosten minder voorspelbaar zijn dan verwacht.

Kort: AI-budgetten worden zelden overschreden door een verkeerde strategische keuze. Ze lopen uit de hand omdat token-kosten een ander model volgen dan licenties, en omdat de meeste teams pas per kwartaal rapporteren terwijl de meter per seconde tikt. De organisaties die AI-kosten structureel beheersen, meten per use case en per dag. Hoe dat eruitziet in de praktijk — en welke hefbomen het meest opleveren — werk je hands-on uit in de workshop voor leaders.

Stel dat je team vorige maand twee nieuwe AI-toepassingen in productie nam. De sprint liep goed, de demos overtuigden, de uitrol ging vlot. Aan het eind van de maand open je het factuuroverzicht van je API-provider — en het getal verrast je.

Dat is geen zeldzame situatie. Het is het patroon.

LLM-kosten zijn variabel en afhankelijk van gebruik: je betaalt per token, niet per licentie. Elke aanroep kost een bedrag dat afhangt van het model dat je kiest, hoeveel tekst je meestuurt als context, en hoeveel tekst het model teruggeeft als antwoord. Dat klinkt eenvoudig. Maar in een organisatie waar meerdere teams experimenteren en bouwen, stapelen die aanroepen zich op op een manier die zonder goede meting onzichtbaar blijft totdat je rapporteert.

De oplossing is niet het terugschroeven van AI-gebruik. Ze is zichtbaarheid bouwen voordat je schaalt.

Wat token-kosten anders maakt dan licenties

Bij traditionele software betaal je een vaste prijs per seat of per module. Maar bij een LLM-API is het verband direct: meer gebruik, hogere factuur. En het verband is niet altijd lineair.

Twee mechanismen vergroten dat effect. Ten eerste schaalt de prijs met contextlengte: hoe meer tekst je meestuurt (vorige berichten, achtergrondinfo, lange systeemprompts), hoe hoger de kosten per aanroep. Stel: een prototype met 10 gebruikers en gemiddeld 10 berichten context per aanroep. Groei je naar 100 gebruikers (10×) én groeit de gemiddelde context ook 10× mee (meer voorgeschiedenis per gesprek), dan groeien de kosten niet met 10×, maar met 10×10 = 100×. Ten tweede is er het verschil tussen input en output: input tokens zijn goedkoper dan output tokens. Een lange systeemprompt kost minder dan een even lang antwoord.

Dat betekent dat een prototype dat 5 euro per maand kost, bij productieschaal niet 50 euro maar 500 euro kost — of meer. Dat is geen slechte schatting, het is gewoon wat er gebeurt als je de contextlengte niet meerekent bij de extrapolatie.

De vier kostendrijvers die je kunt aanpakken

Niet alle kostengroei is je schuld. Maar een groot deel is vermijdbaar als je weet waar je moet kijken.

Modelselectie. Het duurste model voor elke taak inzetten is de meest voorkomende oorzaak van onnodige kosten. Voor classificatie en samenvatting volstaat een goedkoper model; routingtaken ook. Het dure model reserveer je voor generatie, redenering en complexe beslissingen. Die splitsing (model routing) is één van de hoogste-ROI-aanpassingen die je kunt maken zonder de kwaliteit te raken.

Contextlengte. Onnodig lange systeemprompts en het meesturen van alle eerdere berichten bij elke aanroep zijn stille kostenverhogers. Twee aanpakken helpen hier. Prompt caching: als je systeemprompt elke aanroep hetzelfde is, kun je die opslaan (de grote API-providers ondersteunen dit en het bespaart typisch 50 tot 90 procent op systeempromptkosten, afhankelijk van de provider). RAG in plaats van lange context: stuur niet het hele document mee, maar alleen de relevante fragmenten die je via een zoekstap ophaalt. Embedding-modellen, die zoeken en classificeren, zijn een ordegrootte goedkoper dan chat-modellen.

Retries zonder diagnose. Een mislukte API-aanroep automatisch 3 keer herhalen zonder te weten waarom hij mislukte, verdrievoudigt de kosten van elke fout. Een korte diagnose voor de retry (time-out of inhoudelijke fout?) bespaart meer dan hij kost.

Geen scheiding dev/prod. Testomgeving en productie delen dezelfde API-sleutel en hetzelfde budget: testkosten stapelen zich op bij productiekosten, en je ziet niet meer wat echte gebruikskosten zijn.

Zichtbaarheid bouwen: drie stappen

Je kunt morgen beginnen zonder een nieuw platform of een extern bureau.

Stap één: logboek elke API-aanroep als gestructureerde data. Tijdstip, model, input tokens, output tokens, use case, omgeving (dev of prod). Zorg dat het een doorzoekbaar record is, niet slechts een platte tekstregel. Dit is de basis van alles wat volgt.

Stap twee: groepeer kosten per use case, niet per team of per maand. “Facturenverwerking” en “klantmailbeantwoording” zijn aparte use cases met aparte kostenprofielen. Aggregeren over teams verbergt welke toepassing duur is en welke niet.

Stap drie: stel dagelijkse budgetalerts in bij je API-provider. OpenAI, Anthropic en Google hebben allemaal spending alerts. Gebruik ze. Een wekelijkse rapportage van de vijf duurste use cases × token-efficiëntie geeft je een stuurinstrument in plaats van een factuurverrassing.

De juiste ROI-vraag

Zodra je zichtbaarheid hebt, verschuift de vraag. Niet: “Hoeveel kost AI?” Maar: “Hoeveel kost de taak die AI uitvoert, versus de manier waarop je die taak nu aanpakt?”

Dat vereist dat je de basislijn kent vóór je AI inzet. Een agent die 200 facturen per dag verwerkt aan 2 eurocent per factuur kost 4 euro per dag. Als de huidige aanpak 2 uur medewerkerscapaciteit vraagt aan 30 euro per uur, kost die aanpak 60 euro per dag. De agent bespaart dus 56 euro per dag. ROI is in dat geval duidelijk, maar alleen omdat je de basislijn gemeten hebt.

Zonder die basislijn weet je niet of AI goedkoop is. Je weet alleen wat het kost.

Het moment om te meten is nu

Zolang je nog klein bent (weinig gebruikers, weinig aanroepen), is de kost van gebrekkige zichtbaarheid laag. Dat is precies waarom teams het uitstellen. Maar de patronen die je nu instelt, bepalen of je bij schaal grip houdt of reactief bijstuurt.

Meten per use case, dagelijkse alerts, een gestructureerd logboek: dat is geen groot project. Het is een keuze die je maakt voordat de factuur de keuze voor je maakt.

Wil je deze aanpak hands-on toepassen op je eigen AI-portfolio? In de workshop voor leaders werk je een dag lang aan kostenstructuur, ROI-berekening en governancemodel voor je specifieke context.