Toen ITchannelPRO maanden terug voor het eerst wees naar berichten over bedrijven die hard aan de rem trokken omdat de kosten voor AI tokens uit de pan rezen was er nog al wat kritiek. Het zou niet kunnen kloppen en anderen ontkenden het met klem.
Het verhaal klopte echter. Sterker nog sinds de laatste twee weken is het aantal meldingen met exact dezelfde inhoud over een bill shock opeens fors toegenomen. Die timing is meer dan opvallend en wel om twee reden
1: kwartaalcijfers
Het valt namelijk samen met het moment dat de grote drie hyperscalers met AI ambities de presentaties van de kwartaalcijfers voorbereidden. Of dat toeval is mag de lezer zelf inschatten.
Wat duidelijk is, is dat de kostenexplosies die inmiddels de pers halen te herleiden zijn tot twee soorten gebruikers. Groep een bestaat uit ambtenaren in de VS. Zeer interessant wie daar en op welk niveau AI tokens mag inzetten. De tweede groep bestaat zo te zien uit medewerkers van grote bedrijven. Dat de bedrijven achter de hyperscalers daar zo vaak genoemd worden is minder vreemd dan het lijkt. Als men daar niet in staat is met AI met meer diensten en lagere kosten te komen, dan wordt het verkopen ervan wel erg lastig.
Die tegenslag is er dus, want in ieder geval is het nu bekend dat bij AWS en Microsoft aan de rem is getrokken. Bij Google speelt weer wat anders, maar nog interessanter is boven tafel krijgen wat die andere “grote” gebruikers zijn.
Wie zoekt op begrippen als “token-maxing” ziet veel softwarehuizen genoemd worden. Dat zal niemand verbazen. Dat een paar Amerikaanse banken ook voorbij komen is dat wel.
De beperkte breedte van het veld van “grootverbruikers” is een punt dat moet opvallen. Vreemd genoeg is er weinig aandacht voor dat aspect.
2: prijsverlagingen
Terwijl links de berichten voorbijkomen over te hoge kosten bij grote gebruikers zijn er rechts berichten over enorme prijsverlagingen. Is een lagere prijs zaligmakend? Zijn budgetoverschrijdingen (bill shock) dan verleden tijd?
Was het maar zo simpel. Iedere aanbieder die nu een lagere prijs rondbazuint wijst echt wel op de kleine lettertjes: de goedkoper versies zijn niet geschikt voor iedereen. Dit doet vermoeden dat de prijsverlagingen eerder bedoeld zijn om nieuwe groepen gebruikers te paaien en later te upgraden.
Als die aanname klopt, dan verandert er vooralsnog niets aan de situatie dat grootverbruikers van AI tokens in de problemen kunnen komen door te hoge kosten, aka de bill shock.
