Bijna helft van de professionele teams wisselt van meest gebruikte AI-mode

Bijna één op de twee teams wisselde in september van meest gebruikte AI-model, dat blijkt uit de nieuwste AI Gateway Production Index. Ook veranderde bijna één op de drie van meest gebruikte AI-aanbieder, het hoogste percentage dat Vercel heeft gemeten.

Vooral in de teams met een hoog AI-gebruik loopt het aantal gebruikte modellen snel op. In de afgelopen negen maanden gebruikten teams die minstens 10 miljoen tokens per maand verwerken, gemiddeld 15 verschillende modellen. Dat gemiddelde steeg tot 26 modellen voor teams die minstens 100 miljoen tokens verwerken, en tot 42 modellen voor teams die minstens een miljard tokens verwerken.

De totale uitgaven via AI Gateway waren in september bijna dertien keer hoger dan in december, terwijl de gemiddelde prijs per token in dezelfde periode daalde met 47 procent. Teams die zowel in december als september voor AI-gebruik betaalden, gaven in september mediaan meer dan twee keer zoveel uit.

Verder laat de index zien dat in september meer dan twee derde van de uitgaven aan Chinese AI-modellen, werd gedaan via Amerikaanse aanbieders. In december was dit nog minder dan 10 procent. Deze cijfers tonen aan dat de groei van Chinese AI-modellen niet betekent dat de bijbehorende uitgaven automatisch bij Chinese aanbieders terechtkomt. 

Met de toenemende groei van AI-modellen in gebruik en kosten, is het voor organisaties belangrijk om dit inzichtelijk te hebben. Vercel heeft tijdens Ship, de jaarlijkse conferentie van het bedrijf, een aantal nieuwe mogelijkheden aangekondigd om het AI-gebruik binnen bedrijven te beheren.