Coût des tokens
Le prix des tokens d'entrée et de sortie qu'une requête consomme.
Les fournisseurs de LLM facturent au million de tokens, généralement avec des tarifs d'entrée et de sortie différents. Coût des tokens = (tokens d'entrée × tarif d'entrée + tokens de sortie × tarif de sortie). Les tokens de sortie sont souvent plusieurs fois plus chers que ceux d'entrée.
Pourquoi c'est important
Le coût des tokens est l'atome de votre coût variable. Réussissez-le par requête et tout ce qui est au-dessus — coût par client, marge, pricing — suit ; ratez-le et chaque projection est faussée.
Exemple
1 M d'entrée + 0,3 M de sortie sur Claude Sonnet (3 $ / 15 $ par Mtok) = 3,00 $ + 4,50 $ = 7,50 $ — les 0,3 M de sortie coûtent plus que le million entier d'entrée.
Calculez-le avec le calculateur de marge gratuit →
Termes liés