FR ▾
Obtenir une clé API

Best LLM API Guide

Comparaison des prix des API LLM : comment comparer équitablement

Une comparaison des prix d’une API LLM n’est pertinente que si chaque fournisseur est facturé pour la même charge de travail, et non sur le même chiffre affiché. Cet article vous propose une méthode rapide, puis l’applique à 0,15 $ par 1 M de tokens d’entrée et 0,50 $ par 1 M de tokens de sortie.

Mis à jour :

Balance pesant des piles de cubes lumineux, représentant les coûts des tokens d'entrée et de sortie
Pièces isométriques alimentant un flux de blocs de tokens vers un serveur, illustrant le crédit d'essai gratuit pour une LLM API

Points clés

  • Évaluez une forme de requête réelle (tokens d’entrée, tokens de sortie, tours), et non un prix affiché par million.
  • Les tokens de sortie coûtent généralement plus cher que les tokens d'entrée, donc une charge de travail bavarde change le classement.
  • Les recharges minimums, l'expiration et la facturation des requêtes échouées changent ce qu'un dollar achète réellement.
  • À $0,15 en entrée et $0,50 en sortie, une requête de 1 500 tokens d'entrée / 400 tokens de sortie coûte $0,000425.

Les quatre chiffres que chaque liste de prix cache

La plupart des pages de prix affichent deux chiffres : dollars par million de tokens d'entrée et dollars par million de tokens de sortie. Ces deux chiffres suffisent pour comparer les fournisseurs, mais seulement après avoir ajouté deux autres qui proviennent de votre propre application : combien de tokens vous envoyez par requête et combien vous recevez en retour.

  1. Prix d'entrée par 1M de tokens. Cela couvre votre prompt système, l'historique du chat et tous les documents que vous collez.
  2. Prix de sortie par 1M de tokens. Cela couvre tout ce que le modèle écrit en retour.
  3. Votre taille d'entrée par requête, y compris l'historique qui est renvoyé à chaque tour.
  4. La taille de votre sortie par requête, qui dépend du temps que vous laissez à la génération des réponses.

Le coût par requête est input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000. Tout le reste de cet article affine cette formule.

Étape 1 : notez la forme de la requête

Choisissez les trois ou quatre types de requêtes que votre produit envoie réellement. Un bot de support, un rédacteur d'histoires et un classificateur par lots ont des formes très différentes, et un fournisseur qui gagne sur l'un peut perdre sur l'autre.

FormeTokens d'entréeTokens de sortie
Tour de chat court1 500400
Résumé de long document50 0001 000
Appel de classificateur30020
Écriture longue8003 000

Si vous n'avez pas encore de journaux, prenez quelques conversations réelles et comptez les tokens avec n'importe quel tokenizer. Une règle approximative est qu'un token représente environ quatre caractères en anglais, mais le code et le texte non anglais ont un ratio plus élevé. Mesurez avant de faire confiance à la règle.

Étape 2 : effectuez les calculs à $0,15 et $0,50

Ce service facture $0,15 par 1M de tokens d'entrée et $0,50 par 1M de tokens de sortie. Cela représente $0,00015 par 1 000 tokens d'entrée et $0,0005 par 1 000 tokens de sortie. Appliqué aux formes ci-dessus :

FormeCoût d'entréeCoût de sortiePar requête
Tour de chat court$0.000225$0.0002$0.000425
Résumé de long document$0.0075$0.0005$0.008
Appel de classificateur$0,000045$0,00001$0,000055
Écriture longue$0,00012$0,0015$0,00162

Observez où va l'argent. Dans le résumé de document, l'entrée représente 94 % de la facture. Dans la rédaction de longs textes, la sortie représente 93 %. Un fournisseur avec un prix d'entrée bon marché et un prix de sortie élevé semble excellent pour la première charge de travail et médiocre pour la seconde. C'est pourquoi un seul chiffre de « prix par million » induit en erreur.

Étendez le calcul à un mois. Une application de chat qui envoie 1 000 courts tours par jour pendant 30 jours envoie 45 M de tokens d'entrée (6,75 $) et 12 M de tokens de sortie (6,00 $), soit un total de 12,75 $.

Étape 3 : tenez compte de l'historique qui grandit

Les API de chat sont sans état. À chaque tour, vous renvoyez le prompt système et tous les messages précédents, de sorte que l'entrée croît avec la longueur de la conversation tandis que la sortie par tour reste constante.

Prenons une conversation de 10 tours avec un prompt système de 1 000 tokens. Chaque tour ajoute environ 300 tokens de l'utilisateur et 200 du modèle, soit 500 tokens de nouvel historique par tour. Le tour 1 envoie 1 000 tokens d'entrée, le tour 2 envoie 1 500, et le tour 10 envoie 5 500. La somme sur 10 tours est de 32 500 tokens d'entrée, plus 2 000 tokens de sortie au total.

input_tokens = sum(1000 + 500 * k for k in range(10))   # 32,500
output_tokens = 10 * 200                                # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6))   # 0.005875

Cela représente 0,005875 $ pour toute la conversation. Si vous n'aviez multiplié qu'un seul tour par dix, vous auriez sous-estimé l'entrée de plus de la moitié. Réduisez l'historique, résumez les anciens tours ou limitez la fenêtre si le nombre vous importe. Le guide sur l'utilisation d'une API LLM couvre la manière dont l'historique des messages est envoyé.

Étape 4 : vérifiez les règles autour du prix

Deux fournisseurs avec les mêmes prix par token peuvent toujours coûter des montants différents par réponse utile. Vérifiez ces points avant de décider :

  • Fenêtre de contexte. Une fenêtre plus large vous permet d'éviter le fractionnement, mais vous payez le prix d'entrée pour chaque token que vous envoyez. Ce service dispose d'une fenêtre de 100 000 tokens partagée entre le prompt et la complétion.
  • Achat minimum. Ici, vous rechargez n'importe quel montant entier de 20 $ à 500 $. Un minimum de 20 $ achète environ 47 000 courts tours de chat au tarif ci-dessus (20 $ / 0,000425 $).
  • Expiration. Le crédit ici n'expire jamais. Certains fournisseurs font expirer les soldes prépayés ou exigent un abonnement, alors vérifiez leurs conditions actuelles.
  • Requêtes échouées. Les requêtes échouées ou refusées ne sont pas facturées ici. Cherchez la même mention ailleurs.
  • Limites de débit. Une clé complète permet 8 requêtes simultanées et 300 par minute. Un prix bas n'a aucune utilité si votre tâche par lots ne peut pas s'achever.

Les bonus de volume abaissent également le prix effectif. Une recharge de $200 obtient +15 %, donc vous recevez $230 de crédit et vos tarifs effectifs tombent à environ $0,13 en entrée et $0,43 en sortie par 1M. Une recharge de $100 obtient +10 %, et $50 obtient +5 %. Les détails complets sont sur la page des tarifs.

Lorsque le prix le plus bas n'est pas le bon choix

Le prix par token ignore la qualité. Un modèle qui nécessite deux tentatives pour obtenir une réponse correcte coûte deux fois plus cher par résultat utile, et un modèle qui refuse votre requête vous coûte du temps même lorsque la facture est nulle. Exécutez les mêmes 20 à 50 prompts réels à travers chaque candidat et comptez combien de réponses vous expédieriez réellement. Divisez la dépense totale par ce nombre.

Le modèle ici est un seul modèle à poids ouverts ajusté pour répondre sans refus de contenu pour un usage adulte légal. Ce n'est pas un routeur et ce n'est pas l'API officielle d'aucun fournisseur de modèle. Si votre tâche nécessite le raisonnement le plus puissant disponible et que les refus ne sont pas un problème, un modèle plus grand d'un autre fournisseur peut donner un meilleur coût par réponse acceptée même à un prix de token plus élevé. Vérifiez leurs prix actuels et testez-le de la même manière.

Un moyen rapide de tester les chiffres vous-même

Vous n'avez pas besoin de deviner. Chaque réponse comporte un en-tête X-Balance-USD, et l'API rapporte également l'utilisation des tokens, donc vous pouvez envoyer vos prompts réels et lire le coût réel. Le Python ci-dessous utilise le SDK OpenAI contre ce service et imprime le bloc d'utilisation.

from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Les nouveaux comptes peuvent réclamer $0,50 de crédit d'essai gratuit en un clic sur la page de la clé API. À la forme 1 500 en entrée / 400 en sortie, cela couvre environ 1 170 requêtes, suffisant pour un benchmark honnête. Si vous voulez voir si un plan gratuit suffit pour vous d'abord, lisez à propos des options d'API LLM gratuites.

Questions à poser sur n'importe quel niveau gratuit

Les offres gratuites diffèrent beaucoup, et le titre ne dit rarement ce qui compte. Avant de construire sur l'une d'elles, posez ces questions et trouvez les réponses dans la documentation propre du fournisseur.

  • Quel est le modèle ? Certains niveaux gratuits utilisent un modèle plus petit que celui payant. Un test sur un modèle faible vous dit peu sur la production.
  • Quelles sont les limites de débit ? Une limite de quelques requêtes par minute est bien pour un script et inutile pour une application de chat avec plusieurs utilisateurs.
  • Expire-t-il ? Une allocation unique avec une date limite est une chose différente d'une allocation mensuelle récurrente.
  • Que deviennent vos prompts ? Si les données sont utilisées pour l'entraînement, ne collez rien de privé dedans. Ici, les prompts ne sont pas utilisés pour l'entraînement.
  • À quoi ressemble le parcours payant ? Passer du gratuit au payant doit être un changement d'état de compte, et non une réécriture.

L'hébergement autonome d'un modèle à poids ouverts est parfois suggéré comme la voie gratuite. Le logiciel peut ne rien coûter, mais le GPU dont vous avez besoin pour exécuter un modèle capable coûte cher, que vous le louiez à l'heure ou que vous l'achetiez. Pour un petit projet, l'arithmétique favorise généralement le paiement par token, car vous ne payez que ce que vous utilisez et rien pendant l'inactivité.

Lire l'essai comme un budget de test

Il est utile de traiter l'essai comme un budget de test plutôt que comme un produit gratuit. Dépensez-le dans un ordre fixe : d'abord une poignée de requêtes simples pour confirmer la connexion, puis votre vrai prompt sur dix entrées variées, puis une exécution en streaming, puis un prompt délibérément volumineux pour voir comment le modèle gère le long contexte. Gardez les nombres du bloc usage dans une note.

Après cela, vous connaissez votre taille d'entrée moyenne, votre taille de sortie moyenne et votre coût réel par tâche. Multipliez par le trafic que vous attendez et vous avez un chiffre mensuel qui repose sur des mesures, pas des devinettes. Si le chiffre est acceptable, une recharge de $20 est l'étape suivante. Sinon, vous avez appris cela pour quelques centimes.

Après l'essai : à quoi ressemble le paiement

Lorsque le crédit d'essai est épuisé ou expire, vous ajoutez du crédit prépayé. N'importe quel montant entier de $20 à $500 convient. Les recharges plus importantes comportent un bonus : +5 % à partir de $50, +10 % à partir de $100, +15 % à partir de $200. Une recharge de $100 devient $110 de crédit, et $200 devient $230.

Vous pouvez payer par crypto (USDT sur TRC20, USDC sur Base). Il n'y a pas d'abonnement ni de minimum mensuel. Le crédit n'expire jamais, donc une recharge de $20 que vous utilisez lentement n'est pas gaspillée. Chaque réponse inclut un en-tête X-Balance-USD, qui permet à votre propre code de surveiller le solde sans tableau de bord.

Les requêtes échouées ou refusées ne sont pas facturées. Si une requête génère une erreur, vous ne la payez pas. Les prompts ne sont pas utilisés pour l'entraînement. Voir tarification pour le tableau complet.

Façons peu coûteuses de faire durer le crédit

Vous n'avez pas besoin d'astuces, seulement quelques habitudes.

  1. Réduisez l'historique. Gardez les N derniers tours plus un résumé court des plus anciens au lieu de renvoyer tout.
  2. Définissez un plafond max_tokens sur les tâches où des réponses courtes suffisent. C'est optionnel ici, mais cela limite le côté sortie, qui est le plus cher par token.
  3. Utilisez le mode JSON (response_format avec json_object) pour les tâches d'extraction afin de ne pas payer pour des préambules bavards.
  4. Testez avec de petites entrées. Validez votre prompt sur dix exemples avant de lancer dix mille.
  5. Gérez les 429 avec un backoff. Réessayer en boucle serrée sur une clé d'essai (2 concurrentes, 60 par minute) vous fait perdre votre propre temps. Attendez l'en-tête Retry-After quand il est présent.

Si vous comparez les options avant de dépenser quoi que ce soit, la page sur Hugging Face Inference API versus cet endpoint couvre une décision connexe.

Un premier appel pour dépenser le crédit d'essai sur

Voici une requête minimale. Remplacez la clé par celle de votre tableau de bord.

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

La réponse inclut un bloc d'utilisation avec les compteurs de tokens de prompt et de complétion. Multipliez-les par les prix ci-dessus et vous obtenez le coût exact de la requête. Répétez cela quelques fois et vous développerez une intuition de votre propre charge de travail, ce qui vaut plus que n'importe quelle estimation. La documentation de démarrage rapide couvre le streaming, les outils et les codes d'erreur.

Questions et réponses

Dois-je comparer le prix d'entrée ou le prix de sortie ?

Les deux, pondérés par votre propre charge de travail. Les tâches axées sur les documents sont dominées par le prix d'entrée, et les tâches d'écriture par le prix de sortie.

Comment compter les tokens avant d'acheter ?

Exécutez un échantillon de prompts réels via un tokeniseur, ou envoyez-les à l'API et lisez le bloc d'utilisation dans la réponse. Les chiffres d'utilisation sont ce sur quoi vous êtes facturé.

Les requêtes échouées coûtent-elles de l'argent ici ?

Non. Les requêtes échouées ou refusées ne sont pas facturées sur ce service. Vérifiez les conditions de tout autre fournisseur que vous comparez.

Y a-t-il un abonnement ?

Non. Il s'agit d'un paiement à l'usage à partir d'un crédit prépayé, et le crédit n'expire jamais.

Votre clé n'est qu'à un formulaire

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration à faire.

Obtenir une clé API