FR ▾
Obtenir une clé API

Best LLM API Guide

API LLM pour code la moins chère : coût par pull request

La LLM API la moins chère pour le codage est celle avec le coût le plus bas par modification acceptée, et non celle avec le prix le plus bas sur une page tarifaire. Voici des estimations de tokens pour des tâches de codage courantes, facturées 0,15 $ par 1M de tokens en entrée et 0,50 $ par 1M de tokens en sortie.

Mis à jour :

Pile de tuiles de code et une branche fusionnant dans une ligne principale à côté d'une fente pour pièce
Pièces isométriques alimentant un flux de blocs de tokens vers un serveur, illustrant le crédit d'essai gratuit pour une LLM API

Points clés

  • L'autocomplétion est peu coûteuse par appel mais fréquente ; une boucle d'agent relit la base de code et coûte beaucoup plus cher par tâche.
  • Une pull request révisée avec un prompt de 10 000 tokens coûte environ 0,0021 $ à ces tarifs.
  • Une exécution d'agent de 15 étapes, soit environ 375 000 tokens en entrée, coûte environ 0,06 $.
  • Un modèle général bon marché convient bien aux travaux courants ; un débogage complexe peut justifier un modèle plus puissant.

Les charges de travail de code sont principalement des tokens en entrée

Les tâches de code ont une forme déséquilibrée. Vous envoyez beaucoup de contexte (le fichier, le diff, l'erreur, les modules environnants) et vous recevez un court patch ou un court commentaire. L'entrée représente généralement 70 à 95 pour cent des tokens, ce qui fait du prix de l'entrée le chiffre le plus important pour le code.

À 0,15 $ par 1M de tokens en entrée, un prompt de 10 000 tokens coûte 0,0015 $. À 0,50 $ par 1M de tokens en sortie, une réponse de 1 000 tokens coûte 0,0005 $. Un assistant de code qui lit beaucoup et écrit peu dépensera la majeure partie de son budget à lire. L'exception est une réécriture de fichier complet, où la sortie est aussi grande que le fichier.

Cela explique aussi pourquoi il est facile de surestimer le coût du côté sortie dans le codage. Si un outil demande des explications avec chaque patch, la sortie augmente et le ratio change ; décidez donc tôt si vous voulez uniquement du code ou du code avec raisonnement, et réglez le prompt système en conséquence. Une ligne telle que « retournez uniquement un diff unifié » représente une économie gratuite.

Quatre tâches, facturées une par une

Les chiffres ci-dessous sont des estimations que vous pouvez remplacer par les vôtres. Mesurez quelques vrais prompts avec un tokenizer avant de planifier un budget.

TâcheEntréeSortieCoût par appel
Autocomplétion en ligne80060$0,00015
Revue de pull request10 0001 200$0,0021
Refactor d'un fichier de 8 000 tokens8 5008 000$0,005275
Exécution d'agent, 15 étapes375 00012 000$0,06225

Le calcul pour la ligne de revue : 10 000 x 0,15 / 1M = 0,0015 $, plus 1 200 x 0,50 / 1M = 0,0006 $, total 0,0021 $. Pour le refactor : 0,001275 $ en entrée plus 0,004 $ en sortie. Notez que le refactor dépense trois quarts de son coût en sortie, car le modèle réécrit tout le fichier.

La ligne d'agent est celle à surveiller. Un agent qui lit des fichiers, exécute des tests et réessaie renvoie le contexte croissant à chaque étape. Quinze étapes en moyenne de 25 000 tokens en entrée chacune s'additionnent à 375 000 tokens en entrée, soit 0,05625 $, plus 0,006 $ pour 12 000 tokens en sortie.

À quoi ressemble un mois pour un développeur

Supposons qu'un développeur travaille 22 jours par mois et effectue les tâches suivantes chaque mois : 600 appels d'autocomplétion par jour, 40 pull requests révisées, 40 exécutions d'agent et 20 refactors de fichier unique.

  • Autocomplétion : 13 200 appels x 0,00015 $ = 1,98 $
  • Reviews : 40 x 0,0021 $ = 0,084 $
  • Exécutions d'agent : 40 x 0,06225 $ = 2,49 $
  • Refactors : 20 x 0,005275 $ = 0,1055 $

Le total est d'environ 4,66 $ par développeur par mois. Une équipe de dix personnes atteint près de 47 $. Même si vos estimations sont inexactes d'un facteur trois, la facture reste sous les 15 $ par personne. Vous pouvez utiliser la page de tarification pour vérifier les tarifs et les bonus de rechargement ; un rechargement de 100 $ ajoute 10 %, ce qui fait 110 $ de crédit.

Le point faible n'est pas la facture, ce sont les limites. Une clé complète permet 300 requêtes par minute et 8 requêtes simultanées. Un éditeur qui déclenche une requête à chaque pause de frappe peut atteindre cette limite rapidement si toute une équipe partage une seule clé. Donnez une clé à chaque personne ou appliquez un debounce à l'autocomplétion.

Intégrez-le dans un éditeur ou un script

L'API est compatible OpenAI, donc tout outil acceptant une URL de base personnalisée et une clé peut l'utiliser. De nombreuses extensions d'éditeur et agents CLI ont ces deux paramètres. Définissez l'URL de base sur https://api.bestllmapi.com/v1, le modèle sur uncensored et collez votre clé.

Pour un script qui révise un diff et affiche le coût, utilisez le SDK Python OpenAI :

import subprocess
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
        {"role": "user", "content": diff},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))

Gardez temperature bas pour la revue et le refactoring. La documentation de l'API liste les paramètres qui sont transmis, y compris seed, ce qui aide lorsque vous voulez une sortie reproductible en CI.

Façons de garder le coût du codage bas

  • Envoyez des diffs, pas des dépôts entiers. La revue ci-dessus utilise 10 000 tokens car elle envoie un diff avec un peu de contexte.
  • Limitez les étapes de l'agent. Une boucle qui ne s'arrête jamais est la cause la plus fréquente de factures surprises. Arrêtez après un nombre fixe d'étapes.
  • Réduisez la sortie des outils. Un journal de test avec 5 000 lignes est collé dans chaque étape suivante. Gardez uniquement les lignes échouées.
  • Demandez des diffs. Demander un diff unifié au lieu du fichier complet réduit la sortie dans l'exemple de refactoring d'environ 90 % lorsque le changement est faible.
  • Utilisez le mode JSON pour une sortie structurée. response_format avec json_object évite les boucles de réessais causées par des réponses malformées.

Les requêtes échouées ou refusées ne sont pas facturées, donc une requête qui génère une erreur ne coûte rien.

Quand un modèle moins cher n'est pas le bon choix

Il s'agit d'un modèle à poids ouverts généraliste, optimisé pour répondre sans refus de contenu pour un usage adulte légal. Ce n'est pas un modèle spécialisé dans le codage, et ce n'est pas l'API officielle d'aucun fournisseur. Pour des tâches courantes telles que le code boilerplate, les tests, les docstrings, les petits refactoring et les commentaires de revue, c'est une option rentable et sensée. Pour un débogage approfondi dans une base de code inconnue ou un changement architectural majeur, un modèle plus puissant peut vous faire gagner plus de temps développeur qu'il ne coûte en tokens.

La méthode pour décider est d'exécuter 20 tâches réelles de votre backlog sur chaque candidat, de compter les patches que vous fusionneriez, et de diviser la dépense par ce nombre. Un crédit d'essai de 0,50 $, réclamé sur la page Clé API après la connexion, couvre quelques centaines de révisions aux tarifs ci-dessus, ce qui est largement suffisant pour ce test. D'autres fournisseurs fixent leurs propres prix, vérifiez donc leur tarification actuelle. Pour les bases de la configuration, consultez comment utiliser une API LLM.

Questions à poser sur n'importe quel niveau gratuit

Les offres gratuites diffèrent beaucoup, et le titre ne dit rarement ce qui compte. Avant de vous y appuyer, posez ces questions et trouvez les réponses dans la documentation propre du fournisseur.

  • Quel est le modèle ? Certains niveaux gratuits utilisent un modèle plus petit que celui payant. Un test sur un modèle faible vous dit peu sur la production.
  • Quelles sont les limites de débit ? Une limite de quelques requêtes par minute est bien pour un script et inutile pour une application de chat avec plusieurs utilisateurs.
  • Expire-t-il ? Une allocation unique avec une date limite est une chose différente d'une allocation mensuelle récurrente.
  • Que deviennent vos prompts ? Si les données sont utilisées pour l'entraînement, n'y collez rien de privé. Ici, les prompts ne sont pas utilisés pour l'entraînement.
  • À quoi ressemble le parcours payant ? Passer du gratuit au payant doit être un changement d'état de compte, et non une réécriture.

L'hébergement autonome d'un modèle à poids ouverts est parfois suggéré comme la voie gratuite. Le logiciel peut ne rien coûter, mais le GPU dont vous avez besoin pour exécuter un modèle capable coûte cher, que vous le louiez à l'heure ou que vous l'achetiez. Pour un petit projet, l'arithmétique favorise généralement le paiement par token, car vous ne payez que pour ce que vous utilisez et rien pendant les périodes d'inactivité.

Lire l'essai comme un budget de test

Il est utile de traiter l'essai comme un budget de test plutôt que comme un produit gratuit. Dépensez-le dans un ordre fixe : d'abord quelques requêtes simples pour confirmer la connexion, puis votre vrai prompt sur dix entrées variées, puis une exécution en streaming, puis un prompt délibérément grand pour voir comment le modèle gère le long contexte. Gardez les nombres du bloc usage dans une note.

Après cela, vous connaissez votre taille moyenne d'entrée, votre taille moyenne de sortie et votre coût réel par tâche. Multipliez par le trafic que vous attendez et vous avez un chiffre mensuel qui repose sur des mesures, pas des suppositions. Si le chiffre est acceptable, un rechargement de 20 $ est l'étape suivante. Sinon, vous avez appris que pour quelques centimes.

Après l'essai : à quoi ressemble le paiement

Lorsque le crédit d'essai s'épuise ou expire, vous ajoutez du crédit prépayé. Tout montant entier de 20 $ à 500 $ fonctionne. Les rechargements plus importants comportent un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $, +15 % à partir de 200 $. Un rechargement de 100 $ devient 110 $ de crédit, et 200 $ devient 230 $.

Vous pouvez payer par crypto (USDT sur TRC20, USDC sur Base). Il n'y a pas d'abonnement ni de minimum mensuel. Le crédit n'expire jamais, donc une recharge de 20 $ que vous utilisez lentement n'est pas gaspillée. Chaque réponse inclut un en-tête X-Balance-USD, qui permet à votre propre code de surveiller le solde sans tableau de bord.

Les requêtes échouées ou refusées ne sont pas facturées. Si une requête génère une erreur, vous ne la payez pas. Les prompts ne sont pas utilisés pour l'entraînement. Voir tarification pour le tableau complet.

Façons peu coûteuses de faire durer le crédit

Vous n'avez pas besoin d'astuces, seulement quelques habitudes.

  1. Réduisez l'historique. Gardez les N derniers tours plus un court résumé des plus anciens au lieu de renvoyer tout.
  2. Définissez un plafond de max_tokens sur les tâches où des réponses courtes suffisent. C'est optionnel ici, mais cela limite la sortie, qui est le côté le plus cher par token.
  3. Utilisez le mode JSON (response_format avec json_object) pour les tâches d'extraction afin de ne pas payer pour des préambules bavards.
  4. Testez avec de petites entrées. Validez votre prompt sur dix exemples avant de lancer dix mille.
  5. Gérez les 429 avec un backoff. Réessayer en boucle serrée sur une clé d'essai (2 concurrentes, 60 par minute) vous fait perdre du temps. Attendez l'en-tête Retry-After s'il est présent.

Si vous comparez les options avant de dépenser quoi que ce soit, la page sur Hugging Face Inference API contre cet endpoint couvre une décision connexe.

Une première requête pour dépenser le crédit d'essai

Voici une requête minimale. Remplacez la clé par celle de votre tableau de bord.

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

La réponse inclut un bloc d'utilisation avec les compteurs de tokens de prompt et de complétion. Multipliez-les par les prix ci-dessus et vous obtenez le coût exact de la requête. Répétez cela quelques fois et vous développerez une intuition de votre propre charge de travail, ce qui vaut plus que n'importe quelle estimation. La documentation de démarrage rapide couvre le streaming, les outils et les codes d'erreur.

Questions et réponses

Combien de tokens une revue de code typique utilise-t-elle ?

Un diff avec un peu de contexte environnant représente souvent 5 000 à 15 000 tokens en entrée, et le commentaire de revue 500 à 1 500 tokens en sortie. À ces tarifs, cela coûte environ 0,001 $ à 0,003 $.

Puis-je utiliser cette API dans mon éditeur ?

Oui, si l'éditeur ou l'extension vous permet de définir une URL de base compatible OpenAI et une clé. Utilisez l'URL de base de votre compte, le nom du modèle uncensored et votre clé API.

La fenêtre de contexte est-elle assez grande pour les fichiers volumineux ?

La fenêtre de contexte fait 100 000 tokens, partagés entre le prompt et la génération. Cela convient à de nombreux fichiers à la fois, mais les dépôts très volumineux doivent encore être divisés.

Ai-je besoin d'une carte pour l'essayer ?

Non. Les nouveaux utilisateurs peuvent obtenir 0,50 $ de crédit d'essai en un clic sur la page de clé API, sans carte, valable 7 jours.

Votre clé n'est qu'à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API