FR ▾
Obtenir une clé API

Best LLM API Guide

Comment utiliser une API LLM : première requête et streaming

Utiliser une API LLM consiste à envoyer une liste JSON de messages via HTTPS et à lire la réponse. Ce guide vous accompagne de l’obtention de la clé à la première requête, puis au streaming, à la sortie JSON et aux appels d’outils.

Mis à jour :

Paquet de requête lumineux voyageant d'un terminal vers un serveur et diffusant des tokens en retour

Points clés

  • L’endpoint est compatible OpenAI : changez la base URL et la clé, gardez votre SDK.
  • Utilisez l’ID de modèle uncensored et envoyez un POST à /v1/chat/completions.
  • Le streaming, le mode JSON et l’appel de fonctions sont tous pris en charge.
  • Un 429 signifie ralentir ; lisez le code d’erreur pour savoir pourquoi.

Ce qu’est un appel d’API LLM

Si vous vous demandez comment utiliser les services d'API LLM, le principe est simple. Vous envoyez un POST HTTPS avec une liste de messages. Chaque message a un rôle (system, user ou assistant) et un texte. Le serveur exécute le modèle et renvoie le prochain message de l'assistant. C'est tout le contrat.

Le modèle n’a pas de mémoire entre les appels. Si vous voulez une conversation, renvoyez les messages précédents à chaque fois. C’est pourquoi les prompts grossissent, pourquoi le coût augmente avec eux, et pourquoi la fenêtre de contexte de 100 000 tokens est importante : c’est la limite sur prompt plus réponse ensemble.

Ce service utilise le même protocole que l’API Chat Completions d’OpenAI. Tout SDK OpenAI ou client compatible fonctionne une fois que vous changez deux choses, la base URL et la clé. Seul le texte entre et sort. Il n’y a pas de génération d’images, d’audio ou de vidéo et pas d’endpoint d’embeddings.

Quelques termes sont utilisés dans le reste de ce guide. Un token est un fragment de texte, représentant environ trois quarts d'un mot anglais en moyenne. Les tokens d'entrée sont tout ce que vous envoyez, et les tokens de sortie sont ce que le modèle génère. Vous êtes facturé pour les deux, à des tarifs différents, et la réponse indique exactement combien de chacun a été utilisé. Une base URL est l'adresse que votre client ajoute à chaque chemin, et une clé API est le secret qui prouve que la requête vous appartient. Si vous connaissez ces quatre mots, le reste est de la routine.

Étape 1 : obtenir une clé et noter trois valeurs

Créez un compte avec Google, ou avec un e-mail et un mot de passe, et ouvrez la page clé API. Vous pouvez y copier votre clé et obtenir le crédit d'essai de 0,50 $ en un clic. Aucune carte n'est nécessaire pour l'essai.

Vous avez besoin de trois valeurs pour chaque requête :

  • Base URL : https://api.bestllmapi.com/v1
  • ID de modèle : uncensored
  • En-tête d'authentification : Authorization: Bearer YOUR_KEY

Gardez la clé hors du contrôle de source. Mettez-la dans une variable d’environnement telle que LLM_API_KEY et lisez-la à partir de là. Quiconque a la clé peut dépenser votre crédit.

Étape 2 : envoyer une première requête avec curl

Curl est la vérification la plus rapide que tout fonctionne, avant qu’une bibliothèque ne soit impliquée.

export LLM_API_KEY="paste-your-key-here"

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a token is in two sentences."}
    ],
    "temperature": 0.7
  }'

La réponse est JSON. Le texte est à choices[0].message.content, et un objet usage liste les tokens de prompt et de complétion, ce sur quoi vous êtes facturé. Vous pouvez aussi lister les modèles avec GET https://api.bestllmapi.com/v1/models ; vous devriez voir uncensored.

Les en-têtes de réponse aident aussi. X-Request-Id identifie l’appel si vous contactez le support, et X-Balance-USD montre ce qu’il reste sur votre compte.

Lire la réponse et choisir les paramètres

Une réponse contient quelques champs à connaître avant d'écrire le code d'analyse. choices est une liste, et vous voulez presque toujours le premier élément. À l'intérieur, message.content contient le texte, et finish_reason vous indique pourquoi le modèle s'est arrêté. Une valeur de stop signifie qu'il a terminé naturellement. Une valeur de length signifie qu'il a atteint votre limite max_tokens ou qu'il a manqué de fenêtre de contexte, donc la réponse peut être coupée en plein milieu de la phrase.

L’objet usage donne les tokens de prompt, les tokens de complétion et un total. Journalisez-les pour chaque appel dès le premier jour. C’est le seul moyen fiable d’apprendre ce que votre application coûte vraiment, et cela facilite la détection d’un bug qui envoie le même long prompt deux fois.

Choisir les paramètres est surtout une question de type de tâche. Pour l’extraction, la classification et le code, utilisez une température faible comme 0,2, pour que la même entrée donne presque la même sortie. Pour le brainstorming et les histoires, 0,8 à 1,0 donne plus de variété. Changez une valeur à la fois, et utilisez seed quand vous voulez des comparaisons reproductibles entre deux versions de prompt.

Étape 3 : utiliser le SDK OpenAI en Python ou Node

En pratique, vous utiliserez une bibliothèque. En Python, installez-le avec pip install openai et pointez-le vers la nouvelle base URL.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bestllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Give me three names for a hiking app."},
    ],
    temperature=0.8,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

La version Node est presque identique. Installez avec npm install openai.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.bestllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});

console.log(resp.choices[0].message.content);

max_tokens est optionnel. Si vous l’omettez, la réponse peut utiliser tout ce qui reste de la fenêtre de contexte de 100 000 tokens, donc définissez-la quand vous voulez des réponses courtes. Les paramètres d’échantillonnage temperature, top_p, stop, seed et les pénalités sont transmis au modèle.

Étape 4 : diffuser la réponse

Sans streaming, votre utilisateur regarde un écran vide jusqu’à ce que toute la réponse soit prête. Avec stream: true, le serveur envoie des tokens via Server-Sent Events au fur et à mesure de leur production, et les totaux d’utilisation arrivent à la fin.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.total_tokens)

Une chose à retenir : une requête en streaming occupe son slot de concurrence jusqu’à la fin du stream. Une clé complète permet 8 requêtes simultanées, une clé d’essai 2. Si un utilisateur ferme l’onglet, fermez le stream de votre côté aussi, sinon le slot reste occupé.

Maintenir une conversation

Comme l’API n’a pas de mémoire, une application de chat est une boucle qui ajoute à une liste. Le modèle ci-dessous est le cœur de presque tous les chatbots.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

messages = [{"role": "system", "content": "You are a friendly travel planner."}]

while True:
    user_text = input("You: ")
    if user_text.strip().lower() in ("quit", "exit"):
        break
    messages.append({"role": "user", "content": user_text})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    answer = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": answer})
    print("Bot:", answer)

Chaque itération renvoie toute la liste, donc le coût par tour augmente à mesure que le chat s’allonge. Le prix est de 0,15 $ par 1M de tokens d’entrée et de 0,50 $ par 1M de tokens de sortie. Un tour avec 2 000 tokens d’entrée et 400 tokens de sortie coûte 2 000 / 1 000 000 x 0,15 $ = 0,0003 $ plus 400 / 1 000 000 x 0,50 $ = 0,0002 $, soit 0,0005 $. À ce rythme, le crédit d’essai de 0,50 $ couvre environ 1 000 tours.

Quand la liste devient longue, supprimez les anciens messages utilisateur et assistant mais gardez le message système en haut. Ou demandez au modèle d’écrire un court résumé des premiers tours et remplacez-les par celui-ci.

Étape 5 : mode JSON et appel de fonctions

Quand votre code doit analyser la réponse, demandez du JSON. Définissez response_format sur {"type": "json_object"} et dites aussi "JSON" dans le prompt pour que le modèle sache quelle forme vous voulez.

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON."},
        {"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
    ],
)
print(json.loads(resp.choices[0].message.content))

L'appel de fonctions permet au modèle de demander à votre code d'exécuter une fonction. Vous décrivez la fonction dans tools ; le modèle répond avec une entrée tool_calls au lieu de texte ; vous exécutez la fonction et renvoyez le résultat avec role: "tool".

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    call = msg.tool_calls[0]
    args = json.loads(call.function.arguments)
    result = {"order_id": args["order_id"], "status": "shipped"}
    messages.append(msg)
    messages.append({
        "role": "tool",
        "tool_call_id": call.id,
        "content": json.dumps(result),
    })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)

Les modèles peuvent produire occasionnellement des arguments mal formés, donc enveloppez json.loads dans un bloc try dans le code réel et renvoyez une erreur comme résultat de l’outil si l’analyse échoue.

En cas de problème

La plupart des problèmes du premier jour sont l’un de ceux-ci.

  • 401 ou erreur d’authentification : la clé est manquante, a une faute de frappe, ou l’en-tête n’est pas sous la forme Bearer KEY.
  • 404 : la base URL manque de /v1, ou vous avez appelé le mauvais chemin. Le chemin de chat est /v1/chat/completions.
  • 429 avec le code rate_limited : vous avez dépassé la limite de requêtes par minute (300 sur une clé complète, 60 sur une clé d’essai).
  • 429 avec le code concurrency : trop de requêtes à la fois (8 sur une clé complète, 2 sur une clé d’essai). Mettez en file d’attente vos appels.
  • 429 avec Retry-After: 5 : surcharge temporaire. Attendez cinq secondes et réessayez.
  • Requête trop volumineuse : la limite du corps est de 8 Mo, et le prompt plus la réponse doivent tenir dans 100 000 tokens.

Les requêtes échouées ou refusées ne sont pas facturées, donc réessayer soigneusement ne coûte rien de plus. Pour chaque code d’erreur et plus d’exemples, lisez la documentation, et consultez la tarification pour estimer ce qu’une charge de travail coûte à 0,15 $ par 1M de tokens d’entrée et 0,50 $ par 1M de tokens de sortie.

Réessayer poliment dans le code

Un script qui envoie beaucoup de requêtes finira par rencontrer un 429. La solution est un petit wrapper de réessai qui attend et réessaie. Cette version respecte la pause de cinq secondes demandée par l’API en cas de surcharge temporaire.

import os, time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

print(ask("List three uses for a paperclip."))

Si vous exécutez beaucoup de requêtes en parallèle, limitez le nombre de workers à votre limite de concurrence. Un pool de threads de 8 correspond à une clé complète, et 2 correspond à une clé d’essai. Aller au-delà ne produit que des erreurs concurrency.

Questions et réponses

Ai-je besoin d'un SDK spécial ?

Non. Tout SDK OpenAI ou client compatible OpenAI fonctionne. Définissez la base URL sur https://api.bestllmapi.com/v1, utilisez votre clé et définissez le modèle sur uncensored.

Puis-je l'essayer avant de payer ?

Oui. Les nouveaux utilisateurs peuvent obtenir 0,50 $ de crédit d'essai gratuit en un clic sur la page de la clé API. Aucune carte n'est requise et il est valable 7 jours.

L'API retient-elle les messages précédents ?

Non. Envoyez l’historique de la conversation dans la liste messages à chaque requête. Le prompt plus la réponse doivent tenir dans la fenêtre de contexte de 100 000 tokens.

Que signifie une erreur 429 ?

Vous avez atteint une limite. Le code rate_limited signifie trop de requêtes par minute, concurrency signifie trop de requêtes simultanées, et un en-tête Retry-After indique une surcharge brève.

Votre clé n'est qu'à un formulaire de distance

Créez un compte, copiez la clé, modifiez la base URL. C'est toute la configuration.

Obtenir une clé API