NL ▾
API-sleutel aanvragen

Best LLM API Guide

LLM API gebruiken: eerste verzoek tot streaming

Een LLM API gebruiken betekent een JSON-lijst van berichten over HTTPS versturen en het antwoord lezen. Deze handleiding neemt je mee van een sleutel naar een eerste verzoek, en daarna naar streaming, JSON-uitvoer en tool calls.

Bijgewerkt:

Een gloeiend verzoekspakket dat van een terminal naar een server reist en tokens terugstreamt

Belangrijkste punten

  • Het endpoint is OpenAI-compatibel: wijzig de base URL en sleutel, houd je SDK aan.
  • Gebruik model ID uncensored en POST naar /v1/chat/completions.
  • Streaming, JSON-modus en function calling worden allemaal ondersteund.
  • Een 429 betekent dat je moet vertragen; lees de foutcode om te weten waarom.

Wat een LLM API-verzoek is

Als je je afvraagt hoe je LLM API-diensten eigenlijk gebruikt, is het idee simpel. Je stuurt een HTTPS POST met een lijst van berichten. Elk bericht heeft een rol (system, user of assistant) en wat tekst. De server voert het model uit en stuurt het volgende assistant-bericht terug. Dat is het hele contract.

Het model heeft geen geheugen tussen calls. Als je een gesprek wilt, stuur je de eerdere berichten elke keer opnieuw. Dit is waarom prompts groeien, waarom de kosten met hen meegroeien, en waarom het contextvenster van 100.000 tokens belangrijk is: het is de limiet voor prompt plus antwoord samen.

Deze dienst gebruikt hetzelfde protocol als de OpenAI Chat Completions API. Elke OpenAI SDK of compatibele client werkt zodra je twee dingen wijzigt: de base URL en de sleutel. Alleen tekst gaat erin en eruit. Er is geen afbeeldings-, audio- of videogeneratie en geen embeddings endpoint.

Een paar termen worden in de rest van deze gids gebruikt. Een token is een tekstfragment, gemiddeld ongeveer drie kwart van een Engels woord. Input tokens zijn alles wat je verstuurt, en output tokens zijn wat het model schrijft. Je betaalt voor beide, tegen verschillende tarieven, en de response vertelt precies hoeveel van elk het heeft gebruikt. Een base URL is het adres dat je client voor elk pad plaatst, en een API-sleutel is het geheim dat bewijst dat het verzoek van jou is. Als je die vier woorden kent, is de rest routine.

Stap 1: haal een sleutel op en noteer drie waarden

Maak een account aan met Google, of met een e-mailadres en wachtwoord, en open de API-sleutelpagina. Daar kun je je sleutel kopiëren en het $0,50 proeftegoed met één klik claimen. Er is geen kaart nodig voor de proefperiode.

Je hebt drie waarden nodig voor elk verzoek:

  • Base URL: https://api.bestllmapi.com/v1
  • Model ID: uncensored
  • Auth header: Authorization: Bearer YOUR_KEY

Houd de sleutel buiten broncodebeheer. Zet hem in een omgevingsvariabele zoals LLM_API_KEY en lees hem daaruit. Iedereen die de sleutel heeft, kan je tegoed uitgeven.

Stap 2: stuur een eerste verzoek met curl

Curl is de snelste check dat alles werkt, voordat een bibliotheek in het spel is.

export LLM_API_KEY="paste-your-key-here"

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a token is in two sentences."}
    ],
    "temperature": 0.7
  }'

Het antwoord is JSON. De tekst staat bij choices[0].message.content, en een usage object somt prompt en completion tokens op, waar je op wordt afgerekend. Je kunt modellen ook opsommen met GET https://api.bestllmapi.com/v1/models; je zou uncensored moeten zien.

De response headers helpen ook. X-Request-Id identificeert het verzoek als je contact opneemt met support, en X-Balance-USD toont wat er nog op je account staat.

Het antwoord lezen en parameters kiezen

Een response heeft een paar velden die het waard zijn om te kennen voordat je parseercode schrijft. choices is een lijst, en je wilt bijna altijd het eerste item. Daarin bevat message.content de tekst, en finish_reason vertelt je waarom het model stopte. Een waarde van stop betekent dat het natuurlijk eindigde. Een waarde van length betekent dat het je max_tokens-limiet of het einde van het venster bereikte, dus het antwoord kan midden in een zin afgesneden zijn.

Het usage-object geeft prompt tokens, completion tokens en een totaal. Log deze vanaf dag één voor elke call. Ze zijn de enige betrouwbare manier om te leren wat je app echt kost, en ze maken het makkelijk om een bug te spotten die dezelfde lange prompt twee keer stuurt.

Het kiezen van parameters is vooral een kwestie van taaktype. Voor extractie, classificatie en code gebruik je een lage temperatuur zoals 0,2, zodat dezelfde input bijna dezelfde output geeft. Voor brainstormen en verhalen geeft 0,8 tot 1,0 meer variatie. Verander één waarde tegelijk, en gebruik seed als je herhaalbare vergelijkingen tussen twee prompt-versies wilt.

Stap 3: gebruik de OpenAI SDK in Python of Node

In de praktijk gebruik je een bibliotheek. Installeer in Python deze met pip install openai en wijs het naar de nieuwe base URL.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bestllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Give me three names for a hiking app."},
    ],
    temperature=0.8,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

De Node-versie is bijna identiek. Installeer met npm install openai.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.bestllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});

console.log(resp.choices[0].message.content);

max_tokens is optioneel. Als je het weglaat, kan het antwoord elk resterend deel van het 100.000-token contextvenster gebruiken, dus stel het in als je korte antwoorden wilt. De sampling settings temperature, top_p, stop, seed en de penalties worden doorgegeven aan het model.

Stap 4: stream het antwoord

Zonder streaming staart je gebruiker naar een leeg scherm totdat het hele antwoord klaar is. Met stream: true stuurt de server tokens via Server-Sent Events zodra ze gegenereerd zijn, en de gebruikstotalen komen aan het einde.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.total_tokens)

Een ding om te onthouden: een gestreamd verzoek houdt zijn concurrentieslot vast tot de stream eindigt. Een volledige sleutel staat 8 gelijktijdige verzoeken toe, een trial sleutel 2. Als een gebruiker het tabblad sluit, sluit dan ook de stream aan jouw kant, anders blijft het slot bezet.

Een gesprek gaande houden

Omdat de API geen geheugen heeft, is een chat-app een lus die aan een lijst toevoegt. Het onderstaande patroon is de kern van bijna elke chatbot.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

messages = [{"role": "system", "content": "You are a friendly travel planner."}]

while True:
    user_text = input("You: ")
    if user_text.strip().lower() in ("quit", "exit"):
        break
    messages.append({"role": "user", "content": user_text})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    answer = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": answer})
    print("Bot:", answer)

Elke ronde stuurt de hele lijst opnieuw, dus de kosten per beurt stijgen naarmate de chat langer wordt. De prijs is $0,15 per 1M input tokens en $0,50 per 1M output tokens. Een beurt met 2.000 input tokens en 400 output tokens kost 2.000 / 1.000.000 x $0,15 = $0,0003 plus 400 / 1.000.000 x $0,50 = $0,0002, dus $0,0005. Bij dat tarief dekt het $0,50 trialtegoed ongeveer 1.000 beurten.

Wanneer de lijst lang wordt, verwijder je de oudste user- en assistant-berichten, maar houd het system-bericht bovenaan. Of vraag het model om een korte samenvatting van de vroege beurten te schrijven en vervang ze daarmee.

Stap 5: JSON-modus en tool calling

Wanneer je code het antwoord moet parseren, vraag dan om JSON. Stel response_format in op {"type": "json_object"} en zeg ook "JSON" in de prompt, zodat het model weet welke vorm je wilt.

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON."},
        {"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
    ],
)
print(json.loads(resp.choices[0].message.content))

Tool calling laat het model je code een functie laten runnen. Je beschrijft de functie in tools; het model antwoordt met een tool_calls-entry in plaats van tekst; je voert de functie uit en stuurt het resultaat terug met role: "tool".

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    call = msg.tool_calls[0]
    args = json.loads(call.function.arguments)
    result = {"order_id": args["order_id"], "status": "shipped"}
    messages.append(msg)
    messages.append({
        "role": "tool",
        "tool_call_id": call.id,
        "content": json.dumps(result),
    })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)

Modellen kunnen nu en dan foutieve argumenten produceren, dus wikkel json.loads in een try block in echte code en stuur een fout terug als het resultaat van de tool als de parsing faalt.

Als er iets misgaat

De meeste problemen op de eerste dag zijn een van deze.

  • 401 of authenticatiefout: de sleutel ontbreekt, heeft een typefout, of de header is niet in de vorm Bearer KEY.
  • 404: de base URL mist /v1, of je hebt het verkeerde pad aangeroepen. Het chat-pad is /v1/chat/completions.
  • 429 met code rate_limited: je hebt de limiet voor verzoeken per minuut overschreden (300 op een volledige sleutel, 60 op een trial sleutel).
  • 429 met code concurrency: te veel verzoeken tegelijk (8 op een volledige sleutel, 2 op een trial sleutel). Zet je calls in een wachtrij.
  • 429 met Retry-After: 5: tijdelijke overbelasting. Wacht vijf seconden en probeer het opnieuw.
  • Verzoek te groot: de body limit is 8 MB, en prompt plus antwoord moet passen in 100.000 tokens.

Mislukte of geweigerde verzoeken worden niet in rekening gebracht, dus zorgvuldig opnieuw proberen kost niets extra. Voor elke foutcode en meer voorbeelden, lees de documentatie, en bekijk prijzen om te schatten wat een workload kost bij $0,15 per 1M input tokens en $0,50 per 1M output tokens.

Vriendelijk opnieuw proberen in code

Een script dat veel verzoeken verstuurt, zal uiteindelijk een 429 tegenkomen. De oplossing is een kleine retry-wrapper die wacht en het opnieuw probeert. Deze versie respecteert de vijf seconden pauze die de API vraagt bij tijdelijke overbelasting.

import os, time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

print(ask("List three uses for a paperclip."))

Als je veel requests parallel uitvoert, beperk dan het aantal workers tot je concurrency limit. Een thread pool van 8 komt overeen met een volledige sleutel, en 2 met een trial sleutel. Boven dat uitgaan levert alleen concurrency errors op.

Vragen en antwoorden

Heb ik een speciale SDK nodig?

Nee. Elke OpenAI SDK of OpenAI-compatibele client werkt. Stel de base URL in op https://api.bestllmapi.com/v1, gebruik je sleutel en stel het model in op uncensored.

Kan ik het eerst uitproberen voordat ik betaal?

Ja. Nieuwe gebruikers kunnen $0,50 aan proeftegoed claimen met één klik op de API-sleutelpagina. Er is geen kaart nodig en het is 7 dagen geldig.

Onthoudt de API eerdere berichten?

Nee. Stuur de conversatiegeschiedenis in de messages-lijst bij elk verzoek. Prompt plus antwoord moeten in het contextvenster van 100.000 tokens passen.

Wat betekent een 429-fout?

Je hebt een limiet bereikt. De code rate_limited betekent te veel verzoeken per minuut, concurrency betekent te veel tegelijk, en een Retry-After-header betekent een korte overbelasting.

Je sleutel is nog maar één formulier verwijderd

Maak een account aan, kopieer de sleutel, pas de base URL aan. Dat is de hele setup.

API-sleutel aanvragen