ES ▾
Obtener clave de API

Best LLM API Guía

Cómo usar una API de LLM: primera llamada y streaming

Usar una API de LLM significa enviar una lista de mensajes en formato JSON por HTTPS y leer la respuesta. Esta guía te lleva desde obtener una clave hasta hacer una primera petición, luego a streaming, salida en JSON y llamadas a funciones.

Actualizado:

Paquete de petición brillante viajando desde una terminal a un servidor y devolviendo tokens en streaming

Puntos clave

  • El endpoint es compatible con OpenAI: cambia la URL base y la clave, mantén tu SDK.
  • Usa el ID de modelo uncensored y POST a /v1/chat/completions.
  • Se admiten streaming, modo JSON y llamadas a funciones.
  • Un 429 significa que debes reducir la velocidad; lee el código de error para saber por qué.

Qué es una llamada a una API de LLM

Si te preguntas cómo usar los servicios de API de LLM en general, la idea es sencilla. Envías un POST HTTPS con una lista de mensajes. Cada mensaje tiene un role (system, user o assistant) y un texto. El servidor ejecuta el modelo y devuelve el siguiente mensaje del assistant. Ese es todo el contrato.

El modelo no tiene memoria entre llamadas. Si quieres una conversación, envías los mensajes anteriores de nuevo cada vez. Por eso los prompts crecen, por eso el costo crece con ellos, y por qué importa la ventana de contexto de 100,000 tokens: es el límite para prompt más respuesta juntos.

Este servicio usa el mismo protocolo que la API de OpenAI Chat Completions. Cualquier SDK de OpenAI o cliente compatible funciona una vez que cambias dos cosas, la base URL y la clave. Solo texto entra y sale. No hay generación de imágenes, audio o video ni endpoint de embeddings.

Se usan algunos términos en el resto de esta guía. Un token es un fragmento de texto, aproximadamente tres cuartas partes de una palabra en inglés en promedio. Los tokens de entrada son todo lo que envías, y los tokens de salida son lo que escribe el modelo. Se cobran ambos, a tarifas diferentes, y la respuesta te dice exactamente cuántos de cada uno usó. Una URL base es la dirección que tu cliente antepone a cada ruta, y una clave de API es el secreto que demuestra que la petición es tuya. Si conoces esas cuatro palabras, lo demás es rutina.

Paso 1: obtener una clave y anotar tres valores

Crea una cuenta con Google, o con un correo electrónico y contraseña, y abre la página de clave de API. Allí puedes copiar tu clave y reclamar el crédito de prueba de $0.50 con un clic. No se necesita tarjeta para la prueba.

Necesitas tres valores para cada petición:

  • Base URL: https://api.bestllmapi.com/v1
  • ID de modelo: uncensored
  • Cabecera de autenticación: Authorization: Bearer YOUR_KEY

Mantén la clave fuera del control de código fuente. Ponla en una variable de entorno como LLM_API_KEY y léela desde allí. Cualquiera que tenga la clave puede gastar tu crédito.

Paso 2: enviar una primera petición con curl

Curl es la verificación más rápida de que todo funciona, antes de involucrar cualquier biblioteca.

export LLM_API_KEY="paste-your-key-here"

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a token is in two sentences."}
    ],
    "temperature": 0.7
  }'

La respuesta es JSON. El texto está en choices[0].message.content, y un objeto usage lista los tokens del prompt y los tokens de finalización, que es lo que se te factura. También puedes listar modelos con GET https://api.bestllmapi.com/v1/models; deberías ver uncensored.

Los encabezados de respuesta también ayudan. X-Request-Id identifica la llamada si contactas a soporte, y X-Balance-USD muestra lo que queda en tu cuenta.

Leer la respuesta y elegir parámetros

Una respuesta tiene algunos campos que vale la pena conocer antes de escribir cualquier código de análisis. choices es una lista, y casi siempre quieres el primer elemento. Dentro de este, message.content contiene el texto, y finish_reason te dice por qué se detuvo el modelo. Un valor de stop significa que terminó naturalmente. Un valor de length significa que alcanzaste tu límite de max_tokens o te quedaste sin ventana, por lo que la respuesta puede cortarse a mitad de frase.

El objeto usage proporciona tokens de prompt, tokens de completion y un total. Regístralos en cada llamada desde el primer día. Son la única forma fiable de saber cuánto cuesta realmente tu app y facilitan detectar un bug que envíe el mismo prompt largo dos veces.

Elegir parámetros es principalmente una cuestión del tipo de tarea. Para extracción, clasificación y código, usa una temperatura baja como 0.2, para que la misma entrada dé casi la misma salida. Para lluvia de ideas e historias, 0.8 a 1.0 da más variedad. Cambia un valor a la vez, y usa seed cuando quieras comparaciones repetibles entre dos versiones del prompt.

Paso 3: usar el SDK de OpenAI en Python o Node

En la práctica usarás una biblioteca. En Python, instálala con pip install openai y apúntala a la nueva URL base.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bestllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Give me three names for a hiking app."},
    ],
    temperature=0.8,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

La versión de Node es casi idéntica. Instala con npm install openai.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.bestllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});

console.log(resp.choices[0].message.content);

max_tokens es opcional. Si lo omites, la respuesta puede usar lo que quede de la ventana de 100 000 tokens, así que establécelo cuando quieras respuestas cortas. Los parámetros de muestreo temperature, top_p, stop, seed y las penalizaciones se pasan al modelo.

Paso 4: transmitir la respuesta

Sin streaming, tu usuario mira una pantalla en blanco hasta que la respuesta completa está lista. Con stream: true el servidor envía tokens sobre Server-Sent Events a medida que se producen, y los totales de uso llegan al final.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.total_tokens)

Un detalle a recordar: una petición en streaming mantiene su slot de concurrency hasta que finalice el stream. Una clave completa permite 8 peticiones concurrentes, una clave de prueba 2. Si un usuario cierra la pestaña, cierra también el stream en tu lado, o el slot se mantendrá ocupado.

Mantener una conversación

Debido a que la API no tiene memoria, una aplicación de chat es un bucle que añade a una lista. El patrón a continuación es el núcleo de casi todos los chatbots.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

messages = [{"role": "system", "content": "You are a friendly travel planner."}]

while True:
    user_text = input("You: ")
    if user_text.strip().lower() in ("quit", "exit"):
        break
    messages.append({"role": "user", "content": user_text})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    answer = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": answer})
    print("Bot:", answer)

Cada pasada reenvía toda la lista, por lo que el costo por turno aumenta a medida que la conversación se alarga. El precio es $0,15 por 1M de tokens de entrada y $0,50 por 1M de tokens de salida. Un turno con 2 000 tokens de entrada y 400 tokens de salida cuesta 2 000 / 1 000 000 x $0,15 = $0,0003 más 400 / 1 000 000 x $0,50 = $0,0002, es decir $0,0005. A ese ritmo, los $0,50 de prueba cubren aproximadamente 1 000 turnos.

Cuando la lista sea larga, elimina los mensajes más antiguos del usuario y del assistant, pero conserva el mensaje del system al principio. O bien, pide al modelo que escriba un resumen corto de los turnos iniciales y reemplázalos con él.

Paso 5: modo JSON y llamadas a funciones

Cuando tu código necesita analizar la respuesta, pide JSON. Establece response_format a {"type": "json_object"} y también di "JSON" en el prompt para que el modelo sepa qué forma quieres.

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON."},
        {"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
    ],
)
print(json.loads(resp.choices[0].message.content))

Las llamadas a funciones permiten que el modelo te pida ejecutar una función. Describes la función en tools; el modelo responde con una entrada tool_calls en lugar de texto; ejecutas la función y envías el resultado de vuelta con role: "tool".

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    call = msg.tool_calls[0]
    args = json.loads(call.function.arguments)
    result = {"order_id": args["order_id"], "status": "shipped"}
    messages.append(msg)
    messages.append({
        "role": "tool",
        "tool_call_id": call.id,
        "content": json.dumps(result),
    })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)

Los modelos pueden producir argumentos malformados de vez en cuando, así que envuelve json.loads en un bloque try en el código real y envía un error de vuelta como resultado de la herramienta si falla el análisis.

Cuando algo sale mal

La mayoría de los problemas del primer día son uno de estos.

  • 401 o error de autenticación: falta la clave, tiene un error tipográfico, o el encabezado no está en la forma Bearer KEY.
  • 404: la URL base falta /v1, o llamaste a la ruta incorrecta. La ruta de chat es /v1/chat/completions.
  • 429 con código rate_limited: superaste el límite de peticiones por minuto (300 en una clave completa, 60 en una clave de prueba).
  • 429 con código concurrency: demasiadas peticiones a la vez (8 en una clave completa, 2 en una clave de prueba). Pon tus llamadas en cola.
  • 429 con Retry-After: 5: sobrecarga temporal. Espera cinco segundos y reintenta.
  • Petición demasiado grande: el límite del cuerpo de la petición es 8 MB, y prompt más respuesta deben caber en 100,000 tokens.

Las peticiones fallidas o rechazadas no se cobran, por lo que reintentar cuidadosamente no cuesta nada extra. Para cada código de error y más ejemplos, lee la documentación, y consulta precios para estimar cuánto cuesta una carga de trabajo a $0.15 por 1M de tokens de entrada y $0.50 por 1M de tokens de salida.

Reintento educado en código

Un script que envía muchas peticiones eventualmente encontrará un 429. La solución es un pequeño envoltorio de reintento que espera e intenta de nuevo. Esta versión respeta la pausa de cinco segundos que la API solicita en caso de sobrecarga temporal.

import os, time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

print(ask("List three uses for a paperclip."))

Si ejecutas muchas peticiones en paralelo, limita el número de workers a tu límite de concurrency. Un pool de hilos de 8 coincide con una clave completa, y 2 con una clave de prueba. Superar ese límite solo genera errores de concurrency.

Preguntas y respuestas

¿Necesito un SDK especial?

No. Cualquier SDK de OpenAI o cliente compatible con OpenAI funciona. Establece la base URL en https://api.bestllmapi.com/v1, usa tu clave y configura el modelo como uncensored.

¿Puedo probarlo antes de pagar?

Sí. Los nuevos usuarios pueden reclamar $0.50 de crédito de prueba con un clic en la página de la clave de API. No requiere tarjeta y es válido por 7 días.

¿La API recuerda los mensajes anteriores?

No. Envía el historial de la conversación en la lista de messages en cada petición. El prompt más la respuesta deben caber en la ventana de 100,000 tokens.

¿Qué significa un error 429?

Alcanzaste un límite. El código rate_limited significa demasiadas peticiones por minuto, concurrency significa demasiadas a la vez, y un encabezado Retry-After indica una sobrecarga breve.

Tu clave está a un formulario de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.

Obtener clave de API