JA ▾
API キーを取得

Best LLM API ガイド

LLM APIの使い方:初回リクエストからストリーミングまで

LLM APIの使用とは、HTTPS経由でメッセージのJSONリストを送信し、応答を読み取ることを意味します。このガイドでは、キーの取得から初回リクエスト、ストリーミング、JSON出力、ツール呼び出しまでを解説します。

更新日:

ターミナルからサーバーへ移動する光るリクエストパケットと、ストリーミングされるトークン

主要ポイント

  • エンドポイントはOpenAI互換です:ベースURLとキーを変更し、SDKをそのまま使用してください。
  • モデルIDはuncensoredを使用し、/v1/chat/completionsにPOSTしてください。
  • ストリーミング、JSONモード、ツール呼び出しはすべてサポートされています。
  • 429は速度を落とすことを意味します。エラーコードを読んで理由を確認してください。

LLM API呼び出しとは何か

LLM API サービスの使い方について疑問に思うなら、考え方はシンプルです。メッセージのリストを含む HTTPS POST を送信します。各メッセージには role(system、user または assistant)とテキストが含まれます。サーバーはモデルを実行し、次の assistant メッセージを返します。これがすべての契約内容です。

モデルは呼び出し間でメモリを持ちません。会話を行いたい場合は、毎回以前のメッセージを再送信する必要があります。これがプロンプトが大きくなる理由、コストが増加する理由、そして100,000トークンのコンテキストウィンドウが重要である理由です:プロンプトと応答の合計が制限されるためです。

このサービスはOpenAI Chat Completions APIと同じプロトコルを使用します。ベースURLとキーの2つを変更すれば、OpenAI SDKまたは互換クライアントのいずれかが動作します。テキストのみが入力され、出力されます。画像、音声、動画の生成や、埋め込みエンドポイントはありません。

このガイドの残りの部分では、いくつかの用語が使用されています。token はテキストの断片であり、平均して英語の単語の約 4 分の 3 です。入力トークン はあなたが送信するすべてのデータであり、出力トークン はモデルが生成するテキストです。あなたは両方に対して異なるレートで課金され、レスポンスにはそれぞれいくつ使用されたかが正確に示されます。ベース URL はクライアントがすべてのパスに付加するアドレスであり、API キー はリクエストがあなたのものであることを証明する秘密鍵です。これらの 4 つの用語を知っていれば、残りは定型業務です。

ステップ1:キーを取得し、3つの値を記録する

Google、またはメールとパスワードでアカウントを作成し、APIキーページを開きます。ここではキーをコピーし、ワンクリックで$0.50のトライアルクレジットを取得できます。トライアルにはカードは必要ありません。

すべてのリクエストには3つの値が必要です。

  • ベースURL: https://api.bestllmapi.com/v1
  • モデルID: uncensored
  • 認証ヘッダー: Authorization: Bearer YOUR_KEY

キーをソース管理から外してください。LLM_API_KEYなどの環境変数に配置し、そこから読み取ってください。キーを持っている人は誰でもクレジットを使用できます。

ステップ2:curlで初回リクエストを送信

Curlは、ライブラリが関与する前にすべてが機能していることを確認するための最速の方法です。

export LLM_API_KEY="paste-your-key-here"

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a token is in two sentences."}
    ],
    "temperature": 0.7
  }'

応答はJSONです。テキストはchoices[0].message.contentにあり、usageオブジェクトにはプロンプトトークンと完了トークンがリストされており、これに対して課金されます。また、GET https://api.bestllmapi.com/v1/modelsでモデルを一覧表示することもできます。uncensoredが表示されるはずです。

応答ヘッダーも役立ちます。X-Request-Idはサポートに連絡する際に呼び出しを識別し、X-Balance-USDはアカウントの残高を示します。

応答の読み取りとパラメータの選択

解析コードを書く前に知っておくべき、レスポンスのいくつかのフィールドがあります。choices はリストであり、通常は最初の項目を参照します。その内部で、message.content にテキストが含まれ、finish_reason はモデルが停止した理由を示します。値が stop の場合は自然に完了したことを意味します。値が length の場合は、max_tokens の上限に達したか、コンテキストウィンドウの容量を使い果たしたことを意味し、回答が途中で切れている可能性があります。

usageオブジェクトには、プロンプトトークン、完了トークン、合計が含まれます。初日からすべての呼び出しに対してこれらをログに記録してください。これらは、アプリが実際にどれだけのコストがかかるかを学ぶための唯一の信頼できる方法であり、同じ長いプロンプトを2回送信するバグを容易に特定できます。

パラメータの選択は主にタスクの種類によります。抽出、分類、コード生成には 0.2 のような低い temperature を使用し、同じ入力に対してほぼ同じ出力が得られるようにします。ブレインストーミングやストーリー生成には 0.8 から 1.0 を使用すると、より多様な出力が得られます。一度に 1 つの値だけを変更し、2 つのプロンプトのバージョン間で再現可能な比較を行う場合は seed を使用してください。

ステップ3:PythonまたはNodeでOpenAI SDKを使用する

実際にはライブラリを使用することになります。Pythonでは、pip install openaiでインストールし、新しいベースURLを指すように設定します。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bestllmapi.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Give me three names for a hiking app."},
    ],
    temperature=0.8,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node版はほぼ同じです。npm install openaiでインストールします。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.bestllmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});

console.log(resp.choices[0].message.content);

max_tokens はオプションです。指定しない場合、返信は 100,000 トークンのウィンドウの残りをすべて使用するため、短い回答を望む場合は設定してください。サンプリング設定の temperature、top_p、stop、seed およびペナルティパラメータはモデルに渡されます。

ステップ4:応答をストリーミングする

ストリーミングなしでは、ユーザーは応答全体が完成するまで空白の画面を見つめることになります。stream: true を使用すると、サーバーは生成されるたびにトークンを Server-Sent Events 経由で送信し、使用量の合計は最後に届きます。

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.total_tokens)

覚えておくべき点があります。ストリーミングリクエストはストリームが終了するまで同時接続枠を保持します。フルキーでは同時リクエストが 8 件、トライアルキーでは 2 件まで可能です。ユーザーがタブを閉じた場合は、サーバー側でもストリームを閉じてください。そうしないと、スロットが占有されたままになります。

会話を続ける

APIにはメモリがないため、チャットアプリはリストに追加するループです。以下のパターンは、ほぼすべてのチャットボットの核心です。

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

messages = [{"role": "system", "content": "You are a friendly travel planner."}]

while True:
    user_text = input("You: ")
    if user_text.strip().lower() in ("quit", "exit"):
        break
    messages.append({"role": "user", "content": user_text})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    answer = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": answer})
    print("Bot:", answer)

ループのたびにリスト全体が再送信されるため、チャットが長くなるほどターンあたりのコストが増加します。料金は入力トークン 100 万トークンあたり $0.15、出力トークン 100 万トークンあたり $0.50 です。入力トークン 2,000 と出力トークン 400 のターンは、2,000 / 1,000,000 x $0.15 = $0.0003 に 400 / 1,000,000 x $0.50 = $0.0002 を加えた $0.0005 がかかります。このレートでは、$0.50 のトライアルクレジットは約 1,000 ターンをカバーできます。

リストが長くなった場合は、最も古い user と assistant のメッセージを削除しますが、system メッセージは先頭に保持します。または、モデルに初期の会話の短い要約を書かせ、それらと置き換えてください。

ステップ5:JSONモードとツール呼び出し

コードで回答を解析する必要がある場合は、JSON を指定してください。response_format を {"type": "json_object"} に設定し、プロンプトにも「JSON」と記載して、期待する形式をモデルに知らせてください。

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON."},
        {"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
    ],
)
print(json.loads(resp.choices[0].message.content))

ツール呼び出しにより、モデルはコードに関数を実行するよう依頼できます。関数をtoolsで記述し、モデルはテキストの代わりにtool_callsエントリで応答します。関数を実行し、role: "tool"で結果を戻します。

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by its id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    call = msg.tool_calls[0]
    args = json.loads(call.function.arguments)
    result = {"order_id": args["order_id"], "status": "shipped"}
    messages.append(msg)
    messages.append({
        "role": "tool",
        "tool_call_id": call.id,
        "content": json.dumps(result),
    })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)

モデルは時々不適切な引数を生成することがあるため、実際のコードではjson.loadsをtryブロックで囲み、解析に失敗した場合はエラーをツール結果として送信してください。

何かがうまくいかない場合

最初の日の問題のほとんどはこれらに該当します。

  • 401 または認証エラー: キーが未設定、タイプミスがある、またはヘッダーが Bearer KEY の形式ではない。
  • 404:ベースURLに/v1が不足している、または間違ったパスを呼び出しました。チャットパスは/v1/chat/completionsです。
  • 429 (コード rate_limited): 1分あたりのリクエスト数制限(フルキーは 300、トライアルキーは 60)を超えました。
  • コードconcurrency付きの429:一度にリクエストが多すぎます(フルキーは8、トライアルキーは2)。呼び出しをキューに入れます。
  • Retry-After: 5付きの429:一時的な過負荷。5秒待ってから再試行してください。
  • リクエストが大きすぎます:ボディの制限は8 MBで、プロンプトと応答の合計が100,000トークンに収まる必要があります。

失敗または拒否されたリクエストは課金されないため、慎重に再試行しても追加コストはかかりません。すべてのエラーコードとさらに多くの例については ドキュメント を読み、料金表 を参照して、入力トークン 100 万トークンあたり $0.15、出力トークン 100 万トークンあたり $0.50 でワークロードのコストを見積もってください。

コードでの丁寧な再試行

多くのリクエストを送信するスクリプトは、最終的に429に遭遇します。修正は、待機して再試行する小さな再試行ラッパーです。このバージョンは、一時的な過負荷時にAPIが求める5秒の待機を尊重します。

import os, time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

print(ask("List three uses for a paperclip."))

並列で多くのリクエストを実行する場合は、ワーカー数を同時実行数の上限以内にしてください。8のスレッドプールはフルキーに一致し、2はトライアルキーに一致します。それ以上にしても、concurrencyエラーが発生するだけです。

質問と回答

特別なSDKが必要ですか?

いいえ。OpenAI SDKまたはOpenAI互換クライアントのいずれかが動作します。ベースURLをhttps://api.bestllmapi.com/v1に設定し、キーを使用して、モデルをuncensoredに設定してください。

支払い前に試すことはできますか?

はい。新規ユーザーは API キーページでワンクリックで $0.50 の無料トライアルクレジットを受け取ることができます。カードは不要で、7 日間有効です。

APIは過去のメッセージを記憶しますか?

いいえ。各リクエストでmessagesリストに会話履歴を送信してください。プロンプトと応答の合計が100,000トークンのウィンドウに収まる必要があります。

429エラーの意味は何ですか?

制限に達しました。rate_limitedコードは1分あたりのリクエスト数が多すぎることを意味し、concurrencyは一度に多すぎることを意味し、Retry-Afterヘッダーは一時的な過負荷を意味します。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得