Best LLM API Hướng dẫn
Cách dùng LLM API: Từ yêu cầu đầu tiên đến truyền phát
Dùng LLM API nghĩa là gửi danh sách messages dạng JSON qua HTTPS và đọc phản hồi. Hướng dẫn này đưa bạn từ khi có khóa đến yêu cầu đầu tiên, rồi đến truyền phát, đầu ra JSON và gọi hàm.
Cập nhật:

Điểm chính
- Endpoint tương thích OpenAI: bạn chỉ cần đổi base URL và khóa, giữ nguyên SDK của bạn.
- Sử dụng model ID uncensored và gửi POST đến /v1/chat/completions.
- Truyền phát, chế độ JSON và gọi hàm đều được hỗ trợ.
- Mã 429 nghĩa là bạn cần giảm tốc độ; hãy đọc mã lỗi để biết lý do.
Gọi LLM API là gì
Nếu bạn thắc mắc cách sử dụng dịch vụ LLM API nói chung, ý tưởng rất đơn giản. Bạn gửi một HTTPS POST với danh sách các tin nhắn. Mỗi tin nhắn có một vai trò (system, user hoặc assistant) và một số văn bản. Máy chủ chạy mô hình và gửi lại tin nhắn trợ lý tiếp theo. Đó là toàn bộ hợp đồng.
Mô hình không có bộ nhớ giữa các lần gọi. Nếu bạn muốn hội thoại, bạn phải gửi lại các message trước đó mỗi lần. Đó là lý do prompt dài ra, chi phí tăng theo prompt, và cửa sổ ngữ cảnh 100.000 token quan trọng: đó là giới hạn cho prompt cộng câu trả lời.
Dịch vụ này dùng cùng giao thức với API Chat Completions của OpenAI. Bất kỳ SDK OpenAI hoặc client tương thích nào đều hoạt động sau khi bạn đổi hai thứ: base URL và khóa. Chỉ có văn bản đi vào và đi ra. Không có tạo ảnh, âm thanh, video và không có endpoint embedding.
Một vài thuật ngữ được sử dụng xuyên suốt phần còn lại của hướng dẫn này. Một token là một đoạn văn bản, trung bình khoảng ba phần tư một từ tiếng Anh. Token đầu vào là mọi thứ bạn gửi, và token đầu ra là những gì mô hình viết. Bạn được tính phí cho cả hai với các mức giá khác nhau, và phản hồi cho bạn biết chính xác nó đã sử dụng bao nhiêu token của mỗi loại. Một Base URL là địa chỉ mà máy khách của bạn thêm vào trước mọi đường dẫn, và một khóa API là bí mật chứng minh yêu cầu thuộc về bạn. Nếu bạn biết bốn từ đó, phần còn lại chỉ là công việc thường nhật.
Bước 1: lấy khóa và ghi lại ba giá trị
Tạo tài khoản với Google, hoặc với email và mật khẩu, rồi mở trang khóa API. Tại đó, bạn có thể sao chép khóa và nhận tín dụng dùng thử $0,50 chỉ bằng một cú nhấp chuột. Không cần thẻ cho dùng thử.
Bạn cần ba giá trị cho mọi yêu cầu:
- Base URL:
https://api.bestllmapi.com/v1 - ID mô hình:
uncensored - Tiêu đề xác thực:
Authorization: Bearer YOUR_KEY
Giữ khóa khỏi source control. Đặt nó vào biến môi trường như LLM_API_KEY và đọc từ đó. Bất kỳ ai có khóa đều có thể tiêu tốn tín dụng của bạn.
Bước 2: gửi yêu cầu đầu tiên bằng curl
Curl là cách kiểm tra nhanh nhất mọi thứ hoạt động, trước khi bất kỳ thư viện nào được dùng.
export LLM_API_KEY="paste-your-key-here"
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a token is in two sentences."}
],
"temperature": 0.7
}'
Phản hồi là JSON. Văn bản nằm ở choices[0].message.content, và một đối tượng usage liệt kê các token prompt và completion, đây là cơ sở tính phí của bạn. Bạn cũng có thể liệt kê các mô hình bằng GET https://api.bestllmapi.com/v1/models; bạn sẽ thấy uncensored.
Các header phản hồi cũng hữu ích. X-Request-Id xác định cuộc gọi nếu bạn liên hệ hỗ trợ, và X-Balance-USD hiển thị số dư còn lại trong tài khoản của bạn.
Đọc phản hồi và chọn tham số
Một phản hồi có một vài trường bạn nên biết trước khi viết mã phân tích. choices là một danh sách, và bạn gần như luôn muốn lấy mục đầu tiên. Bên trong đó, message.content chứa văn bản, và finish_reason cho bạn biết tại sao mô hình dừng lại. Giá trị stop có nghĩa là nó đã kết thúc tự nhiên. Giá trị length có nghĩa là nó đã đạt ngưỡng max_tokens của bạn hoặc hết cửa sổ ngữ cảnh, vì vậy câu trả lời có thể bị cắt ngang câu.
Đối tượng usage cho token prompt, token completion và tổng số. Hãy ghi lại những thứ này cho mọi cuộc gọi từ ngày đầu tiên. Đây là cách đáng tin nhất để biết ứng dụng của bạn thực sự tốn bao nhiêu, và giúp bạn dễ dàng phát hiện lỗi gửi cùng một prompt dài hai lần.
Chọn tham số chủ yếu phụ thuộc vào loại tác vụ. Với trích xuất, phân loại và mã, hãy dùng nhiệt độ thấp như 0,2 để cùng đầu vào cho ra gần như cùng đầu ra. Với brainstorming và truyện, 0,8 đến 1,0 cho ra nhiều biến thể hơn. Thay đổi một giá trị một lần, và dùng seed khi bạn muốn so sánh lặp lại giữa hai phiên bản prompt.
Bước 3: dùng SDK OpenAI trong Python hoặc Node
Trong thực tế, bạn sẽ dùng một thư viện. Trong Python, hãy cài đặt nó bằng pip install openai và trỏ nó vào base URL mới.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.bestllmapi.com/v1",
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Give me three names for a hiking app."},
],
temperature=0.8,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Phiên bản Node gần như giống hệt. Cài đặt bằng npm install openai.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.bestllmapi.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});
console.log(resp.choices[0].message.content);
max_tokens là tùy chọn. Nếu bạn bỏ qua nó, phản hồi có thể dùng mọi thứ còn lại của cửa sổ 100.000 token, nên hãy đặt nó khi bạn muốn câu trả lời ngắn. Các cài đặt lấy mẫu temperature, top_p, stop, seed và các hình phạt được chuyển tiếp đến mô hình.
Bước 4: truyền phát phản hồi
Không có truyền phát, người dùng của bạn sẽ nhìn vào màn hình trống cho đến khi toàn bộ câu trả lời sẵn sàng. Với stream: true, máy chủ gửi các token qua Server-Sent Events khi chúng được tạo ra, và tổng mức sử dụng sẽ đến vào cuối.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.total_tokens)
Một điều cần nhớ: một yêu cầu truyền phát giữ slot concurrency của nó cho đến khi stream kết thúc. Khóa đầy đủ cho phép 8 yêu cầu đồng thời, khóa dùng thử 2. Nếu người dùng đóng tab, hãy đóng stream ở phía bạn, nếu không slot sẽ bận.
Duy trì hội thoại
Vì API không có bộ nhớ, một ứng dụng chat là một vòng lặp thêm vào danh sách. Mẫu dưới đây là lõi của hầu hết các chatbot.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
messages = [{"role": "system", "content": "You are a friendly travel planner."}]
while True:
user_text = input("You: ")
if user_text.strip().lower() in ("quit", "exit"):
break
messages.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(model="uncensored", messages=messages)
answer = resp.choices[0].message.content
messages.append({"role": "assistant", "content": answer})
print("Bot:", answer)
Mỗi vòng lặp sẽ gửi lại toàn bộ danh sách, khiến chi phí mỗi lượt tăng khi cuộc trò chuyện dài hơn. Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Một lượt với 2.000 token đầu vào và 400 token đầu ra tốn 2.000 / 1.000.000 x $0,15 = $0,0003 cộng thêm 400 / 1.000.000 x $0,50 = $0,0002, tổng cộng $0,0005. Với tốc độ đó, gói dùng thử $0,50 sẽ đủ cho khoảng 1.000 lượt.
Khi danh sách dài, hãy bỏ các message user và assistant cũ nhất nhưng giữ message system ở đầu. Hoặc yêu cầu mô hình viết một bản tóm tắt ngắn các lượt đầu và thay thế chúng bằng bản tóm tắt đó.
Bước 5: chế độ JSON và gọi hàm
Khi mã của bạn cần phân tích câu trả lời, hãy yêu cầu JSON. Đặt response_format thành {"type": "json_object"} và cũng nói "JSON" trong prompt để mô hình biết hình dạng bạn muốn.
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply only with JSON."},
{"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
],
)
print(json.loads(resp.choices[0].message.content))
Gọi hàm cho phép mô hình yêu cầu mã của bạn chạy một hàm. Bạn mô tả hàm trong tools; mô hình trả lời bằng một mục tool_calls thay vì văn bản; bạn chạy hàm và gửi kết quả lại với role: "tool".
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by its id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
call = msg.tool_calls[0]
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append(msg)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
Các mô hình đôi khi có thể tạo ra các đối số bị lỗi cú pháp, vì vậy hãy bọc json.loads trong một khối try trong mã thực tế và gửi lỗi lại dưới dạng kết quả của công cụ nếu quá trình phân tích cú pháp thất bại.
Khi có sự cố xảy ra
Hầu hết các vấn đề ngày đầu tiên là một trong những vấn đề này.
- Lỗi 401 hoặc xác thực: khóa bị thiếu, có lỗi chính tả, hoặc header không ở dạng
Bearer KEY. - 404: base URL thiếu
/v1, hoặc bạn đã gọi sai đường dẫn. Đường dẫn chat là/v1/chat/completions. - 429 với mã
rate_limited: bạn đã vượt giới hạn yêu cầu mỗi phút (300 trên khóa đầy đủ, 60 trên khóa dùng thử). - 429 với mã
concurrency: quá nhiều yêu cầu cùng lúc (8 trên khóa đầy đủ, 2 trên khóa dùng thử). Hãy xếp hàng các cuộc gọi của bạn. - 429 với
Retry-After: 5: quá tải tạm thời. Hãy đợi năm giây và thử lại. - Yêu cầu quá lớn: giới hạn body request là 8 MB, và prompt cộng câu trả lời phải vừa trong 100.000 token.
Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, nên thử lại cẩn thận không tốn thêm chi phí. Với mọi mã lỗi và thêm ví dụ, hãy đọc tài liệu, và xem giá cả để ước tính chi phí công việc ở mức $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra.
Thử lại lịch sự trong mã
Một tập lệnh gửi nhiều yêu cầu cuối cùng sẽ gặp 429. Giải pháp là một trình bao bọc thử lại nhỏ chờ và thử lại. Phiên bản này tôn trọng khoảng dừng năm giây mà API yêu cầu khi quá tải tạm thời.
import os, time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
def ask(prompt, tries=5):
for attempt in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited after retries")
print(ask("List three uses for a paperclip."))
Nếu bạn chạy nhiều yêu cầu đồng thời, hãy giới hạn số lượng worker ở giới hạn concurrency của bạn. Một thread pool 8 khớp với khóa đầy đủ, và 2 khớp với khóa dùng thử. Vượt quá đó chỉ tạo ra lỗi concurrency.
Hướng dẫn khác
Hỏi đáp
Tôi có cần SDK đặc biệt không?
Không. Bất kỳ SDK OpenAI nào hoặc máy khách tương thích OpenAI đều hoạt động. Đặt Base URL thành https://api.bestllmapi.com/v1, dùng khóa của bạn, và đặt mô hình thành uncensored.
Tôi có thể dùng thử trước khi trả tiền không?
Có. Người dùng mới có thể nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột trên trang khóa API. Không cần thẻ, hợp lệ trong 7 ngày.
API có nhớ các tin nhắn trước không?
Không. Bạn hãy gửi lịch sử hội thoại trong danh sách messages trên mỗi yêu cầu. Prompt cộng với câu trả lời phải nằm trong cửa sổ ngữ cảnh 100.000 token.
Lỗi 429 có nghĩa là gì?
Bạn đã chạm giới hạn. Mã rate_limited nghĩa là quá nhiều yêu cầu mỗi phút, concurrency nghĩa là quá nhiều yêu cầu cùng lúc, và header Retry-After nghĩa là quá tải tạm thời.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ thiết lập.