Best LLM API Panduan
Cara Menggunakan API LLM: Permintaan Pertama hingga Streaming
Menggunakan API LLM berarti mengirim daftar pesan JSON melalui HTTPS dan membaca balasan. Panduan ini membawa Anda dari mendapatkan kunci hingga permintaan pertama, lalu ke streaming, output JSON, dan panggilan alat.
Diperbarui:

Poin utama
- Endpoint ini kompatibel dengan OpenAI: ubah base URL dan kunci, gunakan SDK Anda.
- Gunakan ID model uncensored dan POST ke /v1/chat/completions.
- Streaming, mode JSON, dan pemanggilan fungsi semuanya didukung.
- 429 berarti perlambat; baca kode kesalahan untuk mengetahui alasannya.
Apa itu panggilan API LLM
Jika Anda bertanya cara menggunakan layanan API LLM sama sekali, idenya sederhana. Anda mengirim POST HTTPS dengan daftar pesan. Setiap pesan memiliki role (system, user atau assistant) dan beberapa teks. Server menjalankan model dan mengirimkan pesan asisten berikutnya. Itulah kontrak utamanya.
Model tidak memiliki memori antar panggilan. Jika Anda ingin percakapan, kirimkan pesan sebelumnya lagi setiap kali. Inilah mengapa prompt membesar, mengapa biaya bertambah seiring dengannya, dan mengapa jendela konteks 100.000 token penting: itu adalah batas untuk prompt ditambah balasan bersama-sama.
Layanan ini menggunakan protokol yang sama dengan API Chat Completions OpenAI. SDK OpenAI atau klien kompatibel apa pun berfungsi setelah Anda mengubah dua hal, base URL dan kunci. Hanya teks yang masuk dan keluar. Tidak ada pembuatan gambar, audio, atau video, dan tidak ada endpoint embedding.
Beberapa istilah digunakan di seluruh panduan ini. token adalah potongan teks, kira-kira tiga perempat kata bahasa Inggris rata-rata. Token input adalah semua yang Anda kirim, dan token output adalah apa yang ditulis model. Anda ditagih untuk keduanya, dengan tarif berbeda, dan respons memberi tahu Anda secara tepat berapa banyak masing-masing yang digunakan. Base URL adalah alamat yang ditambahkan klien Anda di depan setiap path, dan kunci API adalah rahasia yang membuktikan permintaan itu milik Anda. Jika Anda mengetahui empat kata itu, sisanya adalah rutinitas.
Langkah 1: dapatkan kunci dan catat tiga nilai
Buat akun dengan Google, atau dengan email dan kata sandi, dan buka halaman kunci API. Di sana Anda dapat menyalin kunci Anda dan mengklaim kredit uji coba $0,50 dengan satu klik. Tidak perlu kartu untuk uji coba.
Anda membutuhkan tiga nilai untuk setiap permintaan:
- Base URL:
https://api.bestllmapi.com/v1 - ID Model:
uncensored - Header Auth:
Authorization: Bearer YOUR_KEY
Jangan simpan kunci di version control. Letakkan dalam variabel lingkungan seperti LLM_API_KEY dan baca dari sana. Siapa pun yang memiliki kunci dapat menghabiskan saldo prabayar Anda.
Langkah 2: kirim permintaan pertama dengan curl
Curl adalah pemeriksaan tercepat bahwa semuanya berfungsi, sebelum pustaka apa pun terlibat.
export LLM_API_KEY="paste-your-key-here"
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a token is in two sentences."}
],
"temperature": 0.7
}'
Balasan adalah JSON. Teks ada di choices[0].message.content, dan objek usage mencantumkan token prompt dan completion, yang menjadi dasar tagihan Anda. Anda juga dapat menampilkan daftar model dengan GET https://api.bestllmapi.com/v1/models; Anda harus melihat uncensored.
Header respons juga membantu. X-Request-Id mengidentifikasi panggilan jika Anda menghubungi dukungan, dan X-Balance-USD menunjukkan sisa di akun Anda.
Membaca respons dan memilih parameter
Respons memiliki beberapa bidang yang perlu diketahui sebelum Anda menulis kode parsing apa pun. choices adalah daftar, dan Anda hampir selalu menginginkan item pertama. Di dalamnya, message.content berisi teks, dan finish_reason memberi tahu Anda mengapa model berhenti. Nilai stop berarti selesai secara alami. Nilai length berarti mencapai batas max_tokens Anda atau kehabisan jendela, sehingga jawaban mungkin terpotong di tengah kalimat.
Objek usage memberikan token prompt, token completion, dan total. Catat ini untuk setiap panggilan sejak hari pertama. Mereka adalah satu-satunya cara yang dapat diandalkan untuk mempelajari biaya sebenarnya aplikasi Anda, dan memudahkan untuk menemukan bug yang mengirim prompt panjang yang sama dua kali.
Memilih parameter sebagian besar merupakan masalah jenis tugas. Untuk ekstraksi, klasifikasi, dan kode, gunakan suhu rendah seperti 0,2, sehingga input yang sama memberikan output yang hampir sama. Untuk brainstorming dan cerita, 0,8 hingga 1,0 memberikan lebih banyak variasi. Ubah satu nilai pada satu waktu, dan gunakan seed ketika Anda ingin perbandingan yang dapat diulang antara dua versi prompt.
Langkah 3: gunakan SDK OpenAI di Python atau Node
Dalam praktiknya Anda akan menggunakan library. Di Python, instal dengan pip install openai dan arahkan ke base URL baru.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.bestllmapi.com/v1",
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Give me three names for a hiking app."},
],
temperature=0.8,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Versi Node hampir identik. Instal dengan npm install openai.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.bestllmapi.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Give me three names for a hiking app." }],
});
console.log(resp.choices[0].message.content);
max_tokens bersifat opsional. Jika Anda tidak menyertakannya, balasan mungkin menggunakan sisa apa pun dari jendela konteks 100.000 token, jadi atur ketika Anda menginginkan jawaban pendek. Pengaturan sampling temperature, top_p, stop, seed dan penalti diteruskan ke model.
Langkah 4: terima balasan secara streaming
Tanpa streaming, pengguna Anda melihat layar kosong sampai seluruh jawaban siap. Dengan stream: true server mengirim token melalui Server-Sent Events saat token dihasilkan, dan total penggunaan tiba di akhir.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.total_tokens)
Satu hal yang perlu diingat: permintaan streaming memegang slot konkurensinya sampai stream berakhir. Kunci penuh mengizinkan 8 permintaan paralel, kunci uji coba 2. Jika pengguna menutup tab, hentikan stream di sisi Anda juga, atau slot tetap sibuk.
Melanjutkan percakapan
Karena API tidak memiliki memori, aplikasi chat adalah loop yang menambahkan ke daftar. Pola di bawah ini adalah inti dari hampir setiap chatbot.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
messages = [{"role": "system", "content": "You are a friendly travel planner."}]
while True:
user_text = input("You: ")
if user_text.strip().lower() in ("quit", "exit"):
break
messages.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(model="uncensored", messages=messages)
answer = resp.choices[0].message.content
messages.append({"role": "assistant", "content": answer})
print("Bot:", answer)
Setiap putaran mengirim ulang seluruh daftar, sehingga biaya per putaran meningkat seiring panjangnya chat. Harganya adalah $0.15 per 1M token input dan $0,50 per 1M token output. Satu putaran dengan 2.000 token input dan 400 token output berharga 2.000 / 1.000.000 x $0,15 = $0,0003 ditambah 400 / 1.000.000 x $0,50 = $0,0002, sehingga $0,0005. Pada tingkat itu, kredit uji coba $0,50 mencakup sekitar 1.000 putaran.
Ketika daftar menjadi panjang, hapus pesan pengguna dan asisten tertua tetapi pertahankan pesan sistem di bagian atas. Atau minta model untuk menulis ringkasan singkat dari putaran awal dan ganti dengan itu.
Langkah 5: mode JSON dan pemanggilan alat
Ketika kode Anda perlu memparse jawaban, minta JSON. Atur response_format ke {"type": "json_object"} dan juga katakan "JSON" dalam prompt agar model mengetahui bentuk yang Anda inginkan.
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply only with JSON."},
{"role": "user", "content": "Extract name and city: 'Maria lives in Lisbon.' Use keys name and city."},
],
)
print(json.loads(resp.choices[0].message.content))
Pemanggilan alat memungkinkan model meminta kode Anda menjalankan fungsi. Anda mendeskripsikan fungsi dalam tools; model membalas dengan entri tool_calls alih-alih teks; Anda menjalankan fungsi dan mengirimkan hasilnya kembali dengan role: "tool".
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by its id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
call = msg.tool_calls[0]
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append(msg)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
Model kadang-kadang dapat menghasilkan argumen yang tidak valid, jadi bungkus json.loads dalam blok try di kode nyata dan kirimkan kesalahan kembali sebagai hasil alat jika parsing gagal.
Ketika terjadi kesalahan
Kebanyakan masalah hari pertama adalah salah satu dari ini.
- 401 atau kesalahan autentikasi: kunci hilang, memiliki salah ketik, atau header tidak dalam bentuk
Bearer KEY. - 404: base URL tidak menyertakan
/v1, atau Anda memanggil path yang salah. Path chat adalah/v1/chat/completions. - 429 dengan kode
rate_limited: Anda melewati batas permintaan per menit (300 pada kunci penuh, 60 pada kunci uji coba). - 429 dengan kode
concurrency: terlalu banyak permintaan sekaligus (8 pada kunci penuh, 2 pada kunci uji coba). Masukkan panggilan Anda ke antrean. - 429 dengan
Retry-After: 5: kelebihan beban sementara. Tunggu lima detik dan coba lagi. - Permintaan terlalu besar: batas body permintaan adalah 8 MB, dan prompt ditambah balasan harus muat dalam 100.000 token.
Permintaan yang gagal atau ditolak tidak dibebankan biaya, sehingga mencoba lagi dengan hati-hati tidak menambah biaya. Untuk setiap kode kesalahan dan lebih banyak contoh, baca dokumentasi, dan lihat harga untuk memperkirakan biaya beban kerja pada $0.15 per 1M token input dan $0,50 per 1M token output.
Mencoba lagi dengan sopan dalam kode
Skrip yang mengirim banyak permintaan akan akhirnya bertemu 429. Solusinya adalah pembungkus coba ulang kecil yang menunggu dan mencoba lagi. Versi ini menghormati jeda lima detik yang diminta API pada kelebihan beban sementara.
import os, time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
def ask(prompt, tries=5):
for attempt in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited after retries")
print(ask("List three uses for a paperclip."))
Jika Anda menjalankan banyak permintaan secara paralel, batasi jumlah worker pada batas konkurensi Anda. Thread pool 8 cocok dengan kunci penuh, dan 2 cocok dengan kunci uji coba. Melebihi itu hanya menghasilkan kesalahan concurrency.
Panduan lainnya
Tanya jawab
Apakah saya memerlukan SDK khusus?
Tidak. SDK OpenAI atau klien kompatibel OpenAI apa pun berfungsi. Atur base URL ke https://api.bestllmapi.com/v1, gunakan kunci Anda, dan atur model ke uncensored.
Bisakah saya mencobanya sebelum membayar?
Ya. Pengguna baru dapat mengklaim kredit uji coba senilai $0,50 dengan satu klik di halaman kunci API. Tidak perlu kartu dan berlaku selama 7 hari.
Apakah API mengingat pesan sebelumnya?
Tidak. Kirim riwayat percakapan dalam daftar messages pada setiap permintaan. Prompt ditambah balasan harus muat dalam jendela konteks 100.000 token.
Apa arti kesalahan 429?
Anda mencapai batas. Kode rate_limited berarti terlalu banyak permintaan per menit, concurrency berarti terlalu banyak sekaligus, dan header Retry-After berarti kelebihan beban singkat.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah base URL. Itu saja seluruh proses pengaturannya.