Best LLM API 指南
最便宜的程式碼 LLM API:每次 Pull Request 的成本
最便宜的程式碼 LLM API 是每筆被接受的變更成本最低的,而非價格表上最低的那一行。以下是常見程式碼任務的 token 估算,費率為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。
更新日期:


重點摘要
- 自動完成每次呼叫成本低但頻繁;Agent 迴圈會重新讀取程式碼庫,每項任務的成本要高得多。
- 經過審查的 Pull Request 若使用 10,000-token 的提示詞,以這些費率計算約為 $0.0021。
- 一次包含 15 個步驟的 Agent 執行,約 375,000 個輸入 token,成本約為 $0.06。
- 廉價的通用模型適合常規工作;困難的除錯可能需要更強大的模型。
程式碼工作負載主要為輸入 token
程式碼任務具有不對稱的特性。您會傳送大量上下文(檔案、diff、錯誤、周圍模組),而只收到短的補丁或評論。輸入通常佔 token 的 70% 到 95%,這使得輸入價格成為程式碼開發中最關鍵的數字。
每 1M 輸入 token $0.15,10,000-token 的提示詞成本為 $0.0015。每 1M 輸出 token $0.50,1,000-token 的回答成本為 $0.0005。一個讀取多而寫入少的程式碼助手,其預算將主要花在讀取上。例外情況是全檔案重寫,此時輸出量與檔案大小相當。
這也說明了為什麼在程式碼開發中容易高估輸出端的價格。如果工具要求每個補丁都附上解釋,輸出量會增加且比例會改變,因此請早決定是只要程式碼還是程式碼加上推理,並設定系統提示詞以符合需求。例如「只回傳 unified diff」這樣的指令可以免費節省成本。
四項任務,逐一計價
以下數字為估算值,您可以替換為自己的數據。在規劃預算前,請先用 tokenizer 測量幾個實際的提示詞。
| 任務 | 輸入 | 輸出 | 每次請求成本 |
|---|---|---|---|
| 行內自動完成 | 800 | 60 | $0.00015 |
| Pull Request 審查 | 10,000 | 1,200 | $0.0021 |
| 重構單一 8,000-token 檔案 | 8,500 | 8,000 | $0.005275 |
| Agent 執行,15 個步驟 | 375,000 | 12,000 | $0.06225 |
評論行的計算法:10,000 x 0.15 / 1M = $0.0015,加上 1,200 x 0.50 / 1M = $0.0006,總計 $0.0021。重構的費用為:$0.001275 輸入加上 $0.004 輸出。注意,重構將其成本的四分之三用於輸出,因為模型會重寫整個檔案。
Agent 行是需要注意的一項。一個讀取檔案、執行測試並重試的 Agent,會在每個步驟再次傳送不斷增長的上下文。15 個步驟平均每個步驟 25,000 個輸入 token,總計 375,000 個輸入 token,即 $0.05625,加上 12,000 個輸出 token 的 $0.006。
一名開發者一個月的狀況
假設開發者每月工作 22 天,每月執行以下任務:每天 600 次自動完成呼叫、審查 40 個拉取請求、執行 40 次 Agent 任務以及 20 次單檔案重構。
- 自動完成:13,200 次呼叫 x $0.00015 = $1.98
- 審查:40 x $0.0021 = $0.084
- Agent 執行:40 x $0.06225 = $2.49
- 重構:20 x $0.005275 = $0.1055
總計每位開發者每月約為 $4.66。十人團隊的費用接近 $47。即使你的估算有三倍的誤差,帳單仍會低於每人 $15。你可以使用 定價頁面 查看費率和儲值紅利;儲值 $100 會額外贈送 10%,即獲得 $110 的預付額度。
弱點不在帳單,而在限制。完整金鑰允許每分鐘 300 次請求和 8 個並行請求。如果在每次輸入間歇時都發送請求,編輯器會很快達到該限制,特別是當整個團隊共用一個金鑰時。給每個人一個金鑰,或對自動完成進行防抖動處理。
將其接入編輯器或腳本
此 API 與 OpenAI 相容,因此任何接受自訂 base URL 和金鑰的工具都可以使用它。許多編輯器擴充功能和 CLI Agent 都有這兩個設定。將 base URL 設定為 https://api.bestllmapi.com/v1,模型設定為 uncensored,然後貼上您的金鑰。
對於審查 diff 並列印成本的腳本,請使用 OpenAI Python SDK:
import subprocess
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
{"role": "user", "content": diff},
],
temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))
審查與重構工作請將 temperature 設低。API 文件 列出了傳遞的參數,包括 seed,這在 CI 中需要可重複輸出時很有幫助。
降低程式碼帳費的方法
- 傳送 diff,而非整個程式庫。 上述審查使用 10,000 個 token,因為它傳送了 diff 加上一些上下文。
- 限制 Agent 步驟。 永不終止的迴圈是產生意外帳單的最常見原因。在固定步驟數後停止。
- 精簡工具輸出。 包含 5,000 行的測試日誌會被貼入後續每個步驟。只保留失敗的行。
- 要求補丁。 要求 unified diff 而非整個檔案,在變更較小時,可使重構範例的輸出減少約 90%。
- 對結構化輸出使用 JSON 模式。
response_format搭配json_object可避免因格式錯誤的回覆而導致重試迴圈。
失敗或拒絕的請求不會收費,因此出錯的請求成本為零。
當較便宜的模型不是合適的選擇時
這是一個通用開放權重模型,針對合法成人用途進行調整,可無內容審查地回答。它不是專門的程式碼模型,也不是任何廠商的官方 API。對於常規任務如樣板程式碼、測試、文件字串、小型重構和審查評論,它是合理的低成本選項。對於在不熟悉程式碼庫中的深度除錯或大型架構變更,更強大的模型節省的開發者時間,可能比它花費的 token 成本更多。
決定方式為:從你的待辦事項中選取 20 個真實任務,讓每個候選模型執行,計算你會合併的程式碼修補數量,然後將支出除以該數量。在註冊後於 API 金鑰頁面 領取 $0.50 的免費試用額度,以上述費率可進行數百次評論,足以進行該測試。其他供應商設定自己的價格,因此請查看他們的當前定價。關於基本設定,請參閱 如何使用 LLM API。
更多指南
關於任何免費方案應詢問的問題
免費方案差異很大,標題通常無法顯示關鍵資訊。在基於某個方案建構之前,請詢問以下問題,並在供應商的文件中尋找答案。
- 它是哪個模型? 某些免費方案使用的模型比付費方案小。在較弱模型上的測試無法反映生產環境的情況。
- 速率限制為何? 每分鐘僅幾次的限制對腳本來說尚可,對有多個使用者的聊天應用程式則無用。
- 會過期嗎? 有時限的一次性額度與定期每月的額度是不同的概念。
- 你的提示詞會如何處理? 如果數據用於訓練,請勿貼入私人內容。在此,提示詞不用於訓練。
- 付費路徑是什麼樣子? 從免費轉為付費應僅是帳戶狀態的變更,而非重寫。
有時會建議自行託管開放權重模型作為免費途徑。軟體可能免費,但運行具備能力模型所需的 GPU 是有成本的,無論是按小時租賃或購買。對於小型專案,按 token 付費通常更划算,因為你只為使用的部分付費,閒置時不付費。
將試用視為測試預算
將試用視為測試預算而非免費產品會有幫助。按固定順序使用:首先發送幾筆普通請求以確認連線,然後在十種不同輸入上運行真實提示詞,接著進行串流運行,最後發送一個刻意較大的提示詞以觀察模型處理長上下文的能力。將usage區塊中的數字記錄在筆記中。
之後你就知道平均輸入大小、平均輸出大小以及每任務的真實成本。乘以預期流量,即可得出基於測量而非猜測的月度費用。如果費用可接受,下一步是 $20 儲值。如果不可接受,你僅花費幾美分就學到了教訓。
試用期後:付費樣貌
當試用額度耗盡或過期時,您可以添加預付額度。任何從 $20 到 $500 的整數金額都有效。較大的儲值帶有獎勵:$50 起 +5%,$100 起 +10%,$200 起 +15%。$100 的儲值變為 $110 的額度,$200 變為 $230。
你可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。無訂閱費,無每月最低消費。額度永不失效,因此緩慢使用的 $20 儲值不會浪費。每個回應都包含X-Balance-USD標頭,讓你的程式碼無需儀表板即可監控餘額。
失敗或拒絕的請求不會計費。請求出錯時不需付費。提示詞不會用於訓練。完整表格請見 定價。
讓額度更持久的便宜方法
你不需要花招,只需養成幾個習慣。
- 精簡歷史記錄。 保留最後 N 次輪次加上舊輪次的簡短摘要,而非重新發送所有內容。
- 對只需短答案的任務設定
max_tokens上限。此處為選配,但可限制輸出端,因為輸出端的 token 成本較高。 - 使用 JSON 模式(
response_format設為json_object)進行提取任務,避免為冗長的開場白付費。 - 先以小規模輸入進行測試。在執行一萬次請求前,先用十個範例驗證提示詞。
- 以退避機制處理 429 錯誤。 在試用金鑰(2 個並行、每分鐘 60 次)上以緊密迴圈重試會浪費你的時間。若有
Retry-After標頭請等待。
如果你想在花費任何費用之前比較選項,Hugging Face Inference API 與此端點頁面涵蓋了相關的決策。
首次呼叫以消耗試用額度
以下是一個最小請求。請將金鑰替換為你儀表板中的金鑰。
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
回應包含用量區塊,顯示提示詞與完成 token 數量。將這些數字乘以上述價格即為該呼叫的確切成本。多做幾次這樣的計算,你將對自己的工作量有直覺,這比任何估算都更有價值。快速入門文件涵蓋串流、工具與錯誤代碼。
更多指南
問答
一般的程式碼審查會使用多少 token?
Diff 加上一些周圍上下文通常為 5,000 到 15,000 個輸入 token,審查評論則為 500 到 1,500 個輸出 token。以這些費率計算,大約為 $0.001 到 $0.003。
我可以在編輯器中使用此 API 嗎?
是的,如果編輯器或擴充功能允許你設定自訂的 OpenAI 相容 Base URL 和金鑰。請使用帳戶中的 Base URL、模型名稱 uncensored 以及你的 API 金鑰。
上下文視窗對於大型檔案來說夠大嗎?
視窗為 100,000 個 token,由提示詞與補全內容共用。這足以同時處理許多檔案,但非常大的程式庫仍需分割。
試用需要信用卡嗎?
否。新用戶可在 API 金鑰頁面一鍵領取 $0.50 的試用額度,無需信用卡,有效期為 7 天。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。