繁中 ▾
取得 API 金鑰

Best LLM API 指南

最便宜的程式碼 LLM API:每次 Pull Request 的成本

最便宜的程式碼 LLM API 是每筆被接受的變更成本最低的,而非價格表上最低的那一行。以下是常見程式碼任務的 token 估算,費率為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。

更新日期:

程式碼磚堆疊與分支合併至主線,旁邊有一個小投幣口
等距硬幣將 token 區塊串流輸入伺服器,說明 LLM API 的免費試用額度

重點摘要

  • 自動完成每次呼叫成本低但頻繁;Agent 迴圈會重新讀取程式碼庫,每項任務的成本要高得多。
  • 經過審查的 Pull Request 若使用 10,000-token 的提示詞,以這些費率計算約為 $0.0021。
  • 一次包含 15 個步驟的 Agent 執行,約 375,000 個輸入 token,成本約為 $0.06。
  • 廉價的通用模型適合常規工作;困難的除錯可能需要更強大的模型。

程式碼工作負載主要為輸入 token

程式碼任務具有不對稱的特性。您會傳送大量上下文(檔案、diff、錯誤、周圍模組),而只收到短的補丁或評論。輸入通常佔 token 的 70% 到 95%,這使得輸入價格成為程式碼開發中最關鍵的數字。

每 1M 輸入 token $0.15,10,000-token 的提示詞成本為 $0.0015。每 1M 輸出 token $0.50,1,000-token 的回答成本為 $0.0005。一個讀取多而寫入少的程式碼助手,其預算將主要花在讀取上。例外情況是全檔案重寫,此時輸出量與檔案大小相當。

這也說明了為什麼在程式碼開發中容易高估輸出端的價格。如果工具要求每個補丁都附上解釋,輸出量會增加且比例會改變,因此請早決定是只要程式碼還是程式碼加上推理,並設定系統提示詞以符合需求。例如「只回傳 unified diff」這樣的指令可以免費節省成本。

四項任務,逐一計價

以下數字為估算值,您可以替換為自己的數據。在規劃預算前,請先用 tokenizer 測量幾個實際的提示詞。

任務輸入輸出每次請求成本
行內自動完成80060$0.00015
Pull Request 審查10,0001,200$0.0021
重構單一 8,000-token 檔案8,5008,000$0.005275
Agent 執行,15 個步驟375,00012,000$0.06225

評論行的計算法:10,000 x 0.15 / 1M = $0.0015,加上 1,200 x 0.50 / 1M = $0.0006,總計 $0.0021。重構的費用為:$0.001275 輸入加上 $0.004 輸出。注意,重構將其成本的四分之三用於輸出,因為模型會重寫整個檔案。

Agent 行是需要注意的一項。一個讀取檔案、執行測試並重試的 Agent,會在每個步驟再次傳送不斷增長的上下文。15 個步驟平均每個步驟 25,000 個輸入 token,總計 375,000 個輸入 token,即 $0.05625,加上 12,000 個輸出 token 的 $0.006。

一名開發者一個月的狀況

假設開發者每月工作 22 天,每月執行以下任務:每天 600 次自動完成呼叫、審查 40 個拉取請求、執行 40 次 Agent 任務以及 20 次單檔案重構。

  • 自動完成:13,200 次呼叫 x $0.00015 = $1.98
  • 審查:40 x $0.0021 = $0.084
  • Agent 執行:40 x $0.06225 = $2.49
  • 重構:20 x $0.005275 = $0.1055

總計每位開發者每月約為 $4.66。十人團隊的費用接近 $47。即使你的估算有三倍的誤差,帳單仍會低於每人 $15。你可以使用 定價頁面 查看費率和儲值紅利;儲值 $100 會額外贈送 10%,即獲得 $110 的預付額度。

弱點不在帳單,而在限制。完整金鑰允許每分鐘 300 次請求和 8 個並行請求。如果在每次輸入間歇時都發送請求,編輯器會很快達到該限制,特別是當整個團隊共用一個金鑰時。給每個人一個金鑰,或對自動完成進行防抖動處理。

將其接入編輯器或腳本

此 API 與 OpenAI 相容,因此任何接受自訂 base URL 和金鑰的工具都可以使用它。許多編輯器擴充功能和 CLI Agent 都有這兩個設定。將 base URL 設定為 https://api.bestllmapi.com/v1,模型設定為 uncensored,然後貼上您的金鑰。

對於審查 diff 並列印成本的腳本,請使用 OpenAI Python SDK:

import subprocess
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
        {"role": "user", "content": diff},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))

審查與重構工作請將 temperature 設低。API 文件 列出了傳遞的參數,包括 seed,這在 CI 中需要可重複輸出時很有幫助。

降低程式碼帳費的方法

  • 傳送 diff,而非整個程式庫。 上述審查使用 10,000 個 token,因為它傳送了 diff 加上一些上下文。
  • 限制 Agent 步驟。 永不終止的迴圈是產生意外帳單的最常見原因。在固定步驟數後停止。
  • 精簡工具輸出。 包含 5,000 行的測試日誌會被貼入後續每個步驟。只保留失敗的行。
  • 要求補丁。 要求 unified diff 而非整個檔案,在變更較小時,可使重構範例的輸出減少約 90%。
  • 對結構化輸出使用 JSON 模式。 response_format 搭配 json_object 可避免因格式錯誤的回覆而導致重試迴圈。

失敗或拒絕的請求不會收費,因此出錯的請求成本為零。

當較便宜的模型不是合適的選擇時

這是一個通用開放權重模型,針對合法成人用途進行調整,可無內容審查地回答。它不是專門的程式碼模型,也不是任何廠商的官方 API。對於常規任務如樣板程式碼、測試、文件字串、小型重構和審查評論,它是合理的低成本選項。對於在不熟悉程式碼庫中的深度除錯或大型架構變更,更強大的模型節省的開發者時間,可能比它花費的 token 成本更多。

決定方式為:從你的待辦事項中選取 20 個真實任務,讓每個候選模型執行,計算你會合併的程式碼修補數量,然後將支出除以該數量。在註冊後於 API 金鑰頁面 領取 $0.50 的免費試用額度,以上述費率可進行數百次評論,足以進行該測試。其他供應商設定自己的價格,因此請查看他們的當前定價。關於基本設定,請參閱 如何使用 LLM API。

關於任何免費方案應詢問的問題

免費方案差異很大,標題通常無法顯示關鍵資訊。在基於某個方案建構之前,請詢問以下問題,並在供應商的文件中尋找答案。

  • 它是哪個模型? 某些免費方案使用的模型比付費方案小。在較弱模型上的測試無法反映生產環境的情況。
  • 速率限制為何? 每分鐘僅幾次的限制對腳本來說尚可,對有多個使用者的聊天應用程式則無用。
  • 會過期嗎? 有時限的一次性額度與定期每月的額度是不同的概念。
  • 你的提示詞會如何處理? 如果數據用於訓練,請勿貼入私人內容。在此,提示詞不用於訓練。
  • 付費路徑是什麼樣子? 從免費轉為付費應僅是帳戶狀態的變更,而非重寫。

有時會建議自行託管開放權重模型作為免費途徑。軟體可能免費,但運行具備能力模型所需的 GPU 是有成本的,無論是按小時租賃或購買。對於小型專案,按 token 付費通常更划算,因為你只為使用的部分付費,閒置時不付費。

將試用視為測試預算

將試用視為測試預算而非免費產品會有幫助。按固定順序使用:首先發送幾筆普通請求以確認連線,然後在十種不同輸入上運行真實提示詞,接著進行串流運行,最後發送一個刻意較大的提示詞以觀察模型處理長上下文的能力。將usage區塊中的數字記錄在筆記中。

之後你就知道平均輸入大小、平均輸出大小以及每任務的真實成本。乘以預期流量,即可得出基於測量而非猜測的月度費用。如果費用可接受,下一步是 $20 儲值。如果不可接受,你僅花費幾美分就學到了教訓。

試用期後:付費樣貌

當試用額度耗盡或過期時,您可以添加預付額度。任何從 $20 到 $500 的整數金額都有效。較大的儲值帶有獎勵:$50 起 +5%,$100 起 +10%,$200 起 +15%。$100 的儲值變為 $110 的額度,$200 變為 $230。

你可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。無訂閱費,無每月最低消費。額度永不失效,因此緩慢使用的 $20 儲值不會浪費。每個回應都包含X-Balance-USD標頭,讓你的程式碼無需儀表板即可監控餘額。

失敗或拒絕的請求不會計費。請求出錯時不需付費。提示詞不會用於訓練。完整表格請見 定價。

讓額度更持久的便宜方法

你不需要花招,只需養成幾個習慣。

  1. 精簡歷史記錄。 保留最後 N 次輪次加上舊輪次的簡短摘要,而非重新發送所有內容。
  2. 對只需短答案的任務設定 max_tokens 上限。此處為選配,但可限制輸出端,因為輸出端的 token 成本較高。
  3. 使用 JSON 模式(response_format 設為 json_object)進行提取任務,避免為冗長的開場白付費。
  4. 先以小規模輸入進行測試。在執行一萬次請求前,先用十個範例驗證提示詞。
  5. 以退避機制處理 429 錯誤。 在試用金鑰(2 個並行、每分鐘 60 次)上以緊密迴圈重試會浪費你的時間。若有 Retry-After 標頭請等待。

如果你想在花費任何費用之前比較選項,Hugging Face Inference API 與此端點頁面涵蓋了相關的決策。

首次呼叫以消耗試用額度

以下是一個最小請求。請將金鑰替換為你儀表板中的金鑰。

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

回應包含用量區塊,顯示提示詞與完成 token 數量。將這些數字乘以上述價格即為該呼叫的確切成本。多做幾次這樣的計算,你將對自己的工作量有直覺,這比任何估算都更有價值。快速入門文件涵蓋串流、工具與錯誤代碼。

問答

一般的程式碼審查會使用多少 token?

Diff 加上一些周圍上下文通常為 5,000 到 15,000 個輸入 token,審查評論則為 500 到 1,500 個輸出 token。以這些費率計算,大約為 $0.001 到 $0.003。

我可以在編輯器中使用此 API 嗎?

是的,如果編輯器或擴充功能允許你設定自訂的 OpenAI 相容 Base URL 和金鑰。請使用帳戶中的 Base URL、模型名稱 uncensored 以及你的 API 金鑰。

上下文視窗對於大型檔案來說夠大嗎?

視窗為 100,000 個 token,由提示詞與補全內容共用。這足以同時處理許多檔案,但非常大的程式庫仍需分割。

試用需要信用卡嗎?

否。新用戶可在 API 金鑰頁面一鍵領取 $0.50 的試用額度,無需信用卡,有效期為 7 天。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰