Best LLM API คู่มือ
LLM API สำหรับเขียนโค้ดที่ราคาถูกที่สุด: ค่าต่อ Pull Request
LLM API เขียนโค้ดถูกสุดคือตัวที่มีต้นทุนต่ำสุดต่อการเปลี่ยนแปลงที่รับได้ ไม่ใช่บรรทัดต่ำสุดในหน้าราคา ด้านล่างคือการประมาณจำนวนโทเคนสำหรับงานเขียนโค้ดทั่วไป โดยคิดราคา $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต
อัปเดต:


ประเด็นสำคัญ
- Autocomplete มีต้นทุนต่ำต่อการเรียกใช้แต่เกิดขึ้นบ่อย; วงจร agent จะอ่านโค้ดเบสใหม่และใช้ต้นทุนสูงกว่ามากต่อหนึ่งงาน
- Pull request ที่ผ่านการ review พร้อมพรอมต์ขนาด 10,000 โทเคน มีค่าใช้จ่ายประมาณ $0.0021 ในอัตราเหล่านี้
- เอเจนต์รันหนึ่งรอบ 15 ขั้นตอน ใช้โทเคนอินพุตประมาณ 375,000 ตัว มีค่าใช้จ่ายประมาณ $0.06
- โมเดลทั่วไปราคาถูกเป็นตัวเลือกที่ดีสำหรับงานทั่วไป; การดีบักที่ยากอาจจำเป็นต้องใช้โมเดลที่แข็งแกร่งกว่า
งานเขียนโค้ดส่วนใหญ่เป็นโทเคนอินพุต
งานโค้ดมีลักษณะไม่สมดุล คุณส่งบริบทจำนวนมาก (ไฟล์ ดิฟ ข้อผิดพลาด โมดูลรอบข้าง) และได้รับแพตช์สั้นหรือคอมเมนต์สั้นกลับเข้ามา อินพุตมักคิดเป็น 70 ถึง 95 เปอร์เซ็นต์ของโทเคน ซึ่งทำให้ราคาอินพุตเป็นตัวเลขที่สำคัญที่สุดสำหรับการเขียนโค้ด
ที่ $0.15 ต่อ 1M โทเคนอินพุต พรอมต์ 10,000 โทเคนมีค่าใช้จ่าย $0.0015 ที่ $0.50 ต่อ 1M โทเคนเอาต์พุต คำตอบ 1,000 โทเคนมีค่าใช้จ่าย $0.0005 ผู้ช่วยเขียนโค้ดที่อ่านมากและเขียนน้อยจะใช้งบประมาณส่วนใหญ่ไปกับการอ่าน ข้อยกเว้นคือการเขียนไฟล์ใหม่ทั้งหมด ซึ่งเอาต์พุตมีขนาดใหญ่เท่ากับไฟล์
สิ่งนี้ยังอธิบายว่าทำไมราคาของฝั่ง output จึงประเมินสูงเกินไปในงานเขียนโค้ด หากเครื่องมือขอคำอธิบายพร้อมกับทุก patch output จะเพิ่มขึ้นและอัตราส่วนเปลี่ยนไป ดังนั้นควรตัดสินใจตั้งแต่เนิ่นๆ ว่าต้องการเฉพาะโค้ดหรือโค้ดพร้อมเหตุผล และตั้งค่า system prompt ให้สอดคล้องกัน บรรทัดเช่น "return only a unified diff" เป็นการประหยัดที่ไร้ค่าใช้จ่าย
4 งาน คำนวณราคาแยกกัน
ตัวเลขด้านล่างเป็นค่าประมาณการที่คุณสามารถปรับเป็นค่าของคุณเองได้ วัดพรอมต์จริงจำนวนหนึ่งด้วยโทเคนไนเซอร์ก่อนวางแผนงบประมาณ
| งาน | อินพุต | เอาต์พุต | ต้นทุนต่อคำขอ |
|---|---|---|---|
| การเติมข้อความอัตโนมัติแบบอินไลน์ | 800 | 60 | $0.00015 |
| รีวิวคำขอผสาน | 10,000 | 1,200 | $0.0021 |
| รีแฟกเตอร์ไฟล์เดียวขนาด 8,000 โทเคน | 8,500 | 8,000 | $0.005275 |
| รันเอเจนต์ 15 ขั้นตอน | 375,000 | 12,000 | $0.06225 |
การคำนวณสำหรับแถวรีวิว: 10,000 x 0.15 / 1M = $0.0015 บวก 1,200 x 0.50 / 1M = $0.0006 รวม $0.0021 สำหรับการรีแฟกเตอร์: อินพุต $0.001275 บวกเอาต์พุต $0.004 หมายเหตุว่าการรีแฟกเตอร์ใช้สามส่วนสี่ของต้นทุนสำหรับเอาต์พุต เพราะโมเดลเขียนไฟล์ใหม่ทั้งหมด
แถวของ agent คือส่วนที่ต้องจับตามอง Agent ที่อ่านไฟล์ รันเทสต์ และทำซ้ำ จะส่งบริบทที่เพิ่มขึ้นอีกครั้งในทุกขั้นตอน สิบห้าขั้นตอนโดยเฉลี่ยขั้นตอนละ 25,000 โทเคนอินพุต รวมเป็น 375,000 โทเคนอินพุต ซึ่งคิดเป็น $0.05625 บวก $0.006 สำหรับ 12,000 โทเคนเอาต์พุต
ภาพรวมค่าใช้จ่ายหนึ่งเดือนสำหรับนักพัฒนาหนึ่งคน
สมมติว่านักพัฒนาทำงาน 22 วันต่อเดือน และทำสิ่งต่อไปนี้ทุกเดือน: เรียกการเติมข้อความอัตโนมัติ 600 ครั้งต่อวัน รีวิวคำขอผสาน 40 รายการ รันเอเจนต์ 40 ครั้ง และรีแฟกเตอร์ไฟล์เดี่ยว 20 ครั้ง
- การเติมข้อความอัตโนมัติ: 13,200 ครั้ง x $0.00015 = $1.98
- รีวิว: 40 x $0.0021 = $0.084
- รันเอเจนต์: 40 x $0.06225 = $2.49
- รีแฟกเตอร์: 20 x $0.005275 = $0.1055
ยอดรวมประมาณ $4.66 ต่อผู้พัฒนาต่อเดือน ทีมสิบคนจะมีค่าใช้จ่ายใกล้ $47 แม้ว่าการประมาณการของคุณคลาดเคลื่อนเป็นสามเท่า บิลก็ยังคงต่ำกว่า $15 ต่อคน คุณสามารถใช้หน้าราคาเพื่อตรวจสอบอัตราและโบนัสการเติมเงิน การเติมเงิน $100 เพิ่ม 10% ซึ่งคือเครดิต $110
จุดอ่อนไม่ใช่บิล แต่คือขีดจำกัด คีย์เต็มรูปแบบอนุญาต 300 คำขอต่อนาทีและ 8 คำขอพร้อมกัน อีดิเตอร์ที่ส่งคำขอทุกครั้งที่หยุดพิมพ์สามารถถึงขีดจำกัดนี้ได้เร็วหากทีมทั้งหมดใช้คีย์เดียวกัน ให้คีย์แก่แต่ละคนหรือใช้การหน่วงเวลา autocomplete
เชื่อมต่อเข้ากับอีดิเตอร์หรือสคริปต์
API นี้เข้ากันได้กับ OpenAI ดังนั้นเครื่องมือใดๆ ที่รองรับ Base URL และคีย์แบบกำหนดเองสามารถใช้งานได้ ส่วนขยายอีดิเตอร์และเอเจนต์ CLI หลายตัวมีการตั้งค่าสองอย่างนี้ ตั้ง Base URL เป็น https://api.bestllmapi.com/v1 โมเดลเป็น uncensored และวางคีย์ของคุณ
สำหรับสคริปต์ที่รีวิว diff และแสดงต้นทุน ให้ใช้ OpenAI Python SDK:
import subprocess
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
{"role": "user", "content": diff},
],
temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))
ตั้งค่า temperature ให้ต่ำสำหรับงานรีวิวและรีแฟกเตอร์ เอกสาร API ระบุพารามิเตอร์ที่ส่งผ่าน รวมถึง seed ซึ่งช่วยเมื่อคุณต้องการผลลัพธ์ที่ซ้ำได้ใน CI
วิธีลดค่าใช้จ่ายในการเขียนโค้ด
- ส่ง diff ไม่ใช่ทั้ง repository การตรวจสอบด้านบนใช้ 10,000 โทเคนเพราะส่ง diff พร้อมบริบทบางส่วน
- จำกัดจำนวนขั้นตอนของเอเจนต์ ลูปที่ไม่มีวันหยุดเป็นสาเหตุหลักของบิลเซอร์ไพรส์ ให้หยุดหลังจากจำนวนขั้นตอนที่กำหนด
- ตัดทอนผลลัพธ์ของ tool บันทึกการทดสอบที่มี 5,000 บรรทัดจะถูกวางลงในทุกขั้นตอนถัดไป เก็บเฉพาะบรรทัดที่ล้มเหลว
- ขอ patch การขอ unified diff แทนไฟล์เต็มลดผลลัพธ์ในตัวอย่างการรีแฟกเตอร์ลงประมาณ 90 เปอร์เซ็นต์เมื่อการเปลี่ยนแปลงมีขนาดเล็ก
- ใช้โหมด JSON เพื่อผลลัพธ์ที่มีโครงสร้าง
response_formatพร้อมjson_objectช่วยหลีกเลี่ยงการเรียกซ้ำที่เกิดจากการตอบกลับที่มีรูปแบบไม่ถูกต้อง
คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน ดังนั้นคำขอที่ผิดพลาดจึงไม่เสียค่าใช้จ่าย
เมื่อโมเดลที่ราคาถูกกว่าไม่ใช่ตัวเลือกที่เหมาะสม
นี่คือโมเดลแบบเปิดน้ำหนักทั่วไปที่ปรับแต่งให้ตอบโดยไม่ต้องปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย มันไม่ใช่โมเดลเฉพาะทางด้านการเขียนโค้ด และไม่ใช่ API ทางการของผู้จัดจำหน่ายรายใดรายหนึ่ง สำหรับงานทั่วไปเช่นการสร้างโค้ดพื้นฐาน การทดสอบ การเขียน docstring การรีแฟกเตอร์ขนาดเล็ก และความคิดเห็นในการรีวิว มันเป็นตัวเลือกที่มีต้นทุนต่ำและสมเหตุสมผล สำหรับการดีบักลึกในโค้ดเบสที่ไม่คุ้นเคยหรือการเปลี่ยนแปลงสถาปัตยกรรมขนาดใหญ่ โมเดลที่แข็งแกร่งกว่าอาจประหยัดเวลาของนักพัฒนาได้มากกว่าต้นทุนโทเคน
วิธีตัดสินใจคือรันงานจริง 20 รายการจากแบ็กล็อกของคุณผ่านโมเดลผู้สมัครแต่ละราย นับจำนวนแพทช์ที่คุณจะผสาน แล้วหารค่าใช้จ่ายด้วยจำนวนนั้น เครดิตทดลองใช้ $0.50 ซึ่งอ้างสิทธิ์ได้ที่หน้า คีย์ API หลังการสมัคร ครอบคลุมการรีวิวหลายร้อยรายการในอัตราข้างต้น ซึ่งเพียงพอสำหรับการทดสอบนี้ ผู้ให้บริการรายอื่นกำหนดราคาของตัวเอง ดังนั้นโปรดตรวจสอบราคาปัจจุบันของพวกเขา สำหรับพื้นฐานการตั้งค่า ดู วิธีใช้ LLM API
คู่มือเพิ่มเติม
- การเปรียบเทียบราคา LLM API: วิธีเปรียบเทียบอย่างยุติธรรม
- API LLM ฟรีทุกตัวหรือไม่? สิ่งที่คุณได้รับจริงๆ
คำถามที่ควรถามเกี่ยวกับแพ็กเกจฟรี
ข้อเสนอฟรีมีความแตกต่างกันมาก และข้อความหลักมักไม่บอกสิ่งสำคัญ ก่อนที่จะนำแพ็กเกจใดไปใช้งาน ให้ถามคำถามเหล่านี้และหาคำตอบในเอกสารของผู้ให้บริการเอง
- เป็นโมเดลใดกันแน่ ระดับฟรีบางแห่งใช้โมเดลขนาดเล็กกว่าแบบเสียเงิน การทดสอบบนโมเดลที่อ่อนแอบอกคุณเกี่ยวกับประสิทธิภาพการผลิตได้น้อยมาก
- ขีดจำกัดอัตราเป็นอย่างไร? ขีดจำกัดไม่กี่คำขอต่อนาทีอาจเพียงพอสำหรับสคริปต์ แต่ไม่เพียงพอสำหรับแอปแชทที่มีผู้ใช้หลายราย
- หมดอายุหรือไม่? จำนวนเงินที่ได้รับครั้งเดียวพร้อมกำหนดเวลาสิ้นสุด เป็นสิ่งต่างจากจำนวนเงินที่ได้รับรายเดือน
- พรอมต์ของคุณถูกนำไปทำอะไร? หากข้อมูลถูกนำไปใช้ในการฝึกโมเดล อย่าใส่ข้อมูลส่วนตัวลงไป ที่นี่พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล
- เส้นทางแบบเสียเงินเป็นอย่างไร การเปลี่ยนจากฟรีเป็นเสียเงินควรเป็นการเปลี่ยนสถานะบัญชี ไม่ใช่การเขียนใหม่
การโฮสต์โมเดลแบบเปิดน้ำหนักด้วยตนเองบางครั้งถูกแนะนำเป็นทางเลือกฟรี ซอฟต์แวร์อาจไม่มีค่าใช้จ่าย แต่ GPU ที่คุณต้องการเพื่อรันโมเดลที่มีประสิทธิภาพมีค่าใช้จ่าย ไม่ว่าคุณจะเช่ารายชั่วโมงหรือซื้อเอง สำหรับโครงการขนาดเล็ก การคำนวณมักสนับสนุนการจ่ายตามโทเคน เพราะคุณจ่ายเฉพาะสิ่งที่ใช้และไม่จ่ายเมื่อระบบว่าง
การอ่านเครดิตทดลองใช้เป็นงบประมาณทดสอบ
การมองเครดิตทดลองใช้เป็นงบประมาณทดสอบมากกว่าผลิตภัณฑ์ฟรีจะช่วยให้เข้าใจได้ดีขึ้น ควรใช้ตามลำดับที่ตายตัว: เริ่มจากคำขอธรรมดาไม่กี่คำเพื่อตรวจสอบการเชื่อมต่อ จากนั้นใช้พรอมต์จริงกับอินพุตที่หลากหลายสิบรายการ จากนั้นทำการสตรีมมิง และสุดท้ายใช้พรอมต์ขนาดใหญ่โดยเจตนาเพื่อดูว่าโมเดลจัดการกับบริบทที่ยาวอย่างไร จดบันทึกตัวเลขจากบล็อก usage ไว้ด้วย
หลังจากนั้น คุณจะทราบขนาดอินพุตเฉลี่ย ขนาดเอาต์พุตเฉลี่ย และต้นทุนจริงต่องาน นำตัวเลขเหล่านี้คูณกับปริมาณการรับส่งข้อมูลที่คาดว่าจะเกิดขึ้น คุณจะได้ตัวเลขรายเดือนที่อิงจากการวัด ไม่ใช่การคาดเดา หากตัวเลขเป็นที่ยอมรับได้ การเติมเงิน $20 คือขั้นตอนถัดไป หากไม่ คุณก็ได้เรียนรู้ว่าสิ่งนั้นมีราคาเพียงไม่กี่เซ็นต์
หลังจากทดลองใช้: การจ่ายเงินเป็นอย่างไร
เมื่อเครดิตทดลองใช้หมดหรือหมดอายุ คุณสามารถเติมเครดิตแบบเติมเงินล่วงหน้า จำนวนเต็มใดก็ได้ตั้งแต่ $20 ถึง $500 ใช้ได้ การเติมเงินจำนวนมากขึ้นจะได้รับโบนัส: +5% จาก $50, +10% จาก $100, +15% จาก $200 การเติมเงิน $100 จะกลายเป็นเครดิต $110 และ $200 จะกลายเป็น $230
คุณสามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) ไม่มีระบบสมาชิกและไม่มียอดขั้นต่ำรายเดือน เครดิตไม่หมดอายุ ดังนั้นการเติมเงิน $20 ที่ใช้ช้าๆ จะไม่สูญเปล่า แต่ละการตอบกลับมีหัวข้อความ X-Balance-USD ซึ่งทำให้โค้ดของคุณสามารถตรวจสอบยอดคงเหลือได้โดยไม่ต้องใช้แดชบอร์ด
คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หากคำขอเกิดข้อผิดพลาด คุณไม่ต้องจ่ายสำหรับคำขอนั้น พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล ดู ราคา สำหรับตารางราคาเต็ม
วิธีประหยัดเครดิตให้คงอยู่นานขึ้น
คุณไม่ต้องการเทคนิคพิเศษ แค่มีนิสัยไม่กี่อย่าง
- ตัดประวัติออก เก็บการสนทนา N รอบล่าสุดพร้อมสรุปย่อของการสนทนาเก่า แทนที่จะส่งทุกอย่างซ้ำ
- ตั้งค่าเพดาน
max_tokensสำหรับงานที่คำตอบสั้นๆ ก็เพียงพอ มันไม่จำเป็นที่นี่ แต่มันจำกัดฝั่งผลลัพธ์ ซึ่งแพงกว่าต่อโทเคน - ใช้โหมด JSON (
response_formatพร้อมjson_object) สำหรับงานการดึงข้อมูลเพื่อที่คุณจะไม่จ่ายสำหรับคำนำที่เยิ่นเย้อ - ทดสอบด้วยอินพุตขนาดเล็กก่อน พิสูจน์พรอมต์ด้วยตัวอย่างสิบรายการก่อนที่จะรันหนึ่งหมื่นรายการ
- จัดการ 429 ด้วย backoff การลองใหม่ในลูปที่แน่นด้วยคีย์ทดลอง (2 คำขอพร้อมกัน, 60 ต่อนาที) ทำให้เสียเวลาของคุณเอง รอหัวข้อความ
Retry-Afterเมื่อมีอยู่
หากคุณกำลังเปรียบเทียบตัวเลือกก่อนที่จะใช้จ่ายอะไร หน้าเว็บ Hugging Face Inference API เทียบกับเอนด์พอยต์นี้ ครอบคลุมการตัดสินใจที่เกี่ยวข้อง
การเรียกใช้งานครั้งแรกเพื่อใช้เครดิตทดลอง
นี่คือตัวอย่างคำขอแบบพื้นฐานที่สุด แทนที่คีย์ด้วยคีย์จากแดชบอร์ดของคุณ
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
การตอบกลับรวมถึงบล็อกการใช้งานที่มีจำนวนโทเคนพรอมต์และ completion คูณค่าเหล่านี้ด้วยราคาข้างต้นแล้วคุณจะทราบค่าใช้จ่ายที่แท้จริงของการเรียกใช้นั้น ทำซ้ำหลายครั้งคุณจะเข้าใจภาระงานของคุณเอง ซึ่งมีค่ามากกว่าการประมาณการใดๆ เอกสารquickstart ครอบคลุมการสตรีมมิง เครื่องมือ และรหัสข้อผิดพลาด
คู่มือเพิ่มเติม
ถาม-ตอบ
การรีวิวโค้ดทั่วไปใช้โทเคนกี่ตัว?
ดิฟพร้อมบริบทโดยรอบมักใช้โทเคนอินพุต 5,000 ถึง 15,000 ตัว และความคิดเห็นในการรีวิวใช้โทเคนเอาต์พุต 500 ถึง 1,500 ตัว ในอัตราเหล่านี้ คิดเป็นประมาณ $0.001 ถึง $0.003
ฉันสามารถใช้ API นี้ในโปรแกรมแก้ไขของฉันได้หรือไม่
ใช่ หากอีดิเตอร์หรือส่วนขยายอนุญาตให้คุณตั้งค่า base URL และคีย์ที่เข้ากันได้กับ OpenAI ใช้ base URL จากบัญชีของคุณ ชื่อโมเดล uncensored และคีย์ API ของคุณ
หน้าต่างบริบทใหญ่พอสำหรับไฟล์ขนาดใหญ่หรือไม่?
หน้าต่างนี้มีขนาด 100,000 โทเคน ซึ่งแบ่งปันร่วมกันระหว่างพรอมต์และการตอบกลับ มันรองรับไฟล์จำนวนมากได้ในครั้งเดียว แต่ที่เก็บโค้ดขนาดใหญ่มากยังคงต้องแบ่งออก
ฉันต้องใช้บัตรเพื่อลองใช้งานหรือไม่
ไม่ ผู้ใช้ใหม่สามารถอ้างเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกเดียวที่หน้า API key โดยไม่ต้องใช้บัตร และใช้งานได้เป็นเวลา 7 วัน
คีย์ของคุณอยู่ห่างแค่ฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด