Best LLM API คู่มือ
เปรียบเทียบราคา LLM API: วิธีเปรียบเทียบอย่างยุติธรรม
การเปรียบเทียบราคา LLM API จะทำงานได้ก็ต่อเมื่อผู้ให้บริการทุกรายมีราคาตามภาระงานเดียวกัน ไม่ใช่ตัวเลขพาดหัว เดียวกัน บทความนี้ให้วิธีการสั้นๆ แล้วรันที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens
อัปเดต:


ประเด็นสำคัญ
- กำหนดราคาสำหรับรูปร่างคำขอจริง (input tokens, output tokens, turns) ไม่ใช่ตัวเลขพาดหัว ต่อล้าน
- โทเคนเอาต์พุตมักจะมีราคาสูงกว่าโทเคนอินพุต ดังนั้นภาระงานที่พูดมากจะเปลี่ยนการจัดอันดับ
- การเติมเงินขั้นต่ำ การหมดอายุ และการเรียกเก็บเงินสำหรับคำขอที่ล้มเหลว จะเปลี่ยนสิ่งที่ดอลลาร์ซื้อได้จริง
- ที่ $0.15 สำหรับ input และ $0.50 สำหรับ output คำขอขนาด 1,500-in / 400-out มีค่าใช้จ่าย $0.000425
ตัวเลขสี่ตัวที่รายการราคาส่วนใหญ่ซ่อนไว้
หน้าราคาส่วนใหญ่แสดงตัวเลขสองตัว: ดอลลาร์ต่อล้านโทเคนอินพุต และดอลลาร์ต่อล้านโทเคนเอาต์พุต ตัวเลขสองตัวนี้เพียงพอสำหรับการเปรียบเทียบผู้ให้บริการ แต่เฉพาะหลังจากที่คุณเพิ่มอีกสองตัวที่มาจากแอปของคุณเอง: จำนวนโทเคนที่คุณส่งต่อคำขอ และจำนวนที่คุณได้รับกลับ
- ราคาอินพุต ต่อ 1M โทเคน ครอบคลุมระบบพรอมต์ ประวัติแชท และเอกสารใดๆ ที่คุณวาง
- ราคาเอาต์พุต ต่อ 1M โทเคน ครอบคลุมทุกอย่างที่โมเดลเขียนกลับ
- ขนาดอินพุต ต่อคำขอ รวมถึงประวัติที่ถูกส่งใหม่ในทุกเทิร์น
- ขนาดเอาต์พุต ต่อคำขอ ซึ่งขึ้นอยู่กับระยะเวลาที่คุณปล่อยให้คำตอบทำงาน
ต้นทุนต่อคำขอคือ input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000 ข้ออื่นๆ ทั้งหมดในบทความนี้เป็นการปรับปรุงจากสูตรนั้น
ขั้นตอนที่ 1: เขียนรูปร่างคำขอ
เลือกประเภทคำขอสามหรือสี่ประเภทที่ผลิตภัณฑ์ของคุณส่งจริง บอทสนับสนุน นักเขียนเรื่องราว และตัวจำแนกแบบแบทช์มีรูปร่างที่แตกต่างกันมาก และผู้ให้บริการที่ชนะในงานหนึ่งอาจแพ้ในงานอื่น
| รูปแบบ | โทเคน input | โทเคน output |
|---|---|---|
| การสนทนาสั้นๆ | 1,500 | 400 |
| สรุปเอกสารยาว | 50,000 | 1,000 |
| การเรียกใช้ตัวจำแนก | 300 | 20 |
| การเขียนแบบยาว | 800 | 3,000 |
หากคุณยังไม่มีบันทึก ให้ใช้บทสนทนาจริงไม่กี่บทแล้วนับโทเคนด้วยโทเคนไนเซอร์ใดก็ได้ กฎโดยประมาณคือหนึ่งโทเคนมีขนาดประมาณสี่ตัวอักษรภาษาอังกฤษ แต่โค้ดและข้อความที่ไม่ใช่ภาษาอังกฤษจะมีค่าสูงกว่า วัดค่าก่อนจะเชื่อในกฎนี้
ขั้นตอนที่ 2: คำนวณที่ $0.15 และ $0.50
บริการนี้คิดเงิน $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต นั่นคือ $0.00015 ต่อ 1,000 โทเคนอินพุต และ $0.0005 ต่อ 1,000 โทเคนเอาต์พุต นำไปใช้กับรูปแบบการใช้งานด้านบน:
| รูปแบบ | ต้นทุนอินพุต | ต้นทุนเอาต์พุต | ต่อคำขอ |
|---|---|---|---|
| การสนทนาสั้นๆ | $0.000225 | $0.0002 | $0.000425 |
| สรุปเอกสารยาว | $0.0075 | $0.0005 | $0.008 |
| การเรียกใช้ตัวจำแนก | $0.000045 | $0.00001 | $0.000055 |
| การเขียนแบบยาว | $0.00012 | $0.0015 | $0.00162 |
สังเกตว่าเงินไปอยู่ที่ไหน ในการสรุปเอกสาร อินพุตคิดเป็น 94% ของบิล ในการเขียนแบบยาว เอาต์พุตคิดเป็น 93% ผู้ให้บริการที่มีราคาอินพุตถูกแต่ราคาเอาต์พุตแพงจะดูดีในงานแรกและแย่ในงานที่สอง นี่คือเหตุผลที่ตัวเลข "ราคาต่อล้าน" เพียงตัวเดียวอาจทำให้เข้าใจผิด
ขยายเป็นระยะเวลาหนึ่งเดือน แอปแชทที่ส่ง 1,000 การสนทนาสั้นๆ ต่อวันเป็นเวลา 30 วัน จะส่งโทเคนอินพุต 45M ($6.75) และโทเคนเอาต์พุต 12M ($6.00) รวมเป็น $12.75
ขั้นตอนที่ 3: คำนวณถึงประวัติที่เพิ่มขึ้น
API แชทเป็นแบบ stateless ทุกเทิร์นคุณต้องส่งระบบพรอมต์และข้อความก่อนหน้าทั้งหมด ดังนั้นอินพุตจะเพิ่มขึ้นตามความยาวของการสนทนา ในขณะที่เอาต์พุตต่อเทิร์นจะคงที่
พิจารณาการสนทนา 10 รอบพร้อมพรอมต์ระบบขนาด 1,000 โทเคน แต่ละรอบเพิ่มโทเคนผู้ใช้ประมาณ 300 โทเคน และโทเคนโมเดล 200 โทเคน ดังนั้นประวัติใหม่ 500 โทเคนต่อรอบ รอบที่ 1 ส่งโทเคนอินพุต 1,000 รอบที่ 2 ส่ง 1,500 และรอบที่ 10 ส่ง 5,500 ผลรวมตลอด 10 รอบคือโทเคนอินพุต 32,500 โทเคน รวมโทเคนเอาต์พุต 2,000 โทเคน
input_tokens = sum(1000 + 500 * k for k in range(10)) # 32,500
output_tokens = 10 * 200 # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6)) # 0.005875
นั่นคือ $0.005875 สำหรับการสนทนาทั้งหมด หากคุณคูณเพียงรอบเดียวด้วยสิบ คุณจะนับโทเคนอินพุตน้อยเกินไปกว่าครึ่ง ลดประวัติ, สรุปการสนทนาเก่า หรือจำกัดหน้าต่างบริบทหากตัวเลขสำคัญสำหรับคุณ คู่มือการใช้ LLM API ครอบคลุมวิธีการส่งประวัติข้อความ
ขั้นตอนที่ 4: ตรวจสอบกฎเกี่ยวกับราคา
ผู้ให้บริการสองรายที่มีราคาโทเคนเดียวกันอาจมีต้นทุนต่อคำตอบที่มีประโยชน์ต่างกัน ตรวจสอบสิ่งเหล่านี้ก่อนตัดสินใจ:
- หน้าต่างบริบท หน้าต่างขนาดใหญ่ช่วยให้คุณข้ามการแบ่งชิ้นส่วนได้ แต่คุณต้องจ่ายราคาอินพุตสำหรับทุกโทเคนที่คุณส่ง บริการนี้มีหน้าต่าง 100,000 โทเคนที่ใช้ร่วมกันสำหรับพรอมต์และคอมพลีชัน
- การซื้อขั้นต่ำ ที่นี่คุณเติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 การซื้อขั้นต่ำ $20 ซื้อเทิร์นแชทสั้นๆ ได้ประมาณ 47,000 เทิร์นที่อัตราข้างต้น ($20 / $0.000425)
- การหมดอายุ เครดิตที่นี่ไม่หมดอายุ ผู้ให้บริการบางรายทำให้ยอดเงินเติมเงินหมดอายุหรือต้องการการสมัครสมาชิก ดังนั้นตรวจสอบเงื่อนไขปัจจุบันของพวกเขา
- คำขอที่ล้มเหลว คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงินที่นี่ มองหาข้อความเดียวกันที่อื่น
- ขีดจำกัดอัตรา คีย์เต็มรูปแบบอนุญาตคำขอพร้อมกัน 8 รายการและ 300 รายการต่อนาที ราคาที่ถูกจะไร้ประโยชน์หากงานแบทช์ของคุณไม่สามารถเสร็จสิ้น
โบนัสปริมาณยังลดราคาที่มีประสิทธิภาพอีกด้วย การเติมเงิน $200 ได้รับ +15% ดังนั้นคุณจะได้รับเครดิต $230 และอัตรามีประสิทธิภาพของคุณลดลงเหลือประมาณ $0.13 สำหรับอินพุตและ $0.43 สำหรับเอาต์พุตต่อ 1 ล้าน การเติมเงิน $100 ได้รับ +10% และ $50 ได้รับ +5% รายละเอียดทั้งหมดอยู่ที่ หน้าราคา
เมื่อราคาที่ถูกที่สุดไม่ใช่ตัวเลือกที่เหมาะสม
ราคาต่อโทเคนไม่คำนึงถึงคุณภาพ โมเดลที่ต้องลองสองครั้งเพื่อให้ได้คำตอบที่ถูกต้องจะมีต้นทุนต่อผลลัพธ์ที่มีประโยชน์เป็นสองเท่า และโมเดลที่ปฏิเสธคำขอของคุณจะทำให้คุณเสียเวลาแม้ว่าบิลจะเป็นศูนย์ ให้รันพรอมต์จริง 20 ถึง 50 รายการผ่านแต่ละตัวเลือกแล้วนับจำนวนคำตอบที่คุณจะนำไปใช้งานจริง นำค่าใช้จ่ายรวมหารด้วยจำนวนนั้น
โมเดลที่นี่คือโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ปรับแต่งมาเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย โมเดลนี้ไม่ใช่ตัวเปลี่ยนเส้นทาง (router) และไม่ใช่ API ทางการของซัพพลายเออร์โมเดลรายใดรายหนึ่ง หากงานของคุณต้องการความสามารถในการให้เหตุผลที่แข็งแกร่งที่สุด และการปฏิเสธเนื้อหาไม่ใช่ปัญหา โมเดลขนาดใหญ่จากผู้ให้บริการรายอื่นอาจให้ต้นทุนต่อคำตอบที่ยอมรับได้ที่ดีกว่าแม้ว่าราคาต่อโทเคนจะสูงกว่า ให้ตรวจสอบราคาปัจจุบันและทดสอบด้วยวิธีเดียวกัน
วิธีลัดในการทดสอบตัวเลขด้วยตัวเอง
คุณไม่จำเป็นต้องเดา ทุกการตอบกลับมีหัว X-Balance-USD และ API ยังรายงานการใช้งานโทเคนด้วย ดังนั้นคุณสามารถส่งพรอมต์จริงของคุณและอ่านต้นทุนจริงได้ โค้ด Python ด้านล่างใช้ SDK ของ OpenAI กับบริการนี้และพิมพ์บล็อกการใช้งาน
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
บัญชีใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยคลิกเดียวที่ หน้าคีย์ API ที่รูปแบบ 1,500-in / 400-out ซึ่งครอบคลุมประมาณ 1,170 คำขอ เพียงพอสำหรับการทำเบรนช์มาร์คอย่างตรงไปตรงมา หากคุณต้องการดูว่าตัวเลือก API LLM ฟรีเพียงพอสำหรับคุณหรือไม่ ให้อ่านเกี่ยวกับ ตัวเลือก API LLM ฟรี
คู่มือเพิ่มเติม
- API LLM สำหรับเขียนโค้ดที่ราคาถูกที่สุด: ค่าใช้จ่ายต่อ Pull Request
- API LLM ฟรีทุกตัวหรือไม่? สิ่งที่คุณได้รับจริงๆ
คำถามที่ควรถามเกี่ยวกับแพ็กเกจฟรี
ข้อเสนอฟรีมีความแตกต่างกันมาก และข้อความหลักมักไม่บอกสิ่งสำคัญ ก่อนที่จะนำแพ็กเกจใดไปใช้งาน ให้ถามคำถามเหล่านี้และหาคำตอบในเอกสารของผู้ให้บริการเอง
- โมเดลใดกันแน่? ชั้นฟรีบางแห่งใช้โมเดลขนาดเล็กกว่าโมเดลแบบเสียเงิน การทดสอบบนโมเดลที่อ่อนแอบอกคุณเกี่ยวกับงานการผลิตได้น้อยมาก
- ขีดจำกัดอัตราเป็นอย่างไร? ขีดจำกัดไม่กี่คำขอต่อนาทีอาจเพียงพอสำหรับสคริปต์ แต่ไม่เพียงพอสำหรับแอปแชทที่มีผู้ใช้หลายราย
- หมดอายุหรือไม่? จำนวนเงินที่ได้รับครั้งเดียวพร้อมกำหนดเวลาสิ้นสุด เป็นสิ่งต่างจากจำนวนเงินที่ได้รับรายเดือน
- พรอมต์ของคุณถูกนำไปทำอะไร? หากข้อมูลถูกนำไปใช้ในการฝึกโมเดล อย่าใส่ข้อมูลส่วนตัวลงไป ที่นี่พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล
- เส้นทางแบบเสียเงินเป็นอย่างไร? การเปลี่ยนจากฟรีเป็นเสียเงินควรเป็นการเปลี่ยนสถานะบัญชี ไม่ใช่การเขียนใหม่
การโฮสต์โมเดลแบบเปิดน้ำหนักด้วยตนเองบางครั้งถูกแนะนำเป็นทางเลือกฟรี ซอฟต์แวร์อาจไม่มีค่าใช้จ่าย แต่ GPU ที่คุณต้องการเพื่อรันโมเดลที่มีประสิทธิภาพมีค่าใช้จ่าย ไม่ว่าคุณจะเช่ารายชั่วโมงหรือซื้อเอง สำหรับโครงการขนาดเล็ก การคำนวณมักสนับสนุนการจ่ายตามโทเคน เพราะคุณจ่ายเฉพาะสิ่งที่ใช้และไม่จ่ายเมื่อระบบว่าง
การอ่านเครดิตทดลองใช้เป็นงบประมาณทดสอบ
การมองเครดิตทดลองใช้เป็นงบประมาณทดสอบมากกว่าผลิตภัณฑ์ฟรีจะช่วยให้เข้าใจได้ดีขึ้น ควรใช้ตามลำดับที่ตายตัว: เริ่มจากคำขอธรรมดาไม่กี่คำเพื่อตรวจสอบการเชื่อมต่อ จากนั้นใช้พรอมต์จริงกับอินพุตที่หลากหลายสิบรายการ จากนั้นทำการสตรีมมิง และสุดท้ายใช้พรอมต์ขนาดใหญ่โดยเจตนาเพื่อดูว่าโมเดลจัดการกับบริบทที่ยาวอย่างไร จดบันทึกตัวเลขจากบล็อก usage ไว้ด้วย
หลังจากนั้น คุณจะทราบขนาดอินพุตเฉลี่ย ขนาดเอาต์พุตเฉลี่ย และต้นทุนจริงต่องาน นำตัวเลขเหล่านี้คูณกับปริมาณการรับส่งข้อมูลที่คาดว่าจะเกิดขึ้น คุณจะได้ตัวเลขรายเดือนที่อิงจากการวัด ไม่ใช่การคาดเดา หากตัวเลขเป็นที่ยอมรับได้ การเติมเงิน $20 คือขั้นตอนถัดไป หากไม่ คุณก็ได้เรียนรู้ว่าสิ่งนั้นมีราคาเพียงไม่กี่เซ็นต์
หลังจากเครดิตทดลองใช้: การจ่ายเงินเป็นอย่างไร
เมื่อเครดิตทดลองหมดหรือหมดอายุ คุณสามารถเติมเครดิตแบบเติมเงินล่วงหน้า จำนวนเต็มใดก็ได้ตั้งแต่ $20 ถึง $500 ใช้ได้ การเติมเงินจำนวนมากขึ้นจะได้รับโบนัส: +5% จาก $50, +10% จาก $100, +15% จาก $200 การเติมเงิน $100 จะกลายเป็นเครดิต $110 และ $200 จะกลายเป็น $230
คุณสามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) ไม่มีระบบสมาชิกและไม่มียอดขั้นต่ำรายเดือน เครดิตไม่หมดอายุ ดังนั้นการเติมเงิน $20 ที่ใช้ช้าๆ จะไม่สูญเปล่า แต่ละการตอบกลับมีหัวข้อความ X-Balance-USD ซึ่งทำให้โค้ดของคุณสามารถตรวจสอบยอดคงเหลือได้โดยไม่ต้องใช้แดชบอร์ด
คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หากคำขอเกิดข้อผิดพลาด คุณไม่ต้องจ่ายสำหรับคำขอนั้น พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล ดู ราคา สำหรับตารางราคาเต็ม
วิธีประหยัดเครดิตให้คงอยู่นานขึ้น
คุณไม่ต้องการเทคนิคพิเศษ แค่มีนิสัยไม่กี่อย่าง
- ตัดประวัติออก เก็บการสนทนา N รอบล่าสุดพร้อมสรุปย่อของการสนทนาเก่า แทนที่จะส่งทุกอย่างซ้ำ
- ตั้งขีดจำกัด
max_tokensบนงานที่คำตอบสั้นๆ ก็เพียงพอแล้ว มันไม่จำเป็นที่นี่ แต่จะช่วยจำกัดส่วนเอาต์พุต ซึ่งเป็นส่วนที่มีต้นทุนสูงกว่าต่อโทเคน - ใช้โหมด JSON (
response_formatพร้อมjson_object) สำหรับงานการดึงข้อมูลเพื่อให้คุณไม่ต้องจ่ายสำหรับคำนำที่เยิ่นเย้อ - ทดสอบด้วยอินพุตขนาดเล็กก่อน พิสูจน์พรอมต์ด้วยตัวอย่างสิบรายการก่อนที่จะรันหนึ่งหมื่นรายการ
- จัดการ 429 ด้วยการลองใหม่แบบ backoff การลองใหม่ในลูปที่แน่นด้วยคีย์ทดลอง (2 คำขอพร้อมกัน, 60 ต่อนาที) ทำให้เสียเวลาของคุณเอง รอหัวข้อความ
Retry-Afterเมื่อมีอยู่
หากคุณกำลังเปรียบเทียบตัวเลือกก่อนที่จะใช้จ่ายอะไร หน้าเว็บ Hugging Face Inference API เทียบกับ endpoint นี้ ครอบคลุมการตัดสินใจที่เกี่ยวข้อง
การเรียกใช้งานครั้งแรกเพื่อใช้เครดิตทดลองบน
นี่คือตัวอย่างคำขอแบบพื้นฐานที่สุด แทนที่คีย์ด้วยคีย์จากแดชบอร์ดของคุณ
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
การตอบกลับมีบล็อกการใช้งานที่แสดงจำนวนโทเคนของพรอมต์และคอมพลีชัน คูณค่าเหล่านี้ด้วยราคาข้างต้นเพื่อหาต้นทุนที่แท้จริงของการเรียกใช้ ทำซ้ำไม่กี่ครั้งคุณจะเข้าใจภาระงานของคุณเอง ซึ่งสำคัญกว่าการประมาณการใดๆ เอกสารเริ่มต้นอย่างรวดเร็ว ครอบคลุมการสตรีมมิง เครื่องมือ และรหัสข้อผิดพลาด
คู่มือเพิ่มเติม
ถาม-ตอบ
ควรเปรียบเทียบราคาอินพุตหรือราคาเอาต์พุต?
ทั้งสองอย่าง โดยถ่วงน้ำหนักตามภาระงานของคุณ งานที่เน้นเอกสารจะถูกครอบงำโดยราคาอินพุต และงานที่เน้นการเขียนจะถูกครอบงำโดยราคาเอาต์พุต
จะนับโทเคนก่อนซื้อได้อย่างไร?
รันตัวอย่างพรอมต์จริงผ่านตัวนับโทเคน หรือส่งไปยัง API และอ่านบล็อกการใช้งานในการตอบกลับ ตัวเลขการใช้งานคือสิ่งที่คุณถูกเรียกเก็บเงิน
คำขอที่ล้มเหลวเสียเงินที่นี่หรือไม่?
ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงินบนบริการนี้ ตรวจสอบข้อกำหนดของผู้ให้บริการรายอื่นใดที่คุณเปรียบเทียบ
มีบริการแบบสมาชิกหรือไม่?
ไม่ เป็นการจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้า และเครดิตไม่หมดอายุ
คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์ม
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด