TH ▾
รับคีย์ API

Best LLM API คู่มือ

เปรียบเทียบราคา LLM API: วิธีเปรียบเทียบอย่างยุติธรรม

การเปรียบเทียบราคา LLM API จะทำงานได้ก็ต่อเมื่อผู้ให้บริการทุกรายมีราคาตามภาระงานเดียวกัน ไม่ใช่ตัวเลขพาดหัว เดียวกัน บทความนี้ให้วิธีการสั้นๆ แล้วรันที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens

อัปเดต:

เครื่องชั่งสมดุลถ่วงน้ำหนักกองลูกบาศก์เรืองแสง ซึ่งแสดงถึงต้นทุนโทเคนอินพุตและเอาต์พุต
เหรียญไอโซเมตริกป้อนสตรีมบล็อกโทเคนเข้าเซิร์ฟเวอร์ แสดงถึงเครดิตทดลองใช้ฟรีสำหรับ LLM API

ประเด็นสำคัญ

  • กำหนดราคาสำหรับรูปร่างคำขอจริง (input tokens, output tokens, turns) ไม่ใช่ตัวเลขพาดหัว ต่อล้าน
  • โทเคนเอาต์พุตมักจะมีราคาสูงกว่าโทเคนอินพุต ดังนั้นภาระงานที่พูดมากจะเปลี่ยนการจัดอันดับ
  • การเติมเงินขั้นต่ำ การหมดอายุ และการเรียกเก็บเงินสำหรับคำขอที่ล้มเหลว จะเปลี่ยนสิ่งที่ดอลลาร์ซื้อได้จริง
  • ที่ $0.15 สำหรับ input และ $0.50 สำหรับ output คำขอขนาด 1,500-in / 400-out มีค่าใช้จ่าย $0.000425

ตัวเลขสี่ตัวที่รายการราคาส่วนใหญ่ซ่อนไว้

หน้าราคาส่วนใหญ่แสดงตัวเลขสองตัว: ดอลลาร์ต่อล้านโทเคนอินพุต และดอลลาร์ต่อล้านโทเคนเอาต์พุต ตัวเลขสองตัวนี้เพียงพอสำหรับการเปรียบเทียบผู้ให้บริการ แต่เฉพาะหลังจากที่คุณเพิ่มอีกสองตัวที่มาจากแอปของคุณเอง: จำนวนโทเคนที่คุณส่งต่อคำขอ และจำนวนที่คุณได้รับกลับ

  1. ราคาอินพุต ต่อ 1M โทเคน ครอบคลุมระบบพรอมต์ ประวัติแชท และเอกสารใดๆ ที่คุณวาง
  2. ราคาเอาต์พุต ต่อ 1M โทเคน ครอบคลุมทุกอย่างที่โมเดลเขียนกลับ
  3. ขนาดอินพุต ต่อคำขอ รวมถึงประวัติที่ถูกส่งใหม่ในทุกเทิร์น
  4. ขนาดเอาต์พุต ต่อคำขอ ซึ่งขึ้นอยู่กับระยะเวลาที่คุณปล่อยให้คำตอบทำงาน

ต้นทุนต่อคำขอคือ input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000 ข้ออื่นๆ ทั้งหมดในบทความนี้เป็นการปรับปรุงจากสูตรนั้น

ขั้นตอนที่ 1: เขียนรูปร่างคำขอ

เลือกประเภทคำขอสามหรือสี่ประเภทที่ผลิตภัณฑ์ของคุณส่งจริง บอทสนับสนุน นักเขียนเรื่องราว และตัวจำแนกแบบแบทช์มีรูปร่างที่แตกต่างกันมาก และผู้ให้บริการที่ชนะในงานหนึ่งอาจแพ้ในงานอื่น

รูปแบบโทเคน inputโทเคน output
การสนทนาสั้นๆ1,500400
สรุปเอกสารยาว50,0001,000
การเรียกใช้ตัวจำแนก30020
การเขียนแบบยาว8003,000

หากคุณยังไม่มีบันทึก ให้ใช้บทสนทนาจริงไม่กี่บทแล้วนับโทเคนด้วยโทเคนไนเซอร์ใดก็ได้ กฎโดยประมาณคือหนึ่งโทเคนมีขนาดประมาณสี่ตัวอักษรภาษาอังกฤษ แต่โค้ดและข้อความที่ไม่ใช่ภาษาอังกฤษจะมีค่าสูงกว่า วัดค่าก่อนจะเชื่อในกฎนี้

ขั้นตอนที่ 2: คำนวณที่ $0.15 และ $0.50

บริการนี้คิดเงิน $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต นั่นคือ $0.00015 ต่อ 1,000 โทเคนอินพุต และ $0.0005 ต่อ 1,000 โทเคนเอาต์พุต นำไปใช้กับรูปแบบการใช้งานด้านบน:

รูปแบบต้นทุนอินพุตต้นทุนเอาต์พุตต่อคำขอ
การสนทนาสั้นๆ$0.000225$0.0002$0.000425
สรุปเอกสารยาว$0.0075$0.0005$0.008
การเรียกใช้ตัวจำแนก$0.000045$0.00001$0.000055
การเขียนแบบยาว$0.00012$0.0015$0.00162

สังเกตว่าเงินไปอยู่ที่ไหน ในการสรุปเอกสาร อินพุตคิดเป็น 94% ของบิล ในการเขียนแบบยาว เอาต์พุตคิดเป็น 93% ผู้ให้บริการที่มีราคาอินพุตถูกแต่ราคาเอาต์พุตแพงจะดูดีในงานแรกและแย่ในงานที่สอง นี่คือเหตุผลที่ตัวเลข "ราคาต่อล้าน" เพียงตัวเดียวอาจทำให้เข้าใจผิด

ขยายเป็นระยะเวลาหนึ่งเดือน แอปแชทที่ส่ง 1,000 การสนทนาสั้นๆ ต่อวันเป็นเวลา 30 วัน จะส่งโทเคนอินพุต 45M ($6.75) และโทเคนเอาต์พุต 12M ($6.00) รวมเป็น $12.75

ขั้นตอนที่ 3: คำนวณถึงประวัติที่เพิ่มขึ้น

API แชทเป็นแบบ stateless ทุกเทิร์นคุณต้องส่งระบบพรอมต์และข้อความก่อนหน้าทั้งหมด ดังนั้นอินพุตจะเพิ่มขึ้นตามความยาวของการสนทนา ในขณะที่เอาต์พุตต่อเทิร์นจะคงที่

พิจารณาการสนทนา 10 รอบพร้อมพรอมต์ระบบขนาด 1,000 โทเคน แต่ละรอบเพิ่มโทเคนผู้ใช้ประมาณ 300 โทเคน และโทเคนโมเดล 200 โทเคน ดังนั้นประวัติใหม่ 500 โทเคนต่อรอบ รอบที่ 1 ส่งโทเคนอินพุต 1,000 รอบที่ 2 ส่ง 1,500 และรอบที่ 10 ส่ง 5,500 ผลรวมตลอด 10 รอบคือโทเคนอินพุต 32,500 โทเคน รวมโทเคนเอาต์พุต 2,000 โทเคน

input_tokens = sum(1000 + 500 * k for k in range(10))   # 32,500
output_tokens = 10 * 200                                # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6))   # 0.005875

นั่นคือ $0.005875 สำหรับการสนทนาทั้งหมด หากคุณคูณเพียงรอบเดียวด้วยสิบ คุณจะนับโทเคนอินพุตน้อยเกินไปกว่าครึ่ง ลดประวัติ, สรุปการสนทนาเก่า หรือจำกัดหน้าต่างบริบทหากตัวเลขสำคัญสำหรับคุณ คู่มือการใช้ LLM API ครอบคลุมวิธีการส่งประวัติข้อความ

ขั้นตอนที่ 4: ตรวจสอบกฎเกี่ยวกับราคา

ผู้ให้บริการสองรายที่มีราคาโทเคนเดียวกันอาจมีต้นทุนต่อคำตอบที่มีประโยชน์ต่างกัน ตรวจสอบสิ่งเหล่านี้ก่อนตัดสินใจ:

  • หน้าต่างบริบท หน้าต่างขนาดใหญ่ช่วยให้คุณข้ามการแบ่งชิ้นส่วนได้ แต่คุณต้องจ่ายราคาอินพุตสำหรับทุกโทเคนที่คุณส่ง บริการนี้มีหน้าต่าง 100,000 โทเคนที่ใช้ร่วมกันสำหรับพรอมต์และคอมพลีชัน
  • การซื้อขั้นต่ำ ที่นี่คุณเติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 การซื้อขั้นต่ำ $20 ซื้อเทิร์นแชทสั้นๆ ได้ประมาณ 47,000 เทิร์นที่อัตราข้างต้น ($20 / $0.000425)
  • การหมดอายุ เครดิตที่นี่ไม่หมดอายุ ผู้ให้บริการบางรายทำให้ยอดเงินเติมเงินหมดอายุหรือต้องการการสมัครสมาชิก ดังนั้นตรวจสอบเงื่อนไขปัจจุบันของพวกเขา
  • คำขอที่ล้มเหลว คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงินที่นี่ มองหาข้อความเดียวกันที่อื่น
  • ขีดจำกัดอัตรา คีย์เต็มรูปแบบอนุญาตคำขอพร้อมกัน 8 รายการและ 300 รายการต่อนาที ราคาที่ถูกจะไร้ประโยชน์หากงานแบทช์ของคุณไม่สามารถเสร็จสิ้น

โบนัสปริมาณยังลดราคาที่มีประสิทธิภาพอีกด้วย การเติมเงิน $200 ได้รับ +15% ดังนั้นคุณจะได้รับเครดิต $230 และอัตรามีประสิทธิภาพของคุณลดลงเหลือประมาณ $0.13 สำหรับอินพุตและ $0.43 สำหรับเอาต์พุตต่อ 1 ล้าน การเติมเงิน $100 ได้รับ +10% และ $50 ได้รับ +5% รายละเอียดทั้งหมดอยู่ที่ หน้าราคา

เมื่อราคาที่ถูกที่สุดไม่ใช่ตัวเลือกที่เหมาะสม

ราคาต่อโทเคนไม่คำนึงถึงคุณภาพ โมเดลที่ต้องลองสองครั้งเพื่อให้ได้คำตอบที่ถูกต้องจะมีต้นทุนต่อผลลัพธ์ที่มีประโยชน์เป็นสองเท่า และโมเดลที่ปฏิเสธคำขอของคุณจะทำให้คุณเสียเวลาแม้ว่าบิลจะเป็นศูนย์ ให้รันพรอมต์จริง 20 ถึง 50 รายการผ่านแต่ละตัวเลือกแล้วนับจำนวนคำตอบที่คุณจะนำไปใช้งานจริง นำค่าใช้จ่ายรวมหารด้วยจำนวนนั้น

โมเดลที่นี่คือโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ปรับแต่งมาเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย โมเดลนี้ไม่ใช่ตัวเปลี่ยนเส้นทาง (router) และไม่ใช่ API ทางการของซัพพลายเออร์โมเดลรายใดรายหนึ่ง หากงานของคุณต้องการความสามารถในการให้เหตุผลที่แข็งแกร่งที่สุด และการปฏิเสธเนื้อหาไม่ใช่ปัญหา โมเดลขนาดใหญ่จากผู้ให้บริการรายอื่นอาจให้ต้นทุนต่อคำตอบที่ยอมรับได้ที่ดีกว่าแม้ว่าราคาต่อโทเคนจะสูงกว่า ให้ตรวจสอบราคาปัจจุบันและทดสอบด้วยวิธีเดียวกัน

วิธีลัดในการทดสอบตัวเลขด้วยตัวเอง

คุณไม่จำเป็นต้องเดา ทุกการตอบกลับมีหัว X-Balance-USD และ API ยังรายงานการใช้งานโทเคนด้วย ดังนั้นคุณสามารถส่งพรอมต์จริงของคุณและอ่านต้นทุนจริงได้ โค้ด Python ด้านล่างใช้ SDK ของ OpenAI กับบริการนี้และพิมพ์บล็อกการใช้งาน

from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

บัญชีใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยคลิกเดียวที่ หน้าคีย์ API ที่รูปแบบ 1,500-in / 400-out ซึ่งครอบคลุมประมาณ 1,170 คำขอ เพียงพอสำหรับการทำเบรนช์มาร์คอย่างตรงไปตรงมา หากคุณต้องการดูว่าตัวเลือก API LLM ฟรีเพียงพอสำหรับคุณหรือไม่ ให้อ่านเกี่ยวกับ ตัวเลือก API LLM ฟรี

คำถามที่ควรถามเกี่ยวกับแพ็กเกจฟรี

ข้อเสนอฟรีมีความแตกต่างกันมาก และข้อความหลักมักไม่บอกสิ่งสำคัญ ก่อนที่จะนำแพ็กเกจใดไปใช้งาน ให้ถามคำถามเหล่านี้และหาคำตอบในเอกสารของผู้ให้บริการเอง

  • โมเดลใดกันแน่? ชั้นฟรีบางแห่งใช้โมเดลขนาดเล็กกว่าโมเดลแบบเสียเงิน การทดสอบบนโมเดลที่อ่อนแอบอกคุณเกี่ยวกับงานการผลิตได้น้อยมาก
  • ขีดจำกัดอัตราเป็นอย่างไร? ขีดจำกัดไม่กี่คำขอต่อนาทีอาจเพียงพอสำหรับสคริปต์ แต่ไม่เพียงพอสำหรับแอปแชทที่มีผู้ใช้หลายราย
  • หมดอายุหรือไม่? จำนวนเงินที่ได้รับครั้งเดียวพร้อมกำหนดเวลาสิ้นสุด เป็นสิ่งต่างจากจำนวนเงินที่ได้รับรายเดือน
  • พรอมต์ของคุณถูกนำไปทำอะไร? หากข้อมูลถูกนำไปใช้ในการฝึกโมเดล อย่าใส่ข้อมูลส่วนตัวลงไป ที่นี่พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล
  • เส้นทางแบบเสียเงินเป็นอย่างไร? การเปลี่ยนจากฟรีเป็นเสียเงินควรเป็นการเปลี่ยนสถานะบัญชี ไม่ใช่การเขียนใหม่

การโฮสต์โมเดลแบบเปิดน้ำหนักด้วยตนเองบางครั้งถูกแนะนำเป็นทางเลือกฟรี ซอฟต์แวร์อาจไม่มีค่าใช้จ่าย แต่ GPU ที่คุณต้องการเพื่อรันโมเดลที่มีประสิทธิภาพมีค่าใช้จ่าย ไม่ว่าคุณจะเช่ารายชั่วโมงหรือซื้อเอง สำหรับโครงการขนาดเล็ก การคำนวณมักสนับสนุนการจ่ายตามโทเคน เพราะคุณจ่ายเฉพาะสิ่งที่ใช้และไม่จ่ายเมื่อระบบว่าง

การอ่านเครดิตทดลองใช้เป็นงบประมาณทดสอบ

การมองเครดิตทดลองใช้เป็นงบประมาณทดสอบมากกว่าผลิตภัณฑ์ฟรีจะช่วยให้เข้าใจได้ดีขึ้น ควรใช้ตามลำดับที่ตายตัว: เริ่มจากคำขอธรรมดาไม่กี่คำเพื่อตรวจสอบการเชื่อมต่อ จากนั้นใช้พรอมต์จริงกับอินพุตที่หลากหลายสิบรายการ จากนั้นทำการสตรีมมิง และสุดท้ายใช้พรอมต์ขนาดใหญ่โดยเจตนาเพื่อดูว่าโมเดลจัดการกับบริบทที่ยาวอย่างไร จดบันทึกตัวเลขจากบล็อก usage ไว้ด้วย

หลังจากนั้น คุณจะทราบขนาดอินพุตเฉลี่ย ขนาดเอาต์พุตเฉลี่ย และต้นทุนจริงต่องาน นำตัวเลขเหล่านี้คูณกับปริมาณการรับส่งข้อมูลที่คาดว่าจะเกิดขึ้น คุณจะได้ตัวเลขรายเดือนที่อิงจากการวัด ไม่ใช่การคาดเดา หากตัวเลขเป็นที่ยอมรับได้ การเติมเงิน $20 คือขั้นตอนถัดไป หากไม่ คุณก็ได้เรียนรู้ว่าสิ่งนั้นมีราคาเพียงไม่กี่เซ็นต์

หลังจากเครดิตทดลองใช้: การจ่ายเงินเป็นอย่างไร

เมื่อเครดิตทดลองหมดหรือหมดอายุ คุณสามารถเติมเครดิตแบบเติมเงินล่วงหน้า จำนวนเต็มใดก็ได้ตั้งแต่ $20 ถึง $500 ใช้ได้ การเติมเงินจำนวนมากขึ้นจะได้รับโบนัส: +5% จาก $50, +10% จาก $100, +15% จาก $200 การเติมเงิน $100 จะกลายเป็นเครดิต $110 และ $200 จะกลายเป็น $230

คุณสามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) ไม่มีระบบสมาชิกและไม่มียอดขั้นต่ำรายเดือน เครดิตไม่หมดอายุ ดังนั้นการเติมเงิน $20 ที่ใช้ช้าๆ จะไม่สูญเปล่า แต่ละการตอบกลับมีหัวข้อความ X-Balance-USD ซึ่งทำให้โค้ดของคุณสามารถตรวจสอบยอดคงเหลือได้โดยไม่ต้องใช้แดชบอร์ด

คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หากคำขอเกิดข้อผิดพลาด คุณไม่ต้องจ่ายสำหรับคำขอนั้น พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล ดู ราคา สำหรับตารางราคาเต็ม

วิธีประหยัดเครดิตให้คงอยู่นานขึ้น

คุณไม่ต้องการเทคนิคพิเศษ แค่มีนิสัยไม่กี่อย่าง

  1. ตัดประวัติออก เก็บการสนทนา N รอบล่าสุดพร้อมสรุปย่อของการสนทนาเก่า แทนที่จะส่งทุกอย่างซ้ำ
  2. ตั้งขีดจำกัด max_tokens บนงานที่คำตอบสั้นๆ ก็เพียงพอแล้ว มันไม่จำเป็นที่นี่ แต่จะช่วยจำกัดส่วนเอาต์พุต ซึ่งเป็นส่วนที่มีต้นทุนสูงกว่าต่อโทเคน
  3. ใช้โหมด JSON (response_format พร้อม json_object) สำหรับงานการดึงข้อมูลเพื่อให้คุณไม่ต้องจ่ายสำหรับคำนำที่เยิ่นเย้อ
  4. ทดสอบด้วยอินพุตขนาดเล็กก่อน พิสูจน์พรอมต์ด้วยตัวอย่างสิบรายการก่อนที่จะรันหนึ่งหมื่นรายการ
  5. จัดการ 429 ด้วยการลองใหม่แบบ backoff การลองใหม่ในลูปที่แน่นด้วยคีย์ทดลอง (2 คำขอพร้อมกัน, 60 ต่อนาที) ทำให้เสียเวลาของคุณเอง รอหัวข้อความ Retry-After เมื่อมีอยู่

หากคุณกำลังเปรียบเทียบตัวเลือกก่อนที่จะใช้จ่ายอะไร หน้าเว็บ Hugging Face Inference API เทียบกับ endpoint นี้ ครอบคลุมการตัดสินใจที่เกี่ยวข้อง

การเรียกใช้งานครั้งแรกเพื่อใช้เครดิตทดลองบน

นี่คือตัวอย่างคำขอแบบพื้นฐานที่สุด แทนที่คีย์ด้วยคีย์จากแดชบอร์ดของคุณ

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

การตอบกลับมีบล็อกการใช้งานที่แสดงจำนวนโทเคนของพรอมต์และคอมพลีชัน คูณค่าเหล่านี้ด้วยราคาข้างต้นเพื่อหาต้นทุนที่แท้จริงของการเรียกใช้ ทำซ้ำไม่กี่ครั้งคุณจะเข้าใจภาระงานของคุณเอง ซึ่งสำคัญกว่าการประมาณการใดๆ เอกสารเริ่มต้นอย่างรวดเร็ว ครอบคลุมการสตรีมมิง เครื่องมือ และรหัสข้อผิดพลาด

ถาม-ตอบ

ควรเปรียบเทียบราคาอินพุตหรือราคาเอาต์พุต?

ทั้งสองอย่าง โดยถ่วงน้ำหนักตามภาระงานของคุณ งานที่เน้นเอกสารจะถูกครอบงำโดยราคาอินพุต และงานที่เน้นการเขียนจะถูกครอบงำโดยราคาเอาต์พุต

จะนับโทเคนก่อนซื้อได้อย่างไร?

รันตัวอย่างพรอมต์จริงผ่านตัวนับโทเคน หรือส่งไปยัง API และอ่านบล็อกการใช้งานในการตอบกลับ ตัวเลขการใช้งานคือสิ่งที่คุณถูกเรียกเก็บเงิน

คำขอที่ล้มเหลวเสียเงินที่นี่หรือไม่?

ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงินบนบริการนี้ ตรวจสอบข้อกำหนดของผู้ให้บริการรายอื่นใดที่คุณเปรียบเทียบ

มีบริการแบบสมาชิกหรือไม่?

ไม่ เป็นการจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้า และเครดิตไม่หมดอายุ

คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์ม

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API