Best LLM API Hướng dẫn
Có API LLM miễn phí không? Bạn thực sự nhận được gì
Không có API LLM được lưu trữ nào cung cấp quyền sử dụng miễn phí không giới hạn cho một mô hình tốt trong thời gian dài. Những gì bạn có thể nhận là một khoản trợ cấp nhỏ miễn phí, và câu hỏi hữu ích là nó đi được bao xa.
Cập nhật:

Điểm chính
- Không có gói miễn phí không giới hạn ở đây. Người dùng mới nhận $0.50 dùng thử, hợp lệ 7 ngày, không cần thẻ.
- Ở mức $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, $0.50 đủ chi trả cho khoảng 1.000 lượt hội thoại ngắn.
- Sau khi dùng thử, bạn trả tiền theo mức sử dụng từ tín dụng trả trước, bắt đầu từ $20, và tín dụng không bao giờ hết hạn.
- Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.
Câu trả lời ngắn gọn
Nếu bạn đang tìm kiếm bất kỳ api llm miễn phí nào, bạn có thể muốn một trong hai điều sau: một cách để kiểm tra ý tưởng mà không phải trả tiền, hoặc một cách để chạy thứ gì đó trong nhiều tháng mà không mất chi phí. Cái đầu tiên là thực tế. Cái thứ hai thì không, và bất kỳ ai hứa hẹn điều đó đều đang hạn chế bạn nặng nề, huấn luyện trên các prompt của bạn, hoặc lên kế hoạch tính phí bạn sau này.
Chạy một mô hình ngôn ngữ lớn tốn tiền thật cho GPU và điện, vì vậy mọi API lưu trữ đều kết thúc ở một trong ba hình thức: một khoản trợ cấp nhỏ miễn phí, gói miễn phí bị giới hạn tốc độ trên một mô hình yếu hơn, hoặc tín dụng trả phí. Trang web này sử dụng hình thức đầu tiên. Bạn nhận được một lần dùng thử, và sau đó bạn trả tiền theo token mà không cần đăng ký.
Các nhà cung cấp khác chạy các gói miễn phí của riêng họ, và những gói này thay đổi thường xuyên. Hãy kiểm tra các trang giá cả hiện tại của họ thay vì tin vào bài viết trên blog, bao gồm bài viết này, về bất kỳ điều gì liên quan đến chúng.
Những gì gói dùng thử bao gồm
Sau khi bạn đăng ký bằng Google, hoặc bằng email và mật khẩu, trang khóa API hiển thị một nút để nhận $0.50 tín dụng dùng thử. Một cú nhấp chuột, không cần thẻ, mỗi người nhận một lần. Tín dụng này hợp lệ trong 7 ngày.
Khóa dùng thử được thiết kế hơi hạn chế hơn so với khóa đầy đủ:
- 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, so với 8 và 300 trên khóa đầy đủ.
- Cùng một mô hình, cùng một ID mô hình
uncensored, cùng cửa sổ ngữ cảnh 100.000 token. - Truyền phát (streaming), gọi hàm và chế độ JSON đều hoạt động.
Điều đó có nghĩa là bạn có thể kiểm tra thứ bạn thực sự định xây dựng, chứ không phải một bản demo bị cắt giảm. Nếu ứng dụng của bạn gặp sự cố với prompt hệ thống dài hoặc lệnh gọi công cụ, bạn sẽ biết điều đó trong thời gian dùng thử, chứ không phải sau khi thanh toán. Để nhận quyền này, hãy truy cập trang khóa API.
$0.50 mua được gì trong token
Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra. Đầu vào là những gì bạn gửi (prompt hệ thống, lịch sử, tin nhắn của bạn). Đầu ra là những gì mô hình viết lại. Phép tính là phép chia đơn giản, vì vậy đây là toàn bộ phép tính.
| Ngân sách | Nếu tất cả là đầu vào | Nếu tất cả là đầu ra |
|---|---|---|
| Dùng thử $0.50 | 3.333.333 token | 1.000.000 token |
| Nạp tiền $20 | 133.333.333 token | 40.000.000 token |
Lưu lượng thực tế là sự kết hợp, vì vậy hãy sử dụng một ví dụ đã tính toán. Một lượt chat với prompt 1.500 token (thông điệp hệ thống cộng với lịch sử ngắn) và phản hồi 500 token tốn:
- Đầu vào: 1.500 / 1.000.000 x $0,15 = $0,000225
- Đầu ra: 500 / 1.000.000 x $0.50 = $0.000250
- Tổng cộng: $0.000475 mỗi lượt
Chia $0.50 cho $0.000475 và bạn nhận được khoảng 1.052 lượt. Đó là rất nhiều thử nghiệm cho một gói dùng thử: đủ để viết một prompt, chạy vài trăm cuộc hội thoại thử nghiệm và kiểm tra cách mô hình hoạt động trên các trường hợp biên của bạn. Nó không đủ để chạy một ứng dụng công khai trong một tuần.
Nơi tín dụng miễn phí thực sự cạn kiệt
Các lượt chat ngắn là trường hợp rẻ nhất. Ba mẫu hình này đốt cháy tín dụng nhanh hơn bạn mong đợi, và việc biết chúng trước khi bắt đầu sẽ rất hữu ích.
Prompt dài phát triển qua mỗi lượt
Một ứng dụng trò chuyện gửi lại toàn bộ lịch sử sẽ trả tiền cho lịch sử đó ở mỗi lượt. Ở lượt 40 với lịch sử 20.000 token và phản hồi 500 token, một yêu cầu tốn 20.000 / 1.000.000 x $0,15 = $0,003 cho đầu vào cộng $0,00025 cho đầu ra, vậy $0,00325. Vẫn nhỏ, nhưng nó gần bằng bảy lần chi phí của lượt 1.500 token ở trên. Khoản dùng thử $0,50 kéo dài khoảng 153 lượt như vậy.
Agent và vòng lặp công cụ
Một agent gọi các công cụ thực hiện nhiều yêu cầu cho mỗi tác vụ của người dùng, và mỗi yêu cầu đều mang theo ngữ cảnh ngày càng tăng. Nếu một tác vụ mất 6 cuộc gọi với trung bình 8.000 token đầu vào và 300 token đầu ra, thì đó là 48.000 token đầu vào ($0,0072) và 1.800 token đầu ra ($0,0009), vậy $0,0081 cho mỗi tác vụ. Khoản dùng thử bao gồm khoảng 61 tác vụ như vậy.
Prompt kích thước tối đa
Điền đầy đủ cửa sổ 100.000 token với đầu vào tốn $0.015 cho mỗi yêu cầu trước khi có bất kỳ đầu ra nào. Tốt cho một vài lần chạy phân tích tài liệu, nhưng đắt nếu một tập lệnh lặp lại điều đó một nghìn lần ($15).
Các câu hỏi cần hỏi về bất kỳ gói miễn phí nào
Các ưu đãi miễn phí khác nhau rất nhiều, và tiêu đề hiếm khi cho bạn biết những gì quan trọng. Trước khi xây dựng dựa trên một gói, hãy đặt những câu hỏi này và tìm câu trả lời trong tài liệu chính thức của nhà cung cấp.
- Đó là mô hình nào? Một số gói miễn phí sử dụng mô hình nhỏ hơn so với mô hình trả phí. Một bài kiểm tra trên mô hình yếu cho bạn biết ít về môi trường sản xuất.
- Giới hạn tốc độ là gì? Giới hạn vài yêu cầu mỗi phút là tốt cho một tập lệnh và vô dụng cho một ứng dụng chat có nhiều người dùng.
- Nó có hết hạn không? Một khoản tín dụng một lần có thời hạn là một thứ khác với khoản tín dụng hàng tháng định kỳ.
- Những gì xảy ra với prompt của bạn? Nếu dữ liệu được sử dụng để huấn luyện, đừng dán bất kỳ thông tin riêng tư nào vào đó. Ở đây, prompt không được sử dụng để huấn luyện.
- Lộ trình trả phí trông như thế nào? Chuyển từ miễn phí sang trả phí nên là sự thay đổi trạng thái tài khoản, chứ không phải là một bản viết lại.
Tự lưu trữ một mô hình trọng số mở đôi khi được đề xuất như một lộ trình miễn phí. Phần mềm có thể không tốn phí, nhưng GPU bạn cần để chạy một mô hình mạnh mẽ thì có, dù bạn thuê theo giờ hay mua. Đối với một dự án nhỏ, phép tính thường nghiêng về việc trả tiền theo token, vì bạn chỉ trả tiền cho những gì mình sử dụng và không tốn gì khi nhàn rỗi.
Đọc gói dùng thử như một ngân sách thử nghiệm
Bạn nên coi khoản dùng thử là ngân sách kiểm tra thay vì một sản phẩm miễn phí. Hãy sử dụng nó theo một thứ tự cố định: trước tiên là một vài yêu cầu đơn giản để xác nhận kết nối, sau đó là prompt thực sự của bạn trên mười đầu vào khác nhau, sau đó là một lần chạy truyền phát, rồi đến một prompt lớn cố ý để xem mô hình xử lý ngữ cảnh dài như thế nào. Hãy ghi lại các số từ khối usage.
Sau đó, bạn biết kích thước đầu vào trung bình, kích thước đầu ra trung bình và chi phí thực tế cho mỗi tác vụ. Nhân với lưu lượng bạn dự kiến và bạn có một con số hàng tháng dựa trên các phép đo, không phải phỏng đoán. Nếu con số đó có thể chấp nhận được, việc nạp tiền $20 là bước tiếp theo. Nếu không, bạn đã học được điều đó với vài xu.
Sau khi dùng thử: cách thức thanh toán
Khi khoản dùng thử đã dùng hết hoặc hết hạn, bạn thêm tín dụng trả trước. Bất kỳ số tiền nguyên nào từ $20 đến $500 đều được. Các khoản nạp tiền lớn hơn mang lại tiền thưởng: +5% từ $50, +10% từ $100, +15% từ $200. Một khoản nạp $100 trở thành $110 tín dụng, và $200 trở thành $230.
Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Không có đăng ký và không có mức tối thiểu hàng tháng. Tín dụng không bao giờ hết hạn, vì vậy một khoản nạp $20 mà bạn sử dụng chậm rãi sẽ không bị lãng phí. Mỗi phản hồi bao gồm tiêu đề X-Balance-USD, cho phép mã của bạn theo dõi số dư mà không cần bảng điều khiển.
Các yêu cầu bị lỗi hoặc từ chối không bị tính phí. Nếu một yêu cầu bị lỗi, bạn không phải trả tiền cho nó. Các prompt không được sử dụng để huấn luyện. Xem bảng giá để biết bảng giá đầy đủ.
Các cách rẻ để kéo dài tín dụng
Bạn không cần các thủ thuật, chỉ cần một vài thói quen.
- Cắt giảm lịch sử. Giữ lại N lượt gần nhất cộng với một tóm tắt ngắn gọn về các lượt cũ thay vì gửi lại mọi thứ.
- Đặt giới hạn
max_tokenscho các tác vụ mà câu trả lời ngắn là đủ. Nó không bắt buộc ở đây, nhưng nó giới hạn phần đầu ra, vốn là phần tốn kém hơn mỗi token. - Sử dụng chế độ JSON (
response_formatvớijson_object) cho các tác vụ trích xuất để bạn không phải trả tiền cho phần mở đầu dài dòng. - Kiểm thử với dữ liệu đầu vào nhỏ trước. Chứng minh prompt trên mười ví dụ trước khi chạy mười nghìn lần.
- Xử lý lỗi 429 bằng cơ chế backoff. Thử lại trong vòng lặp chặt chẽ trên khóa dùng thử (2 yêu cầu đồng thời, 60 mỗi phút) sẽ lãng phí thời gian của bạn. Hãy đợi tiêu đề
Retry-Afterkhi có.
Nếu bạn đang so sánh các tùy chọn trước khi chi tiêu bất kỳ khoản nào, trang Hugging Face Inference API so với endpoint này sẽ đề cập đến một quyết định liên quan.
Lần gọi đầu tiên để sử dụng tín dụng dùng thử trên
Đây là một yêu cầu tối thiểu. Thay thế khóa bằng khóa từ bảng điều khiển của bạn.
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
Phản hồi bao gồm một khối sử dụng với số lượng token prompt và hoàn tất. Nhân những con số đó với giá ở trên và bạn sẽ có chi phí chính xác cho lệnh gọi. Làm điều đó vài lần và bạn sẽ có cảm nhận về khối lượng công việc của mình, điều này có giá trị hơn bất kỳ ước lượng nào. Tài liệu khởi động nhanh đề cập đến truyền phát, công cụ và mã lỗi.
Hướng dẫn khác
Hỏi đáp
Có API LLM miễn phí không giới hạn không?
Không phải ở đây, và không phải ở bất kỳ đâu bù đắp chi phí GPU của riêng mình trong thời gian dài. Bạn nhận được $0.50 dùng thử trong 7 ngày, sau đó là tín dụng trả trước từ $20.
Tín dụng dùng thử có cần thẻ tín dụng không?
Không. Sau khi đăng ký bằng Google hoặc email và mật khẩu, bạn nhận $0.50 chỉ với một cú nhấp chuột trên trang khóa API. Mỗi người chỉ nhận một lần.
$0.50 tương đương bao nhiêu yêu cầu?
Đối với một prompt 1.500 token và một phản hồi 500 token, khoảng 1.052 yêu cầu. Các prompt dài hơn hoặc vòng lặp agent sử dụng nó nhanh hơn.
Tôi có bị tính phí cho các yêu cầu thất bại không?
Không. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, và tín dụng chưa sử dụng không bao giờ hết hạn.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.