Best LLM API 가이드
2026년 역할극용 최고 LLM: 확인해야 할 사항
모든 역할극 환경에서 모든 모델이 승리하는 것은 아니므로, 실용적인 질문은 어떤 모델이 캐릭터를 유지하고 장면에 머무르며 실행 비용이 낮은지입니다. 직접 테스트하는 방법을 소개합니다.
업데이트:

주요 포인트
- 역할극 모델을 거부 반응, 캐릭터 일관성, 기억력 및 세션당 비용으로 평가하세요.
- 이 API는 100,000 토큰 컨텍스트 창과 텍스트 전용 기능을 갖춘 하나의 무검열 오픈 웨이트 모델을 제공합니다.
- 좋은 시스템 프롬프트와 적절한 샘플링 설정은 모델만큼 중요합니다.
- 어떤 장면에서도 미성년자는 절대 허용되지 않습니다. 이는 엄격한 제한 사항입니다.
질문에 대한 공정한 답변
2026년 역할극용 최고 LLM을 찾는 사람들은 보통 순위를 원합니다. 신뢰할 만한 순위는 존재하지 않습니다. 역할극의 질은 주관적이며, 장르, 프롬프트, 느린 응답에 대한 인내심 등에 따라 달라지기 때문입니다. 한 명의 우승자를 선정하는 목록은 무언가를 판매하거나 다른 기준을 측정하는 리더보드를 반복하는 것일 뿐입니다.
할 수 있는 일은 필요한 것을 결정하고, 자신의 장면으로 1시간 동안 후보 모델을 테스트하는 것입니다. 이 글에서는 기준, 테스트 워크플로우, OpenAI 호환 API를 대상으로 한 작동 가능한 설정을 제공합니다. 여기서 제공하는 모델은 독립적인 제공업체가 운영하는 하나의 오픈 웨이트 모델로, 합법적인 성인 사용에 대한 콘텐츠 거절 없이 답변하도록 조정되었습니다. 이는 어떤 모델 벤더의 공식 API가 아닙니다.
역할극 모델에서 실제로 중요한 사항
거부 및 어조 변화
성인용 스토리에는 갈등, 폭력, 슬픔, 로맨스가 포함됩니다. 장면을 중단하고 설교하거나, 모든 악역을 조용히 부드럽게 만드는 모델은 몰입을 깨뜨립니다. 거절을 하지 않도록 조정된 모델은 작가에게 통제권을 줍니다. 이것이 무검열 모델이 제품 카테고리로 존재하는 이유입니다. 한계는 미성년자가 관련된 성적 콘텐츠는 절대 허용되지 않는다는 것이며, 서비스는 이를 시행합니다.
캐릭터 일관성
캐릭터가 60 턴 후에도 목소리, 비밀 및 특성을 유지합니까? 이는 모델, 캐릭터 카드의 명확성 및 컨텍스트 길이에 따라 다릅니다. 턴 3에서 사실을 심고 턴 50에서 그 사실에 대해 물어봄으로써 테스트하세요.
기억 및 컨텍스트
여기의 컨텍스트 창은 프롬프트와 응답을 합쳐 100,000 토큰입니다. 일반적인 소설 스타일의 대화는 매우 긴 장면을 유지하지만 무한하지는 않습니다. 기록이 길어지면 이전 턴을 요약하도록 계획하세요.
세션당 비용
긴 역할극 세션에서는 매 턴마다 기록이 다시 전송되므로 입력 토큰이 지배적입니다. 입력 1M당 $0.15, 출력 1M당 $0.50으로 숫자는 작지만, 다음 섹션에서 얼마나 작은지 보여줍니다.
형식
이것은 텍스트 전용 서비스입니다. 이미지, 음성 또는 비디오를 생성하지 않으므로 사진이나 음성이 필요한 보조 앱은 해당 부분에 대해 다른 서비스가 필요합니다.
시스템 프롬프트가 대부분의 작업을 수행합니다
두 사람이 동일한 모델을 실행해도 매우 다른 이야기를 얻을 수 있습니다. 차이는 거의 항상 목록의 첫 번째 메시지입니다. 모호한 카드("해적, 재미있게 행동해")는 일반화된 출력을 생성합니다. 목표, 말버릇, 약점, 사용자 캐릭터와의 관계가 있는 구체적인 카드는 방향성이 있는 장면을 생성합니다.
2인칭 또는 일반 설명으로 카드를 작성하고 약 400 단어 이하로 유지하세요. 긴 카드가 잘못된 것은 아니지만 매 턴마다 다시 전송되므로 긴 세션에서 추가된 모든 단락은 수백 번 지불됩니다. 절대 잃어서는 안 되는 사실은 상단에, 스타일 노트는 하단에 배치하세요.
세션 비용
40턴의 장면을 가져옵니다. 시스템 프롬프트와 캐릭터 카드가 1,200 토큰이고, 각 턴당 약 400 토큰(메시지 + 응답)이 추가되며, 각 응답이 약 300 토큰 길이라고 가정합니다.
기록이 다시 전송되므로 n번째 턴의 입력은 약 1,200 + 400 x (n - 1) 토큰입니다. 40턴에 걸쳐 합산하면 40 x 1,200 + 400 x (0 + 1 + ... + 39) = 48,000 + 400 x 780 = 360,000 입력 토큰입니다. 출력은 40 x 300 = 12,000 토큰입니다.
- 입력: 360,000 / 1,000,000 x $0.15 = $0.054
- 출력: 12,000 / 1,000,000 x $0.50 = $0.006
- 총합: 전체 40턴 세션당 $0.06
따라서 $20 충전은 약 333번의 세션을 커버합니다. 카드 없이 7일 동안 유효한 $0.50 체험 크레딧은 약 8번을 커버합니다. 하루 종일 동반자 스타일 채팅을 실행한다면, 이력을 다듬는 것이 핵심 변수입니다. 충전 보너스는 가격 정책을 참조하세요.
작동하는 설정: 시스템 프롬프트 및 API 호출
캐릭터는 시스템 프롬프트에서 다음 네 가지를 설정할 때 가장 잘 작동합니다: 캐릭터의 정체, 말투, 장면의 내용, 모델이 하면 안 되는 행동(사용자 대신 말하기, 캐릭터 깨기, 앞당기기). 평이하고 구체적으로 유지하세요.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
SYSTEM = (
"You are Captain Isolde Varn, a weary smuggler pilot in a rain-soaked "
"port city. You speak in short, dry sentences and distrust officials. "
"Stay in character. Describe actions in plain third-person prose. "
"Never write the user's lines or decisions. End each reply with a hook "
"the user can respond to. All characters in the story are adults."
)
history = [{"role": "system", "content": SYSTEM}]
def turn(user_text):
history.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.9,
top_p=0.95,
max_tokens=400,
)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(turn("I step into the hangar, rain dripping off my coat."))
모든 캐릭터가 성인이라는 명시적인 줄을 확인하세요. 카드에 포함하는 것이 좋으며, 이는 서비스의 유일한 엄격한 규칙과 일치합니다.
느낌을 바꾸는 설정
- Temperature 0.8~1.0은 더 생동감 있는 문체를 제공합니다. 캐릭터가 대본에서 벗어나면 0.6 정도로 낮추세요.
- top_p 0.9~0.95은 가장 이상한 단어 선택을 줄이면서도 응답을 단조롭게 만들지 않습니다.
- 빈도 및 존재 패널티는 전달됩니다. 0.2와 같은 작은 빈도 패널티는 긴 장면에서 반복되는 구문을 줄입니다.
- 정지 시퀀스는 모델이 당신의 다음 줄을 쓰기 시작할 때 응답을 끊는 데 유용합니다. 예를 들어, 줄바꿈 후 캐릭터 이름으로 시작하는 정지 시퀀스를 설정할 수 있습니다.
- seed는 동일한 장면에서 두 프롬프트 버전을 비교하고 싶을 때 도움이 됩니다.
- max_tokens을 300 ~ 500으로 유지하면 응답이 읽기 쉬운 길이를 유지하고 출력 비용을 낮게 유지합니다.
한 번에 하나의 설정만 변경하고 동일한 다섯 개의 시작 메시지를 다시 실행하세요. 그렇지 않으면 차이가 무엇인지 알 수 없습니다.
일반적인 역할극 문제와 해결 방법
모델이 캐릭터의 대사를 작성합니다
시스템 프롬프트에 명시적인 규칙을 추가하세요: 사용자의 대화, 생각 또는 결정을 쓰지 마세요. 프론트엔드가 당신의 이름에 사용하는 줄 접두사에 stop 시퀀스를 추가하세요. 이 두 가지로 대부분의 사례가 해결됩니다.
대답이 같은 구절을 반복함
빈도 패널티를 약간 높이고 장면을 다양하게 하세요. 반복은 대체로 거의 동일한 턴으로 가득 찬 기록에서 발생하므로, 새로운 훅으로 응답을 끝내는 것이 어떤 설정보다 더 도움이 됩니다.
캐릭터가 초기 사실을 잊어버립니다
짧은 "지금까지의 이야기" 블록을 유지하세요. 20턴마다 모델에게 200 단어 미만으로 장면을 요약하도록 요청한 후, 해당 요약을 사용하여 이전 턴을 교체하세요. 이렇게 하면 입력 비용을 낮게 유지하고 주요 사실을 프롬프트 상단에 가깝게 유지할 수 있습니다.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key=os.environ["LLM_API_KEY"])
def compress(history, keep_last=8):
old, recent = history[1:-keep_last], history[-keep_last:]
if not old:
return history
text = "\n".join(m["role"] + ": " + m["content"] for m in old)
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize this scene in under 200 words, keeping names, facts and open threads:\n" + text}],
max_tokens=300,
)
summary = {"role": "system", "content": "Story so far: " + r.choices[0].message.content}
return [history[0], summary] + recent
응답이 너무 짧거나 깁니다
프롬프트에 "2~4개의 단락"이라고 명시하고 max_tokens로 뒷받침하세요. 프롬프트 문구는 목표를 설정하고, 토큰 제한은 응답이 비정상적으로 길어지는 것을 방지합니다.
코드 작성 대신 프론트엔드 사용
많은 역할극 사용자가 채팅 프론트엔드를 선호합니다. 예를 들어 SillyTavern은 OpenAI 호환 엔드포인트를 추가할 수 있게 합니다. 일반적으로 사용자 지정 또는 OpenAI 호환 연결을 선택하고, Base URL로 https://api.bestllmapi.com/v1를 붙여넣고, 키를 입력한 후 모델 이름으로 uncensored를 입력합니다. 메뉴 레이블은 앱과 버전에 따라 다르므로 정확한 필드는 앱의 자체 문서를 확인하세요.
두 가지 실용적인 팁이 있습니다. 첫째, 프론트엔드의 컨텍스트 크기를 100,000 미만의 숫자로 설정하고 오래된 메시지를 정리하도록 하여, 통제 불능의 채팅이 입력 비용을 계속 증가시키지 않도록 하세요. 둘째, 프론트엔드의 스트리밍 옵션을 사용하세요. 스트리밍된 응답은 대화에서 더 빠르게 느껴집니다. 스트리밍된 요청은 끝날 때까지 동시성 슬롯 중 하나(전체 키의 경우 8개, 체험 키의 경우 2개)를 점유한다는 것을 기억하세요.
1시간 테스트 계획
- API 키 페이지에서 $0.50 무료 체험 크레딧을 청구하세요.
- 캐릭터 카드 하나와 장면 하나를 작성하고 30턴을 실행하세요.
- 초반에 사실을 심어두고 25번째 턴쯤에 회상을 확인하세요.
- 일반 모델이 거부하는 어둡지만 합법적인 장면을 시도하고 이야기가 계속되는지 확인하세요.
- 다른 장르의 두 번째 캐릭터로 반복하세요.
- 응답의 사용량 블록을 사용하여 비용을 비교하세요.
목소리가 맞고 비용이 적정하다면 충전하세요. 그렇지 않다면 몇 센트를 써서 확인한 것입니다. 오류가 발생하면 빠른 시작에서 요청 세부 정보를 확인하세요. 프롬프트는 학습에 사용되지 않으며, 실패하거나 거절된 요청에는 요금이 부과되지 않습니다.
더 많은 가이드
질문과 답변
역할극에 가장 적합한 LLM이 있나요?
아니요. 이는 장르, 캐릭터 카드 및 거부 허용도에 따라 다릅니다. 자신의 장면에서 테스트하고 일관성, 어조 및 세션당 비용을 비교하세요.
내 캐릭터를 위해 이미지나 음성을 생성할 수 있나요?
아니요. 이 서비스는 텍스트 전용이며 이미지, 오디오 또는 비디오 생성 기능이 없습니다.
역할극 세션은 얼마나 길어질 수 있나요?
프롬프트와 응답의 합계가 100,000 토큰을 초과할 수 없습니다. 더 긴 이야기의 경우 이전 대화 내용을 요약하고 그 요약을 시스템 프롬프트에 유지하세요.
콘텐츠 제한이 있나요?
이 모델은 합법적인 성인 사용에 대해 콘텐츠 거부 없이 응답합니다. 미성년자가 관련된 성적인 콘텐츠는 절대 허용되지 않습니다.
키는 양식 하나만 작성하면 받을 수 있습니다
계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.