← 모든 글

LLM 응답을 짧게 강제하기

max_tokens 만으로는 부족 — 세 가지를 같이.

“한 줄” 로 받고 싶은데 max_tokens=80 만으로는 문장이 중간에 끊긴다.

세 가지 같이:

respond in ONE sentence. maximum 60 Korean characters. do NOT use bullets.
  • stop_sequences=["\n\n", "##"] + max_tokens=120.

다음에는 다르게 할 한 가지

LLM 출력 길이는 세 가지를 같이 — prompt 명시 + stop_sequences + max_tokens. 셋 중 하나만 쓰면 늘 부족.


🛒 이 글과 어울리는 추천 상품

위 링크는 쿠팡파트너스 활동의 일환이며, 일정액의 수수료를 제공받을 수 있습니다.