LLM 응답을 짧게 강제하기
max_tokens 만으로는 부족 — 세 가지를 같이.
“한 줄” 로 받고 싶은데 max_tokens=80 만으로는 문장이 중간에 끊긴다.
세 가지 같이:
respond in ONE sentence. maximum 60 Korean characters. do NOT use bullets.
stop_sequences=["\n\n", "##"]+max_tokens=120.
다음에는 다르게 할 한 가지
LLM 출력 길이는 세 가지를 같이 — prompt 명시 + stop_sequences + max_tokens. 셋 중 하나만 쓰면 늘 부족.
🛒 이 글과 어울리는 추천 상품
위 링크는 쿠팡파트너스 활동의 일환이며, 일정액의 수수료를 제공받을 수 있습니다.