example-01-디코딩-손잡이-비교

예시 01 · 디코딩 손잡이로 같은 모델의 “성격” 바꿔 보기

목적: temperature·top_p 두 손잡이만 바꾸어 동일 프롬프트가 얼마나 달라지는지 체감한다.

시나리오

신제품 출시 트윗 초안 1줄을 Claude에게 부탁한다고 하자. 동일 프롬프트로 두 번 호출한다.

# 결정적 — 운영 환경
curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-4-6",
    "max_tokens": 120,
    "temperature": 0,
    "messages": [{"role":"user","content":"신제품 출시 트윗 1줄을 써줘. 톤: 단정."}]
  }'

# 발산적 — 브레인스토밍
curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-4-6",
    "max_tokens": 120,
    "temperature": 1.0,
    "top_p": 0.95,
    "messages": [{"role":"user","content":"신제품 출시 트윗 1줄을 써줘. 톤: 단정."}]
  }'

무엇을 관찰할 것인가

결정성 — 첫 번째 호출은 여러 번 돌려도 거의 같은 출력을 낸다. 두 번째는 매번 다르다.
다양성과 안전성의 트레이드오프 — 온도가 높을수록 신선한 표현이 나오지만, 사실 오류·과장·부적절 표현이 동반될 확률도 함께 오른다.
운영 vs 발상의 분리 — 발상 단계에서는 발산을 허용하고, 운영 단계에서는 결정성을 높이는 두 단계 워크플로우가 안전하다.

일반화

평가 회귀 테스트(Part 4/05): temperature=0 으로 고정.
사용자 대면 응답: 보통 0.2~0.7 사이에서 톤을 잡는다.
카피라이팅 브레인스토밍: 0.9~1.2까지 올려도 좋되 사람 검수 필수.

출처

Hugging Face, How to Generate Text — sources/05-ai-fundamentals/llm-basics/how-to-generate-decoding-methods-hf.md
Anthropic, Tool use with Claude (API 호출 형식) — sources/01-anthropic-official/api/tool-use-overview.md