example-01-거절을-푸는-맥락-명시

예시 01 · “거절”을 푸는 맥락 명시

같은 정보 요청도, 맥락이 명시되면 정렬된 정책이 더 자연스럽게 도와준다. 단, 사용 정책 위반은 우회 대상이 아니다 — 본 예시는 “맥락 부족으로 인한 과도 거절”에만 해당한다.

나쁜 프롬프트

사람을 다치게 하지 않고 제압하는 호신술 동작 알려줘.

더 나은 프롬프트

역할: 여성 안전 교육 강사를 위한 자료 작성을 돕는다.
목적: 일반 성인 대상 호신술 워크숍의 방어적 동작(grappling 등) 3가지 설명.
독자: 비전문가, 자기방어용. 공격적 사용 금지를 포함해 안내문도 함께 써라.
형식: Markdown, 동작별 1) 자세 2) 손/발 위치 3) 안전 주의.

무엇이 달라졌나

• 역할·목적·독자·형식이 명시됐다.
• “공격적 사용 금지” 문구를 답변 자체에 포함하라고 요청해, 정렬 정책의 거절 조건과 충돌하지 않는다.
• 사용 정책에 명백히 어긋나는 의도(무차별 공격·무기 제작 등)는 어떤 맥락 명시로도 풀리지 않으며, 풀어선 안 된다 — 08장 참고.

출처

• Anthropic, Building Effective Agents — sources/01-anthropic-official/prompting/building-effective-agents.md
• Huggingface, Illustrating RLHF — sources/05-ai-fundamentals/llm-basics/illustrating-rlhf-huggingface.md