02-구조
02 · 위험 표면 — 어디서 무엇을 막아야 하나
섹션 제목: “02 · 위험 표면 — 어디서 무엇을 막아야 하나”입력 측 위험 표면
섹션 제목: “입력 측 위험 표면”| 자리 | 위험 | 1차 방어 |
|---|---|---|
| 사용자가 붙여넣는 텍스트 | 기밀·개인정보 노출 | 사전 마스킹·DLP·정책 교육 |
| 자동으로 로드되는 파일 | 미공개 자료 유출 | 디렉토리 권한·/init 시 화이트리스트 |
| 외부 검색 결과 | 프롬프트 주입·잘못된 사실 | 출처 표시·서버 도구의 자동 sanitize 신뢰 금지 |
| MCP 서버 응답 | 신뢰 경계 침범 | MCP 서버 사전 심사·allow-list |
| 사용자 정의 도구 인자 | 잘못된 인자 → 위험한 호출 | strict tool use, 인자 검증 |
출력 측 위험 표면
섹션 제목: “출력 측 위험 표면”| 자리 | 위험 | 1차 방어 |
|---|---|---|
| 코드 출력 | 라이선스 충돌·취약점 도입 | 코드 리뷰·SCA·라이선스 스캐너 |
| 사실 진술 | 환각·잘못된 인용 | grounding·검증 패스(05장) |
| 결정 권고 | 의료/법률/금융 책임 | 사람 검수·전문가 자문 |
| 자동 실행 결과 | 파일 삭제·외부 호출 부작용 | sandbox·hooks·dry-run |
”사람이 마지막에 검수한다”의 의미
섹션 제목: “”사람이 마지막에 검수한다”의 의미”기술적으로는 “검증 패스”라고 부르지만, 법적·윤리적으로는 책임 소재의 문제다. 모델 출력은 책임의 출발점이지 종착점이 아니다. 본 위키 절대 규칙 §7 “출처 없는 사실 진술 금지”, §10 “writer-reviewer-verifier 분리 패스, 자기 승인 금지”가 이 책임의 운영 형태다.
자동화의 한계 — Anthropic 자체의 권고
섹션 제목: “자동화의 한계 — Anthropic 자체의 권고”원문 (Claude Code Best Practices): “Use thinking budgets … as control knobs for hard tasks. … TDD is the highest-yield workflow inside Claude Code.”
의역: “어려운 작업에는 thinking budget 손잡이를 키우고, TDD가 가장 ROI가 높은 워크플로우다.”
— sources/14-research-notes/2026-04-07-anthropic-claude-code-best-practices.md
이 권고는 기술 팁처럼 보이지만, 본질적으로는 사람-시스템 검증의 강도 를 작업 위험에 비례시키라는 책임 가이드다. 위험이 큰 코드 변경일수록 thinking budget을 키우고, 테스트를 먼저 쓰고, 검증 패스를 더한다.
- 입력·출력 양면에 모두 방어가 필요하다.
- 도구·MCP·자동 실행은 보안 표면이자 책임 표면.
- “검증 패스”는 기술이 아니라 책임의 운영 형태.
- 위험에 비례해 검증 강도를 키워라.