01-개념
01 — 개념: 왜 출처 없는 사실은 위험한가
섹션 제목: “01 — 개념: 왜 출처 없는 사실은 위험한가”출처 없는 사실 진술(Uncited Factual Claim) — 검증 가능한 출처 없이 LLM이 단정형으로 제시하는 사실 주장. “X는 Y이다”, “2025년에 Z가 발표되었다”, “대부분의 팀은 W를 사용한다” 등.
이런 진술은 틀렸을 수도 있고 맞았을 수도 있다. 핵심 문제는 검증 가능성의 부재다.
환각의 세 가지 흔한 형태
섹션 제목: “환각의 세 가지 흔한 형태”1. 가짜 통계
섹션 제목: “1. 가짜 통계”“82%의 개발자가 AI 도구를 사용한다.” 설문이 존재하지 않거나, 존재해도 숫자가 다르다. LLM은 그럴듯한 비율을 생성하는 데 능하다.
2. 가짜 인용
섹션 제목: “2. 가짜 인용”“Anthropic의 2024년 백서에 따르면…” 백서가 없거나, 있어도 그런 문장이 없다. 더 위험한 변종 — 진짜 백서를 인용하지만 실제로 없는 문장을 따옴표 안에 넣는다.
3. 가짜 링크
섹션 제목: “3. 가짜 링크”https://anthropic.com/papers/something-that-does-not-exist. URL의 형태는 완벽하다. 클릭하면 404. LLM은 URL의 통계적 모양만 안다.
왜 이게 안티패턴인가
섹션 제목: “왜 이게 안티패턴인가”- 한 번 문서에 들어가면 다음 세션의 입력으로 재사용된다 — 환각의 재투영(reprojection).
- 사람이 신뢰하면 결정으로 이어진다 — 가짜 통계로 로드맵을 그리면 로드맵이 가짜.
- 위키 전체의 신뢰가 최약 진술만큼 약해진다.
CLAUDE.md §금지 7: “출처 없는 사실 진술” 자체가 절대 금지 항목이다.
”의견”과 “사실”의 구분
섹션 제목: “”의견”과 “사실”의 구분”모든 문장에 출처가 필요한 것은 아니다. 다음을 구분한다.
| 종류 | 출처 필요? | 예 |
|---|---|---|
| 외부 사실 | ✅ | “Chroma 보고서는 18개 모델을 평가했다” |
| 인용 | ✅ | “카파시는 ‘slopacolypse’라고 표현했다” |
| 본 위키의 주장/규칙 | ❌ (자체 권위) | “본 위키는 5점 진단 기준을 사용한다” |
| 일반 상식 | ❌ | “1년은 12개월이다” |
| 의견·해석 | ❌ (단, 의견임을 명시) | “필자가 보기에 이 패턴은 약하다” |
사이먼 윌리슨의 원칙
섹션 제목: “사이먼 윌리슨의 원칙”“Treat LLM output the way you’d treat a confident intern’s output: useful, but don’t ship it without checking.”
의역: “LLM 출력을 자신감 있는 인턴의 결과물처럼 다루라 — 유용하지만 확인 없이 출하하지 말라.”
이 원칙을 사실 진술에 적용하면 — 출처 없으면 출하 금지.