anti-patterns

안티패턴 — LLM의 본성을 잊었을 때 벌어지는 일

1. “AI가 정답을 알고 있다”는 가정

LLM은 다음 토큰 확률을 계산할 뿐이다. 답이 없는 질문에도 그럴듯한 응답을 만들어 낸다(05장 환각). 사실 검증 없이 출력을 그대로 인용하면 곧 사고로 이어진다.

2. “왜 어제와 답이 다르냐”고 사람 탓

같은 프롬프트라도 디코딩이 확률 표본 추출이라서 출력은 흔들린다. 결정성을 원하면 temperature=0을 먼저 의심하라. (sources/05-ai-fundamentals/llm-basics/how-to-generate-decoding-methods-hf.md)

3. 토큰 = 단어라는 착각

한국어 한 글자가 토큰 1개가 아닐 수 있다. BPE 사전상 한국어는 영어보다 토큰을 더 잡아먹는다. 비용·컨텍스트 한도 모두 토큰 단위로 측정된다. (sources/05-ai-fundamentals/llm-basics/byte-pair-encoding-tokenization-hf-course.md)

4. “프롬프트는 길수록 좋다”

긴 프롬프트는 비용·지연·컨텍스트 오염을 모두 키운다. 핵심만 남기고 자르는 훈련(컨텍스트 엔지니어링, Part 3)이 필요하다.

5. “한 번 호출 = 한 번의 답”이라는 운영

운영 단계에서는 같은 작업을 여러 번 호출해 다수결·재시도·검증 루프로 묶는 패턴이 표준이다. OMC의 writer→reviewer→verifier 분리 패스가 이 원칙의 실천 사례다. (CLAUDE.md §10)

6. 모델 의인화(Anthropomorphism)

“Claude가 화났다”·“오늘은 컨디션이 안 좋다” 같은 표현은 디버깅을 막는다. 같은 모델·다른 분포로 다시 생각하라.