03-실전

03. 실전 — rot 진단 → 회복 플로우

진단 신호

다음 중 둘 이상이면 rot을 의심한다.

• 모델이 같은 도구 호출을 반복한다(Distraction).
• 첫 30턴에는 정확하던 답이 80턴 이후 흔들린다.
• 한 번 들어간 잘못된 사실을 모델이 계속 인용한다(Poisoning).
• 같은 정보를 다르게 두 번 말한다(Clash).
• 도구가 너무 많아 잘못된 도구를 고른다(Confusion).

처방 결정 트리

1. 모델이 잘못된 사실을 반복하는가? → Pruning: 그 메시지/턴을 제거하거나 새 세션. 오염된 컨텍스트는 끝까지 따라온다.
2. 토큰 80% 이상 + 답변이 단조로워지는가? → Summarization 또는 /compact.
3. 도구가 12개 이상이고 잘못된 선택이 보이는가? → Tool Loadout: 작업별로 줄인다.
4. 폭(breadth-first) 작업인가? → Quarantine / Subagent.
5. 외부 사실이 자주 필요한가? → Offloading: notepad/Memory Tool.

손쉬운 1라운드

길게 가는 작업을 시작할 때 다음 4개를 디폴트로 켠다.

• Prompt Caching ON (시스템 프롬프트 재사용)
• Context Editing ON (오래된 도구 결과 자동 정리)
• notepad.md 첫 줄 갱신
• 100K 임계에서 세션 분할 약속

이 4개만으로도 대부분의 rot이 발생 전에 차단된다.

회복이 안 될 때 — “컨텍스트를 버려라”

가장 효과적인 회복은 종종 현재 컨텍스트를 통째로 버리고 새 세션 이다. 이전 세션의 결정 요약 한 단락만 새 세션에 들고 들어간다. 사람의 “잠 자고 다시 보기”와 같다.

자기 점검

지금 컨텍스트를 한 줄로 표현해 보라. “이번 작업의 진짜 사실 N개” 가 5개를 넘지 않는다면 다 정리해도 무방할 가능성이 높다. 그보다 많다면 어디까지가 진짜 사실 이고 어디부터가 과거 잡음 인지 구분.