01-개념

01. 개념 — 1M 토큰이 끝이 아니다

컨텍스트 윈도우의 정의

Claude 공식 docs는 컨텍스트 윈도우를 다음처럼 정의한다.

“The ‘context window’ refers to all the text a language model can reference when generating a response, including the response itself. This represents a ‘working memory’ for the model.”

의역: “‘컨텍스트 윈도우’는 모델이 응답을 생성할 때 참조할 수 있는 모든 텍스트를 가리킨다 — 응답 자체도 포함된다. 이는 모델의 ‘작업 기억’에 해당한다.”

용량은 다음과 같다.

모델	용량
Claude Opus 4.6 / Sonnet 4.6	최대 1,000,000 토큰
Sonnet 4.5 / Sonnet 4	200,000 토큰

”더 많이”가 자동으로 더 좋지 않다

같은 docs는 곧바로 경고한다.

“A larger context window allows handling more complex prompts, but more context isn’t automatically better. As token count grows, accuracy and recall degrade — a phenomenon known as context rot.”

의역: “큰 컨텍스트 윈도우는 더 복잡한 프롬프트를 다룰 수 있게 해 주지만, 컨텍스트가 많을수록 자동으로 좋아지는 것은 아니다. 토큰 수가 늘면 정확도와 회상률이 떨어진다 — 이를 컨텍스트 로트(context rot) 라 부른다.”

이 한 문단이 본 챕터 전체의 동기다. (Part 3/07에서 더 깊이 다룬다.)

비유: 시계 없이 요리 경연

Anthropic은 Claude Sonnet 4.5/4.6, Haiku 4.5에 “컨텍스트 자각(context awareness)” 기능을 넣었다. 세션 시작에 다음 같은 신호가 들어간다.

<budget:token_budget>1000000</budget:token_budget>

각 도구 호출 후에는:

<system_warning>Token usage: 35000/1000000; 965000 remaining</system_warning>

문서의 비유는 직설적이다.

“For a model, lacking context awareness is like competing in a cooking show without a clock.”

의역: “모델에게 컨텍스트 자각이 없는 것은 시계 없이 요리 경연에 나가는 것과 같다."

"공짜가 아니다”

Drew Breunig의 한 줄을 다시 인용한다.

“Context is not free. Every token in the context influences the model’s behavior, for better or worse.”

의역: “컨텍스트는 공짜가 아니다. 모든 토큰은 좋게든 나쁘게든 모델 행동에 영향을 준다.”