← 목차Part 00 · AI·LLM·에이전트 이론 기초·00-6 · 10분
이 클립 · AI·LLM·에이전트 이론 기초

프롬프트에서 컨텍스트 엔지니어링으로 — 2026 최신 지시 설계

학습목표: 프롬프트를 “예쁘게 쓰는 문장 기술”이 아니라, 모델이 읽을 토큰 묶음을 고르고 유지하는 설계 문제로 이해한다[TH-015, TH-016]. 추론 모델, 시스템/유저 지시, 토큰 비용, 컨텍스트 오염을 구분해 Codex 작업 지시를 더 짧고 안전하게 만들 수 있다[TH-004, TH-020, TH-033, TH-039].

1. 핵심 개념 — 한 문장 정의 + 비유

컨텍스트 엔지니어링은 AI가 답을 낼 순간에 읽어야 할 최적의 토큰 묶음을 고르고, 정리하고, 오래된 정보를 덜어내는 전략이다[TH-015].

컨텍스트는 모델 앞 책상 위에 올려진 모든 종이라고 보면 된다[TH-004]. 프롬프트, 이전 대화, 첨부 파일, 도구 결과, 모델이 앞으로 쓸 답변까지 모두 책상 면적을 차지한다[TH-004].

프롬프트 엔지니어링은 그 책상 위에 놓는 “요청 문장”을 잘 쓰는 일이고, 컨텍스트 엔지니어링은 책상 전체를 정리하는 일이다[TH-016]. 예전 4요소는 역할, 목표, 맥락, 출력 형식으로 요청을 정리하는 입문용 체크리스트로만 기억하면 충분하다[TH-016].

2. 자세히 들여다보기 — 작동 원리·배경을 초보자 눈높이로

LLM은 긴 글을 보고 다음에 올 토큰을 맞히는 방식으로 학습한다[TH-001]. 토큰은 AI가 읽는 글자 조각이고, 모델은 단어가 아니라 토크나이저가 만든 subword 토큰을 예측한다[TH-002].

Subword 토큰은 단어를 더 잘게 쪼갠 단위다[TH-002]. 그러니 “비용”을 가늠할 때 세어야 할 것은 문장 수가 아니라 모델이 실제로 읽고 쓰는 토큰 수다[TH-004, TH-020].

다음 토큰 예측만으로도 모델은 문법, 사실, 문체, 코드, 추론 구조를 함께 익힌다[TH-003]. 이 말은 모델이 “생각하는 척”만 한다는 뜻이 아니라, 수많은 다음 토큰 문제를 풀며 추론처럼 보이는 구조를 내부에 만들었다는 뜻이다[TH-003].

트랜스포머는 문장을 왼쪽에서 오른쪽으로만 훑지 않고, 모든 토큰이 다른 모든 토큰을 attention으로 동시에 참고하게 만든다[TH-006]. 셀프어텐션은 Query, Key, Value로 움직이며, 쉽게 말하면 “지금 찾는 질문”, “자료의 이름표”, “꺼내올 내용”을 맞춰 보는 데이터베이스 검색과 비슷하다[TH-007].

임베딩은 토큰을 의미 벡터로 바꾸는 과정이다[TH-008]. 같은 단어도 앞뒤 문맥에 따라 다른 의미 벡터가 되므로, 모델에게 무엇을 함께 보여 주는지가 답의 방향을 바꾼다[TH-008].

구조화 프롬프트는 요청을 목적, 배경자료, 제약조건, 출력형식, 확인 기준 같은 칸으로 나눠 쓰는 방식이다[TH-016, TH-018]. 칸을 나누는 이유는 모델이 필요한 토큰과 덜 중요한 토큰을 구별하기 쉽게 만들기 위해서다[TH-006, TH-007].

시스템 프롬프트는 수업의 교칙처럼 행동의 큰 방향을 정하는 상위 지시다[TH-018]. 너무 깐깐하게 적으면 현장에서 융통성이 사라지고, 너무 헐겁게 적으면 모델이 매번 제멋대로 해석한다. 그래서 적당한 높이, 이른바 “골디락스 고도”를 잡아야 한다[TH-018].

유저 지시는 이번 차례의 구체적인 요청이다[TH-004]. 좋은 유저 지시는 “무엇을 해 달라”뿐 아니라 “무엇을 근거로 삼고, 무엇을 빼고, 어떤 형식으로 끝낼지”를 함께 적는다[TH-015, TH-016].

3. 2026년 지금은 — 최신 동향·주의점

2025년 6월 Karpathy와 Tobi Lütke의 공개 지지 이후 context engineering이라는 용어가 널리 자리 잡았다[TH-019]. 2026년의 지시 설계는 한 줄 프롬프트 묘기보다, 긴 작업 동안 어떤 정보가 컨텍스트에 남고 빠지는지를 관리하는 쪽으로 이동했다[TH-015, TH-016, TH-036].

컨텍스트 윈도우가 길어졌다고 해서 전부 넣으면 되는 것은 아니다[TH-017]. Context rot은 토큰이 늘어날수록 컨텍스트 안의 정보를 다시 찾아내는 정확도가 떨어지는 현상이다[TH-017].

광고된 컨텍스트 한도와 신뢰 가능한 한도도 다를 수 있다[TH-005]. 20만 토큰 한도는 약 13만 토큰, 100만 토큰 한도는 약 65만 토큰 부근에서 회상이 무너질 수 있다[TH-005].

환각은 모델이 모른다고 인정하는 것보다 그럴듯하게 찍는 쪽을 보상받아 생길 수 있다[TH-012]. 분류 난이도와 환각률이 수학적으로 연결됨도 증명되었으므로, 어려운 요청일수록 근거 확인과 모름 인정 지시가 중요하다[TH-013].

컨텍스트 오염은 틀린 정보나 환각이 대화 안에 들어온 뒤 계속 재사용되는 문제다[TH-033]. 컨텍스트 산만은 너무 긴 맥락 때문에 모델이 학습된 지식보다 과거 행동을 반복하는 문제다[TH-034].

컨텍스트 혼란은 불필요하거나 서로 모순되는 정보, 특히 너무 많은 도구 설명이 들어가 답의 품질과 추론 흐름을 망치는 문제다[TH-035]. 긴 작업에서는 압축, 구조화 노트, 서브에이전트 같은 방식으로 컨텍스트를 관리해야 한다[TH-036].

추론 모델은 답을 내기 전에 thinking 토큰을 더 써서 시험 시간 계산량을 늘린다[TH-020]. o1류 thinking 모델은 AIME 2024에서 GPT-4o의 약 12% 수준 성과를 약 74%까지 끌어올렸다[TH-021].

추론 모델은 쉬운 문제에도 토큰을 과하게 쓰는 overthinking 문제가 있다[TH-022]. GPT-5.1은 작업 복잡도에 따라 생각 시간을 동적으로 조절해 효율을 높인다[TH-023].

GPT-5는 빠른 모델, 추론 모델, 실시간 라우터가 합쳐진 통합 시스템이다[TH-040]. GPT-5는 2025.8.7, GPT-5.1은 2025.11.12, GPT-5.5는 2026.4.24 API로 출시됐다[TH-041].

4. 비개발자에게 무슨 의미인가 — 코덱스 앱과 어떻게 연결되나

비개발자에게 토큰은 돈이자 시간이자 집중력의 공통 단위다[TH-004, TH-020, TH-022]. 길게 쓴다고 친절한 게 아니다. 필요한 자료만 남기고 나머지를 덜어 내는 것이 좋은 지시 설계다[TH-015, TH-017].

Codex에 일을 맡길 때도 “이전 대화 전부 참고해”보다 “아래 요약과 파일만 근거로 진행해”가 한결 안전하다[TH-015, TH-033, TH-036]. 작업이 길어지면 그동안 내린 결정, 아직 열려 있는 질문, 하지 말 것, 다음에 할 일을 구조화 노트로 눌러 담아 둬야 한다[TH-036].

Skills는 반복되는 작업 절차를 재사용 가능한 지시 묶음으로 다룰 때 연결되는 이름이다[TH-036]. Automations는 반복 확인이나 예약 실행을 시킬 때, 실행 전 승인과 위험도 구분을 함께 생각해야 하는 이름이다[TH-038, TH-039].

Plugins는 외부 도구와 데이터를 연결할 때 등장하는 이름이며, 도구가 늘수록 컨텍스트 혼란을 관리해야 한다[TH-027, TH-035]. MCP는 AI와 외부 데이터나 도구를 연결하는 오픈 표준이며, N×M 통합 문제를 단일 프로토콜로 줄이는 역할을 한다[TH-028, TH-029].

Sites와 Memory는 2026년 6월 기준 프리뷰·요금제 한정 단서를 붙여 다루며, Sites는 Business·Enterprise, Memory는 Enterprise·Edu·EU·UK 범위에서 실습 가능 여부를 확인하게 한다[TH-039].

에이전트는 LLM이 루프 안에서 자율적으로 도구를 사용하는 방식이다[TH-024]. 워크플로우는 정해진 코드 경로를 따르고, 에이전트는 모델이 과정과 도구를 동적으로 지휘한다[TH-025].

좋은 원칙은 가장 단순한 해법을 먼저 찾고 필요할 때만 복잡도를 올리는 것이다[TH-026]. 그래서 비개발자는 매번 에이전트를 만들기보다, 구조화 프롬프트, 필요한 첨부, 짧은 요약, 승인 게이트만으로 끝나는지 먼저 확인해야 한다[TH-026, TH-039].

도구 호출은 모델이 타입이 정해진 인자를 가진 구조화된 호출을 만들고, 앱이 실행한 뒤 결과를 다시 모델에게 돌려주는 흐름이다[TH-027]. 실행과 추론을 분리하고 부작용이 생기기 전에 사람 승인을 두는 패턴이 가장 신뢰적이다[TH-039].

5. 한 줄 정리 + 용어 미니사전

한 줄 정리: 2026년의 지시 설계는 “좋은 문장”을 쓰는 기술에서 “좋은 컨텍스트 상태”를 유지하는 기술로 옮겨 갔다[TH-015, TH-016, TH-019].

출처

본문의 [...] 표기는 아래 근거에서 확인할 수 있습니다.

← 환각과 편향성 — 왜 그럴듯하게 틀리고 치우모델·API·앱 — 코덱스가 모델을 쓰는 구 →
코덱스 100가지 스킬스 활용 바이블 · 00-6 · 근거 기반 교재 · 2026-06 기준