← 목차Part 00 · AI·LLM·에이전트 이론 기초·00-10 · 10분
이 클립 · AI·LLM·에이전트 이론 기초

에이전트를 잘 굴리는 기초 — 컨텍스트 엔지니어링·실패모드

학습목표: 이 10분이 지나면 컨텍스트 엔지니어링을 “좋은 질문 쓰기”가 아니라 “모델이 읽는 재료를 관리하는 일”로 이해하고, 추론 모델·메모리·실패모드·사람 승인 게이트를 에이전트 운용 점검표로 쓸 수 있다. [TH-015, TH-020, TH-033, TH-038]

1. 핵심 개념 — 한 문장 정의 + 비유

컨텍스트 엔지니어링은 추론 시점에 모델이 읽을 최적의 토큰 집합을 큐레이션하고 유지하는 전략이다. [TH-015] 프롬프트 엔지니어링이 “이번 질문을 어떻게 쓸까”에 가깝다면, 컨텍스트 엔지니어링은 프롬프트와 대화 이력, 첨부 자료, 도구 결과, 답변까지 아우른 전체 컨텍스트 상태를 관리하는 일이다. [TH-004, TH-016]

비유하자면 프롬프트는 요리사에게 건네는 주문서이고, 컨텍스트는 냉장고 속 재료와 지난 조리 기록, 주방 도구, 손님 알레르기 메모까지 모두 합친 작업대 전체다. [TH-004, TH-015, TH-027] 에이전트는 LLM이 루프 안에서 스스로 도구를 쓰는 구조라, 컨텍스트가 흐려지면 같은 실수를 반복하거나 잘못된 근거 위에 다음 결정을 쌓기 쉽다. [TH-024, TH-033, TH-034]

결국 이 클립의 핵심은 “에이전트를 잘 굴린다”는 말이 더 똑똑한 문장을 쓰는 일이 아니라, 무엇을 읽히고 무엇을 빼며 어디서 사람에게 멈춰 세울지를 정하는 일이라는 데 있다. [TH-015, TH-026, TH-038]

2. 자세히 들여다보기 — 작동 원리·배경을 초보자 눈높이로

LLM은 텍스트를 지도학습 문제로 바꾸어 각 위치의 다음 토큰을 예측하도록 학습한다. [TH-001] 여기서 토큰은 AI가 글을 잘게 나누어 보는 조각인데, LLM은 단어 그대로가 아니라 토크나이저가 만든 subword 토큰을 예측한다. [TH-002] 신기하게도 다음 토큰 예측 하나만으로 문법과 사실, 문체, 코드, 추론 구조까지 부수적으로 학습된다. [TH-003]

트랜스포머는 모든 단어가 동시에 다른 모든 단어를 attention으로 바라보도록 설계된다. [TH-006] 이 셀프어텐션은 Query를 질의, Key를 라벨, Value를 내용으로 보는 데이터베이스 검색에 빗대면 이해하기 쉽다. [TH-007] 임베딩은 토큰을 의미 벡터로 바꾸는 과정인데, 같은 단어라도 문맥이 달라지면 다른 의미 벡터가 된다. [TH-008]

컨텍스트 윈도우는 프롬프트와 이력, 첨부, 답변에 들어가는 모든 토큰의 합이다. [TH-004] 그래서 긴 문서를 잔뜩 넣는다고 늘 좋아지지는 않으며, 필요한 조각을 정확히 넣고 낡은 조각은 압축하거나 빼는 관리가 필요하다. [TH-015, TH-017, TH-036] 토큰이 늘수록 컨텍스트 안 정보의 회상 정확도가 떨어지는 현상을 컨텍스트 로트(context rot)라고 부른다. [TH-017]

시스템 프롬프트는 모델의 기본 행동 기준을 잡는 상위 지시인데, 너무 구체적이지도 너무 모호하지도 않은 “골디락스 고도”가 최적이다. [TH-018] 추론 모델은 답을 내기 전에 thinking 토큰을 더 써서 test-time compute를 늘리는 방식으로 추론한다. [TH-020] 이 방식은 어려운 문제에서 성능을 크게 끌어올리지만, 쉬운 문제에도 토큰을 과하게 쓰는 과잉사고 문제를 낳기도 한다. [TH-021, TH-022]

메모리는 긴 작업에서 필요한 맥락을 잃지 않도록 압축, 구조화 노트, 서브에이전트 요약 같은 방식으로 관리하는 장기 맥락 장치다. [TH-036, TH-037] 실패모드는 에이전트가 틀린 정보나 지나치게 긴 맥락, 모순된 도구 설명, 반복 루프 탓에 품질이 떨어지는 전형적 고장 패턴을 말한다. [TH-033, TH-034, TH-035]

휴먼인더루프(HITL)는 실행 전에 사람이 승인하는 방식이고, 휴먼온더루프(HOTL)는 자율 실행 뒤 사람이 모니터하는 방식이다. [TH-038] 가장 신뢰할 만한 패턴은 추론과 실행을 분리하고, 부작용이 생기기 전에 승인 게이트를 두는 것이다. [TH-039]

3. 2026년 지금은 — 최신 동향·주의점

용어 “context engineering”은 2025년 6월 Karpathy와 Tobi Lütke가 공개적으로 지지하면서 정착됐다. [TH-019] 2026년에 이 개념이 중요한 이유는 컨텍스트 윈도우가 커져도 신뢰할 수 있는 사용 한도는 광고된 한도와 다를 수 있기 때문이다. [TH-005] 예컨대 광고된 20만 토큰 한도는 약 13만 토큰 부근에서, 100만 토큰 한도는 약 65만 토큰 부근에서 신뢰성이 무너질 수 있다. [TH-005]

환각은 학습과 평가가 “모름 인정”보다 “찍기”를 보상하기 때문에 생긴다. [TH-012] 환각률이 분류 난이도와 수학적으로 연결된다는 점도 증명됐다. [TH-013]

실패모드는 여러 얼굴로 나타난다. 컨텍스트 오염은 환각이나 오류가 컨텍스트에 들어간 뒤 반복 참조되어 거짓 위에 전략을 쌓는 현상이고 [TH-033], 컨텍스트 산만은 컨텍스트가 너무 길 때 모델이 학습 지식을 무시하고 과거 행동을 되풀이하는 현상이다. [TH-034] 컨텍스트 혼란과 충돌은 불필요하거나 모순된 정보, 과도한 도구가 응답 품질을 떨어뜨리고 추론을 탈선시키는 현상을 가리킨다. [TH-035]

이를 보완하는 장치도 있다. RAG는 외부 코퍼스 검색으로 출력을 근거화해 지식집약 과제의 환각을 줄인다. [TH-031] MCP는 AI와 외부 데이터·도구 연결을 통일하는 오픈 표준으로, 2024년 11월 Anthropic이 공개했다. [TH-028] 덕분에 여러 AI 앱과 여러 도구를 일일이 붙여야 하는 N×M 통합 문제를 단일 프로토콜로 줄일 수 있다. [TH-029]

모델 쪽 흐름도 짚어 두자. GPT-5는 빠른 모델과 추론 모델, 실시간 라우터를 묶은 통합 시스템이다. [TH-040] GPT-5는 2025년 8월 7일, GPT-5.1은 2025년 11월 12일, GPT-5.5는 2026년 4월 24일 API로 출시됐다. [TH-041] 그중 GPT-5.1은 작업 복잡도에 따라 생각 시간을 동적으로 조절해 효율을 높인다. [TH-023]

4. 비개발자에게 무슨 의미인가 — 코덱스 앱과 어떻게 연결되나

비개발자에게 컨텍스트 엔지니어링은 “AI에게 많이 넣기”가 아니라 “AI가 지금 판단에 써야 할 재료만 남기기”다. [TH-004, TH-015, TH-017] 코덱스에서 Skills는 2026-06 기준 기능명으로, 반복되는 지시와 기준, 절차를 컨텍스트로 재사용하는 설명서처럼 보면 된다. [TH-015, TH-016]

Automations는 정해진 시간이나 조건의 반복 실행에 어울린다. 이런 일은 LLM이 매번 과정을 고르는 에이전트보다, 정해진 코드 경로를 따르는 워크플로우에 가깝다. [TH-025, TH-026] Plugins는 외부 앱이나 데이터로 이어지는 통로이고, 도구 호출은 모델이 구조화된 인자를 내면 앱이 실행 결과를 돌려주는 방식이다. [TH-027, TH-028]

기능명을 말할 때는 단서를 빠뜨리지 말아야 한다. Sites는 2026-06 기준 작업 결과를 웹 화면으로 검토하는 기능명이되 Business·Enterprise 프리뷰·요금제 한정 단서를 붙여 설명한다. [TH-027, TH-036] Memory도 2026-06 기준 장기 맥락을 다루는 기능명이되 Enterprise·Edu·EU·UK 프리뷰·요금제 한정 단서를 붙인다. [TH-036, TH-037]

실무에서는 “자료 읽기, 근거 정리, 초안 작성, 사람 승인, 실제 실행”으로 단계를 끊으면 추론과 실행을 분리할 수 있다. [TH-024, TH-038, TH-039] 메일 발송이나 파일 삭제, 결제, 외부 게시처럼 부작용이 생길 수 있는 행동은 실행 전에 승인 게이트를 둬야 한다. [TH-038, TH-039] 반대로 회의록 요약이나 후보 아이디어 생성, 문서 초안 작성처럼 되돌리기 쉬운 일은 에이전트가 먼저 초안을 만들고 사람이 검토하는 흐름이 맞다. [TH-024, TH-038, TH-039]

초보자는 다음 한 문장으로 시작하면 컨텍스트와 도구, 승인 지점을 한 번에 점검할 수 있다. [TH-015, TH-026, TH-039]

이 작업을 시작하기 전에 필요한 컨텍스트, 빼야 할 낡은 정보, 사용할 도구, 사람 승인이 필요한 실행 지점을 먼저 구분해 주세요.

5. 한 줄 정리 + 용어 미니사전

한 줄 정리: 에이전트를 잘 굴리는 기본은 더 긴 지시가 아니라, 깨끗한 컨텍스트와 적절한 추론 시간, 실행 전 승인 게이트를 함께 설계하는 것이다. [TH-015, TH-020, TH-033, TH-039]

컨텍스트 엔지니어링: 추론 시점에 모델이 읽을 최적의 토큰 집합을 큐레이션하고 유지하는 전략이다. [TH-015]

컨텍스트 로트: 토큰이 늘수록 컨텍스트 안 정보 회상 정확도가 떨어지는 현상이다. [TH-017]

추론 모델: 답 전에 thinking 토큰을 더 써서 test-time compute로 추론하는 모델이다. [TH-020]

컨텍스트 오염: 환각이나 오류가 컨텍스트에 들어가 반복 참조되는 현상이다. [TH-033]

메모리: 긴 작업의 맥락을 압축, 구조화 노트, 요약으로 유지하는 장기 맥락 관리 장치다. [TH-036, TH-037]

HITL: 부작용이 생기기 전에 사람이 실행을 승인하는 방식이다. [TH-038, TH-039]

출처

본문의 [...] 표기는 아래 근거에서 확인할 수 있습니다.

← 에이전트가 세상과 연결되는 법 — 도구·MC코덱스란 무엇인가 — 비개발자 눈으로 본 앱 →
코덱스 100가지 스킬스 활용 바이블 · 00-10 · 근거 기반 교재 · 2026-06 기준