이 클립 · AI·LLM·에이전트 이론 기초
모델·API·앱 — 코덱스가 모델을 쓰는 구조
학습목표: 이 10분이 끝나면 모델, API, 앱의 역할을 분리해서 보고, 코덱스가 모델을 “품고 있는 앱”이 아니라 모델을 호출하고 도구 실행을 관리하는 작업 환경이라는 점을 이해한다. [TH-024, TH-027]
토큰, 컨텍스트 윈도우, 멀티모달, GPT-5.x 세대의 변화를 비용 감각과 작업 지시 방식에 연결해 설명할 수 있다. [TH-002, TH-004, TH-032, TH-040, TH-041]
1. 핵심 개념 — 한 문장 정의 + 비유
모델은 다음 토큰을 예측하는 두뇌, API는 그 두뇌에 요청서를 들이밀고 응답을 받아 오는 창구, 코덱스 앱은 모델의 응답을 파일 읽기·파일 수정·도구 호출·승인 흐름으로 이어 붙이는 작업대다. [TH-001, TH-002, TH-027]
주방에 빗대 보자. 모델이 요리사라면 API는 주문 창구이고, 앱은 주문을 받아 재료를 꺼내고 완성된 접시를 내보내는 주방 매니저다. [TH-027]
비개발자가 꼭 잡아야 할 핵심은 “GPT가 알아서 다 한다”가 아니라 “앱이 모델에게 묻고, 모델이 도구 사용을 제안하고, 앱이 실제 실행을 맡는다”는 분리다. [TH-027]
2. 자세히 들여다보기 — 작동 원리·배경을 초보자 눈높이로
LLM은 대규모 언어 모델을 뜻하며, 텍스트 학습을 각 위치의 다음 토큰을 맞히는 문제로 바꾸어 배운다. [TH-001]
토큰은 모델이 읽고 쓰는 작은 조각이며, 실제 모델은 단어가 아니라 토크나이저가 만든 subword 토큰을 예측한다. [TH-002]
“다음 조각 맞히기”는 처음 보면 시시할 만큼 단순하다. 그런데 이 과정 하나만으로 문법, 사실, 문체, 코드, 추론 구조가 덤처럼 함께 학습된다. [TH-003]
트랜스포머는 문장 속 모든 단어가 동시에 다른 모든 단어를 attention으로 보게 만든 구조다. [TH-006]
셀프어텐션은 Query는 찾는 말, Key는 라벨, Value는 실제 내용인 데이터베이스 검색으로 이해하면 쉽다. [TH-007]
임베딩은 토큰을 의미 벡터로 바꾸는 과정이고, 같은 단어도 문맥에 따라 다른 벡터가 될 수 있다. [TH-008]
API는 여기서 “모델과 앱 사이의 약속된 요청·응답 통로”로 이해하면 충분하다. [TH-027]
코덱스 앱은 사용자의 프롬프트, 이전 대화, 첨부 자료를 모델에게 보내고, 모델이 구조화된 도구 호출을 내면 앱이 실행한 뒤 결과를 다시 모델에게 돌려준다. [TH-004, TH-027]
에이전트는 LLM이 루프 안에서 자율적으로 도구를 사용하는 방식이고, 워크플로우는 정해진 코드 경로를 따라 움직이는 방식이다. [TH-024, TH-025]
컨텍스트 윈도우는 프롬프트, 이력, 첨부, 답변에 들어가는 모든 토큰의 합이다. [TH-004]
멀티모달 AI는 텍스트와 함께 이미지, 오디오, 문서를 입력받아 통합 추론하는 AI다. [TH-032]
비개발자가 요금을 어림할 때 들여다볼 것은 글자 수가 아니다. 토큰, 컨텍스트, 그리고 추론 모델이 써 버리는 thinking 토큰까지 함께 보는 편이 맞다. [TH-002, TH-004, TH-020]
3. 2026년 지금은 — 최신 동향·주의점
GPT-5는 빠른 모델, 추론 모델, 실시간 라우터가 합쳐진 통합 시스템으로 설명된다. [TH-040]
GPT-5는 2025년 8월 7일, GPT-5.1은 2025년 11월 12일, GPT-5.5는 2026년 4월 24일 API로 출시된 흐름에 놓여 있다. [TH-041]
GPT-5.1은 작업 복잡도에 따라 생각 시간을 동적으로 조절해 효율을 높이는 방향으로 설명된다. [TH-023]
추론 모델은 답을 내기 전에 thinking 토큰을 더 써서 test-time compute를 늘리는 방식으로 추론한다. [TH-020]
추론 모델은 어려운 문제에서 강하지만, 쉬운 문제에 토큰을 과하게 쓰는 overthinking 문제가 있다. [TH-022]
그래서 원칙은 가장 단순한 해법을 먼저 찾고, 필요할 때만 복잡도를 올리는 것이다. [TH-026]
컨텍스트 한도도 숫자만 믿으면 위험하며, 광고된 20만 토큰은 약 13만, 100만 토큰은 약 65만 부근에서 신뢰 가능한 회상이 무너질 수 있다. [TH-005]
토큰이 늘수록 컨텍스트 안의 정보를 다시 떠올리는 정확도가 떨어지는 현상을 context rot이라고 부른다. [TH-017]
컨텍스트 엔지니어링은 추론 시점에 필요한 최적 토큰 집합을 큐레이션하고 유지하는 전략이다. [TH-015]
프롬프트 엔지니어링은 컨텍스트 엔지니어링의 부분집합이고, 컨텍스트 엔지니어링은 전체 컨텍스트 상태를 관리한다. [TH-016]
4. 비개발자에게 무슨 의미인가 — 코덱스 앱과 어떻게 연결되나
코덱스에서 사용자는 모델 이름만 외우기보다 “앱이 어떤 자료를 모델에게 넘기고, 어떤 도구 실행을 허용하는가”를 봐야 한다. [TH-004, TH-027]
모델은 구조화된 도구 호출을 만들 수 있고, 앱은 그 호출을 실행한 뒤 결과를 되돌릴 수 있다. [TH-027]
이런 구조이기에 “보고서 써줘”라는 뭉뚱그린 요청보다, “이 파일을 읽고 표로 요약하되 확인이 필요한 칸은 비워 둬”처럼 입력 자료와 작업 순서, 결과 형식을 갈라 말하는 편이 낫다. [TH-015, TH-027]
코덱스 기능명은 촬영과 실습에서 Skills, Automations, Sites, Memory, Plugins로 구분해 읽는다. [OF-05, OF-09, OF-12, OF-15, OF-17]
Skills는 반복 작업을 위한 지시문, 리소스, 선택적 스크립트를 묶는 방식이다. [OF-05]
Automations는 반복되는 코덱스 작업을 스케줄하고 결과를 인박스 흐름으로 받는 방식이다. [OF-09]
Plugins는 Skills, 앱 연동, MCP 서버를 한 묶음으로 배포하는 방식이다. [OF-17]
Sites는 프리뷰 성격으로 다루고 Business·Enterprise 조건을 확인해야 하는 기능으로 표시한다. [OF-12, OF-14]
Memory는 프리뷰 성격으로 다루고 Enterprise·Edu·EU·UK 제공 조건을 확인해야 하는 기능으로 표시한다. [OF-15, OF-16]
실행 전 사람 승인인 HITL과 자율 실행 뒤 모니터링인 HOTL은 위험도에 따라 구분된다. [TH-038]
가장 신뢰할 만한 패턴은 추론과 실행을 분리하고, 부작용이 생기기 전에 승인을 게이트로 두는 것이다. [TH-039]
5. 한 줄 정리 + 용어 미니사전
한 줄 정리: 코덱스는 모델 그 자체가 아니라, 모델에게 묻고 도구 실행을 관리하며 컨텍스트와 승인을 조절하는 앱이다. [TH-024, TH-027, TH-039]
API: 모델과 앱 사이에서 요청과 응답을 주고받는 약속된 통로로 이해하면 된다. [TH-027]
모델: 다음 토큰을 예측하도록 학습된 언어 처리 두뇌다. [TH-001, TH-002]
토큰: 모델이 읽고 쓰는 subword 단위의 작은 조각이다. [TH-002]
컨텍스트 윈도우: 프롬프트, 이력, 첨부, 답변 토큰이 모두 합쳐지는 작업 기억 공간이다. [TH-004]
멀티모달: 텍스트와 함께 이미지, 오디오, 문서를 넣어 통합 추론하는 방식이다. [TH-032]
도구 호출: 모델이 타입 지정 인자의 구조화된 호출을 내고, 앱이 실행 결과를 다시 돌려주는 흐름이다. [TH-027]
출처
본문의 [...] 표기는 아래 근거에서 확인할 수 있습니다.
- TH-024 — 에이전트=LLM이 루프 안에서 자율적으로 도구를 사용하는 것 · https://www.anthropic.com/research/building-effective-agents
- TH-027 — 도구 호출: 모델이 타입 지정 인자의 구조화된 호출을 내고 앱이 실행해 결과를 되돌린다 · https://developers.openai.com/api/docs/guides/function-calling
- TH-002 — LLM은 단어가 아니라 토크나이저가 만든 subword 토큰을 예측한다 · https://sebastianraschka.com/faq/docs/next-token-prediction.html
- TH-004 — 컨텍스트 윈도우는 프롬프트·이력·첨부·답변 모든 토큰의 합이다 · https://www.datastudios.org/post/google-gemini-context-window-token-limits-model-comparison-and-workflow-strategies-for-late-2025
- TH-032 — 멀티모달 AI는 텍스트와 함께 이미지·오디오·문서를 입력받아 통합 추론한다 · https://machinelearningplus.com/gen-ai/multimodal-ai-llm/
- TH-040 — GPT-5는 빠른 모델+추론 모델+실시간 라우터의 통합 시스템이다 · https://openai.com/index/introducing-gpt-5/
- TH-041 — GPT-5는 2025.8.7, GPT-5.1은 2025.11.12, GPT-5.5는 2026.4.24 API 출시 · https://en.wikipedia.org/wiki/GPT-5.1
- TH-001 — LLM은 텍스트를 지도학습 문제로 바꿔 각 위치의 '다음 토큰'을 예측하도록 학습한다 · https://sebastianraschka.com/faq/docs/next-token-prediction.html
- TH-003 — 다음 토큰 예측만으로 문법·사실·문체·코드·추론 구조가 부수 학습된다 · https://www.wwwinsights.com/ai/llm-next-token-prediction/
- TH-006 — 트랜스포머는 모든 단어가 동시에 다른 모든 단어를 attention으로 본다 · https://www.codecademy.com/article/transformer-architecture-self-attention-mechanism
- TH-007 — 셀프어텐션은 Query(질의)·Key(라벨)·Value(내용)의 DB 검색 비유로 이해된다 · https://www.ibm.com/think/topics/self-attention
- TH-008 — 임베딩은 토큰을 의미 벡터로 바꾸며 문맥에 따라 달라진다(contextual embedding) · https://towardsdatascience.com/contextual-transformer-embeddings-using-self-attention-explained-with-diagrams-and-python-code-d7a9f0f4d94e/
- TH-025 — 워크플로우=정해진 코드 경로, 에이전트=LLM이 과정·도구를 동적 지휘 · https://www.anthropic.com/research/building-effective-agents
- TH-020 — 추론 모델은 답 전에 'thinking 토큰'을 더 써(test-time compute) 추론한다 · https://www.taskade.com/blog/reasoning-models
- TH-023 — GPT-5.1은 작업 복잡도에 따라 생각 시간을 동적 조절해 효율을 높인다 · https://openai.com/index/gpt-5-1/
- TH-022 — 추론 모델은 쉬운 문제에 토큰을 과소비하는 '과잉사고(overthinking)' 문제가 있다 · https://arxiv.org/html/2604.10739v1
- TH-026 — 원칙: 가장 단순한 해법을 찾고 필요할 때만 복잡도를 올려라(에이전트 안 만드는 것 포함) · https://www.anthropic.com/research/building-effective-agents
- TH-005 — 광고된 컨텍스트 한도는 신뢰 가능 한도와 다르다(20만→~13만, 100만→~65만서 붕괴) · https://www.datastudios.org/post/google-gemini-context-window-token-limits-model-comparison-and-workflow-strategies-for-late-2025
- TH-017 — 'context rot': 토큰이 늘수록 컨텍스트 내 정보 회상 정확도가 떨어진다 · https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- TH-015 — 컨텍스트 엔지니어링=추론 시점 최적 토큰 집합을 큐레이션·유지하는 전략 · https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- TH-016 — 프롬프트 엔지니어링은 컨텍스트 엔지니어링의 부분집합이며 후자가 전체 컨텍스트 상태를 관리 · https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- OF-05 — Skills = 지시문·리소스·스크립트 번들, 명시/암묵 호출, progressive disclosure · https://developers.openai.com/codex/skills
- OF-09 — Automations = 스케줄 백그라운드 작업, 결과는 Triage 인박스 · https://developers.openai.com/codex/app/automations
- OF-12 — Sites = 인터랙티브 호스팅 사이트/앱을 URL로 워크스페이스 공유, 프리뷰 · https://openai.com/index/codex-for-every-role-tool-workflow/
- OF-15 — Memory 프리뷰 = 선호·교정·수집정보 기억해 차후 작업 가속 · https://openai.com/index/codex-for-almost-everything/
- OF-17 — Plugins = 스킬+앱연동+MCP 번들, 2026-03-25 정식, plugin.json 매니페스트 · https://developers.openai.com/codex/plugins
- OF-14 — Sites 가시성 3단계 admins_only/workspace_all/custom, Business·Enterprise 한정 · https://developers.openai.com/codex/sites
- OF-16 — 개인화(메모리·제안)는 Enterprise·Edu·EU·UK에 순차 적용 · https://openai.com/index/codex-for-almost-everything/
- TH-038 — HITL은 실행 전 사람 승인, HOTL은 자율실행+사후 모니터(위험도로 구분) · https://www.strata.io/blog/agentic-identity/practicing-the-human-in-the-loop/
- TH-039 — 가장 신뢰적 패턴: 추론과 실행 분리, 승인은 부작용 발생 '전'에 게이트 · https://www.stackai.com/insights/human-in-the-loop-ai-agents-how-to-design-approval-workflows-for-safe-and-scalable-automation