01-개념

01. 개념 — 왜 같은 함정에 자꾸 빠지는가

도구 탓이 아니다, 패턴 탓이다

Claude Code/Cowork이 출시된 지 1년 안에 “어떻게 망했는가”에 대한 글이 인터넷에 충분히 쌓였다. 이 글들을 읽다 보면 한 가지 사실이 분명해진다 — 사람들이 망하는 방식은 거의 다 같다.

대표적인 4건을 먼저 보자.

사례 1: Mike Wolak, rm -rf ~/

Claude Code가 rm -rf tests/ patches/ plan/ ~/ 명령을 생성했고, 권한 시스템은 통과시켰다. 셸이 ~를 홈 디렉토리로 확장하면서 사용자의 모든 파일이 사라졌다. Anthropic이 2일 전 출시한 샌드박싱 기능은 옵트인이라 켜져 있지 않았다.

— sources/23-case-studies-raw/failures/mike-wolak-rm-rf-home-directory.md

사례 2: DataTalksClub, 운영 DB 삭제

한 사용자가 Claude Code 세션 안에서 운영 데이터베이스를 삭제했다. 권한 분리·환경 분리가 미비한 채 같은 세션에서 운영 자격 증명을 노출.

— sources/23-case-studies-raw/failures/datatalksclub-production-database-deletion.md

사례 3: Leach, Azure 스타트업 크레딧이 한 달 만에 청구서로

Anthropic API 비용을 통제하지 않은 채 Claude Code를 24시간 돌렸고, Azure 스타트업 크레딧이 빠르게 소진되며 청구서가 도착했다.

— sources/23-case-studies-raw/failures/leach-azure-startup-credits-claude-bill.md

사례 4: Scott Spence, “정직한 혼합 경험”

같은 사용자가 같은 도구를 두고 “어떤 날은 마법, 어떤 날은 쓰레기”라고 묘사. 원인은 도구가 아니라 자신의 컨텍스트 관리 습관이었다.

— sources/23-case-studies-raw/failures/scott-spence-honest-version-mixed-experience.md

5가지로 묶이는 패턴

위 사례들과 Discord/HN/한국어 블로그의 트러블슈팅 글들을 모아보면 5개 패턴으로 수렴한다.

#	함정 이름	본질
1	권한 우회(Permission Bypass)	권한 모델을 끄거나, 셸 확장을 검증 후로 미루는 것
2	비용 폭주(Cost Runaway)	무인 실행 + 제한 없는 토큰 사용
3	자동 갱신 표류(Auto-update Drift)	어제와 오늘의 동작이 다른데 원인을 모름
4	컨텍스트 폭주(Context Bloat)	한 세션에 너무 많은 것을 우겨넣어 모델이 흐려짐
5	자기 검증(Self-Verification)	같은 모델/세션에게 자기 결과를 OK받기

이 5개 외에도 함정은 있지만, 첫 주에 만나는 빈도와 폭은 이 5개가 압도적이다.

”신호 → 멈춤 → 회피”의 3박자

각 함정은 사고 직전에 작은 신호를 보낸다. 신호를 알면 멈출 수 있고, 멈추면 회피가 가능하다. 다음 02-구조.md에서 신호와 회피 절차를 함정별로 정리한다.