당신의 AI 코딩 툴은 프롬프트를 읽기도 전에 3만 토큰을 쓴다 — '숨은 오버헤드'라는 새 비용

AI 코딩 에이전트를 쓰다 보면 사용량 미터가 왜 이렇게 빨리 오르나 싶을 때가 있다. 최근 한 측정 결과가 그 정체의 일부를 숫자로 보여준다. 같은 모델(Sonnet 4.5), 같은 머신, 같은 작업에 Claude Code와 OpenCode를 나란히 놓고 API 경계에서 오간 것을 전부 기록한 실험이다.

결론부터. Reply with exactly: OK 라는 22글자짜리 요청 하나를 보냈을 때, Claude Code는 당신의 프롬프트가 도착하기도 전에 약 32,800토큰을 썼다. OpenCode는 약 6,900토큰. 4.7배다.

1. 3만 토큰은 어디서 오나

프롬프트 자체는 22글자다. 나머지는 전부 '하네스 페이로드' — 시스템 프롬프트, 툴 스키마, 주입된 스캐폴딩이다.

Claude Code: 시스템 프롬프트 27,344자(3블록) + 툴 27개 99,778자 + 첫 메시지 스캐폴딩(<system-reminder> 블록) 7,997자
OpenCode: 시스템 1블록 9,324자 + 툴 10개 20,856자

지배적인 항목은 툴 스키마다. Claude Code의 ~33k 중 약 24,000토큰이 툴 정의고, OpenCode는 ~6.9k 중 약 4,800토큰이다. Claude Code는 코딩 코어에 더해 백그라운드 에이전트·오케스트레이션(크론, Task 계열, 워크트리 관리, 푸시 알림 등)까지 27개 툴을 기본 탑재한다. 플랫폼을 통째로 부팅하는 셈이다.

2. 왜 이게 '비용'을 넘어 '병목'인가

이 실험이 던지는 한 문장이 핵심이다.

하네스 페이로드의 모든 토큰은, 정작 당신의 작업에는 못 쓰는 컨텍스트 토큰이다.

33k 베이스라인은 200k 컨텍스트 창의 약 1/6을, 코드 한 줄 넣기도 전에 소진한다. 프롬프트 캐싱이 비용은 깎아주지만, 컨텍스트 창 소비 자체는 캐시 할인 대상이 아니다. 창이 좁아지면 그만큼 실제 코드가 들어갈 자리가 줄고, 요약·압축에 또 토큰을 쓴다.

3. 설정이 이걸 몇 배로 부풀린다

베이스라인은 시작일 뿐이다. 실제 작업 환경은 여기에 곱하기를 건다.

지시 파일: 72KB짜리 CLAUDE.md/AGENTS.md는 매 요청에 약 +20,000토큰
MCP 서버: 5개면 +5,000~7,000토큰
이 둘만 얹어도, 사용자가 한 글자 치기 전에 이미 75,000~85,000토큰
서브에이전트: 직접 하면 121,000토큰이던 작업이, 서브에이전트 2개로 팬아웃하자 513,000토큰(4.2배). 각 서브에이전트가 자기 부트스트랩을 매 턴 다시 읽기 때문이다.

캐시 효율도 갈린다. OpenCode는 요청 프리픽스가 바이트 단위로 동일해 세션당 한 번만 쓰고 저렴하게 읽는다. Claude Code는 세션 중간에 프리픽스를 다시 쓰는 일이 잦아, 같은 작업에서 캐시 쓰기가 최대 54배까지 벌어졌다. 캐시 쓰기는 프리미엄으로 과금된다.

4. 공정하게 — Claude Code가 더 싼 경우도 있다

숫자만 보고 한쪽을 매도하면 틀린다. 실험은 반대 사례도 정직하게 보고한다.

멀티스텝 작업에선 Claude Code가 툴 호출을 한 번에 배치해 요청 수가 적었고, 전체 총량이 오히려 더 낮게 나왔다(Sonnet 기준 121k vs OpenCode 132k). 미터는 높게 시작하지만, 세션이 어떻게 풀리느냐가 최종 청구를 정한다.
단, 더 새로운 모델(Fable 5)에선 이 이점이 뒤집혀 298k vs 133k가 됐다. 즉 배칭 이점은 하네스 상수가 아니라 모델 행동이다.
품질은 동일했다. 실험의 모든 작업에서 두 하네스 다 정답을 냈다. 즉 토큰 격차는 '같은 결과에 드는 비용 차이'다. 별도 벤치마크에선 통과당 평균 ~268,000(Claude Code) vs ~72,000(OpenCode), 약 3.7배 차이에 OpenCode가 더 빨랐다. 다만 더 어려운 작업에선 Claude Code의 플랫폼 기능이 그 토큰값을 할 수도 있다 — 그건 더 힘든 과제로 따로 검증할 문제다.

개발자에게 남는 것

AI 코딩 툴을 고를 때 벤치마크 점수만 보지 말고, API 경계에서 실제로 무엇을 보내는지를 측정하라. 로깅 프록시 200줄이면 재현된다.
지시 파일·MCP·서브에이전트는 편의만큼 토큰을 곱한다. 켜기 전에 경계에서 재보라.
이건 규제 관점에서도 의미가 있다. '내 에이전트가 실제로 무엇을 보내는가'를 로그로 답할 수 있어야 하는 시대다.

마무리 — 모델만큼, 모델을 감싼 껍데기도 비용이다

에이전트 시대의 새 지표 하나가 조용히 등장했다. 보이지 않는 오버헤드. 모델이 얼마나 똑똑한가만큼, 그 똑똑함을 감싼 하네스가 얼마나 무거운가도 이제 비용이고 병목이다.

토큰은 공짜가 아니고, 그중 상당수는 당신이 아직 아무 말도 하기 전에 쓰인다.

참고 자료