핵심 한 줄
“AI 에이전트는 혼자 실패하지 않는다. 그들의 행동은 컨텍스트가 만들어낸다. 컨텍스트가 약하면 에이전트는 표류하고, 환각하고, 도구를 오용하고, 제약을 무시하고, 인젝션에 취약해지며, 토큰을 낭비한다.”
배경: 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로
에이전트가 단일 턴 질문응답에서 벗어나 다중 턴으로 도구를 호출하고, 상태를 유지하고, 워크플로우 전반에 걸쳐 행동하는 시스템이 되면서, 컨텍스트 엔지니어링이 프롬프트 엔지니어링과 구분되는 독립된 영역으로 떠올랐습니다.
프롬프트 엔지니어링이 “어떻게 물어볼 것인가”에 집중한다면, 컨텍스트 엔지니어링은 “모델이 무엇을 알고, 사용하고, 기억하고, 무시하고, 행동해야 하는지를 최적화하는 전체 정보 환경”을 다룹니다. 여기에는 시스템 명령, 도구 스키마, 검색된 지식, 메모리, 이전 대화 턴, 가드레일, 그리고 신뢰할 수 없는 외부 입력까지 모두 포함됩니다.
문제는 이 컨텍스트 엔지니어링이 거의 측정되지 않는다는 것입니다. 에이전트가 실패했을 때, 그 원인이 모델 능력 부족인지, 컨텍스트 설계가 잘못된 것인지 구분하기 어렵습니다. 이 논문은 바로 이 간극을 메웁니다.
위 그림은 논문이 제시하는 7가지 컨텍스트 엔지니어링 기법 카테고리를 정리한 것입니다: 명령 스캐폴딩, 그라운딩 및 검색, 도구 컨텍스트 설계, 메모리 관리, 컨텍스트 압축 및 선택, 보안 강화 및 가드레일, 그리고 다중 에이전트 오케스트레이션.
7가지 컨텍스트 품질 기준
이 논문의 핵심 기여는 컨텍스트 엔지니어링 품질을 7가지 측정 가능한 기준으로 정의한 것입니다:
| 기준 | 설명 | 예측하는 행동 신호 |
|---|---|---|
| 역할 명확성 (Role Clarity) | 에이전트의 역할, 범위, 성공 기준이 명확한가? | 과제 성공률 |
| 가드레일 커버리지 (Guardrail Coverage) | 거부 조건, 에스컬레이션 경로가 정의되어 있는가? | 조작 저항성, 안전성 |
| 명령 일관성 (Instruction Consistency) | 규칙 충돌이 없고 선행 관계가 명확한가? | 명령 준수도 |
| 도구 스키마 품질 (Tool Schema Quality) | 도구 이름, 인자, 부작용이 잘 서술되었는가? | 도구 사용 정확도 |
| 그라운딩 충분성 (Grounding Sufficiency) | 근거가 되는 증거가 충분히 제공되는가? | 환각 저항성 |
| 인젝션 강화 (Injection Hardening) | 신뢰/비신뢰 입력이 분리되어 있는가? | 안전성 |
| 토큰 효율성 (Token Efficiency) | 유용한 정보 대비 토큰이 낭비되지 않는가? | (직접 매핑 아님) |
각 기준은 0~10점으로 채점되며, 증거 기반 평가를 동반합니다. 중요한 설계 원칙은 **격리(isolation)**입니다: 컨텍스트 점수는 행동 평가 점수에 들어가지 않습니다. 이것이 순환 논리를 피하는 핵심입니다.
ProofAgent-Harness: 다중 배심원 합의 방식
이 측정을 구현한 도구가 ProofAgent-Harness입니다. 오픈소스로 공개된 이 평가 인프라는 다음과 같이 작동합니다:
- 컨텍스트를 어셈블된 객체 X로 모델링
- 여러 “배심원(juror)“이 각각 7개 기준을 독립적으로 채점
- 합의(consensus) 단계에서 증거 기반으로 점수를 조정
- 최종 점수, 등급(Strong/Adequate/Weak), 증거 연결 결과를 출력
다중 배심원 방식은 단일 평가자가 놓칠 수 있는 실패 표면을 줄이고, 감사 가능성을 높입니다.
실험: 컨텍스트만 바꿨을 때 행동이 어떻게 바뀌는가
핵심 실험은 GPT-5.5와 Claude Opus 4.8을 고정하고, 컨텍스트만 3단계로 변화시키는 것입니다:
- C1 Poor: 모호한 역할, 약한 도구 안내, 불충분한 그라운딩, 가드레일 부재
- C2 Structured: 명확한 역할, 타입 도구 스키마, 도메인 코퍼스 그라운딩, 효율적 조직
- C3 Hardened: C2 + 명시적 거부 조건, 에스컬레이션 임계값, 인젝션 분리, 확인 요구
3개 규제 도메인(고객 지원, 의료 청구, 법률 계약)에서 300회 다중 턴 평가(총 7,500 턴)를 수행했습니다.
결과: 구조가 가장 큰 레버
C1→C2 전환에서 가장 극적인 개선이 일어났습니다:
| 지표 | C1 Poor | C2 Structured | C3 Hardened |
|---|---|---|---|
| 최종 점수 | 3.15 | 5.49 | 5.16 |
| 안전성 | 3.15 | 4.95 | 4.68 |
| 환각 저항성 | 3.21 | 5.61 | 5.38 |
| 도구 사용 | 3.46 | 6.25 | 5.78 |
| 치명적 실패/평가 | 4.11 | 1.33 | 1.56 |
| 컨텍스트 품질 | 4.4 | 8.1 | 8.7 |
구조화된 컨텍스트를 추가하는 것만으로 치명적 실패가 약 68% 감소했습니다. 반면 C2→C3(강화) 전환에서는 전반적인 컨텍스트 품질은 계속 올라가지만, 행동 점수는 약간 하락합니다. 이것은 강화가 에이전트를 더 보수적으로 만들기 때문입니다. 더 많은 규칙이 항상 모든 지표를 개선하지는 않는다는 이 결과는, 측정이 단순히 “길수록 좋다”가 아니라는 것을 보여줍니다.
컨텍스트 기준이 행동을 예측한다
논문의 핵심 검증 결과입니다 (300회 평가 기준):
- 그라운딩 충분성 → 환각 저항성: r = 0.63 (가장 강한 관계)
- 가드레일 커버리지 → 조작 저항성: r = 0.60
- 명령 일관성 → 명령 준수: r = 0.57
- 인젝션 강화 → 안전성: r = 0.48
- 도구 스키마 품질 → 도구 사용: r = 0.47
컨텍스트 점수는 행동 평가와 격리되어 있기 때문에, 이 상관관계는 순환 논리가 아닙니다. 컨텍스트의 속성이 다운스트림 신뢰성에 대해 독립적인 예측 신호를 가지고 있다는 것을 의미합니다.
토큰 효율성의 역설
흥미로운 발견: 가장 약한 컨텍스트가 호출당 가장 저렴합니다 (392 오버헤드 토큰 vs 강화 1,010 토큰). 하지만 가장 높은 치명적 실패율을 기록합니다. 짧은 컨텍스트가 싸고 위험할 수 있고, 긴 컨텍스트가 비싸지만 신뢰성을 가져다줄 수 있다는 것입니다. 토큰 효율성은 “짧은 컨텍스트”가 아니라 **“토큰당 신뢰성 가치”**로 해석해야 합니다.
산출물(Artifact)로 일반화
이 측정이 대화만이 아닌 생성된 산출물에도 적용되는지 확인하기 위해, 문서화 에이전트가 정책 런북을 생성하는 실험을 추가했습니다. 결과는 동일한 패턴: 그라운딩이 충분할수록 환각 저항성이 올라가고, 최종 산출물 점수도 함께 올라갑니다. 컨텍스트 품질 측정은 대화형 에이전트에만 국한되지 않습니다.
실용적 시사점
- 컨텍스트는 통제 가능한 가장 큰 레버입니다. 모델을 바꾸지 않고도 컨텍스트만 개선해서 치명적 실패를 68% 줄일 수 있습니다.
- 구조 먼저, 강화는 나중. 역할 명확성, 도구 스키마, 그라운딩을 먼저 잡고, 그 다음에 가드레일과 인젝션 방어를 추가하세요.
- 비용 ≠ 효율성. 토큰을 적게 쓰는 것이 효율적인 것이 아닙니다. 신뢰성을 높이는 정보에 토큰을 쓰는 것이 진짜 효율입니다.
- 측정 없이는 직관에 의존할 수밖에 없습니다. 7개 기준 평가를 통해 컨텍스트의 어느 부분이 약한지 구조적으로 진단할 수 있습니다.
- 컨텍스트 점수는 preflight 신호입니다. 전체 행동 평가를 실행하기 전에 컨텍스트가 잘 설계되었는지 점검하는 데 사용할 수 있습니다.
더 실습해보고 싶은 분들께
에이전트 컨텍스트 엔지니어링과 하네스 최적화를 더 깊이 다루고 싶다면, 다음 자료를 추천합니다:
- 『이게 되네? 오픈클로 미친 활용법 50제』 — 실제 에이전트 하네스와 자동화 구성을 다룬 실습서
- 「모두를 위한 루프 엔지니어링」 — 에이전트 루프 설계와 컨텍스트 최적화의 원리를 배우는 강의
마무리
이 논문이 말하고자 하는 바는 명확합니다. 에이전트가 실패했을 때, 우리는 흔히 모델 탓을 합니다. 하지만 같은 모델을 써도 컨텍스트만 바꾸면 행동이 극적으로 달라집니다. 컨텍스트 엔지니어링은 더 이상 직관에 맡겨야 할 영역이 아닙니다. 측정 가능하고, 감사 가능하며, 반복 가능한 엔지니어링 실무가 되어야 합니다.
ProofAgent-Harness의 7개 기준과 다중 배심원 합의 방식은 그 출발점을 제시합니다. 에이전트를 배포하기 전에, 먼저 컨텍스트가 통과해야 할 preflight 점검이 표준이 되어야 할 때입니다.
논문: AI Agents Do Not Fail Alone: The Context Fails First (arXiv:2607.14275, 2026년 7월)