LLM 에이전트에게 “이 순서대로 처리하라”고 자연어로 지시하면, 에이전트는 대부분의 경우 지시를 어긴다. 단계를 건너뛰거나, 허용되지 않은 분기를 선택하거나, 올바른 단계를 틀린 인자로 실행한다. COVENANT1는 이 문제를 “프롬프트가 아니라 컴파일 대상”으로 재정의하여, 워크플로우 준수율을 극적으로 끌어올린 시스템이다.
문제: 워크플로우 위정합성(Workflow Misalignment)
에이전트에 SOP(표준 작업 절차), 결제 정책, 도구 사용 프로토콜 같은 자연어 워크플로우 지시를 프롬프트로 넣으면, 모델은 절차 선택과 단계 실행 모두에 대한 제어권을 쥐게 된다. 상호작용이 쌓일수록 에이전트는 필수 단계를 생략하고, 지원되지 않는 분기를 타고, 유효한 단계를 무효한 인자로 실행한다.
논문은 이를 두 가지 유형으로 정의한다:
- 추적 위정합성(trace misalignment): 허용되지 않은 경로로 빠지는 것
- 실행 위정합성(execution misalignment): 올바른 경로상의 단계를 틀린 방식으로 수행하는 것
기존 연구(AgentLTL, FlowAgent 등)는 워크플로우가 이미 정형 또는 반정형 표현으로 작성되어 있다고 가정했다. 하지만 현실의 워크플로우 지시는 사람을 위해 쓰인 자유 형식의 자연어 문서다. 이 격차가 COVENANT의 출발점이다.
핵심 통찰: 지시를 “프로그램”으로 컴파일하라
COVENANT의 핵심 관찰은 단순하고 강력하다. 워크플로우 지시는 자연어로 쓰여 있지만, 본질적으로 프로그램과 같은 절차적 구조를 갖는다 — 순서가 있는 단계, 분기 조건, 실행 요구사항. 그렇다면 컴파일러 이론을 적용할 수 있다.
시스템은 두 단계로 동작한다:
1단계: 오프라인 컴파일 (WAST → WCFG)
Stage I — WAST 구성: 전통적인 컴파일러 프론트엔드처럼 어휘 분석 → 문법 파싱 → 구문 주도 구성의 3패스 구조를 따른다. 하지만 고정된 토큰 클래스나 완전한 문법 대신, 레이아웃 규칙으로 문서를 분할하고 스키마 제약 LLM으로 각 청크의 절차적 역할을 라벨링한다. WAST는 입력, 리소스, 단계, 분기를 계층적으로 표현한다.
Stage II — WCFG 저급화: WAST를 제어 흐름 그래프(WCFG)로 변환한다. 각 액션은 블록 노드가 되고, 가드는 true/false 후속을 갖는 디시전 노드가 되며, 분기 후에는 머지 노드로 재결합된다. 결과는 그래프 구조의 “워크플로우 바이트코드”다.
중요한 점은 **경로 보존(path preserving)**이다. WCFG의 모든 엔트리-투-엑시트 경로는 WAST의 유효한 경로에 대응하고, 역도 성립한다. 즉, 컴파일 과정에서 새로운 잘못된 경로가 만들어지지 않는다.
2단계: 런타임 제어 (컨트롤러 기반 WCFG 해석)
컴파일된 WCFG를 런타임에 “해석(interpret)“하는 컨트롤러가 핵심이다. 컨트롤러는:
- 활성 노드 커서를 소유한다. 에이전트는 오직 현재 노드의 작업, 관련 상호작용 이력, 지시, 응답 스키마만 본다.
- 각 제안을 검증한다. 에이전트가 제안한 액션을 노드 바운드 요구사항(인자, 증거, 효과)과 대조한다.
- 통과 시에만 전진한다. 실패하면 진단 피드백을 반환하고 커서를 유지한다.
컨트롤러가 그래프 순회를 소유함으로써 추적 위정합성을 방지하고, 노드 수준 검증으로 실행 위정합성을 방지한다.
실험: 7개 시나리오, 5개 모델, 5개 에이전트 인터페이스
RQ1: 전체 성공률
120개 케이스(GuideBench, ToolSandbox, tau-bench에서 추출) × 25개 에이전트-모델 쌍에서 평가했다. 최고 구성(Hermes Agent + GLM-5.1) 기준:
| COVENANT 미적용 | COVENANT 적용 | |
|---|---|---|
| 벤치마크 성공률 | 50.00% | 83.33% |
| 워크플로우 위반률 | 42.50% | 15.83% |
위반률을 62.75% 상대적으로 감소시켰다.
RQ2: 시나리오별 분해
시나리오별로 이득과 회귀가 균일하지 않다. 조건부 규칙(conditional rules)과 상태 의존성(state dependencies) 시나리오에서 가장 큰 개선을 보였고, 인수 부족(insufficient info) 시나리오에서는 회귀가 일부 관찰되었다. 추적 위반과 실행 위반이 시나리오별로 다른 패턴으로 나타난다.
RQ3: 컴포넌트 기여도
컨트롤러 소유 순회, 노드 바운드 검증, 수리 피드백 각각의 기여도를 ablation으로 측정했다. 순회 제어 없이 검증만 추가하면 추적 위반이 줄지 않고, 검증 없이 순회만 제어하면 실행 위반이 줄지 않는다. 두 메커니즘의 조합이 필수적이다.
RQ4: 실행 비용
COVENANT는 추가적인 컨트롤러 오버헤드를 도입하지만, 수리 사이클이 실패한 실행의 재시도를 대체하므로 총 비용 증가는 제한적이다. 모델 호출 수 기준 정규화된 오버헤드는 대부분의 시나리오에서 수용 가능한 수준이다.
왜 중요한가
COVENANT가 풀려는 문제는 단순한 벤치마크 점수가 아니다. 프로덕션 환경에서 에이전트가 조직의 절차를 얼마나 신뢰할 수 있게 따르는가의 문제다. 결제 시스템, 의료 청구, 항공 예약 — 이런 도메인에서 “단계 하나를 건너뛰는 것”은 규정 위반이거나 금전적 손실을 의미한다.
이 논문의 기여를 세 가지로 요약할면:
- 문제 정식화: 자연어 워크플로우 위정합성을 에이전트-환경 추적 완전성 문제로 정식화했다.
- 컴파일러 적용: 컴파일러 이론을 자연어 워크플로우에 적용하여, 프롬프트가 아닌 실행 가능한 표현(WCFG)으로 변환했다.
- 런타임 보장: 컨트롤러 기반 순회와 노드 수준 검증으로 추적 위반과 실행 위반을 모두 표적으로 했다.
한계도 명확하다. 컴파일 단계에서 LLM을 사용하므로 WAST 구성의 정확도가 전체 시스템의 상한선이다. 복잡한 워크플로우에서 파싱 오류가 발생하면 잘못된 WCFG가 만들어질 수 있다. 또한 평가가 7개 시나리오로 제한되어 있어, 더 넓은 도메인에서의 일반화는 미해결 과제다.
더 실습해보고 싶은 분들께
에이전트가 도구를 호출하고 절차를 따르는 시스템을 직접 만들어보고 싶다면, 다음 두 자료가 실질적인 출발점이 됩니다.
- 『이게 되네? 오픈클로 미친 활용법 50제』 — 에이전트 루프와 도구 사용을 실전에서 설계하고 디버깅하는 50가지 사례
- 「모두를 위한 루프 엔지니어링」 — 에이전트 하네스와 제어 루프를 체계적으로 학습하는 실무 강의
COVENANT가 보여주는 것은 결국 “에이전트를 제어하는 하네스를 어떻게 설계할 것인가”의 한 답안이다. 프롬프트에 기대지 않고, 컴파일과 런타임 검증으로 정합성을 보장하는 접근 — 하네스 엔지니어링의 핵심 주제다.
Footnotes
-
Wang, J., Zheng, M., & Wei, T. (2026). COVENANT: Natural-Language Workflow Compilation for Aligned Agent Execution. arXiv:2607.25400. ↩