한 줄 요약: 에이전트 프롬프트·하네스·코드를 고쳐서 자기개선을 하는 것이 당연한 시대에, Caltech은 “에이전트는 버리고 지식만 큐레이션하라”는 역발상을 실험으로 증명했다. 일회용 에이전트 + 영속 지식 베이스가 에이전트 중심 최적화(DGM, HyperAgents, Meta-Harness)를 능가하며, 비용도 더 싸다.
자기개선의 딜레마: 에이전트를 고칠 것인가, 지식을 고칠 것인가
자기개선 AI 시스템의 대부분은 에이전트 자체를 개선 대상으로 삼는다. 프롬프트를 진화시키거나, 워크플로우를 최적화하거나, 하네스를 탐색하거나, 에이전트의 코드를 직접 수정한다. 이 접근은 강력하지만 치명적인 약점이 있다.
- 유지비용이 높다: 개선이 특정 에이전트 설계, 태스크 분포, 적응 런에 묶인다.
- 충돌이 누적된다: 로컬 교훈이 태스크 특정적이거나 모순될 때, 에이전트가 비대해지면서 이전 성능이 떨어진다.
- 이식이 안 된다: 한 에이전트에서 얻은 개선을 다른 LLM familie나 새 태스크에 옮기기 어렵다.
Caltech의 Xuefei Wang 등은 이 문제를 **지식 중심 자기개선(Knowledge-Centric Self-Improvement, KSI)**이라는 새로운 패러다임으로 뒤집는다1.
에이전트가 아니라 지식 베이스가 영속하는 개선 대상이다. 에이전트는 일회용(generic, stateless, disposable)이고, 매번 fresh context로 시작한다.
핵심 설계: 3단계 지식 큐레이션 프로토콜
Figure 1: (Left) 기존 방식은 에이전트를 진화시킨다. (Middle) KSI는 에이전트를 일회용으로 두고, 지식 베이스만 큐레이션한다. (Right) 벤치마크에서 KSI가 Pareto frontier를 밀어낸다.
KSI의 설계 철학은 단순하다. 에이전트 설계를 고정하고, 오직 지식만 바뀌도록 격리한다. 각 에이전트는:
- 공유 지식 베이스에서 distilled bundle(증류 묶음)을 받는다
- 표준 도구 접근으로 태스크를 시도한다
- 결과를 지식 베이스에 증거 기반으로 기록한다
- 사라진다 (상태 유지 없음)
지식 베이스는 세 단계를 거쳐 큐레이션된다:
Stage 1: 태스크 수준 포럼 (Task-Level Forum)
3단계 파이프라인: 태스크 수준 포럼 → 크로스 태스크 포럼 → 증류.
태스크를 시도한 에이전트가 해당 태스크의 스레드에 글을 올린다. 단순히 정답을 기록하는 것이 아니라: 어떤 가설을 테스트했는지, 어떤 제약을 확인했는지, 어떤 전략이 실패했는지를 증거 기반 주장으로 포스팅한다. 후속 에이전트는 이전 포스트를 읽고 인용하면서 가설을 정제, 반박, 또는 배제한다.
예를 들어 ARC 퍼즐에서는 “불변 색상”, “객체 경계”, “기각된 변환” 등이 증거가 되고, 코딩 태스크에서는 “API 시그니처”, “테스트 러너 동작”, “파일 경로 가정”, “의존성 이슈” 등이 증거가 된다.
Stage 2: 크로스 태스크 포럼 (Cross-Task Forum)
Figure 3: 로컬 태스크 증거가 크로스 태스크 논의를 거쳐 증류된 지식으로 변환되는 과정.
이 단계에서는 로컬 관찰이 다른 태스크로도 살아남는지를 검증한다. 에이전트들이 크로스 태스크 패턴을 제안하고, 구체적인 증거에 근거해 동의/반대/종합의 입장을 취한다.
핵심은 갈등을 불안정이 아니라 증거로 대우한다는 것이다. 충돌하는 로컬 주장은 어떤 것이 태스크 특정이고, 어떤 실패 패턴이 반복되고, 어떤 원칙이 반대 증거 하에서도 유효한지를 드러낸다.
Stage 3: 증류 (Distillation)
살아남은 주장들을 태스크 수준 bundle과 크로스 태스크 bundle로 압축한다. bundle은 타입화된 필드를 사용한다: 이전 가능한 통찰, 확인된 제약, 기각된 가설, 함정, 검증 방법, 다음 단계.
증류는 선택 단계다. “모호한 조언”은 버린다. 조건이 명시된, 실행 가능하고 증거 기반인 주장만 남긴다.
실험 결과: 일회용 에이전트 + 영속 지식이 이긴다
에이전트 중심 최적화를 능가
KSI는 세 가지 태스크 카테고리에서 평가했다:
- 추상 추론: ARC-AGI-1, ARC-AGI-2
- 코딩: Polyglot, SWE-Bench Pro
- 터미널 스킬: Terminal-Bench 2
비교 대상은 Darwin Gödel Machine(DGM), HyperAgents, Meta-Harness 등 에이전트 자체를 개선하는 강력한 베이스라인들이다.
결과: 일회용 에이전트 + 큐레이션된 지식 베이스가 모든 벤치마크에서 더 높은 해결률을 달성하면서도 달러 비용은 더 낮았다.
크로스 LLM 이식: Haiku가 쓴 지식을 GPT가 쓴다
가장 흥미로운 결과는 지식의 이식성이다. 한 LLM familie에서 큐레이션된 지식 bundle을 다른 LLM familie의 에이전트가 소비했을 때:
| 지식 기증자 | 수령자 | Polyglot 해결률 | ARC-AGI-1 해결률 |
|---|---|---|---|
| 없음 (baseline) | GPT | 8.3% | 23.3% |
| GPT 작성 | GPT | 20.0% | 43.3% |
| GPT 작성 | Haiku | 11.7% | 38.3% |
| Haiku 작성 | GPT | 11.7% | 28.3% |
GPT가 작성한 지식을 Haiku가 쓸 때도, Haiku가 작성한 지식을 GPT가 쓸 때도 양방향에서 개선이 확인되었다. 이는 큐레이션된 지식이 단순한 LLM 고유의 습관이 아니라 donor-agnostic 구조를 담고 있음을 증명한다.
왜 이게 중요한가: “에이전트가 아니라 지식이 병목이다”
Figure 4: 에이전트의 단순화된 런타임 생명주기. 실선은 순방향 호출, 점선은 피드백 경로.
이 논문의 가장 큰 시사점은 자율 추론의 병목이 에이전트 아키텍처의 복잡도가 아니라, 접근 가능하고 정제된 정보의 품질에 있다는 점이다.
Caltech의 결론은 명확하다:
“The bottleneck in autonomous reasoning may not be the complexity of the agent architecture, but rather the quality and structure of the information it is able to access and refine over time.”
이것이 의미하는 바:
- 에이전트 아키텍처 경쟁이 끝나지 않았지만, 지식 큐레이션이 더 큰 레버리지다. 아무리 정교한 에이전트도 쓰레기 컨텍스트에서는 쓸모가 없다.
- 플러그 앤 플레이 에이전트 생태계가 가능하다. 지식이 에이전트 밖에 있으므로, 다른 LLM과 에이전트 변형이 하나의 지식 베이스에 기여할 수 있다.
- 검사 가능한 개선(improvement)이 된다. 지식 베이스는 에이전트 내부 매개변수와 달리 열어보고, 압축하고, 감사할 수 있다.
Figure 5: 태스크 수준 포럼, 크로스 태스크 포럼, 증류 단계의 실제 출력 예시를 포함한 전체 큐레이션 프레임워크.
한계와 향후 방향
논문 자체도 인정하는 한계:
- 단순한 에이전트로 제한: 지식 큐레이션의 효과를 격리하기 위해 에이전트를 의도적으로 단순하게 유지했다. 에이전트 중심 기법과의 시너지는 미탐색.
- 큐레이션 프로토콜이 최적이 아닐 수 있음: 3단계 포럼 구조가 하나의 구현일 뿐, 최적이 아닐 수 있다.
- 도메인 제한: 추상 추론, 코딩, 터미널 태스크에서 검증되었으나, 더 복잡한 장기(long-horizon) 태스크에서의 효과는 미지수.
- 인간 전문가 기여 미포함: 지식 베이스에 인간이 기여하는 채널을 통합하지 않았다.
Figure 6: 코딩/터미널 태스크에서 지식 큐레이션이 작동하는 실제 예시.
더 실습해보고 싶은 분들께
에이전트 루프와 자동화, 하네스 설계를 직접 실험해보고 싶다면, 다음 두 자료를 추천한다:
- 『이게 되네? 오픈클로 미친 활용법 50제』 — 에이전트 하네스와 자동화 루프를 실전에서 어떻게 구성하는지 50가지 사례로 정리한 실용 가이드
- 「모두를 위한 루프 엔지니어링」 — 루프 엔지니어링의 기초부터 실제 에이전트 구축까지 단계별로 배우는 강의
KSI 논문의 코드는 GitHub 저장소에서 공개되어 있다.
Footnotes
-
Wang, X., Yoon, L.H., Qu, C., Wang, A.Z., Sehgal, A., Mazumdar, E., Yue, T., & Yue, Y. (2026). Knowledge-Centric Self-Improvement. arXiv:2607.19592. ↩