핵심 요약
Zhu와 Zhang은 사전등록 임계값을 갖춘 두 캠페인에서 블랙박스 LLM 옵저버의 안정성을 감사했습니다. 52,988회의 감사된 요청 시도에서 같은 창 반복 랭킹 일치도는 Spearman 0.400 (요구치 0.90), 바이트 동일 재전송 일치율은 0.78 (요구치 0.99)이었습니다.
실행 기록은 전부 정상이었습니다. 응답률 100%, 스키마 유효 100%, 요청 해시 동일 100%, 기록된 메타데이터 상수. 두 캠페인 모두 본 실험에 못 들어가고 계측 검증 단계에서 종료됐습니다.
| 항목 | 결과 | 요구치 |
|---|---|---|
| 반복 랭킹 Spearman 중앙값 | 0.400 | 0.90 |
| 재전송 완전 일치 | 78/100 = 0.78 | 0.99 |
| 실행 무결성 (전달/스키마/해시/메타데이터) | 100% | - |
논문 정보
| 항목 | 내용 |
|---|---|
| 제목 | Clean Engineering, Unstable Measurement: A Preregistered Reliability Failure of Black-Box LLM Observers on Shared Endpoints |
| arXiv | 2609.04198 (2026-09-03, v1) |
| 저자 | Haoyuan Zhu (University of Sheffield), Jie Zhang (Ranplan Wireless) |
| 대상 | 공유 API 엔드포인트 위의 블랙박스 LLM 옵저버 |
| 기준일 | 2026-09-04 기준 |
원문: arXiv:2609.04198 · HTML 전문
측정 설계
측정 체인은 2단계 파이프라인입니다. 생성기 LLM이 산술 과제마다 4개의 후보 풀이(4–8단계 표시)를 쓰고, 옵저버 LLM이 가시 접두사(25%/50%/75%/100%)만 보고 정답 확률 또는 후보 전체 랭킹을 반환합니다. 정답 라벨은 모델 판단을 거쳐지 않고 유리수 정확 비교로만 결정됐습니다.
Figure 1: 생성기 → 옵저버 → 반복/재전송 → 사전동결 임계값 비교로 이어지는 측정 체인. 논문이 감사하는 것은 안정성 가정입니다. 출처: 원문 Fig 1.
계측 안정성 게이트가 사전에 동결돼 있었고, 게이트 통과가 본 실험 시작 조건이었습니다. 통과하지 못했습니다.
실패의 실제 모습
Table 2가 이 논문의 핵심 대조입니다. 왼쪽 컬럼은 실행 무결성, 오른쪽 컬럼은 사전등록 판정입니다.
Table 2: 실행 감사가 확인하는 모든 지표가 천장인데 사전등록 과학 기준은 명확히 탈락. 출처: 원문 Table 2.
위에서 아래로 읽으면 이렇습니다. 전달, 스키마, 바이트 동일성, 메타데이터 상수성 전부 이상 없음. 스칼라 반복 안정성은 중앙값 0.0067로 임계값 0.03보다 4.5배 양호. 최종 판정인 랭킹 Spearman은 0.400으로 0.90에 크게 못 미칩니다.
Figure 2: 위 패널은 실행 무결성(천장), 아래 패널은 각 캠페인의 사전등록 판정(전부 탈락). 출처: 원문 Fig 2.
세 가지 실패 메커니즘
논문은 실패를 M1–M3로 분해합니다.
M1: 라벨-의미 매핑 편향. 라벨 방향을 바꿔서 물으면 순위가 뒤집혔습니다. 라벨 반전 반복에서 랭킹 Spearman 중앙값이 -0.632였고, 편향 진단 b_map의 중앙값은 0.25–0.31 로짓으로 신호 자체의 다이내믹 레인지와 맞먹는 크기였습니다. 대칭화 프로토콜이 1차 성분을 상쇄하는 것까지는 확인됐습니다. 관측자가 편향을 가진 사실 자체는 사라지지 않습니다.
M2: 측정 대상의 퇴화. 이것이 핵심입니다. 후보 간 점수 차의 중앙값이 3.04 × 10⁻¹⁰인데 계측기의 노이즈 플로어는 10⁻³–10⁻² 수준입니다. 격차가 노이즈보다 일곱 자릿수 아래인데 순위로 읽으라고 요구한 셈이라, 반복 측정에서 후보가 뒤바뀔 확률은 사실상 동전던지기였습니다. 과제 설계도 원인이었습니다. 후보 정확도가 0.781이라 약 84%의 그룹에서는 랭킹할 것이 없었습니다.
Figure 3: 측정 대상의 최소 분리 거리와 계측기 노이즈 플로어가 로그 축으로 일곱 자릿수 떨어져 있음. 출처: 원문 Fig 3.
M3: 바이트 동일 입력, 출력 표류. SHA-256로 100/100 동일함을 확인한 요청을 24시간 뒤 재전송했더니 22건의 랭킹이 달라졌습니다. 후속 실험(A-S1)에서 이것이 하룻밤 사이 백엔드 변화 때문이 아님이 밝혀졌습니다. 같은 날 오후 안에서도 0.805, 다음 날도 0.800으로 차이가 0.005에 불과했습니다. 24시간은 아무것도 추가하지 않았고, 정확한 입력 동일성도 정확한 출력 동일성을 보장하지 못한다는 것이 올바른 해석입니다.
원인은 공유 엔드포인트의 구조입니다.
동시 요청 배칭, 배치 크기에 따라 결과가 달라지는 커널, 고정 모델명 뒤에서 바뀌는 서빙 인프라가 겹쳐 작동합니다. 응답 메타데이터 어디에도 이것이 보이지 않습니다.
탈출 경로가 닫힌 이유
자연스러운 반론 두 가지를 논문이 미리 확인해둡니다.
메트릭 치환. 같은 100건의 재전송을 세 방식으로 점수 매기면 0.780 / 0.950 / 0.986이 나옵니다. top-1 일치율로 보면 거의 안정적이라는 서사가 가능합니다. 사전등록이 이 치환을 금지했고, 본문은 이 수치를 민감도 분석으로만 인용합니다. 데이터를 본 다음 메트릭을 골랐다면 반대 결론이 나왔을 것입니다.
샘플 확장. 반복 샘플 M을 8에서 500까지 키우는 시뮬레이션을 500회 돌렸더니 통과율이 0/500으로 고정됐습니다. 748,000콜 규모까지 가도 잡음은 줄어도 측정 대상의 분리가 노이즈 아래인 문제는 해결되지 않습니다.
추가 경계 실험의 결과는 이렇습니다.
Figure 5: 네 제공업체가 같은 배터리에서 비슷한 크기의 바닥값을 보임. 출처: 원문 Fig 5.
- 기다리기: 효과 없음 (당일 0.805 vs 익일 0.800)
- 제공업체 전환: 효과 없음. 3개 관할권의 4개 제공업체가 같은 플로어 공유 (중앙값 0.74–0.88)
- 셀프호스팅: 부분 효과. batch-invariant 커널(vLLM 0.11.0)로 서버가 조용할 때는 안정. 동시 부하가 걸리면 불일치가 8.4배로 뛰어 공유 엔드포인트 수준으로 복귀
- 오차 크기 측정: 불가. 알려진 오차를 심은 통제 배터리에서 판독 분리는 오차의 유형을 따라가고 크기는 따라가지 못함
스냅샷 신원 사다리와 설계 규칙
논문의 이전 가능한 산출물은 L0–L2 사다리와 여덟 개 설계 규칙입니다.
| 레벨 | 의미 | 재현 주장 |
|---|---|---|
| L0 | 모델명 고정 | 사실상 무의미 |
| L1 | 모델명 + 날짜 스냅샷 | 재현-정확 주장에는 부족 |
| L2 | 가중치 해시 + batch-invariant 커널 + 하드웨어 고정 | 조용한 서버에서만 정확 재현, 검증 필수 |
실무 규칙 중 핵심은 이렇습니다.
- 임계값을 동결하기 전에 계측기를 먼저 측정한다. 파일럿이 전체 호출량의 약 2%면 두 개의 도달 불가능 게이트를 사전에 발견할 수 있었다
- 랭킹 게이트는 계측기가 원리상 분해 가능한 쌍에만 건다
- 이산 정합 게이트 대신 동등 밴드를 붙인 연속 판독을 선호한다
- 스냅샷 신원을 temperature와 seed 옆에 필수 메타데이터로 둔다
- 파싱할 수 없는 가드는 거부 동작으로 실패한다 (fail closed)
내 해석
원문 근거와 구분해서 제 해석을 적습니다.
이 논문의 가치는 사전등록 임계값에 종료 권한을 부여한 실행 사례라는 점입니다. LLM 저지의 불안정성 자체는 이미 알려진 사실입니다. 불편한 결과를 메트릭 치환으로 구출하지 않고 게이트 실패로 받아들인 기록 자체가 든문 데이터 포인트입니다.
실무자에게 당장 적용할 것은 두 가지입니다. 하나는 LLM-as-judge 결과를 하루 이상 걸쳐 비교하는 대시보드 케이스입니다. 이때 day-to-day 변동은 모델이 바뀐 탓이 아니라 계측 노이즈일 수 있습니다. 다른 하나는 리더보드나 데이터 게이팅에 랭킹 기반 정확 일치 조건을 달았을 때입니다. 그 조건이 노이즈 플로어보다 작은 차이를 보고 있는지 먼저 측정해야 합니다.
한계도 분명합니다. 분석 규모는 31개 유효 태스크 그룹과 100개 재전송 쌍이고, 과제 설계가 최악의 사례를 자체 제조한 측면이 있습니다. 제공업체 서비스 품질 평가가 아니라는 점도 논문이 스스로 못 박습니다.
자주 묻는 질문
Q. temperature 0으로 설정하면 해결되나요? 아니요. 이 연구의 측정도 temperature 0.0이었습니다. 공유 엔드포인트에서 temperature 0은 bitwise 결정성을 보장하지 않습니다. 배치 스케줄링이 달라지면 같은 요청이 다른 출력을 낼 수 있습니다.
Q. LLM 저지를 아예 쓰지 말라는 건가요? 아닙니다. 불안정한 계측기를 쓰지 말라는 게 아니라 노이즈 플로어를 먼저 측정하고 임계값을 그에 맞게 설계하라는 얘기입니다. 연속 판독과 동등 밴드, 통계적 쌍 필터링 같은 대안이 논문 §9에 나옵니다.
Q. system_fingerprint 같은 메타데이터로 확인할 수 있나요? 이 연구에서는 아니었습니다. 세 가지 별도 실패 양식에서 노출 메타데이터 어느 것도 안정성을 예측하지 못했습니다. 두 창에서 fingerprint가 null이었고, 값이 있어도 출력 안정성과 무관했습니다.
Q. 몇 번 반복 측정하면 안정화되나요? 시뮬레이션 그리드에서는 아니었습니다. 반복 수 M을 500까지 올려도 통과율 0/500. 샘플링 잡음은 줄지만 측정 대상의 분리 자체가 노이즈 아래면 순위는 계속 흔들립니다.
Q. 한 줄로 요약하면? 공유 엔드포인트에서 모델명 하나만으로는 안정적인 계측기 역할을 보장할 수 없고, 사전등록 평가는 게이트를 동결하기 전에 계측기 안정성을 먼저 측정해야 한다.