측정 공개

수치가 어떻게 나왔는지까지 공개합니다.

제품 페이지의 92.5%·96.5%는 2026년 7월의 내부 측정 두 건에서 나왔습니다. 이 페이지는 무엇으로 측정했고, 어떻게 쟀고, 무엇을 못 잡았는지 — 건별로 — 그리고 측정 자체의 한계가 어디인지를 보여드립니다.

92.5%
요구조건 추출 재현율 — 전수 골든셋 173항목
96.5%
고확신 확정 정밀도 — 지적 건 전수 판정 후
18 / 19
적대적 판정 벤치마크에서 검출한 결함
100%
최종 차단/통과 판정의 재실행 안정성 (15팩 × 2회)
골든셋 구성

실제 게시된 협상에 의한 계약 용역 공고 2건(문서 8개, 표 보존 파싱)이 재료입니다. 판정자가 파이프라인 산출물에 접근이 금지된 상태에서 요구조건 전수를 독립 저작했습니다 — 85항목·88항목, 그중 critical 41개. 정답지가 파이프라인이 우연히 뽑는 것에 맞춰 만들어질 수 없는 구조입니다.

모든 항목에 원문 그대로의 앵커가 붙고, 173개 앵커 전부가 기계 검증을 통과합니다. 표의 행 단위까지 항목에 포함됩니다 — 한국 공고 문서의 핵심은 표에 있기 때문입니다.

추출 측정

단발 추출은 골든셋 대비 재현율 82.1%입니다. 여기에 크리틱 패스 — 1차에서 빠진 요구만 추가로 탐색하는 두 번째 호출 — 를 더하면 92.5%로, 같은 비용의 독립 2표 합집합(88.4%)보다 높습니다. 지금 운영 중인 구성이 이것입니다: 문서당 LLM 호출 +1회.

크리틱은 설계상 과추출합니다. 이는 결정적 접지 계층이 흡수합니다 — 추가된 항목 포함 접지율 100%.

판정 측정

실제 응찰 서류는 정보공개 비공개 대상이라 입수할 수 없습니다. 대신 실공고 3건(실시설계 용역·태양광 설치공사·특수경비 용역, HWP+PDF)에 대해 완전 준수 응찰 패키지를 생성한 뒤, 시드 고정 변이로 라벨이 100% 확실한 결함 45개와 무해 재작성 트랩 15개를 주입해 15개 패키지를 만들었습니다.

고확신(machine-certain) 정밀도는 지적 건 전수 판정 후 96.5%. 결정적 계층은 문서 누락·식별자 변조·총액 변조를 LLM 개입 없이 전건 검출했습니다.

못 잡은 것

미탐은 전건을 개별 규명했습니다 — 미스터리로 남긴 건이 없습니다. 주입 결함 45개 중 판정 계층이 놓친 9건:

함께 공개합니다: 무해 재작성 트랩 15건 중 2건에 “부분 충족” 오탐이 있었고, 추출 잔여 미검출은 제안서 목차 표 안의 작성 지시 항목 같은 경계 사례에 몰려 있습니다.

재실행 안정성

15개 패키지 전부를 독립적으로 2회 검증했습니다. 최종 차단/통과 판정은 15/15 동일. 런 사이에 흔들리는 것은 “이 확약이 충분히 강한가” 같은 경계 등급에 국한되며, 결함에 대응하는 핵심 판정(문서 누락, 식별자·총액 불일치, 요구 누락)은 흔들리지 않았습니다.

측정의 한계

이 파이프라인이 만드는 리포트도 공개돼 있습니다 — 보내시기 전에 먼저 읽어보세요.