수치가 어떻게 나왔는지까지 공개합니다.
제품 페이지의 92.5%·96.5%는 2026년 7월의 내부 측정 두 건에서 나왔습니다. 이 페이지는 무엇으로 측정했고, 어떻게 쟀고, 무엇을 못 잡았는지 — 건별로 — 그리고 측정 자체의 한계가 어디인지를 보여드립니다.
- 92.5%
- 요구조건 추출 재현율 — 전수 골든셋 173항목
- 96.5%
- 고확신 확정 정밀도 — 지적 건 전수 판정 후
- 18 / 19
- 적대적 판정 벤치마크에서 검출한 결함
- 100%
- 최종 차단/통과 판정의 재실행 안정성 (15팩 × 2회)
실제 게시된 협상에 의한 계약 용역 공고 2건(문서 8개, 표 보존 파싱)이 재료입니다. 판정자가 파이프라인 산출물에 접근이 금지된 상태에서 요구조건 전수를 독립 저작했습니다 — 85항목·88항목, 그중 critical 41개. 정답지가 파이프라인이 우연히 뽑는 것에 맞춰 만들어질 수 없는 구조입니다.
모든 항목에 원문 그대로의 앵커가 붙고, 173개 앵커 전부가 기계 검증을 통과합니다. 표의 행 단위까지 항목에 포함됩니다 — 한국 공고 문서의 핵심은 표에 있기 때문입니다.
단발 추출은 골든셋 대비 재현율 82.1%입니다. 여기에 크리틱 패스 — 1차에서 빠진 요구만 추가로 탐색하는 두 번째 호출 — 를 더하면 92.5%로, 같은 비용의 독립 2표 합집합(88.4%)보다 높습니다. 지금 운영 중인 구성이 이것입니다: 문서당 LLM 호출 +1회.
크리틱은 설계상 과추출합니다. 이는 결정적 접지 계층이 흡수합니다 — 추가된 항목 포함 접지율 100%.
실제 응찰 서류는 정보공개 비공개 대상이라 입수할 수 없습니다. 대신 실공고 3건(실시설계 용역·태양광 설치공사·특수경비 용역, HWP+PDF)에 대해 완전 준수 응찰 패키지를 생성한 뒤, 시드 고정 변이로 라벨이 100% 확실한 결함 45개와 무해 재작성 트랩 15개를 주입해 15개 패키지를 만들었습니다.
고확신(machine-certain) 정밀도는 지적 건 전수 판정 후 96.5%. 결정적 계층은 문서 누락·식별자 변조·총액 변조를 LLM 개입 없이 전건 검출했습니다.
미탐은 전건을 개별 규명했습니다 — 미스터리로 남긴 건이 없습니다. 주입 결함 45개 중 판정 계층이 놓친 9건:
- 3건 — 근거 수치가 당시 파서가 버리던 표 안에 있었음. 이후 표 보존 파싱 경로가 기본이 됨
- 2건 — 추출된 요구 요약에 이탈을 잡는 데 필요한 수치가 빠져 있었음 (판정이 아니라 요약 상세도 문제)
- 2건 — 순수한 판정 관대함: 섹션이 삭제됐는데도 “충족” 투표. 진짜 판정 실패는 45건 중 이 2건입니다.
- 1건 — 상류 추출 미스가 하류로 전파
- 1건 — 라벨 무효로 판명: 삭제된 내용이 다른 문서로 중복 커버돼 있었음
함께 공개합니다: 무해 재작성 트랩 15건 중 2건에 “부분 충족” 오탐이 있었고, 추출 잔여 미검출은 제안서 목차 표 안의 작성 지시 항목 같은 경계 사례에 몰려 있습니다.
15개 패키지 전부를 독립적으로 2회 검증했습니다. 최종 차단/통과 판정은 15/15 동일. 런 사이에 흔들리는 것은 “이 확약이 충분히 강한가” 같은 경계 등급에 국한되며, 결함에 대응하는 핵심 판정(문서 누락, 식별자·총액 불일치, 요구 누락)은 흔들리지 않았습니다.
- 응찰 패키지가 합성입니다. 실제 업체 제안서는 문체·구조·오류 분포가 다르며, 이 수치는 벤치마크 성능이지 귀하의 서류에 대한 보장이 아닙니다.
- 적격심사 배점, 실적 인정범위 해석 같은 판단 요소는 측정 범위 밖입니다 — 서류·수치·확약 수준의 검증만 측정했습니다.
- 결함 라벨이 45개라, 95% 근처 정밀도의 1~2%p 차이는 통계적으로 판별할 수 없습니다.
- 채점과 미탐 규명을 사람 도메인 전문가가 아닌 LLM 판정자가 수행했습니다.
이 파이프라인이 만드는 리포트도 공개돼 있습니다 — 보내시기 전에 먼저 읽어보세요.