AI 업무 자동화 결과 검수 기준 정하는 5단계

AI 업무 자동화의 처리 결과는 ‘그럴듯한가’가 아니라 업무에 정한 조건을 충족했는지로 검수해야 합니다. 먼저 결과물의 필수 항목, 근거가 되는 원본, 허용 가능한 오류, 사람에게 넘길 조건을 정하세요. 그 뒤 정상 사례와 예외 사례를 각각 시험하고, 결과에 따라 승인·수정·보류를 나누면 운영자가 매번 감으로 판단하는 일을 줄일 수 있습니다. 실제 기준을 반복 평가하려면 Microsoft Foundry의 평가 절차처럼 테스트 사례와 평가기를 연결해 결과를 확인하는 방식도 참고할 수 있습니다.

검수 기준은 결과물에서 시작합니다

무엇이 나오면 업무가 끝나는지 적으세요

‘문의 내용을 잘 처리한다’처럼 목표를 넓게 쓰면 검수자가 무엇을 비교할지 알 수 없습니다. ‘문의 유형을 정해진 분류값 중 하나로 기록하고, 답변 초안에 주문 상태와 적용 정책의 근거를 표시한다’처럼 눈으로 확인할 수 있는 결과물로 바꾸세요. 결과가 문장이라면 필수 정보와 금지할 표현을, 데이터라면 필드명·형식·허용값을 적습니다.

결과의 위험에 따라 기준을 나누세요

요약문에서 표현이 조금 달라지는 것과 환불 여부, 계약 조건처럼 업무 결과에 영향을 주는 판단은 같은 기준으로 볼 수 없습니다. 결과를 그대로 외부에 보내거나 금액·권한을 변경하는 업무라면 정확성 외에도 근거 확인, 승인 권한, 되돌리는 방법을 기준에 포함하세요. 검수할 업무를 고르는 단계가 아직 남았다면 업무 자동화 대상과 우선순위 정하는 법도 참고할 수 있습니다.

기준의 기본 단위: 어떤 입력에서 어떤 결과를 기대하는지, 결과를 무엇과 대조하는지, 불확실하거나 위험할 때 누가 확정하는지를 한 묶음으로 기록하세요.

처리 결과 검수 기준을 정하는 5단계

1단계: 입력과 결과의 경계를 고정합니다

자동화가 읽을 수 있는 입력 범위와 내놓아야 할 결과 형식을 정합니다. 예를 들어 고객 문의 분류라면 원문, 주문 정보처럼 참조 가능한 자료를 구분하고, 분류값은 팀에서 쓰는 항목으로 제한합니다. 입력에 없는 내용을 채워 넣지 말아야 하는지도 함께 명시하세요. 자료가 부족할 때는 추정 대신 ‘확인 필요’로 반환하도록 해야 검수자가 빈칸과 사실을 구별할 수 있습니다.

2단계: 통과 조건과 실패 조건을 씁니다

통과 조건은 누가 보더라도 같은 결론을 내릴 수 있어야 합니다. 필수 필드가 채워졌는지, 원문과 결과가 일치하는지, 지정된 형식을 따르는지처럼 항목별로 나누세요. 실패 조건에는 오분류, 근거 없는 추가, 필수 정보 누락, 접근 권한이 없는 자료 참조, 중복 처리 등을 넣을 수 있습니다. 팀의 업무 위험과 품질 목표에 맞춰 허용 기준을 결정하고, 다른 업무의 숫자를 그대로 가져오지 마세요.

3단계: 실제 사례를 모아 기준을 시험합니다

정상 입력만으로 시험하면 운영 중 나타나는 문제를 놓치기 쉽습니다. 과거 처리 사례에서 대표적인 정상 건과 형식 오류, 정보 누락, 중복, 모호한 요청, 정책 예외를 함께 뽑으세요. 담당자가 기대 결과와 판단 이유를 먼저 기록한 뒤 자동화 결과와 대조하면, 기준 자체가 빠졌는지도 확인할 수 있습니다. 민감 정보는 업무에 필요하지 않은 항목을 제외하거나 가린 상태로 활용하세요.

4단계: 결과별 처리 경로를 정합니다

검수 결과를 단순한 점수 하나로 합치지 말고, 결과에 따라 다음 행동을 연결하세요. 예를 들어 형식과 필수 정보가 맞고 위험 신호가 없으면 승인 후보로 두고, 근거가 부족하거나 예외 조건에 걸리면 담당자 검토로 보냅니다. 중대한 오류가 발견되면 자동 실행을 멈추고 원인을 기록한 뒤 수정된 기준으로 다시 시험합니다.

1. 기준 사례와 비교해 통과 항목 및 실패 항목을 기록합니다.
2. 정해진 조건을 벗어난 결과는 자동 승인하지 않고 담당자에게 이관합니다.
3. 수정 뒤 같은 사례와 관련 예외 사례를 다시 실행해 개선 여부를 확인합니다.
4. 검수 완료 후 사용한 기준 버전, 결과, 조치 담당자를 기록합니다.

5단계: 운영 중 기준을 갱신합니다

업무 정책이나 입력 양식이 바뀌면 이전 기준이 더 이상 맞지 않을 수 있습니다. 오류가 발견될 때마다 사례, 원인, 수정한 기준, 재시험 결과를 남기세요. 프롬프트나 모델을 바꾼 경우에도 기존 검수 기준과 사례를 다시 적용해야 변경 전후 결과를 비교할 수 있습니다. 검수자마다 다른 결론을 내리면 기준 문구가 모호하거나 예외가 빠졌다는 신호로 보고, 사례와 함께 표현을 구체화하세요.

기준표에 넣을 항목과 판정 예시

검수표는 길게 만드는 것보다 결과를 실제로 판정하는 데 필요한 열을 갖추는 것이 중요합니다. 아래 형식을 업무에 맞게 조정해 쓰세요.

검수 항목	통과 기준 예시	실패 신호	다음 조치
필수 정보	필수 필드가 빠짐없이 채워짐	주문번호 등 확인 항목 누락	보완 요청 또는 담당자 이관
사실과 근거	원본 자료에서 내용을 확인할 수 있음	입력에 없는 사실을 덧붙임	결과 보류, 근거 확인
형식과 분류	허용된 형식·분류값을 사용함	목록에 없는 값이나 형식 오류	수정 후 재검수
위험과 권한	승인 권한과 처리 범위 안에 있음	대외 발송·금액 변경 등 확정 시도	자동 실행 중지, 권한자 승인

검수 운영에서 자주 놓치는 부분

정확도 하나로 모든 품질을 판단하지 마세요

분류가 맞아도 근거가 없거나 개인정보가 불필요하게 결과에 포함되면 통과로 볼 수 없습니다. 항목별로 판정하고, 업무상 치명적인 오류는 평균 점수에 묻히지 않도록 별도 중단 조건으로 관리하세요. 반대로 표현 차이처럼 업무 결과에 영향을 주지 않는 항목까지 모두 실패 처리하면 검수 부담이 커질 수 있으니 중요도도 구분해야 합니다.

사람 검토와 자동 승인의 경계를 기록하세요

‘애매하면 사람이 본다’는 문장만으로는 운영자가 같은 기준으로 일하기 어렵습니다. 어떤 신호가 나오면 이관하는지, 담당자는 누구인지, 검토 후 결과를 수정하거나 승인하는 권한은 누구에게 있는지 정하세요. 처리 완료 뒤 오류가 발견됐을 때 재처리와 원복을 누가 맡는지도 정해 두면 자동화가 잘못된 결과를 반복하는 상황에 대응하기 쉽습니다.

자동 승인을 검토하기 전 확인: 필수 정보와 근거가 확인되고, 정한 실패 조건에 해당하지 않으며, 결과를 되돌리거나 수정할 담당자와 절차가 있어야 합니다.

자주 묻는 질문

Q. 검수 기준은 프롬프트에만 적으면 되나요?

아닙니다. 프롬프트에는 모델이 지켜야 할 출력 규칙을 넣을 수 있지만, 실제 통과 여부와 실패 시 조치는 별도의 검수표나 업무 절차에도 기록해야 합니다. 그래야 담당자가 결과를 같은 기준으로 확인하고 변경 이력을 남길 수 있습니다.

Q. 시험 사례는 정상 결과만 준비해도 되나요?

정상 사례만으로는 누락, 모호한 요청, 중복 입력, 정책 예외에서의 동작을 알기 어렵습니다. 정상 사례와 함께 실제로 발생한 대표 예외를 포함하고, 각 사례의 기대 결과와 판단 이유를 먼저 정해 대조하세요.

Q. 검수 기준에 통과율 숫자를 꼭 정해야 하나요?

모든 업무에 같은 통과율을 적용할 필요는 없습니다. 오류가 미치는 영향과 사람이 검토할 수 있는 범위를 고려해 팀이 기준을 정하세요. 특히 금액·권한·외부 발송처럼 위험이 큰 결과는 전체 통과율과 별개로 중대한 오류가 하나라도 있으면 자동 승인을 멈추는 조건을 둘 수 있습니다.

Q. 모델이나 프롬프트를 바꾸면 검수를 처음부터 해야 하나요?

변경 범위에 따라 다르지만, 기존 기준 사례와 예외 사례를 다시 실행해 결과가 달라졌는지 확인해야 합니다. 결과 형식이나 판단 방식에 영향을 주는 변경이라면 관련 기준과 기대 결과도 함께 검토하고, 적용한 버전을 기록하세요.

참고자료

• Run evaluations from the Microsoft Foundry portal – Microsoft Learn