Microsoft AI-300 시험 노트개념 정리15 MIN
책임 있는 AI 대시보드로 모델 평가
AI-300 「모델 수명 주기·운영」에서 등록한 모델을 배포 전에 평가하는 노트입니다. 책임 있는 AI 원칙, 오류 분석, 모델 개요와 공정성, 특징 중요도, 반사실·인과 분석, 스코어카드를 정리합니다.
지난 노트에서 모델을 등록했습니다. 등록 화면에 남는 지표는 AUC 0.91처럼 전체를 한 수로 줄인 값인데, 그 수는 모델이 누구에게서 틀리는지, 왜 그렇게 판단했는지를 말해 주지 않습니다. 이 노트는 그 질문들을 한 화면에서 답하는 책임 있는 AI 대시보드를 다룹니다.
책임 있는 AI 원칙
여섯 원칙
Microsoft는 책임 있는 AI를 여섯 원칙으로 적습니다 — 공정성, 신뢰성과 안전성, 개인 정보 보호와 보안, 포용성, 투명성, 책임성입니다. 대시보드의 구성 요소는 이 원칙 가운데 모델을 들여다봐서 확인할 수 있는 것에 대응합니다. 공정성은 공정성 평가가, 신뢰성은 오류 분석이, 투명성은 해석 가능성이 맡습니다. 개인 정보 보호나 책임성처럼 조직의 절차가 지는 원칙은 대시보드가 대신하지 못하고, 스코어카드로 그 근거를 사람에게 넘기는 데까지가 도구의 몫입니다.
대시보드 구성
책임 있는 AI 대시보드는 Azure ML이 여러 오픈 소스 도구를 한 화면에 엮은 것입니다. 각 구성 요소는 독립된 도구에서 왔습니다.
| 구성 요소 | 답하는 질문 | 바탕 |
|---|---|---|
| 오류 분석 | 어느 집단에서 틀리는가 | Error Analysis |
| 모델 개요·공정성 | 집단마다 성능이 얼마나 다른가 | Fairlearn |
| 데이터 분석 | 데이터 분포가 고른가 | — |
| 해석 가능성 | 어떤 특징이 예측을 움직였는가 | InterpretML |
| 반사실 what-if | 무엇이 바뀌면 예측이 바뀌는가 | DiCE |
| 인과 분석 | 그 특징을 바꾸면 결과가 얼마나 바뀌는가 | EconML |
대상은 표 형식 데이터로 학습한 분류·회귀 모델이고, 모델은 MLflow 형식으로 등록되어 있어야 하며 학습·테스트 데이터는 mltable 데이터 자산으로 넘깁니다.
대시보드 생성
구성 요소 파이프라인
대시보드는 스튜디오의 마법사로도 만들지만, 실체는 azureml 레지스트리에 있는 책임 있는 AI 구성 요소를 이은 파이프라인 작업입니다. 생성자(constructor)가 모델과 데이터를 받아 빈 대시보드를 만들고, 분석마다 구성 요소 하나씩을 붙인 뒤, 수집(gather) 구성 요소가 결과를 하나로 묶어 모델에 붙입니다.
from azure.ai.ml import MLClient, Input
from azure.ai.ml.dsl import pipeline
reg = MLClient(credential, subscription_id, resource_group, registry_name="azureml")
get = lambda n: reg.components.get(name=n, label="latest")
constructor = get("microsoft_azureml_rai_tabular_insight_constructor")
explain = get("microsoft_azureml_rai_tabular_explanation")
erroranalysis = get("microsoft_azureml_rai_tabular_erroranalysis")
gather = get("microsoft_azureml_rai_tabular_insight_gather")
@pipeline(default_compute="cpu-cluster")
def rai_pipeline(train, test):
c = constructor(
title="churn RAI", task_type="classification",
model_info="churn-model:3", model_input=Input(type="mlflow_model", path="azureml:churn-model:3"),
train_dataset=train, test_dataset=test,
target_column_name="churned", categorical_column_names='["plan"]',
)
e = explain(rai_insights_dashboard=c.outputs.rai_insights_dashboard, comment="global")
ea = erroranalysis(rai_insights_dashboard=c.outputs.rai_insights_dashboard)
gather(constructor=c.outputs.rai_insights_dashboard,
insight_1=e.outputs.explanation, insight_2=ea.outputs.error_analysis)
코호트
코호트는 조건으로 고른 데이터의 부분 집합입니다 — 「가입 1년 미만」, 「요금제가 basic인 고객」처럼요. 대시보드의 모든 구성 요소는 같은 코호트를 공유하므로, 오류 분석에서 찾은 약한 집단을 코호트로 저장해 두면 공정성·해석 가능성 화면에서 그 집단만 골라 봅니다. 코호트가 대시보드 안에서 분석들을 잇는 실입니다.
오류 분석과 모델 개요
오류 분석
오류 분석은 모델이 틀린 표본이 어디에 몰려 있는지를 찾습니다. 결정 트리 지도는 특징 값으로 데이터를 나눠 가며 갈래마다 두 수를 보여 줍니다. 오류율은 그 갈래 표본 가운데 틀린 비율이고, 오류 범위(error coverage)는 전체 오류 가운데 그 갈래가 차지하는 비율입니다. 테스트 1,000건에서 100건을 틀렸고 「가입 6개월 미만」 갈래 200건에서 50건을 틀렸다면, 그 갈래의 오류율은 로 전체의 보다 높고 오류 범위는 입니다. 표본의 5분의 1이 오류의 절반을 낸다는 뜻입니다. 열 지도는 특징 한두 개를 골라 칸마다 오류율을 칠합니다.
모델 개요와 공정성
모델 개요는 코호트마다 정확도·정밀도·재현율 같은 지표를 나란히 놓습니다. 공정성 평가는 그 비교를 민감한 특징(성별·연령대처럼 차별이 문제가 되는 특징)으로 나눈 집단에 걸고, 집단 사이의 격차를 수로 냅니다. 격차는 차이(가장 큰 값 − 가장 작은 값)나 비율(가장 작은 값 ÷ 가장 큰 값)로 적습니다. 승인율이 A 집단 0.60, B 집단 0.45라면 차이는 , 비율은 입니다. 차이는 0에, 비율은 1에 가까울수록 고릅니다. 어떤 지표로 격차를 잴지는 그 모델이 끼칠 해가 무엇인지에 달렸습니다 — 기회를 나눠 주는 모델이면 승인율, 놓치는 쪽이 아픈 모델이면 재현율을 봅니다.
해석 가능성
전역·지역 중요도
특징 중요도는 각 특징이 예측에 얼마나 기여했는지의 크기입니다. 전역 중요도는 데이터 전체에서 평균한 기여로 「이 모델은 대체로 무엇을 보는가」에 답하고, 지역 중요도는 표본 하나의 예측에서 특징마다 기여를 나눠 「이 고객은 왜 이탈로 분류됐는가」에 답합니다. 코호트를 골라 전역 중요도를 다시 보면 집단마다 모델이 보는 특징이 다른지도 드러납니다.
설명 방법
대시보드는 모델 내부를 몰라도 되는 방법으로 설명을 만듭니다. 원래 모델의 입력과 출력을 흉내 내는 해석 가능한 대리 모델(선형 모델이나 트리)을 학습시키고, 그 대리 모델의 중요도를 원래 모델의 설명으로 씁니다. 그래서 어떤 프레임워크의 모델이든 MLflow로 등록돼 예측만 할 수 있으면 설명이 섭니다. 중요도는 상관을 말할 뿐 원인을 말하지 않는다는 점이 다음 절과 갈리는 자리입니다.
반사실과 인과 분석
반사실 what-if
반사실(counterfactual)은 「예측이 바뀌려면 입력이 최소 어떻게 달라야 하는가」를 보여 주는 가상의 표본입니다. 이탈로 분류된 고객에게 「월 요금이 8,000원 낮았다면 유지로 분류됐다」 같은 짝을 만들어 줍니다. 분류에서는 바라는 클래스를, 회귀에서는 바라는 값의 범위를 주고, 표본마다 반사실을 몇 개 만들지와 바꿔도 되는 특징을 정합니다. 나이처럼 바꿀 수 없는 특징을 바꾸는 반사실은 쓸모가 없으므로 바꿀 특징 목록에서 뺍니다. what-if 화면에서는 사람이 값을 직접 바꿔 예측이 어떻게 움직이는지도 봅니다.
인과 분석
인과 분석은 처치(treatment) 특징 하나를 바꾸면 결과가 평균적으로 얼마나 바뀌는지를 관찰 데이터에서 추정합니다. 반사실이 모델의 예측을 바꾸는 입력을 찾는다면, 인과 분석은 현실의 결과를 바꾸는 개입을 찾습니다. 「할인 쿠폰을 주면 이탈 확률이 몇 %p 줄어드는가」가 인과 분석의 질문이고, 고객마다 효과가 다르면 어느 고객에게 처치를 줄지 정책도 제안합니다.
| 구분 | 반사실 | 인과 분석 |
|---|---|---|
| 바꾸는 대상 | 표본 하나의 입력 | 처치 특징 |
| 답하는 것 | 모델 예측이 어떻게 바뀌나 | 실제 결과가 얼마나 바뀌나 |
| 쓰는 곳 | 개별 판단 설명·이의 제기 | 개입 정책 결정 |
스코어카드
생성
책임 있는 AI 스코어카드는 대시보드 결과를 PDF 한 장으로 묶은 보고서입니다. 대시보드가 데이터 과학자가 파고드는 화면이라면, 스코어카드는 기술 배경이 없는 이해관계자에게 배포 승인 근거로 넘기는 문서입니다. 파이프라인에 스코어카드 구성 요소(microsoft_azureml_rai_tabular_score_card)를 붙이고 JSON 설정 파일로 무엇을 실을지 정합니다.
목표 값
설정 파일에는 지표마다 목표 값을 적습니다 — 「정확도 0.85 이상」, 「승인율 차이 0.1 이하」처럼요. 스코어카드는 실제 값과 목표를 나란히 놓아 통과 여부를 보여 주므로, 위 예처럼 승인율 차이가 0.15인 모델은 공정성 목표에 미달로 찍힙니다. 이 절은 이해관계자 보고와 데이터 과학자 분석 가운데 어느 쪽에 스코어카드가 맞는지, 질문을 주고 반사실·인과·해석 가능성 가운데 알맞은 구성 요소를 고르는 꼴로 물을 수 있습니다.
연습 문제
테스트 2,000건에서 160건을 틀렸습니다. 「요금제 basic」 코호트는 400건이고 그중 64건을 틀렸습니다. 이 코호트의 오류율과 오류 범위는?
① 오류율 16%, 오류 범위 40%
② 오류율 8%, 오류 범위 16%
③ 오류율 40%, 오류 범위 16%
④ 오류율 16%, 오류 범위 20%①. 오류율은 , 오류 범위는 입니다. 전체 오류율 의 두 배입니다.대출 승인 모델의 승인율이 집단 A 0.50, 집단 B 0.40입니다. 승인율의 차이와 비율은?
① 차이 0.10, 비율 0.80
② 차이 0.10, 비율 1.25
③ 차이 0.90, 비율 0.80
④ 차이 0.20, 비율 0.40①. 차이는 , 비율은 작은 값을 큰 값으로 나눠 입니다. ②는 큰 값을 작은 값으로 나눴습니다.거절된 신청자가 「무엇이 달랐으면 승인됐나요」라고 묻습니다. 알맞은 구성 요소는?
① 인과 분석
② 반사실 what-if
③ 데이터 분석
④ 오류 분석②. 표본 하나의 예측을 바꾸는 최소한의 입력 변화가 반사실입니다.마케팅 팀이 「요금 할인을 주면 실제 이탈이 얼마나 줄어드는가」를 알고 싶어 합니다. 알맞은 것은?
① 전역 특징 중요도
② 인과 분석
③ 반사실 what-if
④ 모델 개요②. 개입이 현실의 결과에 주는 효과를 추정하는 것이 인과 분석입니다. ①은 상관만 말하고, ③은 모델 예측의 변화만 말합니다.배포 승인 회의에 기술 배경이 없는 임원이 참석합니다. 목표 지표와 실제 값을 비교한 문서를 넘기려면?
① 오류 분석 열 지도 화면을 공유한다
② 책임 있는 AI 스코어카드를 생성한다
③ MLmodel 파일을 보낸다
④ 코호트를 저장한다②. 스코어카드가 목표 값과 통과 여부를 PDF로 묶습니다.책임 있는 AI 대시보드를 만들 때 모델과 데이터의 요구 형식으로 맞는 것은?
① 모델은custom_model, 데이터는uri_file
② 모델은 MLflow 형식, 데이터는mltable
③ 모델은 Triton 형식, 데이터는 CSV 경로 문자열
④ 모델과 데이터 모두 아무 형식이나 된다②. 생성자 구성 요소가 MLflow 모델과mltable학습·테스트 데이터를 받습니다.
다음 노트는 평가를 마친 모델을 관리형 온라인 엔드포인트에 배포하고 트래픽을 옮기는 일을 다룹니다.

