[PYTHON] 블랙박스 모델 해결을 위한 SHAP과 LIME 연동 방법 및 3가지 핵심 차이점 분석

SHAP vs LIME

현대 AI 모델링에서 성능만큼이나 중요한 것은 '왜 이런 결과가 나왔는가?'에 대한 답입니다. 본 가이드는 Python을 활용해 복잡한 머신러닝 모델을 해석 가능하게 만드는 XAI 기술의 실무 적용법을 상세히 다룹니다.

---

1. AI 모델의 신뢰성, 왜 Explainability(XAI)인가?

최근 딥러닝과 복잡한 앙상블 모델(XGBoost, LightGBM 등)이 비즈니스 전반에 도입되면서, 모델의 예측 근거를 파악하는 것이 필수적인 과제가 되었습니다. 특히 금융, 의료, 사법 등 투명성이 요구되는 분야에서는 모델의 내부 구조를 알 수 없는 'Black Box' 특성이 큰 걸림돌이 됩니다. Explainable AI (XAI)는 이러한 블랙박스 내부를 들여다보고, 특정 입력값이 결과에 어떤 기여를 했는지 수치화하여 시각화합니다. 이를 통해 데이터 과학자는 모델의 편향(Bias)을 제거하고, 비즈니스 의사 결정자에게 설득력 있는 근거를 제공할 수 있습니다.

2. SHAP vs LIME: 3가지 핵심 차이점 비교

XAI의 양대 산맥인 SHAP(SHapley Additive exPlanations)과 LIME(Local Interpretable Model-agnostic Explanations)은 접근 방식에서 큰 차이를 보입니다.

비교 항목	SHAP (Shapley Value 기반)	LIME (Local Surrogate 기반)
이론적 배경	게임 이론 (Game Theory)의 협업적 가치 분배	국소적 대리 모델 (Local Linear Approximation)
일관성 (Consistency)	매우 높음 (수학적 공리에 근거)	낮음 (샘플링에 따라 결과가 달라질 수 있음)
계산 속도	상대적으로 느림 (모든 조합 고려)	빠름 (특정 주변 데이터만 샘플링)
주요 장점	글로벌/로컬 해석 모두 가능, 이론적 완벽성	모델 종류에 상관없이 매우 직관적이고 빠름

---

3. 실무 적용을 위한 7가지 핵심 실무 예제 (Python Code)

개발자가 실제 프로젝트에서 즉시 활용할 수 있도록 구성된 코드 스니펫입니다. 데이터 로드부터 시각화까지의 과정을 포함합니다.

Example 1: SHAP을 활용한 XGBoost 모델의 Global Interpretation

전체 데이터셋에서 어떤 피처가 모델에 가장 큰 영향을 주는지 파악하는 방법입니다.

import shap
import xgboost as xgb
from sklearn.model_selection import train_test_split
from sklearn.datasets import load_breast_cancer

# 데이터 준비
data = load_breast_cancer()
X, y = data.data, data.target
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 모델 학습
model = xgb.XGBClassifier().fit(X_train, y_train)

# SHAP Explainer 객체 생성
explainer = shap.Explainer(model)
shap_values = explainer(X_test)

# 요약 차트 시각화 (Global)
shap.summary_plot(shap_values, X_test, feature_names=data.feature_names)
        

Example 2: SHAP Force Plot을 통한 개별 데이터 예측 근거 해결

특정 환자나 고객의 데이터 한 건에 대해 왜 그런 결과가 나왔는지 시각적으로 증명합니다.

# 개별 예측(첫 번째 데이터)에 대한 Force Plot
# 로컬 주피터 노트북 환경에서 확인 가능
shap.initjs()
shap.force_plot(explainer.expected_value, shap_values.values[0, :], X_test[0, :], feature_names=data.feature_names)
        

Example 3: LIME을 이용한 분류 모델의 Local Interpretation 연동

LIME은 특정 데이터 주변에 가상의 데이터를 생성하여 선형 모델로 해석을 시도합니다.

from lime import lime_tabular

# LIME Explainer 초기화
lime_explainer = lime_tabular.LimeTabularExplainer(
    training_data=X_train,
    feature_names=data.feature_names,
    class_names=['Malignant', 'Benign'],
    mode='classification'
)

# 특정 샘플 해석
exp = lime_explainer.explain_instance(X_test[0], model.predict_proba, num_features=5)
exp.show_in_notebook(show_table=True)
        

Example 4: SHAP Dependence Plot으로 변수 간 상호작용 분석

두 피처 사이의 관계가 예측값에 어떤 영향을 미치는지 2차원적으로 분석하는 방법입니다.

# 특정 피처(예: mean radius)와 예측값의 관계 시각화
shap.dependence_plot("mean radius", shap_values.values, X_test, feature_names=data.feature_names)
        

Example 5: Pipeline 모델에 LIME 연동하기 (Sklearn 연동)

StandardScaler나 PCA가 포함된 파이프라인 구조에서도 LIME을 적용할 수 있습니다.

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.ensemble import RandomForestClassifier

pipeline = Pipeline([
    ('scaler', StandardScaler()),
    ('clf', RandomForestClassifier())
])
pipeline.fit(X_train, y_train)

# 파이프라인의 predict_proba를 LIME에 전달
exp = lime_explainer.explain_instance(X_test[1], pipeline.predict_proba, num_features=10)
print(exp.as_list())
        

Example 6: KernelSHAP을 활용한 모델 불가지론(Agnostic) 해석

Tree 모델이 아닌 일반적인 모든 Python 함수/모델에 적용 가능한 SHAP 기법입니다.

# 모델의 예측 함수만 있으면 사용 가능
kernel_explainer = shap.KernelExplainer(model.predict_proba, shap.sample(X_train, 10))
kernel_shap_values = kernel_explainer.shap_values(X_test[0:1])

# 결과 확인
shap.force_plot(kernel_explainer.expected_value[1], kernel_shap_values[1], X_test[0:1])
        

Example 7: Waterfall Plot을 이용한 정교한 기여도 시각화

SHAP의 최신 시각화 도구인 Waterfall plot은 기여도의 합산을 가장 명확하게 보여줍니다.

# 최신 버전의 SHAP 라이브러리 사용 권장
shap.plots.waterfall(shap_values[0])
        

---

4. 결론 및 향후 전망

모델의 성능(Accuracy)과 해석 가능성(Interpretability)은 흔히 트레이드오프 관계에 있다고 말합니다. 하지만 SHAP과 LIME 같은 도구의 발전으로 우리는 복잡한 모델을 사용하면서도 충분히 비즈니스 가치를 설명할 수 있는 시대에 살고 있습니다.

실무에서는 이론적 완결성이 필요한 경우 SHAP을, 빠른 프로토타이핑과 직관적인 로컬 설명이 필요한 경우 LIME을 선택하는 전략이 유효합니다. 앞으로는 단순히 수치를 보여주는 것을 넘어, 사용자가 이해할 수 있는 자연어로 설명을 생성하는 Counterfactual Explanations 기술이 더욱 중요해질 전망입니다.

내용 출처

• Lundberg, S. M., & Lee, S. I. (2017). A Unified Approach to Interpreting Model Predictions. (SHAP 원문)
• Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why Should I Trust You?": Explaining the Predictions of Any Classifier. (LIME 원문)
• Python SHAP Documentation 
• Python LIME GitHub: https