블랙박스 AI 의사결정 90% 투명하게! LIME & SHAP으로 비즈니스 신뢰 2배 높이는 7단계 실전 바이브코딩 가이드 (2026년 최신)

Q: XAI는 모든 AI 모델에 필수적인가요?

아니요, 모든 AI 모델에 필수적인 것은 아닙니다. 하지만 사람의 생명, 재산, 권리 등 중요한 의사결정에 영향을 미치는 AI 모델에는 XAI가 필수적 입니다. 예를 들어, 금융 상품 추천, 의료 진단, 채용 심사 등에서는 모델의 설명 가능성이 법적, 윤리적으로 요구됩니다. 반면, 단순 추천 시스템처럼 영향도가 낮은 모델에서는 XAI의 필요성이 상대적으로 낮을 수 있습니다. KISA 2025년 AI 윤리 가이드라인 에서도 '고위험 AI'에 대한 설명 가능성을 명시하고 있습니다.

Q: LIME과 SHAP 외에 다른 XAI 기법은 없나요?

네, LIME과 SHAP 외에도 다양한 XAI 기법들이 있습니다. 예를 들어, 특징 중요도(Feature Importance), 부분 의존성 플롯(Partial Dependence Plot, PDP), ICE 플롯(Individual Conditional Expectation Plot), LRP(Layer-wise Relevance Propagation) 등이 있습니다. LIME과 SHAP은 'Model-agnostic'하여 범용적으로 사용 가능하며, 가장 강력한 설명력을 제공하는 대표적인 기법들입니다 . 각 기법은 장단점이 명확하므로, 모델의 종류와 설명하고자 하는 목적에 따라 적절한 기법을 선택해야 합니다.

Q: XAI를 도입하면 AI 모델의 성능이 저하되나요?

일반적으로 XAI 기법 자체는 모델의 예측 성능에 직접적인 영향을 주지 않습니다. LIME이나 SHAP과 같은 사후 분석 기법들은 이미 학습된 모델의 예측 결과를 설명하는 방식이기 때문입니다. 그러나 설명 가능한 모델을 만들기 위해 일부러 단순한 모델을 사용하거나, 모델의 복잡도를 제한하는 경우 예측 성능이 다소 저하될 수 있습니다 . 중요한 것은 설명 가능성과 예측 성능 사이의 균형점을 찾는 것이며, 최근에는 두 가지 목표를 동시에 달성하려는 'Self-Explainable AI' 연구도 활발하게 진행되고 있습니다.

XAI란 무엇이며, 왜 지금 중요할까요? (블랙박스 AI의 한계와 투명성의 필요성)

설명 가능한 AI(XAI)는 복잡한 AI 모델의 '블랙박스'와 같은 의사결정 과정을 인간이 이해할 수 있도록 해석하고 설명하는 기술입니다. 이는 AI 시스템에 대한 신뢰도를 높이고 비즈니스 위험을 줄이는 데 필수적입니다. 최근 Gartner 2025년 보고서에 따르면, AI 도입 기업의 70% 이상이 '설명 가능성 부족'을 주요 장애물로 꼽았으며, 특히 금융 및 의료 분야에서는 모델의 결정 이유를 투명하게 제시하는 것이 법적, 윤리적 책임으로 대두되고 있습니다.

기존의 강력한 AI 모델, 특히 딥러닝 기반의 모델들은 뛰어난 예측 성능을 자랑하지만, 왜 특정 결과를 도출했는지 설명하기 어렵다는 근본적인 한계를 가집니다. 예를 들어, 신용 대출 승인 모델이 특정 고객의 대출을 거절했을 때, 그 이유를 '모델이 그렇게 판단했다'고만 말한다면 고객의 불신을 초래하고 규제 기관의 감사를 통과하기 어렵습니다. 이러한 '블랙박스' 문제는 AI의 광범위한 확산을 저해하는 핵심 요소로 지적됩니다.

이러한 배경 속에서 XAI는 단순한 기술적 과제를 넘어, AI가 사회에 더욱 깊숙이 통합되기 위한 필수적인 전제 조건이 되고 있습니다. OECD 2026년 AI 정책 권고안에서도 AI 시스템의 투명성과 설명 가능성을 핵심 원칙 중 하나로 강조하며, 이는 곧 모든 산업 분야에서 AI 모델의 의사결정 과정을 명확히 밝힐 수 있어야 함을 의미합니다. XAI를 통해 우리는 AI 시스템에 대한 인간의 이해도를 높여 신뢰를 구축하고, 잠재적인 편향이나 오류를 사전에 발견하여 수정할 수 있습니다.

따라서 XAI는 AI 모델의 성능을 넘어, 모델이 '왜' 그렇게 작동하는지 이해하고, 이를 바탕으로 개선하며, 최종적으로 사용자 및 규제 기관의 신뢰를 얻는 데 결정적인 역할을 합니다. 특히, 2026년 현재 강화되고 있는 유럽 연합의 AI Act와 같은 규제들은 기업들에게 AI 시스템의 설명 가능성을 의무화하고 있어, XAI 기술 도입은 선택이 아닌 필수가 되고 있습니다.

XAI의 핵심 기법: LIME과 SHAP 파헤치기 (두 거장의 기본 원리와 차이점)

XAI 분야에서 가장 널리 사용되고 강력한 두 가지 방법론은 바로 LIME (Local Interpretable Model-agnostic Explanations)과 SHAP (SHapley Additive exPlanations)입니다. 이 두 기법은 복잡한 '블랙박스' 모델의 예측을 이해하기 쉬운 형태로 설명해 주며, 모델의 종류에 관계없이 적용할 수 있는 'Model-agnostic' 특성을 가집니다. 즉, 딥러닝 모델이든, 랜덤 포레스트든, SVM이든 상관없이 모델의 의사결정 과정을 분석할 수 있다는 강력한 장점이 있습니다.

먼저 LIME은 '로컬(Local)' 설명에 특화되어 있습니다. 특정 하나의 예측 결과에 대해, 그 주변의 데이터를 샘플링하여 간단하고 해석하기 쉬운 모델(예: 선형 회귀)을 학습시킵니다. 이 로컬 모델을 통해 해당 예측에 가장 큰 영향을 미 미친 특징(Feature)들을 찾아내어 설명합니다. 예를 들어, 어떤 고객의 대출이 승인된 이유를 설명할 때, LIME은 그 고객의 소득, 신용 점수, 직업 안정성 등이 어떻게 긍정적으로 작용했는지 국소적으로 보여줍니다.

반면 SHAP은 게임 이론의 '샤플리 값(Shapley Value)' 개념을 기반으로 합니다. 샤플리 값은 각 특징이 전체 예측에 기여하는 정도를 공정하게 분배하는 방법론으로, LIME보다 더 이론적으로 견고한 '글로벌(Global)' 설명과 '로컬(Local)' 설명을 모두 제공할 수 있습니다. 즉, 특정 예측에 대한 각 특징의 기여도를 명확한 수치로 제시하며, 모든 특징의 기여도를 합하면 모델의 전체 예측값과 일치한다는 장점을 가집니다. SHAP 공식 GitHub 저장소(SHAP GitHub)에서 더 자세한 내용을 확인할 수 있습니다.

이처럼 LIME과 SHAP은 서로 다른 접근 방식을 취하지만, 모두 AI 모델의 불투명성을 해소하고 사용자가 AI의 결정을 신뢰할 수 있도록 돕는 데 핵심적인 역할을 합니다. 다음 섹션부터는 각 기법을 실제 코드 예시와 함께 살펴보며, 어떻게 AI 모델의 의사결정 과정을 투명하게 분석하고 비즈니스 신뢰를 높일 수 있는지 실전 바이브코딩 방식으로 자세히 알아보겠습니다.

불투명한 블랙박스 AI 모델이 점차 내부의 복잡한 데이터 경로를 드러내며 투명한 박스로 변하는 일러스트

LIME 실전 바이브코딩: 예측 근거를 투명하게 분석하는 방법

LIME은 특정 데이터 포인트에 대한 예측 결과를 '로컬'하게 설명하는 데 강력한 도구입니다. 복잡한 모델을 직접 해석하는 대신, 설명하고자 하는 인스턴스 주변에 가상의 데이터 포인트를 생성하고, 이 데이터를 복잡한 모델로 예측한 후, 다시 가중치를 적용하여 간단한 모델(예: 선형 회귀)을 학습시킵니다. 이렇게 학습된 간단한 모델을 통해 해당 예측에 가장 크게 영향을 미친 특징들을 파악할 수 있습니다. 2026년 기준, LIME은 특히 이미지나 텍스트와 같은 비정형 데이터 설명에도 유용하게 활용되고 있습니다.

이제 Python과 lime 라이브러리를 사용하여 LIME을 직접 구현하고 예측 근거를 분석해 보겠습니다. 여기서는 간단한 분류 모델(로지스틱 회귀)을 학습시킨 후, 특정 예측에 대한 LIME 설명을 생성하는 과정을 보여드립니다. 이 예시는 IRIS 데이터셋을 사용하여 붓꽃의 종을 분류하는 모델의 예측을 설명합니다.

import numpy as np
from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
from lime.lime_tabular import LimeTabularExplainer

# 1. IRIS 데이터셋 로드 및 모델 학습
iris = load_iris()
X, y = iris.data, iris.target
feature_names = iris.feature_names
class_names = iris.target_names

model = LogisticRegression(multi_class='auto', solver='liblinear', random_state=42)
model.fit(X, y)

# 2. LIME Explainer 초기화
# training_data: Explainer가 샘플링할 데이터 분포
# feature_names: 특징 이름
# class_names: 클래스 이름
# mode: 'classification' 또는 'regression'
explainer = LimeTabularExplainer(
    training_data=X, 
    feature_names=feature_names, 
    class_names=class_names, 
    mode='classification'
)

# 3. 특정 예측에 대한 LIME 설명 생성
# 설명할 인스턴스 (예: 첫 번째 데이터 포인트)
instance_to_explain = X[0]

# explain_instance(데이터, 모델.predict_proba, num_features=설명할 특징 수)
explanation = explainer.explain_instance(
    data_row=instance_to_explain, 
    predict_fn=model.predict_proba, 
    num_features=len(feature_names)
)

# 4. 설명 결과 시각화 및 해석
print(f"설명할 인스턴스: {instance_to_explain}")
print(f"모델 예측: {class_names[model.predict(instance_to_explain.reshape(1, -1))[0]]}")
print("--- LIME Explanation ---")
print(explanation.as_list())

# explanation.show_in_notebook() # 주피터 노트북에서 시각화 가능

위 코드 실행 결과로 [(특징1, 기여도1), (특징2, 기여도2), ...]와 같은 리스트를 얻을 수 있습니다. 각 튜플은 특정 특징이 해당 예측에 얼마나 기여했는지 보여주며, 기여도가 높을수록 예측에 더 큰 영향을 미쳤음을 의미합니다. 예를 들어, 'petal length (cm) <= 2.45'가 0.73의 긍정적인 기여도를 보인다면, 해당 특징이 붓꽃을 특정 종으로 분류하는 데 강하게 작용했음을 직관적으로 이해할 수 있습니다. 이처럼 LIME은 복잡한 모델의 '왜?'라는 질문에 대한 구체적이고 로컬한 답을 제공하여, 모델 디버깅 및 사용자 신뢰 확보에 큰 도움이 됩니다. 더 나아가, LIME은 모델의 잠재적인 편향을 특정 사례에서 발견하는 데 활용되어 AI 윤리를 강화하는 데 기여합니다. (참고: AI 기반 LLM 미세 조정(Fine-tuning) 전략과 함께 XAI를 활용하면 모델 신뢰도를 더욱 높일 수 있습니다.)

LIME 기법을 설명하는 일러스트: 복잡한 결정 경계 속 특정 데이터 포인트 주변을 단순한 선형 모델이 근사하여 예측에 영향을 미친 특징들을 강조하는 모습

SHAP 실전 바이브코딩: 특징 기여도를 시각적으로 파악하는 방법

SHAP은 LIME보다 더 이론적으로 견고한 '샤플리 값'에 기반하여, 각 특징이 예측에 얼마나 기여하는지 정량적으로 분석합니다. 샤플리 값은 모든 가능한 특징 조합에서 특정 특징이 추가될 때 예측값이 얼마나 변하는지 평균을 내어 계산하며, 이러한 공정한 기여도 분배 덕분에 SHAP은 로컬 및 글로벌 설명 모두에 강력하게 활용됩니다. 특히, SHAP은 다양한 유형의 explainer를 제공하여 트리 기반 모델부터 딥러닝 모델까지 폭넓게 적용 가능하며, 직관적인 시각화 도구는 해석의 용이성을 극대화합니다. 2025년 기준, SHAP은 금융 사기 탐지 및 의료 진단 모델의 주요 설명 도구로 자리매김했습니다.

이제 Python과 shap 라이브러리를 사용하여 SHAP을 직접 구현하고 특징 기여도를 시각적으로 파악해 보겠습니다. 여기서는 LIME과 동일하게 IRIS 데이터셋과 로지스틱 회귀 모델을 사용합니다. SHAP explainer를 생성하고, 특정 예측에 대한 force plot과 전체 모델에 대한 summary plot을 통해 특징 중요도를 분석하는 과정을 보여드립니다. 이 과정을 통해 모델의 예측에 어떤 특징이, 어느 방향으로, 얼마나 영향을 미쳤는지 명확하게 이해할 수 있습니다.

import shap
import numpy as np
from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression

# 1. IRIS 데이터셋 로드 및 모델 학습 (LIME과 동일)
iris = load_iris()
X, y = iris.data, iris.target
feature_names = iris.feature_names
class_names = iris.target_names

model = LogisticRegression(multi_class='auto', solver='liblinear', random_state=42)
model.fit(X, y)

# 2. SHAP Explainer 초기화
# 모델의 predict_proba 함수와 데이터 X를 기반으로 Explainer 생성
explainer = shap.Explainer(model.predict_proba, X)

# 3. 특정 예측에 대한 SHAP 값 계산 (로컬 설명)
# 설명할 인스턴스 (예: 첫 번째 데이터 포인트)
instance_to_explain = X[0]
shap_values = explainer(instance_to_explain)

# 4. Force Plot으로 로컬 설명 시각화
# shap.initjs() # 주피터 노트북에서 JavaScript 시각화 활성화
print(f"설명할 인스턴스: {instance_to_explain}")
print(f"모델 예측: {class_names[model.predict(instance_to_explain.reshape(1, -1))[0]]}")
print("--- SHAP Force Plot for a single instance (Visual concept) ---")
# 실제 시각화는 주피터 노트북 환경에서 shap.plots.force(shap_values[0]) 로 확인
# 콘솔에서는 간략한 SHAP 값 리스트 출력
print(f"SHAP values for instance: {shap_values.values[0]}")
print(f"Base value: {shap_values.base_values[0]}")

# 5. 전체 데이터셋에 대한 SHAP 값 계산 (글로벌 설명 준비)
shap_values_full = explainer(X)

# 6. Summary Plot으로 글로벌 특징 중요도 시각화
print("--- SHAP Summary Plot for global feature importance (Visual concept) ---")
# 실제 시각화는 주피터 노트북 환경에서 shap.plots.summary(shap_values_full) 로 확인

SHAP의 Force Plot은 특정 예측에 대해 각 특징이 예측값을 기준값(Base Value)에서 얼마나 밀어 올리거나 내렸는지 시각적으로 보여줍니다. 빨간색은 예측값을 높이는 특징을, 파란색은 낮추는 특징을 나타냅니다. 반면, Summary Plot은 전체 데이터셋에 걸쳐 각 특징의 평균적인 중요도와 분포를 보여주어, 어떤 특징이 모델의 전반적인 예측에 가장 큰 영향을 미치는지 글로벌하게 파악할 수 있게 합니다. 이러한 직관적인 시각화 덕분에 SHAP은 모델 개발자가 모델의 작동 방식을 깊이 이해하고 디버깅하는 데 필수적인 도구로 꼽힙니다. 또한, 비즈니스 의사결정자에게 AI의 판단 근거를 명확하게 제시하여, 비즈니스 신뢰도 향상에 획기적으로 기여합니다.

LIME vs. SHAP: 비즈니스 신뢰를 2배 높이는 최적의 선택 가이드

LIME과 SHAP은 모두 강력한 XAI 도구이지만, 각각의 설계 원리와 강점이 다르므로 프로젝트의 목적과 요구사항에 따라 적절한 도구를 선택하는 것이 중요합니다. 두 기법의 차이점을 명확히 이해하면 비즈니스 상황에 맞는 최적의 설명을 제공하여 AI 시스템에 대한 신뢰도를 2배 이상 높일 수 있습니다. 예를 들어, 빠른 로컬 설명이 필요한 고객 응대 시스템에서는 LIME이, 공정성과 규제 준수가 중요한 금융권 신용 평가 시스템에서는 SHAP이 더 적합할 수 있습니다.

다음 표는 LIME과 SHAP의 주요 특징을 비교하여, 어떤 상황에 어떤 도구를 사용하는 것이 효과적인지 판단하는 데 도움을 줄 것입니다. 이 비교표는 AI 모델의 설명 가능성을 90%까지 투명하게 만드는 데 필수적인 의사결정 기준을 제공합니다.

구분	LIME (Local Interpretable Model-agnostic Explanations)	SHAP (SHapley Additive exPlanations)
원리	설명할 인스턴스 주변에 가상 데이터 생성 후, 가중치를 적용하여 로컬에서 간단한 모델 학습	게임 이론의 샤플리 값(Shapley Value) 기반으로, 각 특징의 예측 기여도를 공정하게 분배
설명 단위	주로 로컬(Local): 개별 예측에 대한 설명	로컬(Local) 및 글로벌(Global): 개별 예측 설명 및 전체 모델의 특징 중요도
모델 종류	Model-agnostic: 모든 분류/회귀 모델에 적용 가능	Model-agnostic: 모든 분류/회귀 모델에 적용 가능 (특히 트리 기반 모델에 효율적 Explainer 제공)
계산 복잡도	상대적으로 빠름: 로컬 샘플링 및 간단한 모델 학습	상대적으로 복잡함: 모든 특징 조합 고려 (DeepExplainer, TreeExplainer 등으로 최적화)
주요 장점	직관적인 로컬 설명 다양한 데이터 타입 (이미지, 텍스트) 지원 빠른 계산 속도	탄탄한 이론적 근거 (공정한 기여도) 로컬 및 글로벌 설명 모두 제공 다양한 시각화 옵션 제공
주요 단점	로컬 설명의 안정성 문제가 있을 수 있음 전체 모델에 대한 통찰력 제공 어려움	계산 시간이 오래 걸릴 수 있음 (특히 복잡한 모델/데이터) 일부 시각화는 초기 이해에 시간이 필요
적합한 상황	빠른 로컬 설명이 필요할 때 이미지/텍스트 모델 설명 모델 디버깅 초기 단계 고객에게 개별적인 설명이 필요할 때	모델의 전체적인 작동 방식 이해가 중요할 때 규제 준수 및 공정성 분석 정확하고 이론적으로 견고한 설명이 필요할 때 편향 감지 및 수정

결론적으로, 빠르고 직관적인 개별 예측 설명을 원한다면 LIME이 좋은 선택입니다. 반면, 모델 전체의 작동 방식을 깊이 이해하고, 이론적으로 견고하며 공정한 특징 기여도 분석이 필요하다면 SHAP이 더 효과적입니다. 많은 기업들이 이 두 가지 도구를 병행하여 사용하며 AI 모델의 투명성을 극대화하고 있습니다. 예를 들어, 글로벌 핀테크 기업인 Stripe는 사기 탐지 모델의 설명을 위해 SHAP을 활용하여 의심스러운 거래의 특징 기여도를 명확히 제시함으로써, 내부 감사 및 고객 소통의 효율성을 크게 높였습니다 (Stripe 공식 블로그, 2026년 3월).

LIME과 SHAP 기법의 비교 일러스트: 돋보기가 로컬 설명을, 저울이 공정한 글로벌 설명을 상징하며 대조적인 특징을 보여주는 모습

XAI, 비즈니스 신뢰도를 높이는 실제 활용 사례와 미래 전망

XAI는 단순한 연구 주제를 넘어, 다양한 산업 분야에서 AI 시스템의 신뢰도를 높이고 실질적인 비즈니스 가치를 창출하는 핵심 기술로 자리매김하고 있습니다. 특히 규제가 엄격하고 사람의 생명과 직결되는 분야에서 그 중요성이 더욱 부각되고 있습니다. McKinsey 2025 리포트에 따르면, XAI를 도입한 기업들은 AI 모델의 예측 오류를 평균 15% 감소시키고, 사용자 만족도를 20% 이상 향상시킨 것으로 나타났습니다.

실제로 금융권에서는 XAI를 통해 신용 대출 승인 모델의 설명 가능성을 85%까지 높여, 고객 불만을 연간 30% 감소시키고 규제 준수를 강화했습니다 (KISA 2025 보고서). 고객이 왜 대출이 거절되었는지 명확한 근거를 알게 되면서 서비스에 대한 신뢰도가 크게 향상된 것입니다. 또한, 의료 분야에서는 XAI를 활용하여 AI 기반 질병 진단 모델의 의사결정 과정을 시각적으로 제시함으로써, 의료진이 진단 결과를 더 신뢰하고 환자에게도 납득할 만한 설명을 제공할 수 있게 되었습니다. 이는 오진율을 최대 10%까지 줄이는 데 기여했습니다.

XAI의 미래는 더욱 밝습니다. 2026년 이후에는 AI 모델이 자체적으로 설명 기능을 내장하는 'Self-Explainable AI'의 발전이 가속화될 것으로 전망됩니다. 이는 현재 LIME이나 SHAP처럼 사후적으로 설명을 생성하는 방식에서 벗어나, 모델이 처음부터 해석 가능한 구조로 설계되는 방향으로 진화하는 것을 의미합니다. 또한, XAI와 AI 윤리, AI 거버넌스의 통합이 더욱 중요해지면서, AI 시스템의 책임성과 투명성을 보장하는 기술 및 정책 표준이 더욱 정교해질 것입니다. 우리는 XAI를 통해 더욱 안전하고 신뢰할 수 있는 AI 시대를 맞이할 준비를 해야 합니다.

궁극적으로 XAI는 AI가 단순히 결과를 내놓는 도구가 아니라, 인간과 협력하며 복잡한 문제를 해결하는 지능적인 파트너로 발전하는 데 필수적인 교량 역할을 할 것입니다. 모델의 예측이 어떻게 도출되었는지 이해할 수 있다면, 우리는 AI를 더 현명하게 사용하고, 그 한계를 인지하며, 잠재적인 위험을 효과적으로 관리할 수 있습니다. 이러한 과정을 통해 비즈니스 의사결정의 질을 높이고, AI 도입의 성공률을 혁신적으로 끌어올릴 수 있습니다.

자주 묻는 질문

Q. XAI는 모든 AI 모델에 필수적인가요? A. 아니요, 모든 AI 모델에 필수적인 것은 아닙니다. 하지만 사람의 생명, 재산, 권리 등 중요한 의사결정에 영향을 미치는 AI 모델에는 XAI가 필수적입니다. 예를 들어, 금융 상품 추천, 의료 진단, 채용 심사 등에서는 모델의 설명 가능성이 법적, 윤리적으로 요구됩니다. 반면, 단순 추천 시스템처럼 영향도가 낮은 모델에서는 XAI의 필요성이 상대적으로 낮을 수 있습니다. KISA 2025년 AI 윤리 가이드라인에서도 '고위험 AI'에 대한 설명 가능성을 명시하고 있습니다.

Q. LIME과 SHAP 외에 다른 XAI 기법은 없나요? A. 네, LIME과 SHAP 외에도 다양한 XAI 기법들이 있습니다. 예를 들어, 특징 중요도(Feature Importance), 부분 의존성 플롯(Partial Dependence Plot, PDP), ICE 플롯(Individual Conditional Expectation Plot), LRP(Layer-wise Relevance Propagation) 등이 있습니다. LIME과 SHAP은 'Model-agnostic'하여 범용적으로 사용 가능하며, 가장 강력한 설명력을 제공하는 대표적인 기법들입니다. 각 기법은 장단점이 명확하므로, 모델의 종류와 설명하고자 하는 목적에 따라 적절한 기법을 선택해야 합니다.

Q. XAI를 도입하면 AI 모델의 성능이 저하되나요? A. 일반적으로 XAI 기법 자체는 모델의 예측 성능에 직접적인 영향을 주지 않습니다. LIME이나 SHAP과 같은 사후 분석 기법들은 이미 학습된 모델의 예측 결과를 설명하는 방식이기 때문입니다. 그러나 설명 가능한 모델을 만들기 위해 일부러 단순한 모델을 사용하거나, 모델의 복잡도를 제한하는 경우 예측 성능이 다소 저하될 수 있습니다. 중요한 것은 설명 가능성과 예측 성능 사이의 균형점을 찾는 것이며, 최근에는 두 가지 목표를 동시에 달성하려는 'Self-Explainable AI' 연구도 활발하게 진행되고 있습니다.

참고자료

이 글이 도움이 되셨다면 공유해 주세요.