LIME(Local Interpretable Model-agnostic Explanations)은 분류 모델(classification model) 또는 회귀 모델(regression model)의 개별 예측값을 안정적으로 설명하는 알고리즘이다. 이름에서 알 수 있듯이 LIME은 모든 모델에 사용할 수 있으며 모델이 현재 데이터의 어떤 영역에 집중해서 분석했고 어떤 영역을 분류 및 예측의 근거로 사용했는지 알려주는 기법이라고 할 수 있다. 따라서 기존에 분석에 사용한 모델이 존재한다면 LIME을 적용해 모델의 결과에 대한 해석을 가능하게 할 수 있다.

📝 참고 논문(A Unified Approach to Interpreting Model Predictions**)**

Introduction

머신러닝은 현대 과학에서 가장 발전한 기술 중 하나이다. 하지만 사람들이 머신러닝을 분류의 도구로 사용하거나 다른 여러 분야에 적용시키고 있음에도 불구하고 중요한 문제점이 존재한다. 만약 사용자들이 모델이나 예측을 신뢰하지 못한다면 머신러닝의 사용을 꺼리게 될 것이다.

여기서 이야기하고 있는 신뢰(trust)를 논문에서는 2가지로 정의하고 있다.

• 예측의 신뢰: 사용자들이 개별적인 예측을 기반으로 조치를 취할 만큼 충분히 신뢰하는지 여부

예측에 따라 치명적인 결과를 초래할 수 있으므로 맹목적인 예측을 하기 어려움(ex, medical diagnosis, terrorism detection)

• 모델의 신뢰: 사용자들이 모델을 적용 시켰을 때 합리적인 방향으로 작동하고 있는지 여부

사용자가 모델이 실제 데이터를 적용시켜 사용했을 때 잘 작동할 것이라는 자신감을 필요로 함

이러한 예측의 신뢰 문제를 해결하기 위해 위 논문은 각각의 개별적 예측에 대한 설명을 제공하는 것을 제안하고 있다.

Summarize main contributions

1. LIME(Local Interpretable Model-agnostic Explanations): 으로 이름에서 알 수 있듯이 어떠한 모델이든지 적용이 가능함

   분류모델이나 회귀 모형의 개별 예측값을 믿을 수 있도록 설명하기 위한 알고리즘

2. SP-LIME: 으로 중복되어 있는 정보들을 담고 있는 인스턴스를 제외하고 중요한 정보를 담고 있는 소수의 인스턴스를 추려내는 과정을 수행하는 알고리즘

   모델 자체의 신뢰 문제를 풀기 위한 인스턴스를 선택하는 알고리즘