📔 참고도서 (Interpretable Machine Learning)

Interpretable Machine Learning

https://drive.google.com/file/d/15tekqUBjLwj9Rc5aZdbuubKJciEwzXgl/view?usp=drive_web

SHAP

아파트 가격을 예측하는 기계학습 모델이 있다고 했을 때, 근처에 공원이 있고(park-nearby) 넓이 50의 1층(area-50, 1st floor)이며 고양이를 키울 수 없는 집(cat-forbidden)의 가격이 30만유로라고 한다. 모든 아파트의 평균 예측 가격이 31만 유로일 때, 위 특성들은 예측값에 얼마나 기여한 것일까?

게임이론에서 “게임”은 머신러닝 모델에서 하나의 인스턴스(관측치)에 대한 예측을 말한다. “이득”은 모든 데이터로부터 얻은 평균 예측값에서 하나의 관측치로부터 얻은 예측값을 뺀 값이다. “선수들”은 각 예측값을 얻는데 사용한 각 특성들을 말한다. 아파트가격 예측 머신러닝 모델을 예로 들면, 근처에 공원이 있음(park-nearby), 넓이 50의 1층(area-50, 1st floor), 고양이를 키울 수 없는 집(cat-forbidden)은 모두 30만유로라는 예측(prediction)에 사용된 특성들이고 Shap value의 목적은 실제 모델의 예측값 30만유로와 평균 예측값 31만유로의 차이인 -1만유로를 설명하는 것이다.

하나의 특성에 대한 Shapley value의 계산

Shapely value는 모든 가능한 조합에 대해서 하나의 특성의 기여도를 종합적으로 합한 값이라고 할 수 있다. 먼저 근처에 공원이 있음(park-nearby)와 넓이 50의 1층(area-50, 1st floor)라는 특성을 추가했을 때 고양이 금지(cat-forbidden)의 기여도(Feature Attribution)를 평가했다.