근래에 들어 정보의 습득 방법과 기술이 향상됨에 따라 많은 양의 데이터 분석을 위하여 기존의 전통적인 통계 기법 이외에 다른 여러 가지 분석기법들이 연구되고 사용되고 있다. 특히 기계학습 및 딥 러닝 기법은 익히 알려진 기법들로 실제로 이미 여러 방면에서 다양하게 사용되고 있다. 그러나 이러한 분석기법들은 블랙박스(black-box) 모델이기 때문에 전통적인 통계 기법들과 다르게 모델의 해석에 있어 어려운 점이 존재한다.

이처럼 기계학습과 같은 블랙박스 모델들에 관한 결과를 해석할 수 있게 만들어 주는 기법을 설명 가능한 인공지능(eXplainable Artificial Intelligence; XAI)라고 한다. 즉. XAI는 기계학습과 같은 블랙박스 모델이 내린 결정의 근거를 인간이 이해할 수 있도록 해주는 기법이라고 할 수 있다.