모델 기반 CF(Collaborative Filtering)를 구성하기 위하여 여러가지 접근 방식이 제안되었으며 가장 인기있는 방법은 MF(Matrix Factorization) 방법이다. MF 아이디어의 특징은 user-item 평점(rating) 행렬이 두개의 저차원(lower-dimensional) 행렬로 분해될 수 있다는 점이다. 이는 확률적 MF(Probabilistic MF; PMF)는 CF의 희소성 문제(sparsity problem)을 해결하는 MF 알고리즘 중에서 가장 널리 사용되는 방법 중 하나로 알려져 있다.
위 모델의 학습에는 모델 파라미터를 추정하기 위해 user-item 잠재 요인에 대한 로그 사후 분포(log posterior distribution)을 최대화(Maximizing)하여 정확한 예측을 할 수 있도록 한다. 그러나 사후 분포 최대화를 위해 단일 점 추정(single-point estimation)에 의존하기 때문에 모델의 복잡성(complexity)을 제어할 수 없다는 문제가 있으며, 이는 모든 데이터를 이동하는 연산량을 더 높게 만든다. 이러한 문제에 대한 대안으로 베이지안 PMF(Bayesian PMF; BPMF) 접근법이 등장하였다.
BPMF는 PMF의 성능을 향상 시키기 위해 제안된 방법으로 MCMC(Markov Chain Monte Carlo)방법을 전체 추정 기법으로 제안하여 모델 파라미터에 대한 다루기 어려운(intractable) 사후값을 근사화하도록 한다. 그러나 MCMC 추정은 용량이 큰 데이터에 대해서는 매우 느리다는 단점을 가지고 있다.
VAE(Variational Autoencoder)나 GAN(Generative Adversarial Network)와 같은 심층 생성 모델(Deep generative model)은 잠재적 표현을 학습하고 고차원의 데이터를 저차원으로 만드는 특징을 가지고 있다. 특히 방대한 양의 데이터들에 대해서 텍스트 생성, 이미지 감지 및 음성 인식 등과 같은 여러 분야에서 다양한 역할을 해왔다.
위 논문의 BPMF 모델에서 Gibbs sampling은 VI(Variational inference)의 ELBO(Evidence Lower Bound)로 대체하며 EM 알고리즘을 두 스텝으로 나누었다.
The main contributions of this study are as follows.
심층 생성 모델 및 희소성을 완화하기 위해 베이지안 MF가 제안되었습니다. CF의 문제.