Matrix Factorization이란

• Matrix Factorization은 User-Item 행렬을 저차원의 User와 Item의 Latent factor 행렬의 곱($R$)으로 분해하는 방법
  • $R$과 추론한 $\hat{R}$이 최대한 유사하도록 모델을 학습(최적화)하는 과정
• 최적화가 일어난 뒤에는 각 user와 item의 latent space에는 서로의 상호작용을 표현할 수 있는 무언가가 있다고 볼 수 있음
  • 따라서 latent space에서 유저와 아이템을 표현하는 두 벡터의 방향이 최대한 비슷하고 크기가 클수록 유저가 해당 아이템을 선호할 확률이 높음

러닝 알고리즘

• 이를 최적화하는 과정으로는 SGD를 이용한 방법과 Alternating least squares를 이용한 방법이 있음

  • ALS : 유저와 아이템 매트릭스를 번갈아가며 업데이트(두 매트릭스 중 하나를 상수로 놓고 나머지 매트릭스를 업데이트)
    • 하나를 고정하고, 다른 하나로 최소제곱 문제를 푸는 것(하나를 고정할 경우 목적함수가 이차형식이 되어 Convex해짐)
  • SGD는 구현이 쉽고 빠르다는 장점이 있음
  • ALS는 다음과 같은 경우 SGD보다 유리함
    • 시스템이 병렬화를 지원하는 경우
    • 시스템이 implicit 데이터에 중점을 둔 경우

  (Recommender: An Analysis of Collaborative Filtering Techniques, 2014에 따르면, 극도로 희소한 Movielens 데이터셋에서, 1스레드를 제외한 12, 24, 28스레드 환경에서만 ALS가 더 빠른 성능을 보임. (나머지는 다 SGD가 더 빠름))

성능을 높이는 추가적인 방법

• adding bias
  • 어떤 유저는 모든 영화에 대해 평점을 짜게줄 수 있음
• 신뢰도
  • ex) 판촉으로 특정 아이템이 많이 노출된 경우 많이 클릭될 수 있음
• 파라미터가 시간을 반영하도록 함
  • ex) 시간이 지남에 따라 특정 아이템의 인기가 떨어질 수 있음