배경

• 기존 MF는 한계가 있음

  • user와 아이템의 단순 내적은 복잡한 상호작용을 제대로 캡처하지 못함
  • 이를 위해 latent vector의 차원을 늘릴수도 있지만, 이는 차원의 저주와 같은 문제를 야기하게 됨.

• 이러한 문제를 해결하기 위해 딥러닝을 사용하는 방법을 도입하게 됨

  (MLP를 통해 선형분류만으로 풀기 어려웠던 문제를 비선형적으로 풀 수 있음)

NCF란

• 기존 MF 모델의 한계를 지적하고, Neural Collaborative Filtering이라는 General한 Framework를 제시한 논문
  • Neural Collaborative Filtering은 Input, Embedding, Neural CF, Ouput이라는 4가지 Layer로 구성되어 있음.
  • 이때 Neural CF Layer를 어떻게 구성하느냐에 따라, GMF / MLP / NueMF로 나눠짐

NCF 구조

• Input Layer : user와 item을 나타내는 두 벡터가 input으로 들어감. 이때 두 벡터는 one-hot encoding으로 표현된 형태임.
• Embedding Layer : Sparse한 input vector를 Dense하게 바꿔주는 역할(k차원의 latent space에 매핑)
• Neural CF Layer & Output Layer : 두 Embedding된 벡터를 concat(혹은 내적)하여 원하는 Neural CF Layer에서 이들의 상호작용을 모델링하는 단계. Neural CF Layer의 형태는 다음과 같이 세 가지가 있음
  • GMF(Generalized Matrix Factorization) : 두 임베딩 벡터를 성분곱하고, 이를 (임베딩차원 → 1차원)1차원으로 바꿔주는 하나의 선형 레이어를 지나서 출력층 활성화 함수(sigmoid)를 거치는 구조
    • 이름 그대로, Matrix Factorization의 일반화된 버전임
    • 두 임베딩 벡터의 선형적인 관계를 모델링함
  • MLP : 두 임베딩을 concat하고, 여러 층의 MLP Layer를 태우는 구조
    • 활성화 함수로 ReLU를 사용, 출력층에서는 Sigmoid를 사용
    • 두 임베딩 벡터의 비선형적인 관계를 모델링함
  • NueMF : GMF와 MLP를 앙상블(Concat)하여 출력층 활성화 함수(Sigmoid)를 거치는 구조
    • 각 GMF와 MLP 모델의 input 임베딩은 서로 분리됨(모델의 확장성을 높임)
    • 두 모델의 concat 비율도 정할 수 있음(하이퍼파라미터 $\alpha$)