Towards Next-Generation LLM-based Recommender Systems (2024) 논문 리뷰

 

Towards Next-Generation LLM-based Recommender Systems: A Survey and Beyond (링크)

 

저자는 Qi Wang, Jindong Li, Shiqi Wang, Qianli Xing, Runliang Niu, He Kong, Rui Li, Guodong Long, Yi Chang, Chengqi Zhang다. 

 

Github: 링크

 

LLM기반 추천 시스템 서베이 논문을 찾다가 그림이 잘 나와있길래 간단하게 리뷰한다. 

 

우선 아래 Table 1은 기존의 서베이 논문들과 저자들의 서베이 논문을 비교하는 표다.

 

 

 

이제 본격적으로 논문에 대해서 살펴본다.

 

Overview

 

우선 저자들은 아래 Figure 1처럼 Representing and Understanding, Scheming and Utilizing, Industrial Deploying으로 구분한다.

 

 

Figure 1

 

 

 

위 피라미드를 구조적으로 분류하면 아래 Figure 2처럼 표기할 수 있다.

 

 Structure of Paper

Figure 2

 

 

The general pipeline of LLM-based recommender systems

 

 

Figure 3

 

 

Representing and Understanding → Scheming and Utilizing → Industrial Deploying의 순서로 추천이 이루어진다.

 

 

Representing and Understanding

 

위 그림에서 나와있듯이 representing은 user-item interaction, text, image, audio, video, sequence, 그리고 timestamp의 데이터들을 어떻게 feature로 잘 표현하느냐가 이 단계의 핵심이다. 

 

반면에 understanding은 어떻게 추천을 수행했는지를 LLM이 가진 external world knowledge 외부 세계 지식과 향상된 추론 능력에 기반한다. 이는 Pre-Recommendation Explanations와 Post-Recommendation Explanations로 구분할 수 있는데 각각 아이템들을 ranking하여 추천하기 전의 설명과 ranking을 매긴 다음 추천한 다음의 설명이다. Pre는 왜 이 아이템이 해당 유저에게 좋은 매칭인지에 대한 통찰을 부여하며, Post는 유저에게 왜 이 아이템을 추천했는지를 이해하도록 돕는다.

 

 

Scheming and Utilizing

이 단계에서는 LLM을 사용해서 구체적으로 아이템에 ranking을 매겨서 추천하는 단계다.

LLM을 사용해서 아이템을 직접 추천하는 방법과, 그게 아니라 간접적으로 사용하는 방법이 있다. 

각각을 Generative approach와 Non-generative approach라고 부른다. 

아래 Figure 4에서 그림으로 설명하고 있다. 

 

Figure 4

 

Non-generative approach

 

전형적인 방법 중 하나는 생성된 candidates에 대해서 ranking score를 매겨서 최종 추천 리스트에 넣을지 말지의 결정이다.

 

 

Generative approach

 

LLM을 통해서 직접 아이템 추천 목록을 생성하는 방법이다.

 

이때 LLM을 파인튜닝할건지, 아니면 프롬프트를 어떻게 사용할건지 등등에 대해서도 고민하게 되는데

 

저자들은 Figure 5에 나온 것 처럼 이를 크게 6가지 방법으로 나누었다. 

 

Figure 5

 

1. Direct Utilizing = LLM 모델을 그대로 사용
2. Naive Fine-Tuning = Full Fine-Tuning
3. Instruction Tuning
4. LoRA
5. Prompt Tuning
6. In-Context Tuning (ICL)

 

 

다른 블로그 (링크)에서 찾았는데 LLM4Rec-Awesome-Papers라는 깃허브 페이지 (링크)에 LLM에 기반한 추천 논문과 모델들을 모아두었다. 

 

LLM 모델을 튜닝하지 않은 논문도 많고 튜닝한 논문들도 많다. 

 

개인용 음악 디깅 시스템을 만들고 있는데 참조해야겠다. 

 

 

 

References:

https://velog.io/@passiona2z/LLM%EC%9D%84-%EC%B6%94%EC%B2%9C%EC%8B%9C%EC%8A%A4%ED%85%9C%EC%9C%BC%EB%A1%9C-%EC%82%AC%EC%9A%A9%ED%95%A0-%EC%88%98-%EC%9E%88%EC%9D%84%EA%B9%8C-%EC%84%9C%EB%B2%A0%EC%9D%B4-%EB%A6%AC%EB%B7%B0-1-Non-tuning