LLM辅助推荐系统心得分享
骰子AI
编辑于 2024年09月06日 20:07
收录于文集
共2篇

(请结合视频阅读)

学习资料:

  1. https://github.com/WLiK/LLM4Rec-Awesome-Papers

  2. https://github.com/CHIANGEL/Awesome-LLM-for-RecSys

一. 传统推荐系统工程结构

  1. 特征工程

  2. 召回

  3. 排序

二. LLM替换排序模型

优势:

  1. 构建简单

  2. 能顺便得到推荐解释

  3. 少量交互量的数据下(冷启动)效果好于传统模型

劣势:

  1. 响应慢

  2. 正常交互量的数据下效果相对不如传统模型

  3. 效果提升很难

构建简单详细说明:

如果LLM涉及到微调,则构建简单的优势荡然无存,且效果仍然很难比得上不断微调的专业推荐模型。且微调成本也远大于后者,响应时间也同样不可能减少。

三. VectorDB辅助召回

无劣势,可无脑使用

传统的召回中有显著效果的就是Embedding召回,假设已经有Embedding已经训练好了,可无脑将Embedding存入VectorDB,利用VectorDB进行Embedding召回。

四. LLM生成Embedding替换自己训练Embedding模型

LLM生成Embedding是将文本内容转换为Embedding,针对物品处理起来很简单,对于用户,则可利用LLM针对用户画像数据生成用户描述。

优势:

  1. 构建简单

  2. 少量交互量的数据下(冷启动)效果好于传统模型

劣势:

  1. 正常交互量的数据下效果相对不如传统模型(不算致命)

五. 总结

总优势:

  1. 部署简单

  2. 可产生解释

  3. 适合冷启动

总劣势:

  1. 效果差

  2. 响应慢

  3. 大数据下成本差