快手推荐系统精排模型实践.pdf

快手精排模型实践牛亚男社区科学部资深推荐算法工程师•自我介绍•快手推荐系统•CTR模型 – PPNet•多domain多任务学习框架•短期行为序列建模•长期行为序列建模•千亿特征，万亿参数模型•总结和展望目录自我介绍012017年加入快手快手精排模型组负责人负责场景主站双列发现页，精选极速版发现页短视频推荐超3亿用户，数百亿分发快手核心迭代&活动双列，设置版，极速版，精选，全局上下滑K3，春节红包 etc.自我介绍快手推荐系统02类信息检索范式用户无显式query推荐系统数据漏斗结构•候选集 ~tens of billions•召回（Retrieval）•排序（Ranking）•粗排 ~tens of hundreds•精排 ~hundreds•重排 ~tens快手推荐系统快手推荐特点•数亿用户，百亿短视频•行为数据差异大•内容更丰富，玩法多样•用户兴趣广泛&多变•用户交互类型多，场景复杂挑战：用户兴趣精准建模！快手推荐系统主站发现页极速版发现页关注页同城页直播电商直播主站精选主站发现页内流CTR模型03个性化预估模型是推荐系统的核心•预估用户click的概率•预估效果直接影响用户体验业界模型演化•从特征，行为序列提升模型个性化•DNN核心为全连接网络（FCN）•全局共享DNN作用•所有用户视频共享•捕捉全局用户视频语义模式•但没有用户个性化启发：如何为DNN网络增加个性化？模型演化CTR模型双列发现页全局网络+个性化局部网络•现有DNN网络stack用户网络•Resnet layer用户个性化偏置•LHUC算法•learning hidden unit contributions•激活函数乘以个性化偏置•DNN网络乘用户个性化偏置•初始为1向量问题•单用户行为不足以保证收敛•不稳定的网络导致embedding变差•User bias vector缺少动态表征能力Stacking 方法CTR模型CTR模型个性化偏置全局网络+个性化局部网络•现有DNN网络stack用户网络•Resnet layer用户个性化偏置•LHUC算法•learning hidden unit contributions•激活函数乘以个性化偏置•DNN网络乘用户个性化偏置•初始为1向量问题•单用户行为不足以保证收敛•不稳定的网络导致embedding变差•User bias vector缺少动态表征能力CTR模型全局网络+个性化局部网络•现有DNN网络stack用户网络•Resnet layer用户个性化偏置•LHUC算法•learning hidden unit contributions•激活函数乘以个性化偏置•DNN网络乘用户个性化偏置•初始为1向量问题•单用户行为不足以保证收敛•不稳定的网络导致embedding变差•User bias vector缺少动态表征能力Stacking 方法个性化偏置PPNet•全局共享为基础，个性化微调•设计gate网络拟合个性化偏置参数•Base网络不BP通用的提升模型个性化方法•与特征优化方法正交•DNN模型通用•多场景应用GPU加速预估服务•服务性能显著提升•机器成本优化•GPU预估PPNetCTR模型 PPNet（Parameter Personalized Net）多domain多任务学习框架04多domain多任务学习框架双列发现页底导精选发现页内流极速版业务背景多产品，多场景主站发现页主站精选发现页内流极速版发现页多人群新用户，老用户，etc.多交互几十个目标问题业务独占模型训练资源低效迭代低效业务间不共享网络不能动态建模目标，业务间关系老用户新用户低活用户多domain多任务学习框架业务背景多产品，多场景主站发现页主站精选发现页内流极速版发现页多人群新用户，老用户，etc.多交互几十个目标问题业务独占模型训练资源低效迭代低效业务间不共享网络不能动态建模目标，业务间关系精排模型预估目标（部分）多domain多任务学习框架业务背景多产品，多场景主站发现页主站精选发现页内流极速版发现页多人群新用户，老用户，etc.多交互几十个目标问题业务独占模型训练资源低效迭代低效业务间不共享网络不能动态建模目标，业务间关系目标：模型融合下多任务学习挑战•交互，样本，目标差异•特征语义差异•Embedding分布差异•特征重要性差异•多目标表征差异多domain多任务学习框架精排模型预估目标（部分）EVA model算法框架特征语义对齐•删减无用特征•改正语义不一致特征•添加单列播放列表类特征，交叉特征Embedding空间对齐•Embedding transform gate，直接学习映射关系特征重要性对齐•slot gate，参考业务，用户，视频，学习特征级别重要性目标个性化MMoE•以MMoE为基础，动态建模目标之间关系•每个task tower输入添加个性化偏置项多domain多任务学习框架EVA model多domain多任务学习框架算法框架特征语义对齐•删减无用特征•改正语义不一致特征•添加单列播放列表类特征，交叉特征Embedding空间对齐•Embedding transform gate，直接学习映射关系特征重要性对齐•slot gate，参考业务，用户，视频，学习特征级别重要性目标个性化MMoE•以MMoE为基础，动态建模目标之间关系•每个task tower输入添加个性化偏置项EVA model多domain多任务学习框架算法框架特征语义对齐•删减无用特征•改正语义不一致特征•添加单列播放列表类特征，交叉特征Embedding空间对齐•Embedding transform gate，直接学习映射关系特征重要性对齐•slot gate，参考业务，用户，视频，学习特征级别重要性目标个性化MMoE•以MMoE为基础，动态建模目标之间关系•每个task tower输入添加个性化偏置项EVA model多domain多任务学习框架算法框架特征语义对齐•删减无用特征•改正语义不一致特征•添加单列播放列表类特征，交叉特征Embedding空间对齐•Embedding transform gate，直接学习映射关系特征重要性对齐•slot gate，参考业务，用户，视频，学习特征级别重要性目标个性化MMoE•以MMoE为基础，动态建模目标之间关系•每个task tower输入添加个性化偏置项EVA model多domain多任务学习框架总结•模型融合，在离线一套模型•MMoE首次落地•全业务推全•交互涨幅显著短期行为序列建模05业务背景单双列业务下的用户行为序列差异单列更适合做E&ETransformer有效对文本序列建模Transformer序列模型Google于2017年提出替代RNN成为主流快手推荐情况用户行为特征占主导RNN表现不如sum pooling相关性大于时序性短期行为序列建模Transformer算法改进使用encoder部分•对历史序列进行表征使用用户视频播放历史序列•包含用户更多信息（观看时长，交互label）•不同业务语义一致Transformer layer self attention替为target attention•Self attention无明显收益•使用当前embedding层对sequence做attention•简化计算复杂度 O(n2d) -> O(nd)log(now - 视频观看时间戳) 代替position embedding•最近观看视频更相关，log处理更合适•更久之前观看视频体现用户长期兴趣分布短期行为序列建模EVA model长期行为序列建模06推荐系统短时记忆•信息茧房•推荐多样性建模用户多序列不同行为•Like follow forward等不同交互目标•不同目标稀疏程度不同•能捕捉到不同长度的用户兴趣偏好扩长用户交互历史序列•小时->年•万级别用户行为序列超长序列上如何建模？•短时Transformer收益显著•扩长list带来收益长期行为序列建模EVA model长期行为序列建模Transformer建模问题•结构限制：过长的 list 上收敛性不好•复杂度高：Target Attention 计算成本过高SIM•存储用户长期交互历史行为•GSU：基于item相似检索历史行为•ESU：基于GSU做MTASIM用户历史索引问题•扩展性差：对于后续的迭代不友好•类目问题：短视频类目精准度和覆盖率问题长期行为序列建模V1.0 基于Tag检索快手方案•独立存储方案：依托 AEP高密度存储设备直接存储用户超长行为历史•进一步完善类目体系•GSU检索采用回溯补全算法，最大路径匹配的算法衡量相似度；ESU采用短时Transformer方案项目难点：计算量增加•算法优化•合并相同Tag候选视频的搜索过程•提前建立类目倒排链，简化搜索流程•成本优化：利用线上 GPU 推理服务器的闲置 CPU 资源总结•SIM算法首次在短视频推荐落地•业界首次覆盖用户历史至年，数万级别•收益巨大，建立护城河•扩展到其他场景长期行为序列建模V1.0 基于Tag检索快手方案•独立存储方案：依托 AEP高密度存储设备直接存储用户超长行为历史•进一步完善类目体系•GSU检索采用回溯补全算法，最大路径匹配的算法衡量相似度；ESU采用短时Transformer方案项目难点：计算量增加•算法优化•合并相同Tag候选视频的搜索过程•提前建立类目倒排链，简化搜索流程•成本优化：利用线上 GPU 推理服务器的闲置 CPU 资源总结•SIM算法首次在短视频推荐落地•业界首次覆盖用户历史至年，数万级别•收益巨大，建立护城河•扩展到其他场景长期行为序列建模V1.0 基于Tag检索快手方案•独立存储方案：依托 AEP高密度存储设备直接存储用户超长行为历史•进一步完善类目体系•GSU检索采用回溯补全算法，最大路径匹配的算法衡量相似度；ESU采用短时Transformer方案项目难点：计算量增加•算法优化•合并相同Tag候选视频的搜索过程•提前建立类目倒排链，简化搜索流程•成本优化：利用线上 GPU 推理服务器的闲置 CPU 资源总结•SIM算法首次在短视频推荐落地•业界首次覆盖用户历史至年，数万级别•收益巨大，建立护城河•扩展到其他场景长期行为序列建模V2.0 基于Embedding距离检索V1.0的问题•路径长度：检索的视频粒度差异很大•节点距离：粒度太粗，兄弟节点距离•覆盖率不足思考检索核心不是完备的标签体系而是更好更高效的视频相似性检索方案优化方向•视频100%覆盖类目体系•类目细粒度表征•类目间距离可度量•高效用户长期兴趣建模长期行为序列建模V2.0 基于Embedding距离检索快手方案基于视频内容embedding聚类GSU检索算法1.优先聚类内视频2. 最近聚类补全近似做了余弦相似度检索又节省了余弦相似度计算量总结•快手特色的长期行为建模•收益巨大，建立护城河•扩展到其他场景类簇类簇目标视频用户历史行为快手精排模型•PPNet•多domain模型融合•多任务学习•短期行为序列建模•长期行为序列建模Put it together快手精排模型结构示意图千亿特征，万亿参数模型07特征规模限制精排模型迭代•模型收敛不稳定•模型更容易逐出低频特征•冷启动效果变差改进参数服务器（GSET）•更好的控制内存使用•定制feature score淘汰策略•效果优于LFU，LRU等淘汰策略•结合新的硬件：非易失内存（Intel AEP）•底层KV引擎NVMKV来支撑GSET1.9万亿参数模型全局贡献的嵌入表NVMKV索引和内存管理未来优化重点•模型融合•多任务学习•用户长短期兴趣建模&融合•用户留存建模总结和展望Thank you !欢迎加入我们牛亚男 niuyanan@kuaishou.com微信：elbasawiwasable非常感谢您的观看