淘宝首页猜你喜欢信息流推荐长序列建模实践.pdf

葛均锋(北黎)手淘首页猜你喜欢猜你喜欢:淘宝推荐长序列建模实践日期：2021/08/15手淘推荐业务与技术简介010203LALI: 粗排中的长序列优化实践ETA: 端到端的精排长序列建模CONTENTS01 / 手淘推荐业务与技术简介首页首猜直播短视频会场最大流量入口每天服务数亿用户最大成交渠道之一每天数百亿曝光最复杂业务形态几十种内容和数百场景最复杂技术场景大数据+算法驱动召回粗排CTRCVR停留时间二跳价值加购率……LTR多目标排序上下文重排多内容混排端上重排云端手机端结合粗排与精排模型，介绍我们在用户长序列建模方面的一些工作～10!～10"～10#～10$～10#精排～10$1. LALI: 粗排中的长序列优化实践•双塔内积粗排的背景：•海量item打分， 网络通信、特征生成、模型计算等成为瓶颈•通过分离部署，提升打分性能，可支持十万量级打分•用户侧在线计算，一次前向•商品侧离线计算•双塔内积的问题：•表达能力限制•部署一致性要求高•粗排的设计理念：•模型结构拆分在离线子图，存储换计算•除了内积一切时间允许的算子都可以使用，更好的拟合交叉特征建模能力（wide，MLP, 多向量等）•召回、粗排、精排打分链路的一致性以及无偏学习接下来主要介绍我们如何在粗排上实现对用户超长序列的建模双塔模型中的序列建模：•常规方法依赖大量交叉特征，使用双塔模型效果不好•序列建模方式：transformer, GRU, LSTM等， 效果与精排auc差距可以接受•序列建模适合用户行为session一致性较高的数据分布模型AUC随用户序列长度的 变化1年内平均用户序列长度随时间的变化•用户序列拉长能带来更好的效果，但是transformer 难以支持•粗排打分用户侧无法感知打分商品，无法进行在线的检索简化解法：•长期兴趣表征离线计算，用户侧也增加离线计算单元•在线以存储换计算，减少性能开销𝐿𝑜𝑔𝑖𝑡 = 𝑠𝑖𝑔𝑚𝑜𝑖𝑑 𝑙𝑖𝑛𝑒𝑎𝑟( 𝑠𝑖𝑚 𝑈𝑟eal𝑡𝑖𝑚𝑒, 𝐼 ,𝑠𝑖𝑚 𝑈𝑎𝑤𝑎𝑟𝑒, 𝐼 ,𝑤𝑖𝑑𝑒_𝑓𝑒𝑎𝑡𝑢𝑟𝑒)𝑠𝑖𝑚(𝑈, 𝐼) =𝑣𝑒𝑐!"#$||𝑣𝑒𝑐!"#$||%𝑣𝑒𝑐&'#(||𝑣𝑒𝑐&'#(||%实时向量与商品向量内积LALI用户向量与商品向量内积wide层交叉特征建模思路•从双塔模型到三塔模型：•用户分类目长期行为表征向量（离线计算）•用户实时行为表征向量（在线计算）•商品表征向量（离线计算）•离线根据打分类目指定用户长期行为学习用户表征，端到端训练•在线部署拆图，用户侧增加离线计算. ü 召回引擎( BE)框架对粗排模型极致化拆图/合图重构，新增了LALI用户激活模块，在线latency仅增长3ms，在线机器也几乎无增长ü 淘宝实际业务中收益显著，同时对用户长期兴趣进行了更好的满足。03 /ETA: 端到端的精排长序列建模��1��2��3？•用户历史行为中，每个行为的重要性和强度怎么样？•用户的历史行为中，与目标商品是否有相似行为，相似度怎么样？•用户历史行为中，除了目标商品，其他在关注的兴趣是什么？Behavior Sequence Transformer for E-commerce Recommendation in Alibaba， KDD 2019Transformer�����User Behavior SequenceUser Multi Interest�����Target AttentionUser Activation InterestTarget ItemTarget Attention 长序列建模的局限性：•Target Attention建模打分商品和用户行为交叉的方式效果显著，但计算开销大，限制其对超长序列建模。•Target Attention本质上是在在用户历史行为序列中寻找目标商品的相似匹配， 计算开销主要是内积，并且SoftMax之后更加关注TopK近邻，sim中类目匹配的方式也是一种hard 的attention方式。•我们的思考：能不能在用户大规模超长序列上，设计更高效的TargetAttention算子，同时能端到端的训练和建模超长序列，譬如对emb降维快速计算内积现有长序列建模方法是两阶段的，无法进行端到端训练l基于向量检索的方法（SIM-soft)：•近似检索，注重效率，•离线构架索引，向量非端到端学习l结构化属性倒排索引(SIM-hard, UBR4CTR, LALI)l如商品推荐的类目体系离线构建倒排索引, 根据待打分的User和目标商品类目，检索出对应的同类目子序列。l人工设计的结构化属性与点击率/转化率的预估目标有较大的Gap。l内容推荐、短视频推荐没有商品推荐中比较规范的类目结构化属性。1.Pi, Q., Zhou, G., Zhang, Y., Wang, Z., Ren, L., Fan, Y., Gai, K. Search-based User Interest Modeling with Lifelong Sequential Behavior Data for Click-Through Rate Prediction2.2. Jiarui Qin, Weinan Zhang, Xin Wu, Jiarui Jin, Yuchen Fang, Yong Yu. User Behavior Retrieval for Click-Through Rate Predictionl降维思路：l直接对emb降维，损失精度，效果很差lLocality-sensitive hashing (LSH) 是⼀种⾼维向量空间快速检索K近邻的⽅法, 可通过多轮lsh提升精度，SimHash是其⼆值化的特殊形式。lSimHash Attention: 采⽤Multi-Round LSH进⾏多轮Hash，hash的结果取值是0或1的⼆进制位，采⽤⽤HanmingDistance度量（⼆进制运算 Xor+Count）l优势：将内积Attention转化为LSH based Attention，Query通过复杂内积运算对Keys检索的过程转化为⾼效的⼆进制运算。SimHash 基本原理：两个向量可以在⼀个⼆分类的球⾯上多次旋转投影，越相似的向量在多次旋转投影中落到同⼀个分类⾯的概率就越⼤𝐿𝑇𝐼 𝐸+, 𝐸, = 𝑇𝐴 𝐸+, 𝐸-.𝐸,. = 𝑒/, 𝑒0, … 𝑒1 2𝑒3 ∈ 𝑡𝑜𝑝𝑘(𝐻𝑎𝑚𝑚𝑖𝑛𝑔𝐷𝑖𝑠𝑡𝑎𝑛𝑐𝑒(ℎ3, ℎ+))ℎ3 = 𝑆𝑖𝑚𝐻𝑎𝑠ℎ 𝑊1𝑒3 , ℎ+ = 𝑆𝑖𝑚𝐻𝑎𝑠ℎ 𝑊4𝑒+ ,• 端到端训练与梯度更新ETA每次前向计算都对Attention Query和Keys进⾏SimHash编码。内积Attention部分进⾏梯度回传和更新。• 在线部署加速优化预先计算每个商品表示QK变换后的hash指纹，通过log(𝐷)个int64来表示存储在Embedding Table中. 在线⽆需计算hash编码。• Long-term Interest Extraction Unitü Step1: ETA 将昂贵的内积运算对Keys检索的过程转化为⾼效的⼆进制运算。Ο 𝐵 ∗ 𝐿 ∗ 𝐷 → Ο 𝐵 ∗ 𝐿 ∗ 𝑚 , 𝑚 ≪ 𝐷ü Step2: 对每个Query检索出来的TopK个相似结果进⾏精细内积Attention。离线实验在线实验模型在手淘首页信息流推荐全量，实际工业应用中支持上万序列是目前线上排序主模型。End-to-End User Behavior Retrieval in Click-Through Rate Prediction Model .https://arxiv.org/pdf/2108.04468.pdf实验基于淘宝数据集， 序列长度1024不同长序列建模方法的分析总结B: Batch Size，L: sequence length , d: embedding dimension, M: Inverted index size , m: dim of hash fingerprint与原生TA效果对比THANKS