基于知识图谱的商品营销文案自动生成实践.pdf

基于知识图谱的商品营销文案自动生成实践李浩然 京东科技|01 导言目录 CONTENT|02 基于商品要素的多模态商品文案生成03 基于电商知识图谱的商品文案生成04 基于通用知识图谱的商品文案生成05 基于领域知识的预训练语言模型导言01|导言——京东科技商品营销文案自动生成全景|输出模型卖点与要素输入品牌美的频率变频类型壁挂式商品知识图谱商详页文本商品标题商品图片电机静音温度能效清洁送风操纵环保节能省电高效低耗要素要素词卖点属性特性一级能效压缩机，节能省电颜色唯美绚丽白，点缀你的房间频率采用变频技术，快速制冷制热类型壁挂式空调，节省空间编码器文本编码器图片编码器解码器受限解码复制机制预训练语言模型标点纠错模型句间流畅度模型商品营销短文这款美的壁挂式空调，唯美绚丽白，点缀你的房间。搭载一级能效压缩机，节能省电。智能温控系统让你享受舒适环境。导言——京东科技商品营销文案自动生成的落地应用|京东APP发现好货社交APP京粉搭配购导购机器人单商品写作多商品写作直播机器人导言——可控文本生成持续火爆|02468101214ACL17EMNLP17ACL18EMNLP18ACL19EMNLP19ACL20EMNLP20ACL21EMNLP21# paper导言——如何做到可控文本生成|输入• 增删输入文本• 修改文本结构词表• 禁止非法文本• 鼓励优质文本模型• 改变编码器初始化• 改变解码器初始化• 添加辅助任务导言——商品营销文案自动生成面临的挑战|基础挑战Ø 重要性•描述重要性的内容Ø 非冗余性•避免重复的文本Ø 可读性•流畅的文本表达看起来像人写的进阶挑战Ø 多样性•内容不单调乏味Ø 忠实性•描述忠实于商品的信息，尤其是商品属性Ø 内容丰富性•提供丰富的信息，例如常识可控、可信解决方案Ø 基于商品要素和多模态的多样性控制Ø 基于商品知识图谱的忠实性控制Ø 基于通用知识图谱的内容丰富性控制Ø 基于领域知识预训练的拟人化控制多维度控制基于商品要素的多模态商品文案生成02|基于商品要素的多模态商品文案生成——多样 v.s. 单调|!"#$%&'()*+%&'基于商品要素的多模态商品文案生成——多模态+商品要素|商品多模态信息Ø 感性的人关注商品外观•商品外观关联图片信息Ø 理性的人关注商品功能•商品功能关联图片知识图谱商品要素归纳商品知识图谱Ø 重要性•描述重要的商品要素Ø 非冗余性•避免冗余的商品要素信息Ø 流畅性•流畅的商品要素表达!"#$%&'()*+,-./01234567-8#9.:;8<=>=>?基于商品要素的多模态商品文案生成——多模态|多模态商品文案生成模型Aspect-Aware Multimodal Summarization for Chinese E-Commerce Products. Haoran Li, Peng Yuan, Song Xu, Youzheng Wu, Xiaodong He, Bowen Zhou. AAAI 2020.基于商品要素的多模态商品文案生成——多模态|纯文本模型输出: 时尚的两件套设计，省去搭配的烦恼，穿出不同种类的风格，选用优质的针织面料，手感细腻，具有良好的亲肤效果，穿着舒适不紧绷。多模态模型输出：一款来自欧芮儿很时尚的套装，以橙色为主色调的条纹设计，靓丽吸睛，让你穿出不一样的时髦造型。针织的搭配，丰富视觉效果，凸显层次美感，木耳边的喇叭袖，增添潮流看点。结论：加 入 图 片后 ， 外 观描述增加051015家电服饰箱包ROUGE-2纯文本模型多模态模型多模态商品文案生成模型优于纯文本模型基于商品要素的多模态商品文案生成——商品要素|描述重要的商品要素020406080100家电服饰箱包重要要素%基线模型改进模型能效一级产品类型波轮能效三级产品类型子母双筒基于商品要素的多模态商品文案生成——商品要素|避免冗余的商品要素信息!",$=%&'tanh ,&-"./ + 1&ℎ$ + 3&4",$4",$ = 678/"./97,$:; = 6"8/'6$8/ 0基于通用知识图谱的商品文案生成04|基于通用知识图谱的商品文案生成————商品知识图谱与通用知识图谱的互联|基于通用知识图谱的商品文案生成————通用知识图谱编码|Token向量Token类别向量E类目E产品E产品E标题E标题E商详E商详E商详E商详E商知奶瓶奶瓶盖子原装杯盖纯天然材料制作橡胶E奶瓶E奶瓶E盖子E原装E杯盖E纯E天然E材料E制作E橡胶输入Encoder → Decoder弹性柔软E弹性E柔软E通知E通知通用知识图谱+Token类别向量基于通用知识图谱的商品文案生成————通用知识图谱|无通用知识图谱的模型输出: 迪奥的这款太阳镜，采用优质的树脂镜片，能够有效的阻挡太阳光的照射，为你带来更加舒适的视觉体验，时尚的方框设计，更好的修饰你的脸型，让你轻松成为人群中的焦点。使用通用知识图谱的模型输出: 采用金属材质打造的镜框，具有良好的抗冲击力。能够阻隔强光和有害光线对眼睛的伤害，带来舒适的佩戴体验。时尚的方框设计，有效修饰脸部轮廓，让五官看起来更加精致。通用知识图谱<太阳镜，目的，减轻眼睛的疲劳或强光刺激伤害>10111213家电服饰食品ROUGE-2无通用知识图谱使用通用知识图谱通用知识图谱为文本生成模型引入了更多知识基于通用知识图谱的商品文案生成————Token类别向量|无Token类别向量的模型输出: 大内存，高清通话。内置170毫安大电池，续航时间长达6小时，满足您长时间的使用需求。此外采用流线型下沉式设计，佩戴稳固舒适，运动时不易脱落，让户外运动更安全。加入Token类别向量的模型输出: 采用骨传导发声原理，内置降噪麦克风。这款耳机自带16G大内存，不带手机也能听歌，运动更畅快。支持蓝牙连接，摆脱了线的束缚，使用更方便。拥有长达15天的续航时间。商品标题蓝牙耳机运动跑步无线不入耳头戴挂耳式耳机适用于苹果华为小米描述产品词的比例Token类别向量区分输入信息类型，文本生成模型更精确描述商品类别基于领域知识的预训练语言模型05|基于领域知识的预训练语言模型——大模型参数的「新摩尔定律」|2016201720182019202020212022TransformerGPT-1BERTGPT-2Megatron LMMicrosoft T-NLGGTP-3P100 (12G)TPUv2(16G)v100(32G)TPUv3(32G)A100(40G)A100(80G)ALBERTELECTRATransformer Size: 240x /2 yrsAI HW Memory: 2x / 2 yrs0.010.1110100100010000年份参数量(Billion)GShardWudao 2.0在过去的几年里，大型语言模型的规模每年都以10倍的速度增长基于领域知识的预训练语言模型——从通用模型到面向知识的模型|通用语言模型预训练领域知识增强的语言模型预训练通用知识增强的语言模型预训练KGPTERNIE 3.0EmbeddingTransformer Block 1Transformer Block kLarge-ScaleText DataKnowledge GraphFew-shot LearningContinualLearningLanguageGenerationNetworkTransformer Block k+1Transformer Block nTransformer Block k+1Transformer Block nLanguageUnderstandingNetworkUniversalRepresentationTask-specificRepresentationFine-tuningZero-shot LearningK-PLUG模型中的领域知识BERTBART基于领域知识的预训练语言模型—— K-PLUG模型框架|(KMLM)(PEABD)(KMS2S)(PECC)(PEASG)Xu et. al., K-PLUG: Knowledge-injected Pre-trained Language Model for Natural Language Understanding and Generation in E-Commerce. EMNLP 2021 (Findings).定义领域知识•商品知识图谱•商品要素知识•商品类别知识•商品卖点知识围绕领域知识的预训练任务•知识掩码语言模型任务 (KMLM)•知识掩码文本生成任务 (KMS2S)•商品要素边界检测任务 (PEABD) •商品类别分类任务 (PECC) •商品卖点短语/...