- 1、本文档共38页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
大数据场景下主题检索应用
重点及主要技术名词解释
Topic Model在企业的实际场景中如果遇到亿级数
据该如何处理?如何利用有限的计算集群资源处理
超大的文集,我们将围绕这一难题向大家介绍LDA
主题模型训练系统以及它在线上预测时需要面对的
问题和解决办法
PLS|:潜在语义检索
LDA Latent dirichlet allocation
MP|:基于消息通讯的分布式计算平台
Perplexity:混杂度,常用于度量主题模型训练的
效果
双工通信:同时收取和发送数据
soo搜狗
内容提要
丶主题检索模型理论基础
大数据场景下的挑战
构建一个高效的训练系统
模型在商业广告检索中的应
用
soo搜狗
LDA的提出
LDA与PLSA同属 topic model,其目标
是相同的。
问题提出:如何在语义层面对文本集
(离散数据集)进行建模。
soo搜狗
发展过程—VSM
向量空间模型是一个开创性的概念:
优点:文档可以被表示成一个实数向量;不同长度的
文档都能够被表示成定长的数列;引入与向
量相关的计算方法。
问题:文档被映射在词空间,向量维度太高
理解能力弱,对语义分析的支持不强。
soo搜狗
文档评论(0)