您所在的位置: 首页 > 专利技术 > 正文
专利基本信息
专利名称 一种通用主题嵌入模型联合训练方法
专利状态 - 专利号(申请号) CN108549718B
专利申请日期 2018-04-23 专利类型 发明专利
申请公布号 2018103684256 申请公布日 2018-04-23
授权公告号 - 授权公告日 -
发明人 顾荣;黄宜华;赵博;肖倩;袁春风
专利权人 南京大学
专利摘要 本发明公开了一种通用的主题嵌入模型联合训练方法,包括以下步骤:第一步对输入的原始文档语料进行预处理得到目标文本;第二步对目标文本构建词汇表;第三步初始化网络结构,对模型的参数矩阵进行初始化,并构建负采样表;第四步对主题嵌入模型联合建模、分多次迭代训练模型。每一次迭代过程分为以下三步:第一步,采用期望最大化算法训练主题模型部分;第二步,采用随机梯度下降算法训练嵌入模型部分;第三步,采用完全梯度下降算法训练正则化项部分。本发明可提供一种通用的方式将主题模型与嵌入模型联合训练,解决现有的模型组合方式过于依赖特有模型、通用性不足,很难同时提升两种模型等问题。
专利价值评估分析
相关推荐
Baidu
map