您所在的位置： 首页 > 专利技术 > 正文
专利基本信息
专利名称 一种深度动态上下文词语表示的方法及计算机
专利状态 - 专利号（申请号） CN110222349B
专利申请日期 2019-06-13 专利类型 发明专利
申请公布号 2019105112114 申请公布日 2019-06-13
授权公告号 - 授权公告日 -
发明人 熊熙;袁宵;琚生根;李元媛;孙界平
专利权人 成都信息工程大学
专利摘要 本发明属于计算机词语表示技术领域,公开了一种深度动态上下文词语表示的模型及方法,所述深度动态上下文词语表示的模型为带层注意力机制的多层双向Transformer编码器堆叠成的遮蔽语言模型;是多层神经网络,网络每一层从不同的角度捕获输入语句中每个单词的上下文信息;然后通过一个层注意力机制给予网络每一层不同的权重;最终根据权重把不同的词语表示综合起来形成词语的上下文表示。使用该模型生成的词语表示在公开数据集上进行了逻辑推理(MultiNLI)、命名实体识别(CoNLL2003)和阅读理解任务(SQuAD)三项任务,比现有模型分别提升了2.0%、0.47%和2.96%。
专利价值评估分析
专利价值评估分析 样例
相关推荐
技术专利 技术专家 技术成果
一种风机主控桨距及转矩指令处理系统
专利号：ZL202010899714.6
发明专利
一种制备硬炭微球的方法
专利号：ZL202111152692.8
发明专利
一种键盘（金左手键盘）
专利号：专 利 号：ZL202122053449.2
实用新型专利
吡喹酮粒度的光散射检测法
专利号：201910395270X
发明专利
一种基于深度学习的旋转机械轴心轨迹识别方法
专利号：ZL202110056799.6
发明专利
一种锂电池用硫酸乙烯酯的制备方法
专利号：ZL202111304960.3
发明专利
一种新型改性木材及其制备方法
本发明提供了一种新型改性木材及其制备方法。该制备方法首先是将甲醛溶液和尿素混合配制成溶液并加入弱酸或...
行业：谷物磨制
家畜S2疫苗免疫与羊/牛种布鲁氏菌感染的IELISA检测试剂
本发明提供一种家畜S2疫苗免疫与羊/牛种布鲁氏菌感染的IELISA检测试剂,所述IELISA检测试剂...
行业：工业与专业设计及其他专业技术服务
巯基木质纤维素/蒙脱土复合重金属吸附剂及制备与应用
本发明提供了一种巯基木质纤维素/蒙脱土复合重金属吸附剂及制备与应用。该吸附剂是由巯基木质纤维素与蒙脱...
行业：合成材料制造
天然铁强化食品制备关键技术与应用
铁螯合物是一种理想的补铁剂， 本产品主要以海洋动植物蛋白为原料， 经前处理、双酶解、膜分离等技术手段...
行业：其他食品制造
一种快速室内鉴定向日葵抗列当水平的方法
本发明涉及一种室内条件下快速诱导向日葵列当萌发的方法,即培养皿滤纸法,及其在向日葵抗列当水平鉴定中的...
行业：谷物种植
一种选择性计数酸奶中保加利亚杆菌的方法
本发明涉及一种选择性计数酸奶中保加利亚杆菌的方法,该方法包括选择适于保加利亚乳杆菌生长的选择性计数培...
行业：饮料制造
Baidu
map