您所在的位置： 首页 > 专利技术 > 正文
专利基本信息
专利名称 一种深度动态上下文词语表示的方法及计算机
专利状态 - 专利号（申请号） CN110222349B
专利申请日期 2019-06-13 专利类型 发明专利
申请公布号 2019105112114 申请公布日 2019-06-13
授权公告号 - 授权公告日 -
发明人 熊熙;袁宵;琚生根;李元媛;孙界平
专利权人 成都信息工程大学
专利摘要 本发明属于计算机词语表示技术领域,公开了一种深度动态上下文词语表示的模型及方法,所述深度动态上下文词语表示的模型为带层注意力机制的多层双向Transformer编码器堆叠成的遮蔽语言模型;是多层神经网络,网络每一层从不同的角度捕获输入语句中每个单词的上下文信息;然后通过一个层注意力机制给予网络每一层不同的权重;最终根据权重把不同的词语表示综合起来形成词语的上下文表示。使用该模型生成的词语表示在公开数据集上进行了逻辑推理(MultiNLI)、命名实体识别(CoNLL2003)和阅读理解任务(SQuAD)三项任务,比现有模型分别提升了2.0%、0.47%和2.96%。
专利价值评估分析
专利价值评估分析 样例
相关推荐
技术专利 技术专家 技术成果
试剂滴加杯
专利号：2019102819602
发明专利
一种基于固氮冷却介质制备的低温装置
专利号：ZL202111163969.7
发明专利
一种洗鞋机
专利号：202520654594.1
实用新型专利
一种用于风机叶片缺陷检测的热成像图像增强训练方法和装置
专利号：ZL202110643548.8
发明专利
一种商品销售柜及商品销售方法
专利号：202410532636.4
发明专利
一种拖拉机悬挂限位装置
专利号：ZL2025 2 1607929.0
实用新型专利
巯基木质纤维素/蒙脱土复合重金属吸附剂及制备与应用
本发明提供了一种巯基木质纤维素/蒙脱土复合重金属吸附剂及制备与应用。该吸附剂是由巯基木质纤维素与蒙脱...
行业：合成材料制造
家畜S2疫苗免疫与羊/牛种布鲁氏菌感染的IELISA检测试剂
本发明提供一种家畜S2疫苗免疫与羊/牛种布鲁氏菌感染的IELISA检测试剂,所述IELISA检测试剂...
行业：工业与专业设计及其他专业技术服务
天然铁强化食品制备关键技术与应用
铁螯合物是一种理想的补铁剂， 本产品主要以海洋动植物蛋白为原料， 经前处理、双酶解、膜分离等技术手段...
行业：其他食品制造
一种快速室内鉴定向日葵抗列当水平的方法
本发明涉及一种室内条件下快速诱导向日葵列当萌发的方法,即培养皿滤纸法,及其在向日葵抗列当水平鉴定中的...
行业：谷物种植
富产胞外多糖的嗜热链球菌的快速筛选方法及实现所述方法的联合基因核酸序列
本发明提供含有嗜热链球菌的功能基因epsA、epsC和epsD的联合基因核酸序列在筛选富产胞外多糖的...
行业：其他农副食品加工
多层数据安全加密手段的私有云备份机制
本发明涉及数据备份技术领域,特别是一种多层数据安全加密手段的私有云备份机制,该机制将多层加密过程与云...
行业：软件开发
Baidu
map