当前位置: 首页 > 科技成果列表 > 科技成果详细

一种基于卷积神经网络的图像爬虫优化方法

技术类型:发明专利

技术成熟度:研发

转让方式:技术转让、技术许可、技术入股

专利申请日:2016-09-22

专利所属地 :中国

专利号:CN201610839591.0

应用领域:通用仪器仪表制造

技术领域:电子信息

交易价格:面议专利价值评估

应用案例:否

了解与分析本科技成果,可查看成果概况并使用以下技术转移数智化应用工具:
成果概况
简介

一种基于卷积神经网络的网络爬虫优化方法,具体步骤如下:

  1. 利用网络爬虫从各网站抓取初始数据,并人工将其分为无噪声数据集(FreeNoisy)和完全噪声数据集(PureNoisy)。

  2. 使用初始数据集对NoisyCNN网络进行训练。

  3. 通过网络爬虫搜集大量目标分类的图像数据,针对主流搜索引擎和图像分享网站,并定期执行以下步骤。

  4. 使用NoisyCNN网络对搜集到的数据进行筛选,将数据分为弱噪声数据集(WeakNoisy)和完全噪声数据集(PureNoisy)。

  5. 使用扩充后的数据集更新NoisyCNN网络。

  6. 判断Pure_Noisy数据集的量是否合理,据此决定是否继续执行爬虫。

  7. 当满足条件时停止爬虫。

该方法能有效减少数据噪声,提高工作效率。

(此文字表达经过AI优化完善,查看原文请点击 原文)
专利基本信息
专利名称 一种基于卷积神经网络的图像爬虫优化方法
专利状态 - 专利号(申请号) CN201610839591.0
申请号 - 专利申请日期 2016-09-22
专利授权日期 2017-03-15 专利权届满日 -
专利所属地 中国 专利类型 发明专利
发明人 傅晨波;肖浩泉;宣琦;方宾伟;王金宝;郑雅羽;俞立
权利人 -
专利摘要 一种基于卷积神经网络的网络爬虫优化方法,包括以下步骤:1)利用网络爬虫从各网站爬取初始数据,人工将数据分为无噪声数据集Free_Noisy和完全噪声数据集Pure_Noisy;2)使用初始数据集训练NoisyCNN网络;3)利用网络爬虫开始对主流搜索引擎和图像分享网站中搜集大量目标分类的图像数据,同时定期执行步骤4;4)利用NoisyCNN网络对数据筛选,将数据将分为Weak_Noisy和Pure_Noisy;5)使用扩充后数据更新NoisyCNN网络;6)判断Pure_Noisy数据量是否合理,决定是否继续爬虫;7)停止爬虫。本发明能有效减少数据噪声、提升工作效率。
成果评价分析
技术应用分析
服务案例
Baidu
map