一种基于卷积神经网络的网络爬虫优化方法,具体步骤如下:
利用网络爬虫从各网站抓取初始数据,并人工将其分为无噪声数据集(FreeNoisy)和完全噪声数据集(PureNoisy)。
使用初始数据集对NoisyCNN网络进行训练。
通过网络爬虫搜集大量目标分类的图像数据,针对主流搜索引擎和图像分享网站,并定期执行以下步骤。
使用NoisyCNN网络对搜集到的数据进行筛选,将数据分为弱噪声数据集(WeakNoisy)和完全噪声数据集(PureNoisy)。
使用扩充后的数据集更新NoisyCNN网络。
判断Pure_Noisy数据集的量是否合理,据此决定是否继续执行爬虫。
当满足条件时停止爬虫。
该方法能有效减少数据噪声,提高工作效率。
| 专利名称 | 一种基于卷积神经网络的图像爬虫优化方法 | ||
|---|---|---|---|
| 专利状态 | - | 专利号(申请号) | CN201610839591.0 |
| 申请号 | - | 专利申请日期 | 2016-09-22 |
| 专利授权日期 | 2017-03-15 | 专利权届满日 | - |
| 专利所属地 | 中国 | 专利类型 | 发明专利 |
| 发明人 | 傅晨波;肖浩泉;宣琦;方宾伟;王金宝;郑雅羽;俞立 | ||
| 权利人 | - | ||
| 专利摘要 | 一种基于卷积神经网络的网络爬虫优化方法,包括以下步骤:1)利用网络爬虫从各网站爬取初始数据,人工将数据分为无噪声数据集Free_Noisy和完全噪声数据集Pure_Noisy;2)使用初始数据集训练NoisyCNN网络;3)利用网络爬虫开始对主流搜索引擎和图像分享网站中搜集大量目标分类的图像数据,同时定期执行步骤4;4)利用NoisyCNN网络对数据筛选,将数据将分为Weak_Noisy和Pure_Noisy;5)使用扩充后数据更新NoisyCNN网络;6)判断Pure_Noisy数据量是否合理,决定是否继续爬虫;7)停止爬虫。本发明能有效减少数据噪声、提升工作效率。 | ||