雷达财经 04-02
deepseek公布广度数据采集方法专利
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

雷达财经讯   天眼查财产线索信息显示,近日,deepseek 关联公司杭州深度求索人工智能基础技术研究有限公司申请的 " 一种广度数据采集的方法及其系统 " 专利公布。

摘要显示,本发明涉及数据采集领域,包括建立网页元信息库;确定每日调度单元下载配额及当日下载总额度;从网页元信息库中选取相应数量的链接,分配下载额度;下载过程控制;下载文本进行后处理及数据清洗后进入回灌队列,通过信息回灌实现网页元信息库更新。本发明的有益效果在于:发现尽可能多的网页链接,并减少对网站的流量冲击;对已经下载的内容进行分析,对未下载的连接进行质量推断,通过择优下载分配额度的方式,减少低质量网页下载和重复下载,提高数据质量及下载效率,减少在数据采集过程中网络资源的消耗;采用单独的信息回灌队列,保证网页元信息库修改操作的原子性和稳定性。

沟通、交流、进读者群、寻求授权,请加雷达学妹(微信:leidaxuemei),线索、爆料,请发送至邮箱:leidacj@163.com。更多精彩:欢迎扫码关注雷达财经微信:

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

专利 微信 人工智能 雷达 效果
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论