python - 关于pyspdier的result_worker
PHP中文网
PHP中文网 2017-04-18 10:25:14
[Python讨论组]

pyspdier的 result_worker感觉比较鸡肋,一般大量数据爬取不会存到数据库,而是序列化到磁盘。那么result_worker的设计方向是否变化一下?从原来的存储爬取结果,变成一些爬取结果情况的统计信息,比如一段时间内某个project的爬取成功,失败数量,抛出result数量。如果支持一些图表化更好了。

PHP中文网
PHP中文网

认证高级PHP讲师

全部回复(0)
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号