python - pyspider scheduler 停止调度,重启时间长.
大家讲道理
大家讲道理 2017-04-18 10:04:38
[Python讨论组]
大家讲道理
大家讲道理

光阴似箭催人老,日月如移越少年。

全部回复(2)
巴扎黑

scheduler 停止调度是所有 project 都停止调度还是你尝试重启的那个停止调度?

追踪 scheduler 日志关于 project %s updated, status:%s, paused:%s, %d tasks 的内容,看看 schduler 是否得知 project 状态已改变。

unknown project 如果 project 确实存在,是不应该出现的
not processing pack 是正常的,scheduler 重启后,先前分发的任务就没法追踪了
启动时 scheduler 需要从数据库中恢复所有活动任务的状态,如果任务很多确实会比较耗时

巴扎黑

这个问题已经找到,pyspider的源码中database下的mongodb下的statusdb的status_count查询在数据量特别大的情况下查询非常慢,会造成调度器启动特别长

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号