扫码关注官方订阅号
scrapy 运行单个spider的时候,是不是只能利用单核资源?
如何能使其充分利用多核资源?
由于主流Python实现CPython的GIL,导致Python多线程效率问题,如果要充分利用多核资源,还是建议使用多进程来协同工作。
可以考虑gevent ,针对爬虫这种网络IO密集型的。效率会很高
微信扫码关注PHP中文网服务号
QQ扫码加入技术交流群
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
PHP学习
技术支持
返回顶部
由于主流Python实现CPython的GIL,导致Python多线程效率问题,如果要充分利用多核资源,还是建议使用多进程来协同工作。
可以考虑gevent ,针对爬虫这种网络IO密集型的。效率会很高