Python爬虫,做了一个爬取百度贴吧中的数据,每次只能获取每一页的前几个数据,后面的都获取不了?
阿神
阿神 2017-04-17 16:47:36
[Python讨论组]
阿神
阿神

闭关修行中......

全部回复(2)
天蓬老师

没具体测试过,不过百度限制你是肯定的,这时候你只能找(买)高匿代理IP来做。
之前抓过淘宝的数据,一样也有限制(频率/数量),用高匿IP完美解决,便宜的,10块钱买2万个。

巴扎黑

写成分布式, 主控节点分析url,存储处理结果,爬取分给客户机,然后建个群,每个人运行一下客户端脚本

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号