node.js - 【求解】nodejs豆瓣小组爬虫分析与解决。
PHP中文网
PHP中文网 2017-04-17 11:16:39
[Node.js讨论组]

豆瓣小组地址:
http://www.douban.com/group/ (采用 request、http.get全部是403错误)
(ALL)具体小组地址:
http://www.douban.com/group/小组ID/
例如:分页地址
http://www.douban.com/group/kaopulove/discussion?start=数字(采用 request、http.get,还是TM403错误)
该小组下的具体主题地址:
http://www.douban.com/group/topic/54905582/(采用 request、http.get,吐血还是403错误)

大伙有没有相应的解决方案呢?demo 等等之类的,这TM的全是403错,这是为毛呢!!
电影的那个爬虫我看过了,测试了是可以爬的。为毛小组爬不了呢?
我也看了不少Python写的爬虫都有爬小组的。为毛nodeJS不行呢?

PHP中文网
PHP中文网

认证0级讲师

全部回复(3)
PHPz

User-Agent修改了没有,
Cookie有没有禁止掉,
时间设置了没有,不要影响别人正常使用

PHPz

豆瓣采集(按小组)爬虫
http://www.shenjianshou.cn/index.php?r=market/configDetail&pid=12

怪我咯

爬豆瓣应该没问题的,这里爬取IMDB相关界面。。。https://github.com/RocketV2/n...

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号