python - 关于豆瓣爬虫在ubuntu系统与windows上不同的问题。
PHP中文网
PHP中文网 2017-04-17 16:53:43
[Python讨论组]
PHP中文网
PHP中文网

认证高级PHP讲师

全部回复(1)
怪我咯
import requests
import httplib

httplib.HTTPConnecttion.debuglevel=1

r = requests.get("http://movie.douban.com/subject/24751756/")
print r.text

在我的机器下(OS X)跑,也是403,

由send的header头里面可以看出来User-Agent是python-requests,所以把User-Agent改成

headers = {
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_1) AppleWebKi \
                    t/537.36 (KHTML, like Gecko) Chrome/47.0.2526.73 Safari/537.36'
}

r = requests.get("http://movie.douban.com/subject/24751756/", headers=headers)

再次请求就成功了。

试着用httplib打印出调试信息,对比下两个平台的发送请求的数据是否一样

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号