python - requests如何在不下载响应体的情况下重用连接?
伊谢尔伦
伊谢尔伦 2017-04-18 10:00:58
[Python讨论组]

实际需求场景是想让爬虫只通过检验http的返回码,以此校验之前下载的某个资源是否还在线;因为并不需要下载响应体,所以使用了requests的Session对象并在动词方法中添加了stream = True的参数,如下:

    s = requests.Session()
    s.mount('http://', requests.adapters.HTTPAdapter(pool_connections=1, pool_maxsize=1))
    for i in range(20):
        url = "http://www.site.com/resources/%s" % i
        with closing(s.get(url, allow_redirects = False, stream = True)) as r:
            print r.status_code

因为启用了stream = True模式,未下载响应体的情况下,连接不会关闭,肯定是无法重用连接池中的连接了,可是强制关闭连接的话,日志输出是这样:

INFO - connectionpool.py[249] - Resetting dropped connection: www.site.com

感觉这个“Resetting dropped connection”跟文档里写的不太一致呢? requests的文档中写道:

如果你在请求中把 stream 设为 True,Requests 无法将连接释放回连接池,除非你 消耗了所有的数据,或者调用了 Response.close。

文档说关闭响应后Requests应该被“释放回连接池”,但实际上它是被关闭然后再需要时被“重新设置”了,跟不加stream = True参数时,“无缝”重用似乎是不一样的。

那么究竟该怎么做才能做到既不下载相应体,又能重用连接呢?还有关闭请求、关闭连接应该是一回事吧?

伊谢尔伦
伊谢尔伦

小伙看你根骨奇佳,潜力无限,来学PHP伐。

全部回复(1)
怪我咯

没太看懂问题,但是根据需求,可以看下HTTP 协议的 HEAD 方法

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号