核心原因是默认连接池和超时策略不适用代理探测场景,需严格控制并发、设置单独超时、捕获异常、禁用DNS缓存、校验代理格式、分批执行、及时释放响应、选用合适检测地址并放宽判断逻辑。

asyncio + aiohttp 批量测代理时为什么总卡住或报错 ClientConnectorError
核心原因是默认的连接池和超时策略不适用于代理探测场景:代理本身不稳定,大量并发下容易触发底层 TCP 连接耗尽、DNS 解析阻塞或远程服务器直接拒绝。不显式控制并发数、超时、重试和异常捕获,aiohttp.ClientSession 会堆积 pending task,最终整个协程挂起或抛出难以定位的底层错误。
实操建议:
立即学习“Python免费学习笔记(深入)”;
- 用
asyncio.Semaphore严格限制并发请求数(通常 50–100 较稳妥,过高反而因代理响应慢导致队列雪崩) - 每个请求必须单独设置
timeout:用aiohttp.ClientTimeout(total=5, connect=3),避免单个坏代理拖垮全部任务 -
ClientConnectorError、ServerDisconnectedError、TimeoutError必须在try/except中捕获并标记为“不可用”,不能让异常冒泡中断整个批次 - 禁用 DNS 缓存:初始化
ClientSession时传入connector=aiohttp.TCPConnector(use_dns_cache=False),防止旧 DNS 记录干扰新代理测试
代理 URL 格式不对导致 aiohttp 直接忽略代理参数
aiohttp 对代理地址格式极其敏感——它不接受带认证信息的完整 URL(如 http://user:pass@host:port)作为 proxy 参数,也不支持 socks5h。若格式错误,请求会静默走直连,你以为在测代理,其实根本没走。
实操建议:
立即学习“Python免费学习笔记(深入)”;
- HTTP/HTTPS 代理:只传协议+主机+端口,如
"http://127.0.0.1:8080";认证必须拆成proxy_auth=aiohttp.BasicAuth("user", "pass") - SOCKS5 代理:必须用
aiohttp_socks第三方库,且初始化ClientSession时用connector=ProxyConnector(...),不能靠proxy=参数 - 测试前先用
urllib.parse.urlparse(proxy_url)校验 scheme 是否为http或https,避免字符串拼接出http://http://...这类低级错误
为什么用 asyncio.gather() 跑几百个代理会内存暴涨甚至 OOM
因为 asyncio.gather() 会把所有协程对象一次性注册进事件循环,即使加了 Semaphore,Python 的协程对象本身仍驻留内存,加上每个 aiohttp.ClientResponse 默认缓存 body,批量处理数百代理时,未及时 .close() 或 await .text() 后丢弃响应体,内存占用会线性增长。
实操建议:
立即学习“Python免费学习笔记(深入)”;
- 别用
gather直接包所有任务,改用asyncio.create_task()配合as_completed或手动分批(例如每 20 个一组await asyncio.gather(*batch)) - 响应体只读必要字段:
await resp.text()[:100]或直接检查resp.status == 200,避免await resp.read()加载整页内容 - 每个请求结束后务必调用
resp.close(),或用async with session.get(...) as resp:确保自动清理 - 启动前设硬限制:
asyncio.set_event_loop_policy(asyncio.WindowsSelectorEventLoopPolicy())(Windows)或确保 Linux 上 ulimit -n 足够大(≥ 4096)
结果误判:明明代理通了却标为“失败”
常见于目标检测地址选得不合理。比如用 http://httpbin.org/ip 测试,但某些代理会拦截或重写 Referer/UA,触发 httpbin 的反爬返回 403;又或者代理本身是高匿但强制跳转到登录页,返回 302 而非 200,代码只认 status == 200 就判失败。
实操建议:
立即学习“Python免费学习笔记(深入)”;
- 检测地址优先选轻量、无重定向、无 UA/Referer 检查的服务,如
http://www.baidu.com(看是否返回 200)或自建一个返回纯文本OK的 endpoint - 判断逻辑放宽:接受
2xx和3xx(排除 302 到登录页的情况),再加一层内容校验,比如"OK" in await resp.text() - 记录原始
resp.status和resp.headers.get("Via"),调试时能快速区分是代理转发失败,还是目标站主动拦截 - 对 HTTPS 代理,必须用
https://地址测试,否则可能因 TLS 握手失败被误判(HTTP 代理对 HTTPS 请求仅做 CONNECT,不解析内容)
真正难的不是并发发请求,而是让每个请求在不可靠网络里有明确的生死判决边界:超时怎么切、错误怎么分、响应怎么裁、资源怎么收。漏掉任意一环,批量测试就从工具变成定时炸弹。


















