讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用 Python 逐行读取 URL 列表并批量解析网页内容

落枫小哥_7751

落枫小哥_7751

发布时间:2026-01-17 13:23:02

|

783人浏览过

|

来源于php中文网

原创

如何使用 Python 逐行读取 URL 列表并批量解析网页内容

本文详解如何修正 `readlines()` 后仅处理最后一个 url 的常见错误,通过将请求与解析逻辑正确嵌入 for 循环,实现对文本文件中每个 url 的独立抓取、解析与结果追加写入。

你的原始代码中,for link in linksList: 循环仅执行了 url = link 这一行赋值,而后续所有网络请求(requests.get(url))、HTML 解析及文件写入逻辑均位于循环外部——这意味着无论 linksList 中有多少 URL,程序只会用最后一次循环赋值的 url(即最后一行)执行一次完整流程。

要真正实现“逐个解析每个 URL”,必须将整个数据提取逻辑(包括请求、状态判断、解析、写入)全部移入 for 循环体内。以下是优化后的完整可运行代码:

import requests
from bs4 import BeautifulSoup

def news():
    try:
        with open('list.txt', 'r', encoding='utf-8') as f:
            links_list = [line.strip() for line in f if line.strip()]  # 去除空行和换行符

        with open("Websites.txt", "a", encoding='utf-8') as output_file:
            for link in links_list:
                print(f"Processing: {link}")
                try:
                    resp = requests.get(link, timeout=10)
                    if resp.status_code == 200:
                        soup = BeautifulSoup(resp.text, 'html.parser')
                        # 定位目标容器(注意:返回 None 时需判空)
                        container = soup.find("div", {"class": "m-exhibitor-entry__item__body__contacts__additional__website"})
                        if container:
                            for anchor in container.find_all("a"):
                                if anchor.text.strip():
                                    output_file.write(anchor.text.strip() + "\n")
                            print(f"✓ Extracted from {link}")
                        else:
                            print(f"⚠ No target container found on {link}")
                    else:
                        print(f"✗ HTTP {resp.status_code} for {link}")
                except requests.RequestException as e:
                    print(f"❌ Request failed for {link}: {e}")
                except Exception as e:
                    print(f"⚠ Parsing error on {link}: {e}")
                # 可选:添加小延迟,避免对服务器造成压力
                # time.sleep(0.5)

if __name__ == "__main__":
    news()

✅ 关键改进说明:

A Python CLI skill for Cutout.Pro visual APIs — background removal, face cutout, and photo enhancement. Supports file upload & image URL input.
A Python CLI skill for Cutout.Pro visual APIs — background removal, face cutout, and photo enhancement. Supports file upload & image URL input.

调用 Cutout.Pro 视觉处理 API 进行背景移除、人像抠图和照片增强,支持文件上传与图片 URL 输入。

下载
  • 使用 with open(...) 确保文件自动安全关闭;
  • line.strip() 清理每行 URL 的首尾空白与换行符,避免因 \n 导致请求失败;
  • 将 open("Websites.txt", "a") 提至循环外(单次打开),大幅提升 I/O 效率;
  • 增加异常捕获(requests.RequestException 和通用 Exception),防止单个 URL 失败导致整个程序中断;
  • 对 soup.find(...) 返回值做 if container: 判空,避免 AttributeError: 'NoneType' object has no attribute 'find_all';
  • 添加清晰的状态日志(Processing / ✓ / ✗ / ⚠),便于调试与监控。

? 注意事项:

立即学习“Python免费学习笔记(深入)”;

  • 确保 list.txt 中每行仅含一个有效 URL(无多余空格或注释);
  • 若目标网站有反爬机制,请合理设置 headers(如 User-Agent)并遵守 robots.txt;
  • 生产环境建议加入重试机制(如 tenacity 库)和并发控制(如 concurrent.futures),但初学者务必先保证单线程逻辑正确。

通过以上结构化重构,你的爬虫即可稳定、健壮地批量处理任意数量的 URL,并将所有提取结果按序追加至 Websites.txt。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

3598

2023.08.10

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

160

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

80

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

80

2026.09.23

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

40

2026.09.22

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

60

2026.09.22

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

60

2026.09.22

loomy官网入口地址合集
loomy官网入口地址合集

本专题汇总了 Loomy 桌面 AI 助理的官方入口地址合集及使用指南。提供 macOS 与 Windows 客户端下载 。Loomy 是讯飞推出的桌面级 AI 工作搭子,支持文件整理、数据分析、网页操作及通过飞书/钉钉远程操控电脑,助你高效完成本地办公任务 。

60

2026.09.22

NumPy常见函数使用方法
NumPy常见函数使用方法

本专题整理 NumPy 常见函数使用方法相关教程,覆盖函数大全、参数用法、数组运算、统计聚合、排序处理、where 条件筛选、linspace 创建数列等常用场景,帮助读者快速掌握 NumPy 函数调用思路和实际数据处理技巧。

80

2026.09.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn