讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

Seko
Seko

AI短剧一键生成成片

Laper
Laper

剧本策划到成片协作

AniShort
AniShort

AI短剧协同制作平台

前端开发技巧:如何批量保存网站HTML源码

酷明姑娘_8077

酷明姑娘_8077

发布时间:2026-09-08 11:08:26

|

795人浏览过

|

来源于php中文网

原创

批量保存网站HTML需据需求选方法:原始响应用curl/wget,动态渲染用Selenium,编码复杂用requests;务必处理反爬、URL编码、文件名非法字符、UTF-8无BOM保存及Chrome驱动匹配。

前端开发技巧:如何批量保存网站html源码

批量保存网站 HTML 源码不是“点一下就完事”的操作,关键看你要的是原始响应(GET 返回的静态 HTML),还是渲染后的真实 DOM 结构,以及是否要连带 CSS/JS/图片一起存。选错方法会导致文件打不开、样式丢失、脚本报错——尤其是现代 SPA 页面。

用 curl 或 wget 抓取原始 HTML 响应

这是最轻量、最可控的批量方式,适合目标页面不依赖 JS 渲染、且服务器允许直接访问的场景。它拿到的是服务端返回的原始字节流,不含浏览器执行后的修改。

  • curl -o page1.html https://example.com:保存单页,-o 指定文件名
  • wget -O page2.html https://example.com:效果类似,但 wget 默认会尝试解析并下载同域资源(加 --no-parent 可禁用)
  • 批量时建议加 -s(静默)和 --max-time 10(超时控制),避免卡死
  • 注意:如果页面有反爬(如 403、验证码、User-Agent 拦截),需加 -H "User-Agent: Mozilla/5.0"
  • 中文 URL 要先 urlencode,否则 curl 会失败,错误信息类似 URL using bad/illegal format or missing URL

用 requests + Python 脚本控制请求与编码

当需要处理重定向、Cookie、Session、动态 Header 或统一转码时,requests 比命令行工具更可靠。尤其遇到 GBK 编码网页却没声明 charset,curl 会乱码,而 Python 可显式解码。

使用华数设计生成高保真HTML原型、演示文稿、动画和设计评审
使用华数设计生成高保真HTML原型、演示文稿、动画和设计评审

使用经过文档化的设计技能,从真实的品牌或项目背景中生成HTML原生原型、幻灯片、动态演示、可视化图表和评审流程。

下载
  • 务必检查 response.encoding,很多网站不设 Content-Type: text/html; charset=utf-8,requests 会误判为 ISO-8859-1
  • 推荐写法:response = requests.get(url); response.encoding = response.apparent_encoding or "utf-8"
  • 保存时用 open(... , encoding="utf-8"),避免 Windows 记事本打开乱码
  • 若需并发,别直接上 threading,用 concurrent.futures.ThreadPoolExecutor 控制数量,防止触发风控
  • 示例片段:
    import requests<br>url = "https://example.com"<br>r = requests.get(url)<br>r.encoding = r.apparent_encoding or "utf-8"<br>with open("output.html", "w", encoding="utf-8") as f:<br>    f.write(r.text)

用 Selenium 获取渲染后 DOM(适合 Vue/React 页面)

如果你右键“查看源代码”看到的是一堆 <div id="app"></div>,而 Elements 面板里才有真实内容,那就必须走浏览器自动化。但代价是慢、占内存、易被检测。

立即学习“前端免费学习笔记(深入)”;

  • 不要用 driver.page_source 直接保存——它有时包含未清理的调试注释或临时节点
  • 推荐用 driver.find_element("tag name", "html").get_attribute("outerHTML"),更接近人工复制 outerHTML 的效果
  • 启动 Chrome 时加 --headless=new 和 --disable-gpu,减少资源占用
  • 每个页面加载后加 time.sleep(2) 或等某个元素出现(WebDriverWait),否则可能截到空白页
  • chromedriver 版本必须和本地 Chrome 严格匹配,否则报 session not created

别忽略路径、编码与文件名的细节

批量保存后打不开,十次有八次栽在这三处:路径含非法字符、文件名被截断、编码不一致导致中文变问号。这些不是“小问题”,而是阻断后续所有分析的硬伤。

  • URL 中的 /、?、= 等必须替换为下划线或哈希,否则 Windows 下无法创建文件,错误如 OSError: [Errno 22] Invalid argument
  • 文件名长度超过 255 字符?Windows 会静默失败,建议用 hashlib.md5(url.encode()).hexdigest()[:12] 生成简短标识
  • 所有 HTML 文件统一用 UTF-8 无 BOM 保存;若原始页面是 GB2312,转存时也应 decode 再 encode 成 UTF-8,而非直接二进制写入
  • 保存后快速用 file output.html(Linux/macOS)或 PowerShell Get-Content output.html -Encoding UTF8 验证头几行是否可读

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2923

2023.08.11

前端如何实现即时通讯
前端如何实现即时通讯

实现即时通讯的方法有WebSocket、Long Polling、Server-Sent Events、WebRTC等等。详细介绍:1、WebSocket,它可以在客户端和服务器之间建立持久连接,实现实时的双向通信,前端可以使用 WebSocket API来创建WebSocket连接,并通过发送和接收消息来实现即时通讯;2、Long Polling,是一种模拟实时通信的技术等等。

6363

2023.10.09

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

7270

2024.03.19

php和前端的关联介绍
php和前端的关联介绍

php既可以作为前端语言,也可以作为后端语言。想了解更多php和前端的相关内容,可以阅读本专题下面的文章。

7118

2024.03.22

前端外包工作内容有哪些
前端外包工作内容有哪些

前端外包工作内容包括:1. 网站和应用程序开发;2. 用户界面和交互设计;3. 用户体验优化;4. 设计和视觉开发;5. 跨浏览器兼容性;6. 性能优化;7. 维护和更新;8. 项目管理和沟通。想了解更多前端的相关内容,可以阅读本专题下面的文章。

1023

2024.05.22

html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

7335

2023.06.14

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

4032

2023.06.21

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

3710

2023.07.31

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS教程
CSS教程

共754课时 | 100.8万人学习

HTML教程
HTML教程

共500课时 | 11万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn