讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在不打开网页的情况下保存HTML源码?后台抓取保存教程

夜浩君_6311

夜浩君_6311

发布时间:2026-09-22 11:15:43

|

568人浏览过

|

来源于php中文网

原创

curl和requests.get()是最可靠的原始HTML获取方式,它们模拟HTTP客户端直连服务器,不执行JS,直接返回服务端原始响应体。

如何在不打开网页的情况下保存html源码?后台抓取保存教程

不能直接“不打开网页”却拿到服务端原始HTML——关键在“谁发起请求”:浏览器打开是前端行为,而后台抓取必须由命令行或脚本主动向服务器发HTTP请求。 所有真正离线、不依赖人工点击的操作,本质都是模拟一次干净的 GET 请求并保存响应体。

curl 抓取原始 HTML 最简方式

这是最轻量、最可控的后台抓取手段,适合单页、静态内容、无登录态场景。

  • 运行 curl https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635 > page.html 即可把响应正文写入本地文件
  • 若网站校验 User-Agent 或拒绝空头请求,加 -H "User-Agent: Mozilla/5.0"
  • 遇到重定向(如 HTTP → HTTPS),加 -L 参数自动跟随
  • 中文乱码?不是编码问题,而是服务器没返回 Content-Type: text/html; charset=utf-8 ——此时需手动用文本编辑器以 UTF-8 重新打开并另存,curl 本身不转码

wget 获取 HTML + 关联资源(离线可用)

当你要双击 page.html 就能正常显示样式和图片,wgetcurl 更合适,但它抓的是“渲染前”的原始 HTML,不是 DOM。

  • 基础命令:wget -O page.html https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635(只存 HTML)
  • 要带 CSS/JS/图片:wget --page-requisites --convert-links --no-parent https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635
  • --page-requisites 是核心,它会下载 <link><script><img> 中的资源
  • --convert-links 把绝对路径(如 https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635/style.css)改成相对路径(style.css),否则本地双击打不开
  • 注意:wget 默认不进子目录,加 --no-parent 防止爬到站外或无限递归

requests + Python 脚本灵活控制响应

需要处理 Cookie 登录、表单提交、动态参数或批量抓取时,Python 的 requests 库更可靠。

Doc To HTML
Doc To HTML

使用 MinerU 文档处理引擎将 Word 文档(.doc、.docx)转换为保留结构和格式的干净 HTML。

下载

立即学习前端免费学习笔记(深入)”;

  • 先确保安装:pip install requests
  • 基础脚本示例:
import requests
<p>url = "<a href="https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635">https://www.php.cn/link/b05edd78c294dcf6d960190bf5bde635</a>"
resp = requests.get(url, headers={"User-Agent": "Mozilla/5.0"})
resp.raise_for_status()  # 抛出 4xx/5xx 错误
with open("page.html", "wb") as f:
f.write(resp.content)  # 用 .content 而非 .text,避免编码二次处理
  • 若页面需登录,先用 session = requests.Session(),再 post 登录接口,后续 get 自动携带 Cookie
  • 不要用 resp.text 写文件——它已按推测编码解码过一次,可能损坏二进制或特殊字符;resp.content 是原始字节流,更安全
  • 超时必须设:requests.get(..., timeout=10),否则卡死无提示

为什么 Puppeteer / Selenium 不算“后台抓取原始 HTML”

它们启动真实浏览器,执行 JS、等待动态渲染,最终拿到的是 document.documentElement.outerHTML ——也就是 DOM 快照,不是服务器返回的原始 HTML。

  • 你看到的 <div id="app"></div> 被 Vue 填充后的内容,curlwget 都拿不到
  • 这类工具适合 React/Vue/Angular 页面,但开销大、启动慢、需维护浏览器驱动
  • 如果目标只是“保存源码”,而非“保存最终渲染结果”,就别用它们——徒增复杂度,还容易被反爬识别为自动化行为

真正容易被忽略的一点:所有后台抓取都绕不开服务端响应头里的 Content-Encoding: gzip。如果网站开了 Gzip 压缩,curlwget 默认自动解压,但自己写脚本时若用 urllib 等低层库,得手动处理解压逻辑,否则写出来的 page.html 是乱码二进制。

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

4875

2023.06.14

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

2852

2023.06.21

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

2510

2023.07.31

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

2539

2023.08.01

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

4539

2023.08.11

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

2501

2023.08.11

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

2289

2023.08.31

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

2108

2023.09.01

Vibeknow在线使用入口合集
Vibeknow在线使用入口合集

本专题汇总了Vibeknow在线创作视频的官方入口及网页版使用教程,涵盖PPT、PDF、Word等文档一键转讲解视频的核心操作,并整理了免费版水印规则与手机端浏览器访问指南,助你快速将知识内容视频化。

0

2026.09.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
GDB 17.2 官方文档集合
GDB 17.2 官方文档集合

共0课时 | 0人学习

Bootstrap 入门安装配置
Bootstrap 入门安装配置

共0课时 | 0人学习

38+ PhpStorm 提示和技巧
38+ PhpStorm 提示和技巧

共1课时 | 204人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn