讲师中心 微信公众号
AI工具推荐 视频效率加速

C#怎么抓取网页上的所有图片_C#如何编写正则爬虫【案例】

阿杰君_6247

阿杰君_6247

发布时间:2026-03-24 14:37:33

|

494人浏览过

|

来源于php中文网

原创

HttpClient 是下载网页 HTML 的首选,需设 User-Agent、用 await GetStringAsync、处理 GB2312 编码;解析用 HtmlAgilityPack 提取 img[src] 及 data-src 等属性,转绝对路径后流式下载,并加超时、限速、UA 轮换与随机延迟防风控。

用 HttpClient 下载网页 HTML 再解析,别用 WebClient 或 IE 控件

直接抓图片的前提是先拿到网页源码,httpclient 是目前最稳妥的选择。webclient 已标记为过时,而 webbrowser 依赖 ie 引擎、启动慢、线程模型复杂,容易卡死或抛 comexception。

常见错误是没设请求头,被网站反爬直接返回空页或 403 —— 至少加上 User-Agent:

var client = new HttpClient();
client.DefaultRequestHeaders.UserAgent.ParseAdd("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36");
  • 务必用 await client.GetStringAsync(url),别用同步的 GetAsync().Result,否则容易死锁
  • 如果页面是动态渲染(如 Vue/React),HttpClient 拿到的是初始 HTML,不含 JS 渲染后的 <img>,这时得换 PuppeteerSharp
  • 注意编码:部分老站用 GB2312,GetStringAsync 可能乱码,需用 GetByteArrayAsync + Encoding.GetEncoding("gb2312").GetString(...)

用 HtmlAgilityPack 解析 <img> 标签,别硬写正则

正则匹配 <img src="..."> 看似简单,但实际会漏掉 srcset、data-src(懒加载)、background-image 行内样式,还容易被注释、嵌套引号、换行搞崩。真实网页里 <img> 属性顺序不固定、有大小写混用、甚至带命名空间 —— 正则根本不可靠。

HtmlAgilityPack 是 .NET 生态里最成熟的 HTML 解析库,它把 HTML 当树处理,稳定且语义清晰:

var doc = new HtmlDocument();
doc.LoadHtml(html);
var imgs = doc.DocumentNode.SelectNodes("//img[@src]");
  • 取 src:直接 img.GetAttributeValue("src", "")
  • 兼容懒加载:顺手加一句 || img.GetAttributeValue("data-src", "") || img.GetAttributeValue("data-original", "")
  • 过滤无效链接:跳过 javascript:、about:、空字符串、data:image/ base64
  • 注意相对路径:要用 new Uri(baseUri, src) 转成绝对地址,baseUri 是原始网页 URL

下载图片时用 HttpClient 流式写入,避免内存爆掉

一张 5MB 的图,用 GetStringAsync 或 GetByteArrayAsync 会一次性全读进内存;批量下载几十张就可能触发 OutOfMemoryException。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载

正确做法是用 GetStreamAsync + FileStream 分块拷贝:

using var stream = await client.GetStreamAsync(imgUrl);
using var file = File.Create(filePath);
await stream.CopyToAsync(file);
  • 加超时控制:client.Timeout = TimeSpan.FromSeconds(15),否则卡在某个坏链接上整个任务挂住
  • 并发数别瞎开高:默认 HttpClient 连接池上限是 2,想并发下载得显式配置 SocketsHttpHandler.MaxConnectionsPerServer
  • 文件名要 sanitize:Path.GetInvalidFileNameChars() 里的字符(如 <, >, :)必须替换或移除,否则 UnauthorizedAccessException

遇到 429 Too Many Requests 或验证码,说明你已触发风控

这不是代码 bug,是策略问题。很多站点对无头请求频率敏感,哪怕只抓一页,也可能被限流。

  • 加随机延迟:await Task.Delay(Random.Shared.Next(500, 2000)),别用固定值
  • 换 User-Agent 池:每次请求换一个,从常见浏览器 UA 列表里随机取
  • 别省略 Accept、Accept-Language 等头,越像真实浏览器越安全
  • 如果目标站用了 Cloudflare 或人机验证,HtmlAgilityPack + HttpClient 就不够用了,得切到 PuppeteerSharp 或找 API 接口

真正难的从来不是“怎么写出第一张图”,而是“怎么让一百张图都稳稳落盘还不被封 IP”。路径、编码、UA、延迟、异常恢复——每个环节松一扣,整条链就断。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

932

2023.08.08

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

2611

2023.08.31

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

845

2024.03.13

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2595

2024.03.14

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

292

2026.02.03

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

369

2026.02.06

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

611

2026.03.11

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

309

2026.04.13

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

100

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn