讲师中心 微信公众号
AI工具推荐 视频效率加速

ThinkPHP抓取页面高频功能盘点:日常数据提效的5大核心用法【汇总】

风婷大大_5751

风婷大大_5751

发布时间:2026-06-17 12:33:37

|

486人浏览过

|

来源于php中文网

原创

ThinkPHP项目中快速提取网页结构化内容的5种实战方法:自动处理gzip的Http类GET请求、携带Cookie的POST提交、UTF-8转码+容错正则提取价格、collect并发抓取多页列表、Filesystem保存HTML快照。

thinkphp抓取页面高频功能盘点:日常数据提效的5大核心用法【汇总】

想在ThinkPHP项目里快速提取网页标题、价格、列表数据等结构化内容,但卡在HTTP请求发不出、gzip解压失败、中文乱码或正则匹配不到?这篇文章直接给出5种能立刻跑通的实战用法,不讲原理只给可执行代码。

用Http类发GET请求并自动处理gzip

第一步:确保已安装think-http扩展(ThinkPHP 6.0+默认内置),无需额外require。
第二步:在控制器中调用Http::get(),它会自动识别并解压gzip/deflate编码的响应体:
$response = Http::get('https://httpbin.org/gzip');
第三步:直接获取解压后的内容:$body = $response->getBody()->getContents();
注意:若目标网站强制返回gzip但Http类未自动解压,说明PHP缺少zlib扩展——执行php -m | grep zlib验证,缺失则需启用zlib.so。

POST提交表单并携带Cookie维持会话

方法一:使用withCookies()链式调用
$response = Http::withCookies(['PHPSESSID' => 'abc123'])->post('https://example.com/login', ['username' => 'test', 'password' => '123']);
方法二:手动构造Cookie头(兼容旧版本)
$response = Http::withHeaders(['Cookie' => 'PHPSESSID=abc123; user_token=xyz789'])->post('https://example.com/api/data', $data);
【务必检查Set-Cookie响应头是否被框架中间件拦截,如开启Session中间件,需确认session.driver配置为file或redis而非none】

用正则精准提取页面中的价格数字

第一步:先用mb_convert_encoding()将响应内容转为UTF-8,避免gbk网页出现乱码:
$html = mb_convert_encoding($response->getBody()->getContents(), 'UTF-8', 'auto');
第二步:编写带中文容错的价格正则,匹配¥、$、¥等前缀及千分位逗号:
$pattern = '/[¥$¥]s*([d,]+.?d*)/u';
第三步:执行匹配并清理逗号:
if (preg_match($pattern, $html, $matches)) { $price = str_replace(',', '', $matches[1]); }
这一步不能跳过str_replace,否则数据库插入时会因逗号报错。

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载

立即学习“PHP免费学习笔记(深入)”;

批量抓取多页列表并合并结果

① 定义基础URL模板:$base_url = 'https://example.com/list?page={page}';
② 构建页码范围数组:$pages = range(1, 5);
③ 使用collect()配合map并发请求(需开启Swoole协程或使用curl_multi):
$results = collect($pages)->map(function($p) use ($base_url) { return Http::get(str_replace('{page}', $p, $base_url)); })->toArray();
④ 合并所有HTML并提取

  • 项:
    $all_html = implode('', array_map(fn($r) => $r->getBody()->getContents(), $results));<br>$dom = new DOMDocument(); @$dom->loadHTML(mb_convert_encoding($all_html, 'UTF-8', 'auto'));<br>$xpath = new DOMXPath($dom);<br>$items = $xpath->query('//ul[@class="list"]/li');

    抓取后保存HTML快照到本地storage目录

    调用Filesystem::disk('public')->put()写入带时间戳的文件:

    $filename = 'snapshots/' . date('Y-m-d') . '/' . md5($url) . '.html';<br>Filesystem::disk('public')->put($filename, $html);

    生成可访问URL时,必须拼接storage/app/public映射路径:
    $url_path = str_replace('\', '/', $filename);<br>return Filesystem::getDiskConfig('public', 'url') . '/' . $url_path;

    【部署前必须运行php think storage:link,否则/storage/snapshots/路径在浏览器中404】

  • 相关文章

    PHP速学教程(入门到精通)
    PHP速学教程(入门到精通)

    PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

    下载

    相关标签:

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

    热门AI工具

    更多
    WorkBuddy

    一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

    火山引擎

    火山引擎是一款面向企业的云计算与AI服务平台。

    LibLibAI
    LibLibAI Hot

    一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

    立刻MV
    立刻MV Hot

    立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

    豆包大模型

    豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

    墨刀AI
    墨刀AI Hot

    一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

    DeepSeek

    DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

    超级简历WonderCV

    一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

    Atoms
    Atoms Hot

    Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

    相关专题

    更多
    php文件怎么打开
    php文件怎么打开

    打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

    10724

    2023.09.01

    php怎么取出数组的前几个元素
    php怎么取出数组的前几个元素

    取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

    6261

    2023.10.11

    php反序列化失败怎么办
    php反序列化失败怎么办

    php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

    2135

    2023.10.11

    php怎么连接mssql数据库
    php怎么连接mssql数据库

    连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

    3968

    2023.10.23

    php连接mssql数据库的方法
    php连接mssql数据库的方法

    php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

    4674

    2023.10.23

    html怎么上传
    html怎么上传

    html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

    3671

    2023.11.03

    PHP出现乱码怎么解决
    PHP出现乱码怎么解决

    PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

    5237

    2023.11.09

    php文件怎么在手机上打开
    php文件怎么在手机上打开

    php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

    4102

    2023.11.13

    Linux 新手先学哪些命令
    Linux 新手先学哪些命令

    Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

    0

    2026.10.15

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    相关推荐
    /
    热门推荐
    /
    最新课程
    关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
    php中文网:公益在线php培训,帮助PHP学习者快速成长!
    关注服务号
    PHP中文网订阅号
    每天精选资源文章推送

    Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn