讲师中心 微信公众号
AI工具推荐 视频效率加速

怎么抓取新闻标题_PHP抓取新浪新闻列表教程【详解】

冬萱同学_5869

冬萱同学_5869

发布时间:2026-02-15 14:42:46

|

400人浏览过

|

来源于php中文网

原创

file_get_contents 抓不到新浪新闻首页,因其默认无 User-Agent、不支持自动跳转和 Cookie 管理,被新浪服务器识别为爬虫而返回 403 或空内容;必须改用 curl 并设置 CURLOPT_USERAGENT 和 CURLOPT_ENCODING 才能正常获取 HTML。

怎么抓取新闻标题_php抓取新浪新闻列表教程【详解】

file_get_contents 和 curl 都能抓,但直接用 file_get_contents 在新浪新闻首页上大概率失败——它会返回空内容或 403,因为新浪对无 User-Agent 的请求做了拦截。


为什么 file_get_contents 经常抓不到新浪新闻列表?

新浪新闻首页(http://news.sina.com.cn/)默认拒绝没有浏览器标识的请求。PHP 默认的 file_get_contents 不带 User-Agent,也不支持自动跳转和 Cookie 管理,容易被当成爬虫封掉。

  • 现象:返回空字符串、乱码,或 HTTP 403 / 503 错误
  • 根本原因:服务端通过 User-Agent 和 Accept-Encoding 判断是否为真实浏览器
  • 解决思路:改用 curl,手动设置请求头 + 编码处理

curl 抓取新浪首页标题的最小可行代码

以下是最简但能跑通的版本,已适配当前(2026年)新浪首页结构(仍使用 h1 + data-client="headline" 类选择器):

<pre class="brush:php;toolbar:false;">$url = 'http://news.sina.com.cn/';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36');
curl_setopt($ch, CURLOPT_ENCODING, 'gzip,deflate');
$html = curl_exec($ch);
curl_close($ch);
<p>// 提取标题(注意:新浪首页结构不稳定,正则需宽松)
preg_match_all('/<h1\s+data-client="headline">([^<]+)<\/h1>/iU', $html, $matches);
$titles = array_map('trim', $matches[1]);
print_r($titles);</p>
  • 必须加 CURLOPT_USERAGENT,否则多数时候拿不到 HTML
  • CURLOPT_ENCODING 要设成 gzip,deflate,否则可能解压失败导致乱码
  • 正则不能写死路径或 class 名,新浪经常微调 DOM 结构;优先匹配语义化属性(如 data-client)

编码问题怎么破?iconv 还是 mb_convert_encoding?

新浪首页目前是 UTF-8,但部分子页(尤其是旧新闻)仍是 GBK 编码。如果抓到中文乱码,别急着硬转,先确认源编码:

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载

立即学习“PHP免费学习笔记(深入)”;

  • 用 mb_detect_encoding($html) 粗略判断(不绝对可靠)
  • 更稳的方式:看响应头 Content-Type 中的 charset= 字段(curl_getinfo($ch, CURLINFO_CONTENT_TYPE))
  • 若确定是 GBK → UTF-8,用 mb_convert_encoding($html, 'UTF-8', 'GBK') 比 iconv('gbk', 'utf-8', ...) 更容错
  • 避免在未检测前强行转码,否则可能把 UTF-8 当 GBK 转,产生“锟斤拷”

别只盯着标题:结构变动比你想的更频繁

新浪新闻首页不是静态页面,它用 JS 注入部分内容(尤其推荐位),纯服务端抓取拿到的是骨架 HTML,很多标题实际藏在异步接口里(比如 https://feed.mix.sina.com.cn/api/roll/get?...)。如果你发现 h1[data-client] 匹配不到预期数量,大概率是前端渲染了。

  • 对策一:抓它的 JSON 接口(需分析 Network 面板,找 roll/get 类请求)
  • 对策二:放弃首页,改抓频道页(如科技:http://tech.sina.com.cn/),结构更稳定
  • 对策三:加延迟、模拟滚动行为 —— PHP 做不到,得换 Puppeteer 或 Playwright

真正难的从来不是写几行 curl,而是应对它随时改 DOM、切接口、加反爬。别迷信“一次写完永久运行”。

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

php

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2255

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3622

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1216

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4179

2025.09.10

cookie
cookie

Cookie 是一种在用户计算机上存储小型文本文件的技术,用于在用户与网站进行交互时收集和存储有关用户的信息。当用户访问一个网站时,网站会将一个包含特定信息的 Cookie 文件发送到用户的浏览器,浏览器会将该 Cookie 存储在用户的计算机上。之后,当用户再次访问该网站时,浏览器会向服务器发送 Cookie,服务器可以根据 Cookie 中的信息来识别用户、跟踪用户行为等。

12539

2023.06.30

document.cookie获取不到怎么解决
document.cookie获取不到怎么解决

document.cookie获取不到的解决办法:1、浏览器的隐私设置;2、Same-origin policy;3、HTTPOnly Cookie;4、JavaScript代码错误;5、Cookie不存在或过期等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1266

2023.11.23

阻止所有cookie什么意思
阻止所有cookie什么意思

阻止所有cookie意味着在浏览器中禁止接受和存储网站发送的cookie。阻止所有cookie可能会影响许多网站的使用体验,因为许多网站使用cookie来提供个性化服务、存储用户信息或跟踪用户行为。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

864

2024.02.23

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

1946

2025.08.19

Docker Desktop怎么设置端口映射
Docker Desktop怎么设置端口映射

本专题聚焦Docker Desktop容器端口映射与访问配置,整理从创建容器、设置端口绑定到验证本地服务访问的操作流程。针对端口被占用、映射配置错误、容器服务无法访问等情况,也提供相应的检查方向,方便用户完成端口配置。

0

2026.11.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn