讲师中心 微信公众号
AI工具推荐 视频效率加速

WordPress如何防止AhrefsBot爬虫采集内容

老瑶酱_4422

老瑶酱_4422

发布时间:2026-08-17 15:53:59

|

713人浏览过

|

来源于php中文网

原创

AhrefsBot是合法SEO爬虫,应通过robots.txt限流(如禁止/feed/、/category/等路径)、摘要输出、服务端UA识别等方式限制其抓取高价值内容,而非完全屏蔽。

wordpress如何防止ahrefsbot爬虫采集内容

AhrefsBot 是 Ahrefs 公司的合法 SEO 爬虫,遵守 robots.txt 协议,主要用于外链分析和关键词研究。它不会盗用内容发布,但会抓取网页文本用于索引和反向链接统计——这可能导致你的原创内容被收录在 Ahrefs 数据库中,间接助益他人站点的 SEO 分析,甚至被误判为“内容来源弱”而影响你自己的权重分配。

明确:不能也不该彻底屏蔽 AhrefsBot

完全封禁 AhrefsBot 既不现实(它可伪造 User-Agent),也不推荐(会丢失外链监控、SEO 诊断等关键数据)。重点应是:限制其抓取范围,保护核心内容不被过度暴露,同时保留基础索引能力。

robots.txt 精准限流(最有效且合规)

在网站根目录放置或更新 /robots.txt,针对性禁止 AhrefsBot 访问高价值但非公开索引必需的路径:

word报告自动生成神器
word报告自动生成神器

Word报告自动生成神器。自动生成专业Word文档报告,支持模板填充、目录生成、表格/图表插入、页眉页脚、多级标题、样式主题、批量邮件合并。当用户需要生成Word报告、创建合同文档、批量生成通知/证书、填充Word模板、制作商业计划书时触发。

下载
  • 禁止抓取全文 RSS 输出(避免被批量提取正文):
    User-agent: AhrefsBot<br>Disallow: /feed/<br>Disallow: /feed/rss2/<br>Disallow: /feed/atom/
  • 禁止访问归档页、搜索页、分页列表(防止爬取全站文章 URL):
    Disallow: /page/<br>Disallow: /category/<br>Disallow: /tag/<br>Disallow: /search/
  • 允许抓取单篇文章页(保障基本收录与外链追踪):
    Allow: /<br>Allow: /*/
    (放在 Disallow 规则之后,确保优先级)

内容层防护:让抓到的也难用

AhrefsBot 抓取的是渲染后的 HTML,因此需从内容呈现端降低其数据质量:

  • 在 WordPress 后台 → 设置 → 阅读 → 将“对于每个文章,显示”设为摘要(Excerpt),而非全文。这样 RSS 和列表页只输出简短描述,AhrefsBot 抓到的也是片段。
  • 关闭默认 RSS 功能(配合 robots.txt 更保险):在主题 functions.php 中添加禁用 feed 的代码,防止被绕过。
  • 对正文段落随机插入零宽空格(​)或隐藏版权标签(如 <span style="display:none">©2026 yoursite.com</span>)。这些不影响用户阅读,但会使 AhrefsBot 提取的纯文本含干扰字符,降低其结构化利用价值。

技术增强:服务端轻量级识别与响应

不依赖前端 JS(易被绕过),而是通过 WordPress 钩子做服务端 UA 判断:

  • 检测请求头中的 User-Agent: AhrefsBot,对非首页/文章页的请求返回简化 HTML 或 403;
  • 对 AhrefsBot 的列表页请求(如 /category/news/page/2/)直接返回 404 或重定向至首页,阻断翻页采集链;
  • 保持文章详情页(/post-slug/)正常响应,确保单页仍可被识别和引用。

不复杂但容易忽略:AhrefsBot 的价值在于“谁链了你”,而不是“你写了什么”。保护好你的 URL 结构和摘要质量,比试图藏起整篇文章更务实、更可持续。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

11584

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

6681

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2175

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

4228

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

4954

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

3891

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5597

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4382

2023.11.13

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
如何在 Windows 11 上安装 XAMPP
如何在 Windows 11 上安装 XAMPP

共1课时 | 220人学习

第二十三期_前端开发
第二十三期_前端开发

共98课时 | 11.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn