讲师中心 微信公众号
AI工具推荐 视频效率加速

爬虫识别与拦截:Laravel结合User-Agent的动态限流【反爬实战】

星明吖_9662

星明吖_9662

发布时间:2026-08-06 20:48:47

|

218人浏览过

|

来源于php中文网

原创

Laravel应用需通过中间件识别Facebook、微信、抖音等合法爬虫并差异化限流:先用$request->header('User-Agent')获取UA,再正则匹配特征字符串,接着校验官方IP段;匹配后按类型配置Redis令牌桶或Nginx前置限流,同时禁用TrustProxies、手动提取真实IP,记录日志并实施延时响应策略。

爬虫识别与拦截:laravel结合user-agent的动态限流【反爬实战】

你需要在Laravel应用中实时识别Facebook爬虫、微信内置浏览器、抖音小程序等高频采集流量,并对它们实施差异化限流,而不是一刀切屏蔽——因为部分爬虫(如Facebook external hit)需保留基础访问能力以保障链接预览功能正常。

识别真实User-Agent并排除伪造请求

第一步:在中间件中读取原始请求头中的User-Agent,而非依赖JavaScript或客户端上报值。【必须使用$request->header('User-Agent'),不能用$_SERVER['HTTP_USER_AGENT'],后者在Nginx反向代理下可能为空】

第二步:校验该UA是否匹配已知合法爬虫特征,例如facebookexternalhit/1.1、MicroMessenger、ToutiaoBot。使用正则而非strpos(),避免误判MicroMessenger被MicroMessage干扰。

第三步:对匹配到的UA,立即比对请求IP是否属于官方公布的IP段。Facebook爬虫IP段可从https://developers.facebook.com/docs/sharing/webmasters/crawler 获取,微信爬虫IP段见微信开放平台文档。不匹配者直接返回403,不进入后续逻辑。

按爬虫类型配置动态限流策略

方法一:基于Redis的令牌桶实现每分钟请求数控制

为facebookexternalhit设置每分钟60次,MicroMessenger设为每分钟120次,ToutiaoBot设为每分钟30次。使用Redis::throttle('ua:'.$uaHash)->allow(60)->every(60)封装调用,其中$uaHash = md5($ua . ':' . $ip)确保同一UA+IP组合独立计数。

Laravel Creem Agent
Laravel Creem Agent

Creem 支付商店助理 — 查询订阅、客户、交易、产品,执行心跳检查,管理本地 Laravel支付商店。

下载

方法二:Nginx层前置限流(推荐用于高并发场景)

在Laravel前的Nginx配置中添加limit_req_zone $ua_hash zone=fb_crawl:10m rate=1r/s;,再通过map指令将不同UA映射为不同哈希值:map $http_user_agent $ua_hash { ~*facebookexternalhit "fb:$remote_addr"; ~*MicroMessenger "wx:$remote_addr"; default "$binary_remote_addr"; }。此方式不经过PHP,响应更快。

注意:Nginx的limit_req默认返回503,若需返回429需配合error_page 503 =429 /429.html;重写状态码。

绕过UA伪造检测的关键动作

第一步:禁用Laravel默认的TrustProxies中间件对X-Forwarded-For的自动解析,改用$request->getClientIp(true)手动提取真实IP,防止攻击者伪造多级代理头污染IP判断。

第二步:对所有命中限流规则的请求,记录UA字符串前50字符 + IP + 时间戳 + 请求路径到数据库日志表,字段加索引。这一步不可跳过——后续优化UA白名单、识别新型爬虫都依赖此原始数据。

第三步:当某UA在5分钟内触发限流超10次,自动将其加入临时观察名单,下一小时对该UA的所有请求强制增加X-RateLimit-Delay: 2000响应头,并在日志中标记ua_suspicious。不封禁,但延时响应。

热门AI工具

更多
讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

10044

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

5961

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2075

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

3728

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

4434

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

3471

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4957

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3882

2023.11.13

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
如何安装 Composer
如何安装 Composer

共1课时 | 198人学习

Composer手册
Composer手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn