讲师中心 微信公众号
AI工具推荐 视频效率加速

如何利用 random 随机算法配合 two 参数实现更智能的负载选择

风辰小哥_1989

风辰小哥_1989

发布时间:2026-05-07 13:29:59

|

886人浏览过

|

来源于php中文网

原创

Two Random Choices策略先随机选两个健康后端,再依least_conn或EWMA等轻量指标选更优者,兼顾负载均衡性与O(1)时间效率,显著优于纯随机且免全量扫描。

如何利用 random 随机算法配合 two 参数实现更智能的负载选择

Random 配合 two 参数,不是简单地“随机挑一个”,而是先随机挑两个,再从这两个里选更优的那个——这种策略叫Two Random Choices(也称 Power of Two Choices),它显著改善了纯随机的负载倾斜问题,同时避免了全量扫描所有节点的开销。

核心逻辑:先抽样,再比较

算法执行分两步:

  • 从全部健康后端中,独立、均匀地随机选出两个目标(允许重复,但实践中通常去重)
  • 对这两个目标,依据某种轻量指标做实时比较,选更合适的一个承接请求

这个“比较依据”就是关键变量,Nginx 默认用 least_conn(活跃连接数最少),YARP 默认也采用相同逻辑;而像 go-zero 的 p2c+EWMA 则进一步引入响应耗时的指数加权平均值(EWMA)作为评分依据。

常见实现方式与配置示例

不同系统对 two 的支持形式略有差异,但本质一致:

  • Nginx(1.15.1+):在 upstream 块中启用 random two; 或 random two least_conn;(least_conn 是默认 method,可省略)
  • YARP:无需额外配置,PowerOfTwoChoices 是其默认负载均衡策略
  • 自定义实现(如 Java/Go):在 select() 方法中生成两个随机索引 → 获取对应 Server 实例 → 调用 getActiveConnections() 或 getEWMA() 获取指标 → 返回指标更优者

为什么比纯 Random 更智能?

它缓解了三个典型问题:

  • 避免“扎堆”:纯随机可能连续命中同一台高负载机器;two choices 天然降低该概率,统计上使负载分布更接近正态
  • 免全局扫描:相比 LeastRequests 需遍历所有节点查最小值,它只比两个,时间复杂度稳定为 O(1)
  • 天然容错:只要两个候选中有一个健康,就能完成选择;即使某节点短暂异常,也不影响整体调度可用性

使用时需注意的关键点

效果依赖合理配置和可观测基础:

  • 后端列表必须是当前健康节点集合(剔除已标记 down / fail_timeout 中的节点),否则可能选出不可用目标
  • 用于比较的指标(如连接数、EWMA 耗时)应能真实反映瞬时负载,避免缓存过期或上报延迟导致误判
  • 当集群规模极小(如仅 2–3 台)时,two choices 收益有限;节点数 ≥ 10 后,优势明显放大
  • 不适用于强会话亲和(session stickiness)场景,因每次选择独立,无法保证同一用户始终落到同一节点

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

40

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

140

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

80

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

80

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

40

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

80

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn