当前位置:首页 → 资讯 → 软件教程 → 软件负载均衡上线前必查的五道关:会话保持、健康检查与灰度切流

软件负载均衡上线前必查的五道关:会话保持、健康检查与灰度切流

发布时间:2026/11/18 14:42:21来源:游吧乐编辑

为什么"能访问"和"扛得住"是两件事

机房改造时最常见的场景:原来的硬件负载均衡到了续保期,报价单翻了一倍,老板让运维看看能不能换成软件方案。运维搭了台虚拟机,导入 OVA,配了虚拟服务、池、健康检查,浏览器一刷,业务出来了,于是汇报"迁移完成"。三个月后大促,晚高峰接口超时率飙升,抓包发现请求全压在池里两台后端上,第三台因为健康检查一直判定失败被摘掉了而它其实是好的,只是探测间隔和超时设得太紧。

这类事故的根子不在产品,而在验收标准。软件 ADC(应用交付控制器)的能力上限高度依赖你给它的参数:会话表怎么保留、健康检查怎么判、SSL 在哪一层终结、后端到底剩多少余量。负载均衡不是装好就完事,它是一个需要被"调"的组件。下面这五个核查点,是我们在把硬件 F5 换到 NSX Advanced Load Balancer 32.1.4(业内习惯叫 Avi)之后,被现场真实打脸过的顺序。

第一关:会话保持先于性能谈

很多人上来先压 QPS,这个顺序是错的。先问一句:你这个业务能不能容忍请求落到另一台后端?登录态存在后端本地 Session 里的老系统,答案是不能。这时候会话保持策略选错,用户会在两台后端之间被反复踢下线,表现为"登录后又跳回登录页",而监控上看后端全绿、延迟也正常,非常难查。

常见三种保持方式的取舍很明确:源 IP 保持配置最简单,但一批用户从同一个 NAT 出口出来,会被死死钉在同一台后端,形成热点;Cookie 插入式保持(服务端在响应里塞一个 Cookie)最精确,代价是要求后端能接受改写过的响应头;Cookie 哈希式保持不动响应体,靠客户端原有 Cookie 算哈希,对老系统更友好但需要后端 Cookie 本身足够分散。先确认业务有没有本地 Session,再看它是不是把 Session 存在共享存储或 Redis 里存在共享层,会话保持就可以关掉,后端才能真正跑成无状态。

还有一个坑:健康检查判活和会话保持是两套逻辑,混着调会互相打架。后端上线时如果健康检查还没通过,流量打过去就是 502;把健康检查的失败阈值调得太宽松,挂了十几秒的节点还留在池里继续收流量。

机房交换机与网络设备实拍

第二关:健康检查要贴着业务写,不要用默认值

Avi 默认的健康检查是 TCP 端口探测。端口开了不代表业务活着:Java 应用刚启动时端口已经在监听,但 Spring 容器还没初始化完,这时候探测通过、流量进来,用户看到的就是 500。更隐蔽的是数据库连接池耗尽的情况端口通、HTTP 也能返回,只是每个请求都要等 30 秒超时。

所以健康检查要写成一个真实的业务探测:

路径选一个会触碰关键依赖的接口

比如查询类接口会走一遍数据库,比单纯的 /health 返回 200 更有意义(当然前提是这个接口足够轻,别把探测本身变成压测)。

时间参数按业务能容忍的故障窗口倒推

探测间隔 5 秒、连续失败 3 次才摘除,意味着最坏情况下有 15 秒的流量会打到坏节点上;想更快就要牺牲误判率。这个数字必须和业务方一起定,不能由运维单方面拍。

另外,Avi 的健康检查是分层的:池级别一份、服务器级别可以覆盖、虚拟服务级别还能再调。层级越多越灵活,也越容易漏看排查"为什么这台后端一直离线"时,要逐层确认有没有更上层把参数覆盖掉了。把健康检查的阈值和业务故障窗口写进变更单,是这套东西能长期稳定运行的前提。

第三关:两臂还是单臂,取决于机房交换能力

Avi 的 Service Engine(SE)是真正承载流量的数据面组件,它支持两种部署形态。两臂模式下,客户端侧和后端侧走不同的接口和不同的网段,SE 处于"中间人"位置,路由清晰、回程路径确定,是生产环境首选。单臂模式(也叫 one-arm)只用一个接口,靠在同一网段里做代理转发,省交换机端口,但要求后端服务的默认网关指向 SE,否则回程流量会绕过 SE 直接回客户端,出现"去的时候过了负载均衡、回来的时候没经过"的三角路由,抓包看起来特别诡异。

现场判断标准其实很简单:

后端能不能改网关

老业务方不愿意动网络配置,就只能接受两臂,或者接受单臂带来的回程路由改造工作量。

SE 组的容量要不要横向扩

SE 是按 CPU 核数授权、按实例组成的 SE Group 横向扩展的,两臂模式下每扩一个实例就要多一份双网段接入,交换机和 IP 地址规划要提前留出余量。

还有一个容易忽略的点:SE 是虚拟机,它的数据面性能受宿主机和网卡类型影响很大。生产环境里 SE 应该跑在支持 SR-IOV 或 VMXNET3 多队列的宿主机上,并且给足 CPU 独占资源;把它和一堆普通业务虚机混在一台宿主机上争抢,压测数据好看、真实业务一上量就抖。

数据中心基础设施实拍

第四关:证书和 SSL 终结位置,迁之前就得定

从硬件设备迁到软件 ADC,SSL 是最容易出事故的一环,因为它牵涉外部依赖。证书链不完整、中间证书没装、协议版本和加密套件被安全部门收紧到只剩 TLS1.2 以上这些在测试环境全都发现不了,因为测试环境用的是自签证书和宽松套件。

更实际的问题是终结位置。

在 ADC 终结

后端走明文 HTTP,ADC 承担加解密算力,这种模式在老硬件上很常见,迁移时要重新评估 SE 的 CPU 余量,因为 ECDSA 证书比 RSA 省很多。

透传到后端终结

ADC 只做 TCP 转发,后端自己管证书,好处是证书更新不用动 ADC,坏处是所有基于 HTTP 头的策略(WAF、URL 改写、Header 注入)全部失效。很多团队迁完才发现自带的 Web 应用防火墙规则一条都没生效,原因就是流量根本没解密。

证书过期是另一个定时炸弹。硬件设备时代证书往往手动续,一年一次,交接一乱就漏。软件化之后应该把证书挂上自动续期,并且把"证书剩余有效期"接到监控里,别等浏览器报红了才发现。

第五关:灰度切流和回退预案,写进文档再动手

负载均衡是流量的咽喉,它的切换本质上是把所有入口一次性挪一遍。稳妥的做法是先用 DNS 或上层设备把一小部分流量(比如按来源网段切 5%)引到新 ADC,观察错误率和新建连接数,再逐级放大。整个过程中旧设备必须保持在线且配置冻结,回退就是改一条 DNS 记录或者切一个权重,而不是"重新搭一遍"。

这个阶段最能暴露问题的往往不是 ADC 本身,而是周边:日志系统收不到新设备的访问日志(格式变了)、监控探针的采集地址没加、防火墙策略只放行了旧设备的源 IP、DDoS 防护的白名单没更新导致的误封。这些都需要在切流前一条条过。如果后面还要把业务逐步迁到容器里,让 ADC 直接对接集群服务发现,可以参考 Tanzu Kubernetes Grid 离线组件 和 Container Networking with Antrea 这一套,网络层是同一个思路:把东西向和南北向的策略分开管。

机房服务器机柜实拍

版本和许可:别在升级窗口里踩第二次坑

Avi 的版本分支要分清楚:32.x 是当前主力迭主线,31.x 是稳定维护分支,30.x 是长线老环境。跨大版本升级不能跳级,30.x 必须先到 31.x 再上 32.x,官方明确说过这一点。控制器(Controller)的版本决定了整个集群的能力,SE 的版本要跟着控制器走,两者混版会出现配置下发失败、SE 组无法加入的怪问题。

许可方面,Avi 是按 SE 的 vCPU 授权的,扩容 SE Group 之前先看许可余量,别等到要扩的时候才发现超额。老环境如果同时还跑着 NSX,两套东西的版本兼容矩阵也要对一遍,网络层和负载层不是随便什么组合都能凑的,可以对照 NSX 4.2.4.1 全套镜像 的说明确认版本对应关系。

顺带说一句,很多团队在迁 ADC 的同时也在做别的基础设施改造,比如同时期上数据库即服务、做健康巡检。这些动作互相之间是有依赖的:健康巡检工具要能看得到新组件的告警,数据库服务的连接入口也可能要经过新的负载均衡。把同期变更列成一张表,标清谁依赖谁,比并行推进要省事得多。巡检侧可以看 Skyline Health Diagnostics 这类工具的说明,数据库侧则参考 Data Services Manager 2.2.1 的部署要求。

写在最后

硬件负载均衡换成软件方案,省下的是采购和维护合同的钱,换出来的是运维要自己承担的一整套工程细节:会话、健康检查、组网形态、证书、灰度、版本、许可。这七件事里任何一件没想清楚,上线那天都会变成事故。真正决定成败的不是选了哪家的产品,而是你有没有把这七个参数按自己的业务调到位。如果团队人手紧,宁可先做完这五关的核查表,也别急着把老设备下架。

COMMENTS 网友评论

评分
★
★
★
★
★
力荐
选择头像:
10
999+人评分
★★★★★
★★★★
★★★
★★
★
查看更多 >