[科普]Nginx 的 worker_connections 不是“并发用户数”,是一个需要 FD、后端延迟和连接生命周期共同兑
Nginx 的
worker_connections通常被读成一个简单的容量参数:调大它,就能接更多并发。Netdata 的排障指南在开头就纠正了一个更基础的误解:默认值是 512,不是 1024;而且在反向代理模式下,每个被代理的请求至少占用两个槽位——一个给客户端侧,一个给上游侧。这意味着worker_processes × worker_connections这个乘法给出的数字,在反代场景下不是“能接多少个客户端”,而是一个按 worker 独立分配的、需要同时满足文件描述符上限、后端响应速度和连接生命周期三重条件的预算。预算耗尽时,失效形态也不是“变慢”:worker 的固定大小连接数组被占满,accept()静默失败,新连接在内核 backlog 中排队直到超时,而 Nginx 的指标里可能只表现为accepts与handled之间缓慢拉开的差距[reference:0]。承诺的边界不在“调大 worker_connections”这个动作里,在这个预算的三重兑现条件是否同时成立里。
反向代理把有效容量切成一半,但不改变槽位的归属
worker_connections 限制的是单个 worker 能持有的连接槽位总数,而不是“客户端数量”。每一个客户端连接占一个槽位,每一个到上游的连接也占一个槽位,空闲的 keepalive 连接同样占槽位。在纯静态文件服务中,一个请求通常只涉及客户端一侧,所以 worker_processes × worker_connections 大致等于可承载的并发客户端数。但在反向代理模式下,一个请求在 Nginx 内部同时持有客户端连接和上游连接,两个槽位被同一个请求占用,有效客户端容量降至乘积的一半[reference:1][reference:2]。
这个“除以二”经常被当作一个需要记住的公式,但它真正的含义是:Nginx 的并发预算不是按“用户”记账的,是按“连接”记账的,而连接的数量取决于 Nginx 在请求路径上扮演什么角色。一个开启了 upstream keepalive 的配置,空闲的上游连接会持续占用槽位,即使没有活跃请求正在被代理;这些槽位在 stub_status 的 Waiting 计数中可见,它们不是在“服务用户”,但它们在消耗预算。
文件描述符是第二道独立的天花板,而且它先于连接槽位被触达
即使 worker_connections 设置得足够大,每个连接槽位背后还需要一个文件描述符。Netdata 的指南给出了精确的关系:worker_rlimit_nofile 必须至少是 worker_connections × 2,再加上日志和临时文件的余量;Nginx 在启动时会检查这个关系,如果 FD 上限低于连接上限,它会发出警告,但仍然启动——警告被忽略,边界被带进运行时[reference:4]。
GitHub 上一个具体的故障记录把这个双重天花板之间的级联暴露得很清楚。一个 Docker 部署中,Nginx 使用 worker_connections 1024,继承了 1024 的软 FD 限制。在约 690 个心跳客户端时,php-fpm 的 5 个 worker 先饱和,请求在 Nginx 中排队,每个请求占用两个 FD(客户端 + FastCGI 上游),Nginx 的 FD 耗尽。错误日志中出现了两条按顺序排列的信号:先是 worker_connections are not enough, reusing connections(8745 次),然后是 accept4() failed (24: No file descriptors available)(19880 次,约 475 次/分钟,持续 43 分钟)。CPU、内存和 MySQL 全程正常,恢复在负载下降后自动发生,无需重启。
这个案例的关键不是“1024 太小”,而是两道边界之间的间隙。worker_connections 和 FD 限制是两个独立的预算,它们的默认值或继承值不一定对齐。当 FD 限制先被触达时,worker_connections 还有余量,但连接已经无法被接受;此时诊断信号不是“worker_connections 不够”,而是 accept4() 的 FD 错误。调大 worker_connections 而不动 FD 限制,等于移动了一道边界,但另一道边界仍然在原地。
连接分布不均:单个 worker 的耗尽可以发生在全局远未饱和时
Nginx 的 worker_connections 是按 worker 的硬上限,不是全局上限。worker_processes × worker_connections 这个乘法给出的是一个聚合数字,但连接并不保证在 worker 之间均匀分布。
Nginx 的 GitHub Discussion 中记录了这个结构性问题:连接可以在少数 worker 上聚集,尤其是在上游反向代理连接数量较少、或者客户端连接模式本身不均匀的情况下。accept_mutex 的行为在这里扮演了一个容易被忽略的角色。官方文档的表述是:当 accept_mutex 开启时,worker 轮流接受新连接;当它关闭时(自 Nginx 1.11.3 起是默认值),所有 worker 都会被通知新连接,低流量下部分 worker 可能只是在浪费资源,而高流量下连接可能在调度上偏向某些 worker[reference:7]。还有一个更隐蔽的机制:开启 accept_mutex 时存在退避逻辑,当 worker 接近自己的 max_connections 上限时,它获得 accept 锁的几率会被降低——这意味着接近上限的 worker 会主动减少接受新连接,把压力转移给还有余量的 worker;但这个平衡不是保证,当一个 worker 因为持有长连接或慢后端连接而无法释放槽位时,退避不能替它回收已经占用的预算[reference:9]。
因此,诊断“连接是否够用”时,看 active 与 worker_connections × worker_processes 的比值是不够的。正确的信号是单个 worker 的 FD 使用量相对于其上限的位置,以及 stub_status 中 accepts 与 handled 之间的差距是否在扩大。一个全局看起来“只用了一半”的配置,可能已经有一个 worker 在静默拒绝新连接[reference:10]。
慢后端持有槽位的时长,定义了预算被消耗的速度
连接槽位不是“被请求数”消耗的,是被请求持续的时间消耗的。一个请求如果因为上游响应缓慢而在 Nginx 中停留 10 秒,它在这 10 秒内持续占用客户端侧和上游侧两个槽位。Netdata 的指南对此的定性很直接:如果慢后端在持有连接,无论你把 worker_connections 调多高,槽位都会再次被填满[reference:11]。
Open WebUI 的一个 issue 记录了这个模式的典型表现:用户把 max_num_workers 从默认值一路调到 4096,结果只是“让错误出现需要更长的时间”,worker_connections are not enough while connecting to upstream 和 500/503 依然出现。调大预算没有改变槽位被慢上游持有的事实,只是把耗尽时刻向后推迟。同一份 Netdata 指南给出的诊断路径是:当 $upstream_response_time 在爬升、stub_status 中 Writing 状态占主导时,问题的根源在上游,不在 Nginx 的连接上限[reference:13]。
还有一条时间维度上的边界与连接关闭有关。lingering_close(默认开启)会在关闭连接之前继续读取客户端可能仍在发送的数据,持续 lingering_timeout(默认 5 秒)或直到 lingering_time(默认 30 秒)上限。在 HTTP/2 场景下,发送 GOAWAY 帧之后也使用 lingering close 机制,关闭一个可复用连接需要额外的时间,这段时间内槽位不会被释放。Nginx 代码中对此有一个专门的修补:在 ngx_drain_connections() 失败时额外尝试一次复用,以“至少提供一个空闲连接”,正是因为 lingering close 让槽位的释放延迟到了连接生命周期之外。这意味着槽位的实际可用时间 = 请求处理时间 + 上游延迟 + 关闭协议时间,而不是请求返回的那一刻。
边界不在 worker_connections 的数值里
把反向代理的双槽位消耗、FD 的独立天花板、worker 间的分布不均和慢后端对槽位的持续占用放在一起,Nginx 连接预算的兑现条件呈现出一种与“调大数字”直觉不同的结构:worker_connections 定义的是每个 worker 的槽位池大小,但池子能否被有效使用,取决于 FD 上限是否与之对齐、连接是否在 worker 之间均匀分布、以及槽位被单个请求持有的时长是否在可接受的范围内。池子大小的调整只是移动了边界,四者中任何一个不匹配,失效都会以“预算看起来还有很多,但新连接已经被拒绝”的形式出现。
判断一个 Nginx 的连接配置是否“够用”,比看 worker_connections 的设置值更有用的,是先确认三件事:worker_rlimit_nofile 是否至少是 worker_connections 的两倍并留有日志和临时文件的余量,而不是继承了容器的默认 FD 限制;单个 worker 的 FD 使用量是否被独立监控,而不是只看全局 active 与聚合上限的比值;以及 $upstream_response_time 和 stub_status 的 Writing/Waiting 分布是否在告诉你槽位被谁以什么速度消耗,而不是等到 accepts 与 handled 的差距扩大时才回头怀疑连接上限。承诺的兑现条件,写在这三个前置量里,而不是写在 worker_connections 那个数字本身。
- 点赞
- 收藏
- 关注作者
评论(0)