API 平均响应时间正常，为什么用户还觉得慢？用 Python 分析 P95 慢请求

一、前言

在后端开发和接口性能优化中，我们经常使用平均响应时间衡量 API 的运行速度。

但有时监控系统显示平均响应时间只有 200ms，用户却依然反馈系统卡顿。

为什么平均耗时看起来正常，实际体验却不理想？

原因是平均值可能掩盖少量耗时特别长的请求。

本文通过 Python 实现一个轻量级接口耗时分析工具，介绍 P95 指标的含义，并通过实际代码比较平均耗时与尾部延迟的区别。

二、什么是 P95 响应时间？

P95（第95百分位数）是性能监控中常用的指标。

例如，某个 API 的 P95 为 500ms，意味着在统计窗口内，按照百分位定义，大约95%的请求耗时不超过500ms。

与平均值不同，P95 更关注较慢请求的表现。

常见性能指标如下：

指标

含义

Average

全部请求的平均耗时

P50

第50百分位数，也就是中位数

P95

第95百分位数

P99

第99百分位数

Max

最大请求耗时

其中，P95 和 P99 常被用来观察接口的尾部延迟问题。

三、Python 实战：实现接口性能统计

我们模拟两个 API：

/api/search：大部分请求较快，但偶尔出现明显延迟。

/api/report：单次响应稍慢，但运行时间比较稳定。

使用 Python 内置的 math 和 statistics 模块即可完成统计，无需安装第三方依赖。

完整代码

import math
from statistics import mean

# 模拟接口响应耗时，单位 ms
samples = {
    "/api/search":
        list(range(80, 170, 5)) + [600, 800],

    "/api/report":
        list(range(220, 240)),
}

# 计算百分位数（Nearest Rank 方法）
def percentile(values, ratio):
    ordered = sorted(values)
    index = math.ceil(len(ordered) * ratio) - 1
    return ordered[index]

# 统计接口性能
for endpoint, durations in samples.items():
    print(f"{endpoint}")

    print(f"  请求数: {len(durations)}")

    print(
        f"  平均耗时: "
        f"{mean(durations):.1f} ms"
    )

    print(
        f"  P95: "
        f"{percentile(durations, 0.95)} ms"
    )

    print(
        f"  最大耗时: {max(durations)} ms"
    )

    slow = sum(t >= 500 for t in durations)
    print(f"  慢请求(>=500ms): {slow}")

四、运行结果分析

将代码保存为 api_performance.py，执行：

python api_performance.py

实际运行结果：

/api/search
  请求数: 20
  平均耗时: 180.2 ms
  P95: 600 ms
  最大耗时: 800 ms
  慢请求(>=500ms): 2

/api/report
  请求数: 20
  平均耗时: 229.5 ms
  P95: 238 ms
  最大耗时: 239 ms
  慢请求(>=500ms): 0

可以看到一个有趣的现象：

/api/search 的平均耗时只有180.2ms，比 /api/report 更快。

但它的 P95 达到了600ms，而 /api/report 的 P95 只有238ms。

这意味着搜索接口虽然平均速度更快，但存在比较明显的慢请求问题。

因此，平均响应时间较低，并不意味着所有用户都能获得稳定的响应体验。

需要注意，本例只有20个模拟请求，使用的是 Nearest Rank 百分位算法，主要用于说明指标差异。实际生产监控需要更大的样本量和合理的统计时间窗口，不同监控工具采用的百分位算法也可能不同。

五、实际开发中如何优化慢请求？

当 P95 或 P99 指标较高时，可以重点排查以下几个方面：

1. 数据库查询性能

检查是否存在慢 SQL、缺少索引或不必要的数据扫描。

2. 外部服务调用

第三方 API 的网络延迟、超时和重试可能拖慢整个接口。

3. 缓存策略

对于重复访问且适合缓存的数据，可以通过 Redis 等缓存组件降低处理耗时。

4. 日志与链路追踪

记录请求 ID、接口名称和各阶段耗时，结合链路追踪定位真正的性能瓶颈。

在实际项目中，还可以使用 Prometheus、Grafana 等工具持续监控响应时间、错误率和请求量。

六、总结

接口性能分析不能只依赖平均响应时间。

本文通过 Python 实现了一个简单的接口耗时统计工具，对比了平均值、P95 和最大响应时间。

通过模拟实验可以发现，少量慢请求可能对用户体验造成明显影响，却不容易从平均值中体现出来。

性能优化不仅是让接口平均运行得更快，更重要的是让接口在不同请求情况下保持稳定。