云函数冷启动实测:把 P95 从 1.8s 压到 320ms
云函数冷启动实测:把 P95 从 1.8s 压到 320ms
月初把一个图片处理接口从 ECS 搬到 FunctionGraph,功能一切正常,但监控上 P95 一直挂在 1.8 秒左右。用户反馈"点了要等一下"。花了两天把冷启动拆开看,最后压到 320ms。这里是实测数据和具体做法。
一、先把冷启动拆成四段
不拆开就只能瞎调内存。我在函数入口和依赖初始化处各打了一个时间戳,把一次冷启动拆成:
| 阶段 | 耗时(优化前) |
|---|---|
| 平台调度(收到请求 → 拉起容器) | 620ms |
| 运行时初始化(Python 解释器 + import) | 480ms |
| 业务初始化(加载配置、连数据库、建 SDK 客户端) | 610ms |
| 首次调用执行 | 90ms |
加起来 1.8s,和监控对得上。结论很清楚:**能动的只有第三段**,第一段是平台行为,第二段取决于代码体积。
二、第三段:把"连"的活儿挪到初始化里,但别真的连
第一版我在函数外部写了:
import pymysql
conn = pymysql.connect(host=os.environ['DB_HOST'], ...)
好处是复用连接,坏处是每次冷启动都要做一次 TCP + 认证往返,实测 610ms 里有 520ms 是这一下。
改法:初始化阶段只**构造配置和连接池对象**,不在模块级发起连接;真正的连接放到第一次请求里,并且带上超时和重试:
_pool = None
def get_pool():
global _pool
if _pool is None:
_pool = PooledDB(pymysql, mincached=1, maxcached=8,
connect_timeout=2, ping=1, **DB_CONF)
return _pool
这样冷启动少了 520ms,代价是每个冷实例的第一次请求多 60ms 左右,但整体分布变好了:大部分请求命中热实例,只有真冷启动才付这 60ms。
**同类操作**:OSS/SDK 客户端对象(`ObsClient`)可以在模块级构造,它是纯本地对象,不建连接,构造只要几毫秒;但**不要**在模块级做 `listBuckets()`、`getObject()` 这类调用,那等于把网络往返搬到冷启动上。
三、第二段:依赖瘦身,别小看 import
优化前 `import` 段 480ms,用 `python3 -X importtime` 一看,前五名:
cumulative self module
1.02s 0.01s pandas
0.48s 0.01s numpy
0.21s 0.00s matplotlib
0.09s 0.00s pymysql
0.05s 0.00s requests
而这个函数只是把图片裁个尺寸、转个格式。真正需要的是 `Pillow`,`pandas` / `matplotlib` 是早期调试留下的。删掉之后 import 段掉到 120ms。
顺带两条经验:
• 依赖层(layer)不是万能的。层里放的东西还是要被 import,只是省了上传体积;对 import 时间影响很小。
• 图片相关别引 `cv2` 全家桶。`opencv-python-headless` 光 import 就 200ms 起,能 `Pillow` 解决就别上。
四、第一段:调度能不能压
平台调度 620ms 属于我们不能直接控制的部分,但有两个可调项确实有效:
1. **把内存调大**。CPU 按内存配比给,128MB 时容器启动慢、Python 解释器起来也慢。实测把内存从 128MB 提到 512MB,调度段从 620ms 掉到 380ms,运行时初始化从 480ms 掉到 300ms。费用按 GB·秒计,但因为总时长变短,单次成本反而降了约 15%。
2. **预留实例**。如果接口有明显的高峰时段,可以按时间配置预热,把冷启动直接消掉。我们只在早 8 点到晚 10 点开了两个预留实例,白天基本看不到 1s 以上的请求了。
五、优化后的分布
| 指标 | 优化前 | 优化后 |
|---|---|---|
| P50 | 920ms | 85ms |
| P95 | 1.8s | 320ms |
| 冷启动占比 | 12% | 4% |
| 单次平均费用 | 基准 | -18% |
中间还试过一个思路:把逻辑塞进一个常驻的 Web 服务,用 API 网关转发。这确实能消掉冷启动,但失去了按量计费的意义,运维也变重了,对我们这种"一天几万次、集中在上班时间"的场景不划算。
六、几个容易踩的点
• **日志初始化也在冷启动路径上**。用 SDK 默认 logger 并开 DEBUG 会多几百毫秒;改成 INFO + 只在入口打一行结构化日志。
• **环境变量不要太多**。每个变量都要在容器启动时注入,我们一度塞了 40 多个,后来合并成一段 JSON,启动快了一点。
• **不要在 handler 里做 `os.environ` 的反复读取**,改成模块级常量。
• **冷启动日志要能区分**。我在 handler 里判断 `if not hasattr(sys, '_cold_start_logged')` 打一条 `cold_start=true`,否则永远不知道 P95 的尖峰是不是冷启动造成的。
• **超时时间别设太短**。第一次调用如果赶上初始化,3 秒超时会直接失败,看着像"偶发报错",实际是冷启动超时。
小结
冷启动优化不是"把内存调大"一句话,而是把这 1.8 秒拆成四段,找出占比最大的那段再动手。我们的收益全部来自两处:模块级不做网络 IO(-520ms)、砍掉无关依赖(-360ms)。剩下的都是平台侧参数微调。
- 点赞
- 收藏
- 关注作者
评论(0)