云函数冷启动实测:把 P95 从 1.8s 压到 320ms

举报
yd_236978410 发表于 2026/11/14 00:40:00 2026/11/14
【摘要】 云函数冷启动实测:把 P95 从 1.8s 压到 320ms月初把一个图片处理接口从 ECS 搬到 FunctionGraph,功能一切正常,但监控上 P95 一直挂在 1.8 秒左右。用户反馈"点了要等一下"。花了两天把冷启动拆开看,最后压到 320ms。这里是实测数据和具体做法。一、先把冷启动拆成四段不拆开就只能瞎调内存。我在函数入口和依赖初始化处各打了一个时间戳,把一次冷启动拆成:| ...

云函数冷启动实测:把 P95 从 1.8s 压到 320ms

月初把一个图片处理接口从 ECS 搬到 FunctionGraph,功能一切正常,但监控上 P95 一直挂在 1.8 秒左右。用户反馈"点了要等一下"。花了两天把冷启动拆开看,最后压到 320ms。这里是实测数据和具体做法。

一、先把冷启动拆成四段

不拆开就只能瞎调内存。我在函数入口和依赖初始化处各打了一个时间戳,把一次冷启动拆成:

| 阶段 | 耗时(优化前) |

|---|---|

| 平台调度(收到请求 → 拉起容器) | 620ms |

| 运行时初始化(Python 解释器 + import) | 480ms |

| 业务初始化(加载配置、连数据库、建 SDK 客户端) | 610ms |

| 首次调用执行 | 90ms |

加起来 1.8s,和监控对得上。结论很清楚:**能动的只有第三段**,第一段是平台行为,第二段取决于代码体积。

二、第三段:把"连"的活儿挪到初始化里,但别真的连

第一版我在函数外部写了:


import pymysql
conn = pymysql.connect(host=os.environ['DB_HOST'], ...)

好处是复用连接,坏处是每次冷启动都要做一次 TCP + 认证往返,实测 610ms 里有 520ms 是这一下。

改法:初始化阶段只**构造配置和连接池对象**,不在模块级发起连接;真正的连接放到第一次请求里,并且带上超时和重试:


_pool = None

def get_pool():
    global _pool
    if _pool is None:
        _pool = PooledDB(pymysql, mincached=1, maxcached=8,
                         connect_timeout=2, ping=1, **DB_CONF)
    return _pool

这样冷启动少了 520ms,代价是每个冷实例的第一次请求多 60ms 左右,但整体分布变好了:大部分请求命中热实例,只有真冷启动才付这 60ms。

**同类操作**:OSS/SDK 客户端对象(`ObsClient`)可以在模块级构造,它是纯本地对象,不建连接,构造只要几毫秒;但**不要**在模块级做 `listBuckets()`、`getObject()` 这类调用,那等于把网络往返搬到冷启动上。

三、第二段:依赖瘦身,别小看 import

优化前 `import` 段 480ms,用 `python3 -X importtime` 一看,前五名:


cumulative  self  module
  1.02s    0.01s  pandas
  0.48s    0.01s  numpy
  0.21s    0.00s  matplotlib
  0.09s    0.00s  pymysql
  0.05s    0.00s  requests

而这个函数只是把图片裁个尺寸、转个格式。真正需要的是 `Pillow`,`pandas` / `matplotlib` 是早期调试留下的。删掉之后 import 段掉到 120ms。

顺带两条经验:

• 依赖层(layer)不是万能的。层里放的东西还是要被 import,只是省了上传体积;对 import 时间影响很小。

• 图片相关别引 `cv2` 全家桶。`opencv-python-headless` 光 import 就 200ms 起,能 `Pillow` 解决就别上。

四、第一段:调度能不能压

平台调度 620ms 属于我们不能直接控制的部分,但有两个可调项确实有效:

1. **把内存调大**。CPU 按内存配比给,128MB 时容器启动慢、Python 解释器起来也慢。实测把内存从 128MB 提到 512MB,调度段从 620ms 掉到 380ms,运行时初始化从 480ms 掉到 300ms。费用按 GB·秒计,但因为总时长变短,单次成本反而降了约 15%。

2. **预留实例**。如果接口有明显的高峰时段,可以按时间配置预热,把冷启动直接消掉。我们只在早 8 点到晚 10 点开了两个预留实例,白天基本看不到 1s 以上的请求了。

五、优化后的分布

| 指标 | 优化前 | 优化后 |

|---|---|---|

| P50 | 920ms | 85ms |

| P95 | 1.8s | 320ms |

| 冷启动占比 | 12% | 4% |

| 单次平均费用 | 基准 | -18% |

中间还试过一个思路:把逻辑塞进一个常驻的 Web 服务,用 API 网关转发。这确实能消掉冷启动,但失去了按量计费的意义,运维也变重了,对我们这种"一天几万次、集中在上班时间"的场景不划算。

六、几个容易踩的点

• **日志初始化也在冷启动路径上**。用 SDK 默认 logger 并开 DEBUG 会多几百毫秒;改成 INFO + 只在入口打一行结构化日志。

• **环境变量不要太多**。每个变量都要在容器启动时注入,我们一度塞了 40 多个,后来合并成一段 JSON,启动快了一点。

• **不要在 handler 里做 `os.environ` 的反复读取**,改成模块级常量。

• **冷启动日志要能区分**。我在 handler 里判断 `if not hasattr(sys, '_cold_start_logged')` 打一条 `cold_start=true`,否则永远不知道 P95 的尖峰是不是冷启动造成的。

• **超时时间别设太短**。第一次调用如果赶上初始化,3 秒超时会直接失败,看着像"偶发报错",实际是冷启动超时。

小结

冷启动优化不是"把内存调大"一句话,而是把这 1.8 秒拆成四段,找出占比最大的那段再动手。我们的收益全部来自两处:模块级不做网络 IO(-520ms)、砍掉无关依赖(-360ms)。剩下的都是平台侧参数微调。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。