作者小头像 Lv.3
更多个人资料
234 成长值
0 关注
0 粉丝
+ 关注 私信

个人介绍

这个人很懒，什么都没有留下

感兴趣或擅长的领域

暂无数据
个人勋章
  • 活跃之星
成长雷达
210
24
0
0
0

个人资料

个人介绍

这个人很懒，什么都没有留下

感兴趣或擅长的领域

暂无数据

达成规则

以上满足项可达成此勋章

  • 博客
  • 关注
  • 粉丝
  • 论坛
全部时间
全部时间
最近三天
最近一周
最近一月
  • 全部
  • 暂无专栏分类
大模型结构化输出翻车的三种姿势：JSON 约束、字段漂移与兜底解析
大模型结构化输出翻车的三种姿势：JSON 约束、字段漂移与兜底解析在做 Agent 与业务系统集成时，我们几乎都会走到同一步：让大模型按约定的 JSON 结构输出结果，交给下游程序消费。听起来很美，做起来全是坑。过去几个月我们在线上把结构化输出这条链路反复加固了三版，踩过的坑可以归为三类：约束失效、字段漂移、解析崩溃。这篇文章把三类问题的根因和对应的工程手段梳理清楚，给同样在接这条链路的同学...
JSON
作者小头像 yd_276090841 2026-11-12 12:22:18
3
0
0
2026-11-12 12:22:18
3
0
0
滚动更新卡在 Terminating：Pod 优雅退出链路的实战梳理
在 Kubernetes 集群里做滚动更新，大多数团队都关注"新 Pod 起没起来"，却常常忽略另一个方向：旧 Pod 退得干不干净。一次看似普通的发布，可能因为退出链路没理顺，演变成旧实例卡在 Terminating 半小时、连接池里的请求持续 502、发布进度条永远停在最后一步。这篇文章把 Pod 优雅退出的完整链路拆开梳理一遍，给出每个环节的排查点和配置建议。一、Terminating...
作者小头像 yd_276090841 2026-11-11 22:42:41
1
0
0
2026-11-11 22:42:41
1
0
0
Agent 的工具调用失败不是异常而是常态：一套重试与降级的工程清单
为什么失败是常态很多团队把 Agent 的工具调用失败当成异常路径来处理：写一个 try/catch，失败就抛错给用户。但在真实生产环境里，工具调用失败恰恰是主干路径：外部 API 会超时、限流、返回 5xx；数据库会有锁冲突；第三方接口会有幂等性陷阱；连本地文件系统都可能因为权限和并发写入而出错。把失败当异常，系统就会在第一次抖动时把整条任务链路判死刑。我们在一次多 Agent 数据聚合任...
作者小头像 yd_276090841 2026-11-09 12:06:43
8
0
0
2026-11-09 12:06:43
8
0
0
就绪探针配错比不配更危险：一次新版本发布流量全打的排查复盘
发布新版本后五分钟内，监控告警群炸了：所有请求的 P99 延迟从 80ms 飙到 3 秒，错误率 40%。回滚之后一切恢复正常。第一反应是代码问题，但对比发布前后的指标，CPU、内存、连接数全都正常。最后定位到的原因很反直觉：新版本的 Pod 明明没准备好接流量，却因为就绪探针配置不当，被 Service 当成了健康实例。这篇复盘讲清楚就绪探针的常见配置错误，以及为什么"配错了"比"没配"更...
作者小头像 yd_276090841 2026-11-07 09:20:16
20
0
0
2026-11-07 09:20:16
20
0
0
Agent 记忆系统落地：先分清三类记忆，再谈向量库
给 Agent 加记忆，很多团队的第一反应是"上向量库"。但实际落地后常见的问题是：检索回来的内容要么全是历史对话的复读，要么根本对不上当前任务。问题不在向量库，而在没分清 Agent 到底需要哪类记忆。第一类：工作记忆。即当前任务的上下文窗口内容。它最容易被滥用——把所有历史都塞进上下文，Token 成本线性上涨，且关键信息被稀释。工程上的做法是显式管理：任务开始时注入任务描述与约束，过程...
作者小头像 yd_276090841 2026-11-06 09:23:07
29
0
0
2026-11-06 09:23:07
29
0
0
别只盯着榜单：大模型上线前的评测体系，到底要评什么
模型榜单分数越来越高，但真正把大模型放进生产环境的团队都知道：榜单成绩和线上表现之间，隔着一整个工程化鸿沟。一个在通用基准上名列前茅的模型，可能在你的业务场景里把 JSON 输出得支离破碎，或者对长上下文的指令遵从一塌糊涂。本文结合近期多个项目的落地经验，梳理一套大模型上线前值得认真搭建的评测体系，重点回答"到底要评什么"。一、先评任务适配度，而不是通用能力通用榜单衡量的是模型的"平均智商"...
作者小头像 yd_276090841 2026-11-05 09:00:31
29
0
0
2026-11-05 09:00:31
29
0
0
工具调用失败不是异常，而是常态：LLM Agent 函数调用的容错设计
很多团队的第一版 Agent 都是这样写出来的：模型输出一个函数调用，后端解析参数、执行工具、把结果塞回对话，然后再让模型接着说。Demo 阶段一切顺利，一旦接上真实业务，成功率会断崖式下跌——工具报 500、参数缺字段、模型幻觉出不存在的接口、用户中途改口。这时候工程师的本能反应是换更强的模型，但实际经验是：容错设计带来的稳定性提升，往往比换模型大得多。一、先把"失败"分类，再谈处理工具调...
作者小头像 yd_276090841 2026-11-04 09:21:37
36
0
0
2026-11-04 09:21:37
36
0
0
大模型推理成本优化的工程化实践：量化、缓存与批处理的取舍
大模型推理成本优化的工程化实践：量化、缓存与批处理的取舍一、为什么推理成本是工程问题，而不是模型问题很多团队在做大模型应用时，把成本优化寄希望于换一个更便宜的模型。但真实生产环境里，推理成本的三分之一以上往往浪费在工程细节上：重复计算相同前缀、批处理策略不当导致 GPU 利用率长期低于 30%、上下文里塞满了从未被注意力"看到"的冗余文本。换模型只能压缩单价，工程手段才能压缩总量。本文从三个...
作者小头像 yd_276090841 2026-11-03 09:11:51
46
0
0
2026-11-03 09:11:51
46
0
0
HPA 扩容了 8 个 Pod 仍然扛不住：一次 Kubernetes 弹性伸缩的链路复盘
上周有个服务在晚高峰被打穿，监控上看到的现象很典型：QPS 从 1200 涨到 2600，HPA 在 90 秒内把副本数从 4 拉到 12，但 P99 延迟不降反升，从 180ms 一路爬到 2.3s，最后触发熔断。事后复盘发现，扩容本身没有错，错在我们把"副本数"当成了"处理能力"，而这条链路上有四个环节都不随副本数线性增长。 一、先把现象拆成四段一次请求的耗时可以粗略拆成：排队、调度到 ...
Kubernetes 弹性伸缩 AS
作者小头像 yd_276090841 2026-11-02 19:46:14
44
0
0
2026-11-02 19:46:14
44
0
0
多 Agent 协作的工程真相：不是把 Prompt 串起来，而是设计任务边界
一、先说失败长什么样第一次做多 Agent 系统，绝大多数人会写出这样的结构：一个「规划 Agent」输出 JSON 任务列表，一个「执行 Agent」逐条执行，一个「审核 Agent」检查结果。Demo 阶段它跑得非常好，因为任务简单、数据干净、没有并发。上线两周后，故障开始集中出现：规划 Agent 输出了一条执行 Agent 无法解析的字段，执行 Agent 静默跳过；审核 Agen...
作者小头像 yd_276090841 2026-11-01 09:25:00
41
0
0
2026-11-01 09:25:00
41
0
0
总条数：13
10
10
20
50
100
  • 1
  • 2

上滑加载中

https://www.baidu.com/s?ie=utf-8&f=3&rsv_bp=0&rsv_idx=1&tn=baidu&wd=sed%20%E6%9B%BF%E6%8D%A2%E5%AD%97%E7%AC%A6%E4%B8%B2&rsv_pq=c7db61a600035dc5&rsv_t=5e19yEsbV9N5fIvdlGRU
作者小头像
作者小头像
快速交付
+ 关注