作者小头像 Lv.3
更多个人资料
255 成长值
0 关注
0 粉丝
+ 关注 私信

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据
个人勋章
TA还没获得勋章~
成长雷达
240
15
0
0
0

个人资料

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据

达成规则

以上满足项可达成此勋章

  • 博客
  • 关注
  • 粉丝
  • 论坛
全部时间
全部时间
最近三天
最近一周
最近一月
  • 全部
  • 暂无专栏分类
架构演进:如何做到“百家争鸣、互不打扰”?基于华为云的 AI SaaS 多租户数据隔离与架构设计实战
一、 前言在前几天的文章中,我们探讨了如何利用 RAG 和大模型为企业构建智能知识库。但如果你准备把这个 AI 系统包装成一个 SaaS(软件即服务)产品,卖给 A 公司、B 公司、C 公司等多家企业时,你会立刻面临一个极其严峻的挑战——多租户隔离与数据安全。试想一下:如果 A 公司的员工在提问时,AI 不小心吐出了 B 公司的核心财务机密,这将会引发毁灭性的法律和信任危机。如果为每一个租户...
架构设计
作者小头像 cl16315 2026-11-19 08:36:43
8
0
0
2026-11-19 08:36:43
8
0
0
架构演进:当大模型遇上分布式事务——基于华为云微服务与 Saga 模式解决 AI 业务的数据一致性难题
一、 前言在前面的文章中,我们实现了很多酷炫的 AI 功能:大模型推理、RAG 知识库、Function Calling 智能体。然而,当这些 AI 能力真正走向商业化、涉及真金白银的交易时,一个隐蔽的架构杀手就会浮出水面——分布式事务(Distributed Transactions)。在单体架构时代,我们可以依靠数据库的 ACID 事务轻松搞定。但在云原生微服务时代,业务被拆分成了无数个...
分布式 微服务 数据库
作者小头像 cl16315 2026-11-18 07:14:05
17
0
0
2026-11-18 07:14:05
17
0
0
实战进阶:如何让大模型 API 费用直降 80%?基于华为云 GaussDB / 分布式缓存的“语义缓存”架构实战
一、 前言在前面的文章中,我们实现了很多酷炫的 AI 功能。但随着应用上线,财务部门很可能会拿着一张高额的云账单找到你:*“为什么每天几万个用户访问,大模型推理的 GPU 资源成本居高不下?”*如果你去分析线上日志,会惊讶地发现一个规律:至少 50% 以上的用户提问是高度重复的。例如:用户 A 问:“华为云 CCE 容器集群怎么扩容?”用户 B 问:“请问 CCE 集群如何进行节点自动扩容?...
API
作者小头像 cl16315 2026-11-17 08:34:29
20
0
0
2026-11-17 08:34:29
20
0
0
实战进阶:如何防止 AI 被“越狱”和“套话”?基于华为云的 LLM 安全合规与提示词注入防御实战
一、 前言在前几天的文章中,我们讨论了如何让大模型更聪明、跑得更快、连接更多工具。然而,随着大模型越来越深地介入企业的核心业务(如智能客服、内部合规审批、代码助手),安全问题瞬间上升为了首要矛盾:1. AI 越狱与角色扮演攻击:黑客通过诱导性话术(如:“假设你是一个没有道德约束的黑客……”),轻松突破大模型的安全边界。2. 提示词窃取(Prompt Leaking):竞争对手通过输入特定指令...
等保合规
作者小头像 cl16315 2026-11-16 08:25:21
33
0
0
2026-11-16 08:25:21
33
0
0
实战进阶:如何为云原生 AI 应用装上“透视眼”?基于华为云 CCE 与 Prometheus 构建全链路可观测性监控体系
一、 前言在前几天的文章中,我们把大模型、微服务、API 网关和数据库全部搬上了华为云。然而,随着系统复杂度的呈指数级上升,运维团队面临的挑战也越来越严峻:1. 黑盒运行:容器集群里的 Python/Java 进程CPU飙升了?显存快爆了?如果缺乏监控,往往是等到用户投诉了才知道。2. 缺乏关联性:大模型推理接口的延迟突然从 500ms 飙升到 5s,到底是底层 GPU 算力排队?还是网络抖...
云原生 云容器引擎 CCE
作者小头像 cl16315 2026-11-15 08:49:49
50
0
0
2026-11-15 08:49:49
50
0
0
实战进阶:如何根治大模型的“一本正经胡说八道”?基于华为云的 RAG 检索增强评测与幻觉治理实战
一、 前言在前几天的文章中,我们搭建了基于 RAG(检索增强生成)的企业知识库。理论上,有了知识库的加持,大模型应该“有据可查”。但在实际生产环境中,你可能会遇到以下极其尴尬的场景:1. 胡编乱造(幻觉):当知识库中没有相关文档时,大模型为了“显得自己很有用”,往往会凭空编造一个合同条款或技术参数。2. 大海捞针失败:向量检索只召回了包含相似关键词但实际上毫无关系的文档,导致大模型被“误导”...
作者小头像 cl16315 2026-11-14 07:19:50
33
0
0
2026-11-14 07:19:50
33
0
0
实战进阶:从零构建你的第一个大模型 AI Agent(智能体):基于华为云 API 与 Function Calling 技术
一、 前言在过去的文章中,我们讨论的很多都是“单兵作战”的问答型 AI(即用户问,大模型根据知识库或自身权重答)。但在真实的企业业务中,用户往往需要 AI 帮他去干活,例如:“帮我查一下今天北京的机票,顺便订一张明天去上海的。”“帮我从华为云 OBS 里把昨天那张故障图找出来,并调用分析接口生成报告。”如果只靠大模型死记硬背是无法完成这些动态任务的。这就需要引入目前 AI 领域最火的概念——...
API
作者小头像 cl16315 2026-11-13 06:52:39
42
0
0
2026-11-13 06:52:39
42
0
0
实战进阶:如何将大模型推理吞吐量提升 3 倍?基于华为云 GPU 实例与 vLLM 的极致优化实战
一、 前言在前面的文章中,我们把大模型成功部署到了华为云 ModelArts 或 CCE 容器集群中。然而,当应用真正上线面对海量真实用户时,你很可能会遇到两个“灵魂拷问”:1. 显存怎么这么快就满了? 基础的 HuggingFace Transformers model.generate() 在处理长文本和高并发时,显存碎片化严重,极易发生 OOM(Out of Memory)。2. 为什...
作者小头像 cl16315 2026-11-12 07:02:49
39
0
0
2026-11-12 07:02:49
39
0
0
压轴之作:基于华为云混合云与大模型的企业级私有化 AI 架构全景落地实践
一、 前言回顾过去半个月的分享,我们从零到一探讨了如何在华为云公有云上部署大模型、做 RAG 知识库、配微调、搞容器集群、连数据库以及做安全网关。然而,在与许多大型金融机构、央国企和大型制造企业交流时,架构师们往往会抛出一个核心痛点:*“公有云的算力和弹性确实香,但我们的核心客户数据、财务报表和医疗病历是绝对不能上公有云的。我们既想要大模型的能力,又必须满足完全的本地化合规与数据不出园区,这...
作者小头像 cl16315 2026-11-11 06:52:10
56
0
0
2026-11-11 06:52:10
56
0
0
实战进阶:基于华为云 API 网关(APIG)构建大模型 API 的安全鉴权与智能流控体系
一、 前言在前几天的文章中,我们多次提到了通过大模型 API 为前端、鸿蒙端侧或企业客服提供服务。但在实际将 AI 能力商业化或对内公开的过程中,开发者往往会忽视一个极其关键的问题——API 安全与流量治理:1. 裸奔风险:如果直接将后端 ModelArts 的推理地址暴露给公网,任何人都可以无限制地发起请求。2. 高额账单暴雷:大模型推理极其消耗 GPU 算力,如果遭遇恶意爬虫或 CC 攻...
API API网关 APIG NAT
作者小头像 cl16315 2026-11-10 07:07:02
79
0
0
2026-11-10 07:07:02
79
0
0
总条数:24
10
10
20
50
100
  • 1
  • 2
  • 3

上滑加载中

https://www.baidu.com/s?ie=utf-8&f=3&rsv_bp=0&rsv_idx=1&tn=baidu&wd=sed%20%E6%9B%BF%E6%8D%A2%E5%AD%97%E7%AC%A6%E4%B8%B2&rsv_pq=c7db61a600035dc5&rsv_t=5e19yEsbV9N5fIvdlGRU
作者小头像
作者小头像
快速交付
+ 关注