1. 用途和受众
1.1 预期用途
- 指导华为云上基于DIFY构建企业级AI知识库（RAG）的设计和实施。
- 为售前、解决方案设计、实施和审查提供可重用的架构模式。
- 作为解决方案手册、交付包或实际部署的架构基础。
- 定义安全性、可靠性、性能、成本、运营和合规性护栏。
1.2 目标受众
| 观众 |
典型角色 |
预期用途 |
| 内部 |
架构师、交付工程师、AI开发工程师、运营工程师 |
解决方案设计、审查、交付和实施 |
| 外部 |
客户、合作伙伴、ISV |
评估、实施、集成和操作 |
2. 参考架构概述
2.1 架构描述
一种基于华为云与DIFY构建的企业级知识库参考架构，该架构支持企业级的安全、可靠、弹性、高性价比大模型推理，同时通过AI使能专业服务满足客户定制化需求。架构覆盖从文档解析、向量嵌入、语义检索到大模型归纳总结的完整RAG链路，并通过WAF/CFW安全防护、CCE高可用部署、AOM/LTS运维监控保障生产级可靠性。
2.2 业务背景
| 项目 |
描述 |
| 业务问题 |
叮咚买菜作为生鲜电商，拥有大量商品文档、运营规范和业务知识，需构建企业级AI知识库实现智能问答和知识检索，提升内部运营效率 |
| 期望的结果 |
基于DIFY+华为云构建安全、可靠、弹性的RAG知识库，支持多语种文档解析和高精度语义检索，通过AI使能服务快速落地 |
| 主要用户 |
内部运营人员、客服团队、业务分析师 |
| 关键制约因素 |
数据安全合规要求高，需专属部署资源隔离；文档格式多样含小语种；需支持突发流量峰值 |
| 成功指标 |
知识库检索准确率、问答响应延迟、系统可用性（SLA 99.9%+）、文档解析覆盖率 |
2.3 架构优点
| 优点 |
描述 |
| 数据安全合规 |
基于华为云Landing Zone部署架构，Dify专属部署资源确保数据安全隔离 |
| 弹性可靠架构 |
Dify基于高可用弹性CCE部署，确保业务高可用和资源灵活弹性 |
| 高性价比推理 |
提供高性价比主流SOTA大模型服务，按需弹性伸缩 |
| 使能定制服务 |
基于用户需求场景，提供端到端的企业知识库AI专业使能服务，确保快速落地、持续优化 |
2.4 设计关注点
| 关注维度 |
描述 |
| 性能 |
文档切分策略优化、Embedding模型选择（BGE-M3）、Prompt工程优化 |
| 安全 |
使用WAF/CFW进行南北向流量防护，HSS主机安全防护，Dify专属资源隔离 |
| 可扩展性 |
配置CCE集群架构和弹性策略，应对突发流量峰值 |
| 运维 |
通过AOM监控CCE集群状态，LTS转存集群日志，全链路可观测 |
| 可靠性 |
多AZ部署，Managed云服务CCE/CSS保障高可用 |
| 文档解析 |
关注小语种OCR能力，如泰语mineru、typhoon-ocr |
2.5 典型架构
典型架构图
2.6 流程描述
| 阶段 |
步骤 |
说明 |
| 1. 文档解析 |
OCR文档分析 |
OCR进行文档分析识别和文本切分，处理非统一文档长度，提高检索精度 |
| 2. 数据入库 |
DIFY+OBS存储 |
DIFY挂在OBS作为后端存储，将切分好的数据上传Dify知识库中 |
| 3. 向量嵌入 |
Embedding转换 |
使用DIFY的Embedding模型（BGE-M3/Qwen3-Embedding）对切分好的文本进行向量转换，存储到CSS向量库 |
| 4. 用户接入 |
前端应用接入 |
用户通过前端应用接入知识库，经过接入层连接DIFY平台 |
| 5. 语义检索 |
向量匹配+Rerank |
调用Dify的Embedding服务对查询语句进行转换，从向量数据库中匹配语义最接近的文档，使用Rerank（BGE-Reranker-v2-M3/Qwen3-Reranker）进行相关度排序 |
| 6. 归纳输出 |
LLM总结+结构化呈现 |
通过Prompt增加输出结果约束（如回答语种），将搜索结果+原始查询语句通过大模型归纳总结后，按结构化方式呈现给用户 |
2.7 云服务产品清单
| 分类 |
服务或产品 |
推荐配置 |
| 接入层 |
EIP/NAT/ELB/CFW/WAF/AAD（可选） |
ELB负载均衡，WAF+CFW安全防护，EIP公网出口 |
| 流量治理 |
APIG/ELB |
APIG API网关流量治理与限流 |
| AI Infra |
ModelArts/CCE |
CCE集群部署DIFY（高可用弹性），ModelArts提供模型推理 |
| 运维管理 |
AOM/LTS |
AOM监控集群状态，LTS日志转存与分析 |
| 数据 |
OBS/CSS/OCR |
OBS对象存储后端，CSS向量库存储Embedding，OCR文档解析 |
| AI Agent |
DIFY |
DIFY平台编排RAG链路，支持知识库管理和模型调用 |
3. 参考链接
- 产品文档：https://support.huaweicloud.com/
- 实施指南：
<URL>
- 源代码或 IaC：
<URL>
- 操作手册：
<URL>
- 安全性和合规性映射：
<URL>
4. 使用限制
- DIFY需部署在CCE集群上，需确保集群资源充足（建议至少3节点高可用）
- CSS向量库需选择适当的规格，向量维度和存储容量需根据文档规模预估
- OCR服务对小语种（如泰语）的识别精度依赖特定模型（mineru/typhoon-ocr），需单独配置
- Embedding模型（BGE-M3/Qwen3-Embedding）和Rerank模型需在ModelArts中提前部署
- WAF/CFW需配置正确的防护规则，避免误拦截正常业务流量
- 建议在非生产环境完成知识库验证后再切换至生产环境
附录 A. 术语和缩略语
| 术语 |
定义 |
| DIFY |
开源AI应用开发平台，支持RAG、Agent编排和大模型调用 |
| RAG |
Retrieval-Augmented Generation，检索增强生成 |
| CCE |
Cloud Container Engine，华为云容器引擎 |
| CSS |
Cloud Search Service，华为云搜索服务（向量库） |
| OBS |
Object Storage Service，华为云对象存储 |
| OCR |
Optical Character Recognition，光学字符识别 |
| WAF |
Web Application Firewall，Web应用防火墙 |
| CFW |
Cloud Firewall，云防火墙 |
| APIG |
API Gateway，API网关 |
| AOM |
Application Operations Management，应用运维管理 |
| LTS |
Log Tank Service，日志服务 |
| BGE-M3 |
多语言Embedding模型，支持多语种向量嵌入 |
| Rerank |
重排序模型，对检索结果进行相关度排序 |
| HSS |
Host Security Service，主机安全服务 |
【声明】本内容来自华为云开发者社区博主，不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源（华为云社区）、文章链接、文章作者等基本信息，否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容，举报邮箱：
cloudbbs@huaweicloud.com
典型架构图
评论（0）