毕设记录:用 Python + Chroma + BGE 搭一个电商 RAG 问答小程序
【摘要】 记录大四毕设用 Python + Chroma + BGE 搭建男装电商 RAG 问答小程序的技术选型、踩坑记录和部署计划。
``## 前言
作为一名计算机相关专业的大四学生,毕设选题做了一个男装电商小程序的智能客服问答系统。核心诉求很明确:把商品库、尺码表、退换货政策这些资料变成向量库,让用户用自然语言提问,小程序直接给出答案。
技术选型
后端用 Python,最初考虑 Flask,后来对比了 FastAPI:
- FastAPI:自带异步支持和自动文档(/docs),后续接小程序接口更顺手
- Chroma:本地嵌入式向量库,不需要单独部署服务,适合毕设这种单机演示场景
- BGE 模型:中文 embedding 效果不错,但本地 CPU 跑起来很慢,后面打算改成调用云端 embedding API
整体链路很标准:用户问题 -> embedding -> Chroma 检索 Top-K -> 拼 prompt -> 调用大模型 API -> 返回答案。
踩过的坑
- 内存:BGE 模型 + 向量库 + Web 框架同时跑,1G 内存的机器基本吃紧,模型只能走 API
- 切分策略:商品描述和政策文档混在一起切分,检索准确率很低,后来按文档类型分开建 collection 才好转
- 流量与成本:大模型 API 按 Token 计费,毕设答辩演示阶段要控制调用量,缓存常见问答
下一步
打算把后端部署到华为云的 Flexus 云服务器上(最近领了开发者大赛的云资源券),小程序前端连公网 IP 调试。这个记录边做边更。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)