快速部署DeepSeek-R1:1.5B蒸馏版模型
【摘要】 本方案基于Flexus应用服务器L实例通过Ollama部署DeepSeek-R1:1.5B 蒸馏版轻量模型,帮助您快速打造私人AI助手。DeepSeek-R1是一个高性能的AI推理模型,专注于数学、代码和自然语言推理任务。
概述
DeepSeek(深度求索)作为一款国产AI大模型,专注于数学、代码和自然语言推理任务,凭借其高性能、低成本和多模态融合能力,在人工智能领域崛起,并在多个行业中展现出广泛的应用潜力。
本方案基于Flexus应用服务器L实例通过Ollama部署DeepSeek-R1:1.5B 蒸馏版轻量模型,帮助您快速打造私人AI助手。DeepSeek-R1是一个高性能的AI推理模型,专注于数学、代码和自然语言推理任务。
计费说明
DeepSeek应用所需的vCPU与内存规格、磁盘容量、公网带宽,组合商品活动价已包含。计费模式:包年包月。
使用指导
第一步:一键部署
- 选择服务器配置:CPU核数4核,内存8G。
- 选择部署区域(可以选择离自己最近的城市,如无特殊要求,保持默认即可)。
- 根据实际需要填写“实例名称”选择“可选配置”(可选配置会有额外费用),购买完成后自动开始服务部署(部署需要一定时间预计5-10分钟,受网络、带宽影响,部署时间会有波动)。在完成之前,请勿进行重启、重置密码等操作。
第二步:使用DeepSeek服务
- 远程登录:进入L实例控制台。选择Flexus云服务器L实例,单击远程登录。
2.选择使用VNC登录,在连接页面输入云服务器的账号、密码进入服务器内部(用户名默认root,密码:Cloud.1234)。
3.在命令行输入“ollama run deepseek-r1:5b”
第三步:安全组配置
一键部署时会为Ollama API应用放开11434端口,如果您对L实例的安全组做过修改,11434端口不通,请按下述步骤操作:
1. 进入安全组配置页面:登录L实例控制台,选择购买的服务器,单击“服务器名称”进入实例概览页面。选择“云主机VM”单击“云主机名称”进入服务器详情页。
2. 配置安全组:按下图所示依次单击“安全组”->“添加规则”,添加入方向规则,放通端口11434。
资源退订:
客户购买包年包月Flexus应用服务器L实例后,支持退订包周期实例。退订资源实例包括资源续费部分和当前正在使用的部分,退订后资源将无法使用,详情参考https://support.huaweicloud.com/productdesc-flexusl/pd_billing_0003.html
须知:请用户在遵守适用的法律法规下合法使用云服务,按照官方说明、指示和要求使用该场景,如用户涉及侵权,由用户自行承担责任。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
作者其他文章
评论(0)