快速部署DeepSeek-R1:1.5B蒸馏版模型

举报
AI在路上 发表于 2025/02/14 15:28:26 2025/02/14
243 0 0
【摘要】 本方案基于Flexus应用服务器L实例通过Ollama部署DeepSeek-R1:1.5B 蒸馏版轻量模型,帮助您快速打造私人AI助手。DeepSeek-R1是一个高性能的AI推理模型,专注于数学、代码和自然语言推理任务。

概述

DeepSeek(深度求索)作为一款国产AI大模型,专注于数学、代码和自然语言推理任务,凭借其高性能、低成本和多模态融合能力,在人工智能领域崛起,并在多个行业中展现出广泛的应用潜力。

本方案基于Flexus应用服务器L实例通过Ollama部署DeepSeek-R1:1.5B 蒸馏版轻量模型,帮助您快速打造私人AI助手。DeepSeek-R1是一个高性能的AI推理模型,专注于数学、代码和自然语言推理任务。

计费说明

DeepSeek应用所需的vCPU与内存规格、磁盘容量、公网带宽,组合商品活动价已包含。计费模式:包年包月。

使用指导

第一步:一键部署

  1. 选择服务器配置:CPU核数4核,内存8G
  2. 选择部署区域(可以选择离自己最近的城市,如无特殊要求,保持默认即可)。
  3. 根据实际需要填写“实例名称”选择“可选配置”(可选配置会有额外费用),购买完成后自动开始服务部署(部署需要一定时间预计5-10分钟,受网络、带宽影响,部署时间会有波动)。在完成之前,请勿进行重启、重置密码等操作。

第二步:使用DeepSeek服务

  1. 远程登录:进入L实例控制台。选择Flexus云服务器L实例,单击远程登录。

     

     2.选择使用VNC登录,在连接页面输入云服务器的账号、密码进入服务器内部(用户名默认root,密码:Cloud.1234)。


     3.在命令行输入ollama run deepseek-r1:5b”


第三步:安全组配置

一键部署时会为Ollama API应用放开11434端口,如果您对L实例的安全组做过修改,11434端口不通,请按下述步骤操作:

     1. 进入安全组配置页面:登录L实例控制台,选择购买的服务器,单击“服务器名称”进入实例概览页面。选择“云主机VM”单击“云主机名称”进入服务器详情页。

     2. 配置安全组:按下图所示依次单击“安全组”->“添加规则”,添加入方向规则,放通端口11434

资源退订:

客户购买包年包月Flexus应用服务器L实例后,支持退订包周期实例。退订资源实例包括资源续费部分和当前正在使用的部分,退订后资源将无法使用,详情参考https://support.huaweicloud.com/productdesc-flexusl/pd_billing_0003.html

须知:请用户在遵守适用的法律法规下合法使用云服务,按照官方说明、指示和要求使用该场景,如用户涉及侵权,由用户自行承担责任。

 

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

作者其他文章

评论(0

抱歉,系统识别当前为高风险访问,暂不支持该操作

    全部回复

    上滑加载中

    设置昵称

    在此一键设置昵称,即可参与社区互动!

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。