【DTSE Tech Talk 精选问答】NO.77丨华为开发者空间&DeepSeek专题
华为云与DeepSeek将如何重塑产品与应用模式,助力企业数字化转型?如何在华为开发者空间高效部署DeepSeek,搭建专属服务器?本期直播围绕DeepSeek在云上的应用案例,与DTSE布道师们一起探讨如何利用 AI 驱动云上应用创新。
本文精选直播期间开发者的提问并由DTSE技术布道师一一解答。欢迎观看直播回顾:https://bbs.huaweicloud.com/live/DTT_live/202502261600.html
Q:云上部署DeepSeek如何确保数据安全的呢?
A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。
Q: 在华为云平台上部署DeepSeek时,有哪些关键的技术挑战需要克服?华为云提供了哪些解决方案来应对这些挑战?
A:目前华为云已经将deepseek纳入到自身的开源解决方案中,部署即可通过maas平台实现一键部署,也可以通过云上租用裸金属服务器自行部署,部署方法和测试方案已经包含在解决方案之中了,并且提供全面的技术支持与服务。
Q:在私有化部署中,如何利用DeepSeek的API接口与企业现有的IT系统(如ERP、CRM)无缝集成,以实现智能化业务流程?
A:利用DeepSeek提升企业IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。
Q: 华为平台私有化部署DeepSeek时,如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性,以满足GDPR、HIPAA等国际合规标准?
A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。有关华为云网络及数据安全相关的技术文件,可登录华为云向客服索取。
Q:对于DeepSeek各种模型,适合那些行业,能做一个简单的介绍吗?
A:DeepSeek V3适合于绝大多数不需要复杂推理的场景;R1则更适合复杂逻辑或需要一定推理能力才能解决的问题。从模型体量的角度出发,如果是小企业或者个人用户,R1的各种蒸馏版部署起来相对容易,如果追求极致的性能,那么满血版模型则是最佳选择。
Q:在搭建专属服务器时,如何根据企业的业务需求灵活配置资源,实现高效、稳定的AI应用部署?
A:华为云能为企业提供专家服务,帮企业梳理业务需求,选择合适的模型,再根据模型大小和模型访问并发来选配最合适的资源。
Q:在数字化转型过程中,企业如何利用华为云与DeepSeek提供的解决方案,实现业务流程的智能化重构和创新?
A:企业可以通过华为云与DeepSeek联合解决方案,在客户客情管控、公司知识体系构建、业务流程自动化、数据分析与决策支持、以及培训与教育等方面实现业务流程的智能化重构和创新
Q:如何通过华为云的技术支持和服务体系,降低企业在部署和使用DeepSeek时的技术门槛和运维成本?
A:华为云能提供非常完备的专家服务为企业解决部署和应用DeepSeek过程中的技术问题。
Q:DeepSeek技术如何集成到现有的企业IT架构中?它对现有系统的影响是什么?
A:利用DeepSeek提升企业IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。
Q:部署的DeepSeek可以进行特定的调整训练吗?
A:DeepSeek遵循一般大模型的架构与组织形式,因此可以进行微调、增训、压缩和量化,但需要额外的算力资源进行支撑
Q:对于希望使用DeepSeek进行AI驱动的应用开发的企业来说,他们应该从哪里开始?华为云提供了哪些资源和支持?
A:利用DeepSeek提升客户IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。
Q:如何确保数据安全和隐私保护,在使用DeepSeek的过程中?
A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。
Q:华为云提到企业级优化方案支持私有化部署。若企业已有本地数据中心,能否通过华为云MaaS平台实现混合云环境下的DeepSeek模型弹性调度?需要哪些基础设施条件?
A:可以,但详细解决解决方案需要在充分了解企业现有系统的基础上才能做出。
Q:AI Agent怎么打造呢
A:AI Agent需要利用大模型、设计工具、插件等,通过合理的逻辑设计构建一套复杂的系统
Q:软件更新后,需要重新配置模型吗?
A:一般来说,软件更新需要遵循利旧原则,因此除非出现版本的重大更新,一般需要重新配置模型
Q:安装ChatBox后如何确保模型连接稳定?
A:模型链接的稳定性由多方因素决定,需要具体问题具体分析
Q:云上部署deepseek具体如何确保了数据的安全性?
A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。
Q:香橙派AI pro 20T能否本地部署Deepseek,蒸馏的也可以,能否出个教程?
A:很好的建议,后续我们会考虑。
Q:华为的310B卡能本地部署Deepseek吗?需要MindSpore或者Ascend之类的支持吗
A:310B卡理论上可以用于部署蒸馏版R1,但是目前技术侧还有一些问题需要打通和解决,暂时不推荐使用310B部署R1模型
Q:在部署DeepSeek模型时,如何通过华为云的弹性算力资源实现动态调整,以应对业务高峰期的需求?
A:华为云的弹性负载策略同样适用于大模型的对外服务,详细解决方案请咨询华为云技术团队。
Q:部署好的DeepSeek会暴露Restful API吗?
A:DeepSeek是否会暴露RESTful API取决于部署方式和安全配置。公有云部署中API接口通常会暴露,但需要加强安全措施;私有化部署可以通过封装和网络隔离来避免API暴露。
Q:在 大模型(如千亿参数模型)领域,DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架,以降低训练成本并提升效率?
A:华为云会针对DeepSeek做相应的优化,以降低训练成本提升模型训推效率。
Q:(如文本、图像、语音的结合)如何与华为云的 AI 原生服务(如语音识别、图像识别)深度融合,打造更强大的多模态解决方案?
A:可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来,打造一体化的AI应用解决方案
Q:华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率,同时降低计算和存储成本?
A:模型压缩和量化技术会减少模型大小,从而减少模型的存储空间,加快计算速度,但同时模型压缩和量化会导致预测精度下降,具体场景需要平衡成本与精度。
Q:在 大模型(如千亿参数模型)领域,DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架,以降低训练成本并提升效率?
A:目前有这方面的计划,并且华为云内部在积极推进开发,预计很快能和公众见面。
Q:大模型加智能家居或智慧农业智能控制这块 有什么思路吗
A:可以将大模型作为整个智能管控系统的决策中枢,将小模型作为大模型的五官对信息进行转换,在此基础上构建的下一代智能家居/农业解决方案
Q:华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率,同时降低计算和存储成本?
A:模型压缩和量化技术会减少模型大小,从而减少模型的存储空间,加快计算速度,但同时模型压缩和量化会导致预测精度下降,具体场景需要平衡成本与精度。
Q:有哪些参考提示词可以让DeepSeek生成我需要的代码,提升办公效率?
A:使用大模型生成代码需要准确描述目标场景,将复杂场景进行拆分,再使用DS进行代码编写。
Q:如何通过华为云的教育行业解决方与 DeepSeek 集成,实现课堂实时语音交互翻译或智能答疑?
A:可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来,打造一体化的AI应用解决方案
Q:部署好DeepSeek后,怎么把它训练成垂直领域的专家?
A:需要利用垂直领域高质量的数据和知识,通过增训或微调的方式将通用模型开发成垂直领域专家模型
Q:对于现在AI的快速发展,同时现在应用的人越来越多,对于AI的提问方式,有更好的建议或者方法吗?
A:相对于前一代指令型大模型(类似Qwen2.5,GPT-4o等),R1、o1为代表的新一代推理大模型由于对语义的理解和延展更好,因此提示词相较之前可以更加灵活,但是核心依然需要表达出任务的关键内容,与核心,并通过多轮次对话逐渐迭代答案,这其中特别要注意大模型幻觉问题,目前R1的幻觉还是很严重的。
Q:有在生产上的案例吗
A:有,详情需要结合您所在的行业,由华为云的技术团队线下进行沟通
Q:部署好的DeepSeek后,怎么把它训练成心理咨询师?
A:将通用大模型开发成垂类大模型,需要高质量的专业文案知识作为训练样本对模型进行微调或者增训。
Q:对于小微企业来说使用DeepSeek能带来哪些帮助和利益产出,更多的使用还是基于各种应用场景带来的便利?
A:绝大多数小微企业由于资金和研发能力有限,很难直接构建AI应用场景,但是可以基于同行业或类似场景提供的成熟AI应用产品提升自己的业务效率,最大程度的高效利用AI技术发展的外溢红利
Q:DeepSeek 和华为云是否计划共同打造一个 AI 开发者生态,提供开源的模型、工具和数据集,以吸引更多开发者参与?
A:非常感谢您有建设性的建议。
Q:DeepSeek 的 AI 模型在华为云上运行时,如何利用华为云的 弹性伸缩 和 自动扩缩容 能力,优化资源使用并降低成本?
A:将deepseek部署到云端可以最大限度的利用云服务弹性强,抗高负载能力强的特点,灵活调配算力和实例资源,在繁忙时刻增加额外算力满足高并发需求,在低谷时刻收缩释放算力,降低服务运营成本
Q:在 DeepSeek 和华为云的合作中,面临的最大技术挑战是什么?例如模型兼容性、数据迁移、性能优化等。
A:DeepSeek在与华为云的合作中,最大的挑战就是如何更好的挖掘客户的应用需求,并进行针对性的开发,最大限度的发挥推力大模型的应用潜力
Q:在 国际化 方面,DeepSeek 和华为云如何合作,推动 AI 技术在全球市场的落地?是否计划在“一带一路”沿线国家或地区开展 AI 技术合作?
A:目前华为云已经将deepseek纳入到自身的开源解决方案中,作为一个完整的AI解决方案体系,推荐给所有希望引入中国算力的友好国家,包括但不限于一带一路沿线国家。
Q:我是华为合作伙伴,如果我想给我的某个行业客户部署DeepSeek蒸馏版为基础的,行业ai,我二次开发的难度和方向能介绍一下吗?
A:实现AI应用的开发,满足客户需求的关键是要发掘客户的核心需求,并以此为基础构建AI应用解决方案。
Q:DeepSeek 的 AI 模型如何与华为云的 昇腾 AI 处理器(Ascend) 深度结合,以实现更高效的模型训练和推理?是否存在针对特定硬件优化的定制化模型?
A:昇腾超节点支持DeepSeek全系模型预训练及微调,支持DualPipe、跨节点All2All等DeepSeek核心优化技术,超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时,昇腾平台通过伪EP混合并行算法,通信优化性能提升30%+,再稀疏路由稠密化算法,降低专家不均衡度,推理吞吐性能提升20%~35%。
Q:能否提供一份版本适配使用场景及要求的一指禅
A:近期会有相关内容发布,敬请密切关注华为云官网的通告
Q:请问对于,DeepSeek的模型部署后,我还想自己喂一些资料,加深对于某个行业的深度理解,对于这方面,有什么好的建议?
A:可以考虑搭建RAG来处理某个行业的知识。
Q:请问对于,DeepSeek的模型部署后,我还想自己喂一些资料,加深对于某个行业的深度理解,对于这方面,有什么好的建议?
A:语料质量需要尽可能的高,尽可能具备行业的知识特点
Q:DeepSeek如何保证模型性能的同时降低训练成本?
A:他们从模型结构、混合精度计算、通信速度、以及显存占用等方面做了优化,以降低训练成本。
Q:本地部署的deepseek和deepseek官网接入api使用有什么区别?
A:主要还是数据安全方面的区别。
Q:是否可以在本地笔记本部署deepseek?配置有没有要求?
A:本地笔记本部署GPU-满血版DeepSeek几乎不太可能,模型占用显存较大,本地笔记本显卡承载不了。但是某些高性能移动工作站支持部署蒸馏版的R1模型。
Q:普通用户怎么才能掌握和使用DeepSeek带来的便利性?
A:基于DeepSeek做一些应用,提升办公等效率。
Q:Deepseek如何助力个人“变现”,如何通过 华为云和Deepseek 快速实现收益
A:通过构建个人AI助手,DeepSeek可以大幅增加个人产出,大幅提升工作效率
Q:DeepSeek在政务场景如何通过华为云全栈可信计算实现模型安全?
A:在政务场景中,数据安全和模型安全是至关重要的。华为云全栈可信计算提供了一套全面的解决方案,确保数据和模型在采集、传输、存储、处理和使用的各个环节都安全可靠。具体安全细节可关注华为云官网或向客服索取
Q:在华为云上,用哪些提示词能让DeepSeek充分理解开发者的意思,并生成我们想要的代码呢?
A:以R1大模型为代表的新一代推理大模型,相较于上一代指令大模型,更加拟人化,更容易交流,亦可以自动将简单问题拆解成几步进行处理,大大提升了模型的使用体验。在这个背景下,提示词需要按照目的、方式、方法、效果、边界的原则进行构建
Q:对于个人和小公司来说自己部署还是在华为云上使用DeepSeek更经济实用?
A:本地部署满血DeepSeek的成本会很高,如果数据保密要求不高的情况下,建议使用华为云的方式部署。
Q:DeepSeek在图像与视频分析领域的高精度是如何实现的?
A:DeepSeek-v3/r1还不具备视觉或者多模态的能力。
Q:华为云有提供哪些服务支持DeepSeek 应用的智能化升级?如何将华为云的大数据分析能力与DeepSeek结合?
A:目前来讲,数字人系列服务已接入DeepSeek大模型能力
Q:华为开发者空间是否提供DeepSeek 应用的模板或示例?
A:华为云目前正在和广大的开发者与伙伴共同探索DeepSeek的应用场景,稍后会有一些优秀案例展示在开发者空间中的。
Q:华为云如何保障大语言模型在云上的安全运行?
A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。
Q:部署完成后,如何进行模型的测试和验证?
A:一般采用开源的标准测试问题集或自己构建的业务数据集进行测试,观测大模型的输出结果,并作出相应的性能评估。
Q:ollama 推理支持api key吗?还是知道IP和端口就用随便调用?
A:目前Ollama平台上的大模型通过统一的11434端口进行本地访问,如果需要穿透到外网使用,需要相应的穿透工具或者借助第三方插件实现。
Q:开发者如何在华为云上快速搭建基于DeepSeek的开发环境,有哪些推荐的工具和流程?
A:可以使用华为云Maas+Dify解决方案进行AI应用开发平台的快速部署与上线
Q: 部署DeepSeek应用时,如何选择合适的计算实例类型?
A:需要根据用户并发量,数据存储容量,以及业务增长等具体场景来选择。
Q:在华为云上使用DeepSeek时,如何进行资源成本优化?有哪些策略可以降低开发和运营成本?
A:不同的客户、不同的任务场景,其对于AI资源的使用优化策略都是不同的,需要具体问题具体分析,没有统一的策略
Q:对于中小团队算力有限的情况,华为云是否提供低成本精掉方案,比如LoRA+混合精度这样的,来让普通开发者用消费级显卡也能定制DeepSeek业务模型?
A:目前华为云正在进一步开发maas平台上的DeepSeek系列模型,预计在不久后就会开放精调、压缩、量化等模型服务
Q:在华为云昇腾AI芯片及ModelArts平台支持下,DeepSeek的大模型训练效率提升了多少?是否支持分布式训练优化?
A:昇腾超节点支持DeepSeek全系模型预训练及微调,支持DualPipe、跨节点All2All等DeepSeek核心优化技术,超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时,昇腾平台通过伪EP混合并行算法,通信优化性能提升30%+,再稀疏路由稠密化算法,降低专家不均衡度,推理吞吐性能提升20%~35%。
Q:在华为云Stack(混合云)架构下,DeepSeek如何实现私有化部署?实时数据处理性能如何?
A:目前华为云支持租用算力服务器到客户线下机房的私有化部署方案,数据处理能力则取决于硬件规模,从最低32卡部署满血版R1到百卡集群推理均可支持。
Q:华为平台私有化部署DeepSeek时,如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性,以满足GDPR、HIPAA等国际合规标准?
A:私有化部署模式下,大模型本体和传输链路、软硬件均部署在客户机房环境内,对外可通过华为网络专线对外服务,整个系统达到三级等保要求,可最大限度的满足安全方面的诉求
Q:华为云结合DeepSeek后,将会有哪些新的应用?
A:依靠DeepSeek在编程、数据分析上的高准确率优势,可以拓展软件开发、量化分析等新应用
Q:华为云结合DeepSeek后,有哪些应用场景?
A:依靠DeepSeek在编程、数据分析上的高准确率优势,可以拓展软件开发、量化分析等新场景,最大限度发挥DeepSeek模型的优势
Q:华为云结合DeepSeek后,AI训练用架构如何搭建?
A:目前华为云训推用框架围绕deepseek在MaaS平台上构建了一整套一键解决方案,客户只需选择模型和上传训练数据便可启动模型的训练任务
- 点赞
- 收藏
- 关注作者
评论(0)