昇思MindSpore技术公开课·大模型专题（第二期） 昇思MindSpore技术公开课·大模型专题（第二期）
本周六（2024年1月6日）14:00-15:30昇思MindSpore技术公开课大模型专题课程迎来新年第一课——鹏城·脑海模型的训练过程。鹏城·脑海200B模型是具有2千亿参数的自回归式语言模型，在中国算力网枢纽节点‘鹏城云脑Ⅱ’3456卡上基于昇思MindSpore的多维分布式并行技术进行长期大规模训练，目前完成了1.8T token量的训练。
本周六（2024年1月6日）14:00-15:30昇思MindSpore技术公开课大模型专题课程迎来新年第一课——鹏城·脑海模型的训练过程。鹏城·脑海200B模型是具有2千亿参数的自回归式语言模型，在中国算力网枢纽节点‘鹏城云脑Ⅱ’3456卡上基于昇思MindSpore的多维分布式并行技术进行长期大规模训练，目前完成了1.8T token量的训练。