ModelArts Notebook 数据持久化配置实战:让训练数据不再随实例释放丢失
【摘要】 很多同学在用 ModelArts Notebook 做训练时遇到过同一个坑:实例停止后,/home/ma-user/work 之外的数据全部丢失,重新下载训练集要花几十分钟。本文记录三种持久化方案的配置要点与选型建议:1. work 目录挂载 EVS:默认 50GB,随实例保留,适合代码与小型数据集;2. 并行文件系统 obs:// 挂载:在 Notebook 终端用 obsutil 配置 ...
很多同学在用 ModelArts Notebook 做训练时遇到过同一个坑:实例停止后,/home/ma-user/work 之外的数据全部丢失,重新下载训练集要花几十分钟。
本文记录三种持久化方案的配置要点与选型建议:
1. work 目录挂载 EVS:默认 50GB,随实例保留,适合代码与小型数据集;
2. 并行文件系统 obs:// 挂载:在 Notebook 终端用 obsutil 配置 AK/SK 后挂桶,适合大规模训练数据,配合生命周期规则自动降冷;
3. SFS Turbo 极速型:多实例共享同一份热数据,适合分布式训练场景,注意挂载点权限要配 777 或属主对齐。
踩坑提示:EVS 扩容只能增不能减;obsutil 挂载在重启后会失效,建议写入 rc.local 或用户启动脚本;SFS Turbo 与 ECS/Notebook 必须同 VPC 才能挂载成功。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)