【ModelArts】常见的训练环境中的NCCL环境变量
【摘要】 # 作用：出现异常可以启动设置成TRACE进行调试，但是会影响性能NCCL_DEBUG=INFO# 出现NCCL timeout 可以适当调大NCCL_IB_TIMEOUT=18NCCL_IB_RETRY_CNT=16# 请不要修改，ModelArts会提前预置好NCCL_IB_HCA=^mlx5_bond_0NCCL_SOCKET_IFNAME="=bond0,eth0,enp218s0,...
# 作用：出现异常可以启动设置成TRACE进行调试，但是会影响性能
NCCL_DEBUG=INFO
# 出现NCCL timeout 可以适当调大
NCCL_IB_TIMEOUT=18
NCCL_IB_RETRY_CNT=16
# 请不要修改，ModelArts会提前预置好
NCCL_IB_HCA=^mlx5_bond_0
NCCL_SOCKET_IFNAME="=bond0,eth0,enp218s0,enp219s0,enp220s0,enp221s0"
# 请不要修改，ModelArts会提前预置好
NCCL_IB_GID_INDEX=3
NCCL_IB_TC=128
参考：Environment Variables — NCCL 2.18.1 documentation (nvidia.com)
【版权声明】本文为华为云社区用户原创内容，转载时必须标注文章的来源（华为云社区）、文章链接、文章作者等基本信息， 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容，举报邮箱：
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论（0）